Ben R. Hansen, LL.M. auf LinkedIn: #aiact #aiofficer #aicompliance (2024)

𝗨𝗠𝗦𝗘𝗧𝗭𝗨𝗡𝗚 𝗞𝗜-𝗠𝗔𝗡𝗔𝗚𝗘𝗠𝗘𝗡𝗧 - 𝗪𝗜𝗥 𝗦𝗖𝗛𝗥𝗘𝗜𝗕𝗘𝗡 𝗘𝗜𝗡𝗘 𝗞𝗜-𝗥𝗜𝗖𝗛𝗧𝗟𝗜𝗡𝗜𝗘 (𝟭/𝟱)Die größte Herausforderung beim Schreiben einer KI-Richtlinie ist nicht das Auflisten der notwendigen Prozesse oder das Beschreiben der Pflichten, sondern der 𝗔𝗯𝗴𝗹𝗲𝗶𝗰𝗵 𝗺𝗶𝘁 𝗯𝗲𝗿𝗲𝗶𝘁𝘀 𝗯𝗲𝘀𝘁𝗲𝗵𝗲𝗻𝗱𝗲𝗻 𝗠𝗮𝗻𝗮𝗴𝗲𝗺𝗲𝗻𝘁-𝗦𝘆𝘀𝘁𝗲𝗺𝗲𝗻 𝗶𝗺 𝗲𝗶𝗴𝗲𝗻𝗲𝗻 𝗨𝗻𝘁𝗲𝗿𝗻𝗲𝗵𝗺𝗲𝗻. Die KI-VO selbst nimmt immer wieder Bezug auf bereits bestehende Regelungen oder Verfahren, auf die man aufsetzen kann (siehe ErwGr 64). Nicht nur Finanzinstitute können hier auf ihre bestehenden Prozesse zurückgreifen (siehe Art. 6 Abs. 5 S.6, Art. 26 Abs. 6 S.2 KI-VO). Es wird sogar auf die Möglichkeit eingegangen, dass bereits bestehende Risikomanagement-Verfahren ausdrücklich genutzt und kombiniert werden können (siehe Art. 9 Abs. 10 KI-VO).𝗨𝗻𝘇ä𝗵𝗹𝗶𝗴𝗲 𝗳𝗮𝗻𝘁𝗮𝘀𝗶𝗲𝘃𝗼𝗹𝗹𝗲 𝗜𝗦𝗢-𝗔𝗻𝗳𝗼𝗿𝗱𝗲𝗿𝘂𝗻𝗴𝗲𝗻Entfernen wir uns von der KI-Verordnung, kommen wir zu dem vermeintlich offensichtlichen, standardisierten Management-System, welches hier passen könnte: das KI-Management-System nach ISO 42001. Dieses besagt ausdrücklich, dass auf bereits bestehende Management-Systeme zurückgegriffen werden kann. Das bedeutet die Integration des KI-Management-Systems mit anderen Management-Systemen, und hier wird es wirklich schwierig. Wir haben die auf oberster Ebene bestehenden Organisationen und Strukturen, auf die man aufsetzen kann (siehe ISO 27001, ISO 27701, ISO 9001). Hier haben wir bereits Systeme in der High-Level-Struktur, die verwendet und integriert werden können. Wir haben in diesem Zusammenhang noch sechs weitere ISO-Normen gefunden, die Aussagen darüber treffen, wie eine KI-Richtlinie zu definieren ist. (Siehe hierzu ISO 38507 Nr. 6.1 Richtlinien zur Nutzung von KI)𝗠ö𝗴𝗹𝗶𝗰𝗵𝗲 𝗛𝗲𝗿𝗮𝗻𝗴𝗲𝗵𝗲𝗻𝘀𝘄𝗲𝗶𝘀𝗲In den nächsten fünf Posts versuche ich, unseren Weg zu dokumentieren. Ziel ist es, dass die Teilnehmer der AI-Officer-Schulung später ihre eigene KI-Richtlinie über unser System generieren können. Ein erster Entwurf wird nächste Woche für die Teilnehmer bereitstehen. 𝗦𝗰𝗵𝗿𝗶𝘁𝘁 𝟭: 𝗔𝗯𝗴𝗹𝗲𝗶𝗰𝗵 𝗱𝗲𝗿 𝗕𝗲𝘁𝗿𝗲𝗶𝗯𝗲𝗿𝗽𝗳𝗹𝗶𝗰𝗵𝘁𝗲𝗻 𝗺𝗶𝘁 𝗜𝗦𝗢-𝗩𝗼𝗿𝗴𝗮𝗯𝗲𝗻In der vorliegenden Übersicht zeige ich euch Schritt 1 des Arbeitsprozesses. Wir gleichen zunächst alle Pflichten des Betreibers mit den konkreten Anforderungen aus der ISO 42001 ab und schauen, welche der in der ISO 42001 verankerten Anforderungen mit dem Pflichtenkatalog aus der KI-Verordnung übereinstimmen. Im nächsten Schritt nehmen wir bereits bestehende Management-Systeme und überprüfen, inwieweit die Grundvoraussetzungen hiermit erfüllt werden können. Hier fehlt natürlich noch der Anbieter, der folgt dann morgen mit seinen Pflichten, sodass wir die Pflichten aus der KI-Verordnung 1.1 in das zukünftige zentrale Leitdokument integrieren können. Bleibt dran. #aiofficer #aiact #aitaskforce #aicompliance

26

4 Kommentare

AI OFFICER SCHULUNG IN BERLIN VOM 18./19. JUNI 2024Hier sind erste Eindrücke von der Veranstaltung in Berlin zur Ausbildung zum AI Officer. Am 4. und 5. Juli sind wir in Frankfurt. Zur Anmeldung geht es hier:👉 www.aiofficer.de#aiact #aiofficer #aicompliance

49

2 Kommentare

𝗔𝗯 𝘄𝗮𝗻𝗻 𝘀𝘁𝗲𝗹𝗹𝘁 𝗱𝗮𝘀 𝗙𝗶𝗻𝗲𝘁𝘂𝗻𝗶𝗻𝗴 𝘃𝗼𝗻 𝗠𝗼𝗱𝗲𝗹𝗹𝗲𝗻 𝗲𝗶𝗻𝗲 𝘄𝗲𝘀𝗲𝗻𝘁𝗹𝗶𝗰𝗵𝗲 𝗩𝗲𝗿ä𝗻𝗱𝗲𝗿𝘂𝗻𝗴 𝗶.𝗦.𝗱. 𝗔𝗿𝘁. 𝟲 𝗔𝗯𝘀. 𝟮𝟯, 𝗔𝗿𝘁. 𝟮𝟱 𝗔𝗯𝘀. 𝟭 𝗯.) 𝗞𝗜-𝗩𝗢 𝗱𝗮𝗿?Mit dieser Frage haben wir uns bei der Schulung heute wesentlich befasst. Hierzu haben wir selbst eine Übersicht gemalt und verstanden, dass die Darstellungen der technisch möglichen denkbaren Verfahren des Finetunings zwar einen sehr groben Überblick über die möglichen technischen Veränderungen des Modells bieten können, jedoch klar ist, dass 𝗯𝗲𝗿𝗲𝗶𝘁𝘀 𝗯𝗲𝗶 𝗱𝗲𝗿 Ä𝗻𝗱𝗲𝗿𝘂𝗻𝗴 𝗲𝗶𝗻𝗲𝗿 einzigen 𝗚𝗲𝘄𝗶𝗰𝗵𝘁𝘂𝗻𝗴 𝗱𝗲𝘀 𝗠𝗼𝗱𝗲𝗹𝗹𝘀 von einer wesentlichen Veränderung laut Prof. Dr. Ralph Otte zu sprechen ist. Auch Prof. Philipp Hacker hat erwähnt, dass schon bei dem Ansetzen eines Filters hinter einem Adapter-Tuning ebenfalls von einer wesentlichen Änderung gesprochen werden kann, vor allem 𝗶𝗺 𝗛𝗶𝗻𝗯𝗹𝗶𝗰𝗸 𝗮𝘂𝗳 𝗱𝗮𝘀 𝗥𝗶𝘀𝗶𝗸𝗼 𝗳ü𝗿 𝗱𝗶𝗲 𝗕𝗲𝘁𝗿𝗼𝗳𝗳𝗲𝗻𝗲𝗻. Wir haben demnach mehrere Dimensionen zu beachten!Die klassische Formalisierung der Übersicht und der Wunsch der Teilnehmer, dass hier ganz klar ist, ob wir auf technischer Seite eine wesentliche Veränderung haben oder auf rechtlicher Seite ein wesentliches Risiko für die Betroffenen besteht, graduell zu erkennen, war nicht ganz leicht und ist nicht ablesbar. Festzuhalten ist jedoch, dass das Adapter-Tuning grundsätzlich keine wesentliche Veränderung aus technischer Sicht darstellt, jedoch das klassische Finetuning auf der ganz rechten Seite schon. Man nähert sich dann in der Mitte und dann kommt der bekannte Satz: Es kommt darauf an.Nichtsdestotrotz hat es wieder gezeigt, dass die lebendige Diskussion zwischen Behörde, Informatik, Rechtswissenschaft und den konkreten Praktikern belebend sein kann. Ich hatte bis zum Ende Sorge, dass die Diskussion die Gesamtschulung sprengt, aber sie hatte doch eine ganz tolle Wirkung, nämlich dass die Übersicht einen ersten guten Impuls darstellt, jedoch auf unterer Matrix-Ebene noch weitere Gradienten abgezeichnet und abgebildet werden müssen. Ich freue mich, dass wir das im Praxisfallbuch unter den jeweiligen Fällen tun werden und dies technisch versiert kommentieren.Ich freue mich, alle, die Lust und Zeit haben, im Juli zu unserer letzten Schulung vor der Sommerpause in Frankfurt am Main zu sehen. Bis dahin, Ben#aiact #aiofficer #aicompliance

53

1 Kommentar

𝗭𝗲𝗿𝘁𝗶𝗳𝗶𝗸𝗮𝘁𝘀𝗹𝗲𝗵𝗿𝗴𝗮𝗻𝗴 "𝗗𝗲𝗿 𝐀𝐈 𝐎𝐅𝐅𝐈𝐂𝐄𝐑":𝗙𝗿𝗮𝗻𝗸𝗳𝘂𝗿𝘁 𝗮𝗺 𝗠𝗮𝗶𝗻 4. 𝘂𝗻𝗱 5. 𝗝𝘂l𝗶🚀 𝗝𝗲𝘁𝘇𝘁 𝗧𝗶𝗰𝗸𝗲𝘁 𝘀𝗶𝗰𝗵𝗲𝗿𝗻!👉 www.aiofficer.de#AI #KünstlicheIntelligenz #AIAct #AIOfficer #KIVerordnung

13

KI-System ja oder nein? Nicht immer leicht!Heute, am ersten Tag in Berlin, ging es unter anderem um die Frage, ob ein KI-System vorliegt oder nicht. Dabei orientieren wir uns daran, wie das System mithilfe von maschinellem Lernen entwickelt wurde. Regelbasierte Systeme, deren Regeln von Menschen gemacht sind, werden hier ausgeschlossen. Wir haben entdeckt, dass schon im Rahmen des maschinellen Lernens eine Teilmenge nicht unter ein KI-System fällt, insbesondere wenn die Erklärbarkeit der Ausgabe vor der Eingabe bereits feststeht, wie zum Beispiel bei linearer Regression.Ein weiterer wichtiger Aspekt: Den Teilnehmern zu vermitteln, dass auch der Sachbearbeiter an gewissen Punkten nicht weiter weiß. Es gibt sicherlich Juristen mit tiefer technischer Ausbildung. Wir haben Physiker und Mathematiker als Teilnehmer vor Ort, die auch Rechtsanwälte sind – das ist aber eher selten. Wichtig ist, offen zuzugeben, wenn man nicht weiter weiß, aber zu wissen, wen man fragen muss.Fazit: Ich bin froh über den heutigen Tag, auch wenn wir kein Abendprogramm haben, weil wir morgen früh aufstehen müssen. Ich freue mich umso mehr, alle im November wiederzusehen oder vielleicht morgen nach der Schulung beim Fußballspiel um 18 Uhr.#aiofficer #aiact #aitaskforce

56

5 Kommentare

AI OFFICER IN BERLIN!Die letzten Vorbereitungen für die morgige Schulung laufen auf Hochtouren. Copyshops werden in Beschlag genommen, und Hotelzimmer werden in Büros umfunktioniert. Ich bin sowohl froh als auch aufgeregt wegen der morgigen Schulung für die ersten Teilnehmer aus Berlin. Auch hier haben wir die Teilnehmer in zwei Gruppen unterteilt. Ich freue mich sehr, dass wir morgen wieder den Fokus auf reale Fälle legen werden.Die neuen Fallkonstellationen dieses Mal betreffen die Szenarien, dass Unternehmen historisch gesammelte Nutzerdaten verwenden, um Modelle zu trainieren, die wiederum neue Services auf Unternehmensapplikationen bieten sollen. Dabei stellen sich nicht nur vertrags- und datenschutzrechtliche Fragen, sondern im Fokus steht auch die KI-Verordnung und die Frage, wie die Risikoklassifizierung und die Rollenzuweisung zu handhaben sind.Besonders freue ich mich auf die Praxisvorträge am zweiten Tag. Wir werden vor allem den Aspekt des Chancenmanagements nach ISO 42001 besprechen. Wie ist dieses zu quantifizieren?#aiofficer #aitaskforce #aiact

80

2 Kommentare

In the end, AI literacy is all about teamwork. Sure, there are people who can meet the requirements of Article 4 of the EU AI Act, which is mandatory for businesses. It requires anyone working with AI technologies to have certain technical knowledge and understand the development phase of AI systems (Recital 20). But that's not all—they also need to be able to legally assess the context in which these AI systems will be used (Art 4 AIA). This can leave companies feeling a bit stranded when it comes to figuring out and meeting these obligations.This is where ISO 42001 can help. In Annex C, it talks about potential AI-related organizational goals and risk sources, specifically C.2.2, AI expertise, on page 46. ISO suggests having "a selection of dedicated specialists with interdisciplinary skills and expertise in the assessment, development, and deployment of AI systems." This means having a team of specialists from different fields supporting each other. This is also a key point for future certification under ISO 42001.To bring it full circle, I see this in my training sessions. Our team includes a professor of computer science, a professor of law, a government official, and myself, trying to tie everything together with real-world cases and scenarios from the business environment. It's my job to bring these different personalities together and guide the case evaluations from start to finish, even when they are open to interpretation. Increased knowledge naturally enhances interpretative skills, and when you have physicists, lawyers, and data protection experts in front of you, it shows in the questions and feedback. The real art is in building and leading a team. You all know best how to do that. Case evaluations help us understand what we know and what we don't know. Often, admitting what you don't know is more important than anything else.

36

1 Kommentar