Generative KI: CHATGPT, AI ACT und DSGVO
Seit April 2021 finden zum AI ACT auf europäischer Ebene Beratungen statt, an deren Ende der Europäische rechtliche Rahmen für Innovationen mit KI Anwendung stehen soll. Jetzt im April 2023 hat das EU Parlament sich geeinigt über Anpassungen für generative KI.
Denn ChatGPT führt in Praxis vor, dass sich die KI Technologie schneller entwickelt als der Gesetzgeber handelt. Zunächst waren generative KI Anwendungen noch nicht mal berücksichtigt im rechtlichen Regelwerk.
Das allerdings ist jetzt behoben, am letzten Freitag, den 28. April 2023, haben die Mitglieder des Europäischen Parlaments (MdEP) eine Einigung über das EU-Gesetz über Künstliche Intelligenz erzielt – mit einigen Anpassungen in Bezug auf generative KI wie ChatGPT. ChatGPT wurde als "nicht hochriskant" eingestuft.
Folgende Klarstellungen in Bezug auf generative KI Anwendungen enthält die Einigung des EU Parlaments:
Wenn von einer Anwendung eine direkte oder indirekte Gefahr für das Leben ausgeht, wenn sie Menschen diskriminieren kann, wenn eine KI die Rechtsstaatlichkeit oder die Demokratie gefährden kann – das alles sind Faktoren, die KI Anwendung als „hochriskant“ machen aus Sicht der EU. Das vorgeschlagene Klassifizierungssystem für KI-Systeme beinhaltet vier Risikostufen: inakzeptabel, hoch, begrenzt und minimal. Verschiedene Anforderungen an die Entwicklung und Nutzung werden ja nach Klassifizierung vorgeschrieben.
Unabhängig davon sieht die jetzige Einigung des EU Parlaments eine Reihe von Auflagen für generative Systeme wie ChatGPT vor, auch wenn sie nicht „hochriskant“ sind.
Vor allem sollen nach einem neuen Artikel 28b die Entwickler von KI Systemen verpflichtet werden, generative KI Systeme im Vorfeld ausführlich auf die von ihnen ausgehenden Risiken zu überprüfen und auch die Datenqualität sicherzustellen. Artikel 28b sehe dazu vor, dass die Erzeuger "grob angeben müssen", inwieweit sie geschütztes Material zum Training genutzt hätten, heißt es laut Pressebericht der FAZ.
Außerdem sollen Entwickler von generativen Systemen verpflichtet sein, Abhilfemaßnahmen für drohende Gefahren einzubauen, darunter Abwehr gegen Cyberangriffe und Missbrauch für Diskriminierung.
Hochriskante KI Anwendungen
Laut Entwurf der EU Kommission zum AI ACT sieht Anhang III bislang acht Bereiche sogenannter Hochrisiko-KI-Systeme vor. Diese betreffen vor allem biometrische Identifizierung, die Kategorisierung von Personen, KI Systeme in Bezug auf berufliche Bildung sowie die Bewertung und die Verwaltung und der Betrieb kritischer Infrastrukturen. Aber auch autonome Fahrzeuge und medizinische Geräte gehören zu den als hochriskant eingestuften KI-Systemen, abhängig von ihrer Anwendung.
Entwickler von hochriskanten KI Anwendungen sollen die Verpflichtung haben zu Vorabtests, Risikomanagement und menschlicher Aufsicht. Auch werden Anforderungen gestellt in Bezug auf Daten, Daten-Governance, Dokumentation und das Führen von Aufzeichnungen, Transparenz und Bereitstellung von Informationen für die Nutzer, Robustheit und Genauigkeit. Protokollierung soll gewährleisten, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus in einem der Zweckbestimmung des Systems angemessenen Maße rückverfolgbar ist.
Wie geht es weiter mit dem Beschluss zu AI ACT und Artikel 28b?
Die Einigung des EU Parlaments wird am 11. Mai 2023 im Ausschuss zur Abstimmung gestellt.
Im Juni soll darüber im Plenum abgestimmt werden, und danach könnten die Gespräche mit den Mitgliedstaaten aufgenommen werden.
Die jetzige Einigung hat den Beschluss des AI ACTs auf den Weg gebracht, mit dem Artikel 28b. Es gibt jedoch noch weiterhin Spielraum für weitere Abstimmungen und Kompromisse, bis die jetzt getroffene Einigung tatsächlich in der EU Gesetzgebung umgesetzt wird.
ChatGPT und Datenschutz
Ebenfalls Ende April 2023, am 22. April 2023, haben die deutschen Landesdatenschutzbehörden ein Verwaltungsverfahren gegen OpenAI eingeleitet, die Entwickler von ChatGPT. Die Datenschützer möchten prüfen lassen, ob die Nutzung der Daten und der Algorithmus von ChatGPT konform ist mit der EU-Datenschutzgrundverordnung (DSGVO), gerade auch mit den im Laufe der Nutzung entstehenden Daten. Offene Fragen sind u. a.:
Werden Möglichkeiten zur Auskunft, Berichtigung oder Löschung eingehalten?
Gibt es Mechanismen für Jugendschutz und Schutz der Daten minderjähriger Nutzer?
OpenAI hat zunächst Zeit, einen mehrseitigen Fragebogen der deutschen Datenschützer zu beantworten. Auf das Ergebnis dieser Auseinandersetzung darf man gespannt sein, denn die Frage nach dem Datenschutz stellen sich nach unserer Erfahrung viele Entwickler von KI Anwendungen, nicht nur bei der Entwicklung von generativer KI.
Haben Sie Fragen zu Innovation oder einer Erfindung mit KI Anwendung? Unsere Patentanwaltskanzlei Köllner & Partner bietet dazu ein hoch qualifiziertes Team und viel Expertise.
Sprechen Sie uns gerne unverbindlich an, telefonisch unter +49 (0)69 69 59 60-0 oder unter info@kollner.eu.
