KI-Verordnung nimmt ChatGPT & Co. ins Visier: Von der Allzweck-KI zum Basismodell

Die KI-Verordnung ist als europäisches Vorzeigeprojekt in den letzten Monaten in aller Munde. Nun plant das Europäische Parlament strengere Regeln für generative und vortrainierte KI-Modelle wie ChatGPT und Midjourney. Für den 11. Mai 2023 wird die Abstimmung in den federführenden Parlamentsausschüssen erwartet. Danach wird der Entwurf unterrichteten Quellen zufolge innerhalb eines Monats im Plenum des EU-Parlaments zur Abstimmung kommen, woran sich die Trilog-Verhandlungen anschließen. Ein Inkrafttreten der KI-Verordnung (mit einer Umsetzungsfrist von zwei bzw. drei Jahren) ist daher in der zweiten Jahreshälfte dieses Jahres realistisch.

Doch was plant das Parlament für ChatGPT und Co.?

Zur Beantwortung dieser Frage muss man zunächst einen kurzen Blick in die KI-Verordnung selbst werfen. Mit der KI-Verordnung will der EU-Gesetzgeber Künstliche Intelligenz wegen ihrer Fähigkeit, Schaden zu verursachen, regulieren. Es werden ein risikobasierter Ansatz verfolgt und unterschiedliche KI-Risikoklassen gebildet (verbotene KI-Praktiken, Hochrisiko-KI, KI mit geringem und minimalem Risiko), für die (außer bei verbotenen KI-Praktiken) abgestufte Maßnahmen zur Risikominderung und -abschirmung vorgesehen sind. Erwartet wurde das Inkrafttreten der KI-Verordnung ursprünglich bereits Ende 2022.

Der KI-Hype der vergangenen Monate, allen voran der rasante Aufstieg von ChatGPT und Midjourney, führte jedoch zu einer Verzögerung der EU-Gesetzgebung, da zu Beginn der Verhandlung (in 2021) die eruptive Entwicklung noch nicht absehbar war. Die am Gesetzgebungsverfahren beteiligten Akteure mussten daher zunächst neue Ansätze entwickeln, wie mit den neuaufgekommenen Formen der KI umgegangen werden könnte.

Der Europäische Rat versuchte dies, indem er im Dezember 2022 die Einführung einer Mehrzweck-KI (im Englischen „general purpose ai“ genannt) vornahm, welche allgemein KI-Systeme erfasste, die Aufgaben in einer Vielzahl von Anwendungsfällen bewältigen konnten.

Da unter anderem kritisiert wurde, dass durch die Mehrzweck-KI die Verpflichtungen nicht angemessen entlang der Wertschöpfungskette verteilt wurden, mussten die Abgeordneten des EU-Parlaments nun jedoch einen neuen Ansatz verfolgen. Um ChatGPT und ähnliche Anwendungen in der KI-Verordnung angemessen widerzuspiegeln, wurden die Verpflichtungen stärker an der Wertschöpfungskette ausgerichtet und neben der Mehrzweck-KI eine neue Regelungsmaterie eingeführt. Diese wird als „Foundation Model“ betitelt, was in etwa mit „Basismodell“ übersetzt werden könnte. Dabei wird das Basismodell definiert als System, „welches auf Grundlage umfangreicher Daten trainiert wurde, auf allgemeine Ergebnisse ausgelegt ist und an ein breites Spektrum unterschiedlicher Aufgaben angepasst werden kann“ (aus dem Englischen übersetzt).

Anforderungen an GPT, Llama 2 & Co. als Basismodell

Wie auch für KI-Systeme gibt der von uns eingesehene Parlamentsentwurf eine Reihe von Anforderungen an Basismodelle vor, die vor der Veröffentlichung des Modells vom jeweiligen Anbieter eingehalten werden müssen. Dabei gelten die Anforderungen unabhängig davon, ob das Modell eigenständig (bspw. GPT 4) oder eingebettet in ein KI-System bereitgestellt (bspw. ChatGPT) oder als Open-Source-Lizenz, Dienstleistung oder über andere Vertriebskanäle angeboten wird. Somit würde auch das kürzlich veröffentlichte Open-Source-Projekt von Stable Diffusion aller Wahrscheinlichkeit nach als Basismodell eingestuft werden und müsste die Anforderungen erfüllen.

Zu den einzuhaltenden Pflichten für Basismodelle gehören nach der Vorstellung des EU-Parlaments:

• ein Risk Management, bei dem die vorhersehbaren Risiken während der Entwicklung ermittelt, verringert und abgemildert werden und die nicht abwendbaren Risiken - samt der Gründe, weswegen sie nicht abgewendet werden können - dokumentiert werden;
• eine Data-Governance, welche insbesondere gewährleistet, dass nur Datensätze verwendet werden, die geeigneten Maßnahmen zur Prüfung der Datenqualität unterliegen und über mögliche Abhilfemaßnahmen verfügen;
• eine Konzeption und Entwicklung, die sicherstellt, dass ein angemessenes Niveau an Leistung, Vorhersagbarkeit, Interpretierbarkeit, Korrigierbarkeit, Sicherheit und Cybersicherheit erreicht werden kann. Neu ist, dass hierzu auch die Hinzuziehung unabhängiger Experten vorgesehen ist;
• eine Registrierungspflicht in einer EU-Datenbank;
• erweiterte Dokumentationspflichten von bis zu zehn Jahren;
• die Bereitstellung relevanter Informationen in Bezug auf die Größe und Leistung des Modells wie Trainingsressourcen, die erforderliche Rechenleistung und die Trainingszeit.

Für Basismodelle, welche insbesondere zur Generierung von Inhalten wie Texten, Fotos, Videos etc. in KI-Systemen gedacht sind (sog. „Generative KI“, also insbesondere ChatGPT, mit DALL·E 3, Midjourney & Co.), gelten darüber hinaus zusätzliche Anforderungen in Bezug auf Transparenz und Offenlegung der verwendeten Trainingsdaten. Die KI-generierten Inhalte müssen als solche erkennbar sein und dürfen nicht für von Menschen erzeugte Inhalte gehalten werden. Sehr gewichtig ist auch die Verpflichtung, das zum Training der KI verwendete urheberrechtlich geschützte Material detailliert offenzulegen.

Ausblick

Während sich die Entwicklungen im KI-Bereich überschlagen, arbeitet die EU-Gesetzgebung mit Hochdruck an einer Regulierung für Künstliche Intelligenz. Mit der Einführung des Basismodells adressiert das EU-Parlament neuaufgekommene KI-Formen zu einem Zeitpunkt, an welchem diese selbst noch am Anfang ihrer Entwicklung stehen. Der EU-Gesetzgeber befindet sich daher in der Lage (aber auch in der Pflicht), bereits früh den Risiken und Gefahren, die von KI ausgehen können, zu begegnen und gleichzeitig die Verwendung von KI im Wirtschaftsleben rechtlich zu ermöglichen.

Hierbei steht das EU-Parlament vor der Herausforderung, Interessen zu berücksichtigen, die unterschiedlicher kaum sein können. Einerseits forderten selbst führende Wissenschaftler in einem Offenen Brief am 22. März 2023 den Stopp der Entwicklung leistungsfähigerer Modelle als GPT-4 für mindestens sechs Monate, um über Folgen und ethische Fragen im Umgang mit KI zu diskutieren sowie einen geordneten Umgang mit KI zu fördern. Andererseits setzt sich ein nicht unwesentlicher Teil für eine wenig regulierte Weiterentwicklung und die Ausklammerung von Open-Source-Projekten aus der KI-Verordnung ein, um den KI-Standort Europa nicht nachhaltig zu gefährden und so den Anschluss zu verlieren.

Dabei wird oft übersehen, dass verlässliche Regelungen für Unternehmen auch einen Standortvorteil darstellen können. Denn durch einen verlässlichen Rechtsrahmen werden Investitionen auf Jahre hinweg ermöglicht und ein „Level Playing Field“ geschaffen. Zusätzlich kann die Einhaltung von Regularien ein Qualitätsmerkmal darstellen, welches von Kunden begrüßt oder sogar erwartet wird. Und auch wenn die Entwicklung von KI in den letzten Jahren rasant vorangeschritten ist, stehen wir dennoch erst am Anfang des Wandels, der mit der Integration von KI in Unternehmen und im privaten Umfeld einhergehen wird. Die EU ist hinsichtlich der Regulierung der KI momentan führend. Viele Anforderungen, die in dem oben bereits zitierten Offenen Brief zur KI-Entwicklung umgesetzt werden sollen, sind von der EU-Gesetzgebung bereits im Entwurf der KI-Verordnung angelegt. Diesen Standortvorteil sollte sich die EU nicht nehmen lassen.

Dieser Beitag wurde aktualisiert am Dienstag, 24. Oktober 2023.