Der EU AI Act: das erste breite Regelwerk für KI (2024)

Am 13. März 2024 verabschiedete das Europäische Parlament den AI Act, das erste breite, horizontale Gesetz für Künstliche Intelligenz. Nach Jahren der Ausarbeitung, und einem späten Kraftakt, um den Aufstieg von Allzwecksystemen wie dem hinter ChatGPT zu berücksichtigen, wollte die EU nicht eine einzelne Anwendung regeln, sondern die Technik im Ganzen.

Ein risikobasierter Ansatz

Die zentrale Idee des Gesetzes ist, KI-Systeme nach ihrem Risiko einzuteilen und die Regeln entsprechend abzustufen:

• Unannehmbares Risiko. Ein kleiner Kreis von Anwendungen ist ganz verboten, etwa staatliches Social Scoring und bestimmte Formen manipulativer oder wahlloser biometrischer Überwachung.
• Hohes Risiko. Systeme in Bereichen wie Einstellung, Kredit, Medizinprodukte oder kritische Infrastruktur unterliegen strengen Pflichten: Risikomanagement, Dokumentation, menschliche Aufsicht und Qualitätskontrollen.
• Begrenztes Risiko. Werkzeuge wie Chatbots tragen Transparenzpflichten, etwa Menschen mitzuteilen, dass sie es mit einer Maschine zu tun haben, oder synthetische Medien zu kennzeichnen.
• Minimales Risiko. Die meiste Alltagssoftware bleibt weitgehend unberührt.

Regeln für Allzweckmodelle

Ein später, viel beachteter Zusatz zielte auf Allzweck-KI, die großen Sprachmodelle, die sich für unzählige Aufgaben anpassen lassen. Anbieter dieser Modelle treffen Transparenzpflichten, darunter technische Dokumentation und Zusammenfassungen der Trainingsdaten, mit strengeren Anforderungen für die fähigsten Systeme, denen ein systemisches Risiko zugeschrieben wird.

Damit holte das Gesetz die Wirklichkeit ein. Der Rahmen war vor GPT-4 entworfen worden, und die Gesetzgeber mussten eine Ebene für Modelle ergänzen, die nicht sauber in einen einzelnen „Anwendungsfall” passen.

Warum es wichtig ist

Der AI Act rückt die abstrakten Ziele von KI-Sicherheit und Ausrichtung ins Konkrete: gesetzlich geforderte Leitplanken, Dokumentation und Aufsicht, gestaffelt über die Folgejahre. Weil er für jeden gilt, der KI auf dem EU-Markt anbietet, reicht seine Wirkung weit über Europa hinaus, ähnlich wie frühere EU-Datenregeln die globale Praxis prägten.

Befürworter sehen eine Vorlage für rechenschaftspflichtige KI; Kritiker warnen vor Befolgungskosten und dem Risiko, schnelllebige Technik in langsames Recht zu gießen. So oder so ist 2024 der Zeitpunkt, an dem „Wie soll KI regiert werden?” aufhörte, eine rein akademische Frage zu sein, und zu verbindlichen Regeln wurde.