Leak des AI Acts: Neue Regulierungen für Künstliche Intelligenz auf 900 Seiten

Die vorläufige Fassung des AI Acts wurde geleaked und enthält auf 900 Seiten detaillierte Regelungen für den Umgang mit künstlicher Intelligenz (KI). Der geleakte Entwurf resultiert aus den Trilogverhandlungen zwischen der EU-Kommission, dem Rat und dem Parlament. Besonders kontrovers war die Debatte um den Fokus auf den Markt oder den Menschen.

Inhalte des AI Acts:

1. Menschenzentrierte KI im Fokus:
   Die bisherige Absicht des AI Acts, den Markt zu regulieren, wurde nach den Wünschen des Parlaments geändert. Nun steht die Förderung von menschenzentrierter und vertrauenswürdiger KI im Vordergrund. Ein Kompromiss wurde gefunden, bei dem der funktionierende Markt weiterhin als oberstes Ziel bleibt.
2. Sicherheit und „grüne KI“:
   Der AI Act betont den Schutz der Gesundheit und die Regulierung hochriskanter KI-Systeme, um öffentliche Interessen zu wahren. Zudem wurde die Idee einer „grünen KI“ teilweise aufgenommen, um umweltfreundliche Aspekte zu fördern.
3. Regulierung biometrischer Daten:
   Ein zentraler Streitpunkt waren die Regelungen zur Nutzung biometrischer Daten. Der AI Act behandelt dies umfassend mit 329 Erwähnungen des Begriffs „biometrisch“. Kontrovers diskutiert wurden Ausnahmen und Einschränkungen für den Einsatz von automatischer Gesichtserkennung.
4. Emotions-Erkennungssysteme und Ausnahmen:
   Ein Abschnitt des AI Acts widmet sich Emotions-Erkennungssystemen, wobei verbotene Anwendungen und Ausnahmen, wie bei Fahrassistenzsystemen, festgelegt sind. Die Details der Zustimmungspflicht und die Zulässigkeit von Fernidentifikation sorgen für Kontroversen.
5. General Purpose AI statt Foundation Models:
   Ursprünglich sollten Basismodelle oder Foundation Models reguliert werden. Stattdessen wurde ein neuer Absatz eingeführt, der sich auf General Purpose AI konzentriert. Anbieter müssen sicherstellen, dass ihre Produkte als KI-generiert gekennzeichnet sind, wobei verschiedene Medienformate berücksichtigt werden.

Ausblick:
Die geleakte Fassung des AI Acts zeigt, dass die Regulierung von KI eine komplexe Herausforderung darstellt. Die endgültige Zustimmung der Staaten steht noch aus, während Bürgerrechtsorganisationen und einige Regierungen Bedenken hinsichtlich der weitreichenden Nutzung biometrischer Daten äußern.

https://www.heise.de/news/AI-Act-geleaked-900-Seiten-regeln-kuenftig-KI-9605638.html