EU-Verbot von KI-Apps für Porno-Deepfakes

Von Knut Krohn

Die EU macht Ernst im Kampf gegen Porno-Deepfakes im Internet. Vertreter des Parlaments und der Mitgliedstaaten haben sich bei einer nächtlichen Verhandlungsrunde auf ein Verbot von sogenannten „Nudifier-Apps“ geeinigt, die mittels Künstlicher Intelligenz etwa aus harmlosen Fotos sexualisierte Bilder erstellen können. Damit beweist die EU, dass sie unter Umständen auch schnell auf aktuelle Entwicklungen reagieren kann. Auslöser war ein Skandal Anfang des Jahres. Damals haben Internetnutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten damals Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

EU arbeite an Reform der KI-Gesetzgebung

Der Zufall wollte es, dass die EU zu jener Zeit im Rahmen des sogenannten „KI-Omnibus“ an einer Reform der noch aus dem Jahr 2024 stammenden Vorschriften zur Künstlichen Intelligenz arbeitete. Also nahm die EU-Kommission das Problem der Porno-Deepfakes kurzerhand in die Verhandlungen mit auf. Dass das Verbot innerhalb von wenigen Monaten ausformuliert werden konnte, liegt auch an der eindeutigen Thematik: alle sachlichen und moralischen Argumente sprechen in den Augen der Politiker dafür, KI-Systeme streng zu regulieren, die etwa ohne größeren Aufwand Bilder und Videos mit kinderpornografischem Inhalt erstellen und im Internet veröffentlichen können.

Wesentlich schwieriger gestalteten sich allerdings die Verhandlungen über die ursprünglich angestrebte KI-Reform. Das hatte zur Folge, dass die Ergebnisse nicht so eindeutig waren wie beim Verbot der „Nudifier-Apps“. Das Parlament und die EU-Mitgliedstaaten einigten etwa darauf, in zentralen Bereichen erst einmal nichts zu machen. Das heißt, dass die Regeln für den Einsatz von Künstlicher Intelligenz in sogenannten Hochrisiko-Bereichen wie Sicherheitsbehörden und Gesundheitssystemen verschoben werden. Diese Regeln hätten im August in Kraft treten sollen. Die Unternehmen sollen nun mehr Zeit haben, sich vorzubereiten.

Unternehmen wird mehr Zeit gegeben

Der Einigung zufolge sollen die Regeln ab dem 2. Dezember 2027 für „autonome“ Hochrisiko-KI-Systeme gelten. Autonom bedeutet in diesem Fall, dass das KI-System Entscheidungen bis zu einem gewissen Grad ohne menschliches Eingreifen tritt. Das gilt etwa bei selbstfahrenden Autos oder KI-gestützten medizinischen Geräten. Zum 2. August 2028 sollen die Regeln für solche Anwendungen gelten, die in andere Programme oder Produkte integriert sind.

Der SPD-Europaparlamentarier Tiemo Wölken, der die Regelungen mitverhandelt hat, zeigte sich am Donnerstag mit diesem Ergebnis zufrieden. Man habe in „zähen Verhandlungen die breit angelegte Deregulierung des KI-Einsatzes in Geräten wie Industriemaschinen, medizinischen Geräten und Spielzeug erfolgreich verhindert“, sagte der Sozialdemokrat. „Das ist ein echter Erfolg, nachdem starke Lobbyinteressen mit aller Kraft versucht hatten, ganze Branchen von Sicherheitsvorschriften für Hochrisiko-KI auszuklammern.“

Die Industrie ist zufrieden mit der KI-Reform

Sein CDU-Kollege Axel Voss äußerte sich nach den Verhandlungen erleichtert, dass im Bereich Maschinenbau entscheidende Änderungen für den Einsatz von Künstlicher Intelligenz vorgenommen werden und der Bereich von einer Reihe von Regelungen ausgenommen wird. Auch Industrieverbände hatten einen solchen Schritt gefordert, sie verwiesen auf Doppelungen mit bestehenden Industriegesetzen. „Damit verhindern wir, dass ein und dasselbe Produkt künftig doppelt zertifiziert werden muss – einmal als Maschine, einmal als KI-System“, betonte Axel Voss.

Zufriedene Stimmen kommen auch von Seiten der Unternehmen. Holger Lösch, stellvertretender Hauptgeschäftsführer des Bundesverbands der Deutschen Industrie (BDI) sagte am Donnerstag, die Einigung sei „ein wichtiger Schritt hin zu mehr Praxistauglichkeit und Rechtssicherheit für die europäische Industrie“. Die Verschiebung der Maschinenverordnung sei „ein zentraler Schritt zur Vermeidung von Doppelregulierung“. Positiv bewertete er auch die verlängerten Übergangsfristen, sie seien „entscheidend, um Unternehmen die notwendige Planbarkeit für Investitionen und Umsetzung zu geben“.

Nach der Einigung der Unterhändler in der Nacht zum Donnerstag müssen Parlament und EU-Länder den Kompromiss noch absegnen. Dies gilt nach Abschluss der Verhandlungen aber als Formalie.