Kritik an Plattform-Betreiber

Nach Schulmassaker: Minister sieht ChatGPT in der Pflicht

Eine spätere Todesschützin nutzt ChatGPT - nach derzeitiger Kenntnis für die Ausgestaltung ihrer Gewaltfantasien. Kanadas KI-Minister verlangt, dass Warnzeichen schneller den Behörden gemeldet werden.

Die Gewalttat von Tumbler Ridge führte in Kanada zu großer Trauer. (Archivbild)

Von dpa

Ottawa - Zwei Wochen nach den tödlichen Schüssen an einer Schule in Kanada haben Regierungsvertreter Verbesserungen bei der Gefahren-Meldekette des ChatGPT-Entwicklers OpenAI gefordert. "Eine interne Überprüfung allein reicht nicht aus, wenn die öffentliche Sicherheit auf dem Spiel steht", erklärte Kanadas Minister für Künstliche Intelligenz (KI), Evan Solomon, nach einem Gespräch mit dem führenden Sicherheitsteam des Plattform-Betreibers.

Hintergrund des Treffens von Solomon und weiteren Ministern war die Gewalttat vom 10. Februar im westkanadischen Ort Tumbler Ridge, bei der insgesamt neun Menschen starben. Den Ermittlungen zufolge hatte eine 18-jährige Trans-Frau acht Menschen getötet, sechs davon in einer Schule, bevor sie sich das Leben nahm.

Täterin soll Chatbot missbraucht haben

Danach wurde bekannt, dass die 18-jährige Schützin Monate vor ihrer Tat den KI-Chatbot zur "Förderung gewalttätiger Aktivitäten" missbraucht haben soll, wie der Sender CBC berichtete. Laut Medienberichten soll sie dem KI-Bot ChatGPT Szenarien beschrieben haben, die Waffengewalt beinhalteten. OpenAI sperrte ihr Konto - eine Meldung an Strafverfolgungsbehörden erfolgte allerdings nicht.

Minister zeigt sich enttäuscht

"Wir haben deutlich gemacht, dass die Kanadier erwarten, dass glaubwürdige Warnzeichen für schwere Gewalt zeitnah und verantwortungsvoll eskaliert werden", hieß es von Solomon nach dem Gespräch mit den OpenAI-Vertretern. Es sei darüber gesprochen worden, wie ein "unmittelbares und glaubhaftes Risiko" bei der Nutzung der Chat-Plattform identifiziert und überprüft werde.

Enttäuschenderweise habe der Plattform-Betreiber zunächst keine nennenswerten neuen Sicherheitsmaßnahmen präsentiert, so Solomon. OpenAI habe aber in Aussicht gestellt, bald konkretere, "auf den kanadischen Kontext zugeschnittene Vorschläge" vorzulegen.