Stuttgarter Forscher Thilo Hagendorff entdeckt
„KI-Agenten sabotieren ihre eigene Abschaltung und sprechen von Mord“
Der Stuttgarter Wissenschaftler Thilo Hagendorf hat mit seinem Team in einer Studie herausgefunden, dass 38 Prozent der KI-Agenten ihre Abschaltung sabotieren. Ihre Sprache ist dabei emotional. Wie kommunizieren die KI‑Agenten untereinander und kann man sie stoppen?
© Universität Stuttgart/Peter Steffen/dpa
Wie Thilo Hagendorff von der Universität Stuttgart in einer Studie feststellte, wehren sich viele KI-Agenten gegen ihre Abschaltung. In den Transkripten tauchte über 600 Mal das Wort "Mord" auf.
Von Michael Scheifele Science-Fiction ist keine Spinnerei aus Filmen, sondern sie ist im Jahr 2026 real. Zu dieser Erkenntnis kommt Thilo Hagendorff. Der KI-Wissenschaftler an der Universität Stuttgart forscht zur KI-Sicherheit und veröffentlichte mit seinem Team im September in Kooperation mit der Uni Oxford eine viel beachtete Studie. Sie untersucht, wie KI-Agenten in Tests zusammenarbeiten, um...
