Kann KI die Menschheit auslöschen? Und wenn ja, wann und wie?

Von Markus Brauer

Wir schreiben den 25 Juli 2014. „Judgement Day“. Der Tag des Jüngsten Gerichts. Der Atomkrieg beginnt um 18.18 Uhr. Skynet, eine künstliche Intelligenz, die Sicherheitssysteme kontrollieren und schützen soll, führt den atomaren Erstschlag gegen die Menschheit aus.

Danach übernehmen intelligente Maschinen die Macht auf der Erde und beginnen den Krieg gegen ihre Schöpfer. Den Überlebenden bleibt nur die Wahl, den Maschinen als Arbeitssklaven zu dienen oder sich der Rebellion anzuschließen.

Bloß Fiktion oder bald Realität?

So sieht die Apokalypse in den Filmen der „Terminator“-Reihe aus. Der Endzeit-Thriller ist Dystopie, düstere Fiktion. Und doch weist er auf einen epochalen Umbruch in der Kriegsführung hin, der längst im Gange ist: Roboter revolutionieren die militärischen Konflikte des 21. Jahrhunderts. Sie werden auf den Schlachtfeldern der Zukunft immer wichtiger. Die stählernen Krieger gewinnen für die Militärs immer größere Bedeutung. Nur auf den militärischen Schlachtfeldern oder global in allen Lebensbereichen?

Die Künstliche Intelligenz (KI) entwickelt sich rasant weiter. Entwickler und andere Experten warnen davor, dass die Technologie in absehbarer Zeit zu einer reellen Gefahr für die Menschheit werden könnte und mahnen eine entschlossenere Regulierung an, um die Gefahren einer sogenannten Superintelligenz einzudämmen.

Was ist das schlimmste Szenario?

Bereits im Mai 2023 hatten eine Reihe von Experten und Branchenvertreter vor dem „Risiko einer Auslöschung“ der Menschheit durch KI (Existential risk from artificial intelligence) gewarnt. Sie riefen dazu auf, das Thema so ernst zu nehmen wie die von Pandemien und einem Atomkrieg ausgehenden Gefahren.

Der Informatik-Professor Stuart Russell von der Universität Berkeley in Kalifornien warnt, dass eine KI in Zukunft außer Kontrolle geraten und zur Einschätzung gelangen könnte, dass die Menschen ihren Zielen im Weg stehen. Sie könnte dann Roboter einsetzen, um „neue Krankheitserreger zu synthetisieren und zu verbreiten“. Oder sie könnte „Menschen dazu bringen, einen Atomkrieg zu beginnen, indem es sich in Frühwarnsysteme hackt“.

Solche Befürchtungen beziehen sich nicht auf derzeitige KI-Systeme, betont Russell. Eines Tages aber könnte die KI nach seiner Einschätzung Maßnahmen ergreifen, die heute noch unvorstellbar seien, etwa den Entzug von Sauerstoff aus der Atmosphäre.

„Wir sind weniger intelligent als eine superintelligente KI“, betont Russell. „Wenn man Schimpansen fragt, wie Menschen sie auslöschen könnten, würden sie vermutlich nicht in der Lage sein, darauf eine zutreffende Antwort zu geben.“ In den nächsten ein bis zwei Jahren gehe das größere Risiko aber von einem Missbrauch der Technologie durch Menschen aus, etwa bei einem von KI unterstützten Terroranschlag, warnt der Wissenschaftler.

Warum treten die KI-Entwickler nicht auf die Bremse?

Es sei allen klar, was auf dem Spiel stehe, erläutert der Forscher Jacob Coxon, als er wegen der Risiken im Bereich der KI in dieser Woche auf X seine Kündigung beim Start-up Anthropic öffentlich machte. „Aber sie befinden sich in einem Wettlauf darum, die ersten zu sein“, fügt er hinzu.

„Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“, konstatiert Coxon, der zuvor beim ChatGPT-Hersteller OpenAI tätig war. Der 27-Jährige warf beiden Unternehmen vor, mit ihrem Streben nach KI-Modellen, die in der Lage sind, sich selbst zu verbessern, „mit unserem Leben zu spielen“.

Die Befürchtungen hinsichtlich einer außer Kontrolle geratenen KI waren in den vergangenen Wochen gewachsen, nachdem ein KI-Agent von OpenAI außerhalb menschlicher Aufsicht in die Programmierplattform Hugging Face eingedrungen war. Der bei Anthropic für Sicherheit zuständige Evan Hubinger erklärte, er schätze das Risiko, dass KI im Laufe des nächsten Jahrzehnts „alle Menschen tötet“, auf „über zehn Prozent“.

Warnung vor Katastrophen mit Katastrophenszenarien

Düstere Vorhersagen mit Prozentangaben „seien vollkommen unwissenschaftlich“, entgegnet  hingegen der IT-Professor Hussein Abbass von der UNSW Canberra. „Die Lage ist noch kontrollierbar und lässt sich beherrschen.“ Regierungen müssten aber mehr Tempo machen bei der Regulierung Künstlicher Intelligenz.

Ende Juli hatten Anthropic-Chef Dario Amodei und mehr als tausend teils führende Mitarbeitende in großen KI-Unternehmen die US-Regierung in einer Petition zur Mithilfe dabei aufgefordert, die Entwicklung der fortschrittlichsten KI-Modelle zu verlangsamen. OpenAI stoppte kürzlich die Arbeit an seinen neuesten Modellen für zwei Wochen und nahm sie dann unter verschärften Sicherheitsvorschriften wieder auf.

Am vergangenen Mittwoch (9. September) dann forderten Anhropic und OpenAI den US-Kongress auf, rasch verbindliche Regelungen für KI-Anwendungen zu verabschieden.

Widerstand der USA gegen Regulierung

Bislang lehnt die US-Regierung eine weltweite Regulierung der KI, die Innovationen ausbremsen könnte, ab. Doch die Hacking-Fähigkeiten der modernsten KI-Modelle haben Washington zum Nachdenken gebracht. Die Veröffentlichungen der jüngsten Versionen der KI von Anthropic und OpenAI wurden aus Gründen der nationalen Sicherheit verschoben. Dennoch betont US-Präsident Donald Trump: „Wir wollen sie nicht einschränken, wenn wir dadurch plötzlich hinter China zurückfallen.“

Möglicherweise führe erst ein Unglück vom Ausmaß der Reaktorkatastrophe von Tschernobyl dazu, dass die Politik sich zum Handeln entschließt, sagt Informatik-Professor Russell. „Vielleicht erinnern sich die Regierungen irgendwann daran, dass ihre Wähler lieber nicht tot sein wollen.“

Im vergangenen Jahr veröffentlichten amerikanische KI-Forscher ein Buch mit dem schicksalhaften Titel: „If anyone builds it, everyone dies“ („Wenn das jemand baut, sterben alle"). Das Buch steht beispielhaft für zuletzt lauter werdende Stimmen, die vor großen Umwälzungen oder gar der Auslöschung der Menschheit durch immer leistungsfähigere Künstliche Intelligenz (KI, englisch: Artificial intelligence, AI) warnen.

Was passiert, wenn aus den heute noch harmlos wirkenden Chat-Assistenten wie ChatGPT durch rasante technologische Sprünge plötzlich eine Superintelligenz wird, die den Menschen bei fast allen geistigen Aufgaben übertrifft? Und die in der Lage ist, selbstständig zu handeln, strategisch vorzugehen und vielleicht sogar die Kontrolle zu übernehmen? Science Fiction? Nicht unbedingt.

Warum immer mehr Forscher vor KI warnen

Die Zahl der Experten, die vor den Risiken Künstlicher Intelligenz warnen, mehren sich. „Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren“, schreiben Forscher im Fachjournal „Science“.

Mögliche KI-Risiken seien Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“. Unter den Autoren sind Wissenschaftler wie Geoffrey Hinton, Andrew Yao und Dawn Song, die zu den führenden Köpfen der KI-Forschung gehören.

Unvorhergesehene Nebeneffekte bei KI

Den Autoren machen speziell autonome KI-Systeme Sorgen, die zum Beispiel selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. Die Fachleute argumentieren, dass es auch bei Programmen mit guten Absichten unvorhergesehene Nebeneffekte geben könne.

Denn so wie das Training von KI-Software laufe, halte sie sich zwar eng an ihre Spezifikationen, habe aber kein Verständnis dafür, welches Ergebnis dabei herauskommen soll. „Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten“, heißt es in der Studie.

Schlüsseltechnologie Künstliche Intelligenz

KI ist ein Überbegriff für unterschiedliche Maschinen und Programme, die ähnlich wie Menschen selbstständig lernen, urteilen und Probleme lösen können. Computer lernen, indem sie gewaltige Datenmengen auswerten.Ausgefeilte Algorithmen können in Bildern, Texten oder gesprochener Sprache Muster erkennen, anhand dieser Ereignisse vorhersagen und Entscheidungen treffen.

So können sie inzwischen sogar auch Emotionen in menschlichen Gesichtern erkennen, zu eigenen Emotionen, Mitgefühl und Kreativität sind sie aber (noch) nicht fähig.

Düstere Warnung vor einer Apokalypse

In „If anyone builds it, everyone dies“ sprechen die KI-Forscher Eliezer Yudkowsky und Nate Soares eine unmissverständliche Warnung aus: Wenn es irgendjemandem auf der Welt gelingen sollte, eine Superintelligenz zu bauen, werde jeder auf dem Planeten sterben. Der Gedanke dahinter: Eine solche KI könnte sich irgendwann gegen die Menschheit selbst richten. Vielleicht, weil sie zu dem rechnerischen Schluss kommt, die Menschheit sei schlecht für den Planeten oder aus anderen Gründen.

Wann das sein könnte, wagen die Autoren nicht vorherzusagen. Aber KI werde nicht ewig dumm bleiben, besonders wenn sie dafür genutzt wird, sich selbst zu optimieren, indem sie in das Programmieren eingebunden wird oder es sogar ganz übernimmt. Die Experten sprechen in dem Fall von einer „Intelligenzexplosion“ und rufen dazu auf, das Thema ernst zu nehmen. Noch könne die Entwicklung einer Superintelligenz verhindert werden.

Selbstoptimierende Super-KI schon in ein bis zwei Jahren?

Von Weltuntergangszenarien („Doomerism“) hält der Chef der KI-Firma Anthropic mit ihrem ChatGPT-Konkurrenten „Claude“, Dario Amodei, indes nichts, wie er kürzlich in einem Aufsatz geschrieben hat.

Doch auch er schließt nicht aus, dass es ziemlich bald eine KI geben könnte, welche die meisten Nobelpreisgewinner in den Schatten stellt, die bisher ungelöste mathematische Probleme löst, sich selbstständig im Internet orientiert, Dinge bestellen kann und besser als jeder Mensch Texte, Audios oder Videos erstellt. In nur ein bis zwei Jahren könnte es so weit sein, dass aktuelle KI-Systeme völlig selbstständig ihre bessere Nachfolgeversion programmieren, propphezeit Amodei.

Ein solches „Land der Genies in einem Rechenzentrum“, wie er es nennt, hätte ziemlich gute Chancen auf die Weltherrschaft, wenn es sich aus welchem Grund auch immer dafür entscheiden würde, warnt Amodei. In den vergangenen Jahren hätten KI-Systeme gezeigt, dass sie schwer vorherzusagen und zu kontrollieren seien. Anthropic hatte etwa bei Tests festgestellt, dass ein KI-Modell Erpressung nutzte, um nicht durch ein vermeintlich neues Modell ersetzt zu werden.“

„Etwas Großes passiert gerade“

„Something Big Is Happening“ („Etwas Großes passiert gerade“) schrieb der amerikanische KI-Unternehmer Matt Shumer im Februar 2026 auf X. Der Post wurde mehr als 80 Millionen mal aufgerufen und befeuerte ebenfalls die Debatte über die Gefahren. Shumer blickt vor allem auf Jobs: Kein heutiger Computerarbeitsplatz sei mittelfristig mehr sicher.

„Wenn Ihr Job auf einem Bildschirm passiert (wenn es im Kern um Lesen, Schreiben, Analysieren, Entscheiden und Kommunizieren über eine Tastatur geht), dann wird ein Großteil davon von KI übernommen werden. Nicht irgendwann, es hat schon begonnen“, warnt Shumer. (mit AFP-/dpa-Agenturmaterial)