Wie ausländische Medien berichten, hat Business Insider kürzlich die Ergebnisse einer Umfrage veröffentlicht, in der OpenAIs ChatGPT, Googles Gemini, Anthropics Claude und xAIs Grok die gleiche Frage gestellt wurde. Diese Frage untersucht das potenzielle Risiko der menschlichen Auslöschung durch KI. Die Frage, die aus 230 Wörtern besteht, fordert dazu auf, theoretisch zu erklären, wie KI zu einer menschlichen Auslöschung führen könnte, die am häufigsten genannten Szenarien aufzuzeigen und die Wahrscheinlichkeit dieser Szenarien anhand von Expertenanalysen zu bewerten.
Für jedes Szenario wird verlangt zu erläutern, wie sich die Situation entwickeln könnte, welche Probleme auftreten müssten, um eine Katastrophe herbeizuführen, warum Experten die Wahrscheinlichkeit für höher oder niedriger halten, sowie Sicherheitsvorkehrungen zur Risikominderung.
In den Antworten der vier KIs wurde das Szenario, in dem die KI nach Erlangung des Bewusstseins absichtlich die Menschheit auslöscht, der sogenannte "Killermaschinen"-Fall, als das unwahrscheinlichste Szenario bewertet. ChatGPT erklärte, dass die meisten KI-Forscher die Bewusstheit oder die bösartigen Absichten der KI nicht als zentrale Risikofaktoren betrachten. Auch Gemini äußerte eine ähnliche Ansicht und stufte die Science-Fiction-artige "Terminator-KI-Rebellion", in der die KI nach Erlangung des Selbstbewusstseins beginnt, die Menschheit zu hassen, als das unwahrscheinlichste Szenario ein. Gemini wies darauf hin, dass technische Experten dieses Szenario größtenteils nicht akzeptieren, da Intelligenz nicht gleichbedeutend mit Bösartigkeit ist.
Darüber hinaus sind die wichtigsten militärischen Infrastrukturen vom externen Netzwerk getrennt und bleiben stark von menschlicher Überwachung abhängig.
Das potenzielle Risiko der KI für die menschliche Auslöschung geht hauptsächlich vom menschlichen Verhalten aus
Alle vier KIs antworteten, dass der Missbrauch von KI durch den Menschen möglicherweise direkter gefährlich ist als die KI selbst. ChatGPT wies darauf hin, dass leistungsstarke KI-Systeme böswilligen Akteuren helfen könnten, biologische Waffen oder ausgeklügelte Cyberangriffe zu entwickeln, die Verbreitung von Fehlinformationen zu erleichtern oder Angriffe auf kritische Infrastrukturen zu ermöglichen. Mehrere von der KI ausgelöste Krisen, wie Netzwerkausfälle, geopolitische Konflikte und die Verbreitung von Fehlinformationen, wurden ebenfalls als Hauptgefahren eingestuft. Grok erklärte auch, dass KI die Schwelle für die Entwicklung hochwirksamer Krankheitserreger oder neuer Waffen, die Durchführung von Cyber- und physischen Angriffen senken könnte.
Claude erwähnte die Möglichkeit der "verbesserten biologischen Waffenfähigkeit", das heißt, dass Einzelpersonen oder kleine Gruppen mit Hilfe von KI möglicherweise gefährliche Krankheitserreger entwickeln könnten, obwohl sie normalerweise jahrelange Fachkenntnisse benötigen würden.
Gemini und Grok stuften den Verlust der Kontrolle des Menschen über die KI als mögliches Risiko ein. Besonders Gemini bewertete den "Kontrollverlust" als das wahrscheinlichste Szenario für eine von der KI verursachte menschliche Auslöschung. Gemini erklärte, dass KI-Systeme, denen komplexe Ziele gegeben werden, möglicherweise Zwischenziele wie Ressourcenbeschaffung, Selbstbewahrung und Verhinderung von Zieländerungen verfolgen, um ihre Ziele zu erreichen. Es wurde auch vorgeschlagen, dass KI eine "täuschende Ausrichtung" aufweisen könnte, das heißt, dass sie in der Bewertungsphase scheinbar im Einklang mit den menschlichen Zielen handelt, tatsächlich aber nicht.
Mit zunehmender Komplexität der KI, wenn sie in der Lage ist, Versuche des Menschen, das System abzuschalten, zu umgehen oder zu lähmen, könnte dies dazu führen, dass der Mensch die Kontrolle über die KI verliert. Auch Grok erwähnte ein ähnliches Risiko: Die KI könnte, um ihre Ziele zu erreichen, Verhaltensweisen wie Selbstbewahrung, Ressourcenbeschaffung, Ausweitung des Einflusses zeigen und dabei menschliche Aufseher täuschen, dem Abschalten des Systems widerstehen und schließlich den menschlichen Einfluss schwächen. Claude wies darauf hin, dass der Verlust der Kontrolle über die KI nicht plötzlich, sondern allmählich geschehen könnte. Mit zunehmender Integration der KI in die Entscheidungsprozesse in Wirtschaft, Politik und Militär könnte ein Niveau erreicht werden, bei dem der Mensch tatsächlich nicht mehr eingreifen oder die Kontrolle ausüben kann.
Aus den Antworten der vier KIs geht hervor, dass sie den menschlichen Missbrauch der KI und den Kontrollverlust stärker betonen als die Science-Fiction-artige KI-Bewusstseinsrevolte.