Ehemaliger Anthropic-Forscher warnt vor unkontrolliertem KI-Wettlauf als beispiellose Bedrohung für die Menschheit

Der ehemalige Anthropic-Forscher Jacob Coxon hat aus Sicherheitsbedenken seinen Posten bei der Entwicklung von prä-trainierten KI-Modellen aufgegeben und behauptet, der unregulierte Wettbewerb von Unternehmen bei der Entwicklung von Künstlicher Intelligenz stelle eine beispiellose Bedrohung für die Menschheit dar. Der 27-jährige Forscher trat mit einer dramatischen Rücktrittserklärung auf der Social-Media-Plattform X auf und löste damit sofort Aufmerksamkeit in der Tech-Branche aus. Coxon erklärte, dass es keine andere menschliche Aktivität gebe, die das Zivilisationsniveau so sehr bedrohe wie der endlose Unternehmenswettbewerb zur Entwicklung von "selbstverbessernder Superintelligenz". Er schrieb auf X: "Diejenigen, die KI entwickeln, glauben aufrichtig, dass sie uns alle innerhalb eines Jahrzehnts töten könnte."

Das ist kein Marketing-Gag. Tatsächlich verwenden viele Führungskräfte und leitende Forscher in den Medien vernünftig klingende Formulierungen, aber ich höre dieselben Leute privat ihre Ängste äußern. Keine andere menschliche Aktivität birgt ein solch hohes Gefahrenpotenzial."

Coxon schrieb in einem Tweet: "Ich habe heute bei Anthropic gekündigt. Ich habe drei Jahre lang bei OpenAI und Anthropic an prä-trainierter KI geforscht. Keine dieser Firmen hat sich verantwortungsbewusst verhalten. Sie verfolgen mit vollem Einsatz die Entwicklung selbstverbessernder Superintelligenz und setzen dabei unser Leben aufs Spiel."

Aufruf zu einer vorübergehenden Verbesserungssperre

Er ist der Meinung, dass der Wettbewerb zwischen den Unternehmen die Labore in einen selbstgefälligen Wettlauf treibt, der sie dazu zwingt, zunächst gefährliche Systeme zu bauen. Um diese Entwicklung zu durchbrechen, fordert er seine Kollegen auf, sich zu äußern und eine vorübergehende Verbesserungssperre zu verlangen, um internationale Koordination und Sicherheitskontrollen zu fördern. Er fügte in einem Tweet hinzu: "Ich habe das Gefühl, dass wir nicht in Richtung der Verhinderung eines globalen Wettlaufs vorankommen, was kostspielige Maßnahmen wie eine vorübergehende Sperre der Modellverbesserung erfordern könnte."

Sicherheitsbedenken innerhalb der Branche

Laut Gizmodo teilt der CEO von Anthropic, Dario Amodei, die ähnlichen Sicherheitsbedenken seiner ehemaligen Mitarbeiter, was ihm in der Branche den Titel "Apokalyptiker" eingebracht hat, was auch durch seinen ausführlichen Blogartikel bestätigt wird. Diese gemeinsame Existenzangst hebt einen bemerkenswerten Widerspruch hervor: Ein führender KI-Unternehmensverantwortlicher hegt tiefe Ängste vor der Technologie, die er mit vollem Einsatz vorantreibt.

Widerspruch zwischen Unternehmenswettbewerb und KI-Sicherheit

Coxons Rücktritt und seine Warnungen spiegeln die Dringlichkeit und Gefährlichkeit des aktuellen KI-Bereichs wider. Mit der Verschärfung des Unternehmenswettbewerbs könnten Entwickler Sicherheitsaspekte ignorieren und sich auf die schnelle Weiterentwicklung der Technologie konzentrieren. Diese Situation weckt nicht nur die Ängste von Brancheninsidern, sondern veranlasst auch einige Führungskräfte, zu einem verantwortungsbewussteren Verhalten aufzurufen, wie etwa einer vorübergehenden Verbesserungssperre, um potenzielle Risiken zu verringern. Das Vorhandensein dieses Widerspruchs zeigt die Spannung zwischen Innovation und Sicherheit und stellt eine wichtige Herausforderung für die zukünftige technologische Entwicklung dar.