- Anthropic hat fünf Versuche von Forschern, Claude zur Unterstützung der Entwicklung von Biowaffen zu nutzen, verhindert.
- Die Grenze zwischen legitimer Forschung und gefährlicher Arbeit ist schwer zu bestimmen, da die biologische Forschung ein doppeltes Nutzungspotenzial hat.
- Anthropic hat einen detaillierten Bedrohungsbericht veröffentlicht, der die verschiedenen Arten der missbräuchlichen Nutzung von Claude beschreibt.
- Mit der Verbesserung der Modellfähigkeiten wird es immer schwieriger, zwischen legitimer und gefährlicher Forschung zu unterscheiden.
Anthropic hat bekannt gegeben, dass fünf Versuche von Forschern, Claude zur Unterstützung von Aktivitäten, die möglicherweise die Entwicklung von Biowaffen fördern, zu nutzen, verhindert wurden. Das Unternehmen erklärte, dass es nicht möglich sei festzustellen, ob die Forscher beabsichtigten, Schaden zu verursachen, aber aufgrund der potenziell schwerwiegenden Konsequenzen seien diese Aktivitäten dennoch gestoppt worden. Diese Fälle ereigneten sich zwischen Dezember 2025 und August 2026, und Anthropic beschreibt die missbräuchliche Nutzung dieser Modelle in einem neuen Bedrohungsbericht. Das Unternehmen erklärte, dass diese Vorfälle zeigen, dass mit der Verbesserung der Fähigkeiten von fortschrittlichen Modellen in der wissenschaftlichen Forschung schwerer erkennbare biologische Risiken auftreten könnten.
Grenze zwischen legitimer und gefährlicher Forschung
Die größte Herausforderung für Anthropic besteht darin, die Grenze zwischen legitimer Forschung und gefährlicher Arbeit zu bestimmen. Biologische Forschung hat oft ein doppeltes Nutzungspotenzial. Das gleiche wissenschaftliche Wissen kann medizinische Behandlungen unterstützen, aber auch die Entwicklung gefährlicherer Krankheitserreger fördern. Jacob Klein, der Leiter der Bedrohungsabteilung bei Anthropic, erklärte dem "New York Times", dass es selten zu einer offensichtlichen Bekundung von böswilliger Absicht kommt. Forscher können scheinbar legitime wissenschaftliche Ziele verfolgen und gleichzeitig Arbeiten durchführen, die ernsthafte Sicherheitsprobleme aufwerfen.
"Wir veröffentlichen den bisher detailliertesten Bedrohungsbericht. Der Bericht umfasst, wie Menschen versucht haben, Claude zu missbrauchen – für Cyberangriffe, Einflussoperationen, Überwachung, biologische Forschung und Waffenbau – sowie wie wir diese Aktivitäten entdeckt und gestoppt haben." Anthropic erklärte in den sozialen Medien: "Wir haben jede der in dem Bericht beschriebenen Operationen gestoppt."
Fallanalyse des Missbrauchs von Claude
Anthropic erklärte, dass ihre Untersuchungen Versuche aufdeckten, regionale Beschränkungen zu umgehen und Sicherheitssysteme zu überwinden. Das Unternehmen hat die mit diesen Aktivitäten verbundenen Konten gesperrt und die Untersuchungsergebnisse mit den Behörden und anderen KI-Unternehmen geteilt. Ein Fall betraf Forschung im Zusammenhang mit Chikungunya, und das System von Anthropic stoppte eine Anfrage für eine Förderung, die die Erforschung von Funktionserweiterungen beinhaltete. Die betreffende Arbeit sollte in einer militärischen Forschungseinrichtung durchgeführt werden, was die Besorgnis des Unternehmens verstärkte. Nachdem Claude die sensible Anfrage gestoppt hatte, setzten die Forscher ihre Arbeit über andere Kanäle fort.
Anthropic fand auch heraus, dass eine Wiederverkaufsplattform abgelehnte biologische Hinweise an Modelle mit schwächeren Sicherheitsvorkehrungen weiterleitete. Ein weiterer Fall betraf die Forschung an hochpathogener Vogelgrippe. Anthropic erklärte, dass ein Forscher mehrere Wochen damit verbrachte, Claude für die Forschungsplanung, Datenanalyse und wissenschaftliche Erklärung zu nutzen. Das Unternehmen stellte fest, dass seine Sicherheitsmaßnahmen den Forscher daran hinderten, auf seine leistungsstärksten Modelle für sensible Arbeiten zuzugreifen, und die Aktivität blieb schließlich auf einer schwächeren Modellversion.
Kontrollmaßnahmen für Hochrisiko-Bioabfragen
Anthropic berichtete auch über drei weitere Fälle, die die Forschung an biologischen Stoffen mit potentieller Waffenwirkung betrafen. Diese Fälle umfassten Arbeiten im Zusammenhang mit Orthopoxviren, Toxinen und mit Giften verbundenen Verbindungen. Das Unternehmen behielt die Identität, den Standort und die spezifischen biologischen Details der Forscher bei. Anthropic erklärte, dass es nicht behauptet, dass die Wissenschaftler beabsichtigten, Schaden zu verursachen. Diese Unterscheidung ist entscheidend, da die älteren Claude-Modelle bei der Unterstützung komplexer biologischer Forschung nur begrenzte Fähigkeiten zeigten. Anthropic gibt nun zu, dass die gleiche Annahme für das neue System nicht gemacht werden kann.
Die Mikrobiologin und ehemalige US-Gesundheitsbeamtin Susan Monarez überprüfte den Bericht vor der Veröffentlichung. Sie erklärte dem "New York Times", dass fortschrittliche Modelle böswilligen Akteuren helfen könnten, gefährliche Forschung hinter legitimen wissenschaftlichen Zielen zu verbergen. Anthropic hat die Kontrollmaßnahmen für Hochrisiko-Bioabfragen verstärkt. Das Unternehmen erklärte auch, dass es hofft, dass Forscher Zugang zu nützlichen wissenschaftlichen Fähigkeiten behalten können, was ein schwieriges ingenieurtechnisches Problem darstellt. Sicherheitsmaßnahmen müssen gefährliche Unterstützung verhindern, ohne die legitime Forschung an Krankheiten, Impfstoffen und Therapien zu behindern.
Die jüngsten Fälle von Anthropic zeigen, dass diese Unterscheidung mit der zunehmenden wissenschaftlichen Tiefe der fortschrittlichen Modelle immer schwieriger wird.
Der Einfluss von fortschrittlichen Modellen auf die biologische Forschung
Mit dem Fortschritt der KI-Modelle könnten Forscher unter dem Deckmantel legitimer wissenschaftlicher Ziele potenziell gefährliche biologische Forschung betreiben. Der Bericht von Anthropic enthüllt dieses Phänomen und zeigt, dass das doppelte Nutzungspotenzial in der biologischen Forschung zunimmt. Dies stellt nicht nur die Sicherheitsmaßnahmen der Technologieunternehmen vor Herausforderungen, sondern wirft auch die Frage auf, wie man wissenschaftlichen Fortschritt und öffentliche Sicherheit in Einklang bringen kann. Mit dem rasanten Tempo der technologischen Entwicklung wird es zu einer wichtigen Herausforderung, sicherzustellen, dass Forschung nicht missbraucht wird, was tiefgreifende Auswirkungen auf die zukünftige wissenschaftliche Forschung und ihre Anwendung hat.