Anthropic hat offiziell bekannt gegeben, dass das Unternehmen eine Kooperation mit der gemeinnützigen Organisation METR begonnen hat, um seinen KI-Modellen Mitarbeiterzugriffsrechte für eine umfassendere unabhängige Bewertung zu gewähren. Diese Initiative ist Teil des Engagements des Unternehmens, das es im vergangenen Monat zur Stärkung der unabhängigen Drittbewertung seiner Modelle und Sicherheitspraktiken abgegeben hat.
Gründe für die Zusammenarbeit mit unabhängigen Evaluatoren
Mit der zunehmenden Leistungsfähigkeit der Modelle steigen auch die Anforderungen an Sicherheitsmaßnahmen und Risikobewertungen. Anthropic erklärt, dass das Unternehmen Verantwortung für die getroffenen Entscheidungen übernehmen möchte, jedoch nicht alle sicherheitsrelevanten Informationen öffentlich teilen kann, da bestimmte Informationen von böswilligen Akteuren ausgenutzt oder geschäftlich sensibel sein könnten.
„Wir möchten die Kluft zwischen dem Verständnis der Evaluatoren über die Systeme führender KI-Unternehmen und dem Verständnis des Unternehmens selbst verringern.“
Anthropic
Die Rolle von METR und die Bewertungsmethoden
METR wird für die Bewertung der Risikoberichte von Anthropic verantwortlich sein und die Ergebnisse der Risikobewertungen öffentlich zugänglich machen. Anthropic hat bereits mehrere Risikoberichte in Zusammenarbeit mit METR überprüft und plant, die Kooperation mit weiteren Evaluierungsorganisationen, einschließlich SecureBio und Accenture, weiter zu intensivieren.
„Unser Ziel ist es, sicherzustellen, dass unsere Partner in der Lage sind, vertrauliche Informationen zu schützen und über die erforderlichen Ressourcen und Fachkenntnisse zur Bewertung unserer Modelle verfügen.“
Anthropic
Zugriffslevel der Evaluatoren und deren Auswirkungen
Anthropic plant, drei Zugriffslevel für die Evaluatoren festzulegen, wobei die Informationszugriffsrechte der Evaluatoren mit der Vertiefung der Zusammenarbeit schrittweise erhöht werden. Evaluatoren der ersten Stufe werden eine enge Risikobewertung durchführen, während Evaluatoren der zweiten Stufe Ergebnisse ohne Genehmigung des Unternehmens veröffentlichen können. Die Zusammenarbeit mit METR gehört zur dritten Stufe und gewährt ähnliche Zugriffsrechte wie die von Mitarbeitern.
„Wir glauben, dass jedes führende KI-Unternehmen ähnliche eingebettete Bewertungsmaßnahmen ergreifen sollte.“
Anthropic
Diese Reihe von Maßnahmen stellt einen wichtigen Schritt von Anthropic in Richtung Regulierung der KI-Sicherheit dar und zielt darauf ab, die Transparenz und Verantwortlichkeit seiner Modelle zu stärken.