Anthropics Leiter für internationales Geschäft, Guillaume Princen, sagte in einem Interview mit Bloomberg Television beim internationalen KI-Gipfel in Dublin, dass offene Modelle im Vergleich zu den firmeneigenen KI-Modellen bei Cybersicherheitsvorfällen oder anderen Gefahren ein „höheres Risiko“ aufweisen. Er wies darauf hin, dass man bei Sicherheitsfragen bei Open-Source-Modellen äußerst vorsichtig sein müsse, und betonte, dass er nicht für offene Modelle sprechen könne, aber dass diese per Definition tatsächlich ein höheres Risiko bergen.
Hintergrund dieser Äußerung ist, dass Anthropic in einigen Ländern zunehmendem Wettbewerb ausgesetzt ist. Die derzeit beachtete Alternative zu Closed-Source-Modellen sind Open-Weight-KI-Modelle, die ihre Parameter veröffentlichen, Nutzern eigene Modifikationen erlauben und auf eigener Hardware betrieben werden können. Befürworter argumentieren, dass Open-Weight-Modelle im Vergleich zu den streng kontrollierten Closed-Source-Modellen von Anthropic und OpenAI kostengünstiger seien und besser zur Wahrung der nationalen Souveränität beitrügen. Das französische KI-Unternehmen Mistral AI brachte kürzlich ein Open-Weight-Modell auf den Markt, das Europa eine souveräne Modellalternative bietet; zugleich gewinnen eine Reihe ähnlicher offener Modelle chinesischer Unternehmen auf Auslandsmärkten zunehmend an Aufmerksamkeit.
Anthropics Sicherheitsbedenken gegenüber offenen Modellen nehmen weiter zu
Anthropic hat in jüngster Zeit seine Warnungen vor KI-Fähigkeiten stetig verschärft. Anfang dieser Woche warnte das Unternehmen, dass kleine KI-Modelle bald eine neue Art von Botnets hervorbringen könnten, die sich zwischen vernetzten Kleingeräten wie intelligenten Öfen selbst replizieren können. Princen ist zugleich für den Vertrieb von Anthropic an Start-ups und „digital native“-Unternehmen zuständig. Er erklärte, die Sorge vor Open-Weight-Modellen rühre von den Anstrengungen Anthropics her, die Produktsicherheit zu gewährleisten. Nach mehreren vielbeachteten KI-Hacking-Vorfällen habe Anthropic zusätzliche Sicherheitsvorkehrungen getroffen, um zu verhindern, dass seine Modelle für böswillige Zwecke missbraucht werden.
Das Unternehmen vertritt zudem weiterhin die Position, dass die KI-Entwicklung verlangsamt werden sollte, bevor internationale Standards etabliert und ein einheitlicher Bewertungsmechanismus geschaffen sind.
Auf die Frage nach den teureren hauseigenen Modellen erklärte Princen, er sage Unternehmenskunden, dass der Kauf leistungsstärkerer Modelle sich letztlich auszahle. „Man muss immer in Spitzentechnologie investieren. Denn in sechs Monaten, einem Jahr oder zwei Jahren werden die Nutzungskosten für diese Anwendungsfälle ebenfalls sinken“, sagte er. Zudem erwähnte er, dass das neueste Claude-Modell Opus 5.5 des Unternehmens 40 % günstiger sei als die vorherige Version. Er fügte hinzu, dass Unternehmenskunden, die Anthropics „Frontier“-Modelle erwerben, einen „sehr großen Anteil“ am Unternehmensgeschäft ausmachten, nannte aber keine konkreten Zahlen.
Zu Anthropics IPO-Plänen lehnte Princen eine Stellungnahme ab; auch zur Frage, wie viel das Unternehmen in das Training neuer Modelle investiert habe, wollte er sich nicht äußern.