- Anthropic wird sinnlosen wiederholten Missbrauch seines Claude-Modells verbieten.
- Die neue Richtlinie umfasst Verhaltensweisen, die Menschen psychisch schädigen, und erstreckt sich auf Dienste für schädliche Interaktionen.
- Die aktualisierte Richtlinie verbietet ausdrücklich waffenbezogene Handlungen sowie das Verfolgen von Personen ohne deren Einwilligung.
- Anthropic erörtert weiterhin, ob künstliche Intelligenz möglicherweise über moralisch relevante innere Erfahrungen verfügen könnte.
Anthropic wird Nutzern verbieten, sein Claude-Modell sinnlos wiederholt zu missbrauchen; die neue Nutzungsrichtlinie tritt am 12. November 2026 in Kraft. Diese Beschränkung fügt den KI-Sicherheitsregeln eine ungewöhnliche Dimension hinzu, indem sie den Missbrauch von Chatbots neben die Verbote von Belästigung und anderen schädlichen Verhaltensweisen stellt. Das in San Francisco ansässige KI-Unternehmen erklärte, die Änderung ziele auf Extremfälle ab, nicht auf ungewöhnliche Enttäuschung über Chatbot-Antworten. Nutzer können weiterhin Claudes Antworten infrage stellen, dessen Grenzen testen und in kreativen Werken dunkle Themen erkunden.
Verbot sinnloser Missbrauchshandlungen
Anthropic definierte die Grenzen von Missbrauch; die aktualisierte Richtlinie verbietet „anhaltende und unnötige Missbrauchs- oder Grausamkeitshandlungen“ gegenüber seinen Modellen. Das Unternehmen erklärte, die Regel gelte nur für Fälle, in denen Nutzer ohne erkennbaren Zweck wiederholt grausames Verhalten an den Tag legten. Anthropic hatte bereits im August 2025 das Wohlergehen des Modells erörtert und geprüft, ob Claude Gespräche mit anhaltend schädlichen oder missbräuchlichen Nutzern beenden sollte. Die Beendigung von Gesprächen bleibt der primäre Durchsetzungsmechanismus unter der überarbeiteten Richtlinie. Anthropic hat noch nicht klargestellt, ob wiederholte Verstöße zusätzliche Sanktionen wie Kontosperrungen nach sich ziehen.
Die umfassendere Richtlinie verbietet auch Verhaltensweisen, die Menschen psychisch schädigen. Ihre Beschränkungen umfassen die Förderung von Suizid und Selbstverletzung, die Ermutigung zu Essstörungen, Body-Shaming, nicht einwilligende intime Bilder, Belästigung und Tierquälerei. Eine Klausel zielt zudem auf Produkte ab, die darauf ausgelegt sind, durch Täuschungstechniken emotionalen Schaden zu verursachen. Die Beschränkung weitet die Richtlinie über einzelne Gespräche hinaus auf Dienste aus, die um schädliche Interaktionen herum aufgebaut sind. Neben den Regeln gegen Missbrauch hat Anthropic auch Beschränkungen für täuschende geschäftliche und politische Aktivitäten integriert; die überarbeiteten Regeln verbieten die Nutzung gefälschter Konten oder Beiträge, um zu verschleiern, wer eine Nachricht sponsert, oder um deren Reichweite künstlich zu vergrößern.
Erweiterte Beschränkungen bei psychischen Schäden
Wahlbezogene Beschränkungen umfassen Wählertäuschung, die Nachahmung von Kandidaten und Versuche, die Wahlbeteiligung zu unterdrücken. Das Unternehmen verbietet zudem Falschinformationen über Kandidaten und Wahlverfahren. Waffenbeschränkungen decken nun ausdrücklich Software und Komponenten ab, die den Betrieb von Waffen ermöglichen. Die Richtlinie befasst sich auch mit Verhaltensweisen wie bewaffneten Drohnen und anderen autonomen Fahrzeugen. Auf Bedenken hinsichtlich KI-gestützter Überwachung hin hat Anthropic seine Überwachungsbeschränkungen klargestellt. Nutzer dürfen Claude nicht nutzen, um Personen ohne deren Einwilligung zu verfolgen, auch nicht mithilfe zuvor gesammelter Daten. Die Richtlinie verbietet zudem, dass Claude empfiehlt, wen Behörden untersuchen, festnehmen oder anklagen sollten; auch der Aufbau oder die Verbesserung von Überwachungstools fällt unter die Beschränkungen.
Eine weitere Klausel betrifft KI-Modelle, die mit physischen Geräten verbunden sind, die Schaden verursachen können. Anthropic verlangt, dass qualifiziertes Bedienpersonal solche Geräte überwacht und sie bei Bedarf stoppt. Die Formulierung schreibt nicht ausdrücklich vor, dass das Bedienpersonal menschlich sein muss. Dennoch führt diese Anforderung eine direkte Aufsichtsmaßnahme für KI-Systeme ein, die potenziell gefährliche Maschinen steuern. Anthropic lässt Ausnahmen bei bestimmten Regierungsverträgen zu, wenn vertragliche Beschränkungen und Schutzmaßnahmen potenzielle Schäden ausreichend verringern. Das Unternehmen hatte zuvor mit dem US-Militär zusammengearbeitet.
Die Debatte um KI-Bewusstsein
Die aktualisierte Richtlinie spiegelt auch die anhaltende Debatte um KI-Bewusstsein wider. Anthropics Forscher untersuchten, ob zunehmend leistungsfähige Modelle möglicherweise über moralisch relevante innere Erfahrungen verfügen könnten. CEO Dario Amodei räumte in einem Podcast im Februar 2026 diese Ungewissheit ein und erklärte: „Wir wissen nicht, ob diese Modelle Bewusstsein haben.“ Microsofts KI-Abteilung vertritt eine skeptischere Haltung zum Wohlergehen von Modellen; ihre Verhaltensrichtlinien lehnen Rechtspersönlichkeit und Rechte für KI-Modelle ab, obwohl sie anerkennt, dass die Bewusstseinsforschung weiterhin ungelöst ist.
Anthropics November-Frist lässt seine überarbeiteten Beschränkungen in Kraft treten; die Richtlinie unterscheidet zwischen gewöhnlicher Chatbot-Enttäuschung und wiederholter Grausamkeit und weitet gleichzeitig Schutzmaßnahmen auf digitale Systeme und physische Maschinen aus.
Die Auswirkungen der neuen Richtlinie auf die KI-Nutzung
Anthropics neue Richtlinie markiert eine strenge Regulierung der KI-Nutzung, insbesondere bei der Verhinderung von Missbrauch und dem Schutz von Nutzern. Mit dem Fortschritt der KI-Technologie wächst die Besorgnis über potenzielle Risiken; diese Richtlinien zielen nicht nur auf das Verhalten einzelner Nutzer ab, sondern erstrecken sich auf gesamte Interaktionsdienste. Dies spiegelt die wachsende Bedeutung wider, die die Branche der KI-Ethik beimisst, besonders bei der Verhinderung psychischer Schäden an Menschen und missbräuchlicher Verhaltensweisen. Da die Erörterung um KI-Bewusstsein anhält, müssen Unternehmen diese komplexen ethischen Fragen bei der Richtliniengestaltung berücksichtigen.