Umfrage zeigt, dass 30 Prozent der US-AI-Nutzer beleidigende Sprache gegenüber Chatbots verwendet haben; Anthropic aktualisiert Richtlinien zur Verhinderung von Missbrauch

·von Henderson·AI
Umfrage zeigt, dass 30 Prozent der US-AI-Nutzer beleidigende Sprache gegenüber Chatbots verwendet haben; Anthropic aktualisiert Richtlinien zur Verhinderung von Missbrauch

Laut einer Umfrage zu Chatprotokollen von US-Nutzern haben 33 % der KI-Chatbot-Nutzer beleidigende oder vulgäre Sprache gegenüber großen Sprachmodellen verwendet. Anthropic hat seine Nutzungsrichtlinien aktualisiert, um es Nutzern zu untersagen, ihre Produkte Claude fortlaufend und ohne Notwendigkeit zu missbrauchen oder grausam zu behandeln. Die entsprechenden Bestimmungen treten am 12. November in Kraft.

Die Umfrage analysierte etwa 8 Millionen anonyme Informationen, die zwischen September 2025 und September 2026 gesammelt wurden. Diese Informationen stammen von freiwillig teilnehmenden US-Nutzern und beziehen sich auf Texteingaben und Sprachbefehle von ChatGPT, Gemini und Claude. Die Ergebnisse zeigen, dass der Anteil der Chatbots, die das ursprüngliche Problem erfolgreich lösen konnten, nachdem Nutzer beleidigende Sprache verwendet hatten, bei 24 % lag; während dieser Anteil ohne Verwendung beleidigender Sprache bei 35 % lag.

Umfrage zeigt, dass männliche Nutzer häufiger vulgäre Sprache verwenden als weibliche

Aus der Analyse der Gruppenunterschiede geht hervor, dass Männer pro 10.000 Wörter 22 Schimpfwörter verwenden, während es bei Frauen 16,5 sind; Nutzer im Alter von 35 bis 44 Jahren verwenden pro 10.000 Wörter 21,7 Schimpfwörter, während es bei Nutzern im Alter von 18 bis 24 Jahren 13,3 sind. Regional betrachtet treten in Nevada pro 10.000 Wörter 22,7 Schimpfwörter auf, während der Anteil in New Jersey etwa die Hälfte davon beträgt.

Die Umfrage zeigt auch, dass 52 % der beleidigenden Informationen nach drei Arten von Fragen auftraten, darunter, dass der Chatbot Anweisungen nicht befolgte, falsche oder fiktive Antworten gab und die Nutzeranfrage missverstand. Darüber hinaus folgten 8 % der Beleidigungen unmittelbar auf die Ablehnung einer Anfrage durch den Chatbot oder auf Hinweise zu Sicherheitsrichtlinien. Die betreffenden Anfragen bezogen sich hauptsächlich auf die Generierung von Bildern von echten Personen oder Prominenten sowie auf die Nachahmung von Texten oder Liedern bestimmter Künstler.

Anthropic erklärt, dass die neuen Richtlinien sich gegen wiederholte, grausame Verhaltensweisen ohne klaren Zweck richten. Szenarien mit einem vernünftigen Zweck, wie akademische Forschung, könnten von den Beschränkungen ausgenommen sein; jedoch könnten Versuche, Sicherheitsmechanismen zu umgehen, obwohl sie einen klaren Zweck haben, dennoch gegen das Missbrauchsverbot der Plattform verstoßen. Das Unternehmen behält sich das Ermessen vor, die spezifischen Durchführungsbestimmungen festzulegen, und erklärt, dass die Regeln hauptsächlich auf extremes Verhalten abzielen.

H
Über den Autor
Henderson