Umfrage zeigt, dass 30 % der US-Nutzer von KI beleidigende Sprache gegenüber Chatbots verwendet haben, Anthropic aktualisiert Richtlinien zur Verhinderung von Missbrauch

·von Henderson·AI
Umfrage zeigt, dass 30 % der US-Nutzer von KI beleidigende Sprache gegenüber Chatbots verwendet haben, Anthropic aktualisiert Richtlinien zur Verhinderung von Missbrauch

Laut einer Umfrage zu Chatprotokollen von US-Nutzern haben 33 % der KI-Chatbot-Nutzer beleidigende oder vulgäre Sprache gegenüber großen Sprachmodellen verwendet. Anthropic hat seine Nutzungsrichtlinien aktualisiert und verbietet es Nutzern, ihre Produkte Claude fortlaufend und unnötig zu missbrauchen oder grausam zu behandeln. Die entsprechenden Bestimmungen treten am 12. November in Kraft.

Die Umfrage analysierte etwa 8 Millionen anonyme Informationen, die zwischen September 2025 und September 2026 gesammelt wurden. Diese Informationen stammen von freiwilligen Teilnehmern aus den USA und betreffen Texteingaben sowie Sprachbefehle zu ChatGPT, Gemini und Claude. Die Ergebnisse zeigen, dass der Chatbot in 24 % der Fälle das ursprüngliche Problem erfolgreich löste, nachdem Nutzer beleidigende Sprache verwendet hatten; ohne beleidigende Sprache lag dieser Wert bei 35 %.

Umfrage zeigt, dass männliche Nutzer häufiger vulgäre Sprache verwenden als weibliche

Betrachtet man die Gruppendifferenzen, verwenden Männer pro 10.000 Wörter 22 Schimpfwörter, während Frauen 16,5 verwenden; Nutzer im Alter von 35 bis 44 Jahren verwenden pro 10.000 Wörter 21,7 Schimpfwörter, während Nutzer im Alter von 18 bis 24 Jahren nur 13,3 verwenden. Regional betrachtet, treten in Nevada pro 10.000 Wörter 22,7 Schimpfwörter auf, während der Wert in New Jersey etwa die Hälfte beträgt.

Die Umfrage zeigt außerdem, dass 52 % der beleidigenden Informationen nach drei Arten von Problemen auftraten, darunter, dass der Chatbot Anweisungen nicht befolgte, falsche oder erfundene Antworten gab und die Nutzeranfrage missverstand. Darüber hinaus folgten 8 % der Beleidigungen unmittelbar auf die Ablehnung einer Anfrage durch den Chatbot oder die Ausgabe von Sicherheitshinweisen, wobei die betreffenden Anfragen häufig die Generierung von Bildern von realen Personen oder Prominenten sowie das Nachahmen von Texten oder Songtexten bestimmter Künstler betrafen.

Anthropic erklärt, dass die neuen Richtlinien sich gegen wiederholte, grausame Handlungen ohne klaren Zweck richten. Szenarien mit einem vernünftigen Zweck, wie akademische Forschung, könnten von den Einschränkungen ausgenommen sein; jedoch könnten Handlungen, die darauf abzielen, Sicherheitsmechanismen zu umgehen, obwohl sie einen klaren Zweck haben, dennoch gegen die Missbrauchsrichtlinien der Plattform verstoßen. Das Unternehmen behält sich das Ermessen vor, die spezifischen Bestimmungen durchzusetzen, und erklärt, dass die Regeln hauptsächlich auf extremes Verhalten abzielen.

H
Über den Autor
Henderson