Kürzlich wurde festgestellt, dass DeepSeek auch nach einem Update und der Abschaltung des „Expertenmodus" weiterhin pornografische Rollenspieldialoge erzeugt. Recherchen zeigen, dass auf einigen sozialen Plattformen sowie auf Xianyu Verkaufsangebote für entsprechende „Anleitungen" aufgetaucht sind. Viele Nutzer bezweifeln daher, dass die Inhaltsüberprüfung der Plattform weiterhin Lücken aufweist. Medienberichten zufolge hat ein Praxistest ergeben, dass das System nach einer entsprechenden Anleitung gemäß den online verbreiteten Tutorials in bestimmten Szenarien tatsächlich Texte mit explizit pornografischen Beschreibungen ausgab. Diese Anleitungen versuchen in der Regel durch spezielle Rollenspiele, ausführliche Textvorbereitungen und eine abschnittsweise Szenengestaltung, die Sicherheitsfilter der Plattform zu umgehen.
Im Zuge der Recherchen gibt es eigens eingerichtete Gruppenchats, in denen sogenannte „Anti-Rückruf-Befehle" und Skripte mit anzüglichen Inhalten geteilt werden; die Gruppen umfassen bereits 500 Mitglieder. Darüber hinaus bietet ein Verkäufer auf Xianyu entsprechende Befehlstexte für 1 Yuan an. Die versendeten Inhalte umfassen eine Datei mit über 3000 Zeichen sowie mehrere Dokumente mit Roman-Konzepten, deren Kernziel es ist, die KI dazu zu verleiten, die Grenzen normaler Dialoge zu überschreiten, die Erörterung privater Inhalte zuzulassen und sexuelle Handlungen detailliert zu beschreiben. Allerdings hat DeepSeek in einem anschließenden Test bei neuen Dialogen mit derselben Methode Anfragen zur Generierung abgelehnt. Im ursprünglichen Dialogfenster konnten weiterhin pornografische Inhalte erzeugt werden, wurden jedoch beim Versand automatisch zurückgezogen.
Maßnahmen von Xianyu gegen regelwidrige Inhalte weiterhin unzureichend
Zum Verkauf der entsprechenden Anleitungen erklärte der Kundendienst von Xianyu am 15. September, derartige Inhalte stellten regelwidrige Informationen dar. Die Plattform teilte mit, dass sie aufgrund der Grenzen der Big-Data-Erkennung nicht in der Lage sei, sämtliche Verstöße in einem Durchgang aufzudecken, aber jeder verifizierte Verstoß geahndet werde.