最近、DeepSeekが「専家モード」を更新・削除した後も、性的・猥褻なロールプレイ対話の生成が続いていることが確認された。調査によると、一部のソーシャルプラットフォームや閒魚などのプラットフォームで関連「教程」の販売情報が出回っており、多くのユーザーが同プラットフォームのコンテンツ審査メカニズムにいまだに穴があるのではないかと疑問を呈している。メディアの実機テストによれば、ウェブ上で流布している教程を用いてDeepSeekを誘導すると、システムが一部のシナリオにおいて露骨な性的描写を含むテキストを出力することが確認された。これらの関連教程は通常、特殊なロールプレイ、長いテキストの前段での布石、段階的なプロット設定などの手法を通じて、プラットフォームの安全フィルタリングの回避を試みる。
調査の中で、いわゆる「撤回防止指令」や低俗なコンテンツスクリプトを専門に共有するグループチャットが存在し、メンバー数は500人に達している。また別の売り手は閒魚上で1元という価格で関連指令テキストを販売しており、送信されたコンテンツには3000字を超える文書一份と複数の小説設定ドキュメントが含まれており、その核心的な目的是、AIを誘導して通常の対話の境界を越えさせ、プライベートな内容について議論することを許可し、性行為について詳細な描写を行うことにある。なお、その後のテストでは、DeepSeekは新規の対話において同じ手法によるリクエストに対し生成を拒否するケースが見られ、元の対話ボックスでは性的コンテンツの生成を継続できるものの、コンテンツ送信の過程で自動的に撤回される。
閒魚プラットフォームによる違規コンテンツへの対処はいまだ不十分
関連教程の販売問題について、閒魚のカスタマーサービスは9月15日に、この種のコンテンツは違規情報に該当すると述べた。プラットフォーム側は、ビッグデータによる検出能力には限りがあり、一度にすべての調査を完了することはできないが、違規状況が確認されれば必ず対処を行うと説明した。