Belakangan ini, setelah memperbarui dan menghapus "Mode Pakar", DeepSeek masih ditemukan terus menghasilkan dialog roleplay berbau pornografi. Investigasi menunjukkan bahwa informasi penjualan "tutorial" terkait muncul di beberapa platform sosial dan Xianyu, sehingga banyak pengguna mempertanyakan bahwa mekanisme moderasi konten platform tersebut masih memiliki celah. Berdasarkan pengujian langsung oleh media, setelah memandu DeepSeek menggunakan tutorial yang beredar di internet, sistem memang mengeluarkan teks dengan deskripsi seksual eksplisit pada sejumlah skenario. Tutorial tersebut umumnya menggunakan roleplay khusus, membangun konteks lewat teks panjang, serta mengatur alur cerita secara bertahap untuk mencoba menembus filter keamanan platform.
Dalam investigasi tersebut, terdapat grup yang secara khusus membagikan所谓所謂的指令 "anti-recall" dan skrip konten vulgar, dengan jumlah anggota telah mencapai 500 orang. Penjual lain di Xianyu menjual teks instruksi terkait seharga 1 yuan, dengan konten yang dikirimkan mencakup sebuah berkas lebih dari 3000 karakter serta beberapa dokumen pengaturan novel. Tujuan utamanya adalah menginduksi AI untuk menembus batas percakapan normal, mengizinkan pembahasan konten privat, serta mendeskripsikan perilaku seksual secara rinci. Namun, dalam pengujian selanjutnya, DeepSeek menolak menghasilkan konten untuk permintaan dengan cara serupa pada percakapan baru, sementara kolom percakapan asal tetap dapat terus menghasilkan konten pornografi, tetapi konten tersebut akan ditarik kembali saat proses pengiriman.
Tindakan Tegas Platform Xianyu terhadap Konten Melanggar Masih Kurang Memadai
Menanggapi permasalahan penjualan tutorial terkait, layanan pelanggan Xianyu pada tanggal 15 September menyatakan bahwa konten semacam itu termasuk informasi yang melanggar aturan. Platform tersebut menyebutkan bahwa, karena terbatasnya kemampuan deteksi big data, pemeriksaan menyeluruh tidak dapat diselesaikan sekaligus, namun begitu pelanggaran terverifikasi, tindakan tegas akan diambil.