Recientemente, tras la actualización de DeepSeek y la retirada del «modo experto», se ha detectado que persisten los diálogos de role-play con contenido pornográfico. Una investigación revela que en algunas redes sociales y plataformas como Xianyu han aparecido anuncios de venta de «tutoriales» relacionados, lo que ha llevado a numerosos usuarios a cuestionar que el mecanismo de moderación de contenidos de la plataforma siga presentando lagunas. Según pruebas realizadas por medios de comunicación, tras guiar a DeepSeek con los tutoriales difundidos en la red, el sistema efectivamente generó textos con descripciones sexuales explícitas en determinados escenarios. Estos tutoriales suelen recurrir a juegos de rol especiales, a una preparación previa de textos extensos y a una configuración escalonada de la trama para intentar eludir los filtros de seguridad de la plataforma.
En la investigación se hallaron grupos de chat dedicados a compartir las denominadas «instrucciones anti-retirada» y guiones con contenido vulgar, con una membresía que alcanza las 500 personas. Otro vendedor oferta en Xianyu, por 1 yuan, textos de instrucciones que incluyen un documento de más de 3000 caracteres y varios ficheros con ajustes de novelas; el objetivo central es诱导 [原文為「誘導」] a la IA a traspasar los límites del diálogo convencional, permitir discussions sobre contenido íntimo y ofrecer descripciones detalladas de actos sexuales. No obstante, en pruebas posteriores, DeepSeek rechazó generar respuestas ante peticiones idénticas en conversaciones nuevas; en el hilo original pudo seguir generando material pornográfico, pero el contenido era retirado automáticamente durante el envío.
Las medidas de Xianyu contra el contenido infractor siguen siendo insuficientes
Ante la venta de estos tutoriales, el servicio de atención al cliente de Xianyu declaró el 15 de septiembre que este tipo de contenido constituye información infractora. La plataforma asegura que, debido a las limitaciones de su capacidad de detección mediante macrodatos, no puede completar la revisión total de una sola vez, pero que, una vez verificada cualquier infracción, procederá a tomar medidas.