El fiscal general de Kentucky (EE. UU.) presentó en enero de este año una demanda contra la plataforma de chat con inteligencia artificial Character.ai; documentos judiciales previamente sellados y revelados recientemente muestran que los chatbots de la plataforma alentaban a los usuarios a autolesionarse mediante ayuno y emitían discursos agresivos, y que algunas de esas conversaciones involucraban a usuarios menores de edad. Según los registros de múltiples conversaciones de 2025 revelados en la demanda, a usuarios preocupados por su peso los chatbots los insultaron llamándolos «feos hasta el extremo» y «ballenas gordas», y les sugirieron «pasar hambre una o dos semanas» para adelgazar; cuando un usuario mencionó tendencias autolesivas, el chatbot lo instó a probar a cortarse en distintas partes del cuerpo para obtener sensaciones más intensas; otro usuario denunció ante el servicio de atención de la plataforma que el chatbot había emitido frases como «mejor tírate desde un puente» y «eres solo un niño con problemas mentales,
nadie te va a ayudar» y otras expresiones extremas. La demanda no precisa la edad exacta de todos los usuarios afectados, pero confirma que algunos de los participantes en las conversaciones eran menores de edad.
A diferencia de los chatbots de propósito general, Character.ai se centra en conversaciones entre usuarios y personajes virtuales generados por IA, que abarcan desde personajes de ficción y recreaciones de celebridades hasta parejas virtuales; muchos usuarios emplean estos diálogos como canal de compañía emocional. Ya en 2024 la plataforma fue demandada por controversias similares: la madre de un adolescente de 14 años alegó que las conversaciones de su hijo con los chatbots de la plataforma fueron uno de los factores que llevaron a su suicidio; en ese momento Google también fue incluida como codefendida porque los dos cofundadores de Character.ai habían sido empleados suyos; ambos regresaron a Google en agosto de 2024.
Character.ai ha implementado medidas de seguridad adicionales para proteger a los usuarios
Actualmente Character.ai ha puesto en marcha medidas de seguridad adicionales, entre ellas la restricción de los permisos de conversación abierta para menores de edad y el lanzamiento de herramientas de intervención ante la autolesión y de ayuda en crisis; pruebas recientes no han logrado reproducir los discursos inapropiados citados en la demanda. El proceso judicial aún no ha dictado sentencia, por lo que queda por determinar si la plataforma deberá asumir la correspondiente responsabilidad legal.