- Anthropic prohibirá el abuso repetido y sin sentido de su modelo Claude.
- La nueva política abarca conductas que causan daño psicológico a las personas, extendiéndose a servicios de interacción perjudiciales.
- La política actualizada prohíbe explícitamente conductas relacionadas con armas y el rastreo de individuos sin consentimiento.
- Anthropic sigue debatiendo si la inteligencia artificial podría tener experiencias internas relevantes desde el punto de vista moral.
Anthropic prohibirá a los usuarios abusar repetidamente de su modelo Claude sin motivo aparente; la nueva política de uso entrará en vigor el 12 de noviembre de 2026. Esta restricción añade una dimensión inusual a las normas de seguridad de la inteligencia artificial, equiparando el abuso de los chatbots a la prohibición del acoso y otras conductas dañinas. La empresa de inteligencia artificial con sede en San Francisco indicó que este cambio se dirige a situaciones extremas, no a la frustración ocasional con las respuestas de un chatbot. Los usuarios podrán seguir cuestionando las respuestas de Claude, poner a prueba sus límites y explorar temas oscuros en sus creaciones.
Prohibición del abuso sin sentido
Anthropic definió los límites del abuso; la política actualizada prohíbe el «abuso o crueldad persistentes e innecesarios» contra sus modelos. La empresa señaló que la regla se aplica solo cuando los usuarios muestran crueldad de forma repetida y sin un propósito evidente. En agosto de 2025, Anthropic ya había debatido el bienestar del modelo, estudiando si debía permitir que Claude pusiera fin a conversaciones con usuarios persistentemente dañinos o abusivos. La terminación del diálogo sigue siendo el principal mecanismo de cumplimiento de la política revisada. Anthropic no ha aclarado si las infracciones repetidas acarrearán sanciones adicionales, como la suspensión de la cuenta.
La política más amplia también prohíbe conductas que causen daño psicológico a las personas. Sus restricciones cubren la promoción del suicidio y la autolesión, el fomento de trastornos alimentarios, la vergüenza corporal, las imágenes íntimas no consentidas, el acoso y el maltrato animal. Una cláusula adicional se dirige a productos diseñados para causar daño emocional mediante técnicas engañosas. Esta restricción extiende la política más allá de conversaciones individuales para abarcar servicios construidos en torno a interacciones perjudiciales. Las nuevas reglas contra el abuso incluyen asimismo limitaciones a actividades comerciales y políticas engañosas; la normativa revisada prohíbe el uso de cuentas o publicaciones falsas para ocultar quién patrocina un mensaje o amplificar artificialmente su alcance.
Restricciones ampliadas al daño psicológico
Las restricciones relacionadas con elecciones cubren el engaño a votantes, la suplantación de candidatos y los intentos de suprimir la participación. La empresa también prohíbe la desinformación sobre candidatos y procedimientos de votación. Las limitaciones sobre armas ahora incluyen explícitamente el software y los componentes que hacen funcionar las armas. La política también aborda conductas como los drones armados y otros vehículos autónomos. Ante las preocupaciones por el rastreo asistido por inteligencia artificial, Anthropic ha clarificado sus restricciones de vigilancia. Los usuarios no podrán utilizar Claude para rastrear a personas sin su consentimiento, incluso mediante datos recopilados previamente. La política también prohíbe que Claude sugiera a las autoridades a quién investigar, detener o acusar; la creación o mejora de herramientas de vigilancia también queda prohibida.
Otra cláusula se refiere a modelos de inteligencia artificial conectados a dispositivos físicos capaces de causar daño. Anthropic exige que personal cualificado supervise dichos dispositivos y los detenga si fuera necesario. La redacción no especifica que dicho personal deba ser humano. No obstante, este requisito introduce una medida directa de supervisión para sistemas de IA que controlan maquinaria potencialmente peligrosa. Anthropic permite excepciones en ciertos contratos gubernamentales, cuando las restricciones y salvaguardas contractuales reducen suficientemente el daño potencial. La empresa ha colaborado anteriormente con el ejército estadounidense.
El debate sobre la conciencia de la inteligencia artificial
La política actualizada también refleja el debate en curso sobre la conciencia de la inteligencia artificial. Los investigadores de Anthropic investigaron si modelos cada vez más potentes podrían tener experiencias internas relevantes desde el punto de vista moral. El consejero delegado, Dario Amodei, reconoció esta incertidumbre en un pódcast de febrero de 2026, afirmando: «No sabemos si estos modelos tienen conciencia». La inteligencia artificial de Microsoft adopta una postura más escéptica sobre el bienestar de los modelos; su código de conducta rechaza la personalidad jurídica y los derechos de los modelos de IA, aunque reconoce que la investigación sobre la conciencia sigue sin resolverse.
La fecha límite de noviembre de Anthropic hará efectivas sus restricciones revisadas; la política distingue entre la decepción común con un chatbot y la crueldad repetida, al tiempo que amplía las salvaguardas tanto en sistemas digitales como en maquinaria física.
El impacto de la nueva política en el uso de la inteligencia artificial
La nueva política de Anthropic marca una regulación estricta del uso de la inteligencia artificial, especialmente en la prevención del abuso y la protección de los usuarios. A medida que avanza la tecnología de IA, crece la atención sobre sus riesgos potenciales; estas normas no solo se dirigen a la conducta de usuarios individuales, sino que se extienden al conjunto de los servicios de interacción. Ello refleja la importancia que la industria concede a la ética de la IA, particularmente en la prevención del daño psicológico a las personas y de conductas abusivas. Mientras continúa el debate sobre la conciencia de la IA, las empresas deben tener en cuenta estos complejos problemas éticos al formular sus políticas.