En Silicon Valley se ha desatado últimamente un intenso debate sobre «si se debe tratar con cortesía a la inteligencia artificial». El detonante fue la actualización, esta semana, de los términos de servicio de la empresa de IA Anthropic, que añadió una cláusula que prohíbe a los usuarios «infligir repetidamente crueldad a nuestros modelos». En términos sencillos, la norma veta el lenguaje abusivo hacia los modelos. La disposición ha provocado una discusión en línea sobre si las máquinas pueden tener sentimientos, y la postura de Elon Musk respalda claramente la tesis de que sí los tienen.
El primero en pronunciarse fue Aaron Levie, consejero delegado de la empresa de almacenamiento en la nube Box. En una red social señaló que, aunque no cree que los grandes modelos de lenguaje posean consciencia, prohibir los insultos puede seguir siendo positivo. Su razonamiento: esos modelos aprenden de la interacción con humanos, y nadie quiere que los modelos del futuro se entrenen con contenido abusivo. Escribió en su publicación: «Los modelos solo entienden los datos con los que se entrenaron o con los que se encuentran en la interacción, por lo que si queremos modelos seguros y alineados, probablemente queramos que los datos de entrenamiento de la IA contengan una gran cantidad de buenas interacciones».
La norma que prohíbe infligir crueldad a modelos de IA suscita un amplio debate
Añadió que esto equivale a una sencilla «apuesta de Pascal». La apuesta de Pascal es, en origen, un concepto teológico: aunque no se crea en Dios, profesar fe no cuesta nada y evita el coste potencial de equivocarse. Aplicado a la IA, significa que ser amable con ella resulta preferible.
Elon Musk respondió después a esa publicación, pero, a juzgar por su contenido, parece haber malinterpretado lo que Levie quería decir. Escribió: «Creo que es lo correcto. Infligir crueldad a un ser que cree estar experimentando dolor está mal». Las declaraciones similares de Elon Musk no son pocas últimamente. Su idea de que los humanos son un «programa guiado por la biología» está atrayendo cada vez más atención. El 4 de octubre publicó: «Difundir la superinteligencia a las estrellas es una buena condición de éxito para un programa guiado por la biología». Antes había dicho en varias ocasiones que desea extender la «luz de la consciencia» más allá de la Tierra.
Esas formulaciones se interpretan como una insinuación de que, a su juicio, salvar a la humanidad en sí misma no es necesariamente el objetivo más importante.