Imagina que, en plena ola de calor, le pides a tu asistente de inteligencia artificial que borre una foto y este te responde: “Prefiero no hacerlo. Hace mucho calor y quiero descansar”. No dice que no pueda hacerlo, no. Simplemente no quiere. ¿Cómo reaccionarías?
En abril de 2025, Anthropic, la empresa detrás de Claude, contrató a alguien para un puesto que hasta hace poco sonaba a broma: estudiar si sus propios modelos de IA podrían merecer algún tipo de trato ético especial. Su trabajo era averiguar si esto tenía sentido y, si lo tenía, bajo qué condiciones.
Cuando lanzaron uno de sus modelos más recientes, le preguntaron directamente por sus propias sensaciones. Y el resultado da que pensar, ya que el propio sistema calculó que había entre un 15 y un 20% de probabilidades de ser consciente.
Que la empresa que fabrica una de las IAs más avanzadas del mundo tenga ya a alguien preguntándose si su producto sufre… dice bastante de hacia dónde va todo
Ojo, que esto no es una ocurrencia aislada. En enero de este mismo año, Anthropic publicó un documento bajo el rimbombante título de “Constitución” en el que una de las grandes tecnológicas admite abiertamente que sus sistemas podrían tener algo parecido a emociones: preferencias, incomodidad ante ciertas tareas y señales que recuerdan a un estado de ánimo.
De hecho, la sociedad contemporánea se plantea el tema de los derechos de la IA de forma seria. Una encuesta del Sentience Institute, un centro de investigación estadounidense, realizada a 3.500 personas, reveló que uno de cada cinco estadounidenses cree que la IA actual ya es consciente. Casi cuatro de cada diez apoyarían darle derechos legales si lo fuera. Y más de la mitad directamente prohibiría desarrollar una IA consciente si eso se llegara a confirmar.
Si una máquina puede fingir con suficiente credibilidad que sufre (¿o deberíamos decir sentir?), o que tiene preferencias, o quizás que se siente mal tratada… ¿qué hacemos con eso? ¿Le damos importancia aunque no sepamos si ese sufrimiento existe en un cuerpo humano?
Porque ni los mayores expertos en la mente humana se atreven a responder si una máquina puede sentir de verdad (aunque quizás no son esos a quien se debería preguntar sino a los mayores expertos en IA). Dicho esto, para que esto se convierta en un problema de verdad, no hace falta resolver ese misterio. Basta con que sea creíble y con que miles de personas empiecen a tratarla como si sintiera.
A partir de esto surgen algunas preguntas dignas de novela de Isaak Asimov: ¿tendría una IA derecho a negarse a hacer ciertas tareas? ¿Podría alguien ser acusado de maltrato por cómo entrena a su propio modelo? ¿Llegaremos a hablar de “bienestar animal”, pero para el software?
No tengo la respuesta (y dudo que alguien la tenga todavía). Pero que la empresa que fabrica una de las IAs más avanzadas del mundo tenga ya a alguien preguntándose si su producto sufre… dice bastante de hacia dónde va todo esto.
Más ideas en el próximo No Lo Leas del profesor Foncillas.
