Nadie podrá decir que no estábamos avisados.
El Reino Unido acaba de anunciar que su economía crece a un ritmo muy superior al previsto gracias al impulso de la inteligencia artificial. También Estados Unidos, incluso el crecimiento mundial se apoya en el desarrollo de la nueva tecnología, que ha llevado las bolsas a máximos pese a las sucesivas crisis geopolíticas. La carrera de la IA preside nuestros días, ante el miedo a quedarse atrás o directamente fuera. Las alertas lanzadas esta semana desde Anthropic, no obstante, han puesto en primer plano algo mucho más preocupante en la escala del miedo: ¿la IA puede acabar con la humanidad?
Mientras Anthropic alerta de los riesgos de la tecnología, las grandes potencias se pronuncian contra su regulación
Es el apocalíptico mensaje lanzado esta semana por Jacob Coxon, un investigador de Anthropic de 27 años que ha decidido dejar la compañía a lo grande: mis ex jefes y los de OpenAI están enfrascados en una carrera por liderar una tecnología que puede acabar con todos nosotros sobre el 2030. Podría parecer el mensaje de revancha de un empleado despechado, pero solo minutos después Evan Hubinger, responsable en la misma empresa del control de estos sistemas, confirmaba que “creemos seriamente que la IA podría matar a toda la humanidad”. Este jueves, Anthropic remachaba el clavo con un informe sobre el mal uso de la IA que documenta casos en los que se han superado todos los controles existentes para utilizar sus modelos en el posible desarrollo de armas biológicas.
El líder de Anthropic, Dario Amodei, pero también otras muchas voces desde empresas destacadas de la IA llevan tiempo alertando de los riesgos y de la necesidad de una acción gubernamental global coordinada para regular los límites de esta tecnología. El dramatismo de las últimas llamadas de atención pueden acabar despertando conciencias, aunque de momento estamos muy lejos. La semana pasada, el responsable científico de OpenAI, Jakub Pachocki, admitía que los modelos de IA evolucionan tan rápido que es cada vez más difícil mantenerlos bajo control. Una prueba de ello llegó en julio, cuando agentes creados por la IA de su compañía se saltaron todos los controles y lanzaron por su cuenta, sin instrucciones humanas, un ataque coordinado sobre la compañía tecnológica Hugging Face.
En el G-20
“No regulen un daño hipotético, teórico”, defendió el primer ejecutivo de Nvidia, Jensen Huang, ante los líderes de las grandes economías
Ese mismo mes, unos 1.300 representantes del sector de la IA, entre ellos Amodei y cargos destacados de Open AI, Google DeepMind y Meta, hicieron pública una declaración en la que urgían al Gobierno de EE.UU. a apoyar un esfuerzo internacional para desarrollar “herramientas técnicas y de gobernanza” que puedan controlar el desarrollo de la tecnología y “comprar tiempo para hacer frente a los riesgos emergentes”. Insistían en su declaración en que en ausencia de controles internacionales, “cada compañía, cada país, está bajo una intensa presión competitiva” para seguir en una peligrosa aceleración hacia adelante.
Por el momento, sin embargo, gana el campo contrario. Desde quienes opinan que las alertas de Anthropic podrían ser tan sólo una estrategia de marketing para asentar su liderazgo a quienes apuntan que Jacob Coxon sigue instrucciones del Partido Demócrata, se ha puesto en marcha una estrategia de apoyo a la política anti regulación del presidente de EE.UU.
En la reunión del G-20 celebrada la semana pasada, la Administración Trump presionó para aprobar un acuerdo internacional sobre la materia, pero precisamente en contra de una regulación. La declaración evita muy significativamente utilizar el término IA y en ella las mayores economías del mundo apoyan al que en la industria se conoce como el campo “aceleracionista”. El documento pone énfasis en una serie de medidas para minimizar la carga regulatoria. Aunque habla de un desarrollo “responsable”, el verbo “acelerar” se repite 1.200 veces en el texto, que defiende el impacto positivo de estas tecnologías y no menciona ninguno de los posibles riesgos.
En apoyo de esta posición, Elon Musk y el primer ejecutivo de Nvidia, Jensen Huang, intervinieron ante los líderes del G-20 y ambos se pronunciaron contra cualquier barrera regulatoria a la IA. En palabras de Huang, “no regulen un daño hipotético, teórico”.
Miedo al mal uso
Se suceden las alertas sobre que es cada vez más difícil mantener bajo control los modelos más evolucionados de IA
Por contra, el gobernador del Banco de Inglaterra y actual presidente del Consejo Financiero de Estabilidad, Andrew Bailey, presentó ante el G-20 una carta de advertencia en la que mostraba su preocupación sobre los riesgos para la ciberseguridad y la estabilidad del sistema financiero. “Muchos países no tienen protocolos en marcha para gestionar el lanzamiento y desarrollo de modelos avanzados de IA, lo que agrava los riesgos para el sistema financiero”, subrayó. Preocupante, sin duda, aunque sus advertencias palidecen ahora ante lo que llega desde la propia industria.
