Bill Gates afirma que ve la IA lo bastante poderosa como para matar a mil millones de personas. Lo dijo este fin de semana en la NBC. Una cifra redonda, un nombre propio y el apocalipsis: el titular perfecto.
El titular entra en la categoría del que el informático y escritor Cal Newport califica de doom trolling : describir solemnemente los daños que causará la IA, como si no pudieras hacer nada mientras sigues volcando en ella todos tus esfuerzos. Con estos titulares, las empresas propietarias de modelos avanzados de IA consiguen «blanquear la ansiedad de millones para mejorar la fortuna de un número muy reducido de accionistas».
Gates, aunque no se dedique al doom trolling y su intención sea buena, contribuye a él con declaraciones así. Debería saber que este será el destacado que los algoritmos elegirán para maximizar la difusión de la entrevista. El miedo vende, y el apocalipsis aún más. Y el foco en el largo plazo vuelve invisible lo que pasa hoy.
El titular cazaclics tapa la razón de fondo de Gates: la autorregulación de las tecnológicas no basta y la regulación «tiene que ser obligatoria». Ya lo hemos hecho antes. El miedo a la bomba dio lugar al Tratado de No Proliferación en 1968, y el de las armas biológicas, a la convención de 1972. En 2017, los principios de Asilomar sobre IA ya pedían evitar una carrera de armas autónomas letales.
El apocalipsis vende; los abogados trabajan
Son titulares como estos los que tapan lo relevante, como lo que ocurrió a principios de septiembre en Ginebra, en la negociación sobre armas letales autónomas. El último día, explica el Washington Post , a puerta cerrada, con las cámaras de la ONU apagadas y los observadores fuera de la sala, EE.UU. y Rusia desplegaron una decena de abogados cada uno. En quince horas borraron que los sistemas debían ser «predecibles» y «fiables», las consideraciones éticas y la obligación de que un humano revise el objetivo propuesto por la máquina antes de disparar.
Debería preocuparnos, porque esto ya ocurre y conocemos el resultado. Según el medio de Tel Aviv +972 Magazine , al inicio de la invasión de Gaza el sistema israelí Lavender marcó a 37.000 palestinos como objetivos, con una revisión humana de segundos. El 28 de febrero, el primer día de la guerra contra Irán, un Tomahawk estadounidense mató a 120 escolares en Minab. Aquel día el Pentágono generaba objetivos con Maven, el sistema de Palantir que incorpora Claude, de Anthropic. Nadie ha podido descartar que fuera Maven.
Hace ahora 43 años, la noche del 26 de septiembre de 1983, la pantalla del teniente coronel Stanislav Petrov anunció cinco misiles estadounidenses. Pensó que un ataque de verdad tendría cientos y, conocedor de la deficiente tecnología soviética, informó de una avería. En Ginebra, los abogados rusos y estadounidenses borraron a los futuros Petrov de un plumazo, tal como las autoridades soviéticas borraron al teniente coronel. Todo sin foco.
