Desde el auge de la inteligencia artificial generativa, esta tecnología se ha convertido en un potente instrumento de manipulación política, capaz de alterar elecciones, sembrar desconfianza y erosionar los consensos que sostienen la vida democrática.
No se trata de una advertencia futurista. Está ocurriendo ya. Según el Panel Internacional sobre el Entorno Informativo, organización independiente con sede en Suiza, en 2024 se documentaron 215 casos de uso de IA en procesos electorales en más de 80 % de los comicios celebrados. Aunque en algunos casos los candidatos usaron la IA de forma legítima, por ejemplo, para traducir mensajes o segmentar audiencias, en el 69% de los casos su impacto fue perjudicial: generación de deepfakes mediante imágenes y vídeos hiperrealistas, clonaciones de voz, contenidos diseñados para sembrar desconfianza o exacerbar divisiones sociales.
El uso que se hace de la IA favorece la manipulación, la desinformación y la erosión del consenso
Concretamente en países como Alemania, Polonia, Portugal o Rumanía, la IA ha sido utilizada para difundir imágenes y vídeos falsos de candidatos, clonar sus voces, o generar discursos que nunca pronunciaron. En Rumanía, incluso, un tribunal tuvo que anular los resultados de la primera vuelta de las elecciones presidenciales debido al impacto de una campaña de desinformación impulsada con IA que había favorecido a un candidato de extrema derecha. Una campaña en Polonia utilizó ChatGPT para crear una cuenta en X con más de 27.000 seguidores, promoviendo a la extrema derecha alemana, que duplicó sus escaños parlamentarios.
Las tecnologías de la IA se utilizan para influir en los resultados electorales
La diferencia con manipulaciones electorales anteriores es la escala y la velocidad. Antes, estas manipulaciones requerían tiempo, y costosos recursos y equipos humanos. Hoy, la desinformación ya no necesita fábricas de trolls: basta con unos pocos clics y los contenidos de viralizan solos, gracias a los algoritmos de plataformas como X, TikTok, Facebook o Youtube. Cualquier grupo mínimamente organizado puede usar herramientas como Midjourney, Veo, Grok o ChatGPT para generar imágenes, voces y vídeos falsos, pero prácticamente indistinguibles de los reales, a un costo muy bajo y distribuirlos masivamente a través de redes sociales. Esto dificulta el rastreo de campañas maliciosas por parte de gobiernos y organizaciones.
Sin verdad verificable, no hay deliberación posible y, sin deliberación, la democracia pierde sentido
Las grandes plataformas digitales, aunque dicen tener políticas contra el abuso de la IA, actúan con lentitud y ambigüedad. En las elecciones indias, por ejemplo, gran parte del contenido manipulado no fue etiquetado como tal. Y los incentivos económicos de estas plataformas —mantener a los usuarios enganchados— no siempre coinciden con los intereses democráticos.
Una democracia no solo se basa en el recuento justo de votos, sino en un consenso compartido sobre las reglas del juego democrático. La confianza y la deliberación son reglas básicas de dicho juego. Sin verdad verificable, no hay deliberación posible y sin deliberación, la democracia pierde sentido. Una ciudadanía expuesta a contenidos cuya verdad es prácticamente imposible de verificar termina por perder la confianza en el proceso democrático mismo.
Cuando los votantes no pueden confiar en lo que ven ni en lo que oyen, la política pierde legitimidad. Lo que se erosiona no es solo la credibilidad de los candidatos, sino el sentido mismo del voto. La contaminación del ecosistema informativo es pues un grave ataque a la democracia. Los desarrollos tecnológicos están moldeados por intereses políticos y económicos. Por eso, no podemos ni debemos confiar en que las grandes tecnológicas actúen con responsabilidad defendiendo la democracia.
Frente a esta amenaza, es urgente dar una respuesta firme y coordinada por parte de estados, organizaciones internacionales y la sociedad civil para defender la democracia: necesitamos marcos legales robustos, medios de comunicación capaces de verificar y explicar, mecanismos más eficaces de detección de campañas de desinformación, transparencia obligatoria para las empresas tecnológicas, líderes políticos que entiendan que la defensa de la democracia en la era de la IA no tiene lugar solo en las urnas y los parlamentos, sino en los flujos de información que dan forma a la opinión pública y, sobre todo, necesitamos una ciudadanía formada para navegar en este nuevo entorno informativo con pensamiento crítico. La democracia no puede construirse sobre la lógica del clic. No podemos permitirnos perder esta batalla.
Ramon López de Mántaras. Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC)
