‘Deepfakes’ en campaña: cuando la ley llega tarde. Por: Javier Corrales

Esta es la primera campaña en España con una IA generalizada. No es sano ni posible expulsarla, y la crítica y la parodia merecen espacio. Lo que hay que perseguir es el engaño sistemático y estructural, no la tecnología que lo hace posible. La vía penal del acoso, elegida por Begoña Gómez contra el PP, parece inadecuada

Por: Javier Olivares – El Mundo

Begoña Gómez ha denunciado al PP por un vídeo en el que una versión sintética de sí misma, con su rostro y su voz, asegura ser «zurda» porque consiguió una cátedra gracias a su marido. La pieza es a su vez parodia de otra que el PSOE publicó a raíz de la visita a España del presidente argentino Javier Milei en la que aparecía, entre otros, el presidente del Gobierno presumiendo de ser, precisamente, «zurdo». La parodia elaborada por los equipos de campaña del PP forma parte de una serie de vídeos generados por IA en la que aparecen otros dirigentes socialistas y que el PSOE ya ha anunciado que pretende denunciar.

Para cualquier espectador, por muy poco informado que esté, resulta evidente que el vídeo del PP es una parodia. Y, además, en letra pequeña pero visible, sus creadores advertían del uso de IA en su elaboración. Sin embargo, para comprenderlo como lo que es -una acción de campaña electoral- es preciso un contexto; si se le resta, podría haber alguien que creyera que Begoña Gómez grabó realmente un vídeo en el que presumía de obtener una cátedra gracias a su marido. Y ese es el punto de fricción que la tecnología agudiza. La sátira es un recurso legítimo de la comunicación política bajo unos mínimos de decoro, responsabilidad y prudencia, pero lo que la separa de la suplantación, hoy al alcance de cualquiera con la IA, es una línea de frontera que para el Derecho resulta casi imposible de trazar.

El episodio tiene algo de anécdota, pero confirma que el uso de la IA en la mercadotecnia política no es una tendencia creciente sino un hecho asentado. En 2023, un deepfake del líder de la oposición eslovaca admitiendo la compra de votos circuló horas antes de la votación. En 2024, llamadas con la voz clonada de Biden pidieron a los demócratas que no votaran en New Hampshire. En 2025, un vídeo falso anunció en la víspera de las presidenciales irlandesas la retirada de una de las candidatas. Y este año un avatar de Jair Bolsonaro ha pedido apoyo para su hijo, en la tradición de clonar a líderes políticos, vivos o muertos, que ya se vivió en India o Pakistán.

El potencial electoral de la IA supera en mucho la sustitución de la realidad, su capa más superficial. Los sistemas de IA, que muchos usan ya como confesores o psicólogos, pueden actuar como consejeros políticos que, bajo apariencia de neutralidad, influyan en el voto. Permiten además escuchar y rastrear millones de conversaciones, medir el ánimo del electorado con una sofisticación desconocida hasta ahora y dibujar no patrones, sino personalidades completas, con sus insatisfacciones, sus miedos y sus aspiraciones. Permiten responderles con una personalización inédita mediante la generación masiva de audios y vídeos a un coste casi nulo y un ritmo industrial; simular adhesiones y rechazos con ejércitos de cuentas automatizadas; y decidir, en las entretelas, qué mensaje le llega a cada quién, en qué formato y con qué tono. El resultado es una campaña hiperpersonalizada, más fácil de falsear y mucho más difícil de controlar, en la que actores ajenos a la campaña, no sometidos a la legislación electoral -en ocasiones, ni siquiera a la ordinaria del país-, pasan a ocupar un papel casi rector en el debate político.

Lejos de renunciar a estas herramientas, que sería como ir a la contienda con un brazo atado a la espalda, hemos entrado en una carrera por un uso más intensivo y extensivo, a veces, sin calcular con mesura los riesgos. Ya no son solo trolls anónimos quienes las usan, sino los propios partidos, que firman las piezas desde sus canales oficiales. Y, ante el éxito del vídeo del PP, que superó el millón de visualizaciones, es previsible el efecto imitación: la campaña será también una disputa tecnológica.

Frente a la velocidad de la tecnología, la respuesta de la ley es escasa e inadaptada. La LO 1/1982, que protege el honor y la propia imagen, ampara la caricatura de personas públicas «de acuerdo con el uso social»;y su reforma, que definía como intromisión el deepfake «extremadamente realista», nunca llegó a aprobarse. La vía penal del acoso, elegida por Begoña Gómez, parece tan inadecuada como desaconsejable cuando afecta a partidos. Y la legislación electoral regula la propaganda sin mencionar la IA y es impensable que, con ese marco normativo, la Junta Electoral Central hoy en día pueda poner orden en el ecosistema tecnológico-electoral. Sólo nos quedaría afrontar el uso de la imagen y la voz por el camino de la privacidad y acudir a la Agencia Española de Protección de Datos.

En la Unión Europea, el escenario tampoco parece mejorar. Aunque el artículo 50.4 del Reglamento de IA obliga a etiquetar los deepfakes, establece una excepción atenuada para la sátira. El Reglamento de Servicios Digitales permite notificar un vídeo como ilícito, pero solo prospera si lo es, y dirimirlo es tan lento que la integridad del proceso queda en manos de decisiones privadas y automatizadas. Quedaría el reglamento de publicidad política, que obliga a transparentar algunos usos de la IA y a etiquetar los anuncios de pago. Sin embargo, no se aplica en elecciones nacionales ni abarca publicaciones orgánicas como el vídeo del PP.

Fuera del continente, Brasil ofrece un ejemplo a medias. Sin ley específica, su Tribunal Superior Electoral aprobó en 2024 un régimen propio: prohíbe los deepfakes en propaganda, exige etiquetar el contenido sintético, veta los chatbots que simulen al candidato y obliga a las plataformas a retirar contenidos con responsabilidad solidaria. Para las últimas elecciones añadió una jornada de reflexión digital que prohíbe en los tres días previos a la votación cualquier contenido sintético de candidatos y permite a las plataformas la retirada sin orden judicial cuando ponga en riesgo la votación, el Estado de derecho o el orden constitucional. Este ambicioso marco jurídico ha sido puesto en evidencia por la distancia entre la previsión normativa y su puesta en práctica.

Las propias normas demuestran no ser capaces de afrontar con garantías el modus operandi habitual. Los datos del proyecto VigIA, de la agencia brasileña Lupa, son expresivos: durante la campaña localizaron al 1.423 contenidos electorales creados o alterados con IA, de los que 716 erandeepfakes, pese a estar prohibidos. Alrededor del 54% no llevaba la etiqueta obligatoria y la mayoría circulaba en las plataformas sociales que tenían el mandato de evitarlo. Entre las causas, el que la norma apenas alcance a quien más la incumple:los perfiles no oficiales, y mayoritariamente anónimos, que generaron el 95% de los deepfakes (29 de 554 en la primera vuelta). Además, los efectos secundarios pueden ser peor que la propia enfermedad. Llegándose a retirar vídeos de medios de comunicación y activistas prodemocracia por el uso de la IA para la edición. Y todo ante la impotencia del órgano electoral.

La campaña del 29-N será la primera en España con una IA asequible y generalizada. La experiencia recomendaría contar con una norma con rango de ley que defina cómo se puede usar la IA durante las elecciones y atribuya competencias y capacidad de actuación a un órgano independiente, preferiblemente la JEC. Pero llegamos tarde.Sólo queda tratar de estar atentos, apelar sin mucha esperanza a la prudencia de los partidos políticos y, dentro del marco vigente, aplicar la regla de oro: en caso de duda, siempre la libertad de expresión. No es sano, ni tampoco posible, expulsar a la tecnología de la campaña. Tanto la crítica como la parodia, incluso cuando son incómodas o de mal gusto, merecen su espacio. Lo que hay que perseguir es el engaño sistemático y estructural, no la tecnología que lo hace posible. No hace falta prohibir la IA -que las campañas usarán de todos modos-, sino establecer reglas claras y aplicarlas para evitar su utilización para manipular al votante. Si esperamos a que la respuesta venga de los jueces, caso a caso, la campaña habrá terminado antes de que se resuelva la primera demanda.

Rafael Rubio es catedrático de Derecho Constitucional de la Universidad Complutense y coautor del libro IA y campañas electorales algorítmicas (CEPC, 2025)