La IA y las deshumanización de las campañas rumbo a 2027

Aunque la Inteligencia Artificial nació formalmente desde hace 70 años (1956), su uso en las campañas políticas es relativamente nuevo y en México, será la elección de 2027 la primera expuesta a esta nueva tecnología con los alcances que hoy conocemos, en un contexto de generación de contenido deshumanizado y la falta de un marco jurídico que ponga reglas a su uso. 

En entrevista con Campaigns and Elections, el director general de la Agencia de Inteligencia Artificial y Ética Algorítmica (AURA) de la BUAP, Marcelo García Almaguer, comparte los retos, alcances y riesgos de la IA en el proceso electoral del próximo año. 

El académico comparte una realidad innegable, hoy la tecnología de IA aplicada a redes sociales determinan las decisiones más básicas de las personas en su vida cotidiana, que va desde qué comprar hasta a quién amar. 

Pero, ¿quién está detrás de estas decisiones, cuando el 52 por ciento del contenido en internet es sintético, es decir, no hecho por humanos?

García Almaguer plantea una materialización de la Teoría del Internet Muerto, que vislumbra un esenario donde casi todo el contenido en redes sociales es creado por Inteligencia Artificial o de manera automatizada. Esto abre una primera paradoja: la veracidad de los contenidos y el surgimiento de líderes de opinión anónimos para influir en decisiones determinantes como lo es el voto democrático.  

A esto se suma la falta de un marco jurídico que no ha estado a la velocidad de los cambios tecnológicos que caracterizan a la IA, capaz de generar noticias falsas perceptibles como reales hasta para los ojos más entrenados del medio. 

 “Va a ser la primera elección que va a estar en escena frente a la Inteligencia Artificial ¿las instituciones estarán preparadas para lidiar con eso?, ¿los actores políticos estarán preparados para eso?, ¿la sociedad sabrá cómo procesar esa información? porque va a ser tan rápido, que el video o pieza de comunicación que salga y no se desmienta, que no se desacredita en tiempo y forma, entonces va a permear una percepción y va a imperar la ley de la selva porque no hay reglamentación”, advierte García Almaguer. 

Pero la política no es el único campo que penetra la IA y el especialista aborda también sobre el impacto sobre la educación y el trabajo que realiza desde AURA BUAP para alcanzar la soberanía cognitiva, entendida como la autonomía humana de los estudiantes frente al algoritmo.

Aquí la entrevista completa: 

Campaigns and Elections: Se viene una elección y para entender un poco más el uso político de la Inteligencia Artificial, ¿Qué uso principalmente se le puede dar a la IA en las campañas?

Marcelo García Almaguer: Yo estoy ahorita fungiendo como docente y como director general de Aura BUAP, que es una agencia de ética algorítmica, enfocada en todas las ciencias de Inteligencia Artificial. Por lo tanto, lo que te puedo decir es que esta tecnología está trastocando todos y cada uno de los aspectos de la vida cotidiana. Los algoritmos deciden qué compramos, deciden a quién amar-porque hay un emparejamiento por estadística y por perfil-La toma de decisiones se ha ido delegando a los algoritmos y también nos dan recomendaciones por quién votar. 

Todos los aspectos de la vida, desde cine, qué consumir, entrar a los aeropuertos, está siendo vigilado por un sistema de automatización. Esta tecnología tiene letras chiquitas en el contrato y como todo advenimiento tecnológico tiene etapas de un gran momento de entusiasmo, luego se estaciona, luego tiene pausas y luego vuelve a recobrar fuerza.

Ahora estamos viendo los resultados de una tecnología que tiene 70 años, que se masificó a partir de noviembre del 2022 y lo que estamos viendo es que esta tecnología llegó a cambiar la forma en cómo trabajamos o cómo nos comunicamos. 

En la parte electoral, la Inteligencia Artificial está tomando un rol preponderante a partir del advenimiento de las redes sociales. Como tú sabes, las redes sociales, después de 15 años, podemos decir que su modelo de negocios estaba enfocado a monetizar o a tener reconocimiento porque tú subías una nota. No había otro incentivo, eras el que tenía la primicia o eras aquel que recibía una compensación económica por tener un video que se viralizó. 

Hoy, a 15 años de las redes sociales, te puedo decir que nosotros fallamos como generación. Fallamos porque aplaudimos esas redes sociales porque tenían una promesa, que decían que nos iba a conectar con nuestros amigos, que íbamos a conectarnos al mundo. Hoy en día, después de 15 años y de estudios científicos, vemos que hay una generación de la ansiedad, vemos que las redes sociales desestabilizan en procesos electorales, ponen en jaque a las instituciones privadas, públicas, los árbitros electorales no traen una brújula muy clara de cómo lidiar con el tema; Facebook y otras plataformas hoy en día han retirado los controles que antes tenían en los procesos electorales. 

Fue un video de Mark Zuckerberg, donde dijo muy en claro, antes de que asumiera Donald Trump la presidencia, “Meta regresa al origen y vamos a abrir nuestro algoritmo, que no haya controles y que viva la libertad de expresión”. Esa fue una toma de decisión que cambió el algoritmo completamente. Antes había algo de mecanismos para frenar la desinformación. 

Hoy lo que estamos viendo es que estamos en la antesala de una economía algorítmica. Es decir, pasamos de la economía analógica a la digital, la digital estaba basada en un mecanismo de atención. La atención se ha venido reduciendo, hace 15 años teníamos 25-30 segundos de atención, hoy en día, al corte de hoy, la ventana de atención es de tres segundos para formar criterio, lo cual ha abonado a la fragmentación de la atención.

Ahora, agrégale a esa ola, la ola algorítmica, que es una nueva era en la que estamos viviendo. Y la economía algorítmica es muy diversa a la digital, la digital tiene algoritmos y modelos matemáticos muy rupestres, versus lo que es capaz de hacer hoy la Inteligencia Artificial. Hoy esta tecnología no es una nueva tecnología, es una nueva era y está obligando a las instituciones, a los actores políticos, a redefinir los presupuestos de los gobiernos, a redefinir la forma en cómo lidiábamos con esa tecnología. 

Si antes había granjas de personas-porque se contrataban personas para tratar de influir en en las elecciones-hoy vamos a ver agentes de guía especializados para generar nuevos contenidos, videos, imágenes, archivos sonoros, a una escala masificada y ese es el reto que tenemos como sociedad. 

Los árbitros de la contienda deben de allegarse de nuevos recursos, de nueva tecnología y entender los criterios de las nuevas reglas de juego, tratar de solucionar una elección con criterios de hace cinco años sería un error. Hoy debemos de generar nuevas políticas, nuevos lineamientos y una nueva mentalidad para entender los alcances de la masificación de contenido, no por el ser humano, sino por agentes autónomos que tienen una directriz muy clara, inundar las redes sociales con contenido. 

Cerca del 52 % del contenido de redes sociales es automatizado, es sintético, no está hecho por humanos y esa es una cifra avasalladora porque está dándole pie a lo que antes había surgido como la Teoría del Internet Muerto. 

La Teoría del Internet Muerto habla de que si estos porcentajes de contenido siguen incrementando, llega un momento en donde el internet va a estar 98% creado con contenido sintético y 2% con contenido humano. 

Si ya no hay humanos en el internet, el siguiente nivel es generar otro segundo piso de internet, donde en verdad los contenidos sean gobernados por criterio, juicio, imaginación, valoración y no por una estrategia automatizada. Estamos en la antesala de esa teoría, esa teoría se está convirtiendo en una realidad y lo que necesitamos es preservar la experiencia humana. 

Estamos llamados nosotros como sociedad, sí a generar nuevas capacidades, sí a tener un mínimo piso de civismo digital para entender los peligros de la viralización, la desinformación, quién enfoca el mensaje o quién le dedica recursos humanos técnicos y financieros para alimentar una narrativa. 

C&E: Entonces, ahora ¿quiénes van a ser los nuevos líderes de opinión? Anteriormente era el periodista o el conductor de un noticiero, de algún programa de televisión, hoy estamos viendo influencers, pero transitar a un modelo de información sintética, ¿Cómo identificarlos y qué riesgos hay de tener estos líderes de opinión anónimos? 

MGA: Muy buena pregunta. Primero, ha habido un cambio en hábitos de consumo en estas nuevas generaciones y las nuevas generaciones ya no consumen una noticia de un medio en particular, sino las nuevas generaciones, la generación Z, consume las noticias por incidente, es decir, me sale en el feed, la veo, le pongo atención y luego me sigo para adelante, pero no van y teclean la página de un líder de opinión, de un medio de comunicación. 

Sus hábitos de consumo están siendo afectados por dos microtendencias que se están convirtiendo en tendencias. La primera, la programación algorítmica gracias a LLM como ChatGPT y Claude, ahora tienen un nuevo intermediario, que es un LLM, es un Large Language Mode, es un aparato que decide qué información darte.

El usuario está en la expectativa del conserje del hotel que te orienta y te dice: oye, puedes votar por estas personas porque son las que han hecho su trabajo y han hecho una campaña algorítmica para hablarle a los LLM. Entonces ya no es el motor de búsqueda, ya no es el SEO, ahora es el Geo y el Geo es un lenguaje común en que la página de internet, las plataformas de un candidato estén direccionadas y cuente con un propio motor LLM que pueda hablar con ChatGPT o que pueda hablar con Claude o con Gemini. Eso es el nacimiento de una nueva disciplina, que es una campaña algorítmica, ¿Cómo hablarle a esos entes que ahora están tomando decisiones por nosotros?

La segunda microtendencia que ahora se está haciendo tendencia es cómo estos nuevos hábitos de consumo están generando nuevos equilibrios entre los medios de comunicación tradicionales y aquellas personas que son generadores de contenido (no les llamo influencers). El peso de la casa editorial se ha ido devaluando. 

Ya no tiene tanta importancia estar en X, Y o Z medio de comunicación tradicional que ha venido bajando, el declive del consumo de los periódicos está en caída libre y tuvieron que emigrar a redes sociales porque ahí es donde está la gente consumiendo las noticias. 

Están surgiendo estos creadores de contenido, significan actores que tienen mucha visibilidad, ciertos personajes de la noticia que antes estaban en un medio tradicional y ahora migraron a poner su propio medio y están usando su marca personal. La gente está buscando liderazgos confiables, no instituciones o casas editoriales, sino están buscando a la persona. Esto es como cuando hace muchos años decíamos: no, es que la gente ya vota por el candidato, no por el partido. Mismo principio, diferente película. 

Entonces, el periodismo debe de reinventarse, debe de cobrar otro significado y debe de allegarse de Inteligencia Artificial para ser mucho más eficiente y tratar de entender contextos y otras nuevas realidades que la tecnología te puede ayudar a generar un periodismo mucho más serio y más interesante. 

C&E: ¿Qué tanto la Inteligencia Artificial influye ya en un comportamiento de acción en el elector? 

MGA: Yo creo que va a influir bastante porque va a ser la primera elección que va a estar bajo la influencia de Inteligencia Artificial, va a ser un antes y un después porque los deep fakes cada vez más están cobrando un nivel de realismo que el ojo más entrenado se le puede ir, he visto como una ha evolucionado de analógico, digital, algorítmico y te puedo decir, que a diferencia de otros años, hoy hasta el mejor cazador se le va la liebre porque está tan real. El nivel de realismo que tienen estos contenidos es exponencial. 

El problema es cuando tú tengas varios frentes abiertos con una narrativa y el que pueda desmentir a través de un protocolo de actuación, de verificación y validación de contenido, de qué porcentaje sintético y qué porcentaje es humano, es el que va a ganar la guerra de percepción. Esos protocolos no existen, no hay instituciones capaces que puedan identificar eso. 

Va a ser la primera elección que va a estar en escena frente a la Inteligencia Artificial ¿las instituciones estarán preparadas para lidiar con eso?, ¿los actores políticos estarán preparados para eso?, ¿la sociedad sabrá cómo procesar esa información? porque va a ser tan rápido, que el video o pieza de comunicación que salga y no se desmienta, que no se desacredita en tiempo y forma, entonces va a permear una percepción y va a imperar la ley de la selva porque no hay reglamentación. 

Sí hay unos esfuerzos por parte de algunas plataformas para identificar si dicho audio o video se hizo con Inteligencia Artificial, creo que es un gran paso. Ha habido peticiones de parte de gobiernos federales de poner atención máxima cuando se violentan derechos de las mujeres y de los niños, ha habido regulaciones a las redes sociales, pero no a la IA todavía. 

Es un pendiente llegar a la elección sin un andamiaje jurídico por parte de las instituciones que imparten justicia o de las instituciones que velan por el interés de la privacidad y del derecho a la información.

C&E: ¿Qué le queda a los gobiernos o a la instituciones para atender lo que implica la Inteligencia Artificial? parece que su papel se limita a ser reactivo, de contención o de tratar de desmentir narrativas creadas con IA. Hubo una propuesta de plantear una regulación en esta elección para etiquetar los contenidos que sean de IA, ¿es un paso para poder establecer normas? 

MGA: Sí, sin duda es un avance importante. Lo que necesitamos entender-y eso es parte de la tesis de mi nuevo libro “Gobernanza Digital”-es que la tecnología está rebasando a la ética porque no hay este alto en el camino para procesar la información. Y cuando la tecnología es adoptada masivamente, la velocidad aquí juega un rol muy importante porque es exponencial. 

Tenemos otro reto. ¿Quién va a aportar la brújula moral para definir cuál es la dirección correcta que hay que tomar?, ¿para dónde deben de enfocar los recursos económicos, técnicos, las instituciones para blindar, para enseñar, para educar?, no solamente una sociedad con una ventana de atención muy corta, sino enseñarles a las nuevas generaciones.

Sobre todo pedirles que no consulten a ChatGPT por qué candidato van a votar, porque el algoritmo tiene ciertos prejuicios, tiene sesgos cognitivos y hacer una pregunta como tal puede dinamitar el sesgo de toda una generación de 18 a 25 años. 

Debe de imperar una nueva cultura frente a esta nueva tecnología y el camino fácil es recurrir y ceder tu opinión al algoritmo. Es el camino fácil, no es la recomendación. Entérate, investiga, platica, habla con tus vecinos de cuáles son las acciones que están haciendo tus líderes, involúcrate, toma un espacio, genera contenido auténtico, sé original, busca alternativas, y sobre todo, no busques la verdad en un basurero como es Twitter. 

C&E: Y a manera de conclusión, ¿qué expectativas tienes de esta elección con el avance de la Inteligencia Artificial?

MGA: Yo creo que estamos a la expectativa de que las instituciones asuman su responsabilidad, implemente protocolos de verificación y actuación con las nuevas tecnologías.

La transparencia juega un rol importante en torno al contenido de la IA: cuidar mucho el tema de la suplantación de la persona, de los audios, de las voces. Como tú sabes, Dinamarca ya tiene una ley en donde tu cara, tu rostro, tu imagen, tus biométricos ya han sido protegidos por una ley federal y eso es un paso sintético, nosotros no hemos hecho nada al respecto como país. 

Vale mucho la pena la lógica de solicitar auditorías algorítmicas independientes como un análisis forense, como de ciberseguridad, pero enfocado a análisis de contenido; creo que va a ser una nueva modalidad que puede ayudar a descifrar rápidamente si ese video es de verdad o no, si ese video trae una agenda en particular.

Desmentir la respuesta inmediata por parte de los equipos de comunicación debe de ser espectacular, y sobre todo, lo que platicamos al inicio, que los protocolos de actuación y verificación de las instituciones esté bien afinado y entender la lógica de las campañas de desinformación desde la academia, para que podamos entender cuál es la mejor manera de actuar de manera eficaz frente a estas tecnologías que están cambiando nuestra forma en cómo votamos y cómo transitamos en medio de un proceso electoral. 

Entonces, la capacidad técnica es una parte clave, pero sobre todo que las instituciones y los medios de comunicación tengan la habilidad de entender cuáles son sus lineamientos frente a la IA, que los periodistas sean transparentes en el uso de la Inteligencia Artificial, de decir: este artículo fue redactado con ayuda de la IA. Aquí el dilema no es si se usa o no la IA, es qué porcentaje es sintético y qué porcentaje es humano. 

C&E: La IA ¿qué tanto viene a facilitar, a mejorar, a profesionalizar el trabajo de los consultores? o ¿corren el riesgo de ser sustituidos? 

MGA: Pues mira, yo creo que la IA debe de fortalecer la democracia, no debe de sustituir el juicio del consultor político. Si esta tecnología logró quitarnos el fuego de contar historias, entonces, ¿dónde queda el constructor político? 

La experiencia no se improvisa, la transparencia debe de prevalecer en todo y el consultor debe de no caer en el hecho de adjudicarse contenidos, ideas creativas, frases o imágenes hechas con IA. Yo creo que debemos de preservar ese arte de manera empírica, que se ha obtenido en las campañas o de la manera en que han utilizado métodos y metodologías probadas en otras campañas sobre la base de la praxis. 

Soy de la idea de que se debe de resguardar la experiencia humana, ese proceso de lluvia de ideas que sea creativo, hecho por humanos y respetado por humanos y sobre todo el plagio: el plagio intelectual. Yo creo que el consultor debe de estar a la altura, es decir, mira, esto lo hizo la IA, esto lo hice yo. 

C&E: Sobre esta Agencia de Inteligencia Artificial (AURA) de la BUAP ¿cuál es el balance ahorita desde que asumiste la titularidad y cuáles son los proyectos más destacables que tienes en puerta?

MGA: La rectora, Lilia Cedillo, tiene una visión muy clara: esta herramienta se tiene que ver, sí como una ayuda al docente y al estudiante, pero también con ciertas amenazas que ponen en peligro el proceso de enseñanza en el aula. 

¿Y qué necesitamos?, que esas amenazas se puedan convertir en una oportunidad, en ese orden: herramienta, amenaza, oportunidad, no las tres simultáneamente; porque tenemos nosotros que procesar al interior de las universidades cómo está afectando esta tecnología. 

Nosotros en AURA BUAP, lo que hacemos son tres cosas: desarrollo tecnológico, es decir, creamos tecnología de frontera para las humanidades digitales; segundo, formamos y profesionalizamos a los docentes para que puedan adaptar rápidamente la IA, no solamente haciendo prompts, sino entender que lo que está en juego es la pérdida de la autonomía humana de los estudiantes frente al algoritmo porque están cediendo sus decisiones a una máquina; y tercero, es la parte de divulgación científica, para la divulgación científica invitamos personalidades, gente de diferentes ámbitos que nos den su perspectiva para hacer un alto en el camino en procesar esta información. 

En cuanto al desarrollo tecnológico, tenemos dos tecnologías que hemos desarrollado nosotros a lo largo de estos seis meses que llevamos al frente de la Agencia de Inteligencia Artificial: uno es curaduría patrimonial, que es un agente especializado, muy sofisticado, que te da contexto, te da síntesis y puede hacer un análisis a lo largo de tres siglos con información de diferentes autores, considerando su época y sus años; y por otra parte, tenemos otra herramienta que pronto estaremos anunciando con ustedes. La profesionalización del docente es clave, es decir, empoderar al docente con nuevas tácticas, herramientas y con métodos sobre cómo utilizar esta tecnología. 

Este es el equipo de trabajo que está en AURA BUAP y nosotros estamos muy entusiasmados de esta etapa porque la visión de la rectora es muy clara ¿Cómo recuperar la soberanía cognitiva de la gente, del alumno, del docente, del investigador, pero principalmente del alumno?

C&E: Un reto bastante grande, tomando en cuenta lo que ya comentabas de la atención de los tres segundos en estas nuevas generaciones, ¿no?

MGA: Esta generación tiene seis enemigos. Tiene los videojuegos, que ahora es un mecanismo de reclutamiento a través del narco. Cuenta con las redes sociales, que son una plataforma que está desincentivando la autonomía crítica. Tienes esta fragmentación de la atención de tres segundos; tienes la pornografía, que hoy en día el 88% de los contenidos son violentos, es algo que afecta a las nuevas juventudes; y tienes ejemplos como el Metaverso, que se distrae la gente y es una economía alterna.

Todos esos incentivos, incluyendo la IA, y las redes sociales, hay una menor carga de esfuerzo mental por resolver problemas porque el prompt te lo da todo, el prompt te resuelve, ya no hay sudor intelectual.

El esfuerzo cognitivo está siendo reemplazado por esta máquina porque lo que hace la máquina es que te hace una búsqueda, tiene la capacidad de síntesis, tiene niveles de argumentación, desde un niño de primaria que pueda pensar como un premio Nobel o como un premio Nobel que pueda hablar como niño de primaria, tiene esta habilidad de ser escritor. Entonces la evaluación se tiene que cambiar en las aulas y es un cambio profundo, porque entonces si la máquina hace todo esto, entonces ¿dónde queda el proceso de aprendizaje en las universidades? 

C&E: ¿Es lo que está haciendo la BUAP a través de AURA, tratar de profesionalizar?

MGA: Nosotros somos una institución de reciente creación, pero el esfuerzo que está emprendiendo fue encabezado por la rectora, se creó un Consejo Académico de Gobernanza de la Inteligencia Artificial, ese consejo está liderado por la rectora, fue el primer consejo en todo México.

Eso implica que nosotros estamos a la vanguardia y eso es motivo de orgullo porque la rectora está convencida que esta tecnología debemos de enfrentarla, debemos de actuar responsablemente y este Consejo de Académico está integrado por 17 miembros de la comunidad de investigadores, donde hay gente con mucha capacidad y talento para poder orientar los esfuerzos de toda una universidad en nuestra máxima casa de estudios.