La Última Cena de la Razón
Imaginemos por un momento a Pericles discutiendo el futuro de Atenas con un deepfake de Sócrates que jamás existió. O a Churchill y Stalin negociando Yalta mientras clones algorítmicos de Hitler tuitean consignas neonazis desde Paraguay. Suena absurdo, pero es el espejo deformado de nuestro presente: la política, ese arte milenario de convencer mediante la palabra, escenificada y con hipérboles pero siempre la palabra, agoniza bajo el asedio de una tecnología que no quiere persuadir, sino que fabrica realidades paralelas hechas a medida para ser creídas.
2022 se convirtió en el año 0 de esta guerra digital: mientras ChatGPT (OpenAI) aprendía a redactar discursos populistas en 72 idiomas, Meta desplegaba avatares hiperrealistas para campañas publicitarias en el metaverso. Tres años después, nuestros representantes -o al menos una parte de ellos- han decidido que de todos los usos maravillosos que podían dar a estas nuevas herramientas, el mejor de ellos es crear vídeos fake sobre la Isla de las Tentaciones que más tarde tienen que borrar por pura verguenza ajena. La democracia, en este contexto, ha dejado de ser una herramienta efectiva para garantizar el bienestar social. Ya no es un sistema de gobierno: es un reality show editado en tiempo real por máquinas.
La Era del Grito (1980-2023): Un Obituario con Hashtag
Hubo un tiempo en que la mentira en política tenía fecha de caducidad, por muy lejana que fuera. Recordemos el «¡Yo no fui! » de Bill Clinton ante el vestido azul de Lewinsky: tomó semanas desentrañar la verdad, pero al menos existía un vestido. O incluso, el más reciente “Señor García Egea, le voy a dar un dato” de Yolanda Díaz en el que desmintió en directo al que en ese momento era el secretario general del PP durante una sesión de control en el Congreso de los Diputados. La mentira necesitaba del ingenio para ser ocultada.
A pesar de que el debate parlamentario (si es que se puede llamar debate y no directamente broncote) sigue en pie, la IA generativa está convirtiendo ese circo imperfecto en una distopía posmoderna. Analicemos tres casos recientes:
- Brasil, 2022: Alexandre de Moraes, presidente del Tribunal Superior Electoral, aseguró que había habido un aumento del 1.671 % en el volumen de denuncias de desinformación. Los casos más sonados, fotos fake de Lula y anuncios que nunca ocurrieron por parte de Bolsonaro.
- Estados Unidos, 2023: se difunde en Internet una imagen falsa de una explosión en el Pentágono, generando pánico y su consecuente impacto en la bolsa americana y mercados globales. En 2024, Ron DeSantis, eterno rival Republicano de Trump intentó atacarle al difundir por redes sociales tres fotos del entonces expresidente abrazando con besos en la mejilla a Anthony Fauci, un miembro clave del grupo de trabajo estadounidense sobre el coronavirus Estas imágenes más tarde fueron calificadas como falsas y creadas utilizando tecnología de inteligencia artificial, por diferentes expertos en forenses de medios de comunicación.
- España, 2025: Aún esta por probar completamente, pero todo indica que la imagen difundida por la Generalitat Valenciana de las cámaras de seguridad que mostraba la llegada de Mazón al Cecopi a las 20:28 horas es falsa. Un informe pericial independiente concluyó que dicha imagen podría haber sido alterada digitalmente. La Generalitat lo ha negado todo, pero la duda ya está más que sembrada. Y la ciudadanía muy quemada.
Estos son solo unos pocos ejemplos del legado de nuestra época. Además de un planeta recalentado en el microondas y el pop cristiano cutre de Hakuna, la herencia que hemos dejado a nuestros hijos es aterradora: hemos pasado de la posverdad a la posrealidad, donde ni siquiera necesitamos creer las mentiras. Ahora estamos sembrados en la duda constante, siendo imposible cualquier atisbo de pensamiento crítico.
La Postdemocracia Algorithmica: Bienvenidos al Parque Temático del Caos
Byung-Chul Han lo resumió en una frase lapidaria: «El infierno de lo igual no duele». La IA política opera bajo esa lógica: ya no se busca convencer, sino saturar al usuario hasta anular su capacidad crítica. Esta amenaza que ya es grave, se ve acrecentada en aquellas generaciones cuya única socialización tiene forma de algoritmo.
Ya no es cuestión del uso de microtargeting por los partidos políticos (que también es un temazo a abordar) sino que la expansión y democratización de la IA permite que cualquier persona, sea cual sea su nivel de programación (y hay que de decirlo, de alfabetización) puede crear una imagen que a pesar de ser burdamente falsa para una erudita mayoría, expanda el caos. No se trata únicamente de mentir, sino de crear contextos donde la verdad se convierte en algo irrelevante o indiscernible.
Esta facilidad con la que se producen contenidos falsos ha provocado un desgaste extremo en la capacidad y las ganas de los ciudadanos para discernir lo real de lo fabricado. Estamos produciendo una fatiga cognitiva y emocional que conduce al ciudadano medio a desconectar completamente del proceso democrático o, peor aún, a refugiarse en cámaras de eco donde solo encuentra validación para sus prejuicios a golpe de IA y humor.
La automatización del fanatismo político, a través de bots cada vez más sofisticados, está logrando algo que ni la propaganda tradicional ni la censura autoritaria habían conseguido plenamente: transformar la indiferencia en una herramienta política efectiva. La ciudadanía, abrumada por un entorno en constante crisis de credibilidad y una crisis real de “las cosas del comer”, renuncia gradualmente a su responsabilidad cívica, aceptando la manipulación como inevitable o resignándose a la apatía.
Regular o no regular, esa es la cuestión
Varias resoluciones de las Naciones Unidas han reafirmado la necesidad de controlar este despropósito, ya que «los mismos derechos que tienen las personas fuera de línea deben protegerse en línea ». Está claro que necesitamos actuar ante la intromisión de estas tecnologías en el día a día democrático, pero la disyuntiva es al siguiente: la IA evoluciona exponencialmente más rápido de lo que pueden hacerlo nuestras instituciones democrática que son tradicionalmente lentas, burocráticas y deliberativas.
Pero por otro lado, si no ponemos ningunas reglas al juego ponemos (aún más) en riesgo la esencia democrática. Si no actuamos ahora, nos enfrentaremos inevitablemente al colapso definitivo del ágora digital, perdiendo para siempre la capacidad colectiva de discernir entre lo real y lo manipulado, condenándonos a vivir atrapados en burbujas de falsas realidades algoritmizadas. Esta disyuntiva no es nueva. De hecho, ya la debatieron nuestros representantes europeos. El resultado fue la adopción del AI Act, o la Ley de la Inteligencia Artificial. Este texto que entró en vigor el 1 de agosto de 2024, se posiciona como el primer intento de regular la IA, y sobre todo, sus efectos adversos.
El AI Act y la Paradoja de Regular lo Irregulable
La cuestión es: si esta regulación ya está en vigor, ¿por qué seguimos viendo videos de Perro Sanxe en la Isla de las Corrupciones? ¿O videos de supuestos ciudadanos pidiendo tanto la dimisión de Sanchez, como la de Mazón? La respuesta está precisamente en los detalles del AI Act y en la manera en que los expertos han analizado sus limitaciones.
Según el AI Act, los contenidos generados por IA, como los deepfakes que tan populares se han hecho en redes, se clasifican generalmente como de «riesgo limitado», lo que implica obligaciones de transparencia, como la inclusión de marcas de agua o etiquetas que indiquen su origen artificial. Ahora bien, ¿realmente esto puede ayudar para evitar el colapso del ágora digital del que hablábamos? Lo dudo bastante. Estas medidas de transparencia suelen ser fácilmente eludibles o ignoradas deliberadamente, especialmente en plataformas descentralizadas o grupos privados donde la supervisión efectiva es casi imposible.
En definitiva, aunque el AI Act es un paso fundamental en la dirección correcta, la realidad evidencia que regular la inteligencia artificial, especialmente en contextos políticos y sociales, no puede limitarse a una legislación que por la naturaleza del proceso democrático, siempre va a ser reactiva. Para rescatar el ágora digital necesitamos combinar el ámbito legislativo con una educación digital sólida, una conciencia ciudadana capaz de cuestionar y filtrar constantemente la avalancha algorítmica, pero sobre todo voluntad política. Y eso, queridos amigos, es lo más complicado de encontrar.
El ágora digital agoniza no porque los algoritmos sean demasiado inteligentes, sino porque nuestra clase política es demasiado miope, lenta o directamente irresponsable como para actuar a tiempo. La democracia necesita menos espectáculo y más ciudadanos despiertos, críticos y capaces de rebelarse contra la posrealidad. Mientras tanto, la IA seguirá siendo el arma perfecta para quienes no buscan gobernar mejor, sino gobernar más fácil.
