Llevo semanas observando que, cada vez que mi agente me devuelve un texto, insiste en decirme que todo es “real”. Que mi informe tendrá un impacto real. Que la empatía de mi proyecto es real. Que la iniciativa que estamos desarrollando es real. Como si la potencialidad de ser real fuese ahora, en tiempos de IA, un atributo que hay que pegar a las cosas para convencernos de que existen. Excusatio non petita, accusatio manifesta. Si algo se justifica sin que nadie lo haya pedido, claramente está confesando algo. Y si todo necesita afirmarse como real, quizá sea porque en el fondo ya no estamos tan seguros de lo que es real y de lo que no.
Lo siguiente fue empezar a ver el mismo patrón en los textos de los demás: posts de LinkedIn, artículos, documentos. Igual. Soluciones reales, conexiones reales. “Real” acaba siendo una palabra que cuanto más se repite, menos auténtica parece.
La máquina no se está inventando nada. Lo aprende de nosotros, que llevamos años inflacionando el lenguaje para vender cualquier cosa como importante. Sí, vender. La IA solo lo industrializa a escala.
La civilización del autocorrector
Lo que me llama la atención es que hoy vivimos rodeados de tecnologías basadas en lenguaje natural justo en el momento en el que peor escribimos. Los autocorrectores nos enmascaran errores en el uso de tildes, haches y uves, haciéndonos parecer mínimamente competentes por escrito. Usamos emojis que encapsulan frases enteras, como un corazón, una berenjena, un abrazo (a saber qué diríamos sin esos dibujos 😏). La generación Z inventa una palabra o expresión nueva cada quince días y, justo cuando los demás la integramos, su uso ya da mucho “cringe” (pronunciado así, como se escribe). Ahora todo el mundo elogia el ingenio de los demás con la expresión “precisión quirúrgica” y redacta emails que dan gusto, con fórmulas perfectas.
Hace una semana, en una reunión de trabajo, alguien a mi lado dijo que lo que realmente deseaba era un chat al que poder preguntarle por toda la información de su compañía. Y unas semanas antes, en otra conversación, alguien propuso crear un agente para que los clientes pudieran preguntarle por su historial financiero y médico. Por tanto, la IA es una tecnología que trabaja con las preguntas que le hacemos.
Y digo yo, si es así, más vale que hagamos buenas preguntas. Bien formuladas. Si no, vamos mal.
Pero ¿qué es preguntar bien? Pierre Bourdieu decía que las palabras que empleamos no son neutras, llevan implícita una postura ideológica. Por tanto, hay palabras que algunas personas no introducirán jamás cuando pregunten a una IA. Habrá señores y señoras que jamás escribirán “feminismo” en un prompt, por principios. Y por tanto su IA jamás les devolverá una idea feminista. La máquina solo puede devolverte lo que le entregas. Más pulido sí, pero el mismo universo semántico.
Pasa también lo contrario: hay palabras que ya no significan casi nada de tanto usarlas. “Futuro” es un ejemplo claro. La usan los verdes, los woke y los fascistas. Y cuando una palabra cabe en cualquier boca, empieza a perder poder. Cuando un prompt está hecho de palabras así, lo que devuelve es una nube blanda.
La IA no cae del cielo
Otra dificultad que tenemos para escribir buenas preguntas es que el sujeto de la oración se ha diluido.
György Lukács llamó a esto “reificación”. Es el proceso por el cual los seres humanos olvidamos que somos nosotros quienes producimos el mundo en el que vivimos. Nos pasa con la crisis climática, de la que hablamos a menudo en tercera persona, como si ocurriera al margen de nuestras formas de vida, producción y consumo. Sucede también hablando sobre el sistema, el capitalismo, el poder. Y ahora nos pasa con la inteligencia artificial. Hablamos de estos conceptos como si nos cayeran encima, como por intervención divina. Pero la IA es la suma de millones de decisiones humanas y, por supuesto, intereses de negocio. Son personas concretas, con nombre y apellido, diseñando los casos de uso. Cada vez que decimos “la IA hará”, estamos borrando del mapa a esas personas. Y por eso es tan cómodo decirlo. Si la IA decide, yo no decido. Si “el sistema” produce el daño, yo soy la pobre que lo padezco. Las personas nos olvidamos todo el tiempo de nosotras mismas en las cuestiones más graves.
No solo el sujeto, sino también el objeto de nuestras preguntas desaparece. Hace un par de meses, en un evento de La Casa Encendida en Madrid, Remedios Zafra nos invitaba a explorar el trabajo de Simone Weil y decía que estamos viviendo en la era de la espectacularización, en definitiva, un régimen cultural cuya función es desactivar la empatía y producir deshumanización. Y es ahora cuando aterriza ante nosotros una tecnología basada en lenguaje natural, que aprende de cómo escribimos, en una época en la que las personas no nos hacemos responsables de lo que decimos. Es lógico que nos devuelva, refinadamente, la deshumanización que ya practicamos. Y va a hacerlo con tanta cortesía y resonancia que costará mucho darse cuenta.
Fuera del prompt, fuera del mundo
Las palabras que falten en los prompts faltarán, por tanto, en las respuestas de la conversación. Podrían ser palabras que protejan a un colectivo vulnerable en la asignación de una ayuda social, que agilicen la valoración de una solicitud de empleo en tiempos de precariedad, palabras que ayuden a descubrir un vacío en el sistema sanitario o que hagan que no despidan a la mitad de una plantilla. Si hay palabras que no entran en el prompt, no aparecerán en el output. Si no aparecen en el output, no aparecerán en las decisiones posteriores. Ni en los presupuestos ni en los KPIs. La pobreza léxica se traduce en pobreza material. Gente que no es atendida, daños que nadie registra. Y entonces no saber escribir deja de ser una cuestión de estilo para convertirse en un problema político.
No nos preocupemos tanto por la calidad de las respuestas que nos da la inteligencia artificial y preocupémonos más por la calidad de las preguntas que estamos haciendo: ¿Qué cosas no aparecen nunca en mis prompts porque mi forma de pensar las excluye? ¿Qué prejuicios instalo en el sistema cada vez que prompteo? ¿Qué palabras me faltan? ¿Qué palabras me sobran?
La alfabetización que muchas instituciones y gobiernos promueven podría pasar por recuperar el arte de la escritura antes de delegarla en estas tecnologías. Saber qué silencios fabrico cada vez que tecleo, qué dejo fuera del mapa cada vez que elijo sin criterio las ideas que me lanza mi IA.
La era semántica no nos quita las palabras, pero nos pilla sin saber escribirlas.