De la tecnología suele decirse que lo democratiza todo: el acceso al conocimiento, a la comunicación, a la productividad… Pero ¿de verdad es todo tan democrático? Si la alfabetización digital y la conectividad influyen en nuestra capacidad de aprovechar los prodigios que aloja Internet, también nuestro intelecto puede convertirse en una barrera de acceso a los océanos de información y oportunidades que hay en la web, especialmente ahora que las inteligencias artificiales (IA) generativas se están convirtiendo en la única puerta de entrada al mundo del saber.
El principal problema está en que la IA opera bajo “el efecto Mateo”, que da más a quien más tiene y se lo quita todo al más pobre, como advirtió la catedrática de Filosofía Moral y Política de la UNED, Amelia Valcárcel, durante la cuarta edición del encuentro Un mundo de fusión digital. Como si del capitalismo más salvaje se tratara, por mucha información y recursos que la inteligencia artificial y otras tecnologías nos ofrezcan, solo aquellos equipados con pensamiento crítico, analítico e investigador serán capaces del exprimirlos al máximo.
Sería como poner a los mandos del vehículo más potente a alguien que no sabe conducir. Valcarcel explicó: “Para los que dedicamos nuestra vida a la investigación y a saber cosas, Google es aquello con lo que siempre soñamos, la biblioteca universal donde está absolutamente todo. […] Pero, la gente que nada sabe usa esta maravilla para buscar porno. A quien tiene se le dará y a quien no tiene o tiene poco, se le quitará”.
“La promesa de la inteligencia artificial en la inclusión se ve restringida por la ventaja acumulada (el efecto Mateo) que se presenta en la sofisticación tecnológica: sólo aquellos con los sistemas educativos más sofisticados podrán beneficiarse. […] Surge una situación que plantea grandes retos para cualquier tipo de inclusión significativa, sobre todo en lo que respecta a la posible aceleración de ventajas arraigadas”, confirma el doctor en Filosofía de la Universidad de Edimburgo Michael Gallagher en el libro Artificial Intelligence and Inclusive Education.
Queda claro que gran parte del potencial de la IA reside en nosotros mismos. Lamentablemente, la tecnología también hace uso de sus propias artimañas para que olvidemos sus limitaciones. Si el mayor truco del diablo fue hacernos creer que no existe, el de la inteligencia artificial ha sido el de hacerse pasar por humana. Belcebú esconde sus fechorías tras una cortina de humo y ChatGPT lo hace tras la función fática del lenguaje, con sus “siento no poder ayudarte” y sus “mis respuestas se basan en el conocimiento y la información disponibles hasta mi fecha de entrenamiento en septiembre de 2021”.
Podría parecer que la humildad de la máquina sirve precisamente para remarcar que no es más que un amasijo de cables y circuitos increíblemente potente. “Pero tú, cazado por los fáticos, empiezas a pensar que hablas con una persona, porque los fáticos son utilísimos para personalizar la comunicación, a pesar de que lo que tienes delante es un simple Google mejorado”, advirtió Valcarcel. ¿Y qué hay de malo, se preguntará, en sentir que la máquina es humana si, como reconoce la filósofa, ChatGPT aporta mejoras frente a las herramientas que teníamos antes?
Esta pregunta la respondió hace unos meses la profesora del Departamento de Sociedad, Política y Sostenibilidad de Esade Sira Abenoza: “Las IA generativas son muy preocupantes. Refuerzan la idea y la lógica de que uno sabe y el otro recibe, pero de forma aún más salvaje. Me voy al oráculo a que me diga cómo son las cosas. Eso va creando una inercia en la que me vacío de contenido y me voy sintiendo cada vez más irrelevante porque todo lo puedo encontrar en la pantalla”.
Se refiere a que es precisamente las conversaciones cada vez más humanas que mantenemos con las máquinas pueden hacer que depositemos una confianza excesiva en ellas. Por eso Valcárcel insistió en recordar que, por muy impresionante que resulte ChatGPT, en realidad no es más que “una Wikipedia sin consejo de sabios”, y añadió: “En Wikipedia hay debates y aportes de fuentes, pero esta máquina no aporta nada, no puede, ni siquiera consta el origen de la información. Y, además, carece de lo que en teoría de la mente llamamos la solución emergente que no está en el contexto. La inteligencia humana se enfrenta a una enorme cantidad de cosas y siempre puede salir algo que nunca se espera. La máquina no tiene esa capacidad”.
NO ME LLAMES DOLORES, LLÁMAME MÁQUINA
A medida que la IA avanza no solo aumentamos nuestra confianza en ella, también la humanizamos cada vez más. De hecho, cada vez es más raro ver asistentes virtuales que no tengan nombre propio. Y, aunque este bautismo tecnológico pueda parecer baladí, el hecho de que prácticamente todos los sistemas de IA tengan nombre de mujer (ejem, Siri, Alexa, Cortana, Sophia…) se ha convertido en otra de las cruzadas por la igualdad. Incluso la UNESCO lleva años lanzando alertas.
Ya en 2019, su directora de Igualdad de Género, Saniye Gülser Corat, advirtió: “Las máquinas obedientes y serviciales que pretenden ser mujeres están entrando en nuestros hogares, coches y oficinas. Su servilismo, tan arraigado, influye en el modo en que la gente se dirige a las voces femeninas y modela la forma en que las mujeres responden a las peticiones y se expresan. Para cambiar de rumbo, tenemos que prestar mucha más atención a cómo, cuándo y si las tecnologías de IA tienen género y, lo que es más importante, quién se lo está imponiendo”.
Si la feminización de la inteligencia artificial tiene impacto en la igualdad, ¿cómo no va a acarrear problemas el hecho de que la humanicemos? De hecho, entre las recomendaciones de la organización para acabar con esta vía de discriminación está la de “exigir que los operadores de los asistentes de voz basados en IA anuncien la tecnología como no humana al inicio de las interacciones con los usuarios humanos”. Aun así, Valcárcel insistió: “Las humanidades se llaman así porque enseñan a la gente qué es lo humano, y eso es lo que tenemos que enseñar, incluido aquello que somos capaces de fabricar”.
La filósofa no tuvo reparo en celebrar que “ahora mismo lo tenemos todo, un buen buscador, unas buenísimas bibliotecas en la red…”, y añadió: “Se ha empleado muchísima inteligencia en hacer que nuestra vida esté adornada cosas inverosímilmente bellas y grandes a las que muchas vidas anteriores no han tenido acceso. Somos muy afortunadas de tener esto. Vivimos en la primera sociedad es que verdaderamente un asombroso nuevo mundo”. Pero, ante tanta maravilla obrada gracias al ingenio humano advirtió: “Si no salimos adelante será por nuestra culpa”.
Sobre la firma
Periodista tecnológica con base en ciencias. Coordinadora editorial de 'Retina'. Más de 12 años de experiencia en medios nacionales e internacionales como la edición en español de 'MIT Technology Review', 'Público', 'Muy Interesante' y 'El Español'.
