La tecnoeuforia es una falacia. Ha llegado la hora de recuperar el control de la tecnología

La historia de “cómo Facebook se volvió adicto a la desinformación” representa todo lo que va mal en el mundo de la tecnología. Y digo mundo, y no industria, porque sus amenazas a la sociedad y la democracia no habrían sido posibles sin la acción (o más bien la inacción) de los gobiernos que permitieron que lo que nació como una red social para ligar en la Universidad de Harvard se convirtiera en una herramienta capaz de propiciar un genocidio en Myanmar 13 años después.

“La máxima principal para todos los trabajadores de la red social consiste en aumentar el crecimiento y la participación, aunque eso signifique difundir odio, teorías de la conspiración y extremismo. Su director de IA, Joaquin Quiñonero, creó los algoritmos que lo consiguieron y ahora no sabe cómo arreglar el problema”, reveló en 2021 la periodista Karen Hao en MIT Technology Review después de que la compañía le permitiera acompañar y entrevistar al responsable y a otros trabajadores durante varias semanas. En eso se ha convertido el ciclo de vida de algunas tecnologías: nacen, ofrecen unos usos relativamente útiles para la gente y crecen hasta volverse incontrolables, opacas y peligrosas con el único fin de seguir dando rentabilidad a sus dueños.

Es lo que pasa cuando los avances que gobiernan el mundo se diseñan única y exclusivamente pensando en el beneficio de las empresas que los crean, sin tener en cuenta sus riesgos y amenazas para las personas individuales y la sociedad general.  Así es como hemos llegado a un contexto social dominado por la polarización, el extremismo y el odio, donde cada vez cuesta más saber qué es verdad y qué es mentira, y en el que nuestra capacidad de prestar atención ejercer un pensamiento crítico se va mermando cada vez más.

“Si dejamos que este modelo se consolide y termine de imponerse, el mundo moldeado por una parte de la tecnología actual puede convertirse, de forma irreversible, en uno en el que la propia humanidad no tenga su sitio porque las lógicas en juego no reconozcan su carácter único y sus intereses”, dice en su arranque el Manifiesto OFF, presentado hoy en Madrid. El texto, que ya cuenta con el apoyo de más de 100 firmas de personalidades nacionales e internacionales, como el CEO de Prisa Media, Carlos Nuñez, y su director de Contenidos, José Miguel Contreras, busca movilizar a la sociedad para que recuperemos el control sobre la tecnología.

Y es que, por muy usuarios que seamos de los servicios y herramientas digitales que la industria nos ofrece, el control que tenemos sobre ellas a veces no es más que una ilusión que nos hace creer que nosotros elegimos el uso que le damos a las cosas cuando, en realidad, el dedo que hay sobre el botón pertenece únicamente a las compañías. Si no a cuento de qué íbamos a perder horas y horas haciendo scoll infinito para consumir contenidos que se han demostrado capaces de perjudicar la salud mental, especialmente de los más jóvenes. “Incluso podría conducir a la propia extinción de nuestra especie”, alerta el manifiesto.

Pero las de Facebook nos son las únicas amenazas a las que nos expone la tecnología. El texto señala ocho problemas muy concretos que, lamentablemente, están sobradamente demostrados:

• Un profundo deterioro tanto de la capacidad de atención como de la salud mental de la población en general (y más especialmente de los jóvenes), que se acompaña de un incremento del sentimiento de soledad y aislamiento.
• Un desaprendizaje alarmante de ciertas funciones consustanciales al ser humano (tales como la memoria, la orientación, el razonamiento o la capacidad crítica), modificando cualitativamente su naturaleza e incrementando la dependencia a la tecnología.
• Distorsiones demostradas en procesos electorales clave a través de campañas de desinformación alimentadas por grandes plataformas digitales, alentando una fuerte polarización social y política.
• Un aumento significativo del control ejercido por los Estados autoritarios sobre sus súbditos gracias a un sofisticado entramado de vigilancia basado en una recolección cada vez más exhaustiva de información personal procesada con la ayuda de la inteligencia artificial.
• Una tendencia también por parte de los Estados democráticos a acumular y explotar excesivamente datos personales de los ciudadanos y vulnerar su privacidad mediante, por ejemplo, el abuso del reconocimiento facial.
• Una gran concentración en el sector tecnológico que ha favorecido que un número muy reducido de compañías disponga de un poder desproporcionado que les permite intensificar la influencia que ejercen sobre la vida de los ciudadanos, condicionando sus comportamientos, creencias y decisiones. Dichas empresas mantienen una posición dominante también en relación con otras empresas y, a veces, los propios Estados.
• Ciberataques perpetuados contra infraestructuras críticas (como hospitales o redes de distribución eléctrica) que han puesto en evidencia la vulnerabilidad de una sociedad en la que todos los sistemas esenciales están conectados, así como el hecho que los criterios de seguridad no tienen suficiente prioridad en el diseño y despliegue tecnológicos.
• Un impacto medioambiental cada vez más importante que resulta del despliegue indiscriminado y de la intensificación de uso de la tecnología: extracción contaminante de tierras raras destinadas a la producción de dispositivos, crecimiento exponencial del número de satélites, aumento de las emisiones de gases a efecto invernadero de origen digital, minería intensiva de criptomonedas, etcétera.

ACCIONES PARA QUE NO CUNDA EL PÁNICO

Si todo esto suena alarmante es porque lo es. De hecho, lo que sorprende es que todas estas amenazas se hayan ido forjando y asentando como algo normal casi sin que nos hayamos dado cuenta. Pero, que no cunda el pánico, porque, como dice la cita de la profesora de la Universidad de Harvard Shoshana Zuboff con la que arranca el Manifiesto OFF, “en esta tercera década del siglo XXI se decidirá, sin duda, nuestro destino”. Y, si todavía está por decidir, eso quiere decir que todavía tenemos capacidad de redirigirlo para “garantizar un entorno que respete el carácter singular del ser humano y minimice las posibilidades de que la tecnología sea empleada para alienar al mismo y mermar su libertad”, apunta el texto.

Para lograrlo, el texto plantea tres líneas de acción principales “para que la humanidad tome las riendas de su propio destino y asegure su permanencia como especie libre”:

• Medidas regulatorias jurídicamente vinculantes, como la prohibición de la publicidad microsegmentada y de las armas letales autónomas, así como la protección de los neuroderechos, entre otras.
• Medidas ligadas a la producción industrial y la comercialización, como el establecimiento de principios de precaución tecnológicos similares a los de cualquier otra industria.
• Medidas en el ámbito de la investigación y la educación, como la promoción de los estudios de programación para reducir la asimetría entre la tecnología y las personas, y el fin de la introducción indiscriminada de la tecnología en las escuelas por debajo de una determinada edad, entre otras.

Dicho así todo parece tan fácil y lógico que lo que sorprende es que no se haya hecho ya. Pero claro, ahí están los lobbies, las puertas giratorias y los intereses de la industria, presionando a los gobiernos o incluso seduciéndoles. En El Salvador, el recién relegido presidente con una abrumadora, Nayib Bukele, se ha hecho famoso por su compadreo con los grandes señores de las criptomonedas, mientras que, en Reino Unido, el primer ministro, Rishi Sunak, organizó una cumbre sobre inteligencia artificial en la que trató a los líderes de la industria casi con los mismos honores con los que recibiría al rey del mundo.

“Tenemos enemigos. Nuestra sociedad actual lleva seis décadas sometida a una campaña de desmoralización masiva (contra la tecnología y contra la vida) bajo diversos nombres como ‘riesgo existencial’, ‘sostenibilidad’, ‘ESG’, ‘Objetivos de Desarrollo Sostenible’, ‘responsabilidad social’, ‘capitalismo de las partes interesadas’, ‘Principio de Precaución’, ‘confianza y seguridad’, ‘ética de la tecnología’, ‘gestión del riesgo’, ‘decrecimiento’, ‘límites del crecimiento’”, llega a afirmar el vergonzoso Manifiesto Tecno-Optimista publicado por Andreessen Horowitz hace solo unos meses, con el que no puede quedar más claro cuáles son los intereses de la industria y que tiene un cierto tufillo a ese mismo “dogmatismo climático” que intentan algunos vendernos.

“¿Conseguiremos encaminarnos hacia un futuro digital mejor o nos arrastrará a lo peor? ¿Seguirá siendo un lugar que podamos considerar nuestro hogar?”, se pregunta Zuboff. Los firmantes del Manifiesto OFF creen que sí, por eso lo firman y por eso nosotros, desde Retina, te lo compartimos. Pero, no basta solo con mirar, como concluye el texto, ha llegado el momento de que “hagamos urgentemente lo necesario para que la humanidad tome las riendas de su propio destino y asegure su permanencia como especie libre”. ¿Te sumas?