Seguro que habrás notado cómo, cada vez que una investigación explica el impacto que tiene en la capacidad cerebral de los menores su adicción al TikTok, o cuando se informa de los trastornos en la alimentación que crea en las adolescentes la cultura de ego de Instagram, alguien dice esa idea naïf de que “la tecnología no es buena ni mala, depende del uso que se hace de ella”.

Quizá tú lo pienses.

He usado a propósito la palabra “naïf” por su sentido de ingenuidad intencionada. Ingenuidad, porque es un pensamiento sencillo, poco elaborado. Intencionada, porque siempre queda la sensación de que estos mensajes suelen ser auto-exculpatorios.

El 15 de septiembre de 2023, la Irish Data Protection Comission impuso una sanción de 345 millones de euros a TikTok porque su gestión de la privacidad de los menores incumple el GDPR. En particular: la verificación de edad durante el proceso de alta; las cuentas de menores estaban abiertas al público por defecto; no se informaba de esto de manera transparente a los menores; y no implementaba la seguridad adecuada para los riesgos que corre un menor de 13 años con su cuenta abierta al público en TikTok.

Y, sobre todo:

“TikTok implementó patrones oscuros empujando a los usuarios hacia opciones más intrusivas a la privacidad durante el proceso de registro y al publicar videos«

Implementar patrones oscuros. O sea, un patrón de interacción diseñado intencionalmente para que los usuarios tomen decisiones que pueden ser perjudiciales para sus intereses. Pero no para los de los creadores del sistema.

Lo primero que tienes que saber sobre este ensayo es que tratará sobre la Intencionalidad, y cómo la Intencionalidad responde a una Voluntad. A la de alguien, nunca a la de algo, porque un algo no tienen Intencionalidad.

Show Chew, CEO de TikTok, reconoció en el Congreso de los EEUU  lo limitado de su plataforma en la protección de menores, porque construir una plataforma segura para menores no es sólo un reto de TikTok, sino de toda la industria…

Mensajes auto-exculpatorios.

¿La responsabilidad de lo que pasa en TikTok no es de lo que permite hacer la plataforma, sino de las personas a las que le das la plataforma?

¿De quién es la responsabilidad de la destrucción de Hiroshima? ¿Será de los científicos que investigaron con éxito la bomba? ¿O de quiénes las ensamblaron bien, y por eso “funcionaron bien”? ¿O del piloto no se perdió y llevó el avión a su destino? ¿O del Mayor Ferebee, que apretó el botón?

No, en ese caso está claro.

Dos personas asumieron la responsabilidad. Oppenheimer, del diseño, de investigarla y hacerla posible. El presidente Truman, de lanzarla sobre Japón. Ya lo dijo el propio Oppenheimer: se había convertido en el “Destructor de Mundos”.

En toda transferencia tecnológica hay un proceso de diseño, que responde a un objetivo, y durante el que se toman decisiones. En ese punto surge la Intencionalidad.

¿Desde dónde surge?

Desde la Voluntad.

Utilizo Intencional como antónimo de Neutral. Se que el antónimo de “neutral” es “parcial”, pero me gusta “Intencional”. Podríamos decir que la tecnología es “parcial” porque alguien toma partido, elige una opción transformadora de la realidad. Aun así, me parece más apropiada la palabra “Intencional” porque creo que pone de manifiesto que esa parcialidad de la tecnología responde a un motivo, a una Intención que ha sido creada por una Voluntad. Esos términos, Intencionalidad y Voluntad, los escribo con mayúsculas porque en torno a ellos debemos desarrollar una Ética tecnológica.

Podemos usar la palabra Intencional para referir el hecho de implementar dark patterns para que los menores no protejan sus cuentas de TikTok. O para referir que Elon Musk despida a la mayor parte del equipo responsable de impedir la publicación de contenidos relacionados con el abuso sexual a menores y lo reemplace por un algoritmo.

Ambas decisiones tienen Intención y Consecuencias. Consecuencia: reducción de costes. Consecuencia: material de abuso sexual a menores disponible durante meses en la plataforma.

No me digas que usar “Intencionalidad” no eleva la descripción del fenómeno.

Personalmente, no creo que Elon Musk quiera que se distribuya pornografía infantil por twitter; lo que creo es que entre mejorar el EBIDTA, o seguir invirtiendo en vetar la pornografía infantil, lo tiene claro.

Ese es el ejemplo que tendríamos que dar en las Escuelas de Negocio.

Sé Truman. Sé Oppenheimer. Asume la decisión de priorizar costes sobre la posibilidad de distribuir pornografía infantil.

Espera. O mejor aún.

Asume la decisión contraria, que igual es la correcta.

Espero que pienses que no se puede comparar la Bomba Atómica en Hiroshima con privacidad en TikTok. Que todo es relativo.

El relativismo no sólo existe en filosofía, ni aplica sólo a nuestra ética tecnológica; es uno de los conceptos esenciales y más transformadores de la historia de la ciencia, y clave en la mecánica cuántica.

De ciencia, tecnología, mecánica cuántica y relativismo (moral y científico) va Oppenheimer. Es una película que además de interesante, y candidata a llevarse premios y reconocimiento, presenta el contexto ideal para pensar sobre Filosofía de la Ciencia, y la Neutralidad de Ciencia y Tecnología.

Ciencia es Conocimiento

Hay personas que usan las palabra “ciencia” y “tecnología” como si fueran intercambiables, y no.

Cada diccionario, cada universidad, cada agencia científica ofrece su definición de Ciencia. Algunas enfatizan el objeto de estudio (el mundo físico, el mundo conocido, el mundo real..), o el objetivo (encontrar conocimiento, definir leyes…), o la utilidad del conocimiento (explicar, predecir…), o cómo se obtienen las evidencias (por observación de fenómenos, por experimentación…), etc.

Sacando factor común, decimos que “ciencia es la disciplina que busca el conocimiento fiable del mundo, a partir de la experimentación y los hechos objetivos”; definición que nos deja a todos tranquilos, podemos aceptarla, y reconocer que la ciencia, tiene que ver con el conocimiento y no con la intervención en el mundo que estudia.

Como busca el conocimiento de “lo que es”, debe ser objetiva. Por eso se defiende la neutralidad de la ciencia. Es epistemológica, busca el conocimiento como fin en sí mismo, y a partir de él, explicar el mundo, predecir lo que ocurrirá, o descubrir lo que ha ocurrido.

Obviamente, no todas las ciencias tienen la misma facilidad objetiva, ni la misma capacidad predictiva, sobre todo las ciencias sociales. En las “ciencias duras”, las leyes, expresadas con fórmulas, son objetivas y neutrales. En ciencias sociales, la explicación científica puede estar sujeta a subjetividad del investigador sobre lo investigado, y ahí están las visiones enfrentadas del positivismo contra la hermenéutica.

De cualquier manera, el racionalismo gira en torno a la idea de que existe algo, la razón, que permite encontrar la verdad de un fenómeno, con independencia de quién lo valore. Se espera de un científico que sea neutral, porque su misión es describir cómo es el mundo, no cómo le gustaría que fuese. Y debe ser objetivo, porque la filosofía europea, desde la Grecia de Epicuro, nos dice que las emociones se oponen a la razón porque la ofuscan.

Para hacer ciencia hay que dejar de lado las emociones. Las observaciones, los experimentos, las fórmulas…, deben ser comprobables con independencia de quién formule o quién valide, para poder enunciar una Ley, a ser posible universal, que se cumpla siempre y en todos los casos.

Por eso existe el Método Científico, diseñado para ser objetivo. Hablamos de observaciones, de experimentos que se pueden repetir, de hipótesis que se quieren validar, de formulaciones matemáticas que no se pueden malinterpretar ni desvirtuar en traducciones, de revisión por pares, de publicaciones, de refutaciones, etc., y ese es el modelo tradicional de hacer la ciencia.

Durante muchos años, sólo Hume y los empiristas pusieron en duda la ciencia, al enunciar el “Problema de la Inducción”. Relacionado con cómo a partir de observaciones pasadas se concluyen conclusiones que declaramos verídicas en el futuro. Para Hume:

“no existen argumentos demostrativos para probar que los casos de los que no tenemos experiencia se asemejen a aquellos de los que tenemos experiencia”

Lo que le lleva a concluir que:

“cuando la mente pasa de una idea o impresión de un objeto, a la idea o creencia de otro, no está determinado por la razón, sino por ciertos principios que asocian entre sí las ideas de estos objetos, y las unen en nuestra imaginación”

Durante un par de siglos el único problema de la ciencia era si podíamos ser racionalistas o empiristas, si nuestras leyes eran suficientes o no para declarar la superioridad epistémica de la ciencia sobre la fe o la metafísica como forma de adquirir conocimiento.

La neutralidad del científico no era un problema hasta que llegó la “Big Science” y entonces todo empieza a cambiar un poco. En Oppenheimer se explicita claramente este cambio, pues los científicos salen de las Universidades y entran en las bases militares.

A partir de aquí, al problema de la inducción le unimos el problema de la neutralidad. Tal vez la neutralidad tampoco sea del todo cierta. En los años 60 Kuhn desarrolla el concepto de Paradigma para explicar que los científicos, como colectivo social, asumen cierta forma de pensar, ciertas ideas, ciertos supuestos previos, ciertos ámbitos de interés hacia los que dirigir su mirada… A ese contexto en el que se juntan valores, conceptos, métodos, supuestos y demás, es a lo que Kuhn llama Paradigma. Los científicos que trabajan bajo un mismo Paradigma comparten este contexto.

A modo de conclusión, tenemos por una parte la ciencia, que busca el conocimiento del mundo. La superioridad epistémica de la ciencia frente a otras formas del saber se ha sustentado sobre el método científico, su objetividad, y su capacidad enunciativa de leyes que permiten la explicación y la predicción.

Pero existe un doble riesgo de subjetividad: el de los científicos-personas que imaginan leyes en su cabeza (Hume), y el de los científicos-miembros que investigan condicionados por su Paradigma (Kuhn).

Tecnología es Intervención

Por otra parte, está la tecnología. Tradicionalmente se traduce el griego technê como producción, arte o artesanía; en el periodo clásico, es el concepto de la práctica por la cual el artesano, con su conocimiento, transforma la physis. Parece que a partir de Aristóteles se establece la diferenciación entre la episteme como conocimiento, y la technê como intervención a partir del conocimiento.

La intervención en el mundo desde el conocimiento no viene de la ciencia, que aporta la explicación o la predicción. La intervención viene desde la tecnología, relacionada con la acción. Tecnología combina la technê y el logos, lo que nos hace pensar en el arte de producir cosas con instrumentos a partir del conocimiento; y por otra parte en la palabra o la razón. Así se define tecnología en varios diccionarios:

• “teorías y técnicas que permiten el aprovechamiento práctico del conocimiento científico” para la RAE.
• “Aplicación práctica del conocimiento” para el Merriam-Webster, o
• “Uso práctico, especialmente industrial, de los descubrimientos científicos” para el Cambridge Dictionary o
• “Ciencia de convertir materias primas y materiales en productos terminados y bienes de consumo mediante la aplicación de conocimientos científicos y técnicos.” para el Duden.

Me vienen muy bien estas definiciones, porque son las que usamos, y porque se quedan muy cortas. Son definiciones que evitan el concepto de la intervención (que es Intencional y responde a una Voluntad) y eso es fundamental: precisamente por lo que queda fuera (la tríada Intervención-Intención-Voluntad vista desde lo creado, o Voluntad-Intención-Intervención vista desde el creador) es por lo que alguien puede caer en la trampa de declarar la neutralidad de la tecnología.

Me gusta la “escalera” que hace Miguel Ángel Quintanilla, Catedrático de Lógica y Filosofía de la Ciencia de la Universidad de Salamanca, en el que en cada peldaño explicita el paso del concepto “técnica” al concepto “tecnología”. Quintanilla habla de:

• la técnica, como una realización cultural de carácter abstracto, que tiene diversas realizaciones o aplicaciones.
• la realización técnica, como un sistema de acciones humanas intencionalmente orientado a la transformación de objetos concretos para conseguir resultados valiosos
• y la realización tecnológica como una realización técnica industrializada, vinculada a la ciencia, que persigue conseguir resultados valiosos de manera eficiente.

No existe la neutralidad de la tecnología, por definición de tecnología. Pero no por la definición del diccionario, sino por su definición filosófica. Obsérvese cómo la palabra Intencionalidad aparece antes que “valor”, “industria”, “ciencia” o “eficiencia”.

Claro, es que la Intencionalidad, es previa a la tecnología.

La Intencionalidad responde a la Voluntad: primero existe la Voluntad humana de transformar, intervenir, y esa Voluntad, a través de la tecnología, se transmite hacia aquello fabricado o intervenido. Decía Schopenhauer que “los objetos son la voluntad hecha representación”.

¡Vaya frase!

La tecnología tiene como misión en sí misma la Intervención, de ahí su Intencionalidad. Se utiliza el conocimiento científico con Voluntad para producir una transformación, y eso responde a un propósito que no es epistémico, es otra cosa.

Es cierto, también se puede usar tecnología con una Intencionalidad que puede no ser coincidente con la de su creador, así que habrá que pensar en qué se ha tenido en cuenta durante el proceso de diseño.

En esta clase de frases empiezan las incongruencias; el lenguaje contamina la realidad. “Los límites de nuestro lenguaje limitan nuestra concepción del mundo”, dijo Wittgenstein. Seamos cuidadosos y responsables con el lenguaje.

¿Cómo que la tecnología “se hace”?

¿Cómo que algo “se ha tenido en cuenta”?

Es importante en este tipo de debates no decir que la tecnología “se hace”. La tecnología no es reflexiva, no se hace a sí misma. La tecnología la hacen personas, la diseñan personas, a partir de su Voluntad, con un propósito Intencional.

Carlos Guardiola es Chief Innovation Officer