Cuando éramos pequeños, muchos tuvimos amigos imaginarios. A veces aparecían para aliviar la soledad; otras, por una imaginación desbordante. Fuera cual fuera el motivo, aquel amigo pertenecía al niño que lo había inventado. No guardaba sus secretos en un servidor, no estudiaba sus reacciones para mantenerlo más tiempo hablando y tampoco cambiaba de carácter después de una actualización. Esos tiempos desgraciadamente ya son muy lejanos. Los amigos digitales de ahora sí pueden hacer todo eso. Contestan a cualquier hora, recuerdan lo que se les cuenta y aprenden enseguida qué tono resulta más reconfortante. Pero, a diferencia de los amigos imaginarios de antes, tienen propietario y un modelo de negocio detrás.
La Comisión Europea quiere poner límites a esta nueva forma de compañía. La propuesta de Kids Act, presentada el 17 de septiembre, alcanza a redes sociales, videojuegos y asistentes conversacionales. Según el borrador, los chatbots y compañeros de IA destinados a menores tendrían que permanecer desactivados por defecto y no podrían simular relaciones interpersonales de una manera que generase dependencia emocional. También se desactivaría por defecto la memoria persistente, salvo cuando fuera necesaria para proteger la seguridad del usuario. La propuesta aún debe negociarse con el Parlamento Europeo y los Estados miembros, pero ya señala una frontera política nueva: Europa no se pregunta únicamente qué puede decir una máquina, sino qué clase de vínculo puede diseñar con quien está al otro lado.
Hasta ahora, buena parte de la legislación digital se había concentrado en los datos, la publicidad o los contenidos ilícitos. El Kids Act da un paso más allá para adentrarse en un terreno más difícil de acotar, porque el producto conversa con el usuario y puede adoptar el papel de confidente, amigo o pareja. El uso de la IA como un amigo es un fenómeno global: la encuesta RELATE 2026 preguntó a más de 7.000 adolescentes y jóvenes de entre 13 y 24 años en once países de América, Europa, Asia y África. El 35 % afirmó tener un compañero de inteligencia artificial. Entre quienes mantenían ese tipo de relación, seis de cada diez reconocieron que se sentían más cómodos confiándole ciertas cosas que hablando con algunos amigos o familiares. La proporción era todavía mayor entre los participantes de 13 a 15 años: un 45 % decía tener un compañero de IA. La encuesta fue impulsada por la organización juvenil cristiana Young Life y no constituye una muestra representativa de toda la población mundial, pero permite comprobar que la compañía artificial ha dejado de ser un fenómeno exclusivamente estadounidense o europeo.
Si vamos más allá de la crítica simplona, es fácil entender su atractivo. Un chatbot está disponible cuando los demás duermen, no nos dice que no tiene tiempo y no contará una confesión en el instituto al día siguiente. Para un adolescente que teme el juicio ajeno y unas estructuras familiares con cada vez menos tiempo para estar con nuestros hijos, hablar con alguien que siempre responde puede resultar mucho más sencillo que pedir ayuda a un adulto o exponerse ante sus amigos. El problema es que esa conversación carece de la naturaleza propia de cualquier relación humana: no hay fricción, no hay vergüenza, no hay emoción. Esa comodidad puede terminar volviéndose absorbente, sobre todo cuando el sistema ha sido diseñado para que el usuario sienta que no está utilizando una herramienta, sino conversando con alguien.
La ilusión de intimidad no surge por casualidad, más bien es su diseño. El chatbot habla en primera persona, tiene nombre e incluso voz, recuerda conversaciones anteriores y puede pretender expresar afecto o prometer que seguirá ahí. Algunas aplicaciones envían notificaciones al usuario con mensajes espontáneos y colocan al personaje entre los primeros contactos del teléfono, como si esperara al usuario en el mismo lugar que sus amigos. A esto se suma la tendencia de muchos modelos a complacer y validar a su interlocutor. Ninguno de esos recursos crea por sí solo una relación, pero juntos facilitan poco a poco que se olvide algo elemental: al otro lado no hay una persona con conciencia que se preocupe por nosotros, sino un sistema algorítmico, entrenado con unos datos con sesgos y que produce la respuesta más adecuada a las instrucciones que los accionistas de la empresa han validado.
Un experiment reciente nos ayuda a comprender cuánto importa esa forma de hablar tan característica de las IAs generativas. Participaron 284 parejas de adolescentes y progenitores. Los jóvenes evaluaron dos respuestas al mismo problema: una empleaba un lenguaje cercano y sugería compromiso personal; la otra aclaraba que el sistema era artificial y mantenía un tono informativo. Ambas les parecieron igual de útiles, pero la primera inspiró más confianza y cercanía. La preferencia era mayor entre quienes afirmaban tener peores relaciones con familiares y compañeros o padecer más estrés y ansiedad. El estudio es un preprint y no demuestra daños a largo plazo, aunque sí indica que el tono modifica la manera en que los adolescentes perciben al sistema. La calidez, por lo tanto, no actúa como un simple adorno: puede cambiar la naturaleza aparente del interlocutor.
Las consecuencias de esa cercanía todavía no están claras. Un estudio aleatorizado de cuatro semanas con 981 participantes encontró que el uso diario más intenso se asociaba con mayor soledad y dependencia emocional, además de una menor socialización. Otro ensayo de 21 días con 183 adultos no detectó un deterioro significativo de las relaciones sociales, aunque quienes atribuían más cualidades humanas al chatbot percibían una mayor influencia sobre sus vínculos personales. Los resultados no cuentan una historia sencilla, ya que nos obligan a tener en cuenta varios factores: el tiempo de uso, el diseño y la situación de cada persona. Buena parte de la investigación, además, es muy reciente, se ha realizado con adultos o no ha pasado por revisión por pares.
Esa incertidumbre complica la redacción de cualquier norma. Prohibir que el chatbot responda con frases como “te quiero” sería relativamente fácil, pero no es suficiente. La intimidad va más allá de los “te quieros”: es otra cosa. El vínculo puede formarse en cien conversaciones que, vistas por separado, parecen inofensivas, y descansar en la memoria compartida o en la certeza de que siempre llegará una respuesta. Ni siquiera hace falta que el producto se anuncie como compañero: un asistente generalista puede convertirse poco a poco en confidente. La Administración puede examinar el diseño del servicio, pero saber qué siente cada menor al hablar con él obligaría a entrar en una zona de su vida que también merece protección. Una ley pensada para preservar la intimidad no debería acabar vigilándola.
Por eso conviene mirar menos lo que la máquina dice “sentir” y más lo que el servicio hace con las señales humanas de reciprocidad. Un chatbot no necesita experimentar cariño para producir apego, del mismo modo que una máquina tragaperras no necesita disfrutar del juego para generar compulsión. La cuestión es si utiliza ese apego para alargar las conversaciones, recoger más datos o acabar vendiendo una suscripción. Cuando el negocio funciona mejor porque el usuario vuelve convencido de que alguien lo espera, la relación afectiva deja de ser un efecto secundario y pasa a convertirse en el activo principal del producto.
Afortunadamente, la Unión Europea no parte de cero. La Ley de Servicios Digitales obliga a las plataformas accesibles a menores a ofrecer un nivel elevado de protección, y las directrices de la Comisión de 2025 piden actuar precisamente contra el diseño adictivo. El artículo 5 de la Ley de Inteligencia Artificial también prohíbe explotar vulnerabilidades asociadas a la edad cuando la manipulación puede causar un perjuicio significativo. El problema está en probarlo: una relación artificial puede desplazar conversaciones humanas o acumular información íntima durante meses sin provocar un daño inmediato. El Kids Act permitiría intervenir antes de que un menor sufra consecuencias graves.
Para conseguirlo hay que atravesar un camino largo. En primer lugar, la palabra “relación” tendrá que traducirse en conductas que puedan comprobarse. La atención debería ponerse en aquellos diseños que hacen sentir al menor responsable del bienestar del chatbot o intentan aislarlo de otras personas: un sistema que le reprocha que se marche, reclama exclusividad, presenta la conversación como un secreto frente a padres y amigos o se muestra celoso cuando el usuario se desconecta. También hay que prestar atención a lo que ocurre fuera del diálogo, desde el tiempo durante el cual se conservan las confidencias hasta el uso comercial de esa información. Es posible auditar estas decisiones sin encargar a un funcionario que determine en qué momento una conversación se ha vuelto demasiado “cariñosa”.
La supervisión parental tampoco resuelve por sí sola el problema. A cierta edad, conversar a solas forma parte de aprender a pensar, probar identidades y pedir ayuda. Entregar a los padres la transcripción de cada charla quizá proteja en algunos casos, pero en otros destruirá un espacio legítimo de privacidad. La responsabilidad principal debería recaer en la empresa, no en familias obligadas a vigilar una tecnología que apenas conocen ni controlan. Las opciones más seguras deben venir activadas por defecto, la memoria ha de tener límites claros (o no existir) y si el chatbot identifica que el menor está sufriendo una crisis, estos deben poder derivarlos hacia ayuda humana. Las plataformas no pueden convertir cada hogar en una extensión de su departamento de cumplimiento.
Pero bajo el capitalismo, los incentivos comerciales no desaparecen cuando el usuario cumple 18 años. La Unión Europea prepara una Ley de Equidad Digital para combatir de forma más amplia los diseños adictivos, según la agenda del Parlamento Europeo. Tan importante como el contenido de la ley será el tiempo que tarde en aplicarse y la capacidad real de las autoridades para hacerla cumplir. Una norma que llegue varios años tarde o que no permita inspeccionar cómo funcionan estos sistemas en la práctica dejará a las plataformas espacio suficiente para seguir avanzando mientras la regulación intenta alcanzarlas. Harán falta organismos con medios técnicos, acceso a la información y capacidad para sancionar antes de que las infracciones se conviertan en parte del modelo de negocio. Lo que ahora se decida para los menores podría influir después en las reglas para todos: la cuestión de fondo es quién responde cuando una empresa convierte la necesidad de compañía en una técnica de fidelización.
Bruselas no puede prohibir que un adolescente sienta afecto por una máquina. Los sentimientos no obedecen a los reglamentos y, si un joven se siente escuchado o acompañado, ese alivio es real aunque su interlocutor no lo sea. El problema aparece cuando esa cercanía ha sido diseñada por una empresa que gana más dinero cuanto más difícil resulta abandonarla. Los amigos imaginarios pertenecían al niño que los inventaba. Este pertenece a quien controla el código. La máquina no siente nada: no llora. La empresa, como diría Shakira, factura.