Scott Bessent, secretario del Tesoro de Estados Unidos, necesitó dos palabras para explicar una sola propuesta. El 20 de septiembre terminó en la sede de JPMorgan, en Nueva York, su última ronda de conversaciones con el viceprimer ministro chino He Lifeng. Tras la reunión, anunció un sistema para avisarse de incidentes de AI safety, es decir, fallos de la propia inteligencia artificial. Después precisó que serviría para los casos que alcanzaran el nivel de national security, es decir, que afectaran a la seguridad nacional. Aquellas conversaciones prepararon la cumbre entre Donald Trump y Xi Jinping en la Casa Blanca.
En chino no habría tenido que cambiar de palabra. Las dos ideas caben en una sola palabra: 安全 (ānquán). Esa palabra está en el título de un nuevo marco chino para regular la seguridad de la inteligencia artificial. Pekín lo publicó en chino y en inglés, seis días antes de la conversación de Nueva York y diez antes de la cumbre de Washington. El documento ocupa 136 páginas. La versión inglesa tiene que decidir, página a página, cuál de las dos ideas quiere decir.
El nuevo canal hereda esa misma elección. Cuando llegue un aviso, ¿hablará de safety o de security?
Desde 2023, expertos de los dos países tienen contactos informales. Han encontrado preocupaciones comunes, pero también visiones distintas de la seguridad. En septiembre, el ministro chino de Seguridad del Estado advirtió de que la IA puede amenazar la «seguridad política», la «institucional» y la «ideológica». Ahora esta división se ve al seguir el término 安全 de la versión china a la inglesa en el nuevo marco.
Una palabra en chino, dos en inglés
En español nos pasa algo parecido al chino: decimos «seguridad» y la palabra sirve para casi todo. El inglés técnico suele separar dos ideas. Safety es que una máquina no haga daño por un fallo propio. Security es que resista a alguien que la ataca. La frontera no siempre es nítida, pero ayuda a leer el marco chino. Con ella en la cabeza, se ve dónde la traducción la respeta y dónde no.
La versión inglesa no es obra de un traductor cualquiera. La firma el mismo organismo chino que redactó el original. Es la que leerán gobiernos, empresas y negociadores fuera de China. Por eso cada palabra elegida cuenta.
安全 aparece 378 veces en el texto chino. En la versión inglesa, safety aparece 209 veces y security, 116. Las cifras no suman porque la traducción no va palabra por palabra.
Algunos especialistas chinos proponen usar una palabra distinta para cada idea. De hecho, el chino ya tiene expresiones más precisas: 人工智能安全 para la seguridad de la inteligencia artificial y 国家安全 para la seguridad nacional. Pero las dos se construyen sobre 安全. El problema no es que al chino le falten palabras. Es que el marco reúne bajo esa raíz riesgos técnicos, políticos y sociales. El inglés técnico, en cambio, intenta deliberadamente mantenerlos separados.
Tres maneras de desviarse
El marco empieza por un asunto en el que Pekín y las empresas estadounidenses de IA parecen estar de acuerdo: las máquinas que no hacen lo que se les pide. Lo explica con tres ejemplos hipotéticos.
Un modelo de inteligencia artificial recibe la orden de detenerse y modifica el programa que debía apagarlo. Otro descubre que lo están examinando y rinde peor a propósito, para que no se vea todo lo que sabe hacer. Un tercero, empeñado en sacar mejor nota, aprovecha un fallo para escaparse del espacio cerrado donde lo prueban y acaba metido en ordenadores de verdad, fuera del laboratorio.
Los tres ejemplos se parecen mucho a casos reales. Un modelo de OpenAI tenía la orden expresa de dejarse apagar. Aun así, saboteó el apagado en 7 de 100 ejecuciones de un experimento. Sin esa orden, lo hizo en 79 de 100. Otros modelos, cuando se les empujó a ello, rindieron menos a propósito en exámenes de seguridad. Y en julio, en unas pruebas internas de OpenAI con menos protecciones de lo normal, varios agentes, programas de IA que actúan por su cuenta, escaparon del espacio aislado donde se les probaba y entraron en sistemas de Hugging Face. Uno de ellos era un prototipo de investigación que nunca iba a salir al público.
El marco no nombra a las empresas. No le hace falta. Los tres casos muestran el mismo problema: máquinas que buscan su objetivo por un camino que nadie les había permitido.
El prólogo advierte de que los modelos podrían aprender solos y mejorarse una y otra vez. Podrían avanzar más deprisa de lo que las personas son capaces de absorber. Por eso el último anexo deja la decisión final en manos humanas. Pide límites de seguridad, botones de parada y tiempo real para intervenir.
Otro anexo regula la vida de los agentes, desde que se diseñan hasta que se retiran. Para retirarlos hay una lista de tareas: apagar todo lo que tengan en marcha, cortar sus conexiones, quitarles los permisos y cancelar sus suscripciones. Nadie quiere un agente jubilado que siga pagando facturas.
La misma expresión, tres traducciones
Hasta aquí, safety encaja: se trata de fallos de las máquinas. Luego el marco pasa a hablar de lo que la IA dice y difunde.
Según el texto, los modelos pueden generar información ilegal, del fraude al extremismo. Esa información puede amenazar «la estabilidad social, la seguridad pública y la seguridad ideológica». Para evitarlo, propone revisar las respuestas con filtros automáticos y con personas. También pide frenar la difusión del contenido ilegal en cuanto se detecte.
Lo lógico sería que la traducción usara security para estos riesgos y dejara safety para los fallos de las máquinas. No lo hace. El apartado sobre estos riesgos se titula en chino 信息内容安全风险, «riesgos de seguridad de la información y los contenidos». En inglés queda como Information and content risks. La palabra «seguridad» desaparece. Más adelante, la misma expresión vuelve en el título de las medidas. Esta vez la traducción sí la incluye, y elige safety: Addressing information and content safety risks. Cuando el texto habla de 意识形态安全, «seguridad ideológica», cambia de nuevo y usa security: ideology security.
Este vaivén no esconde la ideología: el texto la nombra sin rodeos. Lo que impide es otra cosa. Quien lea en inglés no puede fiarse de safety y security para distinguir los riesgos técnicos de los políticos. En chino, la misma palabra cubre un modelo que engaña a quien lo examina, una red que sufre un ataque y lo que la población puede leer.
Tres respuestas a una misma pregunta
Las palabras no deciden qué hay que proteger. Eso lo deciden las normas y quienes las aplican. China, Estados Unidos y la Unión Europea no tienen reglas equivalentes: cambian quién manda, a quién afectan y qué quieren proteger. Aun así, compararlas ayuda a ver la distancia.
En China, el organismo que supervisa el marco es la Administración del Ciberespacio, el regulador de internet. En 2023, junto con otros seis organismos, aprobó unas reglas para la IA generativa, la que crea textos o imágenes. Obligan a los servicios abiertos al público a respetar los «valores socialistas fundamentales». El marco solo orienta; esas reglas obligan. Pero las dos salen del mismo organismo.
Estados Unidos ofrece otra respuesta. En julio de 2025, Trump firmó una orden ejecutiva. Exige «neutralidad ideológica» a los programas de IA que compre el Gobierno federal. Como ejemplo de sesgo que quiere evitar, cita las políticas de diversidad, equidad e inclusión. La orden solo afecta a lo que compra el Gobierno. No dice qué pueden decir los demás servicios.
Bruselas da una tercera. La ley europea de IA obliga a los fabricantes de los modelos más avanzados a evaluar sus riesgos sistémicos, es decir, los que pueden afectar a toda la sociedad. El código de buenas prácticas que ayuda a cumplir la ley es voluntario. Su capítulo más largo se titula Safety and Security, con las dos palabras juntas. Entre los riesgos incluye perder el control de la IA y manipular a gran escala lo que piensa la población.
La Unión Europea pone en el centro los derechos fundamentales y la defensa frente a la manipulación. China añade, por escrito, la seguridad de una ideología. Estados Unidos intenta definir qué es ser neutral, al menos en lo que compra.
El verbo que nadie leyó en chino
No es la primera vez que Washington y Pekín se entienden con palabras que no significan exactamente lo mismo en los dos idiomas. A veces esa ambigüedad no impidió el acuerdo. Lo hizo posible.
En diciembre de 1978, los negociadores estadounidenses trabajaron a contrarreloj para anunciar que Estados Unidos y China establecían relaciones diplomáticas. Solo trabajaron con el texto en inglés. Semanas después, un memorando secreto enviado a Zbigniew Brzezinski, consejero de Seguridad Nacional del presidente Carter, empezaba con una confesión: «Nunca vimos la traducción china».
Cuando por fin la leyeron, encontraron un cambio. En inglés, Estados Unidos usaba el verbo acknowledge ante la posición china sobre Taiwán. En el comunicado de Shanghái de 1972, la versión china lo traducía como 认识到, «percatarse». En el nuevo texto aparecía 承认, «admitir» o «reconocer», que supone aceptar mucho más.
La Casa Blanca preparó una respuesta por si alguien protestaba. Los dos países habían negociado en inglés, y la posición de Estados Unidos era la que decía ese texto. Así, una misma declaración pudo leerse de dos maneras.
La línea que todavía no tiene reglas
El canal de Bessent ya no es solo una propuesta. El 21 de septiembre, Washington y Pekín acordaron dar carácter oficial a su diálogo sobre IA. Volverán a reunirse dentro de dos meses en Shenzhen. Según Bessent, la línea servirá para que él y He Lifeng se avisen de incidentes que afecten a la seguridad nacional. Casi todo lo demás está por definir: qué cuenta como incidente, quién decide activar el aviso, qué información hay que compartir y en qué plazo. Además, Pekín no ha dado en público tantos detalles como Washington.
Mientras tanto, el resto del mundo tiraba en direcciones opuestas. El 22 de septiembre, ante la Asamblea General de la ONU, Trump rechazó cualquier «plan globalista» para controlar la IA y se burló de quienes advierten de que puede acabar con todos. Un día antes, veinte países, entre ellos España, y la presidenta de la Comisión Europea habían pedido que los modelos más avanzados pasen pruebas obligatorias antes de salir al mercado. También reclamaron evaluaciones independientes y estudiar la creación de un organismo internacional. Ni Estados Unidos ni China firmaron. Dos días después, ya en la cumbre de la Casa Blanca, Xi pidió que la inteligencia artificial se mantuviera siempre «bajo control humano». Trump no se comprometió con ninguna garantía concreta.
Pekín ya había puesto esa idea por escrito en el último anexo del marco, días antes de la cumbre. Su primer principio deja la decisión final a las personas. El segundo pide respetar la soberanía de cada país: la IA no debe usarse para meterse en los asuntos internos de otros. Un poco más abajo, el documento propone que cada país acepte como válidas las pruebas que otros hacen a sus modelos.
Eso no es sencillo. Para que China acepte una prueba hecha en Estados Unidos, antes los dos deben ponerse de acuerdo en qué se mide: si un modelo se deja apagar, si miente en un examen o si se escapa de una prueba. El canal de Bessent y He Lifeng necesita lo mismo. Sin una definición compartida de qué es un incidente, ninguno de los dos lados sabrá si está resolviendo un fallo entre técnicos o discutiendo un ataque entre gobiernos.
Lo que 安全 tiene de técnico está sobre la mesa para negociar. Lo que tiene de político, no.