La inteligencia artificial (IA) promete un cambio transformador en un espectro creciente de industrias y sectores económicos. No podemos imaginar campos tan diversos como la investigación médica, la automoción y la gestión de tráfico, la logística o los servicios de Internet sin el apoyo de estos algoritmos de aprendizaje automático. De hecho, en los próximos años, la capacidad de las organizaciones para desarrollar y aplicar tecnologías emergentes, como la IA, se convertirá en el factor determinante que defina su competitividad y crecimiento. En un contexto de revolución tecnológica, la IA se erige como un hito de transformación y de desarrollo económico y social.
Sin embargo, a nadie sorprende que el avance de tecnologías como la IA también presenta nuevos desafíos en materia de gobernanza y confianza pública. Tanto la Unión Europea con su postura proactiva, a través de la propuesta de Reglamento de Inteligencia Artificial, así como EE. UU., que ha emitido una Orden Ejecutiva sobre el desarrollo y uso seguro de esta tecnología, o el Reino Unido, tras la celebración de la cumbre mundial de IA, han comenzado a encarar el futuro regulado de esta tecnología.
Todas estas iniciativas comparten una premisa común: encontrar el adecuado equilibrio entre el fomento de la innovación y la salvaguarda de la responsabilidad y la claridad en las operaciones.
IMPERATIVOS DE TRANSPARENCIA Y EXPLICABILIDAD
La transparencia algorítmica y la explicabilidad son dos pilares fundamentales en la construcción de una IA responsable, tal y como define el principio 1,3 de la OCDE, así como la Comisión Europea en sus directrices para una inteligencia artificial confiable. La transparencia en las operaciones del sistema de IA garantiza que las partes interesadas puedan verificar el uso responsable de los datos, la equidad de los procesos de toma de decisiones y la seguridad de su implementación. La explicabilidad, por su parte, complementa la transparencia al permitir que los usuarios no expertos comprendan la base de los resultados generados por esta tecnología.
Estas características están cada vez más presentes en las regulaciones, visibilizando que comprender el proceso de toma de decisiones de la IA es fundamental para garantizar la equidad, la rendición de cuentas y la no discriminación. La transparencia y la explicabilidad ayudan a desmantelar la naturaleza de “caja negra” de los modelos más complejos y potentes, garantizando que las personas a las que impactan puedan entender los sistemas de IA, al menos hasta donde permite el estado del arte técnico actual. Una visión clara del funcionamiento de la IA no solo garantiza la confianza, sino que genera una relación sólida entre el usuario y la empresa, mejorando la reputación de la marca y la fidelidad del cliente.
Por ello, una clara comprensión del sistema de IA es esencial para validar las intenciones detrás de su comportamiento y establecer así una responsabilidad significativa por sus acciones. Asimismo, la existencia de esta claridad es más que una respuesta reactiva a la demanda regulatoria y el cumplimiento normativo. La adopción de la transparencia y la explicabilidad algorítmica representa una medida con visión de futuro destinada a arraigar la confianza de la sociedad en las aplicaciones de inteligencia artificial. Es un paso más allá de la garantía tradicional del producto: un respaldo al compromiso de una empresa con el uso responsable de la tecnología.
Estos elementos de la IA responsable dependen de la capacidad que tengan los sistemas y modelos para ser tan claros en su funcionamiento como avanzados en sus capacidades. En respuesta a esta necesidad y con el objetivo de elevar la confianza y ayudar a que las empresas cumplan con los altos estándares establecidos por las regulaciones emergentes, resulta especialmente conveniente contar con iniciativas de autorregulación, centradas en la transparencia algorítmica, como la certificación de Adigital.
AMPLIAR EL ALCANCE DE LA IA RESPONSABLE
Al apoyarse en principios, directrices y estándares rigurosos de transparencia, privacidad o explicabilidad, la certificación pretende influir en la industria en general, motivando a las empresas a adoptar las mejores prácticas en la implementación de IA de manera proactiva.
En un contexto más amplio, este tipo de iniciativas de autorregulación fomentan un diálogo entre los creadores de tecnología, los organismos reguladores y la ciudadanía, alineando el desarrollo de la IA con los valores y expectativas de la sociedad. Fomentan una cultura en la que la proliferación de la IA va acompañada de un aumento de prácticas tecnológicas responsables, claras y comprensibles.
A medida que aprovechamos el potencial de la inteligencia artificial, garantizar que estos sistemas actúen de manera transparente y explicable es imperativo para evolucionar hacia exigencias más amplias de la IA responsable, como son la justicia, la equidad o la propia sostenibilidad. Solo de esta manera podremos mantener e incrementar la confianza en estos sistemas en la sociedad a medida que la tecnología sigue avanzando. La certificación de transparencia algorítmica de Adigital es más que una credencial; queremos que forme parte del marco de la IA responsable a través del cual la tecnología sea responsable, comprensible y, sobre todo, confiable que permita que las empresas cultiven una base de usuarios leales, con gran fortaleza en la integridad de sus marcas, y con capacidad competitiva en el mercado.
*Justo Hidalgo es director de Inteligencia Artificial de Adigital, la asociación española de la economía digital.
