La Organización de las Naciones Unidas (ONU) ha reconocido que la inteligencia artificial (IA) es una herramienta útil para resolver muchos de los problemas sociales, económicos y de salud que enfrenta la humanidad. Sin embargo, reconoce que la falta de un marco regulatorio global restringe los beneficios a un grupo selecto de países y organizaciones. En respuesta, ha emitido siete recomendaciones de gobernanza global para garantizar que el desarrollo de esta tecnología sea seguro y equitativo.
El año pasado, António Guterres, Secretario General de las Naciones Unidas, expresó la necesidad de crear un consejo asesor sobre IA. Como resultado, el Órgano consultivo de alto nivel sobre inteligencia artificial (HLAB-AI), un órgano asesor de “alto nivel” integrado por 39 expertos en la materia procedentes de 33 países.
La Convención proporciona un marco jurídico que abarca “todo el ciclo de vida de los sistemas de IA” y tiene como objetivo garantizar que el uso de la tecnología no socave las salvaguardias fundamentales, la democracia y el estado de derecho.
La entidad publicó recientemente el informe ‘Gobernando la IA para la humanidad’El documento es el resultado de un trabajo preliminar de más de 2.000 especialistas que evaluaron el alcance, las amenazas potenciales y los avances de la inteligencia artificial. El trabajo pretende sentar las bases para crear un sistema de gobernanza global que garantice un acceso confiable y justo a la innovación.
El HLAB-AI señala que, en ausencia de estándares compartidos, “La IA podría limitarse a sólo un puñado de estados, empresas e individuos”. Advierte que los sesgos y las alucinaciones de los grandes modelos inteligentes pueden exacerbar los problemas de desinformación y vigilancia de los usuarios. Estos desafíos, sumados al elevado consumo energético que implica el funcionamiento de los algoritmos, plantean interrogantes sobre el futuro de la democracia, la seguridad y la sostenibilidad en un mundo cada vez más digitalizado, según el organismo asesor.
“Con su desarrollo en manos de un número limitado de empresas multinacionales con sede en unos pocos países, los impactos de la IA podrían afectar a la mayoría de las personas sin que estas tengan voz y voto en las decisiones sobre la implementación de esta tecnología”, denuncia el comité respaldado por la ONU.
Siete medidas para regular la IA en el mundo
La organización ha propuesto siete medidas “ágiles, adaptables y eficaces” para evitar este escenario. Propone la creación de un panel científico internacional que se encargará de “proporcionar conocimientos imparciales y fiables sobre la IA”. El grupo deberá orientar a los Estados miembros de la ONU sobre el desarrollo y el uso de algoritmos generativos con un enfoque local y global. Publicará informes anuales sobre las capacidades, los riesgos y las tendencias relacionadas.
La propuesta plantea realizar encuentros de diálogo dos veces al año, en los que participarán representantes de gobiernos, empresarios, organizaciones civiles y usuarios. La intención es facilitar el debate sobre reglas comunes que garanticen los derechos humanos frente al avance tecnológico.
El proyecto contempla la activación de mecanismos para incrementar la colaboración público-privada y “garantizar la interoperabilidad técnica de los sistemas de IA«También prevé la formación de una red global de formación que permitirá a investigadores y emprendedores sociales acceder a recursos informáticos y bases de datos.
El informe de HLAB-AI describe la creación de un fondo económico común. Los recursos abordarán las desigualdades en capacidades e infraestructura para que las naciones tengan las mismas oportunidades de acceder, desarrollar y utilizar sistemas de IA. También indica que es necesario Establecer un sistema global de control de datos promover la transparencia y la normalización en el uso y la gestión de la información. Por último, se establece la intención de establecer una oficina especializada dentro de la Secretaría de las Naciones Unidas, encargada de coordinar y promover el desarrollo responsable de esta tecnología.
La investigación y el desarrollo de la IA están en pleno auge. La ONU pide la creación de un marco regulador para que estas tecnologías beneficien a la humanidad antes de ponerla en peligro. HLAB-AI denuncia que los miembros del organismo internacional no están totalmente comprometidos. Solo Canadá, Francia, Alemania, Italia, Japón, Reino Unido y Estados Unidos forman parte de todas las iniciativas apoyadas por el organismo asesor. “Los 118 países restantes están completamente ausentes, principalmente en el sur global”, revela. Moderar el desarrollo y el uso de los sistemas de IA se ha convertido en una cuestión prioritaria. Hasta ahora, las iniciativas parecen desarrollarse de forma aislada. Los expertos prevén que en tales condiciones, su éxito se vea comprometido.