El Consejo de Ministros de España ha aprobado una ley preliminar sobre el uso ético y la gobernanza de la inteligencia artificial (AI). La iniciativa prohíbe las prácticas de manipulación, requiere el etiquetado de los contenidos generados con esta tecnología y establece sanciones severas para aquellos que no cumplen con estas disposiciones.
ÓScar López, Ministro de Transformación de las Funciones Digitales y Públicas, dijo en una conferencia de prensa que «AI es una herramienta muy poderosa, que puede usarse para mejorar nuestras vidas o atacar la democracia. Puede usarse para investigar el cáncer o la Alzheimer, evita catástrofes naturales y descubrir nuevos medicamentos. Pero también es un instrumento para difundir las falsas noticias y propague el hatred.
El borrador de la ley aprobada Adaptar la legislación nacional a la regulación europea de inteligencia artificial actual. Según López, esta última regulación ha sido diseñada para «defender nuestros derechos digitales identificando las prácticas prohibidas».
La regulación europea clasifica las plataformas y aplicaciones de IA en cuatro niveles de riesgo: mínimo, limitado, alto e inaceptable. Con mayor riesgo, mayores responsabilidades, requisitos y restricciones para aquellos que desarrollan o usan estos sistemas. Además, establece sanciones por incumplimiento de hasta 35 millones de euros y/o entre el 5 y el 7% de la facturación mundial de los delincuentes.
La regulación prohíbe el uso, el marketing y el desarrollo de algoritmos considerados demasiado peligrosos. Entre estos, hay tecnologías que pueden manipular el comportamiento del usuario, recopilar enormemente fotos de caras en Internet y procesar datos confidenciales para calcular la probabilidad de que una persona comete un delito.
Los modelos de puntaje social, el reconocimiento de las emociones y la vigilancia biométrica están catalogados de «alto riesgo» y están sujetos a supervisión permanente. Esta categoría también incluye desarrollos que pueden afectar la seguridad de la infraestructura crítica e influir en las decisiones sobre la educación, el empleo, la provisión de servicios públicos esenciales, la aplicación de la gestión de la ley y la migración.
Etiquetado de IA, aún incierto en España y Europa
Las regulaciones también mencionan los modelos fundamentales, que deben garantizar que sus datos de capacitación no violen los derechos de autor y especifiquen si AI ha generado un texto, audio, imagen o video. Sin embargo, la regulación europea No detalla cómo se debe hacer este etiquetado ni establece medidas para garantizar el respeto por los derechos de autor. El borrador aprobado en España tampoco aborda estos aspectos.
López se limitó a señalar que «cuando se desarrollan las regulaciones, la agencia española para la supervisión de la inteligencia artificial (aesia) establecerá las reglas». Indicó que la Agencia de Protección de Datos (AEPD) abordará los asuntos relacionados con los datos biométricos, la Junta Electoral Central asistirá a los posibles riesgos para la democracia, y el Consejo General del Poder Judicial abordará aquellos problemas que pueden influir en la aplicación de la justicia. El resto de los casos serán evaluados por la Aesia.
Las intenciones de España de fortalecer la gobernanza de la IA coinciden con su aspiración de convertirse en un poder europeo en esta industria emergente. El gobierno ha lanzado la Estrategia de Inteligencia Artificial 2024, un proyecto con un presupuesto total de 1,500 millones de euros, que se agregan otros 600 millones ya asignados a través de la Estrategia Nacional de Inteligencia Artificial (ENIA) de 2020. Además, las autoridades han anunciado que se asignarán 150 millones adicionales para promover el uso de la IA en las empresas. Estos recursos se centrarán en el desarrollo de los modelos de idiomas estatales, el fortalecimiento de la infraestructura de supercomputación estatal y la formación de talentos especializados.
Pedro Sánchez, presidente del Gobierno, ha afirmado que el objetivo es que «España desempeña un papel relevante a nivel europeo e internacional en el desarrollo de la inteligencia artificial y proporciona una infraestructura abierta, pública y accesible para las empresas, para que puedan tener modelos de lenguaje a gran escala que favorecen el desarrollo de aplicaciones avanzadas para la explotación económica posterior».
(Tagstotranslate) España