Líderes de 22 países e instituciones pidieron este lunes que la inteligencia artificial (IA) sea supervisada por humanos y que los Estados miembros de la ONU establezcan normas comunes para esta tecnología.

Entre los que suscriben el documento, publicado en el marco de la Semana de Alto Nivel de la ONU, se encuentran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb.

También figuran en la carta representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Türkiye y Emiratos Árabes Unidos. Aunque los firmantes reconocen que la IA tiene el potencial «de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías«, subrayan que su rápido desarrollo «plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente«.

La misiva cita episodios en los que sistemas de IA avanzados burlan las medidas de seguridad de otras compañías y entidades, obteniendo acceso no autorizado a sistemas del mundo real. «La IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional», apuntan los firmantes.

Para cumplir con esta recomendación, piden a las empresas del sector que desarrollen protocolos de seguridad transparentes, con pruebas obligatorias previas a la implantación de los modelos de IA y una evaluación independiente. También instan, tanto a gobiernos como a instituciones regionales, a desarrollar y coordinar normas comunes, así como a reforzar su transparencia y garantizar que todos los países tengan acceso a capacidad científica, conocimientos especializados y evaluaciones fiables.

LEA TAMBIEN:

Desarrolladores y la ONU alertan por riesgos de agentes autónomos de IA

En la misiva se anima a los Estados miembros de la ONU a aprovechar los mecanismos internacionales existentes para plantear la creación de una institución internacional que establezca normas, facilite la verificación y convoque a los países «cuando se superen los umbrales de capacidad».

La carta llega en medio de advertencias por parte de desarrolladores e investigadores sobre los riesgos de la IA. Figuras del sector como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) también han manifestado su preocupación por el avance de esta tecnología, en una coincidencia poco habitual en el sector para exigir más regulaciones.

EN ESTA NOTA: