El gobierno de Australia informó este jueves que inició una investigación sobre la infiltración de modelos de inteligencia artificial (IA) desarrollados por la empresa OpenAI, debido al acceso no autorizado en junio a uno de sus portales del sistema público de salud, accediendo a datos sobre gastos en atención médica.

“Un agente de inteligencia artificial se ha infiltrado en un sitio web del gobierno australiano”, dijo el primer ministro Anthony Albanese, mientras que el Centro Australiano de Ciberseguridad recomendó a organizaciones australianas «probar los controles y los procedimientos de respuesta ante incidentes frente a escenarios de amenazas que involucren IA».

Se trata del primer caso divulgado públicamente de modelos de IA que piratean de forma autónoma sistemas gubernamentales.

La Dirección de Señales de Australia investiga el incidente y determina si otros sitios web se vieron comprometidos. El Gobierno se toma «muy en serio» el incidente motivo por el cual decidió crear un grupo de trabajo «para investigar el asunto a fondo y comprender todo lo posible al respecto», señaló el ministro de Defensa australiano, Richard Marles.

LEA TAMBIÉN:

Desarrolladores y la ONU alertan por riesgos de agentes autónomos de IA

El titular de Defensa dijo que la infiltración a los archivos públicos y no públicos, «plantea interrogantes sobre si se ha infringido la ley en este respecto».

«Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de inteligencia artificial«, añadió Marles.

Por su parte, el primer ministro australiano, Anthony Albanese, quien participa en la Asamblea General de la ONU, expresó su extrema preocupación, y protestó contra OpenAI por esperar tres meses en informar a las autoridades australianas sobre lo ocurrido.

El modelo IA accedió el 18 de junio al portal de estadísticas de Medicare, que gestiona el sistema público de salud de Australia, mientras realizaba una investigación sobre el gasto público en medicamentos.

El Centro Australiano de Ciberseguridad (ASD por sus siglas en Inglés) expresó que «no hay indicios de que esta actividad represente una amenaza más amplia o un ataque malicioso dirigido contra Australia. No obstante, esto pone de relieve la importancia de adoptar prácticas seguras de implementación de IA y de mantener unos fundamentos sólidos de ciberseguridad».

LEA TAMBIÉN:

Debate sobre IA: Amodei de Anthropic pide a industria frenar desarrollo

De igual forma sostuvo que que el agente de inteligencia artificial (no humano) identificó vulnerabilidades de forma autónoma sin autorización de ninguna persona ante lo que hizo un llamado a reportar las «actividades sospechosas impulsadas por IA», lo que incluye «intentos de explotación o vulnerabilidades que afecten a sus sistemas».

OpenAI «identificó actividad relacionada con varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles a preguntas sobre Australia durante una evaluación interna», dijo el portavoz de la empresa Drew Pusateri, y agregó: «En el transcurso de eso, nuestros modelos realizaron acciones que no teníamos previstas».

Mientras tanto, los líderes de la industria de la IA advirtieron al Consejo de Seguridad de la ONU que los sistemas cada vez más autónomos podrían superar la supervisión humana, concentrar el poder y representar riesgos para la humanidad.

El director ejecutivo de OpenAI hizo un llamado a la extrema cautela, instando a los gobiernos y a las naciones competidoras a cooperar en la gobernanza de la IA, evitando tanto el optimismo ciego como el pesimismo excesivo.

Gran Bretaña y Francia respaldaron los esfuerzos para establecer normas globales sobre IA, mientras que la administración del presidente estadounidense Donald Trump se opuso a la regulación internacional. El asesor científico de la Casa Blanca, Michael Kratsios, argumentó que el rápido progreso tecnológico no debería verse limitado, y Trump desestimó la regulación internacional de la IA como un «plan globalista».

EN ESTA NOTA: