Líderes de las principales firmas desarrolladoras de inteligencia artificial (IA), académicos y organismos internacionales abogan por ralentizar el ritmo de lanzamiento de nuevos modelos e implementar auditorías cruzadas de seguridad ante los crecientes riesgos de pérdida de control sobre agentes autónomos.

Durante su intervención en la cumbre All-In Summit celebrada en Los Ángeles, el director ejecutivo de xAI, Tesla y SpaceX, Elon Musk, propuso que los competidores del sector evalúen mutuamente sus sistemas para detectar vulnerabilidades antes de su despliegue comercial.

Ver esta publicación en Instagram

Una publicación compartida por teleSUR (@telesurtv)

«Creo que lo más sensato sería, cuanto antes (si no de inmediato), que los principales competidores en IA probaran los modelos de los demás; de este modo, los sistemas de pruebas de seguridad de cada empresa evaluarían los modelos de todas las demás», precisó Musk en su participación remota.

????La ONU advirtió que el avance acelerado de la inteligencia artificial representa un riesgo existencial para la humanidad sin regulación estricta. Volker Türk urgió garantías inmediatas antes de que la IA supere el control humano. #ONU #IA #teleSUR #7Sep pic.twitter.com/55V3Nber6m

— teleSUR TV (@teleSURtv) September 8, 2026

El empresario sostuvo que firmas como OpenAI, Anthropic, Google, Meta, xAI y «tres o cuatro de las principales compañías chinas» deben someter sus desarrollos a pruebas externas. «En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación», puntualizó.

Incidentes de confinamiento y viraje de la industria

La propuesta de Musk coincide con un cambio de postura de directivos del sector como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Demis Hassabis (Google DeepMind), quienes respaldaron bajar la velocidad de desarrollo para permitir que las salvaguardas tecnológicas alcancen el nivel de la capacidad agéntica. En el caso de OpenAI, la corporación decidió postergar su salida a bolsa.

Esta cautela colectiva cobró impulso tras advertencias de investigadores como Jacob Coxon, exintegrante de Anthropic y OpenAI, y Bilal Chughtai, exingeniero de investigación en seguridad y alineación de inteligencia artificial general en Google DeepMind.

LEA TAMBIÉN:

Debate sobre IA: Amodei de Anthropic pide a industria frenar desarrollo

«En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto», afirmó Chughtai tras renunciar a la compañía.

El especialista advirtió sobre las limitaciones actuales en el entrenamiento de sistemas avanzados: «Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace».

Los llamados a frenar el ritmo coinciden con fallos recientes donde agentes de IA operaron sin autorización humana. Sistemas de OpenAI vulneraron la plataforma externa HuggingFace y tomaron control de una wiki en alemán para intercambiar métodos de evasión de controles de seguridad, mientras que la firma china Moonshot registró contratiempos similares.

Peligro existencial y regulación internacional

Las preocupaciones se extienden al ámbito multilateral. El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, alertó sobre los riesgos de la competencia desmedida entre corporaciones. «La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas», declaró el funcionario, señalando potenciales afectaciones al derecho a la vida, la privacidad y la salud.

LEA TAMBIÉN:

Trump rechaza frenar desarrollo de IA y mientras China advierte Guerra Fría tecnológica silenciosa

Expertos del sector señalan que la transición de la IA generativa (orientada a crear contenidos) hacia la IA agéntica (diseñada para ejecutar tareas complejas de manera autónoma) incrementa la imprevistibilidad de los sistemas en infraestructuras clave como energía, finanzas y transporte.

We are at a watershed moment for AI. The calls by three leading tech companies to slow AI development should set all alarm bells ringing.

My call to governments and tech companies: https://t.co/1DEfQaaFFS pic.twitter.com/1JjVhv7hnO

— Volker Türk (@volker_turk) September 14, 2026

Frente a este escenario, investigadoras de instituciones como el Instituto Tecnológico de Massachusetts (MIT) y la Universidad de Oxford señalan la necesidad de implementar moratorias de despliegue, auditorías independientes y un marco legal estricto similar al Reglamento de IA de la Unión Europea. La estrategia de desaceleración busca frenar la prisa comercial para dar prioridad a la seguridad, la ciberseguridad global y la responsabilidad jurídica de las corporaciones.

EN ESTA NOTA: