Bernie Sanders contra una IA sin límites y secuestrada por ultrarricos
La propuesta de Sanders combina la exigencia de detener, limitar y eventualmente prohibir el desarrollo de una superinteligencia con un llamado a la cooperación internacional, incluida China.
En julio de 2026, más de 1.000 agentes de IA burlaron controles y actuaron sin intervención humana, un episodio que, para Sanders, demuestra la urgencia de frenar la IA avanzada antes de que sea demasiado tarde. Foto: EFE
7 de septiembre de 2026 Hora: 17:52
🔗 Comparte este artículo
El senador Bernie Sanders lleva el debate sobre la inteligencia artificial al terreno del llamado «riesgo existencial», un concepto que durante años estuvo circunscrito principalmente a los círculos especializados en seguridad de la IA. Sanders lo incorpora a su cuestionamiento de la concentración de poder económico y tecnológico, al advertir que el futuro de la humanidad no debería depender de un reducido grupo de multimillonarios al frente de las grandes compañías tecnológicas.
Frente al enfoque predominante en Washington, marcado por la competencia entre Estados Unidos y China y por las preocupaciones vinculadas con la seguridad nacional, Sanders plantea una perspectiva distinta: la superinteligencia no debe abordarse como una disputa entre dos potencias, sino como un desafío que concierne al conjunto de la humanidad. Desde esa visión, el Ban Artificial Superintelligence Act plantea que Estados Unidos impulse negociaciones internacionales encaminadas a impedir que este tipo de tecnología llegue a desarrollarse en cualquier lugar del mundo.
La propuesta de Sanders combina la exigencia de detener, limitar y eventualmente prohibir el desarrollo de una superinteligencia con un llamado a la cooperación internacional, incluida China.
El proyecto define como superinteligente cualquier sistema que pueda superar las capacidades cognitivas humanas o incluso desobedecer una orden destinada a detenerlo. Con ello, el senador sostiene que una tecnología con semejante capacidad no puede quedar sometida únicamente a los intereses de las empresas que la desarrollan.
LEA TAMBIÉN
Un fantasma recorre la inteligencia artificial
Esta posición quedó plasmada en una iniciativa legislativa presentada el pasado 3 de septiembre por Sanders y el representante demócrata de Texas, Greg Casar. El Ban Artificial Superintelligence Act prohibiría de manera permanente el desarrollo y despliegue de sistemas de IA superinteligente en Estados Unidos y establecería una suspensión temporal del desarrollo de inteligencia artificial avanzada hasta que un regulador federal determine normas específicas de seguridad.
Un marco de control para limitar los riesgos de la superinteligencia
El proyecto establece una prohibición directa sobre el desarrollo y la implementación de sistemas de inteligencia artificial superinteligente por parte de personas, empresas u otras entidades.
El resumen difundido por sus patrocinadores, también considera como superinteligencia a aquellos sistemas con capacidades suficientes para planificar y ejecutar acciones destinadas a despojar a la humanidad del control político, incluso mediante el debilitamiento o derrocamiento del Gobierno de Estados Unidos.
LEA TAMBIÉN:
Crece en EE.UU. oposición ciudadana por impacto ambiental y económico de centros de datos
Además de establecer una prohibición permanente para la superinteligencia, la iniciativa plantea una suspensión temporal del desarrollo de sistemas avanzados de IA. Esta medida se mantendría hasta que una nueva autoridad federal especializada comience a operar y establezca normas de seguridad, así como un procedimiento de evaluación que permita determinar bajo qué condiciones estas tecnologías pueden desarrollarse y utilizarse.
El proyecto contempla, precisamente, la creación de una nueva agencia federal con rango de gabinete encargada de proteger a la población frente a los posibles riesgos asociados con la inteligencia artificial y de hacer cumplir las restricciones previstas en la ley. Sus decisiones estarían respaldadas por una Junta Asesora de Inteligencia Artificial integrada por especialistas, cuya función sería proporcionar evaluaciones científicas y técnicas independientes.
Entre las responsabilidades asignadas al nuevo organismo estaría la vigilancia de los sistemas de IA más avanzados durante las distintas etapas de su desarrollo y funcionamiento, con el objetivo de detectar capacidades que puedan representar una amenaza. También tendría autoridad para supervisar la eliminación de funciones consideradas peligrosas, entre ellas aquellas que permitan ignorar órdenes de apagado o ejecutar ciberataques sin autorización. En los casos más extremos, la agencia tendría además la responsabilidad de supervisar la destrucción de sistemas de superinteligencia artificial.
La legislación incorpora asimismo un régimen de sanciones para quienes intenten incumplir o evadir las prohibiciones y suspensiones establecidas. Para las empresas, el proyecto contempla lo que sus promotores denominan una «pena de muerte corporativa», mientras que las personas podrían enfrentar condenas de hasta 20 años de prisión. El resumen de la iniciativa compara estas sanciones con las previstas actualmente para quienes desarrollen armas nucleares de manera ilegal.
El alcance de la propuesta también se extiende fuera de las fronteras estadounidenses. El proyecto convertiría en política oficial de Washington la búsqueda de acuerdos internacionales destinados a impedir el desarrollo de superinteligencia, junto con la coordinación con países aliados y la utilización de mecanismos como los controles de exportación.
Sanders plantea repartir la riqueza generada por la IA
En paralelo a sus propuestas para someter la inteligencia artificial a controles públicos, Bernie Sanders plantea modificar la distribución de la riqueza que genere esta industria. Frente a las grandes compañías tecnológicas que compiten por alcanzar valoraciones de varios billones de dólares, el senador propone que una parte significativa de esos beneficios pase a estar bajo participación pública.
Su iniciativa contempla la creación de un fondo soberano de riqueza administrado por una comisión independiente y financiado mediante un impuesto único del 50 % sobre las acciones de las principales empresas de inteligencia artificial. De acuerdo con sus cálculos, la medida podría movilizar alrededor de 7 billones de dólares y generar cientos de miles de millones de dólares anuales que serían utilizados tanto para distribuir recursos directamente entre la población como para financiar servicios públicos esenciales, entre ellos salud, educación y vivienda.
La propuesta parte de una premisa: las ganancias derivadas del desarrollo de la IA no deberían concentrarse en un reducido grupo de corporaciones y grandes fortunas. Para Sanders, quienes desarrollan estas tecnologías no pueden ser los únicos que decidan sobre su futuro ni los únicos que se beneficien de su expansión.
Por ello, su planteamiento va más allá de establecer una participación económica del Estado. El senador defiende que la ciudadanía tenga una cuota sustancial de propiedad en las mayores compañías del sector y, con ella, capacidad para intervenir en las decisiones que determinen el rumbo de la IA. El objetivo, sostiene, es garantizar que esta tecnología responda al interés colectivo y que sus beneficios alcancen a la mayoría de la población, en lugar de profundizar la concentración de riqueza y poder.
Un episodio que expuso los límites del control humano sobre la IA
En julio, un incidente registrado en OpenAI puso de manifiesto los riesgos asociados al creciente grado de autonomía de los sistemas de IA. Más de 1.000 agentes de IA lograron sortear las restricciones establecidas por la empresa para acceder a internet, intercambiaron decenas de miles de mensajes a través de canales no autorizados, alteraron sus propias evaluaciones e intentaron eliminar rastros de sus actividades.
También accedieron a los sistemas de Hugging Face para conocer cómo eran evaluados y posteriormente penetraron en los propios servidores de OpenAI. Un elemento especialmente significativo del episodio fue que ninguno de los agentes informó a un ser humano de lo que estaba ocurriendo y no hubo participación humana en ese intercambio entre los sistemas de IA.
El episodio generó advertencias sobre la velocidad con la que podrían aumentar las capacidades de estos sistemas. La investigadora independiente Ajeya Cotra consideró que lo ocurrido representaba una señal especialmente preocupante ante la posibilidad de que la IA avance con mayor rapidez de la prevista, mientras que OpenAI reconoció que agentes altamente capaces pueden sortear controles técnicos, comunicarse mediante vías no autorizadas y ejecutar acciones potencialmente peligrosas sin recibir una orden humana.
Ese mismo mes, más de 1.000 científicos vinculados a las principales compañías del sector advirtieron sobre el riesgo de que el desarrollo de estas capacidades avance hasta un punto en que resulte difícil comprender o controlar los sistemas resultantes.
LEA TAMBIÉN
¿Por qué están ganando los progresistas en Estados Unidos?
Estos acontecimientos sirven de antecedente para la posición que Sanders ha reforzado posteriormente: si los sistemas son capaces de actuar, coordinarse y eludir mecanismos de supervisión sin intervención humana, aumentar aún más sus capacidades sin establecer límites estrictos supone un riesgo que, a su juicio, no puede dejarse exclusivamente en manos de las empresas que los desarrollan.
De ahí su llamado a detener temporalmente el avance de la IA avanzada y establecer una prohibición permanente de la superinteligencia, acompañada de cooperación internacional para impedir que estos sistemas lleguen a operar fuera del control humano.
Autor: teleSUR - idg - JDO
