¿Es la IA una amenaza inminente para la humanidad? La ONU y expertos lanzan advertencia

Jacob Coxon, un joven británico que trabajó en Open AI y Anthropic, advirtió que los gigantes tecnológicos no actúan de forma responsable y que la inteligencia artiificial podría matar a los seres humanos antes de 2030. Sus palabras generaron revuelo ya que provienen del seno de la propia industria. ¿Cuál es la opinión de los expertos y los políticos?

"Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”. Las estremecedoras palabras le pertenecen a Jacob Coxon, un investigador de inteligencia artificial que renunció a la industria luego de trabajar en los gigantes tecnológicos OpenAI y Anthropic.

Sus declaraciones, a través de su cuenta de X, sorprendieron y generaron una fuerte conmoción, ya que provienen de alguien que durante años estuvo estrechamente vinculado con la industria de la inteligencia artificial.

Según Coxon, ni OpenAI ni Anthropic actúan de forma responsable.  “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”. Lo llamativo es que el propio responsable de seguridad en Anthropic le dio la razón.

 "Creemos realmente que la IA podría matar a humanos", respondió Evan Hubinger, quien lidera un equipo de seguridad en Anthropic y continúa trabajando en la empresa. A título personal, estimó ese riesgo en "más de un 10%" dentro de la próxima década. Líderes de la industria de la inteligencia artificial dicen creer que esta se aproxima a la "automejora recursiva", en la que un modelo podría diseñar a su propio sucesor, completamente por fuera del control humano. Según Coxon, ninguna empresa debería desarrollar una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada.

"En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo" "Podría causar la extinción humana" Samuel Marks, miembro del personal técnico de Anthropic, respondió a la publicación en X de Coxon sobre su decisión de dejar la empresa y coincidió con él en que los desarrolladores de IA creen que esta tecnología "podría causar la extinción humana o resultados igual de graves".

"En general, cuanto más alto es el cargo del empleado, mayor es su preocupación". Según Marks, los desarrolladores de IA "siguen adelante pese al riesgo por una combinación de incentivos comerciales y la creencia de que compiten con otros trabajadores de IA menos responsables, que abusarán de la tecnología o la desarrollarán de forma menos segura".

El experto explicó además que no es posible programar a los modelos de IA para que "actúen como queremos" y que estos se comportan "de forma gravemente indebida con frecuencia". Para ejemplificar, hizo referencia a los hackeos de agentes de IA contra varias empresas.

Diversos políticos estadounidenses también se hicieron eco de la noticia. Uno de ellos es el senador por Vermont, Bernie Sanders, quien recordó que presentará una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA.

Por su parte, el congresista demócrata por Texas, Greg Casar, que también está detrás de esta normativa que propone Sanders, calificó la situación de "emergencia" e instó al Congreso a "celebrar audiencias y aprobar la propuesta" de ambos políticos.

Asimismo, Lori Trahan, congresista demócrata por Massachusetts, animó a sacar adelante su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisión de los modelos de IA.

"Riesgo existencial para la humanidad" Días atrás, la ONU también lanzó una fuerte advertencia sobre los peligros que supone el uso de la IA. El máximo responsable de Derechos Humanos del organismo, Volker Türk, se sumó a los pedidos por un mayor control de la inteligencia artificial, al advertir que esta tecnología podría convertirse en un "riesgo existencial para la humanidad" si no se toman medidas.

Volker Turk, Alto Comisionado de la ONU para los derechos humanos, inaugura el 63º período de sesiones del Consejo de Derechos Humanos, en Ginebra, el 7 de septiembre de 2026. Volker Turk, Alto Comisionado de la ONU para los derechos humanos, inaugura el 63º período de sesiones del Consejo de Derechos Humanos, en Ginebra, el 7 de septiembre de 2026 © Fabrice Coffrini / AFP

"Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa", afirmó en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra.

"Estoy haciendo un llamamiento hoy para que se realice un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde".

En ese sentido, Türk llamó a los países que albergan tecnologías de IA y a los involucrados en sus cadenas de suministro a cooperar para decretar límites claros.

"Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector", afirmó. Sin embargo, enfatizó que el desafío va más allá de la seguridad técnica.

"Un puñado de hombres tiene un poder casi ilimitado sobre la IA", señaló, en referencia a la concentración del poder tecnológico y a las grandes cantidades de datos que se recopilan y procesan.

 

Asimismo, insistió en la necesidad de una tecnología "que sirva a la humanidad y no al revés", especialmente en ámbitos como el empleo, la democracia y el medio ambiente, al tiempo que subrayó que los derechos humanos deben seguir siendo el principio rector.