¿Es la IA una amenaza inminente para la humanidad? La ONU y expertos lanzan advertencia

Jacob Coxon, un joven británico que trabajó en Open AI y Anthropic, advirtió que los gigantes tecnológicos no actúan de forma responsable y que la inteligencia artiificial podría matar a los seres humanos antes de 2030. Sus palabras generaron revuelo ya que provienen del seno de la propia industria. ¿Cuál es la opinión de los expertos y los políticos? Primera modificación: 10/09/2026 - 01:04 Última modificación: 10/09/2026 - 01:07 Por: FRANCE 24 / Guido Burdman Para mostrar este contenido de YouTube, debe autorizar las cookies de medición de audiencia y publicidad. Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio. Imagen de portada: Jacob Coxon trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos de IA absorben grandes cantidades de información © Nicolas TUCAT / AFP 07:16 "Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década ”. Las estremecedoras palabras le pertenecen a Jacob Coxon , un investigador de inteligencia artificial que renunció a la industria luego de trabajar en los gigantes tecnológicos OpenAI y Anthropic . Sus declaraciones, a través de su cuenta de X, sorprendieron y generaron una fuerte conmoción, ya que provienen de alguien que durante años estuvo estrechamente vinculado con la industria de la inteligencia artificial. Según Coxon, ni OpenAI ni Anthropic actúan de forma responsable. “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”. Lo llamativo es que el propio responsable de seguridad en Anthropic le dio la razón. "Creemos realmente que la IA podría matar a humanos" , respondió Evan Hubinger , quien lidera un equipo de seguridad en Anthropic y continúa trabajando en la empresa. Para mostrar este contenido de X (Twitter), debe autorizar las cookies de medición de audiencia y publicidad. A título personal, estimó ese riesgo en "más de un 10%" dentro de la próxima década. Líderes de la industria de la inteligencia artificial dicen creer que esta se aproxima a la "automejora recursiva", en la que un modelo podría diseñar a su propio sucesor, completamente por fuera del control humano. Según Coxon, ninguna empresa debería desarrollar una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada. "En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo" Leer también La IA avanzada puede representar un "riesgo existencial para la humanidad", advierte la ONU Samuel Marks , miembro del personal técnico de Anthropic, respondió a la publicación en X de Coxon sobre su decisión de dejar la empresa y coincidió con él en que los desarrolladores de IA creen que esta tecnología "podría causar la extinción humana o resultados igual de graves" . "En general, cuanto más alto es el cargo del empleado, mayor es su preocupación". Según Marks, los desarrolladores de IA "siguen adelante pese al riesgo por una combinación de incentivos comerciales y la creencia de que compiten con otros trabajadores de IA menos responsables, que abusarán de la tecnología o la desarrollarán de forma menos segura". El experto explicó además que no es posible programar a los modelos de IA para que "actúen como queremos" y que estos se comportan "de forma gravemente indebida con frecuencia". Para ejemplificar, hizo referencia a los hackeos de agentes de IA contra varias empresas. Para mostrar este contenido de X (Twitter), debe autorizar las cookies de medición de audiencia y publicidad. Diversos políticos estadounidenses también se hicieron eco de la noticia. Uno de ellos es el senador por Vermont, Bernie Sanders , quien recordó que presentará una l egislación para prohibir la superinteligencia y pausar el desarrollo de la IA . Por su parte, el congresista demócrata por Texas , Greg Casar, que también está detrás de esta normativa que propone Sanders, calificó la situación de "emergencia" e instó al Congreso a "celebrar audiencias y aprobar la propuesta" de ambos políticos. Asimismo, Lori Trahan, congresista demócrata por Massachusetts, animó a sacar adelante su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisión de los modelos de IA. Leer también OpenAI afirma que su IA resolvió uno de los problemas más complejos de las matemáticas Días atrás, la ONU también lanzó una fuerte advertencia sobre los peligros que supone el uso de la IA. El máximo responsable de Derechos Humanos del organismo, Volker Türk , se sumó a los pedidos por un mayor control de la inteligencia artificial, al advertir que esta tecnología podría convertirse en un "riesgo existencial para la humanidad" si no se toman medidas. Volker Turk, Alto Comisionado de la ONU para los derechos humanos, inaugura el 63º período de sesiones del Consejo de Derechos Humanos, en Ginebra, el 7 de septiembre de 2026 © Fabrice Coffrini / AFP "Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa", afirmó en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra. "Estoy haciendo un llamamiento hoy para que se realice un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde". En ese sentido, Türk llamó a los países que albergan tecnologías de IA y a los involucrados en sus cadenas de suministro a cooperar para decretar límites claros. "Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector", afirmó. Sin embargo, enfatizó que el desafío va más allá de la seguridad técnica. "Un puñado de hombres tiene un poder casi ilimitado sobre la IA", señaló, en referencia a la concentración del poder tecnológico y a las grandes cantidades de datos que se recopilan y procesan. Asimismo, insistió en la necesidad de una tecnología "que sirva a la humanidad y no al revés", especialmente en ámbitos como el empleo, la democracia y el medio ambiente , al tiempo que subrayó que los derechos humanos deben seguir siendo el principio rector. Leer también El cine mundial busca organizarse frente a la IA y la crisis de las salas Fuente: https://www.france24.com/es/rss