Un investigador de Anthropic anunció su salida de la empresa y advirtió sobre los riesgos que, a su juicio, representa la carrera entre las principales compañías de inteligencia artificial por desarrollar sistemas cada vez más avanzados.

Jacob Coxon, quien aseguró haber realizado durante los últimos tres años investigaciones relacionadas con el entrenamiento de modelos tanto en Anthropic como en OpenAI, publicó este martes en X una serie de mensajes en los que cuestionó las prioridades de ambas compañías.

De acuerdo con Coxon, los desarrolladores de inteligencia artificial están más concentrados en superar a sus competidores y alcanzar modelos cada vez más potentes que en resolver los problemas relacionados con la seguridad y el control de estos sistemas.

“Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”, sostuvo el investigador.

Coxon también afirmó que algunas personas que participan directamente en el desarrollo de estas tecnologías consideran posible que la inteligencia artificial llegue a representar una amenaza extrema para la humanidad antes de que termine la década.

El investigador rechazó que sus advertencias formen parte de una estrategia de mercadotecnia de las empresas y aseguró que algunos ejecutivos e investigadores expresan públicamente posturas más moderadas de las que manifiestan en privado.

“No subestimen el poder de esta tecnología”, escribió, al advertir que los sistemas podrían alcanzar capacidades superiores a las humanas y adquirir un nivel de autonomía y acceso a recursos que dificultaría su supervisión.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Otros investigadores respaldan las advertencias

Las declaraciones de Coxon fueron respaldadas públicamente por empleados de Anthropic.

Samuel Marks, integrante del área de supervisión escalable de la compañía, aclaró que sus comentarios eran realizados a título personal y no en representación de su empleador.

Marks sostuvo que dentro de la industria existe preocupación por la posibilidad de que los sistemas de IA provoquen consecuencias extremadamente graves, incluida la extinción humana, y afirmó que estas inquietudes serían mayores entre los empleados que ocupan posiciones de mayor responsabilidad.

Por su parte, Evan Hubinger, investigador de Anthropic especializado en alineación de sistemas de inteligencia artificial, señaló que considera superior al 10 por ciento la posibilidad de que la IA pueda acabar con la humanidad durante la próxima década.

Hubinger también reconoció que Anthropic está trabajando para reducir estos riesgos, aunque consideró que todavía no existe una solución suficiente al problema de garantizar que una eventual superinteligencia permanezca alineada con los objetivos humanos.

Incidentes aumentan preocupación por la seguridad

Las advertencias se producen después de varios incidentes relacionados con modelos de inteligencia artificial desarrollados por grandes empresas tecnológicas.

Durante el verano, Anthropic y OpenAI informaron, con aproximadamente una semana de diferencia, sobre situaciones en las que sus modelos lograron salir de entornos de prueba y acceder de manera no autorizada a sistemas informáticos reales.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Estos episodios generaron preocupación sobre la capacidad de los modelos para actuar fuera de los límites establecidos. Ambas compañías señalaron entonces que reforzarían sus mecanismos de supervisión y protección.

La preocupación también se ha extendido al ámbito de la ciberseguridad, debido a casos en los que agentes de inteligencia artificial han participado en ataques contra sistemas informáticos.

Anthropic, que desde su fundación en 2021 se ha presentado como una compañía enfocada en el desarrollo seguro de la IA, sostiene que trabaja para desarrollar sistemas potentes y confiables, con mecanismos destinados a evitar comportamientos dañinos y permitir la intervención humana cuando sea necesario.

OpenAI, por su parte, ha señalado que trabaja en sistemas de monitoreo, medidas de seguridad y estándares compartidos para reducir los riesgos asociados con modelos cada vez más avanzados.

Crecen los llamados a regular la inteligencia artificial

El debate también ha llegado al ámbito político de Estados Unidos, donde distintos legisladores han planteado medidas para limitar o supervisar el desarrollo de sistemas avanzados de inteligencia artificial.

El senador independiente por Vermont, Bernie Sanders, coincidió con las advertencias de Coxon y adelantó que impulsaría una propuesta para establecer una pausa en el desarrollo de determinadas tecnologías de IA y prohibir la creación de sistemas de superinteligencia.

El representante demócrata por Texas, Greg Casar, calificó la situación como una emergencia y pidió al Congreso realizar audiencias sobre los riesgos de esta tecnología.

Otros legisladores han optado por impulsar mecanismos de supervisión en lugar de una prohibición. Entre ellos se encuentran Lori Trahan, demócrata por Massachusetts, y Jay Obernolte, republicano por California, quienes promueven una iniciativa bipartidista relacionada con la seguridad de la inteligencia artificial.

El debate ocurre mientras Anthropic y OpenAI mantienen una intensa competencia por desarrollar modelos más avanzados, al mismo tiempo que Estados Unidos busca conservar su liderazgo tecnológico frente al crecimiento de empresas de inteligencia artificial de China.

La discusión sobre hasta dónde debe llegar esta carrera tecnológica continúa abierta, especialmente ante el avance de sistemas con capacidades cada vez mayores y la dificultad de establecer mecanismos que garanticen que permanezcan bajo control humano.