El fundador y director ejecutivo de Anthropic, Dario Amodei, afirmó que la industria de la inteligencia artificial (IA) ha minimizado los riesgos asociados con esta tecnología, por lo que consideró necesario que los gobiernos y la sociedad intervengan para establecer mecanismos de supervisión.

“Existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró durante una entrevista con el programa ‘Sunday Morning’ de CBS.

Las declaraciones se produjeron un día después de que Amodei publicara un ensayo en el que pidió a las empresas de IA reducir el ritmo de desarrollo ante los crecientes riesgos de seguridad que plantea la tecnología.

Entre las amenazas que señaló se encuentran el posible uso de sistemas de IA para realizar ciberataques y desarrollar herramientas relacionadas con el bioterrorismo, además del riesgo de que los humanos pierdan el control sobre sistemas cada vez más avanzados y los efectos que podrían generar en la economía y el empleo.

La postura de Amodei también recibió respaldo de figuras destacadas de la industria, como Sam Altman, director ejecutivo de OpenAI, y Elon Musk, fundador de xAI, quienes coincidieron en la necesidad de prestar mayor atención a los riesgos asociados con el desarrollo de esta tecnología.

Sin embargo, el empresario rechazó que la solución sea prohibir por completo la inteligencia artificial, al considerar que la tecnología también podría generar importantes beneficios, particularmente en campos como la medicina.

“No creo que prohibirla por completo sea el enfoque correcto”, señaló, al argumentar que una prohibición impediría aprovechar avances que podrían contribuir, entre otras cosas, al desarrollo de tratamientos y curas médicas.

Además, advirtió que aunque Estados Unidos decidiera frenar su desarrollo, otros países continuarían avanzando, incluidos gobiernos autoritarios. Por ello, identificó como uno de los principales dilemas del debate la posibilidad de que China tome ventaja si Estados Unidos reduce el ritmo de innovación.

A pesar de defender la continuidad del desarrollo de la IA, Amodei reconoció que le genera preocupación que empresas privadas tengan bajo su responsabilidad una tecnología con un poder potencialmente tan amplio.

Te puede interesar:  Investigador de Anthropic renuncia y alerta: “La IA podría acabar con la humanidad”

En ese sentido, propuso establecer una combinación de gobiernos democráticos que participen en una estructura de “gobernanza conjunta” y supervisen a las compañías dedicadas al desarrollo de inteligencia artificial.

“Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta”, sostuvo.

Las advertencias del empresario contrastaron con la postura expresada este domingo por el presidente de Estados Unidos, Donald Trump, y el presidente de la Cámara de Representantes, Mike Johnson, quienes defendieron que el desarrollo de la IA debe continuar para evitar que China obtenga el liderazgo tecnológico.

La discusión ocurre además después de que Jacob Coxon, investigador de Anthropic que anteriormente trabajó para OpenAI, anunciara su salida de la empresa debido a sus preocupaciones sobre la manera en que las compañías están abordando la seguridad de sus sistemas.

Coxon sostuvo que las empresas del sector están más enfocadas en superar a sus competidores que en garantizar que sus productos sean desarrollados de manera responsable.

El investigador afirmó que existe preocupación dentro de la propia industria sobre la posibilidad de que los avances en inteligencia artificial representen riesgos graves en los próximos años, aunque consideró que algunos especialistas moderan públicamente sus advertencias para evitar generar alarma.