Más allá de trabajar en la fiabilidad y seguridad de estos sistemas de inteligencia artificial, a través de una carta publicada, se pone sobre la mesa la necesidad de desarrollar nuevos protocolos de seguridad compartidos entre los mismos.

 

Esta carta, firmada por más de 1.000 personalidades del mundo tecnológico, pone en tela de juicio los rápidos avances de los sistemas de inteligencia artificial. En concreto, aquellos que supongan una capacidad superior a la de GPT-4.

 

"Pedimos a todos los laboratorios de IA que pausen inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4". Este es el mensaje reflejado en la carta abierta firmada por, entre otros, Elon Musk, Steve Wozniak (co-fundador de Apple), Jaan Tallinn (co-fundador de Skype) y Max Tegmark (MIT).

 

¿Cuál es el riesgo?

 

La carta deja claro, en primer lugar, que el desarrollo en sistemas de IA puede representar un cambio profundo en la historia, siempre y cuando se gestione y planifique de forma adecuada. Los firmantes afirman que ni siquiera los creadores de estos sistemas, a día de hoy, son capaces de entender o predecir de forma fiable su comportamiento.

 

La carta no alude a una pausa completa en el desarrollo de la IA, sino a aquellos sistemas con más capacidad que GPT-4. Piden "un paso atrás" en la carrera hacia "modelos impredecibles y cada vez con más capacidades emergentes". El punto principal es que el desarrollo actual debe centrarse en "conseguir que los potentes sistemas de vanguardia actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, fiables y leales."

 

Summary of argument against AI safety pic.twitter.com/Vmg4yJm22Y

— Elon Musk (@elonmusk) April 4, 2023