Sam Altman advierte que IA puede hacer perder 'control del futuro': 'Podría salir muy mal'

El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención este 13 de septiembre sobre la pérdida del "control del futuro" ante la inteligencia artificial (IA) e insistió en la necesidad de crear modelos seguros en su desarrollo.

Dos amenazas principales

Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos".

El camino intermedio

"Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar", destacó el CEO de OpenAI.

El directivo consideró que para evitar estas dos amenazas se debe "caminar por un angosto camino intermedio", que evite que tanto un país como un laboratorio tenga demasiado poder.

Confianza en empresas estadounidenses

Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, "cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado".

Marco legal federal necesario

En este sentido, apeló a un marco legal federal en Estados Unidos que "establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)", un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.

Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado.

Colaboración entre empresas

El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia".

Coordinación internacional

Por último, Altman solicitó la colaboración del Gobierno de EE. UU. para encontrar una coordinación internacional en el desarrollo de la IA.

Contexto del debate sobre regulación

Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos.

Posiciones divididas

En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsable de Anthropic, Dario Amodei, mientras el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China.