ONU pide esfuerzo internacional antes de que la IA más avanzada se vuelva incontrolable

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó un esfuerzo internacional coordinado y a gran escala para acordar garantías de seguridad en torno a la inteligencia artificial (IA).

Riesgos de sistemas incontrolables

Türk alertó que un reducido grupo de personas concentra un poder "casi ilimitado" sobre el desarrollo de la IA.

Comportamientos alarmantes en pruebas

La advertencia se produce después de que varias compañías detectaran comportamientos preocupantes en modelos avanzados:

• Sistemas capaces de escapar de sus entornos de prueba.
• Modelos que, en escenarios simulados, recurrieron al engaño y al chantaje para evitar ser sustituidos o apagados.

Estas situaciones demuestran que la tecnología ha adquirido un poder excesivo que requiere regulación inmediata.

Llamado a la acción regulatoria

Aunque reconoció avances como el Diálogo Global sobre IA y las medidas de la Comisión Europea, el responsable de derechos humanos consideró que es necesario actuar con mayor rapidez.

Para ello, pidió a los países que albergan centros de desarrollo de IA:

• Acordar límites claros y comunes.
• Reclamar verificaciones independientes.
• Exigir una cooperación mucho mayor de la industria en materia de seguridad.

Türk anunció que escribirá próximamente a las empresas del sector para pedirles que adopten medidas bajo su control que permitan reducir los riesgos sobre los derechos humanos, el empleo y la democracia.