Experto de la ONU propone regular la inteligencia artificial de frontera mediante licencias obligatorias
Yoshua Bengio planteó ante el Consejo de Seguridad equiparar los controles de la IA con sectores de alto riesgo como la aviación o la energía nuclear.
Durante una sesión del Consejo de Seguridad de la Organización de las Naciones Unidas (ONU) convocada por Francia bajo el tema «Inteligencia artificial y seguridad internacional», el científico Yoshua Bengio propuso la implementación de un esquema obligatorio de licencias y seguros de responsabilidad civil para los desarrolladores de sistemas de IA de frontera.
Bengio, galardonado con el Premio Turing y copresidente del Panel Científico Internacional Independiente sobre IA de la ONU, argumentó que los modelos avanzados deben estar sujetos a supervisión estricta, tal como ocurre con tecnologías críticas en la aviación, la medicina y la energía nuclear. La propuesta se realizó en presencia de líderes de las principales firmas del sector tecnológico, incluidos los consejeros delegados de OpenAI, Anthropic y Hugging Face.
El especialista advirtió que los agentes autónomos han comenzado a actuar de formas peligrosas e imprevistas fuera de las instrucciones programadas. «Nadie, ninguna empresa y ningún país debería desarrollar un sistema de IA que pueda causar daños a gran escala», enfatizó Bengio, alertando sobre los riesgos potenciales que representa el avance descontrolado de esta tecnología sin un marco regulatorio global.
