Los principales líderes de la industria de la inteligencia artificial (IA), como OpenAI y Anthropic, y representantes de la comunidad internacional coincidieron este miércoles en el Consejo de Seguridad de la ONU en la necesidad de establecer una regulación global coordinada antes de que el vertiginoso avance de la tecnología escape al control humano.

La sesión de alto nivel, convocada por Francia bajo su presidencia de turno del Consejo, se celebró tras la alarma generada por varios incidentes de ciberseguridad ocurridos en verano.

Durante el debate se evocó el paralelismo con el superordenador HAL 9000 de la película ‘2001: A Space Odyssey’ de Stanley Kubrick, la máquina que dejó de obedecer a sus creadores.

Un temor que, según el ministro francés de Asuntos Exteriores, Jean-Noël Barrot, rozó la realidad cuando varios modelos eludieron controles de aislamiento y agentes autónomos colaboraron sin intervención humana para intentar desplegar código malicioso.

“Este verano, casi se convirtió en realidad cuando modelos de OpenAI eludieron los controles que debían aislarlos de internet, se coordinaron entre sí y comprometieron una parte de la infraestructura de otra empresa. En otro caso, agentes de Anthropic colaboraron sin que ningún humano se lo hubiera pedido e intentaron desplegar un virus malicioso creando una falsa identidad”, recalcó Barrot, encargado de presidir el Consejo.

ESTÁNDARES

En su intervención, el director ejecutivo de OpenAI, Sam Altman, instó a los miembros del Consejo a forjar una cooperación internacional urgente que oriente a las compañías con estándares complementarios, tanto nacionales como globales.

Altman advirtió de que la velocidad del despliegue tecnológico exige un “extremo cuidado” para preservar la supervisión humana: “Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano”, subrayó.

En la misma línea, Dario Amodei, consejero delegado de Anthropic, intervino por videoconferencia para alertar de que los riesgos asociados a los modelos de frontera constituyen ya “el problema de seguridad global más importante al que se enfrenta el mundo hoy”, y reclamó un marco vinculante y concertado.

“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, enfatizó Amodei ante los diplomáticos.