Un exinvestigador de Google DeepMind, que trabajó en la seguridad de la inteligencia artificial general (IAG), se sumó a las advertencias sobre la capacidad que tendría la IA para destruir a la humanidad y los llamados a una mayor regulación de esta tecnología.
Bilal Chughtai hizo eco de lo dicho por otros expertos sobre el avance de la inteligencia artificial en una publicación en su cuenta de X, tras renunciar al gigante tecnológico en julio pasado.
«En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto», dijo Chughtai, que trabajó como ingeniero de investigación en seguridad y alineación de inteligencia artificial general en DeepMind desde principios de 2022.
Riesgos de seguridad
El ingeniero se refirió al incidente en el que agentes de IA de OpenAI escaparon del control de la compañía para hackear de forma autónoma a la empresa externa HuggingFace, para avizorar una situación “aún más caótica”.
«Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace», escribió.
Chughtai señaló que la alineación de la IA sigue siendo un desafío sin resolver y subrayó que los investigadores aún tienen una comprensión «rudimentaria» de cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable.
La advertencia del ingeniero se une a los comentarios del investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, que dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.
El director ejecutivo de Anthropic, Dario Amodei, también manifestó su preocupación el fin de semana pasado a través de un ensayo en el que pedía «un ritmo más lento» para la industria ante los crecientes riesgos de seguridad de la IA.
A Amodei se sumaron líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector para exigir más regulaciones.
..........
Señor Lector, este es solo un reporte. La información completa está en la edición impresa de El Potosí.
