El director ejecutivo y cofundador de Anthropic, Dario Amodei, reclamó este sábado una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial (IA), una opinión que compartieron también los jefes de las principales compañías rivales Sam Altman, de OpenAI, y Elon Musk, de xAI.

La propuesta de Amodei llegó junto a la advertencia de que la tecnología avanza hacia una dinámica de «automejora recursiva» que amenaza con provocar catástrofes de ciberseguridad a escala global.

«Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias», advierte Amodei en un extenso ensayo publicado hoy en su página web.

El creador de Anthropic se refirió en concreto al incidente de los agentes de OpenAI contra la empresa Hugging Face, en el que un enjambre de agentes actuó «como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso».

En su ensayo, Amodei advirtió del mal uso de la IA para posibles ciberataques y bioterrorismo al considerar que, «desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA».

¿Cómo bajar los riesgos de la IA según el CEO de Anthropic?

Según Amodei, la industria debe «reducir el ritmo al que se mejora las capacidades de los modelos de IA» y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una «carrera hacia el abismo».

Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China.

Como primer paso, Anthropic anunció el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes con acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos, una medida que instó a adoptar al resto de competidores y a exigir a los gobiernos.

La propuesta contempla asimismo una coordinación entre las empresas para pactar estándares comunes de seguridad y topes al avance descontrolado, respaldados por mediación institucional y excepciones a las normas antimonopolio, además de blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas a Pekín.

Finalmente, el plan promueve acuerdos globales con potencias autoritarias para fijar límites verificables que prohíban aplicaciones biológicas militares y establezcan límites a la velocidad de la automejora algorítmica.

Un llamado urgente a la responsabilidad

El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo sustancialmente el riesgo de que la tecnología escape al control de la sociedad.

El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

«Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor», escribió Coxon en su cuenta de X el pasado martes.

La postura de OpenAI ante la propuesta

Por su parte, el director ejecutivo de OpenAI, Sam Altman, respaldó el llamamiento del líder de Anthropic para moderar la velocidad del desarrollo de la inteligencia artificial (IA), y anunció que su compañía también permitirá que evaluadores independientes auditen sus sistemas.

«Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas», publicó Altman en la red social X poco después de conocerse la postura de su principal competidor.

Altman calificó de «excelente idea» la iniciativa de abrir las puertas a auditores externos: «Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir», añadió.

Elon Musk, más cauto pero de acuerdo

El magnate Elon Musk también se pronunció sobre la propuesta y coincidió con sus rivales, Dario Amodei de Anthropic y Sam Altman de OpenAI, en la necesidad de desacelerar el desarrollo de la IA por los riesgos de seguridad que representa.

Musk, creador de la compañía de inteligencia artificial xAI, respaldó en X el pronunciamiento de Amodei, quien pidió en ensayo en el que pidió a la industria «un ritmo más lento» en el desarrollo.

Aunque los líderes de OpenAI y Anthropic anunciaron que sus compañías permitirán que evaluadores independientes auditen sus sistemas, Musk no indicó de manera expresa que piense en esa misma medida para su empresa.

..........

Señor Lector, este es solo un reporte. La información completa está en la edición impresa de El Potosí.