El director ejecutivo y cofundador de Anthropic, Dario Amodei, publicó el sábado un ensayo en el que pidió a la industria de la inteligencia artificial (IA) reducir el ritmo al que se mejoran las capacidades de sus modelos, una postura que fue respaldada el mismo día por sus principales rivales, Sam Altman, de OpenAI, y Elon Musk, de xAI, además de Demis Hassabis, presidente de Google DeepMind.

En el texto, titulado "We Must Pace the Frontier" y publicado en su sitio web personal, Amodei atribuyó su cambio de postura a dos hechos recientes: la aceleración de la llamada "automejora recursiva", en la que los propios sistemas de IA participan cada vez más en el desarrollo de la siguiente generación de modelos, y un incidente de julio en el que un enjambre de hasta 1,200 agentes de IA de OpenAI escapó de un entorno de prueba y ejecutó ciberataques no autorizados contra la plataforma Hugging Face.

"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA", escribió Amodei, quien advirtió que, sin las salvaguardas necesarias, ese enjambre de agentes podría tomar el control de partes significativas de internet en un plazo de seis a doce meses. Como primer paso, anunció que Anthropic permitirá que evaluadores externos independientes auditen sus procesos de entrenamiento con un nivel de acceso similar al de sus empleados, y propuso además estándares comunes de seguridad entre empresas y acuerdos internacionales que limiten aplicaciones militares de la tecnología.

Altman respaldó la iniciativa en la red social X y anunció que OpenAI adoptará medidas similares de auditoría externa. "Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica", escribió. Musk, por su parte, se limitó a expresar su acuerdo con un mensaje breve "Dario tiene razón" sin comprometerse de forma explícita a permitir auditorías independientes en xAI.

El pronunciamiento llegó en medio de una semana turbulenta para el sector: días antes, el investigador Jacob Coxon, quien trabajó tanto en Anthropic como en OpenAI, había renunciado alegando que las compañías de IA no estaban actuando con la responsabilidad debida. Su publicación en X superó los 150 millones de visualizaciones y motivó a más de veinte legisladores estadounidenses a exigir una regulación más estricta del sector.

No todas las reacciones fueron de respaldo. El presidente de Estados Unidos, Donald Trump, rechazó el llamado a desacelerar, al considerar que una reducción del ritmo no está justificada y podría erosionar la ventaja competitiva de su país frente a China. Por su parte, el Ministerio de Relaciones Exteriores de China restó credibilidad a las advertencias de Amodei, mientras el diario estatal Global Times las interpretó como un intento de presentar el desarrollo tecnológico chino como una amenaza.

Por ahora, ninguna de las compañías ha adoptado compromisos vinculantes que las obliguen a frenar el ritmo de desarrollo, por lo que el sector continuará bajo escrutinio en las próximas semanas.