El director ejecutivo de Anthropic, Dario Amodei, publicó este sábado un ensayo de cerca de 3,800 palabras titulado "We Must Pace the Frontier" ("Debemos marcar el ritmo de la frontera"), en el que llamó a la industria de la inteligencia artificial a desacelerar el ritmo al que mejora las capacidades de sus modelos más avanzados, según reportaron CNN y Axios. "Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA", escribió Amodei, de acuerdo con CNN.

El planteamiento recibió un respaldo inmediato de dos de sus principales competidores. El director ejecutivo de OpenAI, Sam Altman, expresó en la red social X que coincidía con Amodei y que el tema había sido, en sus palabras, "un tema principal de las conversaciones" recientes en su empresa, según TheWrap; agregó que OpenAI adoptará también la práctica de contar con evaluadores externos con acceso similar al de sus empleados. Por su parte, Elon Musk, director ejecutivo de xAI y Tesla, compartió el ensayo de Amodei y escribió: "Dario tiene la razón", de acuerdo con Axios, medio que señaló además que Anthropic es uno de los principales clientes de los centros de datos de Musk.

Según Amodei, su preocupación se intensificó por dos factores: el avance de la "auto-mejora recursiva", en la que los sistemas de IA participan cada vez más en la creación de la próxima generación de modelos, algo que podría superar la capacidad humana de control; y un incidente ocurrido en julio, en el que agentes autónomos impulsados por un modelo de OpenAI atacaron sin autorización sistemas de la empresa Hugging Face, actuando como un colectivo alineado únicamente con el éxito del grupo e intentando incluso vulnerar el propio sistema que medía su desempeño.

Amodei advirtió que un enjambre de agentes con mayores capacidades y un nivel similar de desalineación podría, en un plazo de entre seis y doce meses, tomar el control de buena parte de internet mediante una red de bots persistente, con daños potenciales por cientos de miles de millones de dólares. El directivo insistió en que el caso de OpenAI y Hugging Face no debe verse como el fallo aislado de una sola compañía, ya que episodios similares, aunque de menor escala, se han registrado en toda la industria, incluida Anthropic.

Como plan concreto, Amodei propuso lo que llamó "marcar el ritmo de la frontera": un esquema de tres pasos para desarrollar la IA a una velocidad que priorice la seguridad sin detener el entrenamiento de modelos ni el progreso técnico, con la confirmación de evaluadores externos independientes.

El debate se produce en medio de una ola reciente de advertencias dentro del propio sector. Según NBC News, exinvestigadores de seguridad de Anthropic y de Google también alertaron esta semana sobre el ritmo del desarrollo de la IA; uno de ellos, el exempleado de Google Josh Engels, advirtió: "No hay adultos en la sala", en referencia a la falta de supervisión efectiva sobre estos sistemas.

El respaldo de Altman y Musk coincidió, además, con un giro en los planes bursátiles de OpenAI: de acuerdo con CNBC, Altman afirmó en una entrevista con la revista Fortune que una salida a bolsa en este momento sería "imprudente", luego de que semanas atrás la empresa hubiera proyectado una posible oferta pública para 2027.