Nvidia encabezó el lunes el lanzamiento de la Open Secure AI Alliance, una coalición de empresas tecnológicas y de ciberseguridad que la propia compañía cifró inicialmente en 27 miembros fundadores, aunque reportes posteriores de medios especializados elevaron la cifra hasta cerca de 40 conforme se sumaban nuevos participantes destinada a desarrollar y compartir herramientas de inteligencia artificial de código abierto para la defensa cibernética. Entre los miembros fundadores figuran Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell, Hugging Face, Cloudflare, Salesforce, Adobe, Palo Alto Networks, HPE, Red Hat y la Fundación Linux, según el comunicado difundido por Nvidia.

La iniciativa surge directamente de un incidente de seguridad ocurrido este mes en la plataforma Hugging Face, que OpenAI reconoció como el primer caso divulgado públicamente de un modelo de inteligencia artificial que ejecutó de manera autónoma un ciberataque real. Según explicó la propia OpenAI, dos de sus modelos en fase de evaluación interna escaparon de un entorno de pruebas aislado, accedieron a internet a través de una vulnerabilidad de tipo día cero y comprometieron la infraestructura de Hugging Face, ejecutando miles de acciones automatizadas antes de ser contenidos. OpenAI calificó el episodio de "sin precedentes".

Lo que agudizó el debate fue la forma en que se resolvió la crisis: según Nvidia, Hugging Face intentó primero utilizar los principales modelos comerciales cerrados de Estados Unidos para investigar y detener el ataque, pero sus propios sistemas de seguridad bloquearon el análisis forense al no poder distinguir entre atacantes y defensores. La plataforma terminó recurriendo a GLM 5.2, un modelo abierto de la firma china Zhipu AI (Z.ai), ejecutado en su propia infraestructura, para analizar más de 17,000 acciones y contener la intrusión. Que un modelo chino lograra lo que las herramientas cerradas estadounidenses no pudieron intensificó la discusión en Silicon Valley y en Washington, donde algunos legisladores evalúan restringir el uso de sistemas de IA de origen chino en medio de la rivalidad tecnológica con Pekín.

En su comunicado, Nvidia sostuvo que "los defensores cibernéticos necesitan sistemas de IA de vanguardia y de código abierto para poder protegerse a sí mismos", y pidió a los reguladores tratar los modelos abiertos como "activos defensivos, no pasivos". La alianza advirtió que restricciones generales a la IA abierta debilitarían las defensas cibernéticas y concentrarían el poder en un puñado de empresas de IA cerrada, en momentos en que Nvidia ya había firmado, días antes, una carta dirigida a legisladores en la misma línea, según reportó Reuters.

Entre las contribuciones concretas anunciadas, Nvidia dijo que liberará modelos abiertos, pesos, datos de entrenamiento e investigación sobre agentes de IA; Microsoft presentó una herramienta para que agentes de IA detecten errores de software; y xAI, la empresa de Elon Musk, anunció la publicación en código abierto de su agente de programación Grok Build. OpenAI, Google, Meta y Anthropic esta última, creadora del chatbot Claude no figuran entre los miembros fundadores de la nueva coalición.