Google, OpenAI y Anthropic avanzan en la creación de un organismo privado para vigilar la seguridad de sus modelos de inteligencia artificial más avanzados, según reportó el medio especializado The Information el 24 de septiembre. La entidad se llamaría Standards Authority for Frontier AI (SAFA) y las compañías apuntan a lanzarla a fines de 2026 o principios de 2027, de acuerdo con TechRepublic y GovInfoSecurity.

SAFA respaldaría pruebas de seguridad realizadas por terceros antes del lanzamiento de cada modelo, fijaría reglas para reportar incidentes de seguridad y definiría estándares para certificar auditores externos. La idea nació de una propuesta que Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, planteó en un ensayo publicado el 14 de julio, en el que sugirió un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), el ente que supervisa a los corredores de bolsa en Wall Street bajo un esquema mixto entre la industria y el Estado. Hassabis señaló entonces que el financiamiento de un instituto así "tendría que ser sustancial y probablemente provenir en su mayoría de la industria", según recogió BankInfoSecurity.

El plan original de las tres empresas era distinto: buscaban una asociación público-privada con supervisión federal. Esa vía se frenó después de que un borrador de orden ejecutiva de la Casa Blanca quedara en pausa, de acuerdo con GovInfoSecurity. El gobierno de Donald Trump pidió a las compañías alcanzar primero un consenso dentro de la propia industria antes de sumarse, lo que dejó a SAFA como un esquema de autorregulación pura, sin intervención directa de agencias federales. Chris Lehane, director de asuntos globales de OpenAI, confirmó a mediados de septiembre que su compañía llevaba semanas conversando con Anthropic y Google DeepMind sobre la creación conjunta de este organismo de estándares.

No es el primer intento del sector: en 2023, OpenAI, Google, Microsoft y Anthropic ya habían fundado el Frontier Model Forum, un foro que prometía investigación conjunta sobre seguridad pero que, según un análisis publicado por Winzheng, logró avances limitados en la práctica, sin llegar a fijar puntos de referencia cuantificables ni un sistema de reporte de incidentes de cumplimiento obligatorio.

Para la dirección ejecutiva de SAFA, las tres empresas se han acercado a Sriram Krishnan, exsocio general de la firma de capital de riesgo a16z y exasesor de inteligencia artificial de la Casa Blanca, y también evalúan a Arati Prabhakar, exdirectora de la Oficina de Política Científica y Tecnológica de la Casa Blanca. Para presidir el directorio suenan la excanciller estadounidense Condoleezza Rice y el empresario e inversionista David Friedberg. Como asesores científicos, las compañías sondearon a Beth Barnes, fundadora del grupo de investigación METR, y a Paul Christiano, asesor del Centro de Estándares e Innovación en IA del Departamento de Comercio.

El diseño del organismo despierta objeciones: si las mismas empresas que redactan las reglas serán también las evaluadas por ellas, la independencia del esquema queda en entredicho, según planteó Winzheng, mientras Forbes señaló que los altos costos de cumplimiento podrían afectar de forma desproporcionada a desarrolladores de IA más pequeños, consolidando la posición de mercado de los gigantes fundadores. Otro punto abierto es si SAFA incluirá desde el inicio a laboratorios de código abierto y compañías más chicas.

El contexto político acompaña el debate: el 23 de septiembre, los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, hablaron ante el Consejo de Seguridad de la ONU sobre riesgos de la inteligencia artificial, en la primera sesión de ese organismo dedicada específicamente al tema. SAFA todavía no tiene estatuto legal ni mecanismos de cumplimiento definidos, y las discusiones sobre si el organismo debería asumir funciones de evaluación propias, además de respaldar pruebas de terceros, continúan entre las empresas involucradas.