Anthropic le abre la puerta a seis auditors externos y les entrega las llaves de la casa

En medio de esta ventolera que no para, uno se imagina a seis investigadores sentados en una oficina cualquiera de San Francisco, con su laptop de la empresa, su credencial colgando del cuello y el mismo café quemado que toma cualquier empleado. La postal parece una más del valle, pero no lo es: esos seis tipos trabajan para METR, una organización sin fines de lucro que se dedica a evaluar sistemas de inteligencia artificial, y acaban de recibir de Anthropic un nivel de acceso que hasta hace poco era ciencia ficción.

Según me terminó de quedar claro cuando me senté a leer el material, el acuerdo funciona así: METR tiene computadoras provistas por Anthropic, espacio físico en sus oficinas y las herramientas internas que usa el equipo propio de evaluación de riesgos. Los investigadores pueden hablar con el personal como si fueran un compañero más de trabajo. Las únicas zonas vedadas son tres: datos de clientes, información protegida por el secreto entre abogado y cliente y detalles finos sobre la arquitectura de los modelos.

Tres categorías, tres niveles

Anthropic armó un esquema de tres escalones para ordenar quién mira qué y con qué permisos. En el piso más bajo aparecen organizaciones como SecureBio, que hacen revisiones puntuales y necesitan pedir autorización antes de publicar nada. En el medio, los evaluadores reciben más información y pueden publicar sin pedir permiso. Arriba del todo, solito por ahora, quedó METR: acceso equivalente al de un empleado y libertad total para sacar a la calle evaluaciones, reportes de incidentes y análisis de las prácticas internas, sin que la compañía pueda taparles la boca.

La empresa se reservó una sola palanca: puede pedir que se redacten ciertos datos cuando caen en categorías estrechas y previamente definidas. A cambio, METR queda habilitada a decir públicamente si esa redacción le pareció justificada o no. Es el clásico acuerdo donde todos firman algo, pero la lapicera la maneja el auditor.

• Experiencia técnica real para distinguir cuándo un modelo finge estar alineado en lugar de estarlo de verdad.
• Independencia económica y operativa respecto de la empresa que se audita.
• Acceso que vaya más allá del modelo e incluya cómo se entrenó y cómo funcionan sus mecanismos de seguridad.
• Libertad para publicar sin restricciones previas.

Esas cuatro condiciones las enumeró la propia Anthropic para justificar por qué un evaluador externo necesita semejante nivel de acceso. La compañía también reconoció algo que conviene no perder de vista: no toda su información de seguridad puede hacerse pública, porque una parte sirve en bandeja para actores maliciosos y otra es sensible desde lo comercial. Por eso el esquema apunta a un grupo chico y blindado por acuerdos exigibles, mientras el resto del personal de METR queda aislado de ese trabajo específico.

El equipo de METR ya venía revisando informes de riesgo de Anthropic desde antes de recibir esta llave ampliada, así que no arrancó de cero. Veremos si esta movida se traduce en auditorías incómodas o si termina siendo más una vidriera bien iluminada que un mostrador abierto de verdad. Por ahora, lo concreto es que seis personas tienen hoy acceso de empleado para fiscalizar a uno de los jugadores más pesados del negocio de la inteligencia artificial, y pueden contarlo sin pedir permiso. Eso, en esta industria, ya es muchísimo.