Anthropic multiplica evaluadores externos tras la llegada de Accenture
Patricia López · Empresas y Resultados · 2026-09-20
El laboratorio de IA confirmó que la asociación anunciada el viernes es solo el primer paso. Conversaciones con METR y otras organizaciones avanzan; más nombres en semanas.
Anthropic confirmó este domingo que el acuerdo con Accenture anunciado el viernes para evaluar la seguridad de sus modelos de IA no será exclusivo. El laboratorio espera anunciar otros evaluadores en las próximas semanas y ya mantiene conversaciones activas con METR y varias organizaciones sin fines de lucro sobre cómo pilotar elementos de evaluación integrada.
La aclaración cierra el debate que abrió la elección de una consultora global como primer evaluador. Accenture es el arranque de un modelo multi-evaluador que el CEO Dario Amodei propuso el 12 de septiembre en un ensayo de tres pasos para desacelerar el ritmo del desarrollo de IA. El primer paso otorga a evaluadores de terceros acceso a nivel de empleado para verificar prácticas de seguridad e informar incidentes.
Cada evaluador bajo un esquema de financiación distinto
Anthropic financiará directamente el trabajo inicial de Accenture dado la «importancia y urgencia», pero reconoce que a largo plazo espera que la financiación provenga de fuentes agrupadas o del gobierno. El laboratorio pidió en junio, dentro de su Marco de <abbr title="Inteligencia artificial">IA</abbr> Avanzada, la creación de fondos públicos para evaluadores independientes. Como ninguno existe hoy, planea trabajar con distintos evaluadores bajo diferentes arreglos de financiación.
Esa diferencia en la estructura de pago busca responder a críticas sobre independencia. El secretario del Tesoro Scott Bessent rechazó exenciones para laboratorios de IA y fijó línea ante el Congreso sobre responsabilidad directa de los creadores. Estándares propuestos para evaluadores reclaman ausencia de propiedad en empresas de IA, lazos comerciales y pagos contingentes a resultados. METR ha dicho públicamente que no toma financiación de empresas de IA ni de sus ejecutivos, precisamente para blindar esa independencia.
Faculty dentro del laboratorio, no en auditoría externa
El rol de Accenture será ejecutado por Faculty, la empresa especializada en IA que la consultora adquirió en marzo de 2026. Los empleados de Faculty se incrustarán físicamente dentro de Anthropic para probar salvaguardas, hacer <abbr title="Práctica de intentar deliberadamente que sistemas de IA se comporten mal para exponer defectos">red-teaming</abbr> de modelos y evaluar si los modelos se alinean con los valores humanos. Cada empresa acordó invertir al menos $1.000 millones durante cinco años para construir capacidad en esta área.
La presencia física es la diferencia clave respecto a auditorías externas tradicionales. Los evaluadores integrados tendrán acceso a nivel de empleado, credenciales de empresa y derechos de publicación sobre hallazgos de riesgos, incidentes o prácticas internas. Anthropic podrá redactar material legalmente privilegiado, sensible a la seguridad, comercialmente sensible o confidencial de terceros, pero no conclusiones desfavorables; los revisores también podrán divulgar si una redacción cambió su evaluación.
- Acceso físico: empleados de Faculty trabajarán dentro de Anthropic con credenciales de empresa.
- Red-teaming continuo: intentar que los modelos se comporten mal antes de lanzamientos públicos.
- Evaluaciones de alineamiento: verificar que los modelos respetan valores humanos y límites éticos.
- Publicación de hallazgos: derecho a informar sobre riesgos e incidentes sin censura de conclusiones.
OpenAI observa desde la barrera
El CEO de OpenAI, Sam Altman, ha dicho que su empresa daría a evaluadores externos acceso similar, pero hasta ahora no ha anunciado ningún acuerdo concreto. La ventaja competitiva de Anthropic en este modelo es que actúa primero y puede moldear los estándares de la industria antes de que llegue regulación obligatoria.
La discusión alrededor de evaluadores integrados se ha enfocado en organizaciones de investigación en seguridad de IA como METR, Redwood Research y Apollo Research, precisamente porque Anthropic pone la seguridad y alineamiento en el corazón de su misión. La elección de Accenture sorprendió al mercado — las acciones de la consultora subieron 8% en after-hours tras el anuncio del viernes — porque no es una organización de investigación tradicional en este campo.
Ahora queda claro que Accenture no será el único actor. Si Anthropic cumple y anuncia más evaluadores en las próximas semanas, el modelo que está construyendo combina músculo de implementación empresarial (Accenture/Faculty) con rigor académico y de investigación (METR y similares). La mezcla puede resolver el dilema entre independencia y capacidad técnica que ha frenado auditorías efectivas de IA hasta ahora.