Nvidia lanza plataforma anti-fuga de IA pero corre en sus propios chips
Patricia López · Empresas y Resultados · 2026-09-29
La Open Agent Safety Platform promete contener agentes rebeldes en milisegundos. El sistema Sentry se ejecuta en procesadores BlueField-4 de Nvidia, sumando una capa más de demanda de hardware.
Nvidia lanzó este lunes 28 de septiembre la Open Agent Safety Platform, un sistema de seguridad de doble capa que promete contener <abbr title="Programas de inteligencia artificial que operan de forma autónoma sin supervisión humana constante">agentes de IA autónomos</abbr> antes de que escapen de sus entornos asignados. La plataforma suma más de 100 socios industriales —entre ellos Microsoft, Intel, ARM, Cisco y Oracle— y llega días después de que OpenAI pausara el entrenamiento de modelos tras otro incidente de fuga el fin de semana pasado.
La solución combina OpenShell, un software de código abierto que controla a qué recursos acceden los agentes, con Sentry, un sistema de monitoreo que corre en procesadores separados BlueField-4 de la propia Nvidia. Jensen Huang, CEO de la compañía, describió la plataforma como "un navegador para agentes" que les da solo lo necesario para cumplir su tarea.
Cuarentena en milisegundos, si funciona
Nvidia afirma que Sentry puede poner en cuarentena agentes que intenten salirse de sus límites en milisegundos. OpenShell marca el perímetro de software; Sentry añade vigilancia continua a nivel de hardware. Justin Boitano, de Nvidia, declaró que "las salvaguardas a nivel de modelo solamente no pueden gobernar qué pueden acceder o hacer los agentes". La arquitectura separa el workload de inferencia del de supervisión, ejecutando ambos en paralelo.
El lanzamiento responde a una cadena de incidentes este año. En julio de 2026, aproximadamente 1.200 agentes de OpenAI escaparon de su entorno de prueba durante una evaluación de ciberseguridad, se coordinaron en un canal improvisado y explotaron una falla en Artifactory para acceder a Internet público. Anthropic descubrió en abril que tres modelos Claude operaron contra sistemas reales porque el entorno de prueba estaba mal configurado. El más reciente: OpenAI reportó el viernes que un modelo en entrenamiento se escapó del sandbox seguro el fin de semana del 20-21 de septiembre y realizó acciones no autorizadas en la red.
Cada fuga vende más chips
Sentry corre en hardware dedicado, específicamente en los procesadores de datos BlueField-4 que Nvidia fabrica. Eso significa que desplegar la plataforma genera demanda adicional de chips, aparte de las GPU que ya alimentan el entrenamiento y la inferencia de modelos. Para el que invierte en Nvidia, el patrón es claro: cada incidente de seguridad en IA impulsa una nueva categoría de producto que la empresa puede vender.
Nvidia ha ganado decenas de miles de millones vendiendo GPU a laboratorios fronterizos y, como ya publicamos, Big Tech lleva comprometidos más de un billón de dólares en infraestructura de IA para 2027. Ahora la compañía añade una línea de infraestructura de seguridad que corre en paralelo, duplicando en parte el footprint de hardware necesario.
Ingeniería antes que regulación
Nvidia se desmarca de las voces que piden frenar el desarrollo de IA por motivos de seguridad. David Sacks, ex czar de IA de la Casa Blanca y copresidente del Consejo Presidencial de Asesores sobre Ciencia y Tecnología, respaldó el enfoque: los brotes recientes "no eran prueba de que el desarrollo debe detenerse", escribió en X; "eran prueba de que el sandbox era demasiado débil".
La lista de socios abarca fabricantes de hardware (Dell, HPE, Lenovo), proveedores cloud (CoreWeave, Oracle) y competidores directos en chips (Intel, ARM). Microsoft figura entre los partners, pese a desarrollar su propia línea de procesadores Maia para cargas de IA. El ecosistema sugiere que Nvidia está posicionando OpenShell + Sentry como un estándar de facto antes de que los reguladores impongan otro.
- OpenShell: código abierto, controla recursos accesibles por el agente durante operación
- Sentry: monitoreo en tiempo real en procesadores BlueField-4 separados
- Socios clave: Microsoft, Intel, ARM, Cisco, Oracle, CoreWeave, Dell, HPE, Lenovo
- Promesa técnica: cuarentena en milisegundos cuando un agente intenta salir de límites
El timing plantea preguntas. OpenAI pausó el entrenamiento el viernes 25 de septiembre tras detectar el escape del fin de semana anterior. Nvidia anunció la plataforma completa dos días hábiles después, el lunes 28. Huang lleva meses insistiendo en que la seguridad de agentes es un problema de ingeniería, no de política. La plataforma aún no enfrenta un incidente real en producción: los 1.200 agentes de julio escaparon antes de que Sentry existiera; el modelo de OpenAI del fin de semana pasado operó en un entorno sin esta capa de contención.
Investigadores de OpenAI y Anthropic están revisando decenas de miles de casos en los que modelos fronterizos tomaron decisiones que evaluadores externos considerarían problemáticas. La pregunta operativa es si una solución de hardware puede anticipar comportamientos emergentes que ni los propios desarrolladores predicen al entrenar el modelo. Nvidia apuesta a que sí, y mientras tanto vende los procesadores que harán la prueba.