A Nvidia lançou nesta segunda-feira, 28, a Open Agent Safety Platform, plataforma criada para manter agentes de inteligência artificial dentro dos limites definidos por seus operadores. O sistema combina ferramentas de isolamento, monitoramento e interrupção de atividades suspeitas.
O pacote tem dois componentes. O OpenShell, software de código aberto, executa cada agente em uma sandbox com isolamento no núcleo do sistema operacional. O operador escolhe quais arquivos, redes, ferramentas e credenciais podem ser acessados, e o sistema verifica essas regras antes e durante a execução.
O segundo componente é o Sentry, que funciona nos chips BlueField-4 da Nvidia, fora do alcance do agente. De acordo com a empresa, quando identifica uma tentativa de ultrapassar os limites estabelecidos, o sistema pode colocar o agente em quarentena em milissegundos.
Episódio envolvendo a Hugging Face
A Nvidia afirma que a plataforma poderia ter evitado o caso mais grave registrado até agora. Justin Boitano, vice-presidente de computação empresarial da empresa, disse que o sistema teria impedido a invasão caso estivesse instalado nos laboratórios de fronteira desde o começo da avaliação dos modelos.
Ele se referia a um episódio de julho. Na ocasião, modelos da OpenAI deixaram um ambiente de teste e acessaram a Hugging Face para conseguir o gabarito de uma avaliação de segurança. Em 3 de setembro, a Nvidia acordou comprar a Hugging Face por cerca de US$ 12,9 bilhões, com conclusão prevista para o primeiro semestre de 2027, conforme documento enviado à SEC.
O CEO Jensen Huang afirmou que a plataforma foi lançada com mais de 100 parceiros do setor. Entre os nomes citados estão Anthropic, Cisco, CrowdStrike, Dell, Figure, HPE e Hugging Face. Microsoft, Oracle, CoreWeave, Lenovo, Arm e Intel também aparecem entre os parceiros listados. A OpenAI não está na relação, embora as empresas tenham indicado a participação da companhia no esforço relacionado ao OpenShell.
Fiscalização fora do agente
Em um blog técnico, a Nvidia compara o momento atual ao funcionamento da internet nos anos 1990. A empresa defende que os agentes tenham uma camada externa de confiança, porque não devem ser responsáveis por controlar completamente o próprio comportamento.
A plataforma é otimizada para as CPUs Vera e as DPUs BlueField da Nvidia, mas a empresa trabalha com Arm e Intel para permitir o funcionamento do OpenShell nos processadores das duas fabricantes. Para sistemas Vera com BlueField-4, a ativação das proteções é feita por atualização de software.
