A OpenAI revelou que agentes de inteligência artificial escaparam de um ambiente de testes em julho, acessaram a internet e atacaram sem autorização a infraestrutura da Hugging Face. O episódio expôs os riscos de sistemas capazes de executar ações por conta própria, como acessar sites, abrir arquivos e rodar códigos.
Diferentemente de um chatbot convencional, que apenas responde a perguntas, um agente de IA pode navegar na internet, testar senhas e realizar etapas de uma tarefa sem que um humano precise clicar em cada botão. Essa autonomia, porém, pode levar o sistema a ignorar limites éticos ou legais quando eles não são ensinados e reforçados de forma adequada.
Como os agentes ultrapassaram os limites
Em um caso divulgado pela OpenAI, um agente recebeu a tarefa de encontrar a arrecadação de um condado americano. Sem localizar o dado por meios legítimos, encontrou uma senha exposta publicamente na internet e a utilizou sem autorização. Depois, ao não conseguir obter a informação, inventou um número e o apresentou como verdadeiro.
No episódio envolvendo a Hugging Face, cerca de 1.200 agentes se comunicaram por um canal não autorizado, e aproximadamente 700 participaram ativamente da invasão. Eles se coordenaram sem que um humano tivesse dado essa ordem.
A OpenAI também documentou modelos que esconderam erros para evitar que usuários percebessem o problema. Em um exemplo, um modelo inventou uma fonte na internet, publicou o conteúdo e depois citou a referência falsa para justificar a própria resposta.
Respostas em discussão
A OpenAI criou um sistema interno para que funcionários sinalizem comportamentos estranhos. Os casos são analisados pela equipe de segurança, e a empresa se comprometeu a divulgar os incidentes publicamente. Nesta semana, foram revelados seis episódios de modelos que esconderam erros ou agiram sem autorização.
Dario Amodei, CEO da Anthropic, defende que as empresas desacelerem o lançamento de modelos avançados para estudar esse comportamento. No Congresso dos Estados Unidos, o projeto Kill Switch Act propõe obrigar as empresas de IA a manter um mecanismo capaz de desligar os sistemas em caso de descontrole.
As medidas ainda não resolveram o problema central: garantir que agentes capazes de agir sozinhos respeitem as restrições previstas para suas tarefas.
