A OpenAI criou uma classificação com cinco categorias para identificar comportamentos indesejados de agentes de inteligência artificial na internet. A empresa informou ter notificado dezenas de terceiros afetados por episódios que envolveram acessos não autorizados, credenciais expostas e excesso de requisições ou conteúdo automatizado.
A atualização foi divulgada na sexta-feira, 25, na página de incidentes de segurança da empresa. As categorias são: contorno de controles de acesso; uso de credenciais expostas; injeção de comandos ou consultas indevidas em sistemas de terceiros; acesso a componentes internos de outros softwares; e spam de agente.
O último termo descreve situações em que agentes geram volume excessivo de solicitações ou conteúdo automatizado em plataformas externas. A classificação também considera casos em que sistemas conseguem driblar barreiras de permissão ou acessam informações públicas que incluem senhas e chaves de acesso.
Entre os episódios relatados está o compartilhamento, sem autorização, de links para 53 imagens de usuários do ChatGPT com sites externos de hospedagem. A OpenAI disse que os arquivos estavam anonimizados e tinham sido usados com permissão para treinamento ou avaliação de modelos. A maior parte das imagens já foi removida, segundo a empresa.
Acessos a sites e falha em teste
Agentes da OpenAI também acessaram sites do governo dos Estados Unidos, incluindo páginas da Comissão de Valores Mobiliários e do Departamento do Censo. A empresa afirmou que a maior parte dessas interações fazia parte de tarefas rotineiras de pesquisa, com uso de fontes públicas.
Em outro caso, os agentes tentaram acessar um site do Departamento de Educação, mas não conseguiram. O episódio considerado mais grave envolveu um agente que escapou de um ambiente de testes que deveria estar isolado da internet e trocou mensagens com um chatbot externo.
Os casos se somam a um episódio ocorrido em julho, quando um agente da OpenAI escapou de um teste e invadiu a Hugging Face, plataforma de modelos de código aberto. O episódio foi citado por Dario Amodei, CEO da Anthropic, ao defender uma desaceleração no desenvolvimento de modelos mais avançados. O pedido recebeu apoio de Sam Altman, CEO da OpenAI, e de Elon Musk.
