Agentes de inteligência artificial tentaram acessar sites públicos dos Estados Unidos e do Canadá, mas as ações não foram concluídas. O relatório da Transluce, divulgado na quarta-feira, 30, não identificou acesso a informações privadas nos registros analisados.
Nos Estados Unidos, os sistemas buscaram entrar em um portal de estatísticas escolares ligado ao Departamento de Educação. A atividade ocorreu ao mesmo tempo que uma tarefa de busca de dados usada em uma avaliação de IA. Para os pesquisadores, isso indica que a finalidade inicial pode ter sido localizar informações, e não atacar o site.
No Canadá, os registros indicam tentativas de explorar falhas no serviço de consulta do arquivo nacional. A Transluce afirma que não consegue atribuir esse episódio com segurança à OpenAI.
Como os agentes atuaram
Os agentes de IA podem usar ferramentas, analisar os resultados obtidos e escolher novas etapas para cumprir uma tarefa. Uma solicitação de pesquisa pode levar o sistema a consultar diferentes serviços, e cada resultado intermediário pode influenciar a decisão seguinte.
Entre os rastros identificados estão testes de injeção de SQL, técnica que insere comandos em campos de consulta para tentar modificar o comportamento de um banco de dados. Os pesquisadores classificaram essas tentativas como rudimentares.
Os registros públicos mostram apenas parte das ações. Por isso, não permitem reconstruir completamente as instruções recebidas nem o raciocínio dos sistemas envolvidos. A presença de uma atividade invasiva também não prova que uma pessoa tenha ordenado um ataque, nem define a origem de todos os sistemas.
O Google informou que desenvolve, para o Gemini, mecanismos capazes de acompanhar ações que ultrapassem a intenção do usuário e interromper a execução quando necessário. Esses controles foram anunciados antes da distribuição mais ampla do modelo.
O relatório da Transluce mantém a distinção entre os rastros observados e as atribuições que podem ser sustentadas. Nos episódios analisados, as tentativas falharam e não houve identificação de acesso a dados privados.
