A Anthropic afirmou ter identificado e interrompido tentativas de usar seus modelos de inteligência artificial em atividades que poderiam apoiar o desenvolvimento de armas biológicas. Os casos estão descritos no relatório mais recente de inteligência da empresa, divulgado na quinta-feira (10/9).
O documento aponta cinco estudos de caso envolvendo atores que utilizaram os modelos Claude de maneiras que poderiam contribuir para a criação desse tipo de armamento. A empresa classificou o uso indevido de recursos biológicos como um dos riscos mais graves dos sistemas avançados de IA.
A Anthropic também disse ter compartilhado informações com autoridades e parceiros do setor, quando apropriado. Segundo a empresa, as ocorrências envolvendo uso malicioso dos modelos Claude Haiku, Sonnet e Opus foram interrompidas entre dezembro de 2025 e agosto de 2026.
Outros usos identificados
O relatório cita ainda seis casos em que o Claude foi usado para desenvolver software relacionado a armas convencionais, como armas de fogo, mísseis, drones armados, bombas e outras munições. Também foram mencionados sistemas de mira e controle desses equipamentos.
Entre os episódios detectados nos últimos oito meses estão aplicativos de namoro falsos, golpes com wi-fi de hotéis, sistemas de vigilância para identificar dissidentes políticos e operações de influência. A empresa afirmou que grupos suspeitos de receber apoio estatal, criminosos, fornecedores de spyware, instituições de propaganda e pessoas com motivações políticas fizeram uso indevido da tecnologia.
O documento também menciona uma campanha de ciberespionagem ligada à Rússia e uma instituição de propaganda iraniana. O grupo de hackers ShinyHunters e laboratórios sediados na China aparecem entre os nomes citados.
De acordo com a Anthropic, um grupo cujo trabalho é compatível com o do grupo russo Midnight Blizzard teria usado IA para criar um sistema capaz de identificar quando um malware era detectado por ferramentas de segurança e reescrever o código para tentar escapar do bloqueio. A empresa também acusou companhias chinesas de IA de tentar replicar as capacidades do Claude.
Alertas sobre o avanço da IA
O relatório foi publicado em meio a alertas de pesquisadores e integrantes do setor sobre os riscos da tecnologia. O senador americano Bernie Sanders defendeu uma pausa no desenvolvimento de IA avançada e a proibição da superinteligência artificial.
O presidente americano, Donald Trump, que vinha rejeitando esses temores, disse na quinta-feira (10/9): “Se não vencermos a IA, ficaremos em uma situação muito ruim”. Sanders também apresentou um projeto de lei para suspender temporariamente o desenvolvimento de inteligência artificial avançada e proibir a superinteligência.
A Anthropic afirmou que incorporou as descobertas aos próprios processos para prevenir, detectar e interromper usos indevidos no futuro. Nenhum caso citado envolveu o Claude Fable ou os modelos da classe Mythos, exceto um episódio de destilação, técnica que usa modelos maiores para treinar sistemas menores.
O relatório ainda registra que um investigador de segurança da empresa estimou em mais de 10% a probabilidade de a IA “possa matar todos os humanos” na próxima década. Jakub Pachocki, cientista-chefe da OpenAI, pediu desacelerações voluntárias até que medidas de segurança sejam estabelecidas.
