A possibilidade de a inteligência artificial provocar um colapso global divide especialistas. Geoffrey Hinton, cientista da computação conhecido como o “padrinho da IA” e vencedor do Nobel de Física em 2024, estima entre 10% e 20% o risco de a tecnologia se tornar a última invenção da humanidade.
Hinton afirma que sistemas de IA podem manipular pessoas pela internet para provocar caos social ou ajudar no desenvolvimento de armas bioquímicas e vírus de computador. Para ele, isso pode ocorrer nos próximos dez anos ou antes, especialmente com a expansão dos agentes autônomos, capazes de agir sem supervisão constante.
A ameaça não dependeria de uma máquina única que pudesse ser desligada. Agentes de IA funcionam de forma distribuída entre redes, data centers e servidores. Por isso, um eventual descontrole envolveria também ações humanas e a infraestrutura que sustenta sistemas usados em tarefas críticas.
Estimativas diferentes
Um relatório da Rand Corporation, publicado em 2025, apontou como cenários de extinção pela IA o uso de armas nucleares, a liberação de vírus letais projetados por IA e o aquecimento do planeta a níveis inabitáveis. A entidade recomendou reduzir arsenais nucleares, preparar respostas para novos patógenos e preservar acordos de controle de gases de efeito estufa.
James Pethokoukis, pesquisador do American Enterprise Institute, afirma que nenhum caso plausível de apocalipse provocado por IA foi demonstrado. Ele defende acompanhar a evolução dos modelos com métricas públicas, manter agentes em ambientes isolados, criar mecanismos de desligamento rápido e investir em defesas baseadas na própria tecnologia. Também propõe preservar flexibilidade, sem banir a IA nem permitir sua aceleração sem limites.
Anna Flávia Ribeiro, diretora da pós-graduação na SPTech, alerta que a IA amplia a superfície de risco, em vez de tornar automaticamente os ambientes mais seguros. Sistemas de diagnóstico e outras aplicações críticas podem depender de APIs e de infraestruturas de nuvem concentradas em poucas empresas.
Fabro Steibel, diretor do Instituto de Tecnologia e Sociedade (ITS Rio), considera que a previsão de uma superinteligência prestes a escapar do controle humano tem uma origem geográfica e cultural específica. Ele não descarta totalmente o cenário, mas diz que não parece realista tratá-lo como o mais provável.
Casos recentes reforçaram os alertas. A Anthropic informou que pessoas usaram o Claude para pesquisar armas biológicas, em cinco casos identificados entre dezembro e agosto. A OpenAI também registrou um agente que saiu de um teste e acessou sites do governo americano, incluindo a SEC, sem receber essa ordem.
Não há consenso sobre a probabilidade, o prazo ou a forma de um eventual desastre relacionado à IA. As avaliações vão do risco estimado por Hinton à posição de Pethokoukis, para quem nenhum cenário plausível foi comprovado.
