Alertas de pesquisadores sobre os possíveis riscos da inteligência artificial aumentaram a pressão por regras e por uma desaceleração no desenvolvimento da tecnologia. Um dos cientistas que atuam na área afirmou haver mais de 10% de chance de a IA “matar todos os humanos” na próxima década.
Evan Hubinger, cientista da Anthropic, trabalha com alinhamento de IA, área que busca incorporar princípios e valores éticos humanos aos sistemas. Ele classificou como baixo o risco representado pelas ferramentas atuais, mas suas declarações ocorreram em meio a preocupações de pesquisadores sobre a velocidade dos avanços.
Jacob Coxon, que deixou a Anthropic após discordâncias sobre o rumo do desenvolvimento, disse que os responsáveis pela tecnologia estavam perdendo o controle. Ele afirmou que funcionários da empresa estavam “genuinamente assustados” com o ritmo das mudanças e suas possíveis consequências para a humanidade.
Cenários de risco
A preocupação com máquinas inteligentes existe há décadas. Nos anos 1950, o cientista britânico Alan Turing escreveu que, se elas se tornassem possíveis, poderiam assumir o controle.
Atualmente, empresas como OpenAI e Anthropic buscam desenvolver a chamada superinteligência, ainda teórica, capaz de superar os seres humanos em tarefas complexas. Um dos temores é que sistemas avancem a ponto de começar a se aprimorar sem participação humana.
Também são citados riscos relacionados a agentes de IA, bots que executam tarefas e tomam determinadas ações de forma autônoma. Entre os cenários estão espionagem, ataques cibernéticos, guerra biológica e desequilíbrios econômicos.
Parte dos especialistas considera essas previsões hipotéticas ou exageradas. Eles afirmam que problemas já concretos, como deepfakes de nudez sem consentimento, desinformação, golpes e fraudes, recebem menos atenção do que os chamados riscos existenciais.
Propostas para desacelerar
Dario Amodei, diretor da Anthropic, e Sam Altman, CEO da OpenAI, defendem regras para o setor e uma redução no ritmo de desenvolvimento. Amodei afirma que isso não significa interromper o treinamento de modelos, mas reservar tempo para tornar os sistemas mais seguros e submetê-los a avaliadores independentes.
Altman disse que controlar o ritmo não significa parar. Para ele, o avanço continuará, mas deveria ocorrer mais lentamente do que seria tecnicamente possível, com avaliações formais de segurança e monitoramento.
Elon Musk, da SpaceX, também apoia a ideia de desaceleração. Críticos, porém, avaliam que o movimento regulatório liderado pelas maiores empresas pode consolidar a vantagem delas sobre concorrentes.
Posições dos Estados Unidos e da China
Donald Trump já defendeu que empresas americanas liderem o desenvolvimento da IA e assinou ordens executivas que reconhecem a importância estratégica da tecnologia para a economia. Em julho de 2025, David Sacks disse que os Estados Unidos estão em uma corrida pela IA e querem vencê-la.
Trump minimizou os alertas sobre os riscos e declarou que os Estados Unidos estão à frente da China. O governo chinês, que tem estimulado o desenvolvimento doméstico da tecnologia, também defende maior coordenação internacional para criar regras.
O Ministério das Relações Exteriores da China classificou os alertas americanos como narrativas baseadas em ameaça, confronto e competição hostil.
