Dario Amodei, diretor executivo e cofundador da Anthropic, defendeu uma redução no ritmo de desenvolvimento da inteligência artificial. Para ele, as empresas devem avançar com mais cautela e colocar a prevenção dos riscos da tecnologia como prioridade.
Em uma publicação em um blog, Amodei afirmou que o ritmo de melhoria das capacidades dos modelos de IA deveria ser reduzido. Segundo o executivo, o progresso continuará parecendo rápido, mas o tempo obtido com a desaceleração poderá ser usado de forma inteligente.
A posição foi apoiada por outros líderes do setor. Sam Altman, CEO da OpenAI, declarou no X que concordava com Amodei e disse que a empresa seguirá o exemplo da Anthropic ao aceitar avaliações externas de segurança. Elon Musk, diretor da xAI, também endossou o apelo.
Alertas sobre segurança
O debate ganhou força após uma semana de novos alertas sobre os riscos da inteligência artificial. Jacob Coxon, pesquisador da Anthropic, pediu demissão e afirmou que a empresa “aposta com nossas vidas” na corrida pela superinteligência.
Coxon defendeu uma desaceleração coordenada entre as empresas e auditorias de segurança dos sistemas. Na avaliação dele, as ferramentas disponíveis atualmente não representam um risco existencial. Modelos mais avançados, porém, poderiam escapar do controle humano caso desenvolvessem autonomia.
Evan Hubinger, outro pesquisador da Anthropic, disse acreditar em uma probabilidade superior a 10% de a inteligência artificial matar toda a humanidade dentro de uma década.
Altman também comunicou a funcionários que a OpenAI está aberta a desacelerar o desenvolvimento de sistemas de fronteira. O presidente dos Estados Unidos, Donald Trump, descartou publicamente preocupações sobre o tema ao ser questionado nesta semana.
