Elon Musk, Sam Altman e Dario Amodei defenderam, na última semana, uma desaceleração no desenvolvimento da inteligência artificial de ponta. A proposta inclui avaliações independentes dos modelos e maior coordenação entre empresas concorrentes diante dos riscos da tecnologia.
Amodei, CEO da Anthropic, abriu a discussão ao publicar, no sábado, 12, um ensaio em que afirmou que o setor precisa reduzir o ritmo de avanço das capacidades dos sistemas de IA. Altman apoiou publicamente a ideia e disse que o tema já vinha sendo discutido internamente na OpenAI havia semanas. Musk também endossou a proposta.
A convergência ocorre apesar do histórico de conflitos entre os três. Musk e Altman fundaram a OpenAI em 2015, mas romperam depois, em uma disputa pública e judicial sobre os rumos da empresa. Musk acusou Altman e a companhia de abandonar o propósito original sem fins lucrativos em favor do lucro.
Amodei deixou a OpenAI em 2021 e criou a Anthropic após divergências sobre segurança e sobre a direção da empresa. A nova companhia passou a concorrer com a antiga empregadora de seu fundador.
Discussões sobre padrões de segurança
Representantes da Anthropic, da OpenAI e do Google, em reuniões abaixo do nível de CEO, discutem desde julho a criação de um órgão conjunto de padrões de segurança para a indústria. Os encontros continuam ocorrendo e indicam uma coordenação incomum entre empresas que disputam profissionais, investimentos e clientes.
A defesa de uma pausa ganhou força após violações recentes de segurança, do desconforto de pesquisadores com os modelos mais novos e da avaliação de que o governo Trump dificilmente imporá limites à tecnologia por conta própria. Um funcionário de um laboratório de fronteira resumiu a situação: "Estamos por conta própria aqui".
A proposta, porém, não tem apoio integral. Demis Hassabis considerou a iniciativa "um passo na direção certa", mas disse que alguns detalhes ainda precisam ser trabalhados. David Sacks questionou se a desaceleração seria "puramente altruísta".
Aidan Gomez, CEO da Cohere, criticou a articulação e afirmou que as ideias eram "ótimas, vindas do cartel". Para ele, existe o risco de que as maiores empresas usem a agenda de segurança para ampliar a vantagem sobre concorrentes menores.
A trégua entre Musk, Altman e Amodei reúne executivos com interesses e trajetórias diferentes em torno da preocupação com os riscos da IA. Ainda não está definido se a convergência resistirá a divergências sobre quais empresas devem reduzir o ritmo e em que momento.
