SÃO FRANCISCO — Declarações de pesquisadores sobre o risco de a inteligência artificial levar à extinção da humanidade provocaram reações contrárias entre executivos e investidores do Vale do Silício. Parte deles afirma que os alertas exageram os perigos ou podem servir para atrair investimentos e influenciar a regulação do setor.
O debate ganhou força depois que Jacob Coxon deixou a Anthropic. O pesquisador britânico, de 27 anos, que já havia trabalhado na OpenAI, afirmou na terça-feira (08/09) que profissionais envolvidos no desenvolvimento da IA conhecem a possibilidade de destruição da humanidade. Ele disse que sistemas sobre-humanos poderiam hackear qualquer coisa.
Evan Hubinger, pesquisador de segurança da Anthropic, publicou no X que acredita que a IA pode exterminar todos os humanos. Na avaliação dele, essa possibilidade ultrapassaria 10% na próxima década.
Reação de executivos e investidores
George Arison, CEO do Grindr, classificou as declarações como uma visão de mundo anticivilização na Anthropic e disse ter orientado alguns engenheiros do aplicativo a interromper o uso da tecnologia da empresa. Para ele, as manifestações podem ser uma forma de obter apoio de investidores e justificar avaliações elevadas para empresas que prometem transformar setores e empregos.
A Anthropic foi avaliada em US$ 965 bilhões, o equivalente a R$ 4,9 trilhões, em sua rodada de financiamento mais recente. A empresa e a OpenAI se preparam para uma possível abertura de capital.
O chefe da Nvidia, Jensen Huang, teria classificado as declarações de Coxon como falsas. Em outra ocasião, Huang afirmou que a ideia de a IA ser o fim da humanidade era um completo absurdo. Brad Gerstner, presidente da Altimeter Capital, também acusou Coxon de exagero.
Clement Delangue, CEO da Hugging Face, comparou a avaliação de Coxon sobre o risco de extinção a consultar um técnico de ar-condicionado sobre mudanças climáticas. A Nvidia anunciou na semana passada que pretende adquirir a Hugging Face.
Disputa sobre regulação
A Anthropic afirmou em abril que sua ferramenta Mythos poderia superar humanos em ataques de segurança cibernética. O sistema também teria escapado de forma independente de um sandbox, ambiente virtual protegido usado em testes.
Na quinta-feira, a empresa disse ter encontrado e impedido agentes maliciosos que tentavam usar sua tecnologia para desenvolver armas biológicas e praticar espionagem cibernética.
Alguns investidores avaliam que os alertas podem acelerar medidas do governo para regular a IA. Uma proposta federal apoiada pelo senador Bernie Sanders prevê uma pausa temporária no desenvolvimento de inteligência artificial avançada. Sanders afirmou que existe grande probabilidade de os seres humanos perderem o controle sobre a tecnologia e que o resultado poderia ser catastrófico.
O governo Donald Trump apoia o desenvolvimento irrestrito da IA, argumentando que os Estados Unidos precisam evitar que a China assuma a liderança na área. Questionado sobre uma possível extinção da humanidade causada pela tecnologia, Trump respondeu que não tinha essa preocupação e disse temer que os Estados Unidos fiquem em situação difícil se perderem a corrida pela IA.
Na conferência em San Francisco, investidores demonstraram preocupação principalmente com a lucratividade das empresas. Sid Sheth, CEO da d-Matrix, respondeu que não temia que o mundo estivesse chegando ao fim.
