O secretário-geral das Nações Unidas, António Guterres, afirmou nesta quarta-feira, 16, que o desenvolvimento acelerado de sistemas de inteligência artificial (IA) não pode ocorrer sem mecanismos de segurança. Para ele, uma disputa por tecnologias cada vez mais avançadas pode levar a uma “corrida rumo ao abismo”.
Em coletiva de imprensa, Guterres disse que os governos devem proteger suas populações das ameaças relacionadas à IA. Ele também defendeu medidas nacionais, mas afirmou que elas precisam ser acompanhadas por cooperação internacional, porque a tecnologia e seus riscos ultrapassam fronteiras.
O tema deve fazer parte das discussões da Assembleia Geral da ONU, marcada para a próxima semana, em Nova York. Guterres reconheceu que a inteligência artificial pode contribuir para o desenvolvimento sustentável, a educação, a saúde e o enfrentamento das mudanças climáticas. Ao mesmo tempo, afirmou que pessoas envolvidas na criação dos sistemas mais avançados também têm demonstrado preocupação com a velocidade dessa evolução.
Empresas anunciam órgão de supervisão
Na terça-feira, 15, OpenAI, Anthropic e Google DeepMind anunciaram que trabalham na criação de uma entidade para supervisionar riscos associados à inteligência artificial. Nesta quarta-feira, a presidente da Comissão Europeia, Ursula von der Leyen, disse que reuniria grandes empresas do setor para apoiar esforços voltados a desacelerar o desenvolvimento dos modelos mais potentes.
Os movimentos ocorrem em meio a pedidos por estruturas internacionais de supervisão, depois de incidentes e alertas de executivos da área.
Ex-funcionário faz acusações
Na última terça-feira, 8, Jacob Coxon, ex-funcionário da Anthropic e da OpenAI, publicou no X, antigo Twitter, críticas à estratégia das empresas. Ele afirmou que a Anthropic acredita que a IA pode “matar a todos até o fim da década” e estaria ignorando riscos iminentes no desenvolvimento de sistemas “super poderosos”.
Coxon disse ter deixado a Anthropic por discordar do caminho escolhido para o avanço das tecnologias. Funcionários da empresa reagiram às publicações e confirmaram parte das acusações.
Evan Hubinger, diretor de alinhamento científico da Anthropic, declarou que acredita que as chances de a IA matar todos os humanos são superiores a 10% durante a próxima década. Ele também afirmou que a empresa não tem um plano para alinhar a superinteligência e não está no caminho para isso.
