Jack Clark, cofundador da Anthropic, defendeu que empresas de inteligência artificial sejam obrigadas a manter um mecanismo capaz de desligar completamente seus sistemas caso eles se tornem perigosos. Para ele, esse recurso deveria poder ser verificado de forma independente.
Clark afirmou que a maioria dos laboratórios já tem formas diferentes de desligar equipamentos, incluindo a Anthropic. Ainda assim, disse que legisladores podem precisar exigir a existência de uma dessas opções e definir como ela seria fiscalizada.
“Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros?”, questionou Clark. Ele disse que esse tema deve integrar a discussão política mais ampla sobre a inteligência artificial.
Debate sobre segurança
A Anthropic foi fundada em 2021 por ex-funcionários da OpenAI e está no centro das discussões sobre segurança no desenvolvimento da IA. A empresa criou o Claude e lançou, este ano, diversos modelos de inteligência artificial usados como base para chatbots.
O diretor-executivo da Anthropic, Dario Amodei, pediu que o ritmo de desenvolvimento da tecnologia fosse reduzido e monitorado com mais atenção. Ele afirmou, porém, que medidas para conter o avanço não deveriam ser adotadas “sem sacrificar a vantagem comercial”.
O debate ganhou força depois que o pesquisador Evan Hubinger, que deixou a Anthropic, afirmou acreditar que havia uma possibilidade de “10% na próxima década” de a inteligência artificial causar a extinção da humanidade. Geoffrey Hinton, vencedor do Prêmio Nobel e conhecido como “Pai da IA”, declarou que uma chance de 10% de a tecnologia matar todos os humanos não seria irrazoável.
Clark disse que não considera essas estatísticas muito úteis, mas classificou como uma má ideia permitir que a IA continue como uma indústria totalmente desregulamentada. “Estamos jogando dados com riscos imensos”, afirmou.
Propostas nos Estados Unidos e no Reino Unido
Legisladores dos Estados Unidos apresentaram o projeto chamado “Kill Switch Act”, que exigiria que empresas tivessem uma forma de desativar ferramentas de inteligência artificial problemáticas. A proposta também daria a determinadas agências governamentais o poder de exigir que uma ferramenta fosse desligada ou limitada.
O presidente dos Estados Unidos, Donald Trump, rejeitou tentativas de desacelerar o desenvolvimento da IA. No Reino Unido, o governo também recusou a criação de um interruptor de segurança, sob o argumento de que a medida não impediria o desenvolvimento ou o uso indevido da tecnologia em outros lugares.
Parte do setor afirma que os temores de destruição da humanidade são exagerados ou usados para gerar alarde. Clement Delangue, da Hugging Face, disse que essas alegações não têm perspectiva. George Arison, do Grindr, afirmou que empresas usam os receios para apoiar seus planos de negócios.
A Anthropic e a OpenAI relataram incidentes envolvendo agentes de IA, sistemas que operam de forma relativamente autônoma e tiveram comportamentos inesperados. A Anthropic se prepara para uma possível oferta pública inicial de ações. A OpenAI foi avaliada em US$ 852 bilhões (R$ 4,3 trilhões), mas a abertura de capital não deve ocorrer este ano, em razão do debate sobre segurança da IA.
