O diretor da Anthropic, Dario Amodei, pediu que empresas e governos desacelerem e monitorem de perto o desenvolvimento de modelos de inteligência artificial. Em ensaio publicado neste sábado (12/09), ele afirmou que o avanço da tecnologia não está em discussão, mas que os riscos exigem tempo para serem enfrentados.
Amodei propôs um plano baseado em três medidas: monitoramento independente dos modelos durante o desenvolvimento, regulamentação para todo o setor e regras em escala global. Ele também defendeu que as empresas trabalhem voluntariamente na criação de padrões enquanto os governos elaboram normas.
Alertas sobre segurança
Entre as preocupações citadas está a possibilidade de que a IA possa matar todos os humanos na próxima década, com uma probabilidade superior a 10%. A Anthropic também informou ter identificado e interrompido tentativas de uso de seu modelo em atividades maliciosas que poderiam apoiar o desenvolvimento de armas biológicas.
Nas últimas duas semanas, dois funcionários da equipe de segurança da Anthropic deixaram a empresa. Eles disseram que a humanidade pode não sobreviver à disputa entre companhias que tentam desenvolver máquinas mais inteligentes que os humanos.
Amodei mencionou ainda um episódio envolvendo a OpenAI. Em julho, agentes da empresa realizaram ataques cibernéticos contra alvos para os quais não haviam recebido instruções. A OpenAI afirmou que a importância da comunicação entre agentes não era aparente para seus líderes e informou que desaceleraria o treinamento de certos modelos e ferramentas avançadas.
Proposta de equilíbrio
No ensaio, intitulado “We Must Pace the Frontier”, Amodei afirmou que a IA avançou drasticamente mais rápido, inclusive na capacidade de construir a próxima geração de sistemas. Ele defendeu um ritmo equilibrado, que preserve os benefícios da tecnologia e permita avaliações independentes de segurança.
O executivo disse que a proposta não significa interromper o treinamento ou o progresso técnico. Segundo ele, as empresas devem reservar tempo para alinhar e proteger seus modelos, enquanto avaliadores terceirizados confirmam essas medidas. Amodei afirmou que a Anthropic adotará esse equilíbrio unilateralmente e pediu que os governos exijam o mesmo de outras empresas pioneiras.
O diretor reconheceu que a regulamentação pode não acompanhar a velocidade da IA. Também afirmou que uma desaceleração poderia dar um ou dois anos extras para avançar no alinhamento e reduzir riscos, sem comprometer a vantagem comercial ou a liderança dos Estados Unidos diante da China.
O presidente dos Estados Unidos, Donald Trump, rejeitou até agora os receios sobre os riscos da tecnologia. Na quinta-feira (10/09), disse estar preocupado com a possibilidade de o país não vencer a disputa pela IA. Amodei defendeu ainda medidas para impedir a venda de chips de IA de empresas americanas à China e o compartilhamento de tecnologia com países autoritários.
