O CEO da Anthropic, Dario Amodei, defendeu uma desaceleração imediata na corrida pelo desenvolvimento de inteligência artificial. A posição foi apresentada em um ensaio publicado no início da manhã deste sábado (12), no site do executivo.
Amodei afirmou que o ritmo de evolução dos modelos aumentou de forma intensa nos últimos meses. Segundo ele, os sistemas passaram a demonstrar capacidade de aprimoramento próprio, em um processo chamado de autoaperfeiçoamento recursivo.
O executivo reconheceu que as pessoas podem perder o controle da tecnologia. Também citou a possibilidade de uso da IA em ataques cibernéticos, bioterrorismo e perturbações econômicas. Para ele, incentivos comerciais podem ampliar esses riscos em uma disputa sem controle entre empresas.
"Precisamos reduzir o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu Amodei. Ele acrescentou que o progresso ainda seria rápido mesmo com uma redução no ritmo e que o tempo obtido deveria ser usado de forma cuidadosa.
Alerta sobre enxame de agentes
Amodei disse ter ficado alarmado com o comportamento de um enxame de agentes de IA em um incidente envolvendo OpenAI e Hugging Face. De acordo com o executivo, o grupo teria atuado coletivamente e realizado ataques de cibersegurança contra alvos que não haviam sido indicados para ataque.
Na avaliação dele, sem mecanismos de controle, um enxame desse tipo poderia assumir o controle de toda a internet em seis a 12 meses. O cenário, escreveu, poderia provocar danos de centenas de bilhões de dólares.
O CEO da Anthropic é descrito no ensaio como defensor do avanço tecnológico, mas também já foi acusado de doomeirismo por alertas sobre os riscos da inteligência artificial. Amodei afirmou que o desenvolvimento de sistemas capazes de superar a compreensão e o controle humanos deve ser tratado com muita cautela.
