NOVA YORK — A inteligência artificial está avançando de sistemas que produzem textos e imagens para modelos capazes de realizar ações concretas, como fazer compras e desenvolver aplicativos. O alerta foi feito pelo especialista em tecnologia e inovação Arthur Igreja durante a Assembleia Geral da ONU.
"A IA está ganhando a capacidade de executar coisas", afirmou Igreja. Ele explicou que essa mudança é marcada pela transição da chamada IA generativa para a IA agêntica, que pode executar tarefas com menor intervenção direta do usuário.
Riscos e segurança
De acordo com o especialista, testes da Anthropic mostraram que modelos de IA agêntica identificaram rapidamente vulnerabilidades de cibersegurança em empresas e órgãos sofisticados. O resultado provocou preocupação no setor.
Igreja também disse que o uso malicioso desses sistemas poderia desencadear um colapso no sistema financeiro global, citando um alerta atribuído ao CEO do Goldman Sachs. Diante dos riscos, a Anthropic decidiu não lançar alguns de seus modelos mais avançados e restringiu o acesso a parceiros selecionados.
Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defenderam auditorias independentes e parâmetros de segurança para os modelos. Donald Trump e Mark Zuckerberg, diretor executivo da Meta, adotaram posição contrária, segundo Igreja, ao defender que a corrida tecnológica não seja contida por regulações.
Disputa entre Estados Unidos e China
Igreja comparou a competição pela inteligência artificial entre Estados Unidos e China à corrida armamentista do século XX. Para ele, os dois países precisarão criar alguma forma de governança para evitar consequências irreversíveis.
Às margens da Assembleia Geral da ONU, houve uma rodada de negociações em Nova York, mediada pelo secretário do Tesouro dos Estados Unidos, Scott Bessent. Os países estabeleceram um canal de comunicação com o objetivo de criar um mecanismo de alerta para casos em que empresas ou governos ultrapassem limites no desenvolvimento da tecnologia.
Xi Jinping afirmou que "a IA deve estar sempre sob controle humano". Trump, por outro lado, tratou o avanço tecnológico como uma disputa por dominação. Para Igreja, essa competição ainda está no início.
