Frear o desenvolvimento dos modelos mais avançados de inteligência artificial pode concentrar ainda mais a tecnologia nas grandes empresas sem resolver os problemas de segurança, afirma Telma Woerle, diretora e fundadora do Centro de Excelência em Inteligência Artificial da Universidade Federal de Goiás.
Para a pesquisadora, uma pausa de seis meses ou um ano só teria sentido se fosse usada para criar mecanismos melhores de avaliação, segurança e auditoria. Ela também defende acesso acadêmico aos sistemas, transparência sobre os modelos e avaliações independentes.
Woerle afirma que universidades, empresas menores e centros de pesquisa não têm acesso à mesma infraestrutura, aos mesmos modelos e às mesmas informações das big techs. Muitas vezes, segundo ela, pesquisadores só tomam conhecimento de comportamentos preocupantes quando as próprias empresas decidem divulgá-los.
Superinteligência ainda sem métricas claras
A pesquisadora diz que o avanço dos modelos e dos agentes é observável, mas que superinteligência ainda não pode ser tratada como uma categoria técnica ou jurídica bem definida. O conceito pode envolver um sistema melhor que uma pessoa em determinadas tarefas, capaz de fazer pesquisa científica sozinho ou de desenvolver outro sistema mais avançado.
Sem uma definição e métricas claras, uma regulação baseada nessa ideia poderia criar barreiras que grandes empresas conseguem absorver, mas que seriam mais difíceis para universidades, startups e centros de pesquisa. Para Woerle, isso poderia aumentar a concentração tecnológica.
Ela afirma que mais tempo pode permitir novos experimentos e mecanismos de controle, mas não há garantia de que seis meses ou dois anos, por si só, resolvam problemas de alinhamento, interpretabilidade ou controle. Alguns desses desafios, segundo a pesquisadora, são conceituais.
Acesso para pesquisa e auditoria
Woerle considera necessário permitir que a academia teste sistemas avançados em condições adequadas de segurança. Caso contrário, as empresas que desenvolvem os modelos também concentrariam o conhecimento sobre os riscos e as evidências usadas para avaliá-los.
A verificação de uma desaceleração, segundo ela, exigiria dados, testes e resultados que pudessem ser confrontados e reproduzidos. Computação usada no treinamento e número de parâmetros podem ser acompanhados em determinadas condições, mas autonomia, capacidade real de um agente e contribuição da IA para criar a próxima geração de modelos são mais difíceis de medir.
A pesquisadora também afirma que modelos de pesos abertos permitem estudar e testar sistemas, além de formar pesquisadores. Eles têm riscos, mas restringir esse desenvolvimento sem fortalecer a pesquisa independente pode ampliar a concentração da tecnologia.
Para avaliar resultados concretos, Woerle defende a divulgação das avaliações externas, dos comportamentos encontrados e das mudanças feitas nos modelos. Também considera necessário observar se as universidades ganharam ou perderam condições para estudar segurança e agentes avançados. Um discurso alarmista, diz ela, pode levar a uma regulação cara e restritiva, com menos concorrência e pesquisa independente, sem melhorar a verificação dos modelos de fronteira.
