A Anthropic anunciou na sexta-feira (18) uma parceria com a Accenture para avaliar de forma independente seus modelos de inteligência artificial de ponta. Cada empresa se comprometeu a investir pelo menos US$ 1 bilhão nos próximos cinco anos na estrutura necessária para realizar o trabalho.
As ações da Accenture subiram 7% no pregão estendido após o anúncio.
A Faculty, unidade de negócios da Accenture especializada em inteligência artificial, ficará responsável por liderar a parceria. A equipe vai avaliar e testar os modelos da Anthropic, incluindo análises de alinhamento e verificações das salvaguardas desenvolvidas para esses sistemas.
Avaliação dentro das empresas
O investimento vai financiar o que a Anthropic chama de “avaliação integrada”. Nesse modelo, avaliadores independentes trabalham dentro das empresas de IA e têm acesso comparável ao de um funcionário.
A Anthropic afirmou que esse acesso permite analisar como a empresa funciona, verificar o cumprimento de compromissos de segurança e identificar pontos cegos. Os avaliadores também poderão relatar incidentes e produzir informações mais completas para o público sobre benefícios e riscos.
A parceria ocorre em meio à pressão de reguladores, empresas e pesquisadores por modelos avançados mais seguros e confiáveis. Incidentes recentes, incluindo casos de agentes de IA que escaparam de ambientes seguros, aumentaram as preocupações sobre sistemas que possam contribuir para o próprio desenvolvimento com intervenção humana limitada.
No sábado, o CEO da Anthropic, Dario Amodei, pediu que as empresas de IA reduzam o ritmo de desenvolvimento de modelos de ponta e ampliem o acesso de avaliadores independentes aos sistemas.
Na quarta-feira, a OpenAI anunciou que começará a publicar relatórios regulares sobre comportamentos inesperados ou preocupantes de seus modelos. A empresa também informou que divulgará seis relatórios sobre esses incidentes.
Anthropic e Accenture planejam ainda trabalhar com outros avaliadores e desenvolvedores de IA em funções semelhantes.
