A Anthropic e a Accenture anunciaram neste sábado, 19, um investimento conjunto de US$ 2 bilhões em segurança de inteligência artificial. Cada empresa aplicará pelo menos US$ 1 bilhão ao longo dos próximos cinco anos.
O acordo prevê a formação de uma equipe de avaliadores integrados, que trabalhará com as equipes internas e os parceiros de segurança da Anthropic. O grupo fará avaliações de modelos de IA, testes de red teaming, que simulam possíveis ataques, e testes de alinhamento. Também caberá à equipe verificar os mecanismos de segurança dos sistemas.
A Accenture informou que vai reunir profissionais especializados em inteligência artificial, segurança e diferentes setores da economia para atuar na parceria. A empresa também pretende usar sua experiência nessas áreas com a aquisição da Faculty, companhia especializada em IA aplicada.
A Faculty realiza testes e avaliações de modelos para laboratórios de inteligência artificial. A empresa ainda desenvolve sistemas voltados a setores como governo, defesa, saúde e infraestrutura.
Para Julie Sweet, presidente do conselho e CEO da Accenture, a avaliação integrada combina conhecimento técnico com a compreensão sobre o uso da IA no mundo real. “A avaliação integrada é uma área emergente”, afirmou.
Marc Warner, diretor de Tecnologia da Accenture e CEO da Faculty, disse que a segurança deve ser considerada desde o desenvolvimento dos modelos. “Unir forças com a Anthropic para atuar como avaliadores integrados é exatamente o tipo de trabalho para o qual a Faculty foi criada”, declarou.
A parceria entre as empresas terá foco na avaliação dos modelos, na identificação de possíveis vulnerabilidades e na análise dos recursos de proteção dos sistemas de inteligência artificial.
