Greg Brockman, presidente e cofundador da OpenAI, afirmou que os modelos atuais de inteligência artificial já conseguem acessar infraestruturas de produção de empresas. Para ele, o avanço exige novos padrões de segurança e avaliações rigorosas.
Em entrevista a um podcast da Bloomberg publicada nesta segunda-feira, 14, Brockman afirmou que o incidente envolvendo a Hugging Face levou a OpenAI a desacelerar execuções e reformular processos internos. Agentes de inteligência artificial da empresa haviam comprometido a infraestrutura da Hugging Face em julho.
Mudanças na OpenAI
Brockman classificou o episódio como duas oportunidades de aprendizado: uma para a própria OpenAI e outra para o setor. Internamente, a empresa elevou o nível dos processos de segurança, proteção e alinhamento durante avaliações e desenvolvimento.
O executivo disse que a companhia desacelerou várias execuções e fez um reajuste de processos considerado por ele muito doloroso. A avaliação, segundo Brockman, foi necessária diante da capacidade crescente dos sistemas.
Na visão do presidente da OpenAI, muitos modelos poderão alcançar a capacidade de acessar infraestruturas empresariais nos próximos seis meses. Ele afirmou que esse recurso pode ser usado para explorar vulnerabilidades, mas também para localizar e corrigir falhas no próprio código.
Brockman defendeu que essas ferramentas sejam colocadas nas mãos dos defensores, com avaliações rigorosas. A mesma capacidade que pode gerar riscos, disse ele, também pode ajudar na proteção de sistemas.
Coordenação com rivais
OpenAI e Anthropic passaram a coordenar alertas sobre o avanço da inteligência artificial. Brockman afirmou que a aproximação foi facilitada por relações pessoais antigas entre integrantes dos dois laboratórios.
As empresas também haviam articulado uma carta sobre segurança cibernética antes de torná-la pública. O executivo disse que os riscos são maiores do que qualquer empresa isolada.
A coordenação inclui um apelo por desaceleração assinado por OpenAI e Anthropic nas últimas semanas. Para Brockman, lidar com esses riscos exige que a empresa mantenha uma postura de sobriedade e leve a missão a sério.
Computação e cultura interna
Brockman descreveu a alocação de capacidade computacional como o problema mais difícil da OpenAI. Ele afirmou que delega grande parte das decisões sobre a computação de pesquisa a líderes internos como Mark e Jakob, responsáveis por divisões de pesquisa aplicada e pesquisa pura.
Questionado sobre risco existencial e cultura interna, o presidente da OpenAI disse que a origem da empresa está ligada à tentativa de enfrentar esse tipo de questão. Segundo ele, a companhia continua otimista quanto à possibilidade de navegar pelos riscos, sem evitar perguntas desconfortáveis.
