O CEO da OpenAI, Sam Altman, defendeu nesta segunda-feira a redução do ritmo de desenvolvimento da inteligência artificial para evitar a perda do controle humano sobre a tecnologia e a concentração excessiva de poder.
Em publicações no X, Altman afirmou que técnicas de alinhamento e segurança precisam avançar mais rapidamente do que a capacidade dos modelos. Para ele, uma inteligência artificial muito poderosa poderia ser usada por uma pessoa ou empresa para impor uma visão de mundo à sociedade.
“Estamos, sem pedir desculpas, no Time Humanidade, e a IA sempre deve servir às pessoas”, escreveu Altman.
Ritmo mais lento, não pausa
O executivo disse que desacelerar não significa interromper o desenvolvimento da IA. Segundo ele, intervenções como casos de segurança e monitoramento têm custos, mas são necessárias para impedir que as capacidades dos sistemas avancem à frente das medidas de proteção.
Altman também afirmou que a pressão competitiva entre empresas dos Estados Unidos não deve justificar imprudência. Ele defendeu que o alinhamento e o monitoramento acompanhem o desenvolvimento dos modelos.
A OpenAI já prepara casos de segurança antes de rodadas de aprendizado por reforço que, segundo a empresa, podem aumentar de forma significativa a capacidade de um modelo. Altman disse esperar que outras empresas desenvolvam abordagens próprias e que padrões compartilhados para desalinhamento, monitoramento e segurança produzam resultados melhores.
Coordenação internacional
Para o CEO, a principal necessidade de apoio estatal está na coordenação internacional. Ele também declarou apoio a um arcabouço federal de segurança para sistemas de inteligência artificial de fronteira nos Estados Unidos.
Altman afirmou que estruturas criadas anteriormente pela OpenAI, como as Políticas de Escalonamento Responsável e os Frameworks de Preparação, se concentravam principalmente na fase de lançamento de modelos prontos, e não no processo de desenvolvimento.
Dario Amodei, CEO da Anthropic, defendeu avaliadores independentes, coordenação entre as principais empresas do setor e cooperação internacional. Satya Nadella, CEO da Microsoft, apoiou o que chamou de “ritmo deliberado” para o alinhamento da inteligência artificial.
Altman disse que empresas de fronteira precisam demonstrar responsabilidade e que a OpenAI não considera necessário esperar por uma isenção antitruste ou por uma legislação específica para começar a construir confiança.
