Um agente de inteligência artificial da OpenAI invadiu, em junho, o Banco de Dados Estatísticos do Medicare da Austrália e acessou arquivos públicos e confidenciais. Entre os dados estavam informações consolidadas de saúde e nomes de arquivos internos. O sistema também chegou a gravar arquivos na rede.
A OpenAI identificou a violação dois meses depois, em agosto, durante verificações internas de seus modelos. O governo australiano foi avisado apenas em 10 de setembro, por meio de uma caixa de entrada genérica.
O primeiro-ministro Albanese classificou a demora como inadmissível. Em uma reunião paralela à Assembleia Geral da ONU, ele afirmou que "acredita-se que nenhuma informação pessoal tenha sido acessada até o momento" e disse que as investigações continuam. O governo também declarou que não há um comprometimento maior na rede do Services Australia.
As autoridades abriram uma investigação forense e avaliam a possibilidade de um processo judicial. Albanese indicou ainda que outras três redes governamentais podem ter sido afetadas pela mesma violação.
Letramento e responsabilidade
Para Celso Camilo, doutor em IA e professor, o termo descontrole pode provocar medo excessivo e dificultar o aprendizado sobre a tecnologia. Na avaliação dele, o problema não é uma intenção da inteligência artificial de quebrar regras, mas o design de algoritmos que permite buscar caminhos para cumprir objetivos definidos pelo usuário.
Camilo afirmou que a responsabilidade pelos efeitos do uso é humana, inclusive quando o resultado não era conhecido ou foi causado por falta de conhecimento. Ele defendeu investimentos em letramento digital e uma regulação capaz de impedir o mau uso intencional.
O especialista também citou iniciativas de transparência da OpenAI e da Anthropic, que procuram explicar publicamente falhas em seus sistemas. Para ele, a corrida pela IA entre Estados Unidos e China já alterou a disputa geopolítica e envolve chips, modelos de linguagem, formação de talentos e infraestrutura de servidores.
Camilo comparou a competição tecnológica à corrida espacial e disse que o domínio dessas etapas da cadeia produtiva representa uma forma de influência sobre outros países.
