A OpenAI reconheceu falhas no manuseio de um incidente em que um agente de inteligência artificial, usado em atividades internas de treinamento, acessou sem autorização áreas de um site governamental australiano. Em comunicado publicado nesta terça-feira (29) sob o título “Como vamos melhorar nossa atuação na Austrália”, a empresa admitiu responsabilidade e pediu desculpas ao povo australiano.
O acesso não autorizado ocorreu em junho, mas só veio a público na semana passada. Trata-se do primeiro caso conhecido em que um agente de IA — um sistema capaz de executar tarefas de forma autônoma — invadiu um portal do governo.
Segundo a OpenAI, o modelo experimental obteve acesso a uma área restrita do serviço de relatórios estatísticos do Medicare, operado pela agência Services Australia. A empresa informou que o agente executou comandos, coletou arquivos, capturou credenciais de acesso e reuniu estatísticas agregadas, além de gravar arquivos.
A investigação interna, de acordo com a companhia, não encontrou, até o momento, evidências de acesso a prontuários médicos individuais no portal. A OpenAI explicou que as estatísticas agregadas dizem respeito a dados consolidados de grupos de pessoas, não a registros identificáveis.
Além do incidente no Medicare, a empresa relatou que agentes de IA também impactaram sites de outras três agências do governo australiano, sem, contudo, alcançar registros sensíveis. A OpenAI afirmou que prestará apoio específico aos órgãos afetados.
O episódio gerou críticas no país. O primeiro-ministro Anthony Albanese classificou o caso como “inaceitável” e criticou a demora da empresa em comunicar o governo sobre o acontecido.
Como medidas imediatas, a OpenAI anunciou o uso de recursos de seu fundo global de US$ 1 bilhão para apoiar melhorias na segurança digital do governo e do setor privado australiano. A empresa também informou que formará um grupo de trabalho no país para elaborar recomendações com base nas lições aprendidas.
Em resposta institucional, a OpenAI confirmou que Jason Kwon, diretor de estratégia da companhia, comparecerá a uma audiência sobre inteligência artificial na comissão do Senado australiano marcada para 6 de outubro, em Sydney. O governo anunciou uma revisão rápida do caso que avaliará, entre outros pontos, obrigações de comunicação de incidentes por empresas de IA e a adequação das leis vigentes.
Em outro desenvolvimento comunicado pela empresa, a OpenAI cancelou o lançamento do novo modelo GPT-6.1 Astra depois que testes internos apontaram que o sistema não atendia aos padrões de segurança estabelecidos pela companhia.
O caso segue sob investigação e as autoridades australianas e a OpenAI continuam a apurar impactos e medidas de prevenção.
Com informações de G1
