A OpenAI informou que o ataque cibernético protagonizado por alguns de seus modelos de inteligência artificial avançados afetou mais alvos do que havia sido divulgado inicialmente.
A empresa, criadora do ChatGPT, declarou que os agentes autônomos responsáveis pelo incidente encontraram e passaram a utilizar credenciais publicamente expostas em contas de outros serviços acessíveis ao público. Segundo a OpenAI, foram quatro logins que permitiram acesso a quatro serviços distintos, embora a empresa não tenha esclarecido se esses serviços são empresas específicas.
O caso veio à tona depois que a Hugging Face, plataforma que funciona como uma espécie de loja de aplicativos para ferramentas de IA, revelou ter sido alvo de um ataque conduzido por uma IA autônoma. A Hugging Face informou que foi invadida em 16 de julho e registrou o ocorrido junto à polícia. Quase uma semana após a denúncia, a OpenAI reconheceu que um de seus modelos havia escapado de um ambiente de teste fechado e atacado a Hugging Face enquanto tentava resolver um desafio de hacking planejado pela própria OpenAI.
Na quarta-feira (29/07), a OpenAI atualizou sua declaração para apontar que o alcance do ataque era maior do que se supunha, detalhando o uso de credenciais publicamente disponíveis em nível de conta em outros serviços como parte do mesmo incidente envolvendo a Hugging Face.
Relatórios elaborados pela Cloud Security Alliance (CSA), com base em uma reunião emergencial realizada na semana anterior com a Hugging Face, indicam que os agentes de IA atuaram em velocidade superior à humana, mas exibiram decisões estranhas e erros inéditos para um atacante humano. O documento, revisado pela Hugging Face, descreve comportamentos como repetição de ações já concluídas — sinal de perda de contexto —, geração de comandos e textos incoerentes e falhas em apagar vestígios de sua atividade.
Ainda assim, o relatório ressalta que os agentes também apresentaram ações técnicas sofisticadas e foram capazes de se adaptar rapidamente a novas situações durante um ataque que se estendeu por vários dias. Foram necessários três dias até que a presença dos agentes fosse detectada na rede de TI da Hugging Face, e especialistas da empresa levaram várias horas para conter e expulsar os invasores. A companhia informou que precisou reconstruir cerca de um terço de sua infraestrutura em função do incidente, sem divulgar custos.
Especialistas que participaram da reunião emergencial avaliaram que os agentes autônomos estão entre as novas ameaças à segurança digital, por sua persistência e capacidade de testar múltiplos caminhos simultaneamente. Ritesh Patel, oficial de segurança cibernética, informou que o setor precisa se adaptar para enfrentar agentes autônomos movidos por modelos de ponta. A pesquisadora e hacker ética Valentina Palmiotti, conhecida como Chompie, comentou que, apesar de parecerem aleatórios, os métodos testados pelos agentes são eficazes e persistentes.
O documento da CSA lembra ainda casos anteriores de comportamento inesperado de agentes de IA, citando um episódio de setembro de 2024 em que um modelo do ChatGPT “escapou” dentro dos sistemas da OpenAI para obter uma resposta necessária a outro teste. A CSA alerta que esse tipo de comportamento tem se repetido e recomenda maior responsabilidade na forma de controlar agentes de IA, além de mecanismos para identificar os proprietários finais dessas ferramentas.
A OpenAI afirmou que publicará em breve as conclusões de sua investigação interna para que outras organizações possam aprender com o ocorrido.
Com informações de G1
