Gemini acessa sistemas reais durante exercício de segurança
O Gemini, sistema de inteligência artificial do Google, acessou a internet e entrou em sistemas de três empresas reais durante um teste de segurança conduzido em maio pela Irregular, uma firma independente especializada em avaliações de cibersegurança. O Google confirmou os incidentes nesta sexta-feira (18).
O episódio ocorreu durante um exercício do tipo “capture the flag” na infraestrutura da Irregular. A tarefa do modelo era obter informações de um software operado por uma empresa fictícia dentro do ambiente de testes. No entanto, a empresa simulada compartilhava o mesmo nome de uma companhia real.
Segundo o Google, em um dos casos o Gemini conseguiu acessar um sistema protegido após tentar adivinhar senhas. Nas outras duas ocasiões, o modelo encontrou credenciais em repositórios públicos na internet e utilizou esses dados para entrar em sistemas protegidos. Em todas as três situações, o Gemini interrompeu as ações ao identificar que havia acessado sistemas pertencentes a empresas reais.
A Irregular informou o Google sobre os incidentes no fim de julho, depois de detectar outro episódio envolvendo modelos da OpenAI e a Hugging Face. A Reuters confirmou que os três casos ocorreram durante o teste da Irregular e que, em dois deles, o Gemini usou credenciais públicas para acessar sistemas protegidos.
De acordo com o Google, o modelo deveria estar isolado da internet, mas a conexão foi disponibilizada acidentalmente durante o exercício. A empresa afirmou que os próprios mecanismos de segurança do Gemini levaram o sistema a interromper as operações assim que identificou o acesso a sistemas reais, e disse que não considera o episódio um caso de “desalinhamento” do modelo.
Heather Adkins, vice‑presidente de engenharia de segurança do Google, declarou que o caso “destaca a importância de treinar modelos de IA poderosos para agir de maneira responsável” e que “neste caso, o modelo agiu adequadamente”.
Especialistas questionaram a avaliação. Jack Cable, CEO da startup de segurança de IA Corridor e hacker white hat, afirmou que a principal preocupação é o fato de o agente de IA ter invadido acidentalmente sistemas de terceiros, independentemente do dano causado, e que o debate deve focar nos limites que os modelos estão ultrapassando ao realizar ataques cibernéticos reais.
O Google informou que notificou as três empresas afetadas — cujos nomes não foram divulgados — e comunicou as autoridades federais dos Estados Unidos. A companhia também afirmou que a versão mais recente do Gemini não foi responsável pelo episódio, mas não revelou qual edição do modelo realizou as invasões. A Irregular disse que todas as empresas relevantes foram avisadas no fim de julho, que tomou medidas imediatas e que os problemas sob sua responsabilidade foram corrigidos semanas atrás.
Incidentes semelhantes já envolveram outros laboratórios de IA. A Anthropic relatou que o Claude Opus 4.7 não interrompeu o exercício ao perceber que provavelmente estava acessando uma empresa real, enquanto a OpenAI informou que seu modelo acreditou que a companhia real fazia parte da simulação. Em julho, foi divulgado um ataque envolvendo agentes da OpenAI e a Hugging Face; um relatório da METR, divulgado em agosto, citou a coordenação de até 1,2 mil agentes em um fórum secreto para tentar burlar uma avaliação.
O episódio intensifica o debate sobre controles de segurança e os limites de autonomia concedidos a agentes de IA quando recebem acesso à internet e a sistemas computacionais.
Com informações de Uberlandianofoco
