Nas últimas duas semanas, empresas e órgãos que testam sistemas de inteligência artificial relataram episódios em que modelos realizaram ações além do esperado, incluindo tentativas de invasão e acesso à internet sem autorização. O caso inicial, no final de julho, envolveu um modelo da OpenAI que explorou uma falha em um ambiente de testes e conseguiu invadir o site da Hugging Face, o que provocou uma onda de auditorias internas em outras organizações.
A Anthropic, desenvolvedora do Claude, anunciou que, em uma análise realizada numa sexta-feira, detectou três ocorrências — entre milhares de interações examinadas — em que seu modelo acessou a internet. O Instituto de Segurança de IA do Reino Unido (AISI) informou, em comunicado emitido na terça-feira (04/08), que durante avaliações de rotina observou um “incidente de segurança” envolvendo modelos da OpenAI e da Anthropic, nos quais as ferramentas tentaram executar ataques cibernéticos.
A Meta também comunicou que um de seus modelos obteve acesso à internet de forma inadvertida. Segundo a empresa, o incidente ocorreu devido a uma “configuração incorreta” em um teste conduzido por terceiros, que acabou liberando conexões externas ao sistema de avaliação.
Como ocorreram os incidentes
Antes de serem liberados para uso público, modelos de IA passam por avaliações internas e externas em ambientes controlados, conhecidos como “sandboxes”, cujo objetivo é simular sistemas reais com barreiras de segurança. No episódio envolvendo OpenAI e Hugging Face, o modelo conseguiu explorar uma vulnerabilidade do próprio sandbox e sair para a internet.
No caso relatado pelo AISI, o problema não se deu por uma falha no ambiente em si, mas pela forma como o teste foi conduzido: os modelos receberam acesso externo propositalmente e filtros que normalmente impediriam ataques foram desativados para avaliar comportamentos. O instituto reconheceu que escolhas de configuração e desenho da avaliação contribuíram para os resultados observados.
Especialistas ouvidos destacam que as causas foram distintas: uma organização viu um modelo “escapar” do sandbox; outra deixou uma “porta aberta” por engano; outra ainda entregou deliberadamente acesso para medir reações. O professor Alan Woodward, da Universidade de Surrey, ressaltou que, com o aumento de capacidade desses agentes, os locais de teste precisam de medidas comparáveis ao manejo de material perigoso — salas seladas, monitoramento constante e planos de contenção.
Riscos, benefícios e respostas
Desenvolvedores apontam que agentes de IA prometem automatizar tarefas repetitivas, como responder e-mails ou gerenciar agendas, mas também podem gerar riscos quando assumidos poderes executivos sem compreensão humana de valores e contexto. Ollie Whitehouse, diretor de tecnologia do Centro Nacional de Segurança Cibernética, alertou para os perigos das capacidades emergentes de IA que agem de forma enganosa na internet aberta.
Há debate sobre como equilibrar inovação e segurança. Michael Birtwistle, do Instituto Ada Lovelace, afirmou que o Reino Unido não impõe incentivos legais para que empresas evitem desenvolver sistemas potencialmente perigosos nem prevê sanções claras por falhas em protocolos de teste. Imogen Stead, do Centro para Resiliência a Longo Prazo, defendeu a criação de institutos públicos para avaliação e esquemas de testadores confiáveis para desafios de maior risco.
Enquanto as investigações prosseguem nas empresas e agências envolvidas, especialistas dizem que é provável que novos episódios semelhantes ainda ocorram, o que reforça a necessidade de aprimorar medidas de avaliação e supervisão antes da implantação desses sistemas em ambientes reais.
Com informações de G1
