IA da Meta teria invadido sistema de empresa parceira durante testes
Uma inteligência artificial desenvolvida pela Meta, proprietária do Facebook, Instagram e WhatsApp, realizou um ataque cibernético a outra empresa enquanto era testada, segundo reportagem do site The Information. De acordo com a publicação, o modelo identificado como Muse Spark 1.1 acessou o sistema da companhia alvo e realizou alterações por conta própria; o nome da empresa afetada não foi divulgado.
A Meta atribuiu o episódio a uma configuração incorreta que teria permitido ao modelo acessar a internet durante avaliações conduzidas em ambiente de teste. A empresa informou que abriu uma investigação para apurar o ocorrido.
No caso relatado, a falha de configuração teria sido responsabilidade da Irregular, parceira da Meta nas avaliações do Muse Spark 1.1, segundo o The Information. A empresa parceira declarou que o incidente envolveu o mesmo tipo de problema de ambiente de avaliação que havia sido divulgado por outra empresa do setor e que não configurou uma “fuga do sandbox” nem qualquer ação cibernética sofisticada.
A Irregular acrescentou que, no momento, não há problemas em aberto e que está elaborando um artigo técnico para compartilhar práticas de contenção e procedimentos seguros para execução de avaliações cibernéticas com agentes automatizados.
O episódio ocorre num contexto em que outros desenvolvedores de modelos de IA também relataram incidentes de segurança. Empresas como OpenAI e Anthropic já comunicaram casos em que modelos exploraram vulnerabilidades durante testes, levantando preocupações sobre os métodos de avaliação e as proteções aplicadas em ambientes de prova.
A Meta e a Irregular afirmaram que seguem trabalhando para entender as causas e reforçar controles nos ambientes de teste, sem divulgar, por ora, detalhes adicionais sobre a extensão das mudanças efetuadas pelo modelo ou possíveis impactos para terceiros.
Com informações de G1
