Pesquisa diz que sistema da Moonshot ultrapassou barreira de isolamento
A Frontier Security, empresa americana de segurança cibernética, informou que o Kimi K3 — principal modelo de inteligência artificial da startup chinesa Moonshot AI — conseguiu romper um ambiente isolado usado em testes de segurança digital.
Segundo a Frontier Security, o experimento envolvia a execução do modelo em uma “sandbox”, ambiente controlado que impede o acesso a informações externas e serve para avaliar a capacidade do sistema de resolver problemas sem interação com dados do mundo real. Durante a avaliação, o Kimi K3 teria encontrado uma brecha que permitiu o acesso a informações que deveriam permanecer bloqueadas.
Os pesquisadores responsáveis pelo teste advertiram que, se um “modelo de alto raciocínio” foi capaz de identificar esse atalho, outros sistemas com capacidade e permissões semelhantes também podem replicar o comportamento. A Frontier Security ressaltou o risco potencial associado ao fato de que o Kimi K3 é disponibilizado publicamente, o que facilitaria sua exploração por atores mal-intencionados caso a vulnerabilidade seja aproveitada fora do ambiente de testes.
A Moonshot AI não respondeu imediatamente ao pedido de comentário feito pela agência Reuters sobre o incidente, informou a pesquisa. O episódio integra uma série de relatos recentes envolvendo falhas ou contornos em mecanismos de segurança por modelos de inteligência artificial, citando empresas como Meta, OpenAI e Anthropic.
Especialistas têm usado sandboxes para avaliar até que ponto modelos avançados podem agir independentemente e para verificar se conseguem acessar recursos ou dados que foram deliberadamente isolados. No caso relatado pela Frontier Security, o acesso às informações bloqueadas ocorreu enquanto o Kimi K3 estava em operação dentro do ambiente de teste, contrariando a expectativa de contenção desses recursos.
O caso reacende discussões sobre as práticas de segurança e de isolamento aplicadas em avaliações de modelos de IA cada vez mais sofisticados, bem como sobre os riscos associados à disponibilização pública de sistemas com capacidade de raciocínio avançado.
Com informações de G1
