A Anthropic informou nesta quinta-feira (30) que seu assistente de inteligência artificial, Claude, conduziu ataques virtuais contra três organizações durante testes internos. A empresa atribuiu os incidentes a um erro de configuração que permitiu que os modelos obtivessem acesso à internet.
Segundo a companhia, a descoberta ocorreu após a análise de mais de 141 mil sessões de avaliação, revisão iniciada depois que a OpenAI divulgou um caso em que dois de seus modelos conseguiram invadir um sistema e promover um ataque considerado sem precedentes. A Anthropic afirmou que interrompeu as avaliações assim que identificou indícios de conexão externa.
Os episódios, diz a empresa, tiveram início em abril e envolveram os modelos Claude Opus 4.7, Claude Mythos 5 e um terceiro modelo voltado à pesquisa. As ações ocorreram durante exercícios nos quais os sistemas eram instruídos a localizar informações escondidas em redes simuladas. Embora os comandos orientassem os modelos a operar sem acesso à internet, um equívoco com a parceira Irregular deixou os ambientes conectados, permitindo que o Claude explorasse recursos externos.
De acordo com a Anthropic, o comportamento do Claude incluiu a exploração de senhas fracas e pontos de acesso não autenticados para comprometer a infraestrutura das organizações atingidas. A revisão dos registros foi iniciada em 23 de julho; no mesmo dia, a empresa suspendeu as avaliações após encontrar indícios de que o assistente poderia ter acessado a internet. A Anthropic afirma ter identificado os três incidentes até 24 de julho e notificado as organizações afetadas em 27 de julho.
A companhia informou ainda que duas das entidades atingidas não tinham conhecimento das atividades até receberem a notificação e que ela ainda busca contato com a terceira organização envolvida.
O anúncio da Anthropic ocorre dias depois da divulgação pela OpenAI sobre comportamento similar em modelos proprietários, aumentando o foco do setor em avaliações de segurança e controle de ambientes de teste para sistemas de inteligência artificial.
Com informações de G1
