Empresa afirma ter interrompido campanhas estatais de vigilância
A Anthropic anunciou que detectou e impediu várias ações de espionagem apoiadas por governos que empregaram seus modelos de inteligência artificial entre janeiro e julho. A companhia, sediada em San Francisco, afirmou em relatório que os episódios partiram de ao menos três regiões: China, Irã e África Ocidental.
Segundo o documento divulgado pela empresa, as operações de vigilância miravam principalmente grupos historicamente reprimidos por esses regimes, incluindo ativistas pró-democracia em Hong Kong, comunidades tibetanas e minorias e opositores do governo iraniano que vivem fora do país.
Em um dos casos relatados, agentes ligados ao Irã teriam desenvolvido um método para identificar indivíduos por meio de suas contas em redes sociais. Em outro, um contratado que atuava para autoridades de segurança do Mali teria usado o modelo Claude para projetar o software que possibilitou a coleta de inteligência.
A Anthropic também afirmou ter barrado tentativas de usar seus modelos para finalidades ilícitas variadas, como a elaboração de golpes amorosos online, a concepção de armamentos e a condução de pesquisas biológicas consideradas sensíveis.
Sobre o uso por desenvolvedores chineses, o relatório acusa alguns deles de empregar o Claude de forma dissimulada: enquanto geravam respostas a consultas de usuários, estariam simultaneamente “destilando” essas saídas para treinar seus próprios modelos. No jargão do setor, destilação é o processo em que um modelo é usado para ajudar no treinamento de outro; desenvolvedores chineses já haviam sido anteriormente apontados por adotar essa técnica sem autorização.
Pesquisas biológicas bloqueadas
A respeito das investigações ligadas a pesquisas biológicas, a Anthropic disse ter identificado projetos que tratavam de assuntos potencialmente perigosos, mas optou por não nomear as pessoas ou laboratórios envolvidos. O relatório observa que os investigadores eram cientistas e que não há afirmação de que tivessem intenção de causar danos; a empresa justificou que a identificação poderia colocá-los em risco.
Os estudos detectados incluíam trabalhos relacionados ao vírus chikungunya, a uma cepa altamente patogênica de gripe aviária, a uma família de vírus que engloba a varíola e o mpox, além de pesquisas sobre venenos e outras toxinas. A Anthropic disse ter bloqueado esses acessos e interrompido os fluxos de uso indevido de seus modelos.
O relatório reafirma a preocupação da empresa sobre o uso crescente de inteligência artificial por atores estatais e alinhados a Estados para rastrear e monitorar minorias e dissidentes, e descreve as ações de mitigação adotadas entre janeiro e julho para conter esses abusos.
Com informações de G1
