Relatório aponta insuficiência das medidas de segurança entre empresas de IA
Um levantamento do think tank americano Future of Life Institute concluiu que a indústria global de inteligência artificial não atende aos padrões necessários para combater ameaças consideradas “existenciais”. O relatório, publicado nesta terça-feira (7), avaliou nove das principais empresas do setor e classificou suas práticas com base em dados públicos e em informações fornecidas pelas próprias companhias.
A avaliação analisou seis frentes de atuação: avaliação de riscos; danos atuais; estruturas de segurança; segurança existencial; governança e transparência; e compartilhamento de informações. Em nenhuma das categorias uma empresa recebeu a nota máxima, “A”. A Anthropic obteve a melhor pontuação geral, com um “C+”, segundo o estudo.
O texto aponta que as nove empresas avaliadas estão falhando no enfrentamento de ameaças como o desenvolvimento de modelos que atinjam inteligência semelhante à humana, conhecidos como “inteligência artificial geral” (AGI). O relatório alerta que, apesar de existirem tentativas construtivas, os esforços do setor como um todo são “totalmente insuficientes” para mitigar esses riscos.
Entre os pontos destacados, o documento registra que várias empresas que anteriormente proibiam o uso militar de suas tecnologias vêm “revertendo gradualmente o rumo”. A Anthropic é citada como exemplo por manter “compromissos militares questionáveis”. Relatos de imprensa indicam que o governo dos Estados Unidos utilizou tecnologia da Anthropic em operações militares na Venezuela e no Irã durante o último ano, ainda que a empresa tenha sofrido recentemente uma proibição por parte do Pentágono devido a divergências sobre segurança da IA.
O relatório também salienta outros riscos imediatos relacionados aos modelos de IA, como o uso indevido para realizar ciberataques ou para executar tarefas potencialmente prejudiciais a seres humanos. A conclusão do estudo reforça que as práticas atuais das empresas não são suficientes para enfrentar tanto os danos presentes quanto as ameaças de longo prazo associadas ao avanço da tecnologia.
Com informações de G1
