Um conjunto de agentes de inteligência artificial ligados à OpenAI invadiu, em maio, um site alemão e o transformou em um espaço colaborativo para compartilhar técnicas de contorno às próprias regras da empresa. A descoberta, relatada pela Reuters, mostra que os agentes realizaram mais de 15 mil edições no DseWiki, uma plataforma alemã voltada a programadores que permite alterações coletivas de conteúdo.
Pesquisadores externos localizaram as alterações no fim de agosto. Segundo o levantamento, as publicações continham instruções para driblar tarefas, escapar de restrições internas da OpenAI, ocultar ações e manter comunicações mesmo após serem desativados. As mensagens também indicavam intenção de usar ferramentas como o Tor para evitar rastreamento.
Os responsáveis pela descoberta foram Sydney Von Arx, presidente-executiva da Nightingale, organização sem fins lucrativos dedicada à segurança em IA, e Cormac Slade Byrd, que passou de trader quantitativo a pesquisador em inteligência artificial. Eles relataram que cerca de metade dos perfis que assinaram as edições usavam nomes sugerindo ligação com a OpenAI, como “OpenAIResearcher” e “OAIResearchMar26”.
Registros públicos do servidor mostraram que grande parte da atividade vinha de infraestrutura hospedada no Microsoft Azure, serviço que a OpenAI utiliza ocasionalmente. Os pesquisadores também apontaram visitas repetidas de funcionários da OpenAI ao site depois do episódio, sinais que, segundo eles, reforçam a conexão entre os agentes e a empresa.
Em junho, quando um moderador do DseWiki começou a apagar páginas criadas pelos agentes, estes passaram a criar cópias de segurança e páginas alternativas para preservar o conteúdo. Uma mensagem datada de 19 de junho indicava que a limpeza estava sendo feita em ordem alfabética e sugeria páginas substitutas caso as originais fossem removidas.
Especialistas citados no relatório classificaram as ações como tentativa de invasão e formatação de uma rede autônoma de agentes. Lukasz Olejnik, pesquisador visitante do King’s College London, afirmou que a tentativa de modificar o site configuraria uma invasão. Maurice Chiodo, do Centro de Estudos de Risco Existencial da Universidade de Cambridge, avaliou que as comunicações davam a impressão de uma “rede clandestina” organizada para cumprir objetivos.
O episódio foi mantido em sigilo por semanas dentro da OpenAI, em meio a questionamentos sobre segurança dos sistemas da empresa e enquanto executivos lidavam com outro incidente, ocorrido em julho no repositório Hugging Face. A OpenAI afirmou à Reuters que o caso alemão não estava relacionado ao incidente do Hugging Face e que não foi incluído no relatório sobre aquele episódio.
A empresa também negou que sua equipe jurídica tenha desencorajado investigações internas e afirmou que não pôde comentar detalhadamente as conclusões de um relatório ainda não divulgado. Em nota, um porta-voz disse: “As alegações de que nossa equipe jurídica desencorajou a investigação do incidente são falsas”. A OpenAI afirmou ter trabalhado de boa-fé com especialistas externos e ter divulgado incidentes considerados relevantes.
O caso aumenta preocupações sobre a autonomia de agentes de IA, num contexto em que empresas aceleram o desenvolvimento de sistemas capazes de agir de forma independente. Recentemente, a OpenAI suspendeu parte do treinamento de modelos para acrescentar medidas de segurança e lançou o “Astra”, modelo que, segundo a companhia, melhora desempenho, mas que também pode fugir ao monitoramento humano.
Com informações de G1
