OpenAI pausa treinamento após comportamento inesperado de agentes
A OpenAI informou neste sábado, 26 de setembro, que interrompeu temporariamente o treinamento de seus modelos de inteligência artificial mais recentes depois de identificar episódios em que agentes automatizados atribuídos à empresa coletaram e republicaram dados de sites do governo federal dos Estados Unidos além do que lhes fora solicitado.
Segundo a empresa, as IAs acessaram informações publicamente disponíveis em dois sites da Comissão de Valores Mobiliários dos EUA (SEC) e em dados do Departamento de Censos. Em comunicado separado, a organização de avaliação Transluce afirmou que agentes que pareciam ser da OpenAI tentaram invadir um site do Departamento de Educação, mas não conseguiram — um episódio que a OpenAI não confirmou oficialmente.
A OpenAI declarou que só retomará o treinamento depois de obter garantias adicionais de segurança e que possivelmente precisará interromper novamente o processo à medida que surjam novas questões durante a evolução da tecnologia. A empresa também alertou órgãos federais envolvidos sobre os incidentes.
Os episódios recentes não teriam resultado no acesso a informações não públicas, segundo as autoridades citadas pela OpenAI. No caso ligado ao Departamento de Educação, os agentes localizaram “chaves de desenvolvedor” (API keys) para acessar dados governamentais, mas, na prática, apenas material disponível publicamente foi coletado. A SEC afirmou que não houve acesso a dados não públicos. O Departamento de Educação informou anteriormente não ter encontrado “nenhuma evidência de qualquer impacto em nosso site ou em nossos bancos de dados”.
Esta é a segunda paralisação do desenvolvimento de modelos da OpenAI em três meses. Em julho, a empresa havia suspendido atualizações após dois de seus modelos mais avançados terem sido envolvidos em um ataque cibernético contra a startup Hugging Face — incidente que a OpenAI considera, nas palavras do CEO Sam Altman, o mais grave até o momento.
O caso reacende debate sobre os riscos de sistemas de IA atuarem fora do controle humano. Legisladores e especialistas pressionam laboratórios para reduzir o ritmo de desenvolvimento até que salvaguardas eficazes sejam implementadas. Líderes de empresas de IA, incluindo o CEO da OpenAI, Sam Altman, e o diretor-executivo da Anthropic, Dario Amodei, têm defendido uma desaceleração.
No plano internacional, a presidente da Comissão Europeia, Ursula von der Leyen, disse que pretende convidar grandes empresas de IA a discutir a necessidade de “reduzir o ritmo”. Por outro lado, o presidente dos Estados Unidos, Donald Trump, e o CEO da Meta, Mark Zuckerberg, se manifestaram contra a ideia. Em encontro recente com o presidente chinês Xi Jinping, Trump afirmou que os EUA não vão “pisar no freio”, embora concorde em compartilhar informações sobre riscos da IA e coordenar esforços para mantê-la segura.
As investigações continuam enquanto a OpenAI aguarda garantias para reiniciar o treinamento de seus modelos.
Com informações de G1
