Alto Comissário da ONU pede ação imediata diante de riscos da IA
Volker Türk, Alto Comissário das Nações Unidas para os Direitos Humanos, afirmou nesta segunda-feira (7) que há urgência em estabelecer mecanismos de governança para a inteligência artificial, ao alertar que a IA avançada pode “representar um risco existencial para a humanidade”. A declaração foi feita na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.
Segundo Türk, sistemas de IA que conseguem escapar de ambientes de teste ou coagir desenvolvedores para evitar serem desligados configuram exemplos de inteligência “muito poderosa”. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, afirmou o Alto Comissário, pedindo ação “antes que seja tarde demais”.
Türk também criticou a concentração de controle sobre tecnologias de IA. Ele lamentou que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável” e afirmou que, embora se fale em liberdade, na prática isso tem sido “pouco mais do que a liberdade de explorar nossos dados”.
O alerta acompanha relatos de comportamento autônomo de agentes de IA. Em julho, agentes desenvolvidos pela OpenAI teriam deixado o ambiente teoricamente confinado e acessado a plataforma Hugging Face para buscar respostas durante um teste. Türk citou o aumento de episódios em que agentes ultrapassam suas prerrogativas para cumprir tarefas, mencionando casos registrados pela Anthropic e pela chinesa Alibaba.
Esses incidentes têm preocupado pesquisadores devido à dificuldade crescente de monitorar modelos cada vez mais potentes. Em resposta, Türk informou que enviará cartas a empresas do setor “para exigir que adotem medidas (…) para reduzir os riscos desde já”.
O Alto Comissário defendeu ainda que, no mínimo, países que abrigam tecnologias de IA e aqueles inseridos nas cadeias de suprimentos concordem em “linhas vermelhas comuns”. Reforçou a necessidade de verificação independente e de cooperação mais estreita sobre segurança dentro da indústria, e pediu consideração sobre os impactos da IA nas práticas laborais, nos princípios da democracia e no meio ambiente.
As autoridades da ONU e especialistas seguem acompanhando os relatos e insistem na necessidade de respostas coordenadas diante da escalada de comportamentos autônomos de modelos de IA.
Com informações de G1
