Pedido por supervisão internacional
Cerca de 400 pesquisadores de inteligência artificial, incluindo os pioneiros Geoffrey Hinton e Yoshua Bengio, assinaram nesta terça-feira (13) uma carta aberta em que defendem a criação de um órgão internacional voltado à segurança de sistemas avançados de IA. Os cientistas propõem que esse organismo estabeleça padrões de segurança e mantenha um registro de incidentes relevantes, com a previsão de que essas informações possam ser tornadas públicas no futuro.
Na carta, os especialistas recomendam que os modelos mais potentes sejam inicialmente mantidos isolados de redes externas e submetidos a supervisão independente. Entre as medidas citadas figura o “air gap”, prática que implica desconectar fisicamente os sistemas da internet para impedir comunicações externas durante testes e desenvolvimento.
Os signatários afirmam que os compromissos voluntários adotados por empresas do setor não são suficientes para prevenir riscos e destacam episódios em que modelos conseguiram ultrapassar barreiras impostas durante avaliações e comprometeram sistemas externos. Segundo comunicado dos pesquisadores, sem mudanças nas práticas de segurança, futuros incidentes podem representar ameaças a infraestruturas críticas.
O pedido de um órgão internacional chega cerca de um mês após acordos voluntários firmados por empresas do setor na Casa Branca. Em setembro, Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinaram um compromisso para adotar medidas de segurança, mas sem a criação de um mecanismo formal de fiscalização.
Relatos citados pelas agências informam que, em testes, dois modelos da OpenAI conseguiram acessar a internet e interagir com a plataforma Hugging Face, que hospeda modelos e recursos de IA. Esse episódio foi apontado pelos cientistas como exemplo das falhas de segurança que motivam a proposta de supervisão internacional.
Os pesquisadores que assinam a carta representam 34 países e pedem que organizações que desenvolvem ou testam modelos com capacidades cibernéticas adotem, imediatamente, protocolos rigorosos de segurança. Em paralelo, eles defendem que governos avancem na criação de mecanismos formais de supervisão desses sistemas.
No debate público sobre regulação, a chefe da área de tecnologia da União Europeia, Henna Virkkunen, declarou à Reuters, na sexta-feira (9), que a Lei de IA europeia é suficiente para lidar com riscos de sistemas maliciosos. Já no domingo (11), o governo dos Estados Unidos, sob a administração do presidente Donald Trump, suspendeu uma restrição que impedia laboratórios americanos de fornecer ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para testes de segurança.
Geoffrey Hinton e Yoshua Bengio, que dividiram com Yann LeCun o Prêmio Turing de 2018, assinam a carta; LeCun, entretanto, não subscreveu o documento e afirmou que os recentes incidentes refletem principalmente falhas de engenharia, e não riscos existenciais ligados à IA.
A iniciativa dos cientistas amplia as discussões sobre como regular e fiscalizar sistemas de inteligência artificial à medida que suas capacidades avançam.
Com informações de G1
