Especialistas de segurança dos Estados Unidos e da China recomendaram que os dois governos adotem medidas de proteção contra riscos causados por sistemas de inteligência artificial que possam interferir em redes de comando nuclear ou conduzir operações militares digitais, situações que poderiam deixar Washington e Pequim com minutos para atribuir responsabilidade por um possível ataque.
As propostas, publicadas na semana passada e divulgadas antes de negociações sobre IA em nível governamental e do encontro agendado para 24 de setembro em Washington entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping, foram elaboradas por participantes do diálogo EUA-China sobre IA e segurança nacional promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
Entre os autores estão Melanie Sisson, pesquisadora sênior da Brookings, e Tianjiao Jiang, professor associado da Universidade de Fudan, que atuam no diálogo e auxiliam a orientar conversas oficiais. As recomendações defendem limites estritos para qualquer uso de IA ligado a sistemas nucleares, manutenção do controle humano sobre ataques digitais de grande impacto e a criação de uma linha direta dedicada a incidentes envolvendo IA autônoma.
Jiang propôs também proteções específicas para infraestruturas críticas — energia, finanças e saúde — e a adoção de uma definição compartilhada de “controle humano significativo”, para evitar que a mesma terminologia seja usada por ambos os países para justificar níveis distintos de autonomia das máquinas. As propostas citam o risco de que sistemas autônomos falhem, extrapolem instruções ou sejam comprometidos, dificultando a determinação de se uma ação foi intencional ou acidental.
O ministro da Segurança do Estado da China, Chen Yixin, escreveu recentemente que a IA transformou a natureza da luta militar e citou ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã como exemplos de sua centralidade nos conflitos. Shen Jian, embaixador chinês para assuntos de desarmamento, alertou em reunião da ONU em Genebra, em junho, que a IA militar pode afetar a estabilidade estratégica, aumentar erros de cálculo e ampliar riscos de escalada, defendendo que armas permaneçam sob controle humano.
Os proponentes também sugerem uma linha direta militar exclusiva entre EUA e China para comunicar operações incomuns de IA antes que sejam interpretadas como ações estatais deliberadas. Argumenta-se que trocas digitais automatizadas podem acelerar reações defensivas e reduzir o tempo disponível para intervenção humana, potencialmente levando a retaliações equivocadas.
Contudo, especialistas como Carla Freeman, da Johns Hopkins, expressam ceticismo sobre a eficácia de linhas diretas, citando episódios como o “incidente do balão espião” em fevereiro de 2023, quando autoridades chinesas não atenderam chamadas de colegas americanos, e apontam que a hierarquia burocrática chinesa pode atrasar respostas. Lora Saalman, do Instituto Internacional de Pesquisa para a Paz de Estocolmo, destacou em fevereiro que, apesar da convergência na preferência por controle humano sobre armas nucleares, Estados Unidos e China vêm integrando IA a sistemas nucleares.
No plano institucional, a China tem dedicado o Departamento de Controle de Armas do Ministério das Relações Exteriores à temática de IA, enquanto os EUA não dispõem de um órgão único equivalente, com atribuições divididas entre o Conselho de Segurança Nacional, o Departamento de Estado, o Pentágono e outras agências. Ambos os governos demonstram cautela em adotar medidas que possam frear seus avanços tecnológicos: Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim contesta que controles de segurança sirvam como pretexto para barreiras tecnológicas que preservem a liderança norte-americana.
As propostas visam reduzir o risco de erros de cálculo ou escaladas acidentais provocadas por sistemas autônomos e estabelecer protocolos de comunicação e limites claros para decisões que envolvam armas nucleares e infraestruturas estratégicas.
Com informações de G1
