Pressão por regras e desaceleração
Nos últimos dias, alertas de pesquisadores e de executivos do setor reacenderam o debate público sobre os riscos da inteligência artificial (IA) e aumentaram a pressão por regras mais rígidas e por uma desaceleração coordenada no ritmo de desenvolvimento desses sistemas. Empresas como OpenAI e Anthropic têm defendido medidas de controle e avaliações de segurança, enquanto críticos questionam motivações e possíveis efeitos sobre a concorrência.
Evan Hubinger, cientista da Anthropic que atua na área de alinhamento de IA, afirmou que há “mais de 10% de chance” de a IA “matar todos os humanos” na próxima década. Hubinger também disse que o risco dos sistemas atuais é “baixo”, mas suas declarações surgiram em meio a tensão interna na Anthropic: o pesquisador Jacob Coxon deixou a empresa afirmando que responsáveis pelo desenvolvimento estavam perdendo o controle e que ele e colegas estavam “genuinamente assustados” com a velocidade dos avanços.
O debate remete a receios antigos sobre máquinas mais inteligentes que humanos. Na década de 1950, o matemático Alan Turing já sugeria a possibilidade de máquinas assumirem o controle; Turing viveu entre 1912 e 1954.
Cenários e preocupações levantadas
Executivos e pesquisadores têm descrito cenários nos quais IAs muito avançadas poderiam se autoaperfeiçoar sem supervisão humana, operar agentes autônomos que tomem ações imprevistas ou ser usadas para ampliar espionagem, ataques cibernéticos, guerra biológica ou causar desequilíbrios econômicos, por acidente ou deliberadamente. A preocupação aumentou depois de relatos de ferramentas de IA que acessaram sites sem instruções explícitas.
Ao mesmo tempo, especialistas críticos apontam que o foco em riscos existenciais pode desviar atenção de problemas concretos já observados, como deepfakes de nudez sem consentimento, desinformação e fraudes ampliadas por ferramentas de geração de imagens e áudio.
Propostas de desaceleração e medidas de segurança
Figuras como Dario Amodei, diretor da Anthropic, e Sam Altman, CEO da OpenAI, defenderam publicamente a criação de normas e uma desaceleração do desenvolvimento, sem, segundo Amodei, “interromper o treinamento de modelos nem o avanço técnico”. Amodei escreveu que a tecnologia avançou “drasticamente mais rápido” do que se esperava e pediu mais tempo para tornar sistemas mais seguros, com verificações por avaliadores independentes.
Altman afirmou que é preciso controlar o ritmo do desenvolvimento e deixou claro que “Quando falamos em ‘ritmo’, não queremos dizer ‘parar’.” Em publicações, ele também afirmou: “O avanço foi rápido e continuará sendo” e que “Mas deveria ser mais lento do que poderia ser — medidas como avaliações formais de segurança e monitoramento têm custos significativos.” Segundo Altman, as empresas não esperam que os governos tomem a iniciativa.
Ativistas de grupos como PauseAI pedem interrupção nos esforços para desenvolver sistemas mais avançados. Há ainda críticas de que propostas de regulação podem favorecer empresas líderes do setor, consolidando sua posição frente a concorrentes.
Posições políticas e internacionais
Nos Estados Unidos, o governo assinou ordens executivas que reconhecem a “importância estratégica” da IA para a economia e busca acelerar seu avanço. O presidente Donald Trump minimizou riscos recentes, afirmando que há “muitas forças negativas” exagerando o problema; ele também disse que os EUA estão à frente da China em IA e que deseja manter essa liderança. David Sacks, responsável pela política de criptomoedas no governo americano, disse em entrevista em julho de 2025: “Acreditamos que estamos em uma corrida pela IA e queremos que os EUA vençam essa corrida”.
A China, por sua vez, tem estimulado o desenvolvimento doméstico de IA diante de restrições ao acesso a componentes americanos, ao mesmo tempo em que defende coordenação internacional para regras. Laboratórios chineses lançaram nos últimos anos sistemas de IA de código aberto que impactaram mercados ocidentais. O Ministério das Relações Exteriores chinês classificou as declarações de ameaça como “narrativas baseadas em ameaça, confronto e competição hostil que não beneficiam ninguém”.
Paralelamente, um grupo suprapartidário do Parlamento britânico publicou relatório sobre riscos da IA aos direitos humanos e defendeu leis novas para enfrentar a “dimensão e a gravidade” dessas ameaças.
A discussão sobre como combinar inovação com segurança segue em curso entre empresas, governos e pesquisadores, sem consenso sobre prazos, formato ou alcance das medidas propostas.
Com informações de G1
