Pesquisas e mercado tensionam debate sobre segurança e concorrência
Advertências de pesquisadores que deixaram companhias como Anthropic e OpenAI reacenderam preocupações sobre os perigos de sistemas avançados de inteligência artificial. John Park, especialista em IA e membro fundador da equipe técnica da AGI Inc., afirma que esses alertas devem ser levados a sério, mas também analisados pelos prismas econômico e regulatório.
Park cita a iniciativa da Anthropic em criar políticas internas para mitigar riscos catastróficos associados a modelos cada vez mais sofisticados. Segundo ele, a discussão sobre segurança não é meramente teórica nem pode ser reduzida a choques retóricos entre empresas de tecnologia.
Além das questões de risco, o especialista chama atenção para o efeito dessas mensagens junto a investidores e formuladores de políticas. Anthropic e OpenAI deram passos formais rumo a possíveis ofertas públicas de ações: a Anthropic pode começar a apresentar sua proposta a investidores em outubro, e o mercado chega a discutir avaliação de até US$ 2 trilhões.
Park ressalta que sua preocupação não é julgar a adequação dessas avaliações, mas observar como a descrição que empresas fazem de seus modelos pode influenciar o valor econômico que lhes é atribuído. Ele identifica três mensagens implícitas quando uma companhia destaca o caráter transformador e potencialmente perigoso de sua tecnologia: alta capacidade técnica, amplo impacto social e possibilidade de captura de grande valor econômico pela empresa.
O especialista deixa claro que não trata isso como uma estratégia automática para inflar avaliações, nem afirma que os riscos são fabricados. Uma tecnologia pode, simultaneamente, ser revolucionária e perigosa sem que seus desenvolvedores capturem lucros na mesma proporção.
Park propõe distinguir três questões diferentes: o grau de poder de uma tecnologia, o potencial de dano que ela apresenta e a parcela do valor econômico que a empresa detentora conseguirá capturar. Para ele, embora essas dimensões se relacionem, não são equivalentes.
O autor defende requisitos de segurança para sistemas de IA considerados de alto risco. Se modelos podem causar danos em escala significativa, argumenta, faz sentido exigir avaliações de segurança, transparência e mecanismos de controle verificáveis.
O problema surge quando normas acabam refletindo a estrutura e os recursos das maiores empresas. Exigências que dependam de equipes numerosas, processos complexos, auditorias caras ou níveis de computação acessíveis só às grandes companhias podem criar barreiras à entrada, ainda que essa não seja a intenção dos reguladores. Para Park, a regulação deveria ser proporcional ao risco, não ao tamanho da empresa.
Park cita a experiência da Califórnia: em 2024 o estado aprovou o SB 1047, que impunha requisitos de segurança para desenvolvedores de modelos avançados, mas o governador Gavin Newsom vetou o projeto alegando, entre outros pontos, que ele não considerava adequadamente usos e contextos dos sistemas. Um ano depois foi aprovado o SB 53, com uma estrutura distinta voltada a desenvolvedores de modelos de fronteira e com foco em transparência e práticas de segurança direcionadas principalmente às maiores empresas do setor.
O debate também incluiu a participação das próprias empresas na formulação das regras: a Anthropic apoiou uma versão modificada do SB 1047, enquanto a OpenAI defendeu uma abordagem federal. Park diz que isso não prova intenção deliberada de criar obstáculos a concorrentes, mas reforça a necessidade de avaliar a relação entre regulação e estrutura de mercado.
Essa questão tem especial relevância para países em desenvolvimento de capacidades em IA. Se padrões globais de segurança forem definidos sobretudo por grandes empresas americanas, companhias brasileiras podem enfrentar custos regulatórios e técnicos projetados para organizações com recursos muito superiores, o que poderia dificultar a emergência de novos competidores e aumentar a dependência de players estrangeiros.
Park considera legítimo que empresas como a Anthropic criem políticas internas — a companhia afirma que sua Responsible Scaling Policy busca lidar com riscos de modelos mais avançados e servir de referência para a indústria e políticas públicas. Ainda assim, o especialista defende que iniciativas privadas não substituam supervisão independente: ele pede avaliações verificáveis, critérios transparentes e mecanismos de fiscalização capazes de diferenciar riscos reais de alegações sobre riscos.
O autor alerta para o risco de que as maiores empresas acumulem simultaneamente as funções de desenvolvedoras, definidoras de padrões e principais beneficiárias econômicas das regras. Ele conclui que é possível levar a sério os alertas de segurança feitos por pesquisadores e empresas de IA sem aceitar automaticamente todas as consequências econômicas e regulatórias dessas narrativas. À medida que os modelos se tornam mais poderosos, a discussão passa a incluir quem terá condições de desenvolver, operar e competir com essas tecnologias; a pergunta não é apenas se a IA é perigosa demais para ser desenvolvida, mas também se é perigosa demais para que outros possam competir.
John Park escreveu o artigo a convite do site, e as opiniões expressas são de sua responsabilidade.
Com informações de Uberlandianofoco
