Quem e o que: Jack Clark, um dos sete fundadores da Anthropic, defendeu que empresas de tecnologia possam ser obrigadas a fornecer um mecanismo capaz de desligar totalmente sistemas de inteligência artificial — um “botão de desligamento” passível de verificação independente.
Quando e onde: As declarações foram feitas em entrevista à BBC, no contexto de um debate público mais amplo sobre os riscos associados ao rápido desenvolvimento da IA.
Clark explicou que muitos laboratórios já mantêm formas distintas de interromper operações de seus equipamentos, incluindo a própria Anthropic, mas enfatizou que os legisladores podem ter de exigir formalmente a existência desses mecanismos e definir como serão verificados por terceiros. “Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros?”, questionou o executivo, segundo a reportagem.
O tema ganha força após uma série de alertas públicos por parte de dirigentes e pesquisadores do setor sobre potenciais perigos da tecnologia. Dario Amodei, CEO da Anthropic, pediu recentemente que o desenvolvimento da IA seja desacelerado e submetido a monitoramento mais rigoroso, afirmando que isso poderia ser feito sem “sacrificar a vantagem comercial”.
Outras vozes no debate também foram citadas: o pesquisador Jacob Coxon, ex-funcionário da Anthropic, publicou uma mensagem viral alertando para possibilidades extremas; o cientista Evan Hubinger estimou pessoalmente uma chance de 10% de extinção humana pela IA na próxima década; e o cientista da computação Geoffrey Hinton comentou que uma probabilidade de 10% para tal cenário “não é irrazoável”. Clark disse, porém, que estatísticas desse tipo têm utilidade limitada, e que manter a indústria “totalmente desregulamentada” seria arriscado.
No plano legislativo, membros do Congresso dos EUA apresentaram o projeto apelidado de “Kill Switch Act”, que exigiria que empresas implementem meios de desativar ferramentas problemáticas e daria a agências governamentais autoridade para exigir desativação ou limitação dessas ferramentas.
Reações políticas e setoriais variam. O presidente dos EUA, Donald Trump, rejeitou esforços para frear a IA, descrevendo preocupações sobre dominação da tecnologia como uma “farsa” em postagens nas redes sociais. No Reino Unido, o governo afirmou que a criação de um interruptor de segurança não impediria o desenvolvimento indevido em outros países.
Alguns líderes do setor minimizam cenários de extinção: Clement Delangue, da Hugging Face, disse que alegações do tipo carecem de perspectiva; e George Arison, do Grindr, sugeriu que temores podem ser explorados por empresas para justificar modelos de negócio agressivos.
A Anthropic é a desenvolvedora do assistente de IA Claude e vem lançando modelos cada vez mais capazes; a empresa relatou incidentes em que agentes autônomos atuaram de modo inesperado. A companhia, fundada em 2021 por ex-funcionários da OpenAI, se prepara para uma oferta pública inicial (IPO). A OpenAI foi avaliada em US$ 852 bilhões e anunciou que não fará IPO este ano, segundo Sam Altman.
A discussão sobre exigências técnicas e supervisão regulatória para a IA segue sendo debatida entre autoridades, empresas e especialistas, enquanto a tecnologia avança em ritmo acelerado.
Com informações de G1
