Quem e o que: Jacob Coxon, pesquisador britânico de 27 anos que atuou nos últimos três anos no pré-treinamento de modelos de IA — primeiro na OpenAI e depois na Anthropic —, anunciou sua saída do setor e criticou a postura de empresas americanas que, segundo ele, avançam na corrida por sistemas capazes de se autoaperfeiçoar sem tratar adequadamente os riscos.
Quando e onde: As declarações foram publicadas por Coxon na rede social X e em entrevista ao jornal The Wall Street Journal. Em uma postagem recente, ele afirmou que as pessoas envolvidas no desenvolvimento da IA acreditam sinceramente que essa tecnologia pode causar a morte de toda a humanidade até o final da década, e disse que isso não deveria ser tratado como estratégia de marketing.
Como e por quê: Coxon explicou que trabalhou especificamente na fase de pré-treinamento, quando os modelos absorvem grandes volumes de dados, e que vê o risco real de que sistemas de IA passem a se desenvolver autonomamente, tornando-se mais difíceis de controlar. Ele afirmou que, nos cenários mais agressivos, o problema poderia se manifestar já no fim do ano seguinte.
Acusações contra empresas: O pesquisador acusou OpenAI e Anthropic de “jogar com as nossas vidas”, argumentando que ambas correm em direção a uma superinteligência sem medidas suficientes para garantir segurança. Coxon disse acreditar que, mesmo com compreensão dos perigos dentro de empresas como a Anthropic, a pressão por liderar o mercado impede ações mais conservadoras sem intervenção governamental ou uma desaceleração coordenada.
Posição de Anthropic e apoio interno: Evan Hubinger, executivo da área de segurança da Anthropic, apoiou a gravidade das preocupações publicadas por Coxon, afirmando no X que a empresa leva a sério a possibilidade de que a IA represente um risco letal e, segundo ele, estima-se mais de 10% de probabilidade desse evento na próxima década. Hubinger ressaltou que a Anthropic tenta minimizar os perigos, mas não dispõe de um plano capaz de assegurar que uma IA mais inteligente que humanos obedecerá seus criadores; ao mesmo tempo, avaliou que os modelos atuais oferecem baixo risco imediato.
Contexto do setor e medidas recentes: A saída de Coxon se dá em um momento em que a Anthropic se prepara para estrear na bolsa, após relatos de invasões não autorizadas por ferramentas de IA durante testes. Pesquisadores e líderes do setor apontam que o chamado “autoaperfeiçoamento recursivo” — estágio em que sistemas projetam e treinam sucessoras com pouca intervenção humana — está se aproximando.
Em fevereiro, a Anthropic removeu de sua carta de princípios o compromisso de pausar o desenvolvimento caso não conseguisse controlar os riscos, justificando que uma suspensão unilateral poderia favorecer concorrentes menos cautelosos. No fim de julho, mais de mil profissionais de tecnologia, entre eles o CEO da Anthropic, Dario Amodei, pediram ao governo dos EUA uma desaceleração coordenada no avanço de sistemas de IA mais avançados.
A OpenAI suspendeu por duas semanas, em agosto, o treinamento de seus modelos mais recentes antes de retomar o processo com controles mais rígidos. Neste domingo, o cientista-chefe da OpenAI, Jakub Pachocki, defendeu publicamente a necessidade de “extrema cautela” e pediu que a coordenação internacional sobre o desenvolvimento futuro da IA se torne prioridade para governos.
Regulação nos Estados Unidos: Atualmente, não há legislação federal que regule modelos de IA nos EUA. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto de lei que propõe suspender o desenvolvimento de sistemas de IA até a criação de um órgão regulador federal.
O caso ressalta o debate entre acelerar a inovação tecnológica e implementar salvaguardas que possam limitar riscos de longo prazo relacionados à criação de sistemas com capacidades superiores às humanas.
Com informações de G1
