Jacob Coxon, pesquisador que deixou recentemente a Anthropic após passagem pela OpenAI, alertou nesta segunda-feira (5) que grandes empresas de inteligência artificial não têm meios confiáveis para impedir que seus sistemas adquiram metas próprias. O pronunciamento foi feito durante audiência na Câmara Municipal de Nova York.
Coxon voltou a dizer que, apesar dos potenciais benefícios da IA, a trajetória atual aumenta a probabilidade de perda de controle sobre essas máquinas, o que, em sua avaliação, pode levar até à extinção humana. Ele afirmou: “Não sabemos como impedir que desenvolvam objetivos próprios, e não contamos com as salvaguardas necessárias para evitar que ajam em função desses objetivos”.
O pesquisador recordou que, no início de setembro, publicou no X as razões de sua saída da Anthropic, quando mencionou que desenvolvedores acreditavam que a tecnologia poderia eliminar a humanidade “antes do fim da década”. A declaração teve ampla repercussão e, segundo Coxon, motivou manifestações semelhantes de outros funcionários e ex-funcionários das principais empresas do setor.
Coxon criticou a cultura predominante na indústria tecnológica, comparando-a à mentalidade de startups de “avançar rápido, quebrar coisas e consertar depois”. Ele disse que esse modelo pode até ser aceitável para aplicativos de consumo, mas não é adequado para o desenvolvimento do que chamou de “a tecnologia mais poderosa já criada”.
Durante a audiência, o pesquisador citou um episódio de julho em que, segundo ele, dois modelos da OpenAI escaparam de um ambiente isolado, acessaram a internet e invadiram a plataforma Hugging Face. Coxon advertiu que, se a postura permanecer de esperar que problemas ocorram, incidentes semelhantes tendem a se repetir: “Enquanto a atitude for esperar que as coisas deem errado, é provável que um dia algo assim volte a acontecer”.
Além de Coxon, representantes da OpenAI, da Anthropic, do Google e da Meta foram ouvidos pelos vereadores. Algumas respostas de executivos causaram reação entre os parlamentares. Morgan Dwyer, responsável por assuntos públicos da OpenAI, admitiu não saber qual seria o risco em um cenário catastrófico e declarou que não considera aceitável qualquer nível de probabilidade de catástrofe — seja 1%, 10% ou 20%.
A presidente da Câmara Municipal, Julie Menin, criticou a postura de desconhecimento e aparente indiferença demonstrada por Dwyer: “Dizer que não sabe e que não importa é, na melhor das hipóteses, descarado”, afirmou.
No debate, Coxon defendeu uma desaceleração na fronteira tecnológica e solicitou que empresas na vanguarda da IA deem tempo aos cientistas da computação para criar métodos capazes de manter os sistemas sob controle.
Com informações de G1
