CEO da OpenAI defende confiança no setor apesar dos riscos
Sam Altman, diretor-executivo da OpenAI, disse em 15 de setembro, durante a conferência anual promovida pela Salesforce em San Francisco, que embora haja motivos legítimos para receio em relação à inteligência artificial, a população deveria confiar que empresas como a sua vão tomar decisões responsáveis ao desenvolver a tecnologia. Altman reconheceu a rapidez dos avanços e afirmou que o mundo tem razão em temer possíveis consequências negativas.
A declaração de Altman veio poucos dias após a divulgação de dois textos de pesquisadores da Anthropic que ganharam ampla repercussão. Um dos autores, Jacob Coxon, deixou a Anthropic; outro, Evan Hubinger, alertou que, na ausência de controles, a IA poderia provocar danos extremos até o fim da década — avaliação que dividiu opiniões dentro e fora do setor.
Em reação às publicações, Dario Amodei, presidente-executivo da Anthropic, pediu redução do ritmo de desenvolvimento da tecnologia e solicitou regulamentação governamental. Amodei recebeu o apoio público de outras lideranças do setor, incluindo Demis Hassabis, cofundador da DeepMind, e Elon Musk, empreendedor responsável por iniciativas como a rede social X e o assistente Grok.
Altman afirmou confiar na capacidade das empresas de se autorregularem, dizendo que o setor priorizará o alinhamento com valores humanos e a segurança em relação às capacidades técnicas e que, se necessário, vai desacelerar ou interromper lançamentos. Apesar desse posicionamento, figuras políticas de diferentes espectros têm questionado a eficácia da autorregulação.
Em Washington D.C., o senador Bernie Sanders criticou a concentração de decisões nas mãos de bilionários da tecnologia, citando nomes como Elon Musk, Mark Zuckerberg e Jeff Bezos, e defendeu que a sociedade participe das escolhas sobre IA. Steve Bannon, ex-assessor de Donald Trump, também expressou desconfiança em relação à autorregulação por parte de executivos do setor.
Outros líderes do mercado reagiram às declarações: Mark Zuckerberg afirmou que laboratórios de IA têm incentivos para priorizar a segurança e que quem não fizer isso ficará para trás; Jensen Huang, CEO da Nvidia, disse que decisões sobre lançamentos devem caber às empresas e que não seriam necessárias novas leis, ressaltando que segurança é questão de engenharia e que pausas são aceitáveis caso o controle seja perdido. A Nvidia, destacou-se, ampliou lucros devido à alta demanda por seus chips de IA.
Alguns profissionais do setor consideram a nova onda de temor exagerada e motivada por interesse em atenção pública. Ainda assim, vozes críticas pedem cautela: Jack Clark, cofundador da Anthropic, alertou que abandonar a regulamentação seria apostar diante de riscos enormes; Patrick Hillman, diretor de operações da Logical Intelligence, afirmou haver pouca confiança pública de que empresas tecnológicas atuem exclusivamente em benefício coletivo e incentivou transparência sobre o que as empresas estariam dispostas a deixar de desenvolver.
Segundo participantes do debate, OpenAI e Anthropic iniciaram conversas com outros laboratórios sobre compromissos de segurança e mecanismos de verificação para sistemas de IA. Dario Amodei disse que a Anthropic está em diálogo com a indústria para acordos mais rígidos, enquanto Chris Lehane, executivo da OpenAI, informou que a empresa trabalha com outros laboratórios, como Anthropic e Google DeepMind, em iniciativas voluntárias para promover padrões para sistemas de ponta, mesmo sem apoio governamental.
No evento, Altman também encorajou empresários a usar ferramentas de IA para aumentar produtividade e destacou que tecnologias do tipo serão úteis para proteger empresas contra ataques cibernéticos potencialmente facilitados por IA. Representantes do setor dizem estar discutindo padrões e verificações conjuntas, enquanto o debate público sobre quem deve supervisionar o desenvolvimento da tecnologia segue em evidência.
O setor permanece dividido entre a defesa da autorregulação e a pressão por mecanismos externos de controle, com empresas, pesquisadores e políticos apresentando posições variadas sobre como equilibrar inovação e segurança.
Com informações de G1
