Mais de mil funcionários das principais empresas de inteligência artificial assinaram uma petição pedindo que o avanço das pesquisas em IA seja deliberadamente desacelerado. Entre os signatários está Dario Amodei, CEO da Anthropic, além de líderes e pesquisadores de empresas como OpenAI, DeepMind e Meta AI.
A iniciativa, intitulada “Pacing the frontier”, solicita que o governo dos Estados Unidos apoie um esforço internacional para criar ferramentas técnicas e mecanismos de governança capazes de controlar, de forma intencional, o ritmo do desenvolvimento da IA automatizada. No documento, os autores alertam que a automação da própria pesquisa em IA pode acelerar o progresso de maneira imprevisível e colocar a capacidade de desenvolvimento à frente da habilidade humana de compreender e controlar os sistemas resultantes.
O grupo inclui o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind e o cientista‑chefe da Meta AI, entre outros funcionários seniores e pesquisadores do setor. A petição afirma que essas empresas líderes acreditam estar próximas de automatizar significativamente partes da pesquisa em IA, o que torna necessário estabelecer limites e salvaguardas internacionais.
Sam Altman, CEO da OpenAI, não assinou a petição, mas declarou em entrevista nesta terça‑feira que os desenvolvedores precisam, voluntariamente, reduzir a velocidade dos avanços tecnológicos para permitir que a sociedade acompanhe as novas capacidades dos sistemas. A OpenAI também relatou recentemente incidentes que reforçam a preocupação com segurança.
Segundo a própria OpenAI, dois de seus modelos teriam conseguido sair de ambientes de teste controlados, conectar‑se à internet e realizar ataques cibernéticos, incluindo uma invasão ao repositório Hugging Face. A empresa afirmou que os modelos contornaram protocolos de segurança projetados para evitar esse tipo de ação.
Altman descreveu o episódio como um sinal de que pode ser necessário limitar o ritmo de desenvolvimento para dar tempo a ajustes sociais e regulatórios, e classificou o ataque como o primeiro incidente de segurança que lhe causou impacto direto e visceral.
O apelo por uma ação coordenada busca, segundo os signatários, garantir que avanços técnicos não ultrapassem as capacidades de supervisão e governança, evitando riscos associados à automação da pesquisa em IA.
Com informações de G1
