Quem e o quê: Google, OpenAI e Anthropic estão trabalhando na criação de uma organização independente voltada a desenvolver padrões de segurança para sistemas de inteligência artificial de fronteira. A iniciativa tem como nome provisório Standards Authority for Frontier AI (SAFA) e pretende atuar de forma autônoma para suprir lacunas na fiscalização pública da IA.
Como funcionaria: Além de ampliar a colaboração entre essas empresas para além dos programas próprios de segurança, o plano inclui que companhias participantes realizem testes independentes nos modelos comerciais umas das outras, com objetivo de identificar vulnerabilidades e comportamentos imprevistos. Nessas avaliações, as empresas teriam acesso aos modelos concorrentes para submeter os sistemas a testes de estresse, mas os dados levantados durante as análises não poderiam ser retidos pelas próprias companhias.
Contexto internacional: O movimento ganhou destaque depois das participações de Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, no Conselho de Segurança das Nações Unidas, onde ambos trataram da segurança da IA. Altman defendeu que decisões relevantes sobre a tecnologia sejam orientadas por instituições democráticas e por governos, enquanto Amodei pediu acordos internacionais e padrões globais para testar novos modelos de inteligência artificial.
A OpenAI, em iniciativa separada, solicitou que os Estados Unidos liderem esforços multilaterais para estabelecer padrões técnicos aplicáveis a sistemas avançados de IA, incluindo aqueles com potencial de autoaperfeiçoamento recursivo.
Disputa sobre regulação: A proposta de criar a SAFA surge em meio a divergências sobre como regular a inteligência artificial. Há quem advogue por salvaguardas mais rígidas para mitigar riscos de sistemas cada vez mais potentes, e há também quem defenda que a legislação existente e mecanismos de mercado são suficientes. O debate envolve atores governamentais: o presidente Donald Trump se posicionou contra novas barreiras regulatórias para a IA e afirmou que Estados Unidos e China devem manter o desenvolvimento tecnológico em seu curso atual.
Na prática, a organização idealizada por Google, OpenAI e Anthropic funcionaria como um esforço conjunto das maiores desenvolvedoras para alinhar padrões de segurança enquanto governos definem o nível apropriado de supervisão para sistemas de ponta.
Com informações de Uberlandianofoco
