TRANSMISSÃO: Record
Denunciantes e ex-funcionários afirmaram à BBC que Meta (controladora do Facebook e Instagram) e TikTok permitiram aumento de conteúdo nocivo em suas plataformas enquanto disputavam atenção com algoritmos mais envolventes. Relatos reunidos para o documentário Inside the Rage Machine descrevem decisões internas que teriam colocado o crescimento e o engajamento à frente da proteção de usuários, incluindo crianças e adolescentes.
Segundo o conjunto de depoimentos, engenheiros e pesquisadores das empresas relataram pressão para aceitar conteúdos “limítrofes” — posts que não violam explicitamente regras, mas são prejudiciais, como misoginia, teorias da conspiração, discurso de ódio e sexualização de menores — porque geravam mais visualizações e, consequentemente, receita.
Na Meta, o pesquisador sênior Matt Motyl afirmou que o Instagram Reels, lançado em 2020 para competir com o TikTok, entrou no mercado sem proteções suficientes. Documentos internos mostrados à BBC apontam que comentários no Reels apresentavam 75% a mais de bullying e assédio, 19% a mais de discurso de ódio e 7% a mais de violência ou incitação à violência em comparação com outras áreas do Instagram. A empresa também teria contratado 700 pessoas para ampliar o Reels, enquanto pedidos das equipes de segurança para contratar dois especialistas em proteção infantil e mais de dez profissionais para integridade eleitoral foram negados, segundo um ex-executivo.
Motyl entregou à BBC dezenas de relatórios de pesquisa que, segundo ele, demonstravam que os algoritmos ofereciam um “caminho que maximiza os lucros às custas do bem-estar da audiência” e que os incentivos financeiros não estavam alinhados com a missão declarada da empresa. A Meta afirmou que a sugestão de ampliação deliberada de conteúdo nocivo para ganho financeiro é incorreta e ressaltou investimentos em segurança e ferramentas para adolescentes, como o recurso Teen Accounts.
No TikTok, um engenheiro identificado como Ruofan Ding, que trabalhou no sistema de recomendação entre 2020 e 2024, afirmou à BBC que o funcionamento interno dos algoritmos é de difícil controle e que os conteúdos são tratados, para muitos engenheiros, como meros identificadores (IDs). Outro membro da equipe de confiança e segurança, chamado de Nick, apresentou à BBC painéis internos com reclamações e mostrou que, em sua avaliação, havia priorização de casos envolvendo figuras políticas em detrimento de denúncias sobre danos a menores, incluindo relatos de chantagem sexual e cyberbullying. A empresa rejeita a afirmação de que conteúdo político teria prioridade e disse que as alegações deturpam o funcionamento de seus sistemas de moderação.
Testemunhos de jovens alcançados pelos algoritmos ilustram o impacto: um entrevistado identificado como Calum afirmou ter sido radicalizado a partir dos 14 anos e disse que as recomendações o deixavam cada vez mais indignado. Agentes de polícia antiterrorismo do Reino Unido relataram à BBC aumento e normalização de postagens antissemitas, racistas e violentas analisadas nos últimos meses.
Fontes ouvidas pela reportagem explicaram que, após o crescimento explosivo do TikTok, houve corrida entre plataformas para reproduzir recomendações altamente engajantes. Entre 2019 e 2023, equipes da Meta realizaram experimentos em larga escala com audiências de centenas de milhões, segundo relatos, muitas vezes sem que os usuários soubessem.
Denunciantes descreveram cortes e reorganizações nas equipes de moderação do TikTok, com substituição de funções por ferramentas de inteligência artificial, o que, segundo eles, reduziu a capacidade de resposta a conteúdo nocivo. A empresa afirma investir em tecnologia que impede a exibição de material prejudicial, manter regras de recomendação rígidas e oferecer configurações de segurança automáticas para contas de adolescentes.
Representantes das empresas citadas declararam, em resposta, que contestam as alegações: o TikTok chamou relatos de “alegações fabricadas” e disse que aplica rigor em suas políticas e tecnologias; a Meta afirmou ter políticas rigorosas e investimentos significativos em segurança ao longo da última década.
O material divulgado pela BBC e os depoimentos dos ex-funcionários oferecem uma visão interna sobre como decisões de produto e prioridades de negócio teriam influenciado a moderação e a promoção de conteúdo em duas das maiores plataformas digitais do mundo.
Com informações de G1
