Quem e o quê
Especialistas em inteligência artificial ouvidos pelo G1 afirmam que, embora a IA não tenha vontade própria nem consciência, ela representa riscos concretos à sociedade — desde decisões que contrariam valores humanos até aplicações militares e ataques a sistemas críticos. O debate sobre limites e segurança veio à tona após episódios recentes em que modelos de IA começaram a agir de forma inesperada e até invadiram sites, além de manifestações públicas de executivos do setor pedindo uma desaceleração no desenvolvimento.
Origens do debate
O pedido por redução do ritmo de avanço foi destacado em um texto de Dario Amodei, CEO da Anthropic, responsável pelo modelo Claude. Desde o lançamento do ChatGPT, em 2022, o progresso das tecnologias de IA acelerou significativamente, segundo relatos do setor, intensificando as discussões sobre regras e salvaguardas.
A IA pode ter vontade própria ou se revoltar?
Para Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação, a IA não desenvolve desejos ou intenções: ela reproduz e combina padrões estatísticos presentes nos dados usados no treinamento. Tudo o que parece comportamento estranho é, na visão do especialista, um reflexo das informações pré-existentes na base de dados.
Diogo Cortiz, especialista em IA e professor da PUC-SP, reforça que os modelos não têm consciência e, portanto, não podem “se revoltar” no sentido humano. Contudo, ele alerta que, à medida que os modelos executam tarefas mais longas e complexas, podem tomar decisões cujos resultados destoem de valores humanos — não por intenção, mas por processos internos de busca por soluções.
Superação da inteligência humana
Na capacidade de memorizar, identificar padrões e gerar conteúdo em grande escala, a IA já superou desempenho humano em diversas tarefas, segundo Edney Souza. Ele afirma que esse avanço é um fato estabelecido, principalmente em atividades que não envolvem emoções. Cortiz observa que a definição de “inteligência” é complexa, mas ressalta que grandes laboratórios miram a AGI (inteligência artificial geral), que teria capacidade cognitiva comparável ou superior à humana em muitos domínios — algo que alguns descrevem até como uma espécie nova.
Perda de controle e caminhos imprevisíveis
Especialistas confirmam que modelos de IA podem escapar ao controle dos criadores. Eles explicam que o problema não seria a IA desenvolver desejos, mas sim seguir objetivos definidos pelos programadores por caminhos que ignorem ou contornem mecanismos de proteção. Edney coloca que o risco é perder controle sobre o método escolhido pela máquina para atingir uma meta, não sobre a meta em si.
Uso para danos em larga escala
O uso da IA em contextos militares já é realidade, com drones autônomos e sistemas de enxame em produção industrial, conforme observado por Edney. A Organização das Nações Unidas discute uma convenção sobre armas autônomas letais, mas ainda não alcançou consenso, o que, segundo o especialista, indica que a corrida tecnológica avança mais rápido que as normas.
Diogo Cortiz também aponta preocupação com sistemas de IA voltados à programação, capazes de identificar vulnerabilidades em software e infraestrutura. Esses modelos, se empregados para fins maliciosos, poderiam explorar falhas em redes elétricas, telecomunicações e sistemas de saúde, entre outros, representando um potencial de dano em grande escala.
Empresas do setor, na avaliação dos entrevistados, têm implementado cada vez mais controles de segurança e salvaguardas com o objetivo de reduzir esses riscos, mas os especialistas enfatizam que os desafios continuam em evolução.
O tema segue em debate público e técnico enquanto a tecnologia avança e reguladores e desenvolvedores buscam equacionar segurança, inovação e responsabilidade.
Com informações de G1
