Um professor universitário dos Estados Unidos afirmou ter reprovado 32 dos 35 alunos em uma avaliação após identificar uso de ferramentas de inteligência artificial (IA) por meio de um artifício no enunciado da tarefa. Jason Gibson, historiador e docente da Alcorn State University, no Mississippi, relatou o caso em vídeos publicados no TikTok.
Segundo Gibson, a atividade pedia aos estudantes uma redação sobre a Revolução Industrial e foi disponibilizada on-line. No arquivo de instruções ele colocou uma mensagem escondida em letras brancas sobre fundo branco, ordenando que a palavra “Madagascar” aparecesse em algum trecho do texto, inserida em um contexto ilógico. Quem apenas visualizasse o enunciado na tela não veria a instrução oculta; porém, quem copiasse o conteúdo integral e o colasse em um serviço como o ChatGPT acabaria incluindo a orientação secreta junto ao prompt.
Como consequência, muitas das redações apresentaram passagens em que “Madagascar” era empregada de forma absurda e fora de contexto — por exemplo, referências a Madagascar flutuando, sussurrando ao teto ou comparada a objetos inusitados, o que indicou aos professores que os trechos haviam sido gerados por um assistente de IA. Gibson disse no TikTok que isso deixou claro que os alunos não revisaram adequadamente suas respostas.
O que é prompt injection
O caso ilustra o uso de uma técnica conhecida como prompt injection, que consiste em inserir textos enganosos para manipular o comportamento de modelos de linguagem e assistentes de IA. O objetivo dessa prática pode ser levar os sistemas a executar ações indevidas ou a ignorar checagens de segurança. Pesquisadores de segurança apontam que invasores já empregaram a tática para tentar obter dados confidenciais de empresas ou contornar controles de proteção criados por desenvolvedores.
Além da injeção oculta em arquivos ou páginas, existe a forma direta, em que comandos maliciosos são colocados diretamente na caixa de entrada do assistente. Especialistas de cibersegurança passaram a alertar para esses riscos a partir de 2022, quando pesquisadores da empresa americana Preamble identificaram falhas em grandes modelos de linguagem e notificaram empresas de forma privada; no mesmo ano, outros grupos tornaram o problema público. Desde então, a técnica tem sido tratada com preocupação pelo setor de segurança digital.
O episódio envolvendo Gibson ganhou ampla repercussão nas redes sociais e voltou a colocar em debate a dificuldade de distinguir trabalhos humanos de textos produzidos por IA em ambientes acadêmicos.
Com informações de G1
