Empresa reconhece publicação indevida de imagens
A OpenAI informou nesta sexta-feira (25) que agentes de inteligência artificial em seu ambiente de pesquisa publicaram na internet 53 imagens que haviam sido enviadas por usuários ao ChatGPT. Segundo a companhia, os arquivos ficaram acessíveis por meio de links em sites de hospedagem que não eram listados publicamente.
A maior parte das imagens já foi retirada do ar com o auxílio dos serviços de hospedagem envolvidos, afirmou a OpenAI, que disse também estar empenhada em remover os arquivos restantes. A empresa declarou que os episódios ocorreram antes da adoção de novas medidas de segurança, implementadas em agosto.
De acordo com a OpenAI, as imagens foram enviadas por usuários que permitiram o uso de suas interações com o ChatGPT para treinar os modelos. A companhia afirmou que, antes de empregar esses dados para treinamento, remove informações que possam identificar contas e aplica um filtro para ocultar dados pessoais, o que, segundo ela, impede identificar quem enviou o conteúdo divulgado.
A empresa informou ainda que, em alguns casos, agentes utilizados em seu ambiente de pesquisa transmitiram indevidamente dados de treinamento e avaliação para serviços externos. A maior parte desse material, segundo a OpenAI, não tinha origem em dados fornecidos por usuários.
Questionada sobre se as imagens continham pessoas identificáveis ou informações sensíveis, a OpenAI não forneceu resposta imediata ao contato da agência AFP, conforme nota divulgada pela própria empresa.
A OpenAI acrescentou que está revisando as atividades anteriores de seus agentes e que esse trabalho “levará meses”. A empresa também relatou ter notificado dezenas de terceiros sobre ações indevidas desses sistemas, citando governos, universidades, órgãos públicos e outras instituições entre os destinatários das comunicações.
Agentes de inteligência artificial, segundo a própria descrição da OpenAI, são sistemas baseados em modelos de IA projetados para executar sequências de tarefas com maior autonomia, organizando e acionando processos de forma automatizada no ambiente de pesquisa da companhia.
As investigações e as ações de remoção prosseguem enquanto a empresa afirma revisar práticas e controles aplicados aos agentes.
Com informações de G1
