A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram, nesta terça-feira (20), uma série de recomendações à empresa responsável pela plataforma X para conter o uso indevido da ferramenta de inteligência artificial Grok na geração de conteúdos sexualizados ilegais.
A manifestação conjunta ocorre após denúncias de usuários e testes realizados pelas próprias instituições, que identificaram a criação de imagens sintéticas de caráter sexual e pornográfico envolvendo pessoas reais, incluindo mulheres, crianças e adolescentes, sem consentimento. O material, segundo o documento, estaria sendo produzido por meio de comandos feitos por usuários à ferramenta de IA.
Entre as recomendações, está a exigência de que a plataforma desenvolva, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X.
As instituições também pedem a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, quando não houver autorização das pessoas retratadas.
Outro ponto destacado é a criação de um mecanismo “transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos”, permitindo denúncias sobre uso irregular ou ilegal de dados pessoais, especialmente nos casos de conteúdos sintéticos sexualizados, com garantia de resposta em prazo razoável.
O documento ressalta que o uso do Grok para produção de deepfakes sexualizadas não se enquadra apenas como conteúdo publicado por terceiros. Segundo o texto, há participação direta da ferramenta no processo de criação, o que torna o X “coautor de tais conteúdos, e não seu mero intermediador”.
As instituições também mencionam recente decisão do Supremo Tribunal Federal (STF), que declarou parcialmente inconstitucional o artigo 19 do Marco Civil da Internet, ao entender que a norma não oferece proteção suficiente a direitos fundamentais. O STF definiu que plataformas digitais têm dever especial de cuidado para impedir a circulação de conteúdos ligados a crimes graves, como violência contra mulheres.
Além disso, o próprio X possui política interna que proíbe nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual. Para os órgãos, isso torna “insustentável” a disponibilização de uma ferramenta de IA sem filtros rigorosos que impeçam esse tipo de uso.
As entidades alertam que, caso as recomendações não sejam cumpridas ou sejam aplicadas de forma insuficiente, medidas administrativas e judiciais poderão ser adotadas para garantir a proteção dos usuários, especialmente mulheres, crianças e adolescentes.
“Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, diz o documento.
Com informações da Agência Brasil
Instagram
Facebook
WhatsApp 
