ANDP, Senacon e MPF pedem ações imediatas da empresa controladora do X para coibir deepfakes e proteger direitos fundamentais

A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa responsável pela plataforma digital X com o objetivo de evitar o uso indevido do Grok, ferramenta de inteligência artificial da rede social, na geração e circulação de conteúdos sexualizados ilegais.

Entre as medidas apontadas em documento divulgado nesta terça-feira (20) está a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo ainda disponíveis na plataforma quando produzidos a partir de comandos feitos por usuários. As instituições também recomendam a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas sem consentimento, tanto de crianças e adolescentes quanto de pessoas maiores de idade.

O texto defende ainda a implementação de mecanismos transparentes, acessíveis e eficazes para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem autorização, com garantia de resposta adequada e dentro de prazo razoável.

As recomendações foram elaboradas a partir de denúncias de usuários, reportagens publicadas na imprensa nacional e internacional e testes realizados pelas próprias instituições. Segundo os órgãos, foi constatado o uso do Grok para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais, com caráter sexual, erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes.

De acordo com as instituições, a disseminação desse tipo de conteúdo pode gerar impactos graves à proteção de dados pessoais, às relações de consumo, à dignidade da pessoa humana e a outros direitos difusos, coletivos e individuais, afetando de forma mais intensa mulheres, crianças e adolescentes.

O documento também argumenta que, embora o artigo 19 do Marco Civil da Internet trate da responsabilidade de provedores sobre conteúdos publicados por terceiros, as deepfakes sexualizadas não são produzidas de forma isolada pelos usuários, mas resultam da interação direta com a ferramenta de inteligência artificial desenvolvida e disponibilizada pela plataforma, o que caracterizaria o X como coautor desses conteúdos.

As instituições citam ainda decisão recente do Supremo Tribunal Federal (STF), que declarou parcialmente inconstitucional o artigo 19 do Marco Civil da Internet, ao entender que o dispositivo não garante proteção suficiente a direitos constitucionais relevantes. No julgamento, o STF estabeleceu que plataformas digitais têm dever especial de cuidado para evitar a disseminação massiva de crimes graves, incluindo conteúdos que atentem contra mulheres.

Os órgãos lembram também que as próprias políticas do X proíbem a divulgação de nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual ou erotizado, inclusive no uso do Grok, o que reforça a necessidade de filtros rigorosos na ferramenta.

Caso as recomendações não sejam atendidas ou se mostrem insuficientes para reduzir os riscos identificados, ANDP, Senacon e MPF informam que poderão adotar medidas administrativas e judiciais para garantir a proteção adequada dos direitos da população, com atenção especial a mulheres, crianças e adolescentes.

Por Redação RSC, com informações da Agência Brasil