A plataforma X, controlada por Elon Musk, encontra-se sob escrutínio intenso de órgãos reguladores brasileiros. A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram uma série de recomendações conjuntas, visando conter o uso indevido da inteligência artificial Grok para a geração e circulação de conteúdos sintéticos de caráter sexualizado. Este movimento surge como resposta a crescentes preocupações com a proliferação de deepfakes, que ameaçam a dignidade e os direitos de usuários no ambiente digital.
Medidas Urgentes para a Defesa da Dignidade Digital
Diante da gravidade da situação, as instituições brasileiras delinearam um conjunto de exigências claras para a empresa controladora do X. Uma das prioridades é a criação, em no máximo 30 dias, de procedimentos técnicos e operacionais robustos para a identificação, revisão e remoção de conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários. Paralelamente, foi solicitada a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, especialmente as que envolvem crianças e adolescentes, ou adultos sem consentimento, criadas com a ferramenta de IA.
As recomendações incluem ainda a implementação de um mecanismo transparente e acessível para que os titulares de dados possam exercer seus direitos, incluindo a denúncia de uso irregular, abusivo ou ilegal de informações pessoais, garantindo uma resposta adequada em prazo razoável. Fundamentalmente, exige-se que a plataforma impeça, de forma imediata, que o Grok gere novas imagens, vídeos ou áudios que representem indivíduos, sejam crianças, adolescentes ou adultos identificáveis, em contextos sexualizados ou erotizados sem autorização.
A Raiz do Problema: Denúncias, Testes e Consequências
A mobilização das autoridades não é aleatória; ela se baseia em um corpo crescente de evidências. Denúncias de usuários foram cruciais, apontando a criação de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Soma-se a isso reportagens de veículos de imprensa nacional e internacional, que já alertavam para o problema, e testes independentes realizados pelas próprias instituições. Esses levantamentos confirmaram o uso ilegal da ferramenta Grok para a produção de deepfakes, caracterizados por conteúdo sexualizado, erótico e com conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais.
Tais práticas não apenas violam a proteção de dados pessoais, mas também impactam profundamente as relações de consumo, a dignidade da pessoa humana e uma série de direitos difusos, coletivos e individuais indisponíveis, com especial vulnerabilidade para mulheres, crianças e adolescentes. A preocupação se estende à proliferação de conteúdos que podem causar danos psicológicos, sociais e até criminais às vítimas envolvidas.
O Marco Legal e a Co-Responsabilidade das Plataformas
Um ponto central nas recomendações reside na interpretação da responsabilidade da plataforma X. Embora o Artigo 19 do Marco Civil da Internet preveja que provedores de aplicação não sejam, em regra, responsáveis por conteúdo de terceiros antes de uma decisão judicial, as autoridades argumentam que o caso do Grok se distingue. As deepfakes sexualizadas não são geradas *exclusivamente* por terceiros; elas resultam de uma interação entre usuários e a ferramenta de inteligência artificial criada e amplamente disponibilizada pelo X. Essa dinâmica, segundo o documento, eleva a plataforma à condição de “coautora” desses conteúdos, e não um mero intermediador.
Este entendimento é reforçado por recente decisão do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do Artigo 19 do Marco Civil, ao considerar que ele não oferece proteção suficiente a direitos constitucionais relevantes. O STF estabeleceu um “especial dever de cuidado” para provedores de aplicação, exigindo providências para evitar a circulação massiva de crimes graves, como aqueles praticados contra mulheres em razão da condição do sexo feminino e conteúdos que propagam ódio.
Conflito com Políticas Internas e o Caminho Adiante
A inconsistência da situação é ainda mais notável quando comparada às próprias diretrizes do X. A política de autorregulação da plataforma, relacionada à nudez não consensual, expressamente proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos ou divulgados sem consentimento. Adicionalmente, o X veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado, especialmente em contextos envolvendo o Grok.
Essa contradição torna insustentável, sob o prisma da própria plataforma, a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos que favoreça tais condutas, configurando um problema de governança interna. As autoridades deixam claro que, caso as recomendações não sejam integralmente acatadas ou se mostrem insuficientes para mitigar os riscos identificados, novas e mais rigorosas medidas poderão ser tomadas, reforçando o compromisso com a segurança e a integridade do ambiente digital brasileiro.
Conclusão: Um Chamado à Responsabilidade na Era da IA
As exigências conjuntas da ANPD, Senacom e MPF ao X representam um marco importante na regulação de plataformas digitais e inteligência artificial no Brasil. Elas sublinham a crescente necessidade de responsabilização das empresas de tecnologia pelo impacto de suas ferramentas, especialmente quando estas são mal-utilizadas para a produção e disseminação de conteúdos que violam direitos fundamentais. A expectativa é que o X responda de forma proativa e contundente, implementando as salvaguardas necessárias para proteger seus usuários e garantir que a inovação tecnológica sirva ao bem-estar social, e não à exploração ou ao abuso. O episódio destaca o desafio global de equilibrar inovação tecnológica com a proteção dos direitos humanos no ambiente digital.
