O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) reiteraram nesta quarta-feira (11) a insuficiência das medidas apresentadas pela plataforma X para coibir o uso indevido de sua inteligência artificial, o Grok. A ferramenta tem sido utilizada para gerar e disseminar imagens sexualizadas de pessoas sem consentimento.
Em resposta a recomendações anteriores, o X informou ter removido milhares de publicações e suspendido centenas de contas. No entanto, as três entidades avaliaram que as informações não foram acompanhadas de evidências concretas ou mecanismos de monitoramento que comprovem a efetividade das ações. Testes preliminares indicam a persistência das falhas na geração e circulação de conteúdos inadequados.
Medidas Urgentes Exigidas
Os órgãos determinaram que o X implemente, de forma imediata, medidas eficazes para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem o devido consentimento.
A plataforma também foi obrigada a fornecer informações detalhadas sobre as providências já adotadas para solucionar os problemas identificados. O MPF, em particular, ordenou o envio de relatórios mensais sobre a atuação da empresa no combate à produção de deepfakes não autorizados, detalhando o número de postagens nocivas derrubadas e contas suspensas.
Sanções e Ações Legais
O não cumprimento das determinações pode acarretar multas diárias para a empresa. Além disso, os responsáveis podem responder por crime de desobediência, e o X pode enfrentar medidas investigatórias mais severas e ações judiciais.
A ANPD, em medida preventiva, exige que os recursos para impedir o uso indevido da IA abranjam todas as versões e modalidades do Grok. A Senacon, por sua vez, cobrou a comprovação das medidas já tomadas e um relatório métrico detalhado sobre a identificação, moderação e remoção de conteúdos sexualizados gerados pela ferramenta.
A reportagem buscou contato com a assessoria do X no Brasil para obter posicionamento sobre a nova manifestação conjunta dos órgãos públicos.
Com informações da Agência Brasil
