MPF critica ações de X contra deepfakes do Grok como inadequadas
Órgãos públicos denunciam a geração de imagens sexualizadas sem consentimento. Confira no Poder360.
MPF e ANPD Cobram Ações da Plataforma X Contra Conteúdos Sexualizados
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) consideraram inadequadas as ações da plataforma X para evitar que sua ferramenta de inteligência artificial, o Grok, seja utilizada na criação e disseminação não autorizada de imagens sexualizadas.
Recentemente, as três entidades emitiram recomendações à plataforma, solicitando a implementação de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários.
Resposta da Plataforma e Falhas Persistentes
Em resposta às recomendações, a plataforma X afirmou ter removido milhares de publicações e suspendido diversas contas por violação de suas políticas. No entanto, as instituições alegam que as informações fornecidas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovem a eficácia das ações. Testes preliminares indicam que as falhas ainda persistem, com a continuidade da geração de conteúdos inadequados.
As entidades exigem que a plataforma implemente, de forma imediata, medidas eficazes para impedir a produção de conteúdo sexualizado de crianças, adolescentes e adultos sem consentimento. Além disso, o MPF solicitou relatórios mensais sobre as ações da plataforma em relação a esse tema.
Medidas Administrativas e Consequências
As três instituições estão trabalhando de forma coordenada para investigar o uso indevido da ferramenta Grok. Cada uma possui um procedimento administrativo em aberto contra a plataforma, conforme suas competências. A ANPD exige que as medidas de proteção contra o uso indevido da IA sejam aplicadas a todas as versões do Grok.
O MPF, por sua vez, requer relatórios mensais detalhando as ações da plataforma para combater a produção de deepfakes envolvendo crianças e adultos sem autorização, incluindo dados sobre postagens removidas e contas suspensas. O não cumprimento dessas exigências pode resultar em multas diárias e ações judiciais contra a empresa.
A Senacon também solicitou a comprovação de ações já adotadas para mitigar os riscos identificados e um relatório detalhado sobre a moderação e remoção de conteúdos sexualizados relacionados ao Grok.
Fonte por: Poder 360
Autor(a):
Redação
Responsável pela produção, revisão e publicação de matérias jornalísticas no portal, com foco em qualidade editorial, veracidade das informações e atualizações em tempo real.
