Comissão Europeia investiga X por imagens sexualizadas do Grok

Comissão Europeia Investiga Rede Social X por Conteúdo Ilegal

A Comissão Europeia anunciou a abertura de uma investigação contra a rede social X, devido à criação de imagens sexualizadas e sem consentimento geradas pela inteligência artificial Grok. A investigação avaliará se a empresa, de propriedade de Elon Musk, está cumprindo suas obrigações sob as leis digitais da União Europeia.

O comunicado de Bruxelas informa que a avaliação incluirá a análise de como o X lidou com os riscos associados à implementação do Grok, especialmente em relação à possível distribuição de conteúdo ilegal, como imagens manipuladas sexualmente que podem ser consideradas material de abuso sexual infantil.

Riscos e Obrigações Legais

A Comissão Europeia destacou que os riscos mencionados parecem ter se concretizado. Assim, será investigado se o X está cumprindo suas obrigações sob a Lei de Serviços Digitais, que exige a avaliação e mitigação de riscos sistêmicos. A empresa deverá enviar um relatório sobre os riscos associados às funcionalidades do Grok antes de seu lançamento.

Antes do início da investigação, a Comissão já havia solicitado que a rede social X mantivesse toda a documentação interna relacionada ao Grok durante o ano de 2026, como parte da análise de sua política contra conteúdos ilegais.

Controvérsias Recentes

A investigação ocorre em meio a polêmicas envolvendo imagens de crianças e mulheres nuas geradas pelo Grok, que resultaram em um processo judicial contra o X pelo governo francês. Esses incidentes se somam a outros conteúdos problemáticos, como publicações relacionadas ao negacionismo do Holocausto, que a IA da rede social divulgou no final do ano passado.

Consequências e Multas

A Comissão Europeia acredita que, se as alegações forem confirmadas, o X poderá estar infringindo diversos artigos da Lei de Serviços Digitais, que exige a avaliação e mitigação de riscos para os cidadãos europeus. Em dezembro do ano passado, Bruxelas já havia multado o X em 120 milhões de euros por descumprir obrigações de transparência, relacionadas ao design enganoso de seu selo de verificação azul e à falta de acesso a dados públicos para pesquisadores.

Além disso, a Comissão também prorrogou sua investigação iniciada em 2023 sobre a gestão de riscos nos sistemas de recomendação de conteúdo do X, incluindo o impacto da transição para o sistema baseado na inteligência artificial Grok.

Fonte por: Jovem Pan