Berliner Abendpost - UE investiga rede social X por imagens de nudez geradas por IA

A Europa não “tolerará comportamentos irresponsáveis” por parte das plataformas digitais, como “as imagens falsas de nudez de mulheres e crianças”, afirmou a presidente da Comissão Europeia, Ursula von der Leyen, em declarações à AFP.

“Nossa posição é clara: não confiaremos o consentimento nem a proteção da infância a plataformas tecnológicas para que os violem e monetizem”, assegurou a chefe do Executivo europeu, acrescentando que, embora já existam medidas de proteção, “devemos fazer mais para proteger os cidadãos, tanto online como offline”.

Esta nova investigação tem como objetivo verificar se a rede X (antes Twitter) infringiu as rigorosas normas europeias sobre o ambiente digital, que a obrigam a proteger os usuários de conteúdos ilegais.

O Executivo comunitário decidiu ainda ampliar o alcance de uma primeira investigação aberta em dezembro de 2023 contra o X, também no âmbito da a Lei dos Serviços Digitais (DSA, na sigla em inglês).

O Grok tem uma função que permite aos usuários criar imagens falsas de nudez a partir de fotos reais de menores ou mulheres.

Vários países, entre eles França e Reino Unido, iniciaram processos legais e alguns chegaram a suspender ou bloquear o acesso à rede X.

Após limitar inicialmente o acesso a essa função, a rede anunciou em meados de janeiro que apenas restringiria seu uso nos países onde é ilegal criar esse tipo de imagens sexuais.

- Milhões de imagens sexualizadas -

Segundo um estudo publicado pelo Center for Countering Digital Hate, uma ONG que denuncia as práticas do X, o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças em um período de apenas 11 dias, uma média de 190 imagens por minuto.

Outra análise, realizada pela AI Forensics, mostrou que mais da metade das mais de 20.000 imagens geradas pelo Grok representam pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores de idade.

Paralelamente à investigação anunciada nesta segunda-feira, a Comissão Europeia decidiu ampliar a que havia aberto em 2023 contra o X, que já resultou em uma multa de 120 milhões de euros (750 milhões de reais) para a rede social.

Com este novo processo contra o X, os europeus correm o risco de provocar novas represálias do presidente dos Estados Unidos, Donald Trump, que acusa Bruxelas de atacar os gigantes tecnológicos americanos.

Em dezembro, o governo dos Estados Unidos impôs sanções ao ex-comissário Thierry Breton, artífice da DSA, assim como a outras quatro pessoas envolvidas na regulação do setor tecnológico e no combate à desinformação.

A.Schmidt--BlnAP