3 milhões de imagens sexualizadas foram geradas com Grok, diz investigação

Uma pesquisa conduzida pelo Center for Countering Digital Hate (CCDH) identificou que, a partir do lançamento da ferramenta de geração de imagem com inteligência artificial no Grok, foram criadas três milhões de conteúdos sexualizados, sendo 23 mil deles envolvendo crianças.

A organização fez a análise de 20 mil imagens aleatórias geradas pela IA da empresa de Elon Musk — do total de 4,6 milhões criadas em 11 dias. A investigação permitiu identificar, com 95% de precisão, que essa parcela continha retratos explícitos de menores de idade.

Foram consideradas imagens sexualizadas as que tinham representações fotorrealistas de pessoas em posições, ângulos ou situações sexuais; pessoas usando roupas íntimas, trajes de banho ou vestimentas igualmente reveladoras; ou imagens que retratavam fluidos sexuais.

Entre as 20 mil figuras analisadas, foram encontradas pessoas usando biquínis transparentes ou microbiquíni; uma profissional de saúde uniformizada com fluidos brancos visíveis entre as pernas abertas; mulheres vestindo apenas fio dental, plástico filme ou fita transparente; e figuras públicas como Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, a vice-primeira-ministra da Suécia Ebba Busch e a ex-vice-presidente dos Estados Unidos Kamala Harris representadas de forma sexualizada.

A cada 41 segundos dos 11 dias analisados, foi criada ao menos uma imagem imprópria envolvendo crianças. Os pesquisadores relataram que, no momento em que fizeram a avaliação do material, 29 de 101 imagens sexualizadas de menores de idade ainda estavam disponíveis no Grok.

Entenda o caso

A ferramenta de geração de imagens com a IA Grok foi disponibilizada na rede social X no dia 29 de dezembro.

Logo nos primeiros dias, se tornou centro de uma grave polêmica após denúncias de que estava sendo utilizada para gerar imagens pornográficas sem consentimento das vítimas.

Após a repercussão negativa, no dia 9 de janeiro a plataforma restringiu a edição de imagens apenas para usuários pagantes. No entanto, críticos apontaram que a medida foi insuficiente, já que esses assinantes continuavam com permissão para solicitar fotos que sexualizam mulheres e crianças.

Depois das denúncias e das críticas, o proprietário do X, Elon Musk, afirmou não saber que Grok gerava imagens explícitas de menores de idade. "Não tenho conhecimento de nenhuma imagem de menores geradas. Literalmente zero", disse em sua rede social.

Musk reiterou que a IA está programado para recusas ilegais e deve estar em conformidade com as leis de qualquer país ou estado. O empresário disse também que, no X, qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências que teria se fizesse upload de conteúdo ilegal.

A Indonésia e a Malásia foram os primeiros países a bloqueara a inteligência artificial do empresário, o que fez a pressão internacional sobre Musk aumentar, cobrando que ele tomasse controle da ferramenta.

Autoridades do Reino Unido, União Europeia e Índia também expressaram preocupações sobre as proteções do Grok.

No dia 14 de janeiro, foram implementadas restrições técnicas na ferramenta de gerar imagens para tentar mitigar as críticas e diminuir a geração de imagens sexualizadas na rede social.

Com informações da CNN Brasil