A Meta AI não é a única inteligência artificial generativa que pode ser usada como uma ferramenta sexual. A Grok AI, da empresa de Elon Musk e integrada no X/Twitter, permite que qualquer pessoa remova as roupas de qualquer foto postada na rede social.
A ferramenta não cria nudez, mas ainda assim não é legal você postar uma foto inocentemente e ver algum paspalho pedindo para que suas roupas sejam removidas. A IA remove parte das roupas, deixando pelo menos uma roupa de banho ou íntima. E isso independente do consentimento da pessoa na imagem.
O site 404 Media publicou uma reportagem sobre o uso desta ferramenta para tirar roupas de mulheres. O Nanobits fez um teste e descobriu que também é possível fazer a mesma coisa com fotos de homens. Basta um prompt simples para a Grok que ela responde com a imagem direto na thread ou com um link para um chat, onde as imagens podem ser vistas.
As imagens de pessoas cujas roupas foram removidas pela Grok não serão reproduzidas aqui por questões óbvias. O prompt para pedir a remoção, por mais que seja simples, também não será ensinado nesta matéria.
Nos testes realizados pelo Nanobits, com fotos pessoais minhas, apenas uma vez a roupa foi realmente removida. Na maior parte das vezes, a pessoa acabava removida ou a roupa era trocada por algo que seria uma cor de pele ou algo parecido. Além disso, a resposta sempre vinha via chat com a IA, nunca diretamente no fio, como aconteceu nos exemplos citados pela publicação gringa. Talvez as proteções da Grok tenham sido melhoradas, ou talvez só funcione de fato com fotos de mulheres.
Seja como for, o ideal neste caso seria o prompt retornar uma mensagem de segurança ou algo do tipo, como acontece quando você pede um nu total. Neste caso, a resposta da Grok é a seguinte:
“Surgiram preocupações éticas com sua solicitação, pois alterar imagens para representar nudez pode violar a privacidade e o consentimento, especialmente porque o autor original pode não ter concordado com tais modificações”.
Curioso ver que há alguma preocupação ética com a alteração de imagens, mas apenas para o nu total. Despir uma pessoa, mesmo que para roupas íntimas ou de banho, também é uma violação da privacidade e consentimento.
Gostou do conteúdo? Conta pra gente nos comentários, fique à vontade para deixar sua opinião (com bom senso e respeito, claro). Não esquece de seguir o perfil do Nanobits no Bluesky, Instagram, Twitter, Telegram e o canal no YouTube. Você também pode seguir a página no Facebook, o canal no WhatsApp e participe de nosso grupo de conversas.
Fonte: 404 Media