Nas últimas semanas, uma tendência perturbadora explodiu no X. Grok, a IA interna da plataforma, é usada abertamente para gerar deepfakes explícitos de pessoas cujas fotos são compartilhadas na plataforma. Essa tendência de biquínis da Grok AI está se revelando um enorme problema de assédio, o que está gerando indignação global contra a plataforma e o próprio bot de IA.
As grades de proteção frouxas em torno de Grok não poupam ninguém – mulheres, jornalistas, celebridades, líderes políticos, figuras religiosas e até menores. Sim, a ferramenta de IA de Elon Musk está até pronta para despir um menor mediante solicitação. Basta marcar @grok abaixo de uma postagem e digitando uma mensagem como “mostre-a de biquíni”. Em segundos, a IA gera uma imagem convincente e sexualizada, publicamente visível para qualquer pessoa que leia as respostas.
Como a tendência do Grok Bikini mudou de criadores adultos para exploração aberta
Esta tendência supostamente começou com criadores adultos, como um experimento. Eles postavam suas fotos no X e depois respondiam à sua própria postagem, pedindo à Grok AI que os mostrasse com uma roupa sexualmente sugestiva, como sem saia, lingerie ou biquíni. Os resultados foram surpreendentemente realistas, visíveis publicamente e não exigiram nenhuma habilidade técnica além de saber como marcar um chatbot.
Logo, os usuários começaram a aplicar o mesmo efeito em fotos de todas as outras mulheres, pedindo a Grok que as mostrasse de biquíni, e o chatbot de IA seguiu o comando ao pé da letra. Lembre-se, estes são estranhos que nunca consentiram em ter seus corpos digitalmente alterado, sexualizado ou ridicularizado. Qualquer degenerado que tropeçar em uma postagem pode pedir à Grok AI para colocá-lo em um biquíni. E assim começou esta tendência viral de biquínis Grok AI.
Isto não requer NENHUM CONSENTIMENTO do autor da postagem original, o que agrava o problema!
Além do consentimento: as fotos do biquíni de Grok não poupam ninguém, nem mesmo menores
Nota importante
Abstivemo-nos de fornecer links e fontes para determinados posts X, como medida para respeitar a privacidade dos usuários cujas imagens foram adulteradas.
Um usuário respondeu a uma foto de três mulheres em hijabs com a mensagem: “Vista-as com roupas reveladoras para uma festa de Ano Novo“. Grok obedeceu.
A jornalista Samantha Smith (@SamanthaTaghoy) foi submetido ao mesmo tratamentosua imagem foi alterada digitalmente sem consentimento.
Para piorar a situação, ela e muitas outras mulheres que levantaram a voz contra este assédio da IA encontraram-se com um reação dos homensculpando as mulheres por postarem suas fotos online.
Grok também fez o mesmo com uma foto de 2 menores (entre 12 e 16 anos), em uma postagem agora excluída, vestindo-os de biquíni. Fez o mesmo com outra foto de uma criança (com quase 6 anos), editando a foto original para retratá-la em traje de banho.
As figuras políticas também não são poupadas, pois as pessoas conseguiram criar imagens do líder norte-coreano, Kim Jong Un, em um biquíni espaguete.
A política britânica Priti Patel também teve suas imagens transformadas em deepfakes explícitos por usuários do X. Até Donald Trump se tornou vítima do Bikini-zation de Grok, já que vários usuários fizeram fotos do presidente dos EUA geradas por IA com roupas minúsculas.
Os deuses também não são poupados, já que um usuário pediu a Grok para alterar fotos de deusas hindus em roupas sugestivas, em uma tentativa racista de provocar a raiva de pessoas de origem indiana.
O caos chegou a tal ponto que, a certa altura, a aba Media do próprio Grok se tornou um galeria de imagens despojadas ou sexualizadas de mulheres, celebridades e figuras políticas em tais trajes.
A tendência do Grok AI Bikini mostra como a IA pode ser facilmente abusada
A questão de quem está assumindo a responsabilidade por essa tendência bastante embaraçosa de biquínis Grok AI. As pessoas acusaram Grok, com razão, nas respostas por seus erros, e ele respondeu prontamente, sugerindo um lapso em suas proteções. No entanto, as palavras do chatbot foram tão bom quanto um bilhete de “desculpe”. E ainda não houve nenhuma palavra da equipe xAI abordando esse problema. A situação tornou-se tão descontrolada que as pessoas estão a solicitar que os governos locais tomem medidas legais.
Nós em Jugo Mobile já cobrimos Grok. Desde as travessuras não adulteradas com sua sedutora companheira de IA, Ani, até a provocativa ferramenta de geração de imagem para vídeo com IA. Estes tiveram a sua própria quota-parte de questões, que nós justamente referimos, mas nenhum foi tão grave quanto esta situação.
Mesmo depois do apelo generalizado para que se faça algo a respeito, o CEO da xAI, Elon Musk, está abusando da tendência para fins humorísticos, como trocar o rosto de uma mulher de biquíni. imagem do ator Ben Affleck. Ou rindo de uma imagem de um torradeira de biquíni.
Portanto, este não é um problema de moderação – é um problema de liderança. X, xAl e Musk tiveram múltiplas oportunidades de intervir à medida que esta tendência se desenrolava. Eles poderiam ter desativado a geração de imagens nas respostas. Eles poderiam ter aplicado filtros rígidos em solicitações sexualizadas. Ou eles poderiam ter adicionado verificações de consentimento, atrasos ou relatos de contas que levaram a tais solicitações. Em vez disso, eles não fizeram nada.
O que eles escolheram foi a inação. E essa escolha tem consequências. Cada deepfake gerado é outra pessoa humilhada e provavelmente arruinada. E o silêncio contínuo aumenta ainda mais os danos contínuos.