Washington – O vídeo é surpreendentemente realista, com uma mulher em um biquíni cobrindo entrevistas de rua e provocando comentários indecentes. Mas eles são completamente falsos, gerados por ferramentas de inteligência artificial (AI) e cada vez mais usados para inundar as mídias sociais com conteúdo sexista.
Tais slops de IA – conteúdo produzido em massa criado por ferramentas de IA baratas que transformam texto simples solicita visuais surreais geralmente possuem postagens reais, embaçando a linha entre ficção e realidade.
Essa tendência expôs a indústria da IA Influencer Cottage com um esforço mínimo, geralmente impulsionado por programas de incentivo à plataforma que recompensam financeiramente o conteúdo viral.
A horda de clipes de IA carregada de humor no vestiário visa mostrar uma rápida olhada nas entrevistadoras nas ruas da Índia e da Inglaterra.
Os verificadores de fatos da AFP acompanharam muitos desses vídeos no Instagram em hindi. Os entrevistados do sexo masculino mostram que mesmo agarrar uma mulher transmite casualmente pincéis misóginos e declarações sexuais enquanto a multidão masculina vai rir do fundo.
Muitos vídeos ganharam dezenas de milhões de visualizações. E monetizou sua tração ainda mais, promovendo um aplicativo de bate -papo adulto para “fazer novas amigas”.
Os clipes fabricados eram tão realistas que alguns usuários dos comentários questionaram se as mulheres em destaque eram reais.
Amostras desses vídeos, analisadas pela empresa de segurança cibernética dos EUA GetReal Security, mostraram que foram criados usando o gerador AI VEO 3 do Google, conhecido por visuais hiper-realistas.
“A misoginia que normalmente estava escondida em bate-papos e grupos no vestiário agora está vestida como um visual da IA”, disse a Cyber Psychologist Libertia, com sede na Índia.
“Isso faz parte dos danos do gênero através da IA”, disse ela, acrescentando que a tendência está “promovendo o sexismo”.
Essa tendência fornece uma janela para o cenário da Internet. Agora, memes, vídeos e imagens gerados pela IA estão competindo ainda mais cativante com conteúdo real.
“O conteúdo gerado por slops de IA e todos os tipos de IA não assinada se afasta lentamente de qualquer pequena confiança deixada no conteúdo visual”, disse Emmanuelle Saliba, da GetReal Security.
O conteúdo misógino mais viral geralmente se baseia em valores chocantes. Isso afirma que os clipes no Instagram e no Tiktok foram gerados pela revista Wired usando o Veo 3 para retratar as mulheres negras como primatas grandes e cheias de pés.
Um vídeo popular da conta Tiktok lista meditativamente o que a chamada perfuração de ouro “Girls Gone Wild” faz por dinheiro.
A mulher também é um feed para atormentar a isca de cliques acionada pela IA, e os verificadores de fatos da AFP rastreiam um vídeo viral de um treinador marinho falso chamado “Jessica Radcliffe” e são fatalmente atacados por Orca em um show ao vivo no parque aquático.
As imagens produzidas se espalharam rapidamente por plataformas como Tiktok, Facebook e X, provocando raiva global de usuários que acreditam que as mulheres são reais.
Em 2024, Alexios Mantzarlis, diretor de iniciativas de segurança, confiança e segurança da Cornell Tech, descobriu que 900 contas de “modelos” onde a IA podem ser gerados.
Esses precedentes de sede atraíram cumulativamente 13 milhões de seguidores, publicaram mais de 200.000 imagens e alcance monetizado redirecionando os espectadores para plataformas de compartilhamento de conteúdo comercial.
“Os números são muito maiores agora”, disse Mantzarlis à AFP, enquanto a Fakery da AI está crescendo online.
“Espere mais conteúdo sem sentido que utilize padrões corporais que não são apenas irrealistas, mas também literalmente irrealistas”, acrescentou.
As relações financeiras de incentivos tornaram -se cada vez mais desafiadoras para a polícia como criadores de conteúdo, incluindo estudantes e pais domésticos em todo o mundo, recorrem à produção de vídeo de IA como trabalho de show.
Muitos criadores do YouTube e Tiktok oferecem cursos pagos sobre como monetizar materiais de geração de IA virais em suas plataformas.
Algumas plataformas estão tentando reprimir as contas que promovem o Slop, e o YouTube disse recentemente que os criadores de conteúdo de “fraude” e “produzido em massa” não são elegíveis para monetização.
“A IA não inventa a misoginia, apenas reflete e amplia o que já está lá”, disse o consultor da IA Divyendra Jadoun à AFP.
“Se os espectadores recompensam esse tipo de conteúdo com milhões de curtidas, os algoritmos e os criadores da IA continuam a produzi -lo. A maior batalha não é apenas a tecnologia. É social e cultural”, acrescentou. AFP
