Além de assustador.
Aplicativos de IA bruta criam vídeos de pessoas se beijando sem consentimento
Anúncios de serviços de IA duvidosos que permitem aos usuários gerar videoclipes sintéticos realistas de pessoas reais se beijando estão inundando as mídias sociais .
A última tendência no surgimento de ferramentas de IA generativas fáceis de usar, confundindo os limites do consentimento.
Alguns desses muitos serviços anunciam uma visão mais branda para seus produtos, por exemplo, sugerindo que os usuários podem usar IA para criar vídeos de seus avós se beijando.
A maioria, no entanto, imediatamente se desvia para um território obscuro, com anúncios e páginas da web de produtos implorando aos usuários que aproveitem a IA como uma forma de fabricar vídeos deles mesmos beijando uma paixão involuntária ou um ex -parceiro .
As vibrações são ruins, como um anúncio no Instagram — circulando no X-formerly-Twitter e mostrado abaixo — no qual um aplicativo tira imagens de uma garota com aparelho e um homem mais velho e as usa para produzir um vídeo dos dois se beijando molhados.
Em suma, com a ajuda desses aplicativos, as pessoas podem gerar mídia deepfaked de forma barata e fácil retratando quaisquer dois sujeitos reais presos em cenários íntimos ou mesmo explícitos.
Quanto ao consentimento?
Não é necessário.
Evil ad I got on Instagram pic.twitter.com/ekDI5pSY57
— Arthouse Shawn Levy (@firagawalkwthme) January 1, 2025
Uma proliferação de serviços similares está disponível por meio de navegadores da web e aplicativos móveis, disponíveis nas lojas de aplicativos Android e iOS, onde a grande maioria é listada como segura para adolescentes. Pelo menos um — um serviço chamado Fotorama que é listado como um “Kiss and Hug Video Generator” — é classificado como seguro para pessoas com quatro anos ou mais na loja iOS, e seguro para “todos” no Google Play.
Alguns aplicativos anunciam o recurso de beijo como apenas um caso de uso em um conjunto mais amplo. Embora um aplicativo popular chamado Mova AI mostre sua função de beijo em clipes do YouTube e postagens patrocinadas do TikTok , por exemplo, ele não menciona a ferramenta em nenhuma de suas descrições na loja de aplicativos.
Mas enquanto alguns aplicativos minimizam o beijo com inteligência artificial, outros são muito mais diretos sobre a funcionalidade — e as maneiras assustadoras como os usuários podem implementar tal recurso.
Considere um serviço chamado YouCam, que afirma em uma página da empresa que seu “Gerador de Vídeos de Beijos com IA” pode ser usado para dar vida ao “sonho de compartilhar um beijo” com sua “celebridade favorita” do usuário.
As possibilidades são infinitas!, continua a descrição.
Outro serviço, intitulado AIKiss.AI ,
se gaba em uma página da web de que seus algoritmos avançados criam vídeos de beijos realistas e cativantes que parecem incrivelmente naturais.
Não é preciso conhecimento técnico, acrescenta, qualquer pessoa pode criar lindos vídeos de beijos com IA em minutos.
Na mesma página da web, o AIKiss.AI incentiva os usuários a usar sua ferramenta para criar “conteúdo explícito” que atenda ao “público adulto”, como — peço desculpas antecipadamente — o que ele caracteriza como “vídeos de beijos de gozada”.
Em seguida, sugere que os usuários podem considerar a criação de vídeos retratando a atriz Scarlett Johansson.
Nem é preciso dizer que não seria necessário um grande salto tecnológico para que esses ou aplicativos semelhantes criassem vídeos ainda mais explícitos de pessoas sem consentimento.
Juntos, esses serviços de beijo de IA ficam em um espaço cinza e sórdido entre conteúdo PG e imagens pornográficas, e surgem em meio a uma avaliação mais ampla em torno de material íntimo e consentimento gerados por IA.
Pornografia deepfaked, particularmente a de mulheres sob os olhos do público , explodiu em popularidade à medida que ferramentas de IA generativas voltadas ao público se tornaram cada vez mais difundidas.
O mesmo é verdade para imagens de nudez geradas por IA, facilmente criadas por meio de aplicativos de IA designados, como o sempre alarmante Nudify , que levaram a uma onda perturbadora de casos envolvendo alunos do ensino fundamental e médio usando IA para criar imagens de nudez de colegas menores de idade.
A IA generativa também tem sido usada por predadores adultos para inventar material grotesco de abuso sexual infantil, ou CSAM, enquanto grupos de vigilância como a Internet Watch Foundation rastrearam um aumento preocupante de CSAM gerado por IA na web.
E embora esses abusos alimentados por IA tenham visto alguma ação legal e até mesmo criminal, as vítimas frequentemente se encontram em uma batalha árdua , com pouco em termos de recurso eficaz ou confiável .
Enquanto isso, embora possam ser comercializados como uma maneira de baixo risco de se conectar com um parceiro à distância ou bajular uma celebridade, os aplicativos de beijo com IA oferecem mais um meio alimentado por IA para a criação e disseminação de imagens íntimas não consensuais de pessoas reais.
Afinal, esses aplicativos frequentemente anunciam casos de uso não consensuais, e usos indevidos não são exatamente difíceis de imaginar:
considere alunos em idade escolar usando os aplicativos para gerar vídeos íntimos de colegas de classe involuntários;
um ex obcecado criando vídeos projetados para assediar sexualmente seu ex-parceiro;
um predador adulto criando e compartilhando vídeos íntimos ou explícitos envolvendo crianças; ou
maus atores usando as ferramentas como mais um veículo para gerar pornografia deepfake de celebridades e outras figuras públicas.
As possibilidades, infelizmente, são infinitas.
Entramos em contato com todos os serviços de geração de beijos de IA mencionados neste artigo, bem como vários outros, para comentar.
Não obtivemos resposta.
Por Maggie Harrison Dupré
Link original da matéria:
Siga o ‘ 7Minutos’ nas redes sociais
X (ex-Twitter)
Instagram
Facebook
Telegram
Imagem por Getty / Futurismo[/caption]
