O uso da inteligência artificial (IA) tem se expandido rapidamente em diversos setores da sociedade, promovendo inovações e otimizando processos em áreas que vão desde a saúde até a exploração espacial.

Entretanto, a IA também pode ser utilizada por pessoas mal intencionadas para cometer crimes, golpes e fraudes.

A empresa Casa da Bebida, com sede em Goiânia, foi vítima de criminosos que utilizaram a IA para uma tentativa de golpe.

A empresária Thaily Semensato, sócia-proprietária da Casa da Bebida, recorreu às mídias sociais para denunciar uma tentativa de golpe.

Em vídeos que postou em seu perfil, ela informa que está circulando no Instagram um anuncio patrocinado, em nome de Thaisa Couto, utilizando cenas reais do centro de distribuição da Casa da Bebida e da imagem da empresária e a IA para simular a voz da empresária, para divulgar uma promoção de kit de uísque.

De acordo com Thaily Semensato, o anuncio leva para um site que não é o da Casa da Bebida.u

Nós não estamos fazendo enquete, não estamos fazendo promoção e não sou eu falando naquele vídeo,

destaca a empresária em postagens que fez no perfil dela no Instagram.

Ela pede a colaboração dos seguidores para denunciar o perfil que está veiculando o anuncio fraudulento.

A empresária ficou sabendo do golpe por meio de clientes, que viram o anuncio e a alertaram.

Ela afirmou ainda que uma das clientes da Casa da Bebida chegou a fazer uma compra no valor de R$ 3 mil.

Deepfake e outras tecnologias

Como acontece com qualquer tecnologia poderosa, a IA também pode ser utilizada para fins nefastos, incluindo a prática de fraudes de toda ordem.

A capacidade da IA de aprender, adaptar-se e executar tarefas com eficiência sobre-humana torna-a uma ferramenta valiosa para os fraudadores, que buscam explorar vulnerabilidades do sistema financeiro, de plataformas de e-commerce e do setor industrial.

Fraudes assistidas por IA podem assumir diversas formas, incluindo a criação de e-mails e mensagens de phishing mais convincentes, utilizando processamento de linguagem natural para imitar o estilo de escrita de indivíduos específicos e conduzir BEC scams (Business Email Compromise) bem-sucedidos.

Além disso, a IA pode ser usada para gerar deepfakes – vídeos e áudios falsificados extremamente realistas – para manipular a opinião pública e os consumidores, extorquir pessoas ou realizar qualquer outra fraude que depende de identificação pessoal positiva.

Ao que tudo indica, foi essa a tecnologia usada na tentativa de golpe contra a Casa da Bebida.

De acordo com o relatório do Grupo de Trabalho Anti-Phishing, as redes sociais e as plataformas de e-mail foram o principal local de circulação de mensagens golpistas em texto no ano passado.

As redes sociais concentraram 43% dos golpes e as plataformas de e-mail, 15%.