Notícias : Ciência e Tecnologia» Notícias

The New York Times

‘Entrevista’ com vencedora do Nobel morta expõe armadilhas da IA

Rádio polonesa usou IA para criar apresentadores e simular conversa, em um experimento amplamente criticado pela comunidade local

Cracóvia (Polônia) | The New York Times
Quando uma estação de rádio polonesa financiada pelo Estado cancelou um programa semanal com entrevistas com diretores de teatro e escritores, o apresentador do programa saiu em silêncio, resignado às realidades da indústria de mídia de corte de custos e mudanças de gostos que se afastam da cultura erudita.

Mas sua resignação se transformou em fúria no final de outubro, depois que sua antiga empregadora, a Off Radio Krakow, transmitiu o que chamou de “entrevista única” com um ícone da cultura polonesa, Wislawa Szymborska, vencedora do Prêmio Nobel de Literatura de 1996.

O apresentador demitido, Lukasz Zaleski, disse que teria convidado Szymborska para seu programa matinal, mas nunca o fez por uma razão simples: ela morreu em 2012.

A estação usou IA (inteligência artificial) para gerar a recente entrevista —um exemplo dramático e, para muitos, ultrajante de tecnologia substituindo humanos, até mesmo os mortos.

Zaleski admitiu que a versão gerada por computador da voz distintiva da poeta era convincente. “Foi muito, muito boa”, disse ele, mas “eu fui ao funeral dela, então sei com certeza que ela está morta.”

A ressurreição tecnológica da poeta falecida foi parte de um experimento inovador da Off Radio Krakow, um braço do sistema de radiodifusão pública da Polônia na cidade de Cracóvia.

O objetivo era testar se a IA poderia reviver uma estação local moribunda que tinha “quase zero” ouvintes, segundo o chefe da rádio pública em Cracóvia.

A estação também planejava entrevistas do além com outras pessoas falecidas, incluindo Jozef Pilsudski, líder da Polônia quando o país recuperou sua independência em 1918.

O valor da novidade —e uma tempestade de indignação pública— ajudou a aumentar a audiência da Off Radio Krakow, que, segundo o chefe da Rádio Cracóvia, saiu da noite para o dia de apenas um punhado de pessoas para 8 mil ouvintes após a introdução de três apresentadores da Geração Z gerados por IA —Emilia, 20, Jakub, 22, e Alex, 23, cada um com uma fotografia e biografia geradas por computador.

Menos bem-vinda do que o aumento da audiência, no entanto, foi uma enxurrada de abusos direcionados ao sistema de radiodifusão pública acusando-a de “sacrificar humanos” no altar da tecnologia.

“Fui transformado em um monstro que mata empregos e quer substituir pessoas reais por avatares”, disse Mariusz Marcin Pulit, editor-chefe da Rádio Cracóvia e de estações de nicho operando sob seu guarda-chuva, como a Off Radio Krakow.

Ele insistiu que nunca foi sua intenção substituir pessoas por máquinas, e que seu único objetivo era reviver a Off Radio Krakow, torná-la mais atraente para ouvintes mais jovens e estimular o debate sobre IA enquanto o parlamento da Polônia discute nova legislação para regular seu uso.

A tecnologia usada para gerar a falsa entrevista com Szymborska e outros programas, acrescentou, tem sido amplamente utilizada: ChatGPT da Open AI, software de síntese de voz desenvolvido pela ElevenLabs e os programas de geração de imagens da Leonardo.Ai.

Mas as garantias de Pulit não acalmaram a raiva pública —e o alarde de que os humanos estão sendo retirados do roteiro.

Entre os indignados com o experimento de Pulit estava Jaroslaw Juszkiewicz, jornalista de rádio cuja voz foi usada por mais de uma década para guiar motoristas usando a versão polonesa do Google Maps. Sua substituição por uma voz metálica gerada por computador em 2020 gerou fúria nas redes sociais, levando o Google a restaurá-lo, pelo menos por um tempo.

Ele anunciou na semana passada que havia sido retirado novamente, lamentando que a IA estava “varrendo o mundo do trabalho de voz humana como um rolo compressor gigante.” Juszkiewicz continuou:

“E eu posso, com minha própria voz humana, dizer, provavelmente pela última vez:

‘Sorria lindamente e siga para o sul.’”

Em um post no Facebook, ele disse que o uso de IA para falsificar uma entrevista com a falecida vencedora do Prêmio Nobel o deixou sem palavras. “Se isso não é uma violação da ética jornalística, não sei o que é.”

Cansado de ser acusado de querer tornar os humanos redundantes, Pulit recentemente encerrou seu experimento de IA.

“Somos pioneiros, e o destino dos pioneiros pode ser difícil”, disse ele em uma mensagem recente aos membros da equipe anunciando uma interrupção abrupta dos apresentadores de IA e sua substituição por música criada e executada por humanos.

Entre os apresentadores de IA removidos da Off Radio Krakow estava Alex Szulc, uma pessoa inexistente que havia sido apresentada como uma progressista não-binária “cheia de compromisso social.”

Uma biografia no site da estação foi posteriormente reescrita para excluir qualquer menção à orientação sexual do apresentador depois que ativistas LGBTQIA+ reclamaram furiosamente que precisavam de uma pessoa real para falar por eles, não uma gerada por computador.

Também saiu Emilia Nowak, a “especialista em cultura pop” gerada por computador da estação, que conduziu a “entrevista” com a poeta falecida.

A estação primeiro anunciou a conversa como se fosse uma entrevista real, mas depois esclareceu que havia sido fabricada por uma máquina.

Michal Rusinek, chefe de uma fundação que administra o espólio literário da falecida vencedora do Prêmio Nobel, disse que havia dado permissão à Off Radio Krakow para usar a voz de Szymborska para o segmento porque a poeta “tinha senso de humor e acharia engraçado.”

Mas ele disse que a entrevista “foi horrível” e colocou palavras na boca da poeta que ela nunca teria usado, fazendo-a soar “insípida”, “ingênua” e de “nenhum interesse”. Mas isso, acrescentou, foi encorajador porque “mostra que a IA ainda não funciona” tão bem quanto os humanos.

“Se a entrevista tivesse sido realmente boa”, acrescentou ele, “seria aterrorizante.”

Felix Simon, autor de um relatório publicado em fevereiro sobre o efeito da IA no jornalismo, disse que o experimento polonês não alterou sua visão de que a tecnologia “ajuda os trabalhadores de notícias em vez de substituí-los.”

Por enquanto, afirmou que “ainda há razão para acreditar que não trará a grande eliminação de empregos que algumas pessoas temem.”

Para muitos na Polônia que criticam a flerte da Off Radio Krakow com a IA, o uso de apresentadores gerados por computador pela estação, embora agora suspenso, destacou um perigo grave e imediato.

Por: Andrew Higgins

Link original da matéria:
FOLHA DE SÃO PAULO

Em sua casa em Grosse Ponce, Michigan, Stephanie Lucas Onay usa o HereAfter AI, um aplicativo alimentado por inteligência artificial, para fazer perguntas a seu pai William Lucas, que faleceu em 2022 . Sylvia@arrus/ NY
Pessoa de um perfil StoryFile é gravado por câmeras de vários angulos diferentes no estúdio da empresa me Los Angeles, algumas pessoas estão usando chatboots de inteligência artificial para criar avatares de entes queridos falecidos. ALISA JUCEVIC / NYT

 

  • Fonte da informação:
  • Leia na fonte original da informação
  • Gildo Ribeiro

    Gildo Ribeiro é editor do Grupo 7 de Comunicação, liderado pelo Portal 7 Minutos, uma plataforma de notícias online.

    Artigos relacionados

    Botão Voltar ao topo