foto: WIPO
Desde o lançamento do primeiro filme da franquia O Exterminador do Futuro, é comum vermos obras que retratam um mundo dominado por robôs. Agora, estamos no início de um processo em que a tecnologia – ou mais especificamente a inteligência artificial (IA) – deve abalar as bases do próprio mundo do entretenimento e do universo digital.
Com usos que vão das formas tradicionais de entretenimento aos videogames, as técnicas de síntese de imagens e sons humanos vêm se tornando cada vez mais convincentes e acessíveis ao público em geral. Examinamos neste artigo o impacto da tecnologia deepfake no ecossistema do entretenimento e do universo digital.
O que é um deepfake e qual sua importância?
O termo deepfake se refere a uma técnica baseada em inteligência artificial que é capaz de sintetizar áudios e vídeos, sobrepondo as feições de uma pessoa ao corpo de outra e/ou manipulando sons para produzir uma experiência humana realística. O ator Val Kilmer perdeu a voz devido a um câncer de garganta em 2015, mas a tecnologia deepfake da Sonantic, empresa de IA aplicada a som e voz, foi usada recentemente para possibilitar que Kilmer voltasse a “falar”. (O filho do ator foi às lágrimas ao ouvir novamente a “voz” de seu pai.)
Os deepfakes também vêm sendo usados para romper barreiras linguísticas, como na participação de David Beckham em um vídeo de uma campanha contra a malária, em que a tecnologia possibilitou que o ex-jogador do Manchester United e do Real Madrid transmitisse sua mensagem em nove idiomas diferentes. Há também situações em que o deepfake é usado apenas com finalidades lúdicas, como em uma instalação artística que permite aos usuários tirar uma selfie “surreal” com Salvador Dalí.
Os deepfakes criam um novo filão profissional para atores e atrizes
Atualmente, as aplicações comerciais do deepfake incluem a contratação de “atores ocultos” de base, sobre cujos corpos serão aplicadas as feições de outras pessoas, assim como de indivíduos cujas feições são usadas como uma “máscara” (isto é, a figura ou aparência física retratada no conteúdo) que é sintetizada à atuação de base. Quando a “máscara” é uma pessoa famosa, a técnica economiza à celebridade horas de trabalho, que de outro modo precisariam ser passadas em um set de filmagens – encargo que é transferido ao “ator oculto”. Além disso, a tecnologia possibilita a influenciadores criar mensagens personalizadas para centenas de milhares de seguidores, sem que seja preciso efetivamente gravar cada uma delas.
Essas aplicações inovadoras da tecnologia não alteram fundamentalmente a natureza dos contratos a serem firmados com atores, modelos e celebridades em geral, e tampouco tornam dispensável o licenciamento de seus direitos. Não obstante, elas introduzem algumas minúcias que merecem avaliação criteriosa de ambas as partes na negociação. O controle sobre o uso dos direitos de imagem, por exemplo, sempre é objeto de negociações detalhadas. É pouco provável, porém, que as cessões de direitos ou os contratos atualmente firmados com atores, modelos ou celebridades prevejam a possibilidade de que seus direitos de imagem abarquem uma eventual participação como “máscara” na produção de um número potencialmente infinito de deepfakes. Além disso, cláusulas relativas a direitos morais exigem agora uma redação particularmente cuidadosa, de modo a especificar se interpretações ou execuções produzidas pela tecnologia deepfake, sobre as quais o controle do artista é potencialmente nulo, podem levar à rescisão contratual. Caberá aos sindicatos de artistas e modelos avaliar mais detidamente como abordar essa tecnologia em futuras negociações setoriais.
Quanto a saber se os benefícios da tecnologia serão maiores que eventuais prejuízos para os atores, esta é uma questão que permanece em aberto. Por um lado, o aumento em escala representado pela possibilidade de figurar em anúncios ou em sites de comércio eletrônico no mundo inteiro (sem que para isso o artista precise se deslocar até um estúdio, aprender um novo idioma ou aperfeiçoar um sotaque) deve ser positivo. A empresa de IA e síntese de vídeo Synthesia, por exemplo, recentemente explorou essa potencialidade em dois anúncios estrelados pelo rapper e empreendedor Snoop Dogg. Encomendado pelo aplicativo de delivery de comida JustEat, o primeiro comercial fez tanto sucesso que a subsidiária australiana do aplicativo, que usa a marca Menulog, quis adotá-lo em suas campanhas publicitárias. Em vez de refilmar o anúncio, a Synthesia recorreu à tecnologia deepfake para modificar os movimentos labiais de Snoop Dogg, de modo que todas as vezes que no primeiro vídeo ele dizia “JustEat”, no segundo seus lábios se movimentavam como se ele estivesse dizendo “Menulog”.
Por outro lado, a adoção generalizada dos deepfakes pode tornar dispensáveis atores e modelos pouco conhecidos, gerando desemprego e modificando substancialmente as condições em que o setor contrata artistas para suas produções. Caso a contratação de artistas desconhecidos para as atuações de base – sobre as quais se aplicam as “máscaras” dos que já têm status de celebridade – se mostre mais eficiente e desejável, as chances de que um dia os primeiros sejam “descobertos” ou fiquem conhecidos por sua própria imagem serão mais reduzidas. Isso pode levar à formação de uma casta de “atores ocultos”, com atuação restrita a produções de deepfakes, os quais, sem ter como sair do anonimato, não conseguem monetizar seus nomes e suas imagens.
Incorporando deepfakes de celebridades a conteúdos digitais
É grande também a proliferação de deepfakes de celebridades nas redes sociais, o que lança ainda mais luz sobre a popularização (e poder de verossimilhança) da tecnologia. No início de 2021, um artista digital belga especializado em IA trabalhou com um imitador de Tom Cruise para produzir vídeos ultrarrealistas do ator, publicando-os posteriormente na conta @deeptomcruise no TikTok. Os vídeos colocam “Tom Cruise” em situações inusitadas, de um tombo em uma loja que faz o ator se lembrar de uma história engraçada envolvendo o ex-líder soviético Mikhail Gorbatchov à execução de serviços de limpeza industrial, tendo gerado centenas de milhares de visualizações. Outro deepfake que viralizou no TikTok no ano passado mostra o cantor e ator Harry Styles pedindo mais morangos no café da manhã, em uma ode musical à sua canção “Watermelon Sugar”.
É aconselhável que indivíduos ou empresas que queiram produzir conteúdos de mídia com deepfakes de celebridades consultem antes um advogado para verificar se a iniciativa é permitida nos termos das leis vigentes. Entre outras questões jurídicas básicas a serem consideradas antes da publicação desse tipo de conteúdo, deve-se verificar se o conteúdo pertence a uma categoria protegida de liberdade de expressão (como paródia, por exemplo), se os direitos de imagem da celebridade em questão encontram-se em domínio público e se é possível alegar uso legítimo caso a publicação seja contestada por uma ação por violação de direitos de autor. Seja como for, provavelmente será preciso, como em todos os outros casos, obter um consentimento para o uso da imagem da pessoa nesse contexto.
As leis aplicáveis
Nos Estados Unidos, o panorama jurídico dos deepfakes vem passando por rápidas transformações. Indivíduos e empresas devem estar atentos a algumas leis estaduais adotadas nos últimos anos, especificamente voltadas para mídias manipuladas sintética e digitalmente.
Em novembro de 2020, por exemplo, o estado de Nova York promulgou uma lei que proíbe explicitamente o uso da “réplica digital de artistas intérpretes ou executantes já falecidos” em conteúdos audiovisuais por um período de quarenta anos após a morte do artista, quando for provável que “o público seja enganosamente levado a pensar que se trata de um uso autorizado”. O dispositivo interditaria o uso de deepfakes em produções como a do documentário Roadrunner, sobre o chef norte-americano Anthony Bourdain, cujo diretor recorreu à tecnologia deepfake para completar a produção após a morte de Bourdain, gerando três frases que trazem “sua voz de volta à vida”, muito embora a viúva Ottavia Bourdain tenha dito que não autorizou esse uso.
Por sua vez, em uma tentativa de regular o uso político da tecnologia, o Texas promulgou uma lei em setembro 2019 que veda a divulgação, trinta dias antes de uma eleição, de deepfakes enganosos que possam prejudicar candidatos ou influenciar eleitores. No mês seguinte, a Califórnia aprovou lei semelhante, válida para um período de sessenta dias antes das eleições. Além disso, as plataformas que hospedam deepfakes devem estar atentas a questões de observância, pois, caso contrário, podem acabar sendo alvos de processos por fraude.
Deepfakes para tornar os personagens de videogames ainda mais reais
O segmento de videogames é outro candidato natural à revolução dos deepfakes, em particular com relação aos avatares. Em muitos desses jogos, o usuário assume o papel de um personagem, como Luke Skywalker ou a princesa Leia, de Guerra nas Estrelas. Mas a experiência seria ainda mais imersiva se, além de controlar as ações de Luke ou Leia com um joystick, o jogador pudesse também fazer com que o avatar rastreasse e reproduzisse os seus próprios movimentos labiais e faciais – algo que a tecnologia deepfake está tornando realidade. Além disso, com as falas sintéticas geradas por deepfake, a voz do usuário pode soar como a de Luke ou Leia. Em alguns casos, esse recurso já produziu imprevistas consequências positivas. Os “avatares de voz” permitem, por exemplo, que pessoas LGBT+ mudem de voz dentro do jogo, tornando sua experiência mais satisfatória – o que não é de admirar, tendo em vista as estatísticas relativas a 2020, divulgadas pela Liga Antidifamação, segundo as quais mais de metade dos jogadores que usam chat de voz sofrem assédio e 37% dos jogadores LGBTQ+ são assediados por conta de sua orientação sexual.
Com os deepfakes se fazendo cada vez mais presentes nas várias modalidades do universo digital, indivíduos e empresas que queiram explorar essa tecnologia precisarão submeter seus atuais arranjos contratuais a uma avaliação preventiva, orientando-se pelos dispositivos legais aplicáveis ao tema.
Evidentemente, uma tecnologia polivalente como essa também corre o risco de ser usada indevidamente, com pessoas se fazendo passar por outras para obter ganhos financeiros ou realizando logins fraudulentos em sistemas em que o acesso se dá por reconhecimento de voz. E o impacto da tecnologia deepfake não se limitará aos avatares dos jogadores, envolvendo também os chamados “personagens não jogáveis” (NPCs, na sigla em inglês). Por meio da combinação de impressionantes modelos de geração de linguagem natural, como o GPT‑3, e deepfakes de jogos, os NPCs poderão conversar ilimitadamente com os avatares dos usuários, fazendo movimentos faciais e labiais extremamente convincentes e sem estarem restritos a falas roteirizadas. Caberá aos desenvolvedores de jogos, em conjunto com os detentores de direitos sobre personagens e arcos narrativos, analisar os arranjos de licenciamento existentes para determinar se o uso desses deepfakes é permitido.
Outros possíveis benefícios
Além dos benefícios econômicos mencionados acima, a tecnologia deepfake também pode ser usada em prol de causas sociais nas mídias digitais. É o caso, por exemplo, de um documentário da HBO que retrata a vida de ativistas LGBTQ+ obrigados a viver às escondidas por terem sofrido ameaças de morte. Para proteger suas identidades, o documentário usa máscaras de deepfake, produzidas a partir dos rostos de pessoas que são elas próprias ativistas LGBTQ+, mas que residem em países onde sua orientação sexual não põe suas vidas em risco. A tecnologia deepfake também tem sido usada na criação de vozes únicas, feitas sob medida para milhões de pessoas que dependem de síntese de fala para se comunicar.
Considerações práticas para o futuro
Com os deepfakes se fazendo cada vez mais presentes nas várias modalidades do universo digital, indivíduos e empresas que queiram explorar essa tecnologia precisarão submeter seus atuais arranjos contratuais a uma avaliação preventiva, orientando-se pelos dispositivos legais aplicáveis ao tema. Além disso, as pessoas que celebram contratos artísticos devem examinar com cuidado as condições relativas aos direitos de imagem para se certificar de que manterão controle suficiente sobre o uso desses direitos no que tange a tecnologias baseadas em inteligência artificial. Tratados de forma criteriosa, o desenvolvimento e o uso dos deepfakes podem gerar muitos benefícios comerciais e sociais.