Tempos cada vez mais difíceis para o jornalismo. Enquanto os desenvolvimentos em Inteligência Artificial (IA) promoveram resultados positivos para as pessoas e para sociedade, existe um abismo um tanto sombrio que será desafiador para os profissionais da área. Os deepfakes - ou vídeos falsos, que mostram pessoas falando o que elas jamais falariam - já são uma realidade, e isso não é nenhuma novidade. Há uma série deles surpreendendo muita gente.

Há cerca de um ano, um vídeo manipulado do presidente ucraniano Volodymyr Zelensky circulou por redes sociais supostamente encorajando a rendição à Rússia. Na época, o chefe de políticas de segurança da Meta, Nathaniel Gleicher, confirmou que o Facebook identificou e apagou o vídeo. A rede não permite a publicação de deepfakes desde 2020 e, inclusive, diz que deve melhorar as ferramentas que detectam automaticamente esse formato de vídeo.

O painel 'Deepfake e Dall-e' - um programa de IA que cria imagens a partir de descrições textuais -, apresentado por quatro especialistas da área, tratou sobre quanto o vídeo é sim uma ferramenta essencial e incrivelmente poderosa para justiça, para aumentar a conscientização e criar narrativas. Contudo, a grande questão é que esse tipo de vídeo está em jogo nos tempos atuais, assim como fotos e textos, com a recente criação do ChatGPT, entre outras plataformas semelhantes. A mídia sintética, termo genérico usado para definir essas mídias criadas ou editadas usando IA e machine-learning, estará inclinada para o lado da verdade ou vai enveredar para conflitos prejudiciais ou religiosos? O intuito é apoiar as mídias tradicionais ou é vender em escala? Veremos conteúdos que vão apenas atrapalhar a justiça?

Essa é a grande questão desse setor a ser debatida. A mídia sintética vem com pesos enormes e poder para mudar a balança de um jeito ou de outro. E o que está em jogo é que, até agora, essa automatização está pendendo pro lado negativo. 

A parte boa é que, de acordo com os painelistas, tem muitas instituições que agem com responsabilidade e já estão fazendo a diferença. O Bumble, por exemplo, que é um aplicativo de namoro on-line, tem um conjunto de práticas para adotar a mídia sintética de forma positiva. Eles estão trabalhando nos bastidores em parceria com organizações sem fins lucrativos, criando uma coalizão entre colegas do setor incluindo empresas como Adobe, BBC, CBC/Radio Canada, OpenAI, TikTok, Witness, entre outras. A ideia é usar essa estrutura para ajudar a orientar esforços contínuos para combater o abuso de imagem não consensual, contribuindo, por sua vez, para uma internet mais segura e igualitária. 

---

Com o apoio da Brivia Group, Coletiva.net cobre pela quinta vez o South by Southwest (SXSW). Neste ano, o evento volta a ser realizado totalmente de forma presencial em Austin, no Texas (Estados Unidos). De 10 a 14 de março a jornalista Gabriella Bordasch escreve para o portal sobre as principais atrações e bastidores do festival, além de abastecer as redes sociais com conteúdos exclusivos, bem como gravar drops de notícias do evento para a Coletiva.rádio.