Microsoft lança ferramenta para combater "deepfakes"

A Microsoft lançou novas ferramentas para detetar e evitar a criação de ‘deepfakes’, as montagens de vídeo ou fotos que manipulam a verdade, fenómeno que está a gerar particular preocupação com a aproximação das eleições presidenciais nos Estados Unidos.

As montagens consistem, por exemplo, em ‘colar’ a cabeça de uma pessoa no corpo de outra em vídeos ou fotografias, ou fazer uma pessoa dizer coisas que na verdade não disse.

Este tipo de criações podem transformar o significado de um momento, ou até criá-lo a partir do zero, de forma a difundir informações falsas ou prejudicar a reputação de figuras públicas.

Segundo noticia a agência AFP, a gigante tecnológica anunciou na segunda-feira que desenvolveu um ‘autenticador de vídeo’, que analisa fotografias e vídeos para determinar se estes foram manipulados com tecnologias de inteligência artificial (IA).

A ferramenta da Microsoft atribuiu uma ‘pontuação de confiança’ ao conteúdo analisado.

“No caso de um vídeo, a ferramenta fornece uma percentagem em tempo real durante a reprodução, ‘frame’ a ‘frame’”, destaca o comunicado.

O programa deteta o tratamento incorreto do conteúdo, identificando os limites mal desfocados, manchas inconsistentes ou cores invisíveis a ‘olho nu’.

Gigantes das tecnologias, das redes sociais e especialistas em IA estão a redobrar esforços meses antes das eleições presidenciais dos Estados Unidos, de forma a conter as campanhas influenciadoras criadas no exterior, mas também dentro do país, que procuram semear divisão e manipular os eleitores.

Em 2016, as presidenciais norte-americanas e o referendo sobre o Brexit no Reino Unido foram marcados por grandes e poderosas operações daquele género, organizadas a partir da Rússia.

De acordo com um estudo realizado na Universidade de Princeton e financiado pela Microsoft, uma centena de campanhas visaram trinta países entre 2013 e 2019, sendo que 93% destas envolveram a criação de conteúdos criados do zero e 74% distorceram factos.

"Os métodos de produção de ‘fake news’ vão tornar-se cada vez mais sofisticados", realça a empresa Redmond [perto de Seattle].

Esta empresa desenvolveu uma ferramenta integrada na sua plataforma ‘cloud’ [computação em nuvem] Azure, que adiciona metadados para certificar o conteúdo, e um leitor que pode ser adicionado num navegador de Internet e que confirma a autenticidade do conteúdo a partir desses metadados.