Nos últimos tempos, afirmar que a Inteligência Artificial (IA) ultrapassou fronteiras é dizer pouco; o tema, até há poucos meses reservado a especialistas, tornou-se ubíquo, e ocupa hoje redes sociais, universidades, escritórios de advogados e gabinetes médicos.

De repente, plataformas geradoras de texto como o ChatGPT passaram a ser encaradas como uma certeza para o futuro e um risco para milhares de profissões. Do nada, plataformas de criação de imagens com base em texto, como o Midjourney e o Dall-E, tornaram-se um espaço criativo para curiosos digitais.

Era uma questão de tempo, portanto, até adicionar religião à equação.

Esta semana, surgiu na internet uma fotografia do Papa Francisco, 86 anos, vestido com um kispo branco comprido, a evocar a marca de luxo Balenciaga. Em menos de 24 horas, a imagem tornou-se viral e gerou acesos debate nas redes sociais.

Houve logo quem alertasse que a fotografia devia ser uma montagem, um fruto da Inteligência Artificial do Dall-E ou do Midjourney. Mas houve também quem acreditasse piamente que aquela era uma indumentária autêntica do líder da Igreja Católica.

Numa publicação no Twitter, já depois de ter sido revelada a verdade quanto à fotografia, a modelo norte-americana Chrissy Teigen confessou: “Pensei que o kispo puffer do Papa era real e não duvidei por um segundo sequer. Não estou preparada de maneira nenhuma para sobreviver ao futuro da tecnologia.”

A realidade é simples: o Papa Francisco – que teve alta hospitalar no sábado, depois de quatro dias internado com uma infeção pulmonar – nunca vestiu tal kispo. Tal como alguns internautas avisaram, a imagem foi gerada por via da plataforma de IA Midjourney. E tudo indica sem intuito doloso.

O criador da imagem, descobriu o “BuzzFeed”, é Pablo Xavier, um trabalhador de construção civil, de 31 anos, que, uma noite, após consumir drogas, começou a testar as respostas que a plataforma Midjourney dava aos seus pedidos mais inusitados.

“Estava a tentar encontrar maneira de criar algo engraçado, é o que costumo fazer”, explicou. “Tento fazer coisas engraçadas ou arte excêntrica – coisas psicadélicas. Tive então a ideia: devia fazer algo com o Papa. Depois, tudo me surgiu como água: ’O Papa num kispo puffer da Balenciaga, Moncler, andando pelas ruas de Roma, Paris. Coisas assim’.”

Assim que viu as imagens geradas pela plataforma Midjourney, o homem de Chicago pensou que eram “perfeitas”; publicou-as num grupo de Facebook dedicado à arte gerada por IA e no Reddit. E depois foi dormir. Quando acordou, já eram virais.

Ao “BuzzFeed”, o criador do “Papa Balenciaga” confessou ter ficado “assustado” por tanta gente ter acreditado na veracidade da imagem “sem questionar” a sua origem.

Pablo revelou ainda na mesma entrevista que começou a utilizar o Midjourney em novembro do ano passado, após ter perdido um irmão. “Tudo começou com isso, para lidar com o luto e a criar imagens do meu irmão”, revelou. “Depois apaixonei-me [pela plataforma].”

Uma pausa e uma chamada de atenção

Num artigo publicado há dois dias, o site WWD apontava que a imagem do "Papa Balenciaga" serve de "chamada de atenção" para os riscos de manipulação de imagens na era da Inteligência Artificial.

Foi, aliás, na sequência do frenesim em torno da imagem falsa de Francisco que pioneiros da IA como Elon Musk, dono da Tesla, e Steve Wozniak e Jaan Tallinn, respetivamente cofundadores da Apple e do Skype, assinaram há alguns dias uma carta aberta na qual pedem às empresas que imponham limites ao desenvolvimento desta tecnologia.

Na carta, subscrita por 1.125 especialistas da área da Inteligência Artificial, pede-se uma pausa nos avanços tecnológicos "até estarmos confiantes de que os seus efeitos serão positivos e de que os riscos associados serão geríveis", invocando perigos "para a sociedade e toda a humanidade", entre eles a disseminação de desinformação e a automatização de postos de trabalho.

Os especialistas esclarecem, na mesma carta, que esta pausa necessária não deve aplicar-se ao desenvolvimento da IA genérica, mas sim marcar um passo atrás da atual "corrida perigosa" à tecnologia, que permite que qualquer pessoa, como aconteceu com Pablo Xavier, tenha poderes ilimitados na era da internet.

[Notícia atualizada às 10h15 de 3 de abril de 2023]