O Papa alerta para que as rápidas transformações em curso não prejudiquem a salvaguarda dos direitos humanos fundamentais, na Mensagem do Papa para o Dia Mundial da Paz que dedicou à Inteligência Artificial. Francisco pede que respeitem as instituições e as leis que promovem o progresso humano integral e sirvam a causa da fraternidade humana e da paz.

O Sumo Pontífice diz estar consciente dos desafios que se colocam, não apenas de ordem técnica, mas também antropológica, educacional, social e política.

“No início do novo ano, a minha oração é que o rápido desenvolvimento de formas de inteligência artificial (IA) não aumente as já demasiadas desigualdades e injustiças presentes no mundo, mas contribua para pôr fim às guerras e conflitos e para aliviar muitas formas de sofrimento que afligem a família humana”, escreve o Papa.

Limites e questões éticas

A mensagem sublinha que os algoritmos “não podem determinar o modo como entendemos os direitos humanos, nem pôr de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar para trás o passado”. Neste contexto, alerta para o impacto das novas tecnologias no âmbito laboral e para o risco destes avanços criarem “uma vantagem desproporcionada para poucos à custa do empobrecimento de muitos”.

A possibilidade de efetuar operações militares através de sistemas de controle remoto e as tecnologias emergentes no setor dos chamados "sistemas de armas letais autónomas", incluindo a utilização bélica da inteligência artificial, “é um grave motivo de preocupação ética”, uma vez que os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis.

Por isso, o Papa sublinha que “a exclusiva capacidade humana de julgamento moral e de decisão ética é mais do que um conjunto complexo de algoritmos e tal capacidade não pode ser reduzida à programação duma máquina que, por mais «inteligente» que seja, permanece sempre uma máquina”.

A loucura da guerra

“As aplicações técnicas mais avançadas não devem ser utilizadas para facilitar a resolução violenta dos conflitos, mas para pavimentar os caminhos da paz”, escreve o Papa. Por isso, “é imperioso garantir uma supervisão humana adequada, significativa e coerente dos sistemas de armas”.

Francisco preocupa-se com a possibilidade de armas sofisticadas caírem em mãos erradas, facilitando, por exemplo, ataques terroristas ou intervenções que visam desestabilizar instituições legítimas de Governo.

“O mundo não precisa que as novas tecnologias contribuam para o iníquo desenvolvimento do mercado e do comércio das armas, promovendo a loucura da guerra. Ao fazê-lo, não só a inteligência, mas também o próprio coração do homem, correrá o risco de se tornar cada vez mais «artificial»”, alerta o Santo Padre.

Por uma IA inclusiva e humana

Numa ótica mais positiva, o Papa propõe que a IA seja utilizada para promover o desenvolvimento humano integral, introduzindo inovações importantes na agricultura, na instrução e na cultura, par de “uma melhoria do nível de vida de inteiras nações e povos, do crescimento da fraternidade humana e da amizade social”.

No fundo, “a forma como utilizamos a IA para incluir os últimos, os irmãos e irmãs mais frágeis e necessitados, é a medida reveladora da nossa humanidade”, conclui Francisco. A Mensagem propõe um maior diálogo interdisciplinar “voltado para um desenvolvimento ético dos algoritmos – a algor-ética -, em que sejam os valores a orientar os percursos das novas tecnologias”.

Educação e pensamento crítico

A educação para o uso da IA deveria visar sobretudo a promoção do pensamento crítico.

“É necessário que os utentes das várias idades, principalmente os jovens, desenvolvam uma capacidade de discernimento no uso de dados e conteúdos recolhidos na web ou produzidos por sistemas de IA”, considera o Papa. Por isso, este desafio deve abranger as escolas, as universidades e as sociedades científicas, “chamadas a ajudar os estudantes e profissionais a assumir os aspetos sociais e éticos do progresso e da utilização da tecnologia.”

Francisco quer que as diretrizes éticas para a produção de formas de IA “não prescindam de considerar as questões mais profundas relativas ao significado da existência humana, à proteção dos direitos humanos fundamentais e à busca da justiça e da paz”, porque só assim a utilização da IA poderá contribuir para a criação dum mundo mais equitativo e humano.