Papa alerta para "persuasão oculta" e falta de transparência na IA

O Papa Leão XIV voltou hoje a alertar para os perigos da inteligência artificial (IA) e para a “ausência de transparência na criação dos algoritmos” que regulam o funcionamento dos diversos ‘chatbots’.

“São sobretudo os ‘chatbots’ baseados em grandes modelos de linguagem (LLM)”, como o ChatGPT ou o Gemini, “que se revelam particularmente eficazes na persuasão oculta”, denunciou o pontífice norte-americano, citado pela agência de notícias francesa AFP.

Desde que foi eleito chefe da igreja católica em maio de 2025, Leão tem alertado repetidamente para os riscos da IA.

Numa mensagem por ocasião do Dia Mundial das Comunicações Sociais, Leão escreveu que “os modelos de IA são moldados pela visão do mundo daqueles que os constroem”.

Tais modelos podem “impor modos de pensar ao reproduzirem os estereótipos e preconceitos presentes nos dados que exploram”, alertou.

O Papa criticou igualmente os “sistemas que vendem uma probabilidade estatística” como conhecimento, o que a IA faz, oferecendo, “no máximo, aproximações”.

Leão XIV expressou também preocupação pelo facto de por trás da “enorme força invisível” que afeta toda sociedade “existirem apenas algumas empresas”, temendo um controlo da IA por um pequeno número de interesses.

“O desafio que nos espera não é travar a inovação digital, mas governá-la, tendo consciência do seu caráter ambivalente”, afirmou.

Para alcançar este resultado, defendeu que “é cada vez mais urgente introduzir nos sistemas educativos de todos os níveis a literacia para os media, para a informação e para a IA”.

“A revolução digital exige uma literacia digital (...) para compreender como os algoritmos moldam a nossa perceção da realidade”, afirmou.

Na mensagem com o título “Preservar vozes e rostos humanos”, Leão XIV disse que os seres humanos não são “uma espécie feita de algoritmos bioquímicos, definidos antecipadamente”.

“Cada um de nós tem uma vocação insubstituível (…) que se manifesta precisamente na comunicação com os outros. (…) Precisamos de preservar o dom da comunicação como a mais profunda verdade do homem, à qual devemos orientar também toda a inovação tecnológica”, acrescentou.

Há um mês, Leão XIV já tinha denunciado a corrida à IA no domínio militar, considerando a “delegação às máquinas de decisões sobre a vida e a morte das pessoas” como uma “espiral destrutiva”.

Foto: © Edgar Beltrán | Wikimedia