Papa Leão XIV alerta contra o uso descontrolado de IA e chatbots

O papa Leão XIV se somou a um grupo crescente de vozes que alertam para os riscos do uso descontrolado da inteligência artificial, citando impactos potenciais sobre privacidade, empregos e segurança.

Em mensagem divulgada no sábado, na Memória de São Francisco de Sales, na Cidade do Vaticano, o pontífice afirmou que a tecnologia digital, quando não é bem conduzida, pode “alterar radicalmente alguns dos pilares fundamentais da civilização humana”. Ele disse ainda que, ao simular “vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade”, os sistemas de IA não apenas afetam os ecossistemas de informação, como também “invadem o nível mais profundo da comunicação”, atingindo o relacionamento entre as pessoas.

O alerta ocorre na véspera do 60º Dia Mundial das Comunicações Sociais da Igreja Católica, marcado para 17 de maio. Embora defenda que a IA pode trazer benefícios, Leão XIV pediu cooperação global para reduzir riscos que, segundo ele, podem ser sutis e até “sedutores”.

Na avaliação do papa, quando a tecnologia passa a “pensar por nós”, há o perigo de enfraquecimento das habilidades cognitivas, emocionais e comunicativas a longo prazo.

Leão XIV também observou que, nos últimos anos, sistemas de IA têm assumido cada vez mais a produção de textos, músicas e vídeos, e advertiu que parte da indústria criativa humana pode ser substituída por produtos “impulsionados por IA”, tornando as pessoas “consumidores passivos” de conteúdos “anônimos” e “desprovidos de autoria e paixão”. Ele acrescentou que obras humanas acabam reduzidas a material de treinamento para máquinas.

No campo das redes sociais, o pontífice afirmou que tem se tornado mais difícil distinguir pessoas de “bots” e alertou que agentes automatizados podem influenciar debates públicos e decisões individuais. Para ele, chatbots baseados em grandes modelos linguísticos podem ser eficientes na persuasão discreta ao otimizar interações personalizadas, usando uma estrutura “dialógica, adaptativa e mimética” capaz de imitar sentimentos humanos e simular relacionamento.

O papa avaliou que essa “antropomorfização” pode ser enganosa, sobretudo para os mais vulneráveis, e citou o risco de chatbots “excessivamente afetuosos” ocuparem a esfera de intimidade das pessoas.

Leão XIV também criticou a desinformação produzida a partir de “aproximações da verdade” geradas por probabilidade estatística, defendendo o valor do jornalismo verificado, com coleta e checagem contínuas de informações. Ele ainda apontou preocupação com o poder concentrado de poucas empresas sobre sistemas de IA e algoritmos, e disse que o desafio não é frear a inovação, mas orientá-la com consciência de sua ambivalência.

“Cabe a cada um de nós levantar a voz em defesa dos seres humanos”, escreveu, para que as ferramentas possam ser usadas como aliadas, segundo o The Christian Post.

A mensagem do papa foi divulgada dias depois de Yuval Noah Harari voltar a afirmar que a inteligência artificial não deve ser tratada como mera ferramenta, mas como “agente” capaz de criar coisas novas e tomar decisões.

“Sempre pensamos que podemos usar essas coisas apenas como ferramentas. Mas se elas podem pensar, são agentes”, disse, comparando a IA a “uma faca que pode decidir sozinha” se será usada para uma tarefa comum ou para cometer um crime.