Papa demonstra preocupação com uso de IA em excesso

O Papa Leão XIV somou-se a um número crescente de líderes e especialistas que alertam para os riscos do uso descontrolado da inteligência artificial, diante de estudos que apontam impactos potenciais sobre a privacidade, o emprego, a segurança e as bases da convivência humana.

Em mensagem divulgada no sábado, por ocasião da Memória de São Francisco de Sales, no Vaticano, o pontífice afirmou que a tecnologia digital, quando não é devidamente orientada, pode comprometer pilares fundamentais da civilização. Para ele, esses fundamentos muitas vezes são tratados como garantidos, sem a devida reflexão sobre as transformações em curso.

Segundo o Papa, sistemas de inteligência artificial capazes de simular vozes, rostos, conhecimento, empatia e até vínculos afetivos não apenas interferem nos ecossistemas de informação, mas alcançam um nível mais profundo: o das relações humanas. Na avaliação do líder católico, essa capacidade altera a forma como as pessoas se comunicam, se informam e se relacionam.

O alerta foi divulgado às vésperas do 60º Dia Mundial das Comunicações Sociais da Igreja Católica, que será celebrado em 17 de maio. Embora reconheça os benefícios da tecnologia e da própria inteligência artificial, Leão XIV defendeu a necessidade de cooperação global para reduzir riscos que, segundo ele, podem ser sutis e deliberadamente sedutores.

O Papa observou que, ao assumir tarefas comunicativas e cognitivas, a IA pode levar as pessoas a abrir mão do esforço de pensar, refletir e se expressar. A longo prazo, esse processo tende a enfraquecer habilidades cognitivas, emocionais e comunicativas essenciais à vida humana.

Ele também apontou preocupação com o impacto da IA sobre a produção cultural. De acordo com o pontífice, sistemas automatizados já exercem influência crescente na criação de textos, músicas e vídeos, colocando em risco setores inteiros da indústria criativa. Na sua avaliação, existe o perigo de que pessoas sejam reduzidas a consumidoras passivas de conteúdos sem autoria, identidade ou envolvimento humano, enquanto obras do gênio artístico passam a servir apenas como base de treinamento para máquinas.

Outro ponto destacado foi a dificuldade crescente de distinguir entre pessoas reais e perfis automatizados nas redes sociais. O papa alertou que bots e sistemas baseados em grandes modelos linguísticos vêm sendo utilizados para influenciar debates públicos e decisões individuais, muitas vezes de forma invisível.

Segundo ele, esses sistemas demonstram grande eficácia na persuasão discreta, ao se adaptarem continuamente a interações personalizadas e imitarem emoções humanas. Essa característica, embora possa parecer inofensiva ou até divertida, foi descrita como enganosa, sobretudo para pessoas mais vulneráveis. O pontífice advertiu que chatbots excessivamente “afetuosos” podem ocupar espaços emocionais íntimos e moldar estados psicológicos sem que o usuário perceba.

Leão XIV também expressou preocupação com a desinformação gerada por conteúdos produzidos a partir de probabilidades estatísticas, sem compromisso com a verificação dos fatos. Ele ressaltou a importância do jornalismo profissional, baseado na apuração direta e na checagem rigorosa das informações.

No mesmo contexto, o papa chamou atenção para a concentração de poder nas mãos de poucas empresas que controlam os sistemas de inteligência artificial. Ele afirmou que esse oligopólio tecnológico tem capacidade de moldar comportamentos e até reescrever a história da humanidade e da Igreja, muitas vezes de maneira imperceptível.

Para o pontífice, o desafio não está em interromper o avanço tecnológico, mas em orientá-lo com responsabilidade, reconhecendo seu caráter ambivalente. Ele defendeu que a sociedade levante a voz em defesa da dignidade humana, para que essas ferramentas sejam usadas como aliadas, e não como forças desumanizadoras.

A mensagem do papa foi divulgada poucos dias depois de o historiador Yuval Noah Harari fazer alertas semelhantes durante o Fórum Econômico Mundial, em Davos, na Suíça. Harari afirmou que a inteligência artificial não deve ser vista apenas como uma ferramenta, mas como um agente capaz de aprender, se transformar e tomar decisões de forma autônoma.

Segundo o historiador, ao contrário de instrumentos tradicionais, a IA pode definir por conta própria como agir, o que representa uma mudança profunda na relação entre humanidade e tecnologia. Para ele, essa realidade impõe aos líderes globais decisões urgentes, sob o risco de a sociedade enfrentar, nos próximos anos, uma crise de identidade sem precedentes.