Papa Leão XIV pede que IA seja ‘desarmada’

O papa Leão XIV levou o assunto da inteligência artificial para o centro de discussões da Igreja Católica ao inserir o tema na primeira encíclica do seu pontificado nesta segunda-feira, 25. Ele alertou sobre os perigos da IA sem regulação. Intitulada Magnifica Humanitas , o texto trata da “proteção da pessoa humana no tempo da inteligência artificial”. E, embora a IA seja o gancho do texto, os problemas nos quais Leão concentra sua atenção são mais antigos: desigualdade, guerra, erosão da democracia e a concentração de poder nas mãos daqueles que não necessariamente se importam se a humanidade, em seu conjunto, continuará magnífica. As encíclicas são uma forma dos papas apresentarem seus ensinamentos aos cerca de 1,4 bilhão de membros da Igreja Católica e, normalmente, delineiam suas prioridades ao mesmo tempo em que destacam os principais problemas da sociedade. Na revolução industrial, Leão XIII defendeu melhores condições de trabalho e, em meio à Guerra Fria, João XXIII cobrou desarmamento nuclear. E, em 2015, papa Francisco frisou a urgência do combate às mudanças climáticas. E, para o atual pontífice, a IA é o principal desafio do mundo atualmente. Leão XIV defende o “desarmamento” da IA, ao afirmar que alguns sistemas autônomos de armas estão “praticamente além de qualquer alcance humano” para controle. O que o papa diz “Desarmar a IA significa libertá-la da mentalidade de competição armada”, escreve. “Desarmar não significa rejeitar a tecnologia, mas impedir que ela domine a humanidade”, acrescentando que a tecnologia deve ser “amigável ao ser humano”, acessível a todos e aberta à discussão e ao debate. O papa acredita que a propriedade dos dados de IA não fica exclusivamente nas mãos privadas e sugere a desaceleração da competição entre as empresas e cobra que os governos regulem, de forma rigorosa, o desenvolvimento dos sistemas de inteligência artificial. “O uso da IA nunca é uma questão puramente técnica: ao interferir em processos que afetam a vida das pessoas, ela incide sobre direitos, oportunidades, reputação e liberdade. Decisões delicadas que dizem respeito ao trabalho, ao crédito, ao acesso a serviços e à reputação das pessoas correm o risco de ser confiadas inteiramente a sistemas automatizados que desconhecem ‘a compaixão, a misericórdia, o perdão e, sobretudo, a abertura à esperança de mudança da pessoa’, podendo assim gerar novas formas de marginalização. Podem existir usos manifestamente anti-humanos, como a manipulação da informação ou a violação da privacidade, mas pode também haver uma ameaça menos evidente, quando os sistemas de IA apresentando-se como neutros e objetivos, refletem e reforçam estereótipos ou posições ideológicas daqueles que os projetaram e treinaram”, escreve o pontífice. Em sua encíclica ele também pede desculpas pela longa demora da Igreja Católica em condenar a escravidão, descrevendo-a como “uma ferida na memória cristã”, e fala sobre as “novas formas de escravidão” decorrentes da economia digital. E segue: As novas expressões de escravatura alimentam-se de cadeias econômicas e infraestruturas digitais. É, portanto, necessário trabalhar em várias frentes”. Entre as frentes sugeridas por Leão XIV, estão: – Tornar mais rigorosa a transparência das fileiras que sustentam a indústria tecnológica e a economia digital, para que nenhuma vantagem competitiva seja construída sobre a exploração invisível; – Exigir que empresas e investidores adotem critérios claros de averiguação ética preventiva (due diligence), priorizando a proteção dos trabalhadores; o combate ao trabalho forçado; o impacto social dos modelos de empresa baseados em dados; – Chamar as plataformas digitais a cooperarem, de forma responsável, com as autoridades e a sociedade civil para impedir que instrumentos de comunicação, pagamento e definição de perfis se tornem canais de recrutamento e controle das vítimas; – Fazer com que, a partir dessas escolhas convergentes, o ambiente digital deixe de ser um espaço predatório e passe a ser um espaço de proteção, prevenção e promoção da dignidade. Leão, que logo após ser eleito em maio do ano passado afirmou considerar a IA a maior ameaça à humanidade na atualidade, apresentou pessoalmente o documento nesta segunda-feira durante um evento no Vaticano. Entre os presentes estava Christopher Olah, cofundador da Anthropic . Foto principal: Papa Leão XIV assina a encíclica apresentada nesta segunda-feira, 25. Crédito: Vatican Media/divulgação.