Textos dos dias que correm

Evangelizar os robots: Novo desafio para a Igreja
Os pobres num mundo dominado pelos megadados (“big data”)

Na era da inteligência artificial (IA), a experiência humana está a mudar profundamente, muito mais do que a esmagadora maioria da população mundial consegue ver e compreender. A verdadeira explosão da IA tem um forte impacto sobre os nossos direitos no presente e sobre as nossas oportunidades futuras, determinando processos de decisão que, numa sociedade moderna, dizem respeito a todos. A IA representa um desafio e uma oportunidade também para a Igreja: é uma questão de justiça social. Com efeito, a investigação urgente, ávida e não transparente dos megadados, isto é, dos dados necessários para alimentar os motores de aprendizagem automática pode conduzir à manipulação e à exploração dos pobres. Além disso, os mesmos propósitos para os quais são treinados os sistemas de IA podem conduzi-los a interagir de formas imprevisíveis para garantir que os pobres sejam controlados, vigiados e manipulados.

Atualmente, os criadores de sistemas de IA são cada vez mais os árbitros da verdade para os consumidores. No contexto dos progressos do século XXI, a experiência e a formação da Igreja deveriam ser um dom essencial oferecido aos povos para os ajudar a formular um critério que os torne capazes de controlar a IA, mais do que ser por ela controlados. A Igreja é chamada também à reflexão e ao empenhamento. Nas arenas políticas e económicas em que a IA é promovida devem encontrar espaço as considerações espirituais e éticas. A Igreja deve empenhar-se em informar e inspirar os corações de muitos milhares de pessoas envolvidas na criação e elaboração dos sistemas de IA. Em última análise, são as decisões éticas a determinar e enquadrar que problemas enfrentará um sistema de IA, como vai ser programado, e como devem ser recolhidos os dados para alimentar a aprendizagem automática. Podemos ler o desafio daquela que poderemos definir como a “evangelização da IA” como uma combinação entre as recomendações do papa Francisco para olhar o mundo a partir da periferia, e a experiência dos jesuítas do século XV, cujo método pragmático de influenciar quem é influente poder-se-ia hoje reformular como partilhar o discernimento com os cientistas dos dados.

Benefícios

Silenciosamente, mas rapidamente, a IA está a remodelar por inteiro a economia e a sociedade: o modo como votamos e aquele como é exercido o governo, o algoritmo da “polícia preditiva”, a maneira como os juízes emitem as sentenças, o modo como acedemos aos serviços financeiros e a nossa pontuação de crédito, os produtos e serviços que adquirimos, as habitações, os meios de comunicação que utilizamos, as notícias que lemos, a tradução automática de voz e texto. A IA projeta os nossos automóveis, ajuda a guiá-los e a orientá-los no território, estabelece como obter um empréstimo para os comprar, decide que estradas devem ser reparadas, apura se violámos o código da estrada e faz-nos também saber se, tendo-o feito, teremos de acabar na prisão. Estes são apenas alguns das numerosas contribuições da IA que já estão a acontecer.

Os investigadores Mark Purdy e Paul Daugherty escrevem: «Prevemos que o impacto das tecnologias de inteligência artificial sobre as empresas induzirá um aumento da produtividade do trabalho até 40%, permitindo às pessoas fazer um uso mais eficiente do seu tempo». O Banco Mundial está a explorar os benefícios que a IA pode prestar ao desenvolvimento. Outros observadores identificam na agricultura, no aprovisionamento dos recursos e na assistência de saúde os setores das economias em vias de desenvolvimento que extrairão grande benefício da aplicação da IA. A inteligência artificial também contribuirá notavelmente para reduzir o inquinamento e o desperdício de recursos.

A inteligência artificial para a justiça social

A IA pode sem dúvida conferir benefícios à sociedade, mas por outro lado coloca também questões importantes de justiça social. Neste campo, a Igreja tem a oportunidade e a obrigação de empenhar o seu ensinamento, a sua voz e o seu prestígio em relação a algumas questões que se perfilam como fundamentais para o futuro. Entre estas deve indubitavelmente ser compreendido o enorme impacto social das repercussões que a evolução tecnológica terá sobre o emprego de milhares de milhões de pessoas durante as próximas décadas, criando problemáticas conflituais e uma posterior marginalização dos mais pobres e vulneráveis.

Impacto sobre o emprego

Muito já foi feito para medir o impacto da IA e da robótica sobre o emprego, sobretudo após o importante artigo de 2013 em que Osborne e Frey estimavam que 47% dos postos de trabalho nos EUA arriscavam a ser automatizados nos 20 anos seguintes. Os estudos e o debate científico especificaram a natureza e os contornos do fenómeno: a cessação total ou parcial de atividades laborais existentes, a sua repercussão em todos os setores e nas economias desenvolvidas, emergentes e em vias de desenvolvimento. É verdade que fazer previsões exatas sobre este tema é difícil; mas um recente relatório do McKinsey Global Institute reporta uma análise a meio termo. 60% das ocupações possuem pelo menos 30% de atividades laborais passíveis de automatização. Por outro lado, esta abrirá as portas a novas ocupações que hoje não existem, tal como aconteceu, em consequência das novas tecnologias, também no passado. As previsões indicam que a partir de 2030 um número compreendido entre 75 e 375 milhões de trabalhadores (ou seja, entre 3% e 14% da força de trabalho global) terá de mudar as suas categorias ocupacionais.

Códigos e preconceitos

O código de programação é escrito por seres humanos. A sua complexidade pode por isso acentuar os defeitos que inevitavelmente qualquer tarefa que se execute. Os preconceitos e a parcialidade na redação dos algoritmos são inevitáveis. E podem ter efeitos muito negativos sobre os direitos individuais, sobre as opções, sobre a colocação dos trabalhadores e sobre a proteção dos consumidores. Com efeito, os investigadores relevaram preconceitos de vário género presentes nos algoritmos, em programas (“software”) adotados para as admissões na universidade, recursos humanos, classificação (“rating”) de crédito, banca, sistemas de apoio à infância, dispositivos de segurança social e outros. Os algoritmos não são neutros. A crescente dependência que as dimensões sociais e económicas têm da IA confere um enorme poder àqueles que programam os algoritmos.

Risco de marginalização dos vulneráveis

Uma análise do impacto dos megadados e da IA a nível social demonstra que a sua tendência a tomar decisões na base de perfis insuficientes e validações limitadas comporta a posterior marginalização dos pobres, dos indigentes e das pessoas vulneráveis.

Envolvimento das sociedades e dos governos

Nos últimos anos assistimos a um crescente aumento de pedidos de intervenção para garantir um controlo e a presença dos valores humanos no desenvolvimento da IA. Um progresso significativo foi realizado em maio de 2019, quando os 35 países membros da Organização para a Cooperação e Desenvolvimento Económico (OCSE) assinaram um documento que estabelece os “Princípios da OCSE sobre a Inteligência Artificial”. Estes integram as Linhas Orientadoras Éticas para uma IA confiável”, adotadas em abril do mesmo ano  pelo grupo de peritos de IA instituído pela Comissão Europeia. O objetivo do documento da OCSE é promover uma IA inovadora e confiável, respeitosa dos direitos humanos e dos valores democráticos. Para este objetivo, identifica cinco princípios complementares entre eles, e cinco recomendações relativas às políticas nacionais e à cooperação internacional. Os princípios são: favorecer o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar; respeitar os direitos humanos, o Estado de direito, os princípios democráticos; assegurar sistemas transparentes e compreensíveis; garantir segurança, proteção e avaliação dos riscos; afirmar a responsabilidade de quem os desenvolve, distribui e administra. As recomendações são: investir na investigação e no desenvolvimento da IA; promover ecossistemas digitais de IA; criar um ambiente político favorável à IA; fornecer às pessoas as devidas competência com vista à transformação do mercado de trabalho; desenvolver a cooperação internacional para uma IA responsável e confiável.

Em junho de 2019, o G20 retomou os princípios OCSE ao adotar os Princípios do G20 sobre a IA, não vinculativos. O desafio para os próximos anos é dúplice: a posterior difusão destes ou de análogos princípios em toda a comunidade internacional, e o desenvolvimento de iniciativas concretas para colocar em prática tais princípios no interior do G20, e através do Observatório das políticas em matéria de IA da OSCE, criado recentemente. Para a Igreja abre-se agora a oportunidade de refletir sobre estes objetivos políticos e intervir em sedes locais, nacionais e internacionais para promover uma perspetiva coerente com a sua doutrina social.

“Evangelizar a IA”?

Por muito importantes que sejam as sugestões acima mencionadas a nível político e de empenhamento social, permanece o facto de a IA ser substancialmente composta por sistemas singulares individuais de projeto, programação, recolha e elaboração dos dados. Tudo processos fortemente condicionados por indivíduos. Serão as suas mentalidades e decisões a determinar em que medida, no futuro, a IA adotará critérios éticos adequados e centrados no ser humano. Atualmente essas pessoas constituem uma elite técnica de programadores e peritos de dados, provavelmente composta por um número que se aproxima mais das centenas de milhar do que de milhões. Aos cristãos e à Igreja abre-se uma possibilidade para a cultura do encontro, por meio da qual viver e oferecer uma autêntica realização pessoal a esta comunidade específica. Levar aos peritos de dados e aos engenheiros de programas os valores do Evangelho e da profunda experiência da Igreja na ética e na justiça social é uma bênção para todos, e é também a maneira mais plausível para mudar para melhor a cultura e a prática da inteligência artificial. A evolução da IA contribuirá em grande medida para plasmar o século XXI. A Igreja é chamada a escutar, a refletir e a empenhar-se, propondo um enquadramento ético e espiritual à comunidade da IA, e deste modo a servir a comunidade universal. Seguindo a tradição da “Rerum novarum”, pode dizer-se que aqui há um chamamento à justiça social. Há a exigência de um discernimento. A voz da Igreja é necessária nos debates políticos em curso, destinados a definir e executar os princípios éticos para a IA.


Antonio Spadaro, Paul Twomey
In Avvenire
Trad.: Rui Jorge Martins
Publicado pelo SNPC em 17.01.2020