A propósito da encíclica de Papa Leão XIV sobre inteligência artificial, o CEO do Centro para a Inteligência Artificial Responsável, Paulo Dimas, alerta para os riscos e oportunidades da tecnologia, defendendo que deve manter o ser humano no centro. Em entrevista à Renascença, destaca o potencial da IA na saúde, mas também os perigos das armas autónomas e do agravamento das desigualdades. A propósito da encíclica de Papa Leão XIV sobre inteligência artificial, Paulo Dimas, o CEO do Centro para a Inteligência Artificial Responsável, defende, em entrevista à Renascença, que a tecnologia não é neutra e que o futuro passa por "modelos mais abertos, transparentes e centrados no ser humano". Entre os riscos, aponta a concentração de poder nas grandes tecnológicas e o uso militar da IA. Entre as oportunidades, destaca aplicações na saúde capazes de transformar e salvar vidas. Já segue a Informação da Renascença no WhatsApp? É só clicar aqui A entrada da inteligência artificial (IA) na agenda do Vaticano surpreendeu Paulo Dimas, que vê na posição de Papa Leão XIV um apelo para recentrar a tecnologia nas pessoas. O especialista considera que, à semelhança do que aconteceu durante a Revolução Industrial, o desafio atual é evitar que o avanço tecnológico sirva apenas o enriquecimento de poucos e garantir que continua alinhado com valores éticos e humanistas. Ao mesmo tempo, Paulo Dimas sublinha que a inteligência artificial pode representar um instrumento de enorme impacto positivo, da descoberta mais rápida de vacinas ao restauro da voz de pessoas afetadas por doenças neurodegenerativas ou AVC. Ainda assim, deixa um aviso: a mesma tecnologia que pode melhorar vidas também pode agravar desigualdades, concentrar poder nas mãos de poucos e abrir caminho a cenários “assustadores”, como o recurso a armas autónomas sem intervenção humana. Como é que olha para o facto de o Papa e a Igreja quererem olhar, através de uma encíclica, para a inteligência artificial? Foi uma surpresa ver como a inteligência artificial está na agenda do Papa. Já o Papa Francisco tinha falado muito sobre inteligência artificial numa cimeira do G7, especialmente na perspetiva dos riscos, nomeadamente ao nível das armas autónomas. É muito bom ter alguém como o Papa a trazer esta perspetiva humanitária e global para o tema. Fiquei a saber que o Papa Leão XIV se inspirou em Leão XIII, que teve um pensamento muito avançado no contexto da Revolução Industrial, no sentido de voltar a colocar o ser humano no centro do avanço da nossa espécie. Trabalho em inteligência artificial há 12 anos e nunca anteciparia que estaríamos agora, em 2026, com o Papa a assumir esta agenda para garantir que continuamos centrados no ser humano e não na tecnologia. Muitas vezes, nestas revoluções tecnológicas, perde-se a perspetiva do ser humano e o foco passa a ser o enriquecimento de poucos. Papa Leão XIV pede para "desarmar a IA” O Papa Leão XIV escreve que a tecnologia, como tal, não é contra a pessoa nem “um mal em si mesma”, mas também “não é neutra, porque assume a face daqueles que a idealizam, financiam, regulam e utilizam”. Não sei se partilha a ideia de que a tecnologia não é neutra, mas, assumindo que sim, que caminho está a seguir? É impossível a tecnologia ser neutra, mas ela pode ser transparente. A tecnologia reflete sempre os princípios éticos de quem a cria, às vezes de forma um pouco condicionada. A inteligência artificial evoluiu muito rapidamente nos últimos três ou quatro anos e é designada como generativa. Não é completamente controlável nem determinística. Podemos ter uma IA que diz mentiras; ela não sabe que está a mentir, mas está a dizer mentiras. O importante é garantir princípios éticos transparentes e exigir que esses princípios sejam conhecidos por cada um destes fabricantes. Temos de estimular uma IA aberta, onde toda a sociedade possa colaborar no seu desenvolvimento. O Papa apela muito a que este poder não esteja centralizado em alguns, nem no “Silicon Valley”, mas que esteja distribuído pela sociedade, por diferentes tipos de atores. No Centro para a IA Responsável temos estimulado muito a criação de uma IA aberta e participativa, como é o caso do LLM português AMALIA, que está a ser desenvolvido por vários centros de investigação em Portugal, de forma completamente aberta e colaborativa, com total transparência. O Papa faz analogia entre a Torre de Babel e a reconstrução das muralhas de Jerusalém. Eu próprio não conhecia essa história das muralhas, mas percebi que foram construídas de forma colaborativa, com participação de todos. É uma metáfora interessante para aquilo que deve ser a inteligência artificial: algo construído de forma aberta, colaborativa e participativa, e não reservado a um pequeno grupo de poderosos. Na encíclica pede-se também que a IA sirva para construir a partir do bem e permaneça humana. É possível? Sim, claro. A inteligência artificial não é aquilo que vai extinguir a nossa espécie, como por vezes se diz numa perspetiva catastrofista. Isso não faz sentido. Mas é, sim, uma tecnologia que nos pode ajudar a descobrir a próxima vacina, no caso de uma pandemia, mais rapidamente, a combater as alterações climáticas e a dar voz a pessoas que a perderam. No Centro para a IA Responsável temos um projeto que restaura a voz de pessoas que a perderam devido a doenças neurodegenerativas ou a um AVC, e isso tem sido profundamente estimulante na vida dessas pessoas. Temos o caso de um utilizador que tinha a eutanásia marcada e que, quando recuperou a voz graças à inteligência artificial e voltou a poder falar com o seu filho, adiou a decisão e, felizmente, ainda está vivo. Neste caso, um outro utilizador diagnosticado com esclerose lateral amiotrófica consegue, graças à inteligência artificial, continuar a falar com o seu filho e a deixar as suas memórias. São estas histórias que nos inspiram a trabalhar na inteligência artificial e a utilizá-la para o bem. Claro que também pode ser usada para o mal. O exemplo que o Papa refere na encíclica das armas autónomas é talvez o mais assustador, porque retira qualquer tipo de empatia à guerra. O Papa refere isso. A partir do momento em que existe uma arma autónoma, deixa de haver alguém a decidir que outra pessoa vai ser atingida e morrer. Passa a existir uma guerra sem empatia humana, o que é altamente perigoso. Numa outra passagem, Leão XIV diz que o conhecimento e a tecnologia não devem estar concentrados nas mãos de poucos porque alimentam “o fosso entre os incluídos e os excluídos da revolução digital”. Quando olhamos para o aumento das desigualdades, não é isso mesmo que já estamos a assistir, com os mais ricos do planeta a controlarem as grandes tecnológicas, com fortunas superiores às de muitos países? Claro que sim. O que referi há pouco - trabalharmos em colaboração e de forma aberta - é a estratégia para contrariar isso. A metáfora das muralhas de Jerusalém ajuda-nos a pensar numa inteligência artificial eticamente responsável, que é aquela que escolhemos usar no final. A inteligência artificial responsável não é apenas uma obrigação ética e moral, é também uma vantagem competitiva para os produtos que a utilizem. Por um lado, temos uma corrida à supremacia em inteligência artificial, muito protagonizada pelos Estados Unidos e pela China. Mas a Europa pode ser um porto seguro: não precisa necessariamente de liderar essa corrida, se isso significar abdicar dos princípios. O mais importante é termos uma inteligência artificial alinhada com os nossos valores e capaz de responder a desafios na saúde, no clima e na educação. Não precisamos de ter a inteligência artificial mais avançada para resolver esses problemas. Precisamos, isso sim, de trabalhar de forma colaborativa, aberta, transparente e alinhada com os nossos princípios. Vão ser os mais vulneráveis a pagar o preço de uma suposta otimização da espécie, como se escreve na encíclica? Se promovermos o uso e a adoção de uma inteligência artificial responsável e soberana - e já existem várias iniciativas, nomeadamente ao nível da União Europeia, para devolver esse poder aos Estados -, então, a partir do momento em que tenhamos essa opção de escolha entre diferentes tipos de inteligência artificial, isso pode ser democratizado. Mas isso nunca é totalmente assim. A inteligência de fronteira, a mais avançada, estará sempre nas mãos dos mais poderosos, dos que têm mais capital. Essas são as injustiças do planeta e isso já se vê. Daí também o alerta do Papa, sobre o aumento do fosso, no curto prazo, entre quem tem acesso a essa inteligência artificial mais avançada e quem não tem. É um processo evolutivo e vamos tendo acesso a esses avanços, mas esse “gap” vai continuar a existir, o que é preocupante, sobretudo quando olhamos para países com menos recursos. O Papa diz que a IA não tem consciência moral, mas vai impondo uma moral que não é discutida. Que moral é essa e de quem é? Essa moral resulta, por um lado, dos dados que são usados, dos exemplos dados à inteligência artificial e da quantidade de dados que ela ingere. É, se quisermos, a moral da nossa espécie, da nossa criação digital, porque estamos a falar de dados essencialmente digitais. Mas é também uma moral que resulta de um processo de alinhamento da inteligência artificial. Se não existir esse segundo passo, a IA tenderia a reproduzir todos os vieses da sociedade. A primeira encíclica de Leão XIV, “Magnifica humanitas”, é dedicada à “salvaguarda da pessoa humana na era da Inteligência Artificial”.. Foto: Maurizio Brambatti/EPA Estamos de facto a criar, com a inteligência artificial, novas formas de escravatura, como é escrito neste documento, relacionadas com quem trabalha para extrair as “terras raras” necessárias à tecnologia? Estamos, claramente. É muito bem observada esta ideia de escravatura, aquilo a que se chama o colonialismo dos dados. Estamos a usar regiões do planeta onde a mão de obra é mais barata para empregar muitos jovens e muitas mulheres que estão diariamente, a uma escala enorme, a gerar e a etiquetar dados que depois são usados para que a inteligência artificial esteja alinhada com esses princípios de que falávamos. É uma nova profissão desta era - e uma profissão arrepiante. Estas pessoas estão expostas aos mais diversos tipos de estímulos visuais, muitas vezes aberrantes, como casos de pedofilia, acidentes, pornografia, entre outros conteúdos que têm de ser filtrados pela inteligência artificial. Passam os dias inteiros expostas a este tipo de conteúdos, muitas vezes mal pagas, e muitas delas são jovens e mulheres. O Papa faz muito bem em chamar a atenção para este ponto. As grandes empresas tecnológicas americanas, as mais responsáveis, referem que, quando lançam uma nova inteligência artificial, contratam estes trabalhadores segundo princípios éticos. Mas nem sempre é assim, ou nem todas o fazem. Estamos perante uma realidade nova, infelizmente trazida por estes avanços da inteligência artificial. Encíclica Magnifica humanitas Lara Castro