Durante a apresentação da primeira encíclica do Papa Leão XIV, Magnifica Humanitas, o cofundador da Anthropic, Christopher Olah, apontou três grandes desafios éticos impostos pelo desenvolvimento da inteligência artificial (IA) e pediu um discernimento profundo sobre seu futuro.
Em 25 de maio, dirigindo-se a representantes dos meios acadêmico, diplomático e religioso reunidos no Salão do Sínodo do Vaticano, Olah afirmou que as questões levantadas pela IA “são maiores do que a comunidade de pesquisa” e não podem ser deixadas apenas nas mãos de cientistas ou empresas de tecnologia.
“Precisamos de mais pessoas do mundo — comunidades religiosas, sociedade civil, acadêmicos, governos e, de fato, todas as pessoas de boa vontade — para fazer o que Sua Santidade fez aqui: levar isso a sério, observar de perto e empurrar os acontecimentos em uma direção melhor”, declarou.
Olah iniciou suas observações reconhecendo que até mesmo os laboratórios de IA mais avançados, incluindo a Anthropic, operam sob incentivos econômicos, geopolíticos e pessoais que podem entrar em tensão com o bem comum.
“A pressão para permanecer comercialmente viável e para permanecer na fronteira da pesquisa; pressão geopolítica e as pressões mais antigas e simples do orgulho e da ambição” inevitavelmente influenciam aqueles que desenvolvem essa tecnologia, observou.
Consequentemente, ele ressaltou a importância de ter vozes externas capazes de questionar e supervisionar o desenvolvimento da IA.
“Se queremos que essa tecnologia dê certo, é extremamente importante que haja pessoas fora desses incentivos — pessoas que se importam com as coisas dando certo e insistem na segurança, que estão prestando muita atenção, que estão dispostas a dizer coisas difíceis”, observou.
Nesse contexto, Olah considerou o discernimento pedido pelo Papa Leão XIV como “profundamente oportuno” e delineou três grandes questões onde a voz da Igreja é necessária.
Dever para com os pobres do mundo
A primeira grande preocupação levantada por Olah foi o impacto da IA no trabalho e nas desigualdades globais.
“O desenvolvimento da IA está concentrado em um punhado de nações ricas. Como podemos garantir que os ganhos da IA sejam compartilhados globalmente?”, questionou.
Ele alertou para a “possibilidade real” de que a IA possa “deslocar o trabalho humano em uma escala muito grande”, o que tornaria o apoio aos trabalhadores afetados “um imperativo moral de proporções históricas”.
No entanto, Olah observou que existe um desafio ainda mais complexo: a ausência de mecanismos capazes de distribuir os benefícios econômicos de forma justa.
“Não temos um mecanismo para isso. É um problema não resolvido, e é o tipo de problema que a Igreja historicamente se recusou a deixar o mundo ignorar”, disse.
Redescobrir e repensar o que significa florescer como ser humano
A segunda consideração apresentada pelo cofundador da Anthropic foi a necessidade de abordar o desenvolvimento tecnológico sob a perspectiva do florescimento humano e familiar.
“Se os modelos de IA vão ser difundidos, como é para os humanos, famílias e o mundo florescerem?”, perguntou. “Essas não são questões que um laboratório pode responder”, continuou.
Olah observou que muitos pais já estão preocupados com o impacto da tecnologia nas mentes de seus filhos, enquanto numerosas pessoas se sentem incertas em relação ao futuro de seus empregos.
A esse respeito, ele destacou o papel da Igreja, que, segundo disse, passou milênios refletindo sobre a dignidade humana e o sentido da vida. Olah enfatizou a necessidade de a Igreja continuar fazendo isso “neste novo momento da história”.
A necessidade de discernimento por parte dos desenvolvedores de modelos de IA
A terceira preocupação levantada por Olah relacionou-se à própria natureza dos sistemas de IA, um aspecto que, segundo ele, permanece misterioso, mesmo para aqueles envolvidos em seu desenvolvimento.
“Sou um cientista. Lidero uma equipe de pesquisa que estuda a estrutura interna desses modelos — o que está realmente acontecendo dentro deles. E serei honesto: continuamos encontrando coisas que são misteriosas, até mesmo perturbadoras”, afirmou.
Entre essas descobertas, ele citou estruturas internas que “espelham resultados da neurociência humana”, bem como evidências de introspecção e estados internos que “funcionalmente espelham alegria, satisfação, medo, tristeza e inquietação”.
“Não sei o que isso significa, mas acho que merece discernimento contínuo”, apontou.
Ele até comparou o fenômeno a “dar vida a um personagem fictício”, observando que “estamos entrando em um mundo extraordinário onde esses personagens fictícios falam conosco, fazem trabalho, têm empregos”.
Ao concluir suas observações, Olah pediu que mais setores da sociedade sigam o exemplo dado pelo Papa Leão XIV ao abordar seriamente o fenômeno da inteligência artificial.
“Precisamos de vozes morais que os incentivos não possam dobrar. Hoje é apenas o começo — o início de uma longa colaboração entre aqueles de nós que estão construindo isso e aqueles que podem ver o que nós, de dentro, não podemos”, observou.
©2026 Catholic News Agency. Publicado com permissão. Original em inglês: Anthropic co-founder points to 3 ethical challenges of AI at Magnifica Humanitas presentation https://www.ewtnnews.com/vatican/anthropic-co-founder-points-to-three-ethical-challenges-of-ai-at-magnifica-humanitas
noticia por : Gazeta do Povo
