Leão XIV quer manter decisões sobre a vida humana longe da IA

Em audiência no Vaticano nesta sexta-feira, 30 de outubro, o pontífice também questionou propostas de dar personalidade jurídica a sistemas automatizados.

O papa Leão XIV defendeu nesta sexta-feira, 30 de outubro, que decisões capazes de afetar a vida humana não sejam entregues a sistemas de inteligência artificial. Ao falar com participantes de um encontro sobre IA no Vaticano, ele também alertou que atribuir direitos ou personalidade jurídica a máquinas pode tornar mais difícil identificar quem responde por danos.

A preocupação vai além do que a tecnologia consegue fazer. Para o pontífice, a questão central é quem mantém o controle e assume a responsabilidade quando uma decisão automatizada afeta pessoas. “Máquinas são ferramentas, não pessoas”, afirmou, ao marcar a diferença entre sistemas computacionais e seres humanos.

Quem responde quando uma máquina causa dano

Leão XIV questionou propostas de tratar sistemas de IA como entidades com direitos próprios. Se uma ferramenta for reconhecida como pessoa jurídica, argumentou, existe o risco de a responsabilidade de quem a criou, opera ou utiliza ficar menos clara. Para quem sofre as consequências, isso poderia significar ter de enfrentar uma entidade sem rosto, em vez de buscar responsabilização humana.

O debate não é apenas teórico. Sistemas automatizados já participam de decisões em áreas que influenciam a vida cotidiana, do trabalho a serviços públicos e privados. A mensagem do papa é que a adoção de tecnologia não elimina a necessidade de supervisão humana, sobretudo quando estão em jogo direitos, liberdade ou segurança.

A tecnologia depende das escolhas de hoje

O pronunciamento retoma ideias da encíclica Magnifica Humanitas, publicada por Leão XIV em maio. O documento trata da relação entre dignidade humana e inovação e sustenta que o desenvolvimento tecnológico deve estar a serviço das pessoas e do bem comum. Na fala desta sexta, o pontífice voltou a destacar que o rumo da IA não está definido de antemão: depende de decisões tomadas por governos, empresas, pesquisadores e pela sociedade.

Isso significa que a discussão não se resume a criar sistemas mais potentes. Também envolve decidir para que serão usados, quais limites terão e como suas consequências serão avaliadas. Um sistema capaz de produzir respostas rápidas pode ser útil, mas desempenho técnico, por si só, não substitui julgamento moral nem torna previsíveis todos os efeitos de uma decisão.

O que está em jogo no debate sobre IA

A reunião no Vaticano juntou representantes ligados à reflexão sobre inteligência artificial e pesquisadores. Entre os participantes mencionados no relato do encontro estavam o físico Max Tegmark, do Instituto de Tecnologia de Massachusetts, e Stuart Russell, professor de ciência da computação da Universidade da Califórnia em Berkeley. Russell defendeu rever a trajetória de desenvolvimento da IA diante dos riscos associados a sistemas cada vez mais avançados.

A posição de Leão XIV não é um pedido para interromper toda inovação. O foco é preservar a responsabilidade humana e impedir que pessoas sejam tratadas apenas como dados ou resultados de cálculos. Na prática, esse princípio cobra regras, mecanismos de controle e clareza sobre quem responde quando uma ferramenta falha ou é usada de forma prejudicial.

A declaração também recoloca no debate público uma pergunta que acompanha a expansão da IA: quais tarefas podem ser automatizadas e quais decisões exigem, necessariamente, participação humana? Para o papa, a dignidade das pessoas e a prestação de contas não podem ser delegadas junto com o processamento de informações.

Quer se aprofundar nesta notícia? Leia mais sobre ela abaixo: