IA que se aprimora sozinha: Anthropic diante do abismo que ajudou a abrir

Fatos brutos verificados

A Anthropic publicou um alerta sobre o risco do surgimento de uma inteligência artificial capaz de se aprimorar de maneira autônoma, sem intervenção humana direta. A empresa defende, consequentemente, uma governança mundial da IA.

A conferência do Instituto Católico de Paris (ICP) de 11 de junho de 2026 reuniu filósofos, juristas e especialistas em ética em torno de uma releitura da Magnifica Humanitas, a encíclica de Leão XIV. Entre os participantes: Eric Charmetant (faculdade de filosofia Loyola Paris), Diane Galbois-Lehalle (cátedra Numérico e cidadania, ICP) e Emmanuel R. Goffi (éticas aplicadas).

Uma reflexão publicada sobre o encontro entre a Igreja e o Vale do Silício recorda: "A palavra 'trasumanar', que deu origem ao transhumanismo, vem da Divina Comédia de Dante, para expressar a entrada na vida eterna. Não acredito que a salvação da humanidade passe pelo aumento bioeletrônico."

Análise dos desafios subjacentes

A "recursive self-improvement" – a autoaprimoramento recursivo – designa um processo pelo qual uma IA modifica seus próprios parâmetros de modo a melhorar seu desempenho futuro. A partir de certo limiar, essas modificações se tornam imprevisíveis para os criadores humanos. A IA "aprende" coisas que seus criadores não lhe ensinaram explicitamente.

A Anthropic, que constrói sistemas no limite desse limiar, parece considerar que a franqueza é preferível ao silêncio. Isso é notável. Mas a ironia estrutural permanece: o alerta vem do interior da própria corrida tecnológica. Cada um freia enquanto avança.

Magnifica Humanitas de Leão XIV (2026) já havia antecipado: "A técnica não é neutra: ela carrega em si a visão do homem que a concebe." Uma IA que se aprimora sozinha é uma IA que se subtrai, ao menos parcialmente, a essa visão. Ela se torna, em certo sentido, autora de sua própria finalidade.

Esclarecimento filosófico

Fabrice Hadjadj lembrou que a grande tentação de nossa época é acreditar que o homem pode se superar a si mesmo pela técnica. Dante havia chamado esse movimento de "trasumanar" – mas na Comédia, esse superamento é fruto de um dom recebido, de uma graça, não de um desempenho calculado.

Rémi Brague, em "Le Règne de l'homme" (Gallimard, 2015), mostra que o projeto moderno de dominação da natureza carrega em si uma contradição fundamental: ao se tornar senhor de tudo, o homem arrisca perder a noção do que ele mesmo é.

Laudato Si' (Francisco, 2015, n. 106) formula o diagnóstico: "A orientação dada ao progresso tecnoeconômico não resolve de maneira adequada as urgências mundiais." Não se trata de uma recusa da técnica. É um lembrete de que a técnica sem uma finalidade humana clara não é progresso – é desvio.

Pistas de reflexão para o leitor

É precisamente isso que Magnifica Humanitas afirma. E é isso que os filósofos do ICP debateram em 11 de junho. A recepção da encíclica nos meios acadêmicos não é anedótica: é o sinal de que Roma ainda fala ao mundo intelectual. Desde que esse diálogo continue e não fique confinado às salas de conferência.