IA che si migliora da sola: Anthropic di fronte all'abisso che ha contribuito ad aprire

Fatti verificati

Anthropic ha pubblicato un'allerta sul rischio dell'emergere di un'intelligenza artificiale in grado di migliorarsi autonomamente, senza intervento umano diretto. L'azienda sostiene di conseguenza la necessità di una governance mondiale dell'IA.

La conferenza dell'Institut Catholique de Paris (ICP) dell'11 giugno 2026 ha riunito filosofi, giuristi ed eticisti intorno a una rilettura di Magnifica Humanitas, l'enciclica di Leone XIV. Tra i relatori: Eric Charmetant (facoltà di filosofia Loyola Paris), Diane Galbois-Lehalle (cattedra Digitale e cittadinanza, ICP) ed Emmanuel R. Goffi (etiche applicate).

Una riflessione pubblicata sull'incontro tra la Chiesa e la Silicon Valley ricorda: "La parola trasumanar, da cui deriva transumanesimo, viene dalla Divina Commedia di Dante, per esprimere l'ingresso nella vita eterna. Non credo che la salvezza dell'umanità passi attraverso l'aumento bioelettronico."

Analisi delle questioni sottostanti

La "recursive self-improvement" – l'auto-miglioramento ricorsivo – indica un processo attraverso il quale un'IA modifica i propri parametri in modo da migliorare le proprie prestazioni future. A partire da una certa soglia, queste modifiche diventano imprevedibili per i progettisti umani. L'IA "impara" cose che i suoi creatori non le hanno esplicitamente insegnato.

Anthropic, che costruisce sistemi al limite di questa soglia, sembra ritenere che la franchezza sia preferibile al silenzio. È notevole. Ma l'ironia strutturale rimane: l'allerta proviene dall'interno stesso della corsa tecnologica. Ognuno frena avanzando.

Magnifica Humanitas di Leone XIV (2026) l'aveva anticipato: "La tecnica non è neutra: porta in sé la visione dell'uomo che la concepisce." Un'IA che si migliora da sola è un'IA che si sottrae, almeno parzialmente, a questa visione. Diventa, in un certo senso, l'autrice del proprio fine.

Approfondimento filosofico

Fabrice Hadjadj ha ricordato che la grande tentazione della nostra epoca è credere che l'uomo possa superare se stesso attraverso la tecnica. Dante aveva chiamato questo movimento trasumanar – ma nella Commedia, questo superamento è frutto di un dono ricevuto, di una grazia, non di una performance calcolata.

Rémi Brague, in Le Règne de l'homme (Gallimard, 2015), mostra che il progetto moderno di dominio della natura porta in sé una contraddizione fondamentale: rendendosi padrone di tutto, l'uomo rischia di perdere la nozione stessa di ciò che è.

Laudato Si' (Francesco, 2015, n. 106) formula la diagnosi: "L'orientamento dato al progresso tecno-economico non risolve in modo adeguato le urgenze mondiali." Non si tratta di un rifiuto della tecnica. È un richiamo al fatto che la tecnica senza una finalità umana chiara non è progresso – è deriva.

Spunti di riflessione per il lettore

La governance mondiale dell'IA è una risposta istituzionale necessaria. È insufficiente. Il vero limite dell'IA auto-migliorante non è giuridico. È filosofico: ricordare che l'uomo non è una funzione da ottimizzare, che la persona umana ha una dignità che non è riducibile alle sue capacità misurabili.

È precisamente ciò che Magnifica Humanitas afferma. Ed è ciò che i filosofi dell'ICP hanno messo in discussione l'11 giugno. La ricezione dell'enciclica negli ambienti accademici non è aneddotica: è il segno che Roma parla ancora al mondo intellettuale. A condizione che questo dialogo continui e non rimanga confinato alle sale conferenze.