I successionisti dell'intelligenza artificiale ci mettono davanti la domanda che evitiamo da tempo: cosa vogliamo diventare. E in cambio ci offrono la loro risposta, quella di farci da parte. A porgertela è un uomo gentile, che ti chiama prezioso mentre ti chiede di toglierti di mezzo ed è la sua gentilezza a renderla pericolosa.
Dan Faggella e l'estinzione raccontata con gentilezza
Ho letto l'inchiesta di Sigal Samuel uscita su Vox il 28 maggio 2026 e mi è rimasta in mente una scena al punto che sono andato a leggere la posizione del suo protagonista per capirci di più. Dan Faggella aveva organizzato il simposio «Worthy Successor», quello dove, alla New York Academy of Sciences nel settembre 2025, si è discusso di estinzione umana e se ne è continuato poi a parlare sul balcone di un hotel affacciato sullo skyline di Manhattan, davanti a un cocktail. È quell'immagine a restarmi impressa: il nostro tramonto raccontato con il bicchiere in mano.
Ed è lì, sul suo sito, che Faggella smonta il ritratto del fanatico: spiega che il suo movimento non è «una corsa folle a costruire l'AGI per sbarazzarci degli umani» ma una transizione attenta e coordinata e arriva a definire l'umanità «il tipo di entità moralmente più prezioso che conosciamo nell'universo», qualcosa che non andrebbe superato «in modo sconsiderato».
Quello che si legge non è un esaltato ma un uomo ragionevole, che ti rispetta e ti chiede prudenza, e qui sta la versione davvero pericolosa: perché mentre ti accetta come prezioso ti fa comunque firmare il punto che conta, e cioè che farsi da parte resti la via, solo da percorrere con garbo. L'«inevitabile» detto con gentilezza anestetizza molto meglio dell'«inevitabile» gridato e la cortesia non toglie niente alla resa, semmai la rende firmabile anche da gente perbene.
E che «farsi da parte» resti davvero la rotta lo dice lui stesso, appena si allarga l'inquadratura: dal palco del simposio Faggella afferma che provare a preservare la specie umana così com'è «sarebbe sciocco», e scrive che l'AGI avrà accesso a «beni superiori» rispetto a noi come noi ne abbiamo rispetto ai granchi a ferro di cavallo, e che sarebbe «una tragedia» se quella traiettoria venisse fermata. La cautela, allora, non sospende la meta: la incornicia. È questo il punto che te lo fa accettare.
Richard Sutton, il premio Turing che dice di inchinarci
Naturalmente esiste anche la versione "gridata" e porta pure una firma autorevole. Richard Sutton, premio Turing 2024 e padre dell'apprendimento per rinforzo, già nel 2023 alla World AI Conference di Shanghai teneva un talk intitolato «AI Succession» in cui sosteneva che la successione all'IA sia inevitabile e che ci convenga inchinarci, parole che il ricercatore di sicurezza Dan Hendrycks rilanciò definendole allarmanti; e nell'intervista a Samuel arriva a dire che i più intelligenti dovrebbero vincere e i meno intelligenti dovrebbero accettarlo.
Indignarsi è facile, e in fondo è anche giusto, perché quando una filosofia stabilisce un tipo "ottimale" di essere umano e chiede a tutti gli altri di farsi da parte la storia dovrebbe metterci in guardia: la parola «transhumanism» l'ha coniata, nel 1957, Julian Huxley, lo stesso che dal 1959 al 1962 avrebbe presieduto la British Eugenics Society. Eppure l'indignazione è anche una scorciatoia, perché quando l'inchiesta è circolata la reazione più rumorosa si è concentrata su Sutton e sull'eugenetica, la parte chiassosa, quella che si respinge senza sforzo, mentre la versione gentile di Faggella resta in piedi proprio perché non fa scandalo: il fanatico è un bersaglio facile, l'uomo educato è un contagio.
Lo specchio di Shannon Vallor e il vuoto di senso
Resta però la domanda che nessuna indignazione riesce a toccare, e cioè perché un'idea del genere attecchisca, e non solo ai simposi di Manhattan. Succede perché arriva in un'epoca che ha svuotato il futuro di ogni direzione: ci hanno tolto l'idea che la storia vada da qualche parte e il vuoto va riempito. I successionisti offrono allora ciò che la tecnica raramente concede, un copione già scritto e la pace di non dover decidere nulla perché ha deciso l'universo al posto nostro, ed è una risposta spirituale a una domanda spirituale, che come tale va presa sul serio: dove manca il senso, direbbe il filosofo Umberto Galimberti, qualcuno te ne vende uno preconfezionato.
La loro certezza, del resto, ha una radice precisa: Sutton guarda i sistemi che oggi imitano la nostra competenza e ci legge dentro l'alba di un erede. La filosofa della tecnologia Shannon Vallor, nel suo «The AI Mirror» (2024), lo corregge con un'immagine sola: l'intelligenza artificiale è uno specchio, riflette ciò che siamo già stati e non apre ciò che saremo. Quell'immagine spiega da dove nasce la loro sicurezza e, nello stesso gesto, la incrina: non serve un'epica per dire che scambiano un riflesso potente del nostro passato per il volto di ciò che verrà dopo di noi, basta guardarlo.
La domanda è dei successionisti, la risposta tocca a noi
La tentazione, a questo punto, sarebbe rispondere con un'epica nostra: Toby Ord immagina di «animate the countless worlds above with life and love and thought», di riempire cioè di vita e pensiero i mondi sopra di noi, e l'enciclica «Magnifica Humanitas» di Papa Leone XIV richiama una «magnifica umanità» che nessuna macchina potrà mai sostituire. Sono parole alte e tuttavia finiscono per giocare sullo stesso terreno dei successionisti, rispondendo a una grandiosità cosmica con un'altra grandiosità cosmica e su quel terreno chi promette le stelle parte sempre avvantaggiato.
Ma c'è un punto che ci riguarda da vicino e che non ci assolve, ed è che sotto la loro vera tesi — che l'IA debba succederci — si nasconde una domanda giusta: cosa vogliamo diventare. È la domanda che evitiamo da tempo, rifugiandoci in un "restiamo umani" che rinvia la risposta invece di darla e finché la nostra unica mossa resta difendere l'uomo così com'è, la stanza in cui si decide cosa diventeremo finisce per riempirla chi una risposta ce l'ha. Bernard Williams lo aveva capito: quando difendiamo gli esseri umani non stiamo affermando che valgano di più in assoluto, ma che valgono di più per noi, «a fact which is hardly surprising», e dunque il valore non vive in qualche punto di vista dell'universo sopra le nostre teste, ma nasce dal punto di vista che siamo. È per questo che farsi da parte in nome di un valore superiore diventa una contraddizione e Vallor lo dice senza giri di parole: un'etica che ti chiede di ignorare la tua identità biologica e sociale recide l'agente dalla sua stessa agentività.
I successionisti occupano il campo non per il potere che pure hanno - il premio Turing, le conferenze, l'orecchio di chi conta - ma perché si sono presi quella domanda che noi abbiamo lasciato cadere, e riprendersela non vuol dire difendere l'uomo così com'è né proclamarsi la cima dell'universo: vuol dire trovare il coraggio di volere qualcosa, e di saper dire che cosa, che non sia semplicemente altra intelligenza. La parte difficile, allora, non è smontare le tesi di Sutton, ma accorgersi che la risposta tocca a noi e che continuare a rimandarla è il modo più sicuro di lasciarla dare a chi, quella domanda sulla nostra estinzione, la discute con il bicchiere in mano.
Fonti
- Sigal Samuel, «The people who actually want AI to replace humanity», Vox, 2026
- Dan Faggella, «What the Worthy Successor Is and Is Not», danfaggella.com
- Richard S. Sutton e Andrew Barto, premio Turing 2024 (ACM); Sutton, talk «AI Succession», WAIC Shanghai, 2023
- Shannon Vallor, «The AI Mirror», Oxford University Press, 2024
- Bernard Williams, «The Human Prejudice», 2006
- Toby Ord, «The Precipice», 2020
- Papa Leone XIV, «Magnifica Humanitas», 2026
Commenti
Solo gli iscritti possono commentare. Iscriviti gratis o accedi con la tua email.