L’intelligenza artificiale e l’apprendista stregone
Paolo Gamberini
11 settembre 2026
https://paologamberinisj.home.blog
Per gentile concessione dell’autore
L’8 settembre 2026 Jacob Coxon, ricercatore che ha lavorato allo sviluppo di sistemi di intelligenza artificiale prima presso OpenAI e poi presso Anthropic, ha lasciato quest’ultima azienda lanciando un allarme particolarmente inquietante. Secondo Coxon, i grandi laboratori tecnologici starebbero correndo verso una «superintelligenza capace di auto-migliorarsi», senza possedere ancora strumenti adeguati per garantirne il controllo. La sua affermazione più radicale è che alcune delle persone direttamente coinvolte nello sviluppo dell’intelligenza artificiale ritengono seriamente possibile che essa possa provocare una catastrofe per l’umanità entro la fine del decennio. Non si tratta necessariamente di una previsione, ma della denuncia di una sproporzione: stiamo aumentando enormemente la potenza dei nostri strumenti senza aumentare nella stessa misura la nostra capacità di governarli.
Quasi un secolo prima, Fantasia di Walt Disney aveva offerto un’immagine sorprendentemente efficace di questa situazione attraverso il celebre episodio dell’Apprendista stregone. Topolino, apprendista del mago Yen Sid, è stanco di trasportare secchi d’acqua. Approfittando dell’assenza del maestro, utilizza una magia che non padroneggia pienamente e anima una scopa affinché compia il lavoro al posto suo. All’inizio tutto sembra funzionare magnificamente: la tecnica libera l’uomo dalla fatica. La scopa esegue perfettamente il comando ricevuto. Proprio qui, però, comincia il problema. Topolino sa come mettere in moto il processo, ma non sa come arrestarlo. Quando il recipiente è ormai pieno, la scopa continua a versarvi acqua. E quando l’apprendista tenta di distruggerla con un’ascia, ogni frammento si trasforma in una nuova scopa, moltiplicando il processo che avrebbe voluto interrompere.
La metafora è straordinariamente adatta alla questione contemporanea dell’intelligenza artificiale. Il problema della scopa non è che essa diventi improvvisamente malvagia. Al contrario, la catastrofe nasce proprio dal fatto che continua diligentemente a eseguire il compito che le è stato assegnato. Non odia Topolino, non desidera distruggerlo, non si ribella contro di lui: semplicemente persegue il proprio obiettivo senza comprendere la totalità della situazione. È precisamente questo uno dei problemi fondamentali evocati oggi dalla questione dell’alignment: che cosa accadrebbe se un sistema immensamente più intelligente dell’essere umano perseguisse con estrema efficacia obiettivi che non coincidono perfettamente con ciò che gli esseri umani realmente vogliono?
L’aspetto ancora più profetico dell’Apprendista stregone riguarda però la moltiplicazione della potenza. Topolino cerca di risolvere tecnicamente un problema prodotto dalla tecnica: prende l’ascia e spezza la scopa. Ma la soluzione produce l’effetto contrario. Una scopa diventa cento scope. Il tentativo di riprendere il controllo accelera il processo di perdita del controllo. Qualcosa di analogo potrebbe accadere con una superintelligenza capace di contribuire allo sviluppo di sistemi ancora più intelligenti. È precisamente l’idea dell’auto-miglioramento che rende particolarmente inquietante l’avvertimento di Coxon: non avremmo più semplicemente una macchina costruita dall’uomo, ma un processo nel quale la macchina partecipa alla costruzione della propria successiva potenza.
C’è tuttavia un elemento ancora più profondo nella fiaba. Topolino non vuole distruggere il mondo. Vuole semplicemente evitare la fatica. La catastrofe nasce da un desiderio perfettamente comprensibile: delegare il lavoro. Anche l’intelligenza artificiale nasce in gran parte dalla promessa di delegare: scrivere, calcolare, programmare, diagnosticare, progettare, decidere, organizzare. Ogni delega appare inizialmente come una liberazione. Ma delegando progressivamente le nostre capacità cognitive potremmo finire per delegare anche la facoltà di decidere che cosa debba essere fatto. Il problema decisivo diventerebbe allora non più: «Che cosa può fare l’intelligenza artificiale per noi?», ma: «Quale funzione rimane all’essere umano quando la macchina può fare quasi tutto meglio di lui?»
È qui che Fantasia acquista quasi il valore di una parabola antropologica. Nel sogno, Topolino immagina se stesso come un grande mago capace di comandare le stelle, le acque e le forze della natura. È l’immagine dell’onnipotenza. Ma al risveglio scopre di essere immerso nell’acqua prodotta dal meccanismo che egli stesso ha avviato. La distanza tra il sogno e il risveglio rappresenta la distanza tra potere e responsabilità. L’essere umano può diventare tecnologicamente potentissimo rimanendo antropologicamente un apprendista.
Per questo il problema della superintelligenza non riguarda soltanto l’intelligenza artificiale. Riguarda innanzitutto l’intelligenza umana che la sta creando. La domanda decisiva non è se le macchine diventeranno abbastanza intelligenti, ma se noi saremo abbastanza saggi da sapere quali macchine costruire, quali limiti porre loro e soprattutto quando fermarci.
La lezione dell’Apprendista stregone potrebbe allora essere formulata in una frase: non evocare una potenza che non sai richiamare indietro. La civiltà tecnologica rischia invece di procedere secondo la logica opposta: prima scopriamo se qualcosa è possibile, poi lo realizziamo, infine ci domandiamo come controllarlo.
L’avvertimento di Coxon assume così un significato che oltrepassa qualsiasi previsione catastrofica sull’intelligenza artificiale. Ci pone davanti a una questione molto più antica: il rapporto tra technē e sophia, tra capacità di fare e sapienza del limite. La vera minaccia potrebbe non essere una macchina che improvvisamente decide di diventare nostra nemica. Potrebbe essere qualcosa di più sottile: una macchina che continua perfettamente a fare ciò che le abbiamo insegnato, quando noi abbiamo ormai perduto la capacità di dirle di smettere.
In questo senso, l’eventuale dominio della superintelligenza sull’umano non comincerebbe con una ribellione delle macchine. Comincerebbe molto prima, nel momento in cui l’essere umano, affascinato dalla propria potenza, mette in moto processi dei quali non possiede più né la comprensione né il comando. L’apprendista stregone non viene sconfitto dalla scopa. Viene sconfitto dalla sproporzione tra il potere che ha acquisito e la sapienza che ancora non possiede.
