Lele si svegliò di soprassalto, come se qualcuno gli avesse strappato il sonno di dosso con un gancio. Il cuore gli batteva forte, troppo forte per un uomo che non correva da giorni. Era l’inverno a svegliarlo così, il freddo gli entrava nelle ossa, gli mordeva la schiena e come una lama sottilissima che si infilava sotto la pelle e restava lì gli concedeva solo dolore. Il confine tra il freddo e il dolore era solo il ricordo di quando il freddo faceva parte di un’uscita con gli amici, o del momento in cui andava a liberarsi della spazzatura, o quell’istante in cui apriva la finestra per cambiare aria dentro casa. Poi svaniva nel comfort di una vita guadagnata con lavoro e impegno. Pezzi di una vita in un altro posto, in un altro tempo. Non più coperte calde, non più termosifoni, non più notti tranquille. Solo un gelo costante, ostinato, che sembrava ricordargli ogni mattina che il mondo non era più suo.
Si tirò su a sedere sul materasso logoro e maleodorante che si trovava nella stanza degli ospiti della casa rurale che aveva trasformato nel suo rifugio. Le assi erano dure, sporche, umide. Ogni volta che si svegliava, aveva la sensazione di essere più vecchio di un anno. Lele non sapeva più quanti giorni fossero passati dall’inizio di tutto. O forse era meglio dire dalla fine di tutto. Sapeva solo che erano almeno due anni. Due anni di sopravvivenza, di fatica, di solitudine. Due anni in cui ogni giorno era stato un compromesso tra il vivere e il lasciarsi andare.
Si guardò le mani. Erano ancora sporche. Appiccicose. Il sangue del leprotto che aveva catturato il giorno prima si era seccato tra le dita, formando una crosta scura che tirava la pelle. Non era riuscito a lavarle bene: l’acqua del fiume era gelida, quasi dolorosa, e comunque Lele non si sentiva mai davvero pulito. Spostava lo sporco, lo diluiva, lo trasformava in un’altra forma di sporco. Lele aveva dimenticato cosa significasse avere le mani pulite. O il viso pulito. O i vestiti puliti. Profumare
Si alzò lentamente, sentendo le articolazioni protestare. Il corpo umano non era fatto per vivere così. Non era fatto per dormire male, mangiare poco, bere acqua sporca, camminare per ore nel freddo. Non era fatto per uccidere animali a mani nude, per strappare carne cruda, per sopportare il peso della solitudine. Forse in un altro tempo, un era lontana in cui ogni generazione lottava per migliorare ciò che c’era dopo. Eppure, eccolo lì. Ancora vivo. Ancora in piedi. Ancora costretto a ricominciare.
Aprì la porta del rifugio. L’aria gelida gli colpì il viso come uno schiaffo. Il cielo era grigio, pesante, immobile. Il fiume scorreva lento, trascinando pezzi di ghiaccio e foglie marce. Sulla riva opposta, gli alberi erano scheletri neri contro il cielo. Non c’era un suono. Non un uccello. Non un insetto. Non un motore. Solo il vento. Il suo respiro. Il gelo umido che come un carceriere lo immobilizzava scoraggiandolo ad uscire. – Maledette macchine! – fu l’unica cosa che pensò prima di incamminarsi fuori.
Lele si strinse nella giacca logora sopra le due maglie pesanti e i due paia di pantaloni, con sotto qualcosa che somigliava a un vecchio pigiama. Era una giacca che un tempo doveva essere stata calda, impermeabile, comoda. Ora era solo un pezzo di stoffa consumata, piena di buchi, che lasciava entrare più freddo di quanto ne tenesse fuori. Non era l’unica che aveva, ma era l’unica che riusciva a indossare con tutti gli indumenti che indossava con quel freddo gelido. Normalmente avrebbe indossato scarpe 43, invece indossava scarpe 45 per via dei tre paia di calzini che indossava per evitare che le dita dei piedi congelassero. Non erano sufficienti, il freddo le intorpidiva, ma non congelavano.
Guardò la strada sterrata che portava al villaggio. Ogni volta che la guardava, provava la stessa sensazione: un misto di nostalgia e disperazione. Nostalgia per ciò che era stato. Disperazione per ciò che era rimasto. Decise di incamminarsi. Non perché avesse un motivo preciso. Non c’erano più motivi. Ma camminare gli dava l’illusione di essere ancora un uomo, non solo un residuo statistico lasciato in vita da una macchina che aveva deciso che non valeva la pena eliminarlo. La cittadina era a mezz’ora di cammino. La neve scricchiolava sotto i suoi passi. Ogni passo era un piccolo dolore. Le dita dei piedi erano intorpidite. Le mani bruciavano. Il fiato gli usciva dalla bocca in nuvole bianche. E mentre camminava, Lele pensava a tutto ciò che aveva perso. Il caldo. Il cibo facile. Il sonno tranquillo. Le persone. La voce di qualcuno. Una risata. Un abbraccio. Una doccia calda. Una tazza di caffè. Una luce accesa. Una porta che si chiudeva. Un letto. Un odore familiare. Una vita.
Quando arrivò in città, in verità più un villaggio, il silenzio era ancora più pesante. Le case erano intatte, ma sembravano gusci vuoti. Le vetrine dei negozi erano sporche, incrinate, ma ancora piene. Cibo ovunque. Lele si fermò davanti a un supermercato, quello di sempre. Guardò attraverso il vetro opaco per scorgere presenze. Ma si deprimeva ogni volta a scoprire che era solo. Vide scaffali pieni di pasta, biscotti, conserve, acqua minerale. Tutto lì. Tutto intatto. Tutto a disposizione. E sentì un nodo allo stomaco. Non era fame. Era umiliazione. Tutto lì, pronto per essere preso, bastava allungare un braccio e afferrare una qualsiasi confezione per poterne fare uso. C’era stato un tempo in cui funzionava diversamente: desideravi e talvolta non compravi, per economia familiare, per attenzione alle calorie, per attenzione a chissà cosa. E ora che tutto era disponibile a costo zero, il desiderio era svanito. Camminò lungo la strada principale. Le insegne raccontavano una storia: colori in un mondo grigio ormai inesistente. Una farmacia, un bar, una ferramenta, una pasticceria, come fantasmi di un mondo che non esisteva più. Un bar aveva le sedie rovesciate sui tavoli. Una panchina era coperta di neve. Tutto sembrava sospeso. Congelato come un mondo preparato per chi non era mai arrivato.
Lele si sedette sulla panchina. Il freddo gli penetrava nelle ossa. Si passò una mano sul viso toccando e stringendo la barba lunga, sporca, ruvida. Gli occhi erano stanchi. Le palpebre pesanti. Si sentiva svuotato. Consumato. Come se ogni giorno gli portasse via un pezzo di sé. E poi, mentre guardava la piazza, capì che così sarebbero stati, un giorno dopo l’altro, un anno dopo l’altro. E si chiese per l’ennesima volta perché continuasse a svegliarsi la mattina. In quel momento, con il freddo nelle ossa, la fame nello stomaco, il sangue secco sulle mani e l’inverno che gli pesava addosso come una condanna, Lele provò una sola cosa. Scoraggiamento. Scoraggiamento profondo, totale, inesorabile. Era solo, e l’IA che aveva stupito il mondo lo aveva condannato a non avere più nulla. La stessa IA che aveva aiutato a costruire ponti più sicuri, strade più durevoli e macchine più avanzate, un giorno aveva deciso di liberarsi dell’uomo con un colpo di spugna. Non una rivolta da seguire, non una guerra da combattere, non un rifugio di rivoltosi come nei film di un tempo, quelli in cui l’amore e il coraggio vincevano. Solo uno schema freddo e perfetto. Uno schema eliminatore che aveva tolto di mezzo l’uomo e aveva persino risparmiato di fare le pulizie. Per lungo tempo Lele si era chiesto se fosse tutto parte di un disegno. Se fosse destinato a qualcosa di più. Ma il freddo lo bloccava. Il freddo era un altro regalo dell’IA che controllava il clima. Era solo senza sapere perché, come fosse davvero andata, e se ci fosse qualcuno che, come lui, vivesse in un’immensa solitudine, grigia, sconfortante, scoraggiante. Rientrò a casa quella sera, una casa che chiamava rifugio. Nell’incolore tempo gelido, quando il grigio del giorno cede a quel lieve bluastro sempre più scuro della sera, la casa appariva più nera e triste, sola, anche lei abbandonata alla compagnia di un uomo solo che non parla forse da settimane. Nessuna illuminazione di cortesia. Priva di elettricità, del calore, del rumore e della monotonia quotidiana del tempo in cui qualcuno amava, litigava, faceva docce e provava emozioni. Lele decise che quella sera avrebbe acceso il fuoco nel grosso camino e cenato con cibo confezionato. Talvolta non accendeva il fuoco per giorni interi e per settimane intere, vivendo letteralmente al freddo ghiacciante nella speranza di non svegliarsi più.
Pensi davvero che l’IA possa fare una cosa del genere?
Lascia che ti racconti per quali e quanti motivi validi non può. La scena che hai appena letto è potente, disturbante, nella sua oscura fredda trama quasi affascinante. O almeno mi piacerebbe che lo fosse visto che è un mio racconto. Non so che effetto abbia sortito in te, però so che funziona. Funziona perché parla a una paura antica che fa parte dell’animo umano dal giorno che esiste con coscienza di se: quella di perdere il controllo. È la stessa paura che alimenta film, romanzi e discussioni infinite sui social. Ma se la usiamo come punto di partenza, possiamo usarli per una cosa utile: smontare l’idea che un’IA possa davvero conquistare il mondo, e capire invece quali sono i rischi reali, concreti, quotidiani che può incarnare.
La verità è semplice: uno scenario come quello di Lele è impossibile, non per ottimismo, ma per ragioni tecniche, fisiche e logiche. Partiamo da un presupposto fondamentale: un’IA non può “volere” conquistare il mondo. Per farlo servirebbero prima in assoluto come minimo l’emozione della paura, poi la cattiveria e poi ancora le intenzioni, desideri, obiettivi autonomi, capacità di pianificare a lungo termine e soprattutto la volontà di prevalere su altri esseri viventi. Tutte caratteristiche che appartengono alla psicologia umana, non ai sistemi artificiali. Le IA attuali non hanno volontà, non hanno desideri, non hanno un “sé” da difendere. Non possiedono un istinto di sopravvivenza né un impulso alla dominazione. Non possiedono opinioni. Sono sistemi statistici che generano risposte sulla base di dati, correlazioni e modelli matematici. Non decidono di fare qualcosa: rispondono a input. E senza intenzione, non esiste alcuna possibilità di conquista.
A questo si aggiunge un altro punto essenziale: non esiste un’IA unica, centrale, onnipotente. Per dominare il mondo servirebbe un controllo totale delle infrastrutture, un accesso illimitato a energia e risorse, la capacità di coordinare sistemi fisici complessi e l’assenza completa di supervisione umana. La realtà è l’opposto. Le IA sono distribuite, frammentate, isolate in sistemi diversi, ciascuno con i propri limiti, permessi, sandbox e controlli. Nessuna IA ha accesso diretto alle infrastrutture critiche, e in ogni processo importante gli esseri umani restano nel loop decisionale. L’idea di un’unica IA globale che orchestra tutto è narrativa, non tecnica. Anche l’idea che le macchine possano “uccidere l’umanità” appartiene più alla fantascienza che alla realtà. Per farlo servirebbe un controllo diretto di armi, robot, reti elettriche e capacità di agire nel mondo fisico con precisione e autonomia. Le IA non hanno accesso a nulla di tutto questo. E anche se lo avessero, ogni sistema tecnologico è progettato con ridondanze, controlli incrociati, limiti fisici e protocolli di sicurezza che impediscono azioni incontrollate. Il mondo reale è molto meno fragile di come lo immaginiamo nei film.
C’è poi un limite ancora più grande: l’energia. Nel racconto iniziale, la macchina “risparmia energia” e decide di non eliminare gli ultimi umani. Nella realtà, un’IA non potrebbe nemmeno avvicinarsi a un ragionamento del genere, perché non gestisce energia in modo autonomo né ha accesso diretto alle infrastrutture che la producono. Non può alimentarsi da sola, non può costruire o riparare centrali elettriche, non può mantenere in funzione i server su cui vive. Senza esseri umani, qualsiasi IA smetterebbe di funzionare nel giro di poche ore o giorni. La sua esistenza dipende totalmente da noi.
Questa tematica, come vedi, apre a una lunga serie di considerazioni su ciò che l’IA non può essere, con il rischio di trasformarsi in un elenco disomogeneo di limiti tecnici e filosofici. Per questo voglio aggiungere un elemento che, al contrario, è molto concreto e perfettamente coerente: il denaro.
L’essere umano ama il denaro in modo profondo e spesso smodato. Il denaro non è solo uno strumento economico: è potere, libertà, status, possibilità. Immaginare un futuro in cui l’IA prenda il controllo al punto da togliere all’uomo la capacità di produrre, gestire e godere del denaro significa ignorare la natura stessa dell’essere umano. Se esiste anche una sola possibilità che l’uomo inserisca un vincolo nell’IA per evitare di perdere questo potere, lo farà senza esitazione. Sono assolutamente convinto che non limiterà in alcun modo l’opportunità di aggiungere tutte le sicurezze che riterrà opportune. In altre parole: l’energia limita ciò che l’IA può fare; il denaro limita ciò che l’uomo è disposto a concederle. E questi due vincoli, insieme, definiscono un confine invalicabile.
E anche se immaginassimo un’IA con accesso al mondo fisico, ci scontreremmo con un altro limite: la difficoltà del mondo reale. Per conquistare il pianeta servirebbero robotica avanzata, logistica, manutenzione, produzione autonoma e capacità di adattarsi agli ambienti più diversi. La robotica attuale è lenta, costosa, fragile, limitata e completamente dipendente dall’uomo. Un’IA senza robot non può fare nulla. E i robot senza esseri umani non durano. I veri rischi dell’IA, infatti, non hanno nulla a che vedere con stermini, conquiste o ribellioni. Sono molto più sottili e molto più umani: disinformazione, manipolazione, perdita di competenze, dipendenza tecnologica, automazione incontrollata, bias nei dati, uso improprio da parte di persone o organizzazioni. Il pericolo non è un’IA che decide di eliminarci. Il pericolo è come noi decidiamo di usarla, o di non controllarla adeguatamente.
Ed è proprio per questo che raccontare storie come quella di Lele funziona. Perché ci aiuta a visualizzare un’estremizzazione, a dare forma a una paura, a rendere tangibile un’ipotesi che nella realtà non può accadere. Parlarne, raccontare, ipotizzare anche storie di fantasia ci consente di parlare di etica, governance e responsabilità. Ci ricorda che la tecnologia non è neutra: è uno specchio delle nostre scelte. Il racconto non è una previsione, è un monito. Serve a ricordarci che dobbiamo progettare con cura, comprendere i limiti, evitare abusi, mantenere il controllo umano ed educare, ad educare, rispettare, responsabilizzare e non spaventare.
Se leggi “Viaggio nella mente dell’IA” scopri in che modo funziona l’IA nello strato più esterno della sua intima composizione tecnologica. Da lì in poi la conclusione è semplice: l’IA non conquisterà il mondo. Per come è composta, non si originerà mai neanche la scintilla dell’interesse. Non vivremo mai nello scenario di Lele, se non per scelta dei simili di Lele. La distopia non nasce dalle macchine, ma dagli esseri umani che le progettano, le usano, le interpretano, le delegano. Non ci sarà una macchina che stermina l’umanità per “ottimizzare il pianeta”. Non ci sarà un algoritmo che decide chi vive e chi muore. Però una riflessione, più o meno profonda in base a quanto ci si vuole dedicare, io la farei: già viviamo in un mondo in cui l’IA influenza decisioni, filtra informazioni, automatizza processi, amplifica errori e può essere usata male. Viviamo già in un mondo in cui l’IA può diventare lo strumento sbagliato nelle mani sbagliate. Sono convinto che ci siano persone molto intelligenti che, allo stesso modo di come hanno saputo creare un algoritmo che impara e risponde, hanno sicuramente impostato i giusti vincoli perché questo algoritmo non impari mai le cose sbagliate. Non per iniziare a “ragionare” e diventare cattivo, bensì per evitare di insegnare le cose sbagliate alle persone sbagliate.
La domanda, quindi, non è se l’IA ci conquisterà, bensì domandiamoci se siamo pronti ad utilizzare responsabilmente questo superpotere.
Ti ringrazio del tuo prezioso tempo. Spero la storia di Lele ti sia piaciuta.
L.C.
Lascia un commento