Due articoli apparsi recentemente su Nature suggeriscono che le nuove intelligenze artificiali – piaccia o no – stanno integrando ed estendendo la razionalità umana. Chiriatti et al. (2024) introducono il concetto di System 0: un nuovo livello cognitivo basato su IA che precede i due sistemi canonici di Kahneman – il System 1, intuitivo e veloce, e il System 2, analitico e riflessivo. Il System 0 agirebbe come un pre-processore: filtra e struttura l’informazione prima ancora che giunga ai meccanismi cognitivi in carne ed ossa. Esso dunque si configura come un agente cognitivo primario, capace di trasformare il modo in cui pensiamo prima ancora che proviamo a farlo. Andy Clark (2025), analogamente, torna sul concetto di mente estesa, elaborato assieme a Chalmers in tempi non sospetti (1998), ricordandoci anche che è dai tempi di Platone che la gente si lagna per l’arrivo di nuove tecnologie cognitive. Oggi, l’interazione ben progettata con l’IA potrebbe, anziché indebolirci, ampliare la nostra capacità di pensare, così come avvenne con la scrittura all’alba della Storia. Si può leggere la traduzione italiana di Francesco d’Isa su Indiscreto.
Contro queste visioni aperturiste si scagliano – talvolta con savonarolesca veemenza – coloro i quali ritengono che, siccome gli automi non pensano come noi, non potranno mai pensare per noi. E non manca chi indulge in certi cascami heideggeriani, denunciando l’inevitabile inautenticità che scaturirebbe dalla techné algoritmica. Il piatto forte dei negazionisti dell’IA resta l’obiezione semantica il cui archetipo fu dettato da Searle col celebre esperimento della stanza cinese (1980): un locale in cui un homunculus, armato di un enorme manuale di regole, riesce a tradurre simboli cinesi in frasi inglesi pur ignorando completamente il cinese. L’IA sarebbe come questo homunculus che simula la comprensione senza consapevolezza, manipola segni senza accedere ai loro significati. L’argomento mirava a dimostrare che il trattamento sintattico dell’informazione – per quanto tecnologicamente agguerrito (si iniziava allora a parlare di IA “forte”) – non produceva vera semantica, né pertanto vera conoscenza. Oggi l’argomento viene riproposto praticamente intatto, con la statistica dei transformers al posto della grammatica generativa chomskiana in voga al tempo.
La stanza cinese fu oggetto di interminabili controversie. Essa presupponeva, neanche tanto implicitamente, che comprendere significasse produrre un atto mentale intenzionale, un processo interno in grado di fornire un senso ai segni. Ma questa era una teoria dell’interpretazione in crisi già a quel tempo. Wittgenstein – per esempio – aveva smontato, nelle Ricerche filosofiche (1953), l’idea che comprendere una parola, o un enunciato, significasse necessariamente ricorrere a uno stato interno o a un’immagine mentale. L’interpretazione, per lui, era una pratica che si manifestava nel saper usare i segni in un contesto (ricorda qualcosa?), non nel manipolare un’entità interiore chiamata “significato”.
Le odierne macchine parlanti, con le loro stupefacenti abilità, gettano sale sulla ferita della teoria del significato, che il Novecento, con le sue velleità formali e le sue vaghezze ermeneutiche, ha lasciato aperta. Forse aiuteranno a sanarla, forse no. Ma intanto ciò di cui parlano Chiriatti e Clark sta in effetti avvenendo: le voci di quelli che con una certa fretta abbiamo chiamato “pappagalli stocastici” risuonano già nelle nostre menti, come le voci degli déi che – non solo in sogno – rivelavano arcani agli schizoidi eroi omerici (leggete Julian Jaynes Il crollo della mente bicamerale e l’origine della coscienza, Adelphi 1996).
L’upgrade della coscienza è dunque cominciato. Non possiamo arrestarlo; possiamo solo decidere se subirlo con passiva aggressività o gestirlo consapevolmente. E gestirlo non significa fissare soglie morali astratte, ma costruire una intelligenza concreta – personale e collettiva – capace di orientarsi nel nuovo spazio cognitivo. Il vero tema è quello delle forme di razionalità aliena che questi sistemi veicolano – perché sì, ne veicolano diverse – e del modo in cui si intrecciano con la nostra – ammesso, naturalmente, che ne abbiamo una.
Se il System 0 dovesse insediarsi come una razionalità delegata, rischierebbe di configurarsi come una forma di governo della mente che neanche Foucault avrebbe osato immaginare – e questo, comprensibilmente, ci appare come un incubo. Bisogna allora impegnarsi perché il System 0 divenga in realtà una sorta di System 2.1: qualcosa che resti di proprietà del soggetto umano, migliorandone le capacità e correggendone i bug. Perché diciamolo francamente: su scala sociale, il System 2.0 kahnemaniano non ha dato grandi prove. Per limitarci all’oggi, basti osservare come i no-vax, i negazionisti climatici e i vari freak che eleggono orrendi satrapi in tutto il mondo pensano con lenta imbecillità, come spesso fa notare Maurizio Ferraris. Questi soggetti avrebbero bisogno di un upgrade cognitivo, altroché. E chi ritiene che l’IA non possa in qualche modo contribuirvi in quanto priva di vera semantica ci dica se ha idee migliori.
La dote che dovremo sviluppare per gestire questo passaggio storico è di natura metacognitiva. Si tratta, in fondo, di quello che un tempo si chiamava pensiero critico.
Fosse la volta buona…
