“La costruzione della realtà sociale” di John Searle spiega il modo in cui cose come il denaro, le famiglie, le divinità, cioè gli “oggetti” della nostra vita sociale, nascono e si sviluppano attraverso atti linguistici quali affermazioni, promesse, concessioni, divieti. Ad esempio, nel contesto di una cerimonia nuziale, “vi dichiaro marito e moglie”, pronunciato da un ufficiale civile, crea quell’“oggetto” che chiamiamo matrimonio. Naturalmente, questo richiede che tutti i membri della società intendano il linguaggio in modo coerente.
Questo “intendere sanamente”, che è alla base di ogni possibile società, non è tuttavia un fatto puramente grammaticale, lessicale o logico. “Il linguaggio non è un sistema autonomo di regolarità formali, ma una pratica normativa la cui regolarità siamo noi stessi a creare”, dicono i linguisti del Novecento (qui con le parole di Talbot Taylor). Nell’interpretazione di un atto linguistico c’è tanta creatività quanta se ne trova nella sua produzione, dunque ciascun atto è un cocktail di regola e libertà, con qualche goccia di casualità e una scorza di errore. Se le società stanno in piedi è perché con tali ingredienti si realizzano, in qualche misterioso modo, decisioni linguistiche collettive coerenti e, il più delle volte, funzionali.
Cosa accade quando affidiamo l’atto linguistico agli automi? Quando produzioni e interpretazioni sono sottratte alla condizione umana e riposte in algoritmi e transazioni? Che tipo di società ci aspetta se cambia il modo di generare i sensi che ne sono alla base? L’era dell’informazione, col suo arsenale di intelligenza artificiale, ci porta sul ciglio di questa impegnativa domanda.
Già oggi, molte transazioni sociali sono in sostanza determinate da algoritmi: investimenti, viaggi, relazioni personali. Gli algoritmi ci impersonano, ad esempio scegliendo per noi, e ci giudicano, ad esempio classificandoci. Se è vero, come diceva Heidegger con una celebre inversione, che “siamo parlati dal linguaggio”, molto di ciò che oggi “ci parla” non è più riposto nell’umanità, ma è codificato in qualche remoto anfratto del cyberspazio.
Leonardo da Vinci diffidava dal far pratica senza scienza e dall’edificare senza fondamenti matematici. La matematizzazione del linguaggio che è propria delle tecnologie informatiche, tuttavia, ha poco di leonardesco. È vero che sappiamo benissimo fare calcoli molto complessi su grandi quantità di dati, ma non siamo altrettanto bravi a mettere in silicio un’efficace “scienza del significato”, per il semplice fatto che su questa scienza non c’è unanime consenso. Indizi di questa situazione si scorgono nei post rimossi per sbaglio da quelle reti sociali che, giunte ormai ad inglobare grosse porzioni di umanità, affidano ad automatismi il controllo dei contenuti. Comprendere l’ironia, ad esempio, richiede profonde conoscenze del mondo, sottili analisi del contesto e ragionevoli ipotesi sul locutore. Sono tutte cose che noi umani facciamo piuttosto bene, ma non sappiamo esattamente come. Altre tracce di insipienza linguistica si vedono a occhio nudo parlando con certi “chatbot” che le aziende usano per gestire le relazioni con i clienti. Questi robot si fingono umani, ma spesso non possono far altro che passare la mano a qualcuno che “capisce”, sia pure una persona non madrelingua che vive dall’altra parte del pianeta. Quindi, in una certa misura, gli algoritmi che danno forma alla nostra società somigliano davvero a quei “nocchieri senza bussola che non sanno dove vanno” di cui parlava Leonardo, e la mole delle navi che conducono a gran velocità fa stare leggermente in ansia.
“Transumanisti” come Kurzweil prospettano il superamento, da parte degli automi, dei limiti della cognitività umana. Più che un superamento, però, quella che sta avvenendo oggi è una mutazione. Se gli automi cambiano il modo di produrre e recepire i segni, c’è da attendersi che gli “oggetti sociali” che scaturiscono dagli atti linguistici si trasformino anch’essi. Salvatore Iaconesi osserva come la “transazionalizzazione” portata dalle blockchain rischi di cambiare la natura dei legami fiduciari su cui si basano molte istituzioni. Allo stesso modo, l’automazione del dialogo potrebbe alterare il senso che ciascuno ha delle soggettività altrui, su cui pure si basa la coesione sociale. Non conosciamo bene i contorni di queste dinamiche e non bisogna fare allarmismi, ma non si può neanche nascondere che, nel peggiore dei casi, invece che di “transumanesimo” ci troveremo a parlare di “disumanesimo”.
La costruzione algoritmica della realtà sociale è pienamente in atto. Si pone dunque il problema di viverci dentro restando umani, cioè conservando le migliori tra le prerogative della nostra specie. Porre limiti e regolamentazioni ha senso in molti casi, come ad esempio gli impieghi militari. Ma nessuno può pensare di fermare il motore del nuovo millennio. Ne consegue che le istituzioni, la ricerca, l’industria, debbano porsi l’obiettivo di umanizzare l’algoritmica cognitiva, non nel senso di una migliore emulazione delle facoltà umane, ma nel senso della conservazione delle prerogative umane nei processi governati dagli algoritmi.