Indica un intervallo di date:
  • Dal Al

I paradossi del robot mentitore

Dalle Americhe giunge la notizia di un'altra prodigiosa conquista della tecnologia: la menzogna. In violazione delle Leggi di Asimov, alcuni ricercatori statunitensi hanno costruito un robot mentitore. Questo può calcolare, in determinate situazioni, il vantaggio che viene dal dissimulare, dal fingere e dall'ingannare, ed è in grado di applicare i propri machiavellismi senza rimorsi o altri residui morali.

Benché i ricercatori tentino di recuperare una dimensione etica spiegando che vi sono falsità promosse al vero a fin di bene, come quelle, pietose, che si raccontano ai malati, non si può fare a meno di provare un certo disagio all'idea che la menzogna, così largamente praticata dagli umani, possa venire perfezionata e amplificata attraverso le macchine.

L'austero Jankélévitch definì la menzogna “diserzione e oppio del minimo sforzo”, sostenne che non si mente mai in buona fede e che comunque alla lunga non ne viene nulla di buono. Egli avrebbe senz'altro esecrato il robot mentitore e ammonito sulle insidie che questo può portare. Ma molta filosofia contemporanea, a partire da Nietzsche, non annette grande rilievo alla verità, e dunque potrebbe sdoganare l'automa bugiardo con una certa disinvoltura.

L'automa bugiardo, spiegano i ricercatori, è in possesso di una 'teoria della mente altrui' sulla quale basa i propri calcoli infingardi. Questi consistono nell'escogitare il contenuto comunicativo (anche gestuale) più idoneo a conseguire il proprio vantaggio. Non so come sia fatta questa macchina, ma se dovessi progettarla io in base ai requisiti funzionali, farei sì che non perdesse tempo a considerare la verità, cioè l'adeguatezza del contenuto comunicativo alla realtà. Insomma, se il fine della macchina è quello del vantaggio, io, come progettista, il problema della menzogna, come opposto della verità, non lo prenderei neanche in considerazione. Non spenderei neanche un ciclo macchina a misurare la differenza tra il detto e il fatto, men che meno a calcolare il problema etico dell'adeguatezza dell'uno all'altro.

Può esserci menzogna senza considerazione del problema della menzogna? No, perché, banalmente, la menzogna, in quanto tale, è intenzionale, dunque richiede consapevolezza. Perciò, per fare del robot un vero mentitore, si dovrebbe includere nei suoi algoritmi qualcosa che, riconoscendo il vero e il falso, scelga il falso nella piena coscienza che questo comporta un problema etico.

Come si programma la consapevolezza di un problema etico? Questo i ricercatori statunitensi non lo spiegano.