Stiamo smettendo di pensare. Ci stiamo disabituando allo sforzo di riflessione. Lo stiamo delegando.
Nelle scorse ore ho letto alcuni documenti palesemente scritti dall’IA. Erano corretti. Ma non pensati. E sia nel titolo che nell’assetto di vedeva la mano artificiale.
Ed è proprio qui che comincia il problema:
l’intelligenza artificiale non sta semplicemente cambiando il modo in cui scriviamo, ma sta modificando il rapporto che abbiamo con il pensiero, con la conoscenza e con la responsabilità.
Il rischio più concreto non è che le macchine diventino simili a noi. È che noi iniziamo ad adattarci al loro modo di funzionare: rapido, plausibile, efficiente, privo di esitazioni.
Pensare, però, non significa produrre una risposta formalmente corretta. Significa comprendere il contesto, distinguere ciò che è vero da ciò che è verosimile, riconoscere ciò che manca, attribuire peso alle conseguenze.
L’IA può generare linguaggio. Ma il linguaggio non coincide automaticamente con il pensiero. Può restituire una sintesi, ma non possiede la responsabilità di ciò che afferma. Può formulare una decisione, ma non ne sopporta gli effetti. Può simulare competenza, senza avere coscienza del valore, del rischio o del significato di una scelta.
Eppure, più questi sistemi diventano fluidi e convincenti, più siamo portati a delegare loro non soltanto compiti, ma porzioni sempre più ampie del nostro giudizio.
È una delega silenziosa.
Comincia con una mail, una relazione, un riassunto. Poi riguarda l’interpretazione di un fatto, la selezione di un’informazione, la formulazione di una scelta. Fino al punto in cui rischiamo di non essere più autori delle nostre decisioni, ma semplici approvatori di risposte prodotte altrove.
Il pericolo non è soltanto l’errore dell’algoritmo. È l’assuefazione dell’essere umano.
Quando una tecnologia diventa abituale, smettiamo di vederla come una mediazione. La consideriamo neutrale. E ciò che appare neutrale finisce per orientare il nostro modo di leggere la realtà senza essere più discusso.
Una grande questione di questo tempo è conservare autonomia, spirito critico e responsabilità in un ambiente sempre più costruito da sistemi che producono risposte senza comprenderne il senso.
Dovremmo usare l’IA per aumentare le nostre capacità, non per dismetterle. Perché il rischio non è vivere in una società popolata da macchine intelligenti. È vivere in una società in cui gli esseri umani, circondati da risposte, perdano lentamente l’abitudine a pensare.