La notizia che arriva in queste ore dall’Illinois merita attenzione: il governatore JB Pritzker ha firmato una legge sull’Intelligenza Artificiale che obbliga i grandi sviluppatori a piani di sicurezza, segnalazione dei rischi e audit indipendenti annuali.
Non è una norma qualsiasi. Interviene in un Paese, gli Stati Uniti, dove da anni l’innovazione digitale cresce più rapidamente della capacità e volontà pubblica di regolarla. Il modello dominante è stato spesso questo: prima si lascia correre il mercato, poi si prova a gestire il danno.
Con l’IA questo schema è estremamente rischioso.
Non abbiamo a che fare solo con una nuova applicazione o con un nuovo software, ma con sistemi che possono incidere su decisioni sensibili: accesso al lavoro, credito, assicurazioni, sanità, istruzione, sicurezza, informazione. E soprattutto parliamo di sistemi costruiti su enormi quantità di dati.
Il punto dell’Illinois è interessante perchè non si limita a dire “l’IA deve essere etica”, ma introduce obblighi verificabili. Audit esterni. Tempi di segnalazione. Responsabilità in caso di rischi gravi. In altre parole, prova a spostare l’IA dal terreno della fiducia dichiarata dalle aziende a quello della verifica pubblica.
È qui che la questione diventa politica e sociale.
Negli USA esiste una forte pressione verso la deregolamentazione: l’idea che troppe regole rallentino l’innovazione, indeboliscano la competizione con la Cina, frenino gli investimenti. È un argomento potente, ma incompleto, in quanto ignora una domanda essenziale: innovazione per chi, e a quali condizioni?
Un sistema di IA può funzionare benissimo dal punto di vista tecnico e produrre comunque effetti ingiusti. Può essere efficiente, ma opaco. Può essere veloce, ma discriminatorio. Può ridurre i costi, ma aumentare la sorveglianza. Può personalizzare un servizio, ma trasformare dati personali in strumenti di classificazione permanente.
La sicurezza dei dati, allora, non è un problema per specialisti. È una forma concreta di tutela della persona. Quando dati sanitari, professionali, biometrici, comportamentali o relazionali vengono raccolti e processati da sistemi opachi, la dignità individuale non dipende più solo dalla legge, ma anche dall’architettura tecnica scelta da un’impresa.
Per questa ragione la deregolamentazione dell’IA non è neutralità, ma è una scelta: lasciare che siano le aziende a definire da sole i confini tra uso legittimo, rischio accettabile e abuso.
La legge dell’Illinois non risolve tutto. Anzi, fa emergere anche il problema americano: in assenza di una cornice federale forte, ogni Stato prova a costruire i propri argini. Il risultato può essere frammentato, disomogeneo, difficile da applicare.
Ma sostiene un principio importante: l’IA non può restare una tecnologia senza contropoteri. Avvinando gli USA al taglio europeo.
Servono regole comprensibili, verificabili e applicabili. Non per paura del futuro, ma perché senza responsabilità, trasparenza e controllo indipendente, il futuro rischia di essere deciso da chi possiede i dati, i modelli e l’infrastruttura. Cioè dai colossi.
E quando questo accade, i diritti delle persone arrivano sempre dopo.
Ma in Illinois si è aperta una crepa, forse una breccia.
Foto di Gage Skidmore from Surprise, AZ, United States of America