Per delineare un’etica delle intelligenze artificiali è necessario conoscere il lavoro di Kate Crawford e quello di Luciano Floridi: il confronto tra le loro opere ci offre un’utile panoramica su criticità e possibili soluzioni.
Tra la fine del 2021 e l’inizio del 2022 sono usciti due libri molto importanti sull’intelligenza artificiale (IA). Conviene leggerli insieme, come due gemelli eterozigoti. Il primo è quello di Kate Crawford, Né intelligente né artificiale. Il lato oscuro dell’IA (versione italiana dell’originale inglese Atlas of AI. Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021); il secondo è quello di Luciano Floridi, Etica dell’intelligenza artificiale. Il primo rappresenta la pars destruens del discorso pubblico sull’IA, il secondo, invece, la pars costruens.
Il libro di Crawford ha il merito di rendere estremamente visibile l’infrastruttura planetaria che si nasconde dietro lo sviluppo e la diffusione di sistemi di IA e di rappresentarci questa infrastruttura come la versione contemporanea di precedenti forme di industria estrattiva. La creazione di sistemi di IA è strettamente legata allo sfruttamento delle risorse energetiche e minerarie del pianeta, di manodopera a basso costo e di dati su amplissima scala.
Crawford ci mostra come l’intelligenza artificiale «nasce dai laghi salati della Bolivia e dalle miniere del Congo, ed è costruita a partire da set di dati etichettati da crowdworkers che cercano di classificare azioni, emozioni e identità umane. Viene utilizzata per guidare droni nello Yemen, per guidare la politica migratoria degli Stati Uniti e per definire, in tutto il mondo, le scale di valutazione del valore umano e del rischio».
Il libro è diviso in sei capitoli, in cui Crawford prende in esame gli impatti ecologici dell’IA (Terra), le conseguenze dell’IA sul lavoro (Lavoro), il modo predatorio in cui sono stati raccolti i dati su cui i sistemi di IA sono stati addestrati (Dati), i modi in cui si è affermata la logica classificatoria che sta dietro l’IA (Classificazione), l’illusione di aziende e agenzie militari di rendere le emozioni calcolabili e prevedibili (Emozioni), il ruolo dello Stato nello sviluppo dell’IA (Stato) e una riflessione finale sui tipi di potere a cui è funzionale l’IA.
In ognuno di questi sei capitoli, Crawford assesta una critica ben documentata alla retorica tecno-ottimista, che racconta l’IA come la soluzione a tanti problemi sociali e ambientali. Crawford parte dalla materialità dell’IA, dalla sua necessità di suolo ed energia, ne espone il pericolo per l’ambiente e per il lavoro umano, ne ricostruisce la storia, facendo emergere la natura «coloniale» del modello estrattivista che ha permesso l’accumulo dei dati sui quali l’IA viene allenata e ne evidenzia la capacità di sorveglianza e controllo sociale da parte di Stati e aziende. In questa ricostruzione accurata, l’IA non produce niente di buono e non è intesa come una tecnologia neutrale, che può essere usata in modi positivi o negativi a seconda di chi la imbraccia. Finora, ci dice Crawford, l’IA ha avuto solo un impatto negativo sull’ambiente naturale e sulla società, perché rappresenta il naturale proseguimento di un modello di sviluppo – quello del capitalismo industriale – che è di base estrattivo e predatorio.
Al di là di questa posizione che qualcuno potrebbe definire «radicale», il libro di Crawford ha, tra gli altri meriti, quello di descriverci l’IA non come una semplice tecnologia o un insieme di innovazioni tecnologiche, ma come un apparato socio-tecnico, o socio-materiale, animato da una complessa rete di attori, istituzioni e tecnologie. L’IA per Crawford è «un’idea, un’infrastruttura, un’industria, una forma di esercizio del potere; è anche una manifestazione di un capitale altamente organizzato, sostenuto da vasti sistemi di estrazione e logistica, con catene di approvvigionamento che avviluppano l’intero pianeta».
Continua a leggere l’articolo su L’Indiscreto.
