Scienza, Tecnologia e Trasformazione Sociale

Di: M. Minetti

“Modelli matematici mal congegnati gestiscono oggi in maniera pedante l'economia, dalla pubblicità alle prigioni. Queste ADM (Armi di Distruzione Matematica)[..] sono poco chiare, dogmatiche e inesplicabili e operano al fine di classificare, selezionare e “ottimizzare” milioni di persone. Confondendo le loro conclusioni con la realtà quotidiana la maggior parte di esse crea funesti cicli di Feedback”(p.18)

L'autrice, Cathy O'Neal, era una ricercatrice in campo matematico, si trovò a lavorare guadagnando molto di più nel campo della finanza per un hedge found assistendo dall'interno alla crisi del 2008. Dopo aver lavorato come Data Scientist per diverse aziende ha fondato un blog per svelare le distorsioni degli algoritmi, mathbabe.org, e ha partecipato al movimento di Occupy Wall Street, attualmente pubblica su Bloomberg.org

Per classificare i modelli matematici come Armi di Distruzione Matematica vengono identificate tre domande. 1) Benchè il partecipante sia cosciente di essere oggetto di una modellazione (modellizzazione?), o delle finalità per cui il modello viene utilizzato, quest'ultimo è poco chiaro o addirittura non visibile? (p.32 gli algoritmi vengono mantenuti nascosti per tutelare la “proprietà intellettuale”) 2) Il modello va contro l'interesse del singolo? Danneggia o distrugge la vita delle persone? 3) Il modello ha la capacità di crescere esponenzialmente? E' scalare? Come esempi, tra gli altri, vengono approfonditi gli algoritmi per valutare la produttività degli insegnanti che ha portato al licenziamento di 200 docenti ritenuti poco validi in base all'andamento dei punteggi rilevati nei test dei loro alunni. (p.11). Altro esempio è il software che calcola la probabilità di recidiva per concedere o meno la libertà vigilata ai detenuti (p.29) e l'algoritmo che guida la classifica delle “migliori” università statunitensi stilato da U.S. News (p.63). A Zhongxiang, in Cina, duemila persone hanno manifestato davanti alla sede degli esami armati di pietre, perchè i funzionari del ministero avevano scoperto e impedito un complesso sistema per copiare alla prova di ammissione all'università, attuato da anni in quella città, che permetteva di ottenere i punteggi più alti e l'ammissione nelle migliori università. (p.66) Negli U.S.A. Vengono proposti corsi di addestramento al superamento delle prove di ammissione all'università che arrivano a costare 16.000 $ per quattro giorni (vitto e alloggio esclusi) o anche più di 20.000 $ con la formula che si paga solo se si supera il test. Cosa c'entra questo con le ADM? Sembrerebbe nulla. Invece l'autrice ci mostra come, dopo aver accettato che gli algoritmi decidano della nostra vita, decretando il nostro successo o insuccesso, le azioni e le scelte di tutti vengono guidate dal criterio di soddisfare quegli algoritmi producendo i proxy data ideali (i dati vicarianti, quelli che indicherebbero la corrispondenza voluta), di solito basati su un criterio classista, razziale, o sessista. Insomma, attraverso dei freddi algoritmi si favoriscono le classi abbienti e i gruppi dominanti, come si è sempre fatto, ma senza quella spiacevole e poco politically correct discriminazione arbitraria delle persone. Prima si valutava in base al cognome, alla zona di residenza, all'abbigliamento, ai circoli frequentati, al linguaggio usato, oggi le macchine svolgono in modo oscuro questi compiti in base a pregiudizi inseriti nei loro algoritmi di matching. L'autrice si occupa poi della spiegazione di alcune pratiche di marketing che definisce “predatorie”. Grazie ai dati forniti sulla rete o rispondendo ad annunci (a volte falsi annunci di lavoro), le aziende individuano i possibili clienti, talvolta selezionando fasce della popolazione più vulnerabili, per ignoranza, bassa autostima, fragilità emotive, ansia. Per queste categorie si sviluppa il mercato dei sogni, o a volte vere e proprie truffe, vendendogli corsi universitari, formazione professionale, prestiti veloci con poche garanzie, viaggi, beni di consumo rateizzati... spingendo i più poveri a contrarre debiti che non riusciranno mai a pagare. Viene fatta poi una ampia disamina dell'applicazione dei software alla gestione delle risorse umane, dalla selezione automatica dei CV, ai licenziamenti, alla attribuzione dei turni, alla concessione di crediti, al calcolo delle polizze assicurative Ultimo aspetto affrontato, e forse il più interessante, è quello del marketing politico operato in gran parte sui social network, Facebook in primis, in quanto risulta essere lo strumento più influente sull'ambito politico. L'algoritmo stabilisce l'estensione della bolla (anche fra i nostri contatti) all'interno della quale i nostri contenuti saranno diffusi e condivisi (solo degli ingenui pensano ancora che quando si preme il tasto “condividi” il contenuto venga semplicemente pubblicato su tutte le bacheche dei nostri amici). In modo molto più sofisticato gli algoritmi permettono agli annunci sponsorizzati di raggiungere il pubblico microtargetizzato, mostrandogli solo le comunicazioni dirette a quelle persone. Sono stati fatti esperimenti dichiarati, dal team di Facebook, su questi temi riguardo la partecipazione alle elezioni (monitorando gruppi campione a cui venivano mostrate più notizie di politica) e riguardo al condizionamento dell'umore degli utenti, inviando ad un gruppo contenuti “positivi” e ad un altro contenuti “tristi”. I risultati hanno dimostrato una evidente influenza statistica delle azioni successive degli utenti: dalle dichiarazioni di voto al “tono” positivo o triste dei contenuti prodotti. Insomma, se pensate che un mondo in cui molte decisioni siano prese dai computer e dagli algoritmi di IA sia più giusto e equo del vecchio mondo in cui catene decisionali molto lunghe applicavano direttive spesso inefficaci, questo libro è per voi. A me sembra che nel 2019 qualsiasi lavoratore precario sa che i turni gestiti da una macchina (in mano al capo che si spartisce i dividendi) non è che lo strumento per sfruttarlo al massimo e ridurre a zero il tempo di lavoro non produttivo (le pause). Quindi questo libro è utile anche a tutti i lavoratori che cercano di capire come funzione il sistema di controllo sociale e sfruttamento della maggioranza delle persone, da parte della minoranza delle persone che si pone come dominante, per trovarne le falle e individuare le leve per inceppare il sistema. Qui suggerisco qualche opzione: fornire dati falsi, evitare di fornire i dati, scegliere software libero, chiudere profili, riaprirne molti con dati incoerenti, non accettare mai offerte telefoniche o online, spegnere spesso lo smartphone e fare spesso il reset completo, fare formazione alle persone anziane o baby boomers su questi argomenti. Insomma costruire reti sociali per aiutarsi vicendevolmente a non cadere nella rete dei predatori del web e dei suoi signori feudali.