Teoria
Riflessioni sul cittadino in periodo di prova
La sorveglianza algoritmica ha trasformato la cittadinanza in una sorta di “libertà vigilata”, costringendoci a convalidare continuamente la nostra identità di fronte a macchine con le quali è impossibile ragionare.
https://conciencia-democratica.org/articulos/reflections-on-the-probationary-citizen?lang=itDi Mariana Puente Lera19 novembre 202610 min di lettura
Lettura approfondita
La maggior parte di noi ha vissuto una qualche versione di questa esperienza. Arriviamo in aeroporto dopo un lungo volo, passaporto in mano, e ci mettiamo in coda per i cancelli automatici, che promettono di risparmiarci la dignità di parlare con un essere umano. Appoggiamo il passaporto sul vetro, guardiamo nella telecamera e aspettiamo. Non succede nulla. Ci viene chiesto di togliere gli occhiali, poi di stare sui piedini dipinti, poi di alzare un po’ lo sguardo. Ancora nulla.
Alla fine appare una luce rossa e veniamo indirizzati verso l’unico banco presidiato in fondo alla sala, dove un funzionario confronta il nostro volto con la fotografia con l’espressione di chi, senza dubbio, ha eseguito questa procedura non meno di cinquecento volte nello stesso giorno. Noi siamo, ovviamente, esattamente chi diciamo di essere. Lo eravamo per tutto il tempo. L’unica cosa in dubbio era se la macchina sarebbe stata d’accordo.
Questo episodio è banale e la maggior parte delle persone lo dimentica prima di arrivare al nastro bagagli. Eppure richiede maggiore attenzione, perché condensa una trasformazione del significato della cittadinanza che procede in modo così graduale e in un registro così banale da sfuggire in larga misura all’osservazione.
Per la maggior parte dell’era moderna la cittadinanza ha funzionato come uno status: la si possedeva e lo Stato era obbligato ad agire di conseguenza. Sta diventando sempre più simile a una forma di prova. La si detiene in linea di principio, ma bisogna dimostrare ripetutamente di possederla a sistemi che non conoscono la persona che hanno di fronte, con cui non si può ragionare e che sono indifferenti alle spiegazioni.
Gli antropologi hanno a lungo guardato con una certa scetticismo il racconto ufficiale della cittadinanza. La filosofia politica e il diritto costituzionale tendono a definirla attraverso diritti, statuti e titoli formali, e queste definizioni non sono tanto errate quanto incomplete. La ricerca di James Holston nelle periferie auto-costruite di São Paulo ha scoperto che la cittadinanza brasiliana era universale nella sua forma giuridica ma diseguale nella pratica: i residenti più poveri erano sistematicamente tenuti a produrre documenti, prove e permessi che ai cittadini più ricchi non venivano mai richiesti. Egli ha chiamato questo assetto “cittadinanza differenziata”.
La conclusione più ampia, condivisa da gran parte della disciplina, è che la cittadinanza è meno un possesso che una relazione, rinnovata o ritirata negli incontri quotidiani attraverso cui le persone si presentano alle istituzioni. I diritti, in pratica, sono affidabili solo quanto il funzionario che li amministra.
Il cambiamento di questo assetto nel nostro mondo contemporaneo riguarda la natura di questo funzionario.
Una prospettiva storica di lungo periodo aiuta a chiarire il punto. È un fatto rivelatore, e in un certo senso umiliante, che la più antica scrittura conosciuta, le tavolette proto-cuneiformi di Uruk nella Mesopotamia meridionale, non registrasse miti né leggi, bensì conti: quantità di grano, bestiame, razioni di birra e lavoro dovuto agli amministratori del tempio. Fin dalle sue origini più remote lo Stato si è occupato di enumerare le persone e i loro possessi.
James Scott ha descritto famosamente questo come la ricerca della “leggibilità”. In Seeing Like a State ha mostrato come censimenti, mappe catastali, registri della proprietà e cognomi permanenti servissero a tradurre la densa, locale e idiosincratica tessitura della vita sociale in categorie standardizzate che un’autorità distante potesse leggere, tassare o arruolare.
Meno frequentemente si osserva quanto male gli Stati abbiano svolto questo compito per la maggior parte della loro storia. L’enumerazione era laboriosa. Richiedeva impiegati, materiali e viaggi faticosi, e i risultati erano spesso già obsoleti nel momento in cui venivano consultati. Persino il più ambizioso apparato di sorveglianza del XX secolo, quello della Repubblica Democratica Tedesca, raggiunse la sua portata solo attraverso un’enorme spesa di lavoro umano: nel 1989 la Stasi contava su quasi 190.000 informatori e aveva accumulato fascicoli che si estendevano per più di cento chilometri di scaffali. Il sistema era minaccioso, ma era anche, secondo ogni misura tecnica, grossolanamente inefficiente.
Si può sostenere che gran parte di ciò che le società liberali sono arrivate a considerare privacy non sia mai stata principalmente un principio, bensì un sottoprodotto di un limite amministrativo. Lo Stato si asteneva dall’osservare tutti soprattutto perché osservare tutti era al di là delle sue capacità.
Quel limite è ora (quasi) superato. Il riconoscimento facciale automatico può associare un nome a un volto in meno di un secondo. Il programma Aadhaar indiano ha registrato le impronte digitali e i pattern dell’iride di più di 1,3 miliardi di persone e ora media il loro accesso a razioni alimentari, pensioni, servizi bancari e telecomunicazioni. Aziende private hanno assemblato database di decine di miliardi di immagini prelevate dai social media e venduto l’accesso alle forze di polizia di diversi continenti. Sistemi predittivi addestrati su comportamenti d’acquisto, mobilità e reti sociali generano valutazioni di rischio di individui che non hanno commesso alcun reato. Il cambiamento decisivo qui è economico prima che tecnico. L’osservazione è diventata quasi a costo zero, e un sistema che costa poco da far funzionare non ha alcuna ragione intrinseca per smettere di funzionare.
Ciò che questi sistemi osservano, tuttavia, non è la persona così come la concepisce la teoria liberale. Nella sua Huxley Memorial Lecture del 1938 Marcel Mauss sostenne che la “persona”, intesa come portatrice di un nome, di un’identità giuridica, di una coscienza morale e di diritti, non è un dato universale ma una costruzione storica, elaborata diversamente a seconda delle società e delle epoche. La sorveglianza contemporanea, suggerirei, sta producendo una nuova variante di questa.
La persona riconosciuta dai sistemi algoritmici è un aggregato di frammenti: un’impronta digitale, un template facciale, un codice postale, una storia creditizia, un modello di comunicazione, un elenco di contatti all’estero. Questi frammenti sono custoditi in database separati da istituzioni separate e successivamente ricombinati in un profilo che agisce in nome dell’individuo.
Il racconto di Marilyn Strathern della persona melanesi, in cui la persona non è concepita come un individuo delimitato ma come un “dividuale” composto di relazioni divisibili, offre un’analogia suggestiva seppure imperfetta. Questa analogia ha dei limiti, poiché il dividuale melanesi si costituisce attraverso la reciprocità, mentre il soggetto dei dati si costituisce attraverso l’estrazione. Questa figura composita può essere approvata per un credito, segnalata per un’indagine, ammessa a un confine o rifiutata a un beneficio, spesso senza che l’essere umano il cui nome porta ne venga mai a conoscenza.
Il risultato è una duplicazione quasi schizoide. Ai fini ufficiali esistono ora effettivamente due versioni di ciascuno di noi, e quella che di solito conta è quella che non abbiamo mai incontrato — e non incontreremo mai.
Come hanno potuto avanzare sistemi del genere con così poca contestazione pubblica? Lo studio di James Ferguson sui programmi di sviluppo in Lesotho fornisce un quadro utile. Ferguson ha caratterizzato l’apparato dello sviluppo come una “macchina anti-politica”: un meccanismo che riformula le questioni politiche come problemi tecnici, le delega a esperti e, così facendo, espande il potere dello Stato rimuovendo il suo esercizio dalla deliberazione democratica.
La governance algoritmica potrebbe essere la più efficiente macchina anti-politica mai ideata. Questioni che appartengono propriamente al dibattito pubblico (chi merita sospetto, i cui movimenti debbano essere registrati, quante identificazioni errate siano tollerabili) vengono riformulate come questioni di tassi di accuratezza e soglie di errore e assegnate a ingegneri e fornitori. La sostanza politica di queste decisioni è ora trasferita in luoghi in cui i cittadini non possiedono né legittimazione né vocabolario per contestarla.
Un’ulteriore ironia merita di essere notata. Le tecnologie digitali sono state promosse, in larga misura, come strumenti di liberazione dalla burocrazia, promettendo la fine delle code, dei moduli cartacei e dei funzionari ostruzionisti. Ma è accaduto l’opposto, come di solito accade quando le riforme di mercato pensate per ridurre la burocrazia tendono a moltiplicarla. La burocrazia è diventata continua e impercettibile, e i cittadini sono diventati richiedenti permanenti.
Gli effetti sulla vita politica sono difficili da quantificare, poiché consistono in gran parte di azioni che non vengono mai intraprese. Un sondaggio dell’Agenzia dell’Unione Europea per i Diritti Fondamentali ha rilevato che quasi tre rispondenti su dieci sarebbero meno disposti a partecipare a una manifestazione pacifica se fosse in uso il riconoscimento facciale. Il diritto di riunione rimane quindi costituzionalmente intatto anche mentre il suo esercizio diminuisce silenziosamente. I genitori consigliano ai figli quali spazi online evitare; gli attivisti lasciano a casa i telefoni; i cittadini comuni sviluppano un senso diffuso ma persistente di quali opinioni sia meglio non esprimere. Il concetto di “habitus” di Pierre Bourdieu, le disposizioni durevoli attraverso cui le strutture sociali diventano incorporate come seconda natura, descrive questo processo con una certa precisione. La sorveglianza raggiunge il suo effetto più pieno una volta diventata habitus, quando gli individui modificano la propria condotta in anticipazione dell’osservazione e non è più necessaria alcuna proibizione esplicita.
Questo non significa suggerire che le popolazioni siano meramente passive. Durante le proteste del 2019 a Hong Kong i manifestanti hanno usato ombrelli per ostruire le telecamere e hanno puntato laser sulle lenti. Artisti e attivisti in Europa hanno sviluppato camuffamenti facciali destinati a sconfiggere il software di riconoscimento. San Francisco e diverse altre città americane hanno vietato l’uso del riconoscimento facciale da parte della polizia dopo campagne locali sostenute.
Sempre più spesso gli individui articolano anche rivendicazioni nella loro qualità di soggetti dei dati, chiedendo l’accesso ai propri record, la correzione degli errori e il diritto di contestare le decisioni automatizzate. Un resoconto adeguato deve anche riconoscere che molte persone vivono la sorveglianza come protettiva piuttosto che minacciosa, e il metodo etnografico richiede che tale testimonianza sia presa sul serio. Esso richiede altresì di chiedersi la cui sicurezza viene prodotta. Il residente rassicurato da una telecamera all’angolo e l’adolescente fermato ripetutamente a causa di essa abitano spesso la stessa strada.
Hannah Arendt ha definito la cittadinanza come “il diritto di avere diritti”, una formulazione che ha elaborato attraverso la riflessione sui rifugiati apolidi del periodo tra le due guerre, i quali scoprirono che la loro umanità astratta non garantiva loro alcuna protezione una volta ritirata l’appartenenza politica. La situazione attuale differisce da quella che lei descrisse ed è, sotto certi aspetti, più insidiosa. Il pericolo principale non è più l’espulsione dalla comunità politica, ma l’inclusione condizionale al suo interno: un’appartenenza che rimane formalmente sicura mentre l’accesso alle sue protezioni dipende dal fatto che un sistema automatizzato sia disposto a riconoscere l’individuo in questione. Si può restare cittadini e tuttavia essere rifiutati al negozio delle razioni, trattenuti al confine, o scoprire che i diritti garantiti sulla carta si dissolvono nel momento in cui il sistema stabilisce che non si “computa” del tutto.
È essenziale, infine, resistere alla tentazione di trattare questi sviluppi come inevitabili. Il cambiamento tecnologico è spesso rappresentato come una forza quasi naturale, qualcosa che accade alle società piuttosto che qualcosa che esse scelgono. Eppure ogni telecamera è stata installata da qualcuno, ogni database commissionato da qualcuno, e ogni decisione di interporre un algoritmo tra un cittadino e i suoi diritti è stata presa da persone che avrebbero potuto decidere diversamente.
Mauss insisteva sul fatto che la categoria della persona è una conquista storica, il che significa che può essere costituita diversamente. Lo stesso vale per lo Stato e per le macchine attraverso cui esso ora percepisce i suoi membri. La questione decisiva non è quindi se questi sistemi possano essere resi più accurati, ma se le società democratiche siano disposte ad accettare un ordine in cui l’appartenenza debba essere continuamente dimostrata a un’autorità con cui non si può discutere e, qualora rifiutino, quali forme istituzionali di riconoscimento siano disposte a costruire al suo posto.
Condividi
Per Instagram: copia il link e incollalo nella tua storia o nel DM.
Continua con

Teoria
Il miraggio rivoluzionario?
Cosa accadde durante le sollevazioni del dicembre 2010 e del gennaio 2011?
Mortadha Ghaliounji

Teoria
E poi, com'è fatto un coniglio?
Un coniglio attraversa la campagna e sembra non lasciare dubbi, fino a quando Quine chiede cosa abbiamo visto veramente e la filosofia trasforma l'animale in un problema. Tra parole, classificazioni ed essenze, questo saggio esamina il momento in cui una categoria utile smette di descrivere organismi concreti e inizia a popolare il mondo con un'entità aggiuntiva chiamata connettività.
Agustín Cosso

Teoria
Dalla socialdemocrazia alla Terza Via
La SPD tedesca, il Labour britannico, il Partito Socialista francese, il CHP turco: una stessa corrente, mille volti.
Mortadha Ghaliounji

Commenti
Ancora nessun commento. Apri tu la conversazione.
Accedi per commentare. Accedi