Teoria
Refleksje nad obywatelstwem na okresie próbnym
Nadzór algorytmiczny zamienił obywatelstwo w „wolność na okresie próbnym”, zmuszając nas do nieustannego potwierdzania tożsamości przed maszynami, z którymi nie da się dyskutować.
https://conciencia-democratica.org/articulos/reflections-on-the-probationary-citizen?lang=plAutor Mariana Puente Lera19 listopada 20268 min czytania
Większość z nas miała jakąś wersję tego doświadczenia. Przybywamy na lotnisko po długim locie, z paszportem w ręku, i ustawiamy się w kolejce do automatycznych bramek, które obiecują oszczędzić nam godności rozmowy z żywym człowiekiem. Kładziemy paszport na szkle, patrzymy w kamerę i czekamy. Nic się nie dzieje. Proszą nas o zdjęcie okularów, potem o stanąć na namalowanych stopach, potem o spojrzeć trochę wyżej. Nadal nic.
W końcu zapala się czerwone światło i kierują nas do jedynego obsadzonego biurka na drugim końcu hali, gdzie funkcjonariusz porównuje naszą twarz ze zdjęciem z miną kogoś, kto niewątpliwie wykonał tę procedurę co najmniej pięćset razy tego samego dnia. Jesteśmy oczywiście dokładnie tym, za kogo się podajemy. Byliśmy nimi cały czas. Jedyną kwestią budzącą wątpliwość było to, czy maszyna się z nami zgodzi.
Ten epizod jest trywialny i większość ludzi zapomina o nim, zanim dotrze do karuzeli bagażowej. Wymaga jednak większej uwagi, ponieważ kondensuje przemianę znaczenia obywatelstwa, która postępuje tak stopniowo i w tak banalnym rejestrze, że w dużej mierze umyka uwadze.
Przez większą część ery nowoczesnej obywatelstwo funkcjonowało jako status: posiadało się je, a państwo było zobowiązane postępować odpowiednio. Coraz bardziej zaczyna przypominać formę okresu próbnego. Posiada się je zasadniczo, ale trzeba wielokrotnie wykazywać, że się je posiada – systemom, które nie mają żadnej wiedzy o osobie przed sobą, nie poddają się argumentacji i są obojętne na wyjaśnienia.
Antropolodzy od dawna podchodzą do oficjalnego ujęcia obywatelstwa z pewnym sceptycyzmem. Filozofia polityczna i prawo konstytucyjne definiują je zwykle przez prawa, ustawy i formalne uprawnienia, a te definicje nie są tyle błędne, ile niepełne. Badania Jamesa Holstona w samorzutnie budowanych peryferiach São Paulo wykazały, że brazylijskie obywatelstwo było uniwersalne w formie prawnej, a jednak nierówne w praktyce – biedniejsi mieszkańcy regularnie musieli przedstawiać dokumenty, dowody i zezwolenia, których nigdy nie wymagano od zamożniejszych obywateli. Nazwał ten układ „obywatelstwem zróżnicowanym”.
Szerszy wniosek, podzielany przez znaczną część dyscypliny, jest taki, że obywatelstwo jest mniej posiadaniem niż relacją, odnawianą lub wycofywaną w codziennych spotkaniach, w których ludzie przedstawiają się instytucjom. Prawa w praktyce są tylko tak wiarygodne, jak urzędnik, który je administruje.
Zmianą w tym układzie we współczesnym świecie jest natura tego urzędnika.
Dłuższa perspektywa historyczna pomaga to wyjaśnić. Jest to fakt pouczający i nieco upokarzający, że najwcześniejsze znane pismo – proto-klinowe tabliczki z Uruk w południowej Mezopotamii – zapisywało nie mity ani prawo, lecz rachunki: ilości zboża, zwierząt gospodarskich, racji piwa i pracy należnej administratorom świątynnym. Od samych początków państwo zajmowało się enumeracją ludzi i ich posiadłości.
James Scott opisał to słynnie jako dążenie do „czytelności”. W Seeing Like a State pokazał, jak spisy ludności, mapy katastralne, rejestry własności i stałe nazwiska służyły przekładaniu gęstej, lokalnej i idiosynkratycznej faktury życia społecznego na standardowe kategorie, które odległa władza mogła czytać, opodatkowywać lub powoływać do wojska.
Rzadziej zauważa się, jak słabo państwa wykonywały to zadanie przez większość swojej historii. Enumeracja była pracochłonna. Wymagała urzędników, materiałów i żmudnych podróży, a jej wyniki często były przestarzałe w momencie konsultacji. Nawet najbardziej ambitny aparat inwigilacji XX wieku – ten Niemieckiej Republiki Demokratycznej – osiągał swój zasięg tylko dzięki nadzwyczajnym nakładom pracy ludzkiej: do 1989 roku Stasi opierała się na niemal 190 000 informatorów i zgromadziła akta rozciągające się na ponad sto kilometrów regałów. System był groźny, ale według wszelkich miar technicznych był też skrajnie nieefektywny.
Można argumentować, że wiele z tego, co społeczeństwa liberalne zaczęły uważać za prywatność, nigdy nie było przede wszystkim zasadą, lecz raczej produktem ubocznym ograniczeń administracyjnych. Państwo powstrzymywało się od obserwowania wszystkich głównie dlatego, że obserwowanie wszystkich przekraczało jego możliwości.
To ograniczenie zostało teraz (prawie) przezwyciężone. Automatyczne rozpoznawanie twarzy może przypisać nazwisko do twarzy w mniej niż sekundę. Indyjski program Aadhaar zarejestrował odciski palców i wzory tęczówki ponad 1,3 miliarda ludzi i obecnie pośredniczy w ich dostępie do racji żywnościowych, emerytur, bankowości i telekomunikacji. Prywatne firmy zgromadziły bazy danych dziesiątek miliardów zdjęć zeskrobanych z mediów społecznościowych i sprzedały dostęp agencjom policyjnym na kilku kontynentach. Systemy predykcyjne trenowane na zachowaniach zakupowych, mobilności i sieciach społecznościowych generują oceny ryzyka osób, które nie popełniły żadnego przestępstwa. Decydująca zmiana jest tu ekonomiczna, zanim stanie się techniczna. Obserwacja stała się niemal bezkosztowa, a system, którego eksploatacja kosztuje niewiele, nie ma wewnętrznego powodu, by przestać działać.
To, co te systemy jednak obserwują, nie jest osobą w rozumieniu teorii liberalnej. W swoim wykładzie Huxley Memorial z 1938 roku Marcel Mauss argumentował, że „osoba”, rozumiana jako nosiciel nazwiska, tożsamości prawnej, sumienia moralnego i praw, nie jest uniwersalną daną, lecz konstrukcją historyczną, różnie opracowywaną w różnych społeczeństwach i epokach. Współczesny nadzór, sugerowałbym, produkuje nową odmianę tego.
Osoba rozpoznawana przez systemy algorytmiczne jest agregatem fragmentów: odcisk palca, szablon twarzy, kod pocztowy, historia kredytowa, wzorzec komunikacji, lista kontaktów zagranicznych. Te fragmenty są przechowywane w oddzielnych bazach danych przez oddzielne instytucje i następnie rekomponowane w profil, który działa w imieniu jednostki.
Koncepcja osobowości melanezyjskiej Marilyn Strathern, w której osoba jest pojmowana nie jako ograniczona jednostka, lecz jako „dividual” złożony z podzielnych relacji, oferuje sugestywną, choć niedoskonałą analogię. Ta analogia ma granice, ponieważ melanezyjski dividual konstytuuje się poprzez wzajemność, podczas gdy podmiot danych konstytuuje się poprzez ekstrakcję. Ta złożona figura może zostać zatwierdzona do kredytu, oznaczona do dochodzenia, wpuszczona na granicy lub odmówiona świadczenia – często bez wiedzy człowieka, którego nazwisko nosi, o podjętej decyzji.
Wynikiem jest niemal schizofreniczne podwojenie. Dla celów oficjalnych istnieje teraz efektywnie dwoje z nas, a ten, który zwykle się liczy, to ten, którego nigdy nie spotkaliśmy – i nigdy nie spotkamy.
Jak takie systemy posunęły się naprzód przy tak niewielkim publicznym sprzeciwie? Badanie Jamesa Fergusona nad programem rozwojowym w Lesotho dostarcza użytecznej ramy. Ferguson scharakteryzował aparat rozwojowy jako „maszynę antypolityczną”: mechanizm, który reformułuje kwestie polityczne jako problemy techniczne, deleguje je ekspertom i w ten sposób rozszerza władzę państwa, jednocześnie usuwając jej sprawowanie z demokratycznej deliberacji.
Zarządzanie algorytmiczne może być najefektywniejszą maszyną antypolityczną dotychczas wymyśloną. Kwestie, które właściwie należą do debaty publicznej (kto zasługuje na podejrzenie, czyje ruchy powinny być rejestrowane, ile błędnych identyfikacji jest dopuszczalnych), są przekształcane w kwestie wskaźników dokładności i progów błędu i przypisywane inżynierom oraz dostawcom. Polityczna substancja tych decyzji jest teraz przenoszona do miejsc, gdzie obywatele nie mają ani pozycji, ani słownictwa, by je kwestionować.
Kolejna ironia zasługuje na uwagę. Technologie cyfrowe były promowane w znacznej części jako instrumenty wyzwolenia od biurokracji, obiecując koniec kolejek, papierowych formularzy i opornych urzędników. Ale stało się coś przeciwnego, jak to zwykle bywa, gdy reformy rynkowe zaprojektowane w celu redukcji biurokracji mają tendencję do ich mnożenia. Papierologia stała się ciągła i niedostrzegalna, a obywatele stali się permanentnymi wnioskodawcami.
Efekty na życie polityczne są trudne do skwantyfikowania, ponieważ składają się głównie z działań, które nigdy nie są podejmowane. Badanie Agencji Praw Podstawowych Unii Europejskiej wykazało, że niemal trzy na dziesięć respondentów byłoby mniej skłonnych do udziału w pokojowej demonstracji, gdyby stosowano rozpoznawanie twarzy. Prawo do zgromadzeń pozostaje zatem konstytucyjnie nienaruszone, nawet gdy jego wykonywanie cicho maleje. Rodzice doradzają dzieciom, których przestrzeni online unikać; aktywiści zostawiają telefony; zwykli obywatele rozwijają rozproszone, ale trwałe poczucie, które opinie lepiej pozostawić niewypowiedziane. Koncepcja „habitus” Pierre’a Bourdieu – trwałe dyspozycje, poprzez które struktury społeczne stają się ucieleśnione jako druga natura – opisuje ten proces z pewną precyzją. Nadzór osiąga swój pełny efekt, gdy staje się habitus, gdy jednostki modyfikują swoje zachowanie w oczekiwaniu na obserwację i żadne wyraźne zakazy nie są już wymagane.
Nie sugeruje to, że populacje są jedynie bierne. Podczas protestów w Hongkongu w 2019 roku demonstranci używali parasoli, by zasłaniać kamery, i kierowali lasery na ich obiektywy. Artyści i aktywiści w Europie opracowali kamuflaż twarzy przeznaczony do pokonywania oprogramowania rozpoznającego. San Francisco i kilka innych amerykańskich miast zakazało policji używania rozpoznawania twarzy po trwałych lokalnych kampaniach.
Coraz częściej jednostki formułują też roszczenia w charakterze podmiotów danych, domagając się dostępu do swoich akt, korekty błędów i prawa do kwestionowania zautomatyzowanych decyzji. Adekwatne ujęcie musi też przyznać, że wielu ludzi doświadcza nadzoru jako ochronnego raczej niż zagrażającego, a metoda etnograficzna wymaga, by takie świadectwo traktować poważnie. Równie wymaga pytania, czyje bezpieczeństwo jest produkowane. Mieszkaniec uspokojony kamerą na rogu i nastolatek wielokrotnie zatrzymywany z jej powodu często zamieszkują tę samą ulicę.
Hannah Arendt zdefiniowała obywatelstwo jako „prawo do posiadania praw” – formułę, którą rozwinęła poprzez refleksję nad bezpaństwowymi uchodźcami okresu międzywojennego, którzy odkryli, że ich abstrakcyjne człowieczeństwo nie zapewniało im żadnej ochrony, gdy członkostwo polityczne zostało wycofane. Obecne położenie różni się od tego, które opisała, i w pewnych względach jest bardziej podstępne. Głównym niebezpieczeństwem nie jest już wydalenie ze wspólnoty politycznej, lecz warunkowe włączenie do niej: członkostwo, które pozostaje formalnie bezpieczne, podczas gdy dostęp do jego ochron zależy od tego, czy zautomatyzowany system jest gotów rozpoznać daną jednostkę. Można pozostać obywatelem i nadal zostać odmówionym w sklepie z racjami, zatrzymanym na granicy lub odkryć, że prawa gwarantowane na papierze rozpuszczają się w momencie, gdy system stwierdza, że się niezupełnie oblicza.
Istotne jest wreszcie, by oprzeć się pokusie traktowania tych wydarzeń jako nieuniknionych. Zmiana technologiczna jest często przedstawiana jako quasi-naturalna siła, coś, co spotyka społeczeństwa, a nie coś, co one wybierają. A jednak każda kamera została zainstalowana przez kogoś, każda baza danych zlecona przez kogoś, a każda decyzja o wstawieniu algorytmu między obywatela a jego prawa została podjęta przez ludzi, którzy mogli zdecydować inaczej.
Mauss nalegał, że kategoria osoby jest osiągnięciem historycznym, co oznacza, że może być konstytuowana inaczej. To samo dotyczy państwa i maszyn, poprzez które teraz postrzega swoich członków. Decydujące pytanie nie brzmi zatem, czy te systemy mogą być dokładniejsze, lecz czy społeczeństwa demokratyczne są gotowe zaakceptować porządek, w którym przynależność musi być nieustannie udowadniana władzy, z którą nie da się dyskutować, a jeśli odmówią – jakie instytucjonalne formy uznania są gotowe zbudować w jej miejsce.
Udostępnij
Dla Instagrama: skopiuj link i wklej go w relacji lub wiadomości prywatnej.
Kontynuuj z

Teoria
Rewolucyjna fatamorgana?
Co wydarzyło się podczas powstań w grudniu 2010 i styczniu 2011 roku?
Mortadha Ghaliounji

Teoria
Co to jest królik?
Królik przemierza pole i wydaje się nie pozostawiać wątpliwości, dopóki Quine nie zapyta, co tak naprawdę widzieliśmy, a filozofia sprawia, że zwierzę jest problemem. Pomiędzy słowami, klasyfikacjami i esencjami niniejszy esej bada moment, w którym użyteczna kategoria przestaje opisywać konkretne organizmy i zaczyna zasiedlać świat dodatkowym bytem zwanym rabbithood.
Agustín Cosso

Teoria
Od socjaldemokracji do Trzeciej Drogi.
Niemiecka SPD, brytyjska Labour, francuska Partia Socjalistyczna, turecka CHP: ten sam nurt, tysiąc twarzy.
Mortadha Ghaliounji

Komentarze
Brak komentarzy. Otwórz rozmowę.
Zaloguj się, aby komentować. Zaloguj się