Saltar al contenido · Skip to content · Salta al contenuto · Zum Inhalt · Ir ao conteúdo · Przejdź do treści
Reflexões sobre o Cidadão em Liberdade Condicional

Teoria

Reflexões sobre o Cidadão em Liberdade Condicional

A vigilância algorítmica transformou a cidadania em “liberdade condicional”, obrigando-nos a validar continuamente nossa identidade diante de máquinas com as quais não se pode argumentar.

Por Mariana Puente Lera19 de novembro de 20269 min de leitura

A maioria de nós já viveu alguma versão dessa experiência. Chegamos a um aeroporto após um longo voo, passaporte em mãos, e entramos na fila dos portões automatizados, que prometem poupar-nos da dignidade de falar com um ser humano. Colocamos o passaporte no vidro, olhamos para a câmera e esperamos. Nada acontece. Pedem-nos então que tiremos os óculos, que nos posicionemos sobre as pegadas pintadas, que levantemos um pouco o olhar. Ainda nada.

Por fim, acende-se uma luz vermelha e somos encaminhados ao único balcão com funcionário no extremo do saguão, onde um agente compara nosso rosto à fotografia com a expressão de alguém que, sem dúvida, já realizou esse procedimento não menos de quinhentas vezes no mesmo dia. Somos, claro, exatamente quem dizemos ser. Sempre fomos. A única dúvida era se a máquina concordaria.

O episódio é trivial, e a maioria das pessoas o esquece antes de chegar à esteira de bagagens. Contudo, exige mais atenção, pois condensa uma transformação no significado da cidadania que avança de forma tão gradual e num registro tão banal que em grande parte passa despercebida.

Durante a maior parte da era moderna, a cidadania funcionava como um status: possuía-se e o Estado era obrigado a agir em conformidade. Ela está cada vez mais se assemelhando a uma forma de liberdade condicional. Mantém-se em princípio, mas é preciso demonstrar repetidamente que se a possui, a sistemas que desconhecem a pessoa diante deles, não podem ser convencidos e são indiferentes a explicações.

Os antropólogos há muito encaram o relato oficial da cidadania com certo ceticismo. A filosofia política e o direito constitucional tendem a defini-la por meio de direitos, estatutos e prerrogativas formais, e essas definições não estão tanto equivocadas quanto incompletas. A pesquisa de James Holston nas periferias autoconstruídas de São Paulo mostrou que a cidadania brasileira era universal em sua forma legal, porém desigual na prática, com moradores mais pobres sendo rotineiramente obrigados a apresentar documentos, provas e autorizações que cidadãos mais ricos nunca eram solicitados a fornecer. Ele denominou esse arranjo de “cidadania diferenciada”.

A conclusão mais ampla, compartilhada por boa parte da disciplina, é que a cidadania é menos uma posse do que uma relação, renovada ou retirada nos encontros cotidianos por meio dos quais as pessoas se apresentam às instituições. Os direitos, na prática, são tão confiáveis quanto o funcionário que os administra.

A mudança nesse arranjo no mundo moderno é a natureza desse funcionário.

Uma visão histórica de longo prazo ajuda a esclarecer isso. É um fato revelador — e de certa forma humilhante — que a mais antiga escrita conhecida, as tabuinhas proto-cuneiformes de Uruk, no sul da Mesopotâmia, registrava não mitos nem leis, mas contas: quantidades de grãos, rebanhos, rações de cerveja e trabalho devido aos administradores do templo. Desde suas origens mais remotas, o Estado se dedica a enumerar pessoas e seus bens.

James Scott descreveu isso famosamente como a busca pela “legibilidade”. Em Seeing Like a State, mostrou como censos, mapas cadastrais, registros de propriedade e sobrenomes permanentes serviram para traduzir a textura densa, local e idiossincrática da vida social em categorias padronizadas que uma autoridade distante pudesse ler, taxar ou recrutar.

Menos frequentemente observado é o quão mal os Estados desempenharam essa tarefa durante a maior parte de sua história. A enumeração era trabalhosa. Exigia escrivães, materiais e viagens árduas, e seus resultados frequentemente já estavam obsoletos quando consultados. Mesmo o mais ambicioso aparato de vigilância do século XX, o da República Democrática Alemã, só alcançou sua abrangência por meio de um extraordinário dispêndio de trabalho humano: em 1989, a Stasi contava com quase 190 mil informantes e havia acumulado arquivos que se estendiam por mais de cem quilômetros de prateleiras. O sistema era ameaçador, mas também, por qualquer medida técnica, grosseiramente ineficiente.

É possível argumentar que grande parte do que as sociedades liberais passaram a considerar como privacidade nunca foi primariamente um princípio, mas um subproduto da limitação administrativa. O Estado se abstinha de observar a todos principalmente porque observar a todos estava além de suas capacidades.

Essa limitação agora foi (quase) superada. O reconhecimento facial automatizado pode associar um nome a um rosto em menos de um segundo. O programa Aadhaar da Índia registrou as impressões digitais e os padrões de íris de mais de 1,3 bilhão de pessoas e agora media seu acesso a rações alimentares, pensões, serviços bancários e telecomunicações. Empresas privadas montaram bancos de dados com dezenas de bilhões de imagens raspadas de redes sociais e venderam acesso a agências policiais em vários continentes. Sistemas preditivos treinados com comportamento de compras, mobilidade e redes sociais geram avaliações de risco de indivíduos que não cometeram nenhuma infração. A mudança decisiva aqui é econômica antes de ser técnica. A observação tornou-se quase sem custo, e um sistema que custa pouco para operar não tem razão intrínseca para deixar de funcionar.

O que esses sistemas observam, contudo, não é a pessoa tal como a teoria liberal a concebe. Em sua Palestra Memorial Huxley de 1938, Marcel Mauss argumentou que a “pessoa”, entendida como portadora de um nome, uma identidade legal, uma consciência moral e direitos, não é um dado universal, mas uma construção histórica, elaborada de maneira diferente entre sociedades e épocas. A vigilância contemporânea, sugiro, está produzindo uma nova variante disso.

A pessoa reconhecida pelos sistemas algorítmicos é um agregado de fragmentos: uma impressão digital, um modelo facial, um código postal, um histórico de crédito, um padrão de comunicação, uma lista de contatos no exterior. Esses fragmentos são mantidos em bancos de dados separados por instituições distintas e posteriormente recombinados em um perfil que age em nome do indivíduo.

O relato de Marilyn Strathern sobre a pessoa melanésia, na qual a pessoa é concebida não como um indivíduo delimitado, mas como um “dividual” composto de relações partíveis, oferece uma analogia sugestiva, ainda que imperfeita. Essa analogia tem limites, já que o dividual melanésio se constitui por meio da reciprocidade, enquanto o sujeito de dados se constitui por meio da extração. Essa figura composta pode ser aprovada para crédito, sinalizada para investigação, admitida em uma fronteira ou ter um benefício recusado, frequentemente sem que o ser humano cujo nome ela carrega jamais tome conhecimento da decisão.

O resultado é uma quase duplicação esquizoide. Para fins oficiais, há agora efetivamente dois de cada um de nós, e o que geralmente conta é aquele que nunca encontramos — e nunca encontraremos.

Como esses sistemas avançaram com tão pouca contestação pública? O estudo de James Ferguson sobre programas de desenvolvimento em Lesoto oferece um quadro útil. Ferguson caracterizou o aparato de desenvolvimento como uma “máquina antipolítica”: um mecanismo que reformula questões políticas como problemas técnicos, delega-os a especialistas e, ao fazê-lo, expande o poder do Estado enquanto remove seu exercício da deliberação democrática.

A governança algorítmica pode ser a máquina antipolítica mais eficiente já concebida. Questões que pertencem adequadamente ao debate público (quem merece suspeita, cujos movimentos devem ser registrados, quantas identificações errôneas são toleráveis) são reconfiguradas como questões de taxas de acurácia e limiares de erro e atribuídas a engenheiros e fornecedores. A substância política dessas decisões é agora relocada para locais onde os cidadãos não possuem nem legitimidade nem vocabulário para contestá-la.

Uma ironia adicional merece nota. As tecnologias digitais foram promovidas, em grande parte, como instrumentos de libertação da burocracia, prometendo o fim das filas, formulários em papel e funcionários obstrutivos. Mas o oposto ocorreu, como costuma acontecer quando reformas de mercado destinadas a reduzir a burocracia tendem a multiplicá-la. A papelada tornou-se contínua e imperceptível, e os cidadãos tornaram-se solicitantes permanentes.

Os efeitos sobre a vida política são difíceis de quantificar, pois consistem em grande parte de ações que nunca são tomadas. Uma pesquisa da Agência dos Direitos Fundamentais da União Europeia constatou que quase três em cada dez entrevistados estariam menos dispostos a participar de uma manifestação pacífica se o reconhecimento facial estivesse em uso. O direito de reunião permanece constitucionalmente intacto, mesmo enquanto seu exercício diminui silenciosamente. Pais aconselham os filhos sobre quais espaços online evitar; ativistas deixam os celulares para trás; cidadãos comuns desenvolvem um senso difuso, mas persistente, de quais opiniões é melhor não expressar. O conceito de “habitus” de Pierre Bourdieu, as disposições duráveis por meio das quais as estruturas sociais se tornam incorporadas como segunda natureza, descreve esse processo com certa precisão. A vigilância atinge seu efeito pleno uma vez que se torna habitus, quando os indivíduos modificam sua conduta em antecipação à observação e nenhuma proibição explícita é mais necessária.

Isso não sugere que as populações sejam meramente passivas. Durante os protestos de 2019 em Hong Kong, manifestantes usaram guarda-chuvas para obstruir câmeras e direcionaram lasers para suas lentes. Artistas e ativistas na Europa desenvolveram camuflagem facial destinada a derrotar softwares de reconhecimento. São Francisco e várias outras cidades americanas proibiram o uso policial de reconhecimento facial após campanhas locais sustentadas.

Cada vez mais, indivíduos também articulam reivindicações em sua capacidade de sujeitos de dados, exigindo acesso a seus registros, a correção de erros e o direito de contestar decisões automatizadas. Um relato adequado deve também reconhecer que muitas pessoas vivenciam a vigilância como protetora, e não ameaçadora, e o método etnográfico exige que tal testemunho seja levado a sério. Exige igualmente perguntar de quem é a segurança que está sendo produzida. O morador tranquilizado por uma câmera na esquina e o adolescente repetidamente parado por causa dela frequentemente habitam a mesma rua.

Hannah Arendt definiu a cidadania como “o direito a ter direitos”, uma formulação que desenvolveu por meio da reflexão sobre os refugiados apátridas do período entreguerras, que descobriram que sua humanidade abstrata não lhes oferecia proteção alguma uma vez que a filiação política lhes era retirada. O dilema presente difere daquele que ela descreveu e é, em certos aspectos, mais insidioso. O principal perigo já não é a expulsão da comunidade política, mas a inclusão condicional nela: uma filiação que permanece formalmente segura enquanto o acesso a suas proteções depende de se um sistema automatizado está preparado para reconhecer o indivíduo em questão. Pode-se permanecer cidadão e ainda assim ser recusado na loja de rações, detido na fronteira ou descobrir que direitos garantidos no papel se dissolvem no momento em que o sistema determina que não se “computa” adequadamente.

É essencial, por fim, resistir à tentação de tratar esses desenvolvimentos como inevitáveis. A mudança tecnológica é frequentemente representada como uma força quase natural, algo que sobrevém às sociedades em vez de algo que elas escolhem. Contudo, cada câmera foi instalada por alguém, cada banco de dados foi encomendado por alguém, e cada decisão de interpor um algoritmo entre um cidadão e seus direitos foi tomada por pessoas que poderiam ter decidido de outra forma.

Mauss insistiu que a categoria da pessoa é uma conquista histórica, o que significa que ela pode ser constituída de maneira diferente. O mesmo vale para o Estado e para as máquinas por meio das quais ele agora percebe seus membros. A questão decisiva, portanto, não é se esses sistemas podem ser tornados mais precisos, mas se as sociedades democráticas estão dispostas a aceitar uma ordem na qual a pertença deve ser continuamente provada a uma autoridade com a qual não se pode argumentar e, caso recusem, quais formas institucionais de reconhecimento estão preparadas a construir em seu lugar.

Compartilhar

Para o Instagram: copie o link e cole no seu story ou DM.

Para ler depois

Continue com

  • Colagem editorial sobre a situação política tunisiana, combinando símbolos institucionais, sociais e nacionais. Imagem gerada com o modelo de IA do ChatGPT.

    Teoria

    A miragem revolucionária?

    O que aconteceu durante as revoltas de dezembro de 2010 e janeiro de 2011?

    Mortadha Ghaliounji

  • Coelho-da-cauda-de-algodão em Montana (CC BY 4.0 Larry D. Moore / Wikimedia Commons)

    Teoria

    O que é um coelho?

    Um coelho atravessa o campo e parece não deixar nenhuma dúvida, até que Quine pergunta o que realmente vimos e a filosofia transforma o animal em um problema. Entre palavras, classificações e essências, este ensaio examina o instante em que uma categoria útil deixa de descrever organismos concretos e começa a popular o mundo com uma entidade adicional chamada coelhidade.

    Agustín Cosso

  • Colagem editorial gerada com GPT Image 2.0 que representa a evolução histórica da socialdemocracia, desde Friedrich Ebert e o reformismo europeu até a Terceira Via, por meio de uma composição inspirada em cartazes políticos vintage, arquivos históricos e design propagandístico do século XX.

    Teoria

    Da social-democracia à Terceira Via.

    O SPD alemão, o Labour britânico, o Partido Socialista francês, o CHP turco: uma mesma corrente, mil rostos.

    Mortadha Ghaliounji

Comentários

Ainda sem comentários. Abra a conversa.

Entre para comentar. Entrar