Saltar al contenido · Skip to content · Salta al contenuto · Zum Inhalt · Ir ao conteúdo · Przejdź do treści
Reflexiones sobre el ciudadano a prueba

Teoría

Reflexiones sobre el ciudadano a prueba

La vigilancia algorítmica ha convertido la ciudadanía en una "libertad a prueba", obligándonos a validar nuestra identidad continuamente ante máquinas con las que no se puede razonar.

Por Mariana Puente Lera19 de noviembre de 202610 min de lectura

Lectura en profundidad

La mayoría de nosotros hemos vivido alguna versión de esta experiencia. Llegamos a un aeropuerto tras un vuelo largo, pasaporte en mano, y nos sumamos a la fila de las puertas automáticas, que prometen ahorrarnos la dignidad de tener que hablar con un ser humano. Colocamos el pasaporte sobre el cristal, miramos a la cámara y esperamos. No ocurre nada. Se nos pide entonces que nos quitemos las gafas, luego que nos coloquemos sobre las huellas pintadas en el suelo, luego que levantemos un poco la vista. Sigue sin ocurrir nada.

Al final se enciende una luz roja y se nos indica que vayamos al único mostrador atendido, al fondo de la sala, donde un agente compara nuestro rostro con nuestra fotografía con la expresión de quien, sin duda, ha repetido este procedimiento no menos de quinientas veces ese mismo día. Somos, por supuesto, exactamente quienes decimos ser. Lo fuimos en todo momento. Lo único que estaba en duda era si la máquina estaría de acuerdo.

El episodio es trivial, y la mayoría de la gente lo olvida antes de llegar a la cinta de equipajes. Merece, sin embargo, más atención, porque condensa una transformación del significado de la ciudadanía que avanza de forma tan gradual, y en un registro tan banal, que en gran medida pasa inadvertida.

Durante la mayor parte de la era moderna, la ciudadanía funcionó como un estatus: uno la poseía, y el Estado estaba obligado a actuar en consecuencia. Cada vez se parece más a una forma de libertad a prueba. Se la posee en principio, pero hay que demostrar una y otra vez que se la posee, ante sistemas que nada saben de la persona que tienen delante, con los que no cabe razonar y a los que las explicaciones les son indiferentes.

Los antropólogos llevan mucho tiempo mirando con cierto escepticismo la versión oficial de la ciudadanía. La filosofía política y el derecho constitucional tienden a definirla mediante derechos, leyes y prerrogativas formales, y estas definiciones no son tanto erróneas como incompletas. La investigación de James Holston en las periferias autoconstruidas de São Paulo reveló que la ciudadanía brasileña era universal en su forma jurídica pero desigual en la práctica: a los residentes más pobres se les exigía habitualmente presentar documentos, comprobantes y permisos que nunca se pedían a los ciudadanos más acomodados. Holston denominó este régimen «ciudadanía diferenciada».

La conclusión más amplia, compartida por buena parte de la disciplina, es que la ciudadanía es menos una posesión que una relación, que se renueva o se retira en los encuentros cotidianos en los que las personas se presentan ante las instituciones. En la práctica, los derechos son tan fiables como el funcionario que los administra.

Lo que ha cambiado en nuestro mundo moderno es la naturaleza de ese funcionario.

Una perspectiva histórica de largo plazo ayuda a aclararlo. Es un hecho revelador, y algo aleccionador, que la escritura más antigua que se conoce, las tablillas protocuneiformes de Uruk, en el sur de Mesopotamia, no registrara mitos ni leyes, sino cuentas: cantidades de grano, ganado, raciones de cerveza y trabajo adeudado a los administradores del templo. Desde sus orígenes más remotos, el Estado se ha dedicado a enumerar a las personas y sus bienes.

James Scott describió célebremente este afán como la búsqueda de «legibilidad». En Seeing Like a State, mostró cómo los censos, los mapas catastrales, los registros de la propiedad y los apellidos permanentes sirvieron para traducir la textura densa, local e idiosincrásica de la vida social a categorías estandarizadas que una autoridad lejana pudiera leer, gravar con impuestos o llamar a filas.

Menos se ha señalado lo mal que los Estados desempeñaron esta tarea durante la mayor parte de su historia. Enumerar era laborioso. Exigía escribientes, materiales y viajes arduos, y sus resultados solían estar obsoletos cuando llegaban a consultarse. Incluso el aparato de vigilancia más ambicioso del siglo XX, el de la República Democrática Alemana, alcanzó su extensión solo gracias a un gasto extraordinario de trabajo humano: en 1989 la Stasi contaba con casi 190 000 informantes y había acumulado expedientes que ocupaban más de cien kilómetros de estanterías. El sistema era amenazante, pero también, según cualquier criterio técnico, tremendamente ineficiente.

Cabe sostener que buena parte de lo que las sociedades liberales llegaron a considerar privacidad nunca fue, en lo esencial, un principio, sino un subproducto de las limitaciones administrativas. El Estado se abstenía de observar a todo el mundo, en gran medida, porque observar a todo el mundo excedía sus capacidades.

Esa limitación ha sido hoy (casi) superada. El reconocimiento facial automatizado puede asociar un nombre a un rostro en menos de un segundo. El programa Aadhaar de la India ha registrado las huellas dactilares y los patrones del iris de más de 1300 millones de personas, y hoy actúa como intermediario en su acceso a raciones de alimentos, pensiones, servicios bancarios y telecomunicaciones. Empresas privadas han reunido bases de datos con decenas de miles de millones de imágenes extraídas de las redes sociales y han vendido el acceso a ellas a cuerpos policiales de varios continentes. Sistemas predictivos entrenados con datos sobre hábitos de consumo, movilidad y redes sociales generan evaluaciones de riesgo de personas que no han cometido delito alguno. El cambio decisivo aquí es económico antes que técnico. La observación se ha vuelto casi gratuita, y un sistema cuyo funcionamiento cuesta poco no tiene ninguna razón intrínseca para dejar de funcionar.

Lo que estos sistemas observan, sin embargo, no es la persona tal como la concibe la teoría liberal. En su Conferencia Huxley de 1938, Marcel Mauss sostuvo que la «persona», entendida como portadora de un nombre, una identidad jurídica, una conciencia moral y unos derechos, no es un dato universal sino una construcción histórica, elaborada de manera distinta según las sociedades y las épocas. La vigilancia contemporánea, me atrevería a sugerir, está produciendo una nueva variante de esa construcción.

La persona que reconocen los sistemas algorítmicos es un agregado de fragmentos: una huella dactilar, una plantilla facial, un código postal, un historial crediticio, un patrón de comunicación, una lista de contactos en el extranjero. Estos fragmentos se conservan en bases de datos separadas, en manos de instituciones distintas, y luego se recombinan en un perfil que actúa en nombre del individuo.

La descripción que hace Marilyn Strathern de la condición de persona en Melanesia, donde la persona no se concibe como un individuo delimitado sino como un «dividuo» compuesto de relaciones separables, ofrece una analogía sugerente, aunque imperfecta. La analogía tiene sus límites, pues el dividuo melanesio se constituye a través de la reciprocidad, mientras que el sujeto de datos se constituye a través de la extracción. Esta figura compuesta puede obtener un crédito, ser señalada para una investigación, ser admitida en una frontera o ver denegada una prestación, a menudo sin que el ser humano cuyo nombre lleva llegue nunca a enterarse de la decisión.

El resultado es un desdoblamiento casi esquizoide. A efectos oficiales, ahora existen en la práctica dos de cada uno de nosotros, y el que suele contar es aquel con quien nunca nos hemos cruzado, ni nos cruzaremos jamás.

¿Cómo han avanzado estos sistemas con tan poca contestación pública? El estudio de James Ferguson sobre los programas de desarrollo en Lesoto ofrece un marco útil. Ferguson caracterizó el aparato del desarrollo como una «máquina antipolítica»: un mecanismo que reformula las cuestiones políticas como problemas técnicos, las delega en expertos y, al hacerlo, amplía el poder del Estado a la vez que sustrae su ejercicio a la deliberación democrática.

La gobernanza algorítmica podría ser la máquina antipolítica más eficiente jamás ideada. Cuestiones que pertenecen con propiedad al debate público (quién merece sospecha, qué desplazamientos deben registrarse, cuántas identificaciones erróneas son tolerables) se reformulan como cuestiones de tasas de acierto y umbrales de error, y se encomiendan a ingenieros y proveedores. La sustancia política de estas decisiones se traslada así a ámbitos en los que los ciudadanos no tienen ni legitimación ni vocabulario para impugnarla.

Merece señalarse, además, una ironía. Las tecnologías digitales se promovieron, en buena medida, como instrumentos de liberación frente a la burocracia, con la promesa de acabar con las colas, los formularios en papel y los funcionarios obstruccionistas. Pero ha ocurrido lo contrario, como suele ocurrir cuando las reformas de mercado concebidas para reducir la burocracia acaban multiplicándola. El papeleo se ha vuelto continuo e imperceptible, y los ciudadanos se han convertido en solicitantes permanentes.

Los efectos sobre la vida política son difíciles de cuantificar, pues consisten en gran medida en acciones que nunca llegan a emprenderse. Una encuesta de la Agencia de los Derechos Fundamentales de la Unión Europea halló que casi tres de cada diez encuestados estarían menos dispuestos a acudir a una manifestación pacífica si se utilizara el reconocimiento facial. El derecho de reunión permanece así constitucionalmente intacto, aun cuando su ejercicio mengua en silencio. Los padres aconsejan a sus hijos qué espacios en línea evitar; los activistas dejan el teléfono en casa; los ciudadanos de a pie desarrollan una sensación difusa pero persistente de qué opiniones es mejor callarse. El concepto de «habitus» de Pierre Bourdieu, esas disposiciones duraderas mediante las cuales las estructuras sociales se incorporan como una segunda naturaleza, describe este proceso con notable precisión. La vigilancia alcanza su pleno efecto cuando se convierte en habitus, cuando los individuos modifican su conducta en previsión de ser observados y ya no hace falta ninguna prohibición explícita.

Esto no equivale a sugerir que las poblaciones sean meramente pasivas. Durante las protestas de 2019 en Hong Kong, los manifestantes usaron paraguas para tapar las cámaras y apuntaron láseres a sus objetivos. Artistas y activistas europeos desarrollaron camuflajes faciales concebidos para burlar el software de reconocimiento. San Francisco y varias otras ciudades estadounidenses prohibieron el uso policial del reconocimiento facial tras campañas locales sostenidas.

Cada vez más, las personas formulan también reivindicaciones en su calidad de sujetos de datos: exigen acceso a sus registros, la corrección de errores y el derecho a impugnar las decisiones automatizadas. Un análisis adecuado debe reconocer asimismo que muchas personas viven la vigilancia como algo protector más que amenazante, y el método etnográfico exige tomar en serio esos testimonios. Exige igualmente preguntarse de quién es la seguridad que se está produciendo. El vecino al que tranquiliza la cámara de la esquina y el adolescente al que paran una y otra vez por culpa de ella suelen vivir en la misma calle.

Hannah Arendt definió la ciudadanía como «el derecho a tener derechos», una fórmula que elaboró al reflexionar sobre los refugiados apátridas del período de entreguerras, quienes descubrieron que su humanidad abstracta no les brindaba protección alguna una vez que se les retiraba la pertenencia política. La situación actual difiere de la que ella describió y es, en ciertos aspectos, más insidiosa. El peligro principal ya no es la expulsión de la comunidad política, sino la inclusión condicional en ella: una pertenencia que sigue siendo formalmente segura, mientras que el acceso a sus protecciones depende de que un sistema automatizado esté dispuesto a reconocer a la persona en cuestión. Se puede seguir siendo ciudadano y, aun así, ser rechazado en la tienda de racionamiento, quedar retenido en la frontera o descubrir que los derechos garantizados sobre el papel se desvanecen en el momento en que el sistema determina que uno no acaba de cuadrar.

Por último, es fundamental resistir la tentación de tratar estos cambios como inevitables. El cambio tecnológico se presenta a menudo como una fuerza casi natural, algo que les sobreviene a las sociedades y no algo que estas eligen. Sin embargo, cada cámara la instaló alguien, cada base de datos la encargó alguien, y cada decisión de interponer un algoritmo entre una ciudadana y sus derechos la tomaron personas que podrían haber decidido otra cosa.

Mauss insistió en que la categoría de persona es un logro histórico, lo que significa que puede constituirse de otro modo. Lo mismo vale para el Estado y para las máquinas a través de las cuales percibe hoy a sus miembros. La cuestión decisiva, por tanto, no es si estos sistemas pueden hacerse más precisos, sino si las sociedades democráticas están dispuestas a aceptar un orden en el que la pertenencia deba demostrarse continuamente ante una autoridad con la que no cabe discutir y, en caso de negarse, qué formas institucionales de reconocimiento están dispuestas a construir en su lugar.

Compartir

Para Instagram: copiá el link y pegalo en tu historia o mensaje directo.

Para leer después

Continuá con

  • Collage editorial sobre la historia política tunecina, combinando símbolos populares, nacionales y revolucionarios. Imagen generada con el modelo de IA de ChatGPT.

    Teoría

    ¿El espejismo revolucionario?

    ¿Qué sucedió durante los levantamientos de diciembre de 2010 y enero de 2011?

    Mortadha Ghaliounji

  • Conejo cola de algodón en Montana (CC BY 4.0 Larry D. Moore / Wikimedia Commons)

    Teoría

    ¿Qué es un conejo?

    Un conejo cruza el campo y parece no dejar ninguna duda, hasta que Quine pregunta qué vimos realmente y la filosofía convierte al animal en un problema. Entre palabras, clasificaciones y esencias, este ensayo examina el instante en que una categoría útil deja de describir organismos concretos y comienza a poblar el mundo con una entidad adicional llamada conejidad.

    Agustín Cosso

  • Collage editorial generado con GPT Image 2.0 que representa la evolución histórica de la socialdemocracia, desde Friedrich Ebert y el reformismo europeo hasta la Tercera Vía, mediante una composición inspirada en carteles políticos vintage, archivos históricos y diseño propagandístico del siglo XX.

    Teoría

    De la social-democracia a la Tercera Vía.

    La SPD alemana, el Labour británico, el Partido Socialista francés, el CHP turco: una misma corriente, mil rostros.

    Mortadha Ghaliounji

Comentarios

Todavía no hay comentarios. Abrí la conversación.

Iniciá sesión para comentar. Iniciar sesión