La película V de Venganza nos plantea la idea de un futuro utópico, con un gobierno fascista en el poder que lo controlaba y vigilaba todo. Hoy no hace falta ver una película para encontrar similitudes en el mundo actual.
La impopular medida impulsada por el gobierno central chino que habilitaría la extradición de ciudadanos de Hong Kong a la China territorial, encendieron las alarmas de muchas personas que quisieron manifestarse en contra de tal política[81].
El problema para estas personas que estaban decididas a marchar es que no querían terminar siendo perseguidas por las autoridades chinas, así que tomaron todas las medidas de resguardo de privacidad posibles. Una de ellas consistió en cambiar cómo las personas se dirigieron a la marcha. En Hong Kong, al igual que en varias otras metrópolis, las personas utilizan una tarjeta magnética para tomarse el tren. Durante las protestas, las personas cambiaron esta rutina y se vieron largas filas de individuos esperando para comprar tickets físicos de un solo uso, de manera manual, utilizando dinero en efectivo, para así evitar ser rastreados por haber participado en las protestas debido al uso de sus tarjetas de tren o sus tarjetas de débito o crédito para registrar la compra. Si bien la lógica detrás de esta idea es correcta, no es suficiente. Mientras tengamos un teléfono celular prendido, y recibiendo señal, en nuestros bolsillos, no vamos a poder escondernos de un gobierno como el Chino que lo controla todo. El gobierno podría pedirle a las empresas de telefonía móvil que triangulen la posición de nuestros dispositivos en el horario de una marcha y así saber efectivamente quién estuvo en la misma, incluso si los mismos tuvieran su función de GPS apagado. Todo eso dejando de lado las cámaras de reconocimiento facial que hoy inundan las calles de aquel país. ¿Podrá esto generar que las personas se manifiesten menos públicamente debido a la exposición que esto generaría contra los gobernantes de turno? ¿Cuál será el efecto de los programas de reconocimiento facial desarrollados por Huawei y Alibaba para identificar uigures, una minoría musulmana perseguida en China[82]? ¿Se animarán a protestar públicamente sabiendo que van a ser observados? ¿Existe relación entre esto y el Sistema de Crédito Social Chino? En Irán, las autoridades locales ya manifestaron que usarán esta tecnología para identificar a aquellas mujeres que no cumplan con la ley que desde 1983 ordena que deben cubrirse la cabeza con un velo conocido como hiyab, lo cual puede ser duramente sancionado[83].
Evidentemente las concesiones del Partido Comunista de China, al capitalismo, han hecho que sea más difícil vigilar a una población cercana a los 1.400 millones de personas. La censura online, sumada a la censura hacia la prensa libre, parecen ya no ser suficiente y por ello el Sistema de Crédito Social cobra un protagonismo estelar. Se trata de uno de los proyectos más ambiciosos del gigante asiático y consiste en un sistema de puntos con el que se evalúe el accionar de cada ciudadano de forma individual. La lógica es muy sencilla, si cometés una falta, se te descontarán puntos, y si pierdes puntos, también pierdes derechos en la sociedad. Cruzar la calle cuando el semáforo está en rojo, arrojar colillas de cigarrillo en la calle, gritar en público y alterar el orden social, son todas acciones que te restarán puntos. Sin ellos, no podrás aplicar a créditos bancarios, no podrás usar todos los medios de transporte, e incluso puede que se te niegue el derecho a adquirir una vivienda propia o contratar internet. De esta forma las autoridades de China apuntan a crear una mejor sociedad, o cuanto menos una versión más controlada y ordenada de la misma. Sus detractores, por el contrario, sostienen que esto marca el inicio de una era atravesada por el autoritarismo tecnológico y un mecanismo para mantener a la gente bajo su control. George Orwell se quedó corto. Las cámaras de seguridad que se encuentran distribuidas y ubicadas de forma omnipresente a lo largo y ancho del gigante asiático, junto a las tecnologías que facilitan el reconocimiento facial a través de una AI, son lo que hacen que esta utopía sea ya una realidad.
En 2017, el corresponsal de la BBC, John Sudworth, viajó a China para realizar un experimento junto a las autoridades policiales de dicho país. Sabiendo de antemano que el país oriental ha construido el sistema de cámaras de vigilancia más grande del mundo, John se acercó hasta la ciudad de Guiyang, donde permitió que las autoridades locales tomaran su foto y la cargaran a su base de datos. Guiyang ha almacenado y catalogado las imágenes de todos sus residentes. En esta ciudad, algunas cámaras detectan patentes y otras detectan caras, edad, etnia y género. Lo que sucedió a continuación puede ser considerado fascinante y polémico a la vez según la percepción de privacidad individual que tenga cada lector. Una vez tomada su foto, John abandonó el edificio en el que se encontraba y decidió caminar por las calles de esa ciudad. Al momento que John abandonó el edificio, las autoridades locales lanzaron una alerta sobre su persona y todas las cámaras de la ciudad comenzaron a buscarlo. La caminata de este periodista no duró mucho. En tan solo 7 minutos fue detenido por las fuerzas policiales. Si bien esto fue un experimento consensuado de antemano y la seguridad de John nunca estuvo en peligro ya que la alerta que se emitió sobre él solo pedía su detención, esto demuestra el poder de vigilancia de las autoridades centrales de China. En el 2017 contaban con 170 millones de cámaras de reconocimiento facial desplegadas en el país. En el 2019 ya habían alcanzado las 200 millones y las intenciones oficiales son llegar a los 400 millones de cámaras en pocos años. Bienvenidos al control social del falso comunismo del siglo XXI.
Video de John Sudworth escapando de las cámaras en Guiyang[84]
¿Y si no haría falta instalar tantas cámaras más como pensamos? ¿Y si las cámaras 360º de los vehículos autónomos también pasan a transmitir información a las fuerzas de seguridad en caso de detectar imágenes de un ilícito o hecho de su interés? Quizás se pueda exigir a las automotrices que guarden en la nube las imágenes obtenidas por sus vehículos por una cantidad de días determinados en sus servidores, de forma tal que si alguien denuncia un ilícito, y un vehículo autónomo, equipado con sus cámaras de gran angular, pasó por el lugar en el momento del crimen, podamos requerir y utilizar estas grabaciones como evidencia. Claro que también podríamos preguntarnos si no viola nuestra privacidad el hecho de que sepan, y que luego muestren, en caso de obtener las pruebas buscadas, nuestra ubicación en el mapa en un momento dado. ¿Y si justo andábamos por donde no se suponía y eso luego destruye una relación personal o genera que perdamos nuestro trabajo? ¿Cuál es el punto medio? ¿Nos deberían pedir permiso primero? ¿Podemos oponernos a cooperar si no deseamos develar nuestra ubicación pasada al resto de la sociedad? La idea de poder presentar estas grabaciones sin una participación activa del dueño del vehículo podría ser problemático en la era de los deepfakes, término que explicaremos más adelante en el libro pero que podríamos resumir de momento como videos editados computacionalmente para mostrar a una persona haciendo o diciendo algo sin que en realidad esto haya sucedido. Que algo aparente ser real, ya no significa que lo sea y por eso tener más variables que aporten a la validación de los datos obtenidos se vuelve crucial.
La combinación de este océano de datos disponibles, con el avance del deep learning y las tecnologías de reconocimiento facial, podría incluso alertar a las fuerzas de seguridad sobre personas con pedido de captura que se encuentran circulando por la calle si las fuerzas de seguridad pudieran acceder a todo este material de forma constante. La privacidad en internet ya sabemos que no existe hace rato, quizás hoy estamos viviendo nuestros últimos años de privacidad en el mundo físico también.
Es probable que si una sociedad cede el derecho a su privacidad en el mundo físico, la tasa de crimen en las calles se vea reducida considerablemente. ¿Pero es esto correcto? Creo que esto es una decisión que cada sociedad debe tomar, sin aceptar soluciones enlatadas de otras latitudes por defecto, y mucho menos dejando que esta decisión recaiga únicamente en manos de ingenieros y programadores. Lo correcto sería plantearle a cada conjunto de individuos las posibilidades que brinda cada opción. Por ejemplo, mientras los ciudadanos británicos y chinos, y los turistas que visitan Londres o Beijing, son filmados constantemente en las calles por cámaras de seguridad; este podría no ser el caso de alguien que camine las calles de Berlín debido a la oposición alemana a la vigilancia luego de los tristes recuerdos de la Stasi, la policía secreta de la Alemania oriental.
Ojo, el reconocimiento facial no es necesariamente malo. Sin lugar a dudas habrá decenas de aplicaciones que facilitarán nuestras vidas. Es probable que en el futuro cercano los sistemas de reconocimiento facial de nuestros celulares sirvan a las personas mayores para dar su prueba de vida a organismos públicos, como los encargados de administrar su jubilación, evitando así que las personas tengan que desplazarse obligadamente hacia una sucursal física de algún banco u organismo estatal. Si nos vamos más lejos en el futuro, hasta es posible pensar que cuando tengamos un sistema abierto, descentralizado y auditado por terceros, podamos hasta votar con nuestras caras desde la comodidad de nuestras casas.
A pesar de esto, ya no solo somos los individuos quienes vemos nuestra privacidad puesta en jaque, sino que los Estados también ven sus secretos en peligro. Y si bien no pensaba hacer referencia a los buchones como Julian Assange o Edward Snowden, quiero dejar en claro que el delito del que se les acusa a ambos me parece absurdo. Ambos publicaron información verdadera. Información que avergonzó a muchos dirigentes políticos, sí, pero que no lastimó a nadie. Lo que si lastimó a distintos individuos, incluidos civiles, fueron algunas de las operaciones militares perpetradas por las fuerzas de Estados Unidos y que estos personajes no hicieron más que traer a la tapa de los principales portales de noticias tras difundir esos secretos. La desobediencia civil llevada adelante de forma pacífica ayuda a empujar hacia adelante a nuestras sociedades e instituciones. Los únicos enojados con los buchones son los grandes gobiernos y corporaciones que cometieron actos irregulares en primer lugar, mientras una gran parte de la sociedad civil aclama a personajes como Assange o Snowden y los convierte en héroes. Este es un claro ejemplo más de cómo la mayoría silenciosa es apabullada por una minoría poderosa. No dejemos que suceda lo mismo con la aplicación de la AI en nuestras vidas diarias. Cualquier manifestación, incluso aquellas amparadas por la constitución de los países, es mirada con especial atención y cautela por aquellos en el poder de turno al ver su autoridad desafiada. Sin embargo, como dije al inicio de este párrafo no me quería explayar en demasía sobre Assange y Snowden, sino que quería hablarles de Strava.
Strava es una aplicación móvil para ejercitarse. Esta app recolecta distinta información sobre los entrenamientos de sus usuarios, incluidos sus desplazamientos gracias a la conexión GPS implantada en los móviles modernos. El problema se originó cuando la empresa decidió publicar un mapa de calor público, indicando cuáles son los recorridos de las personas que utilizan esta aplicación para entrenar[85]. Sucede que muchos integrantes de las fuerzas armadas de Estados Unidos, que tiene bases secretas distribuidas por todo el globo, utilizan Strava para seguir sus entrenamientos. Esto delató la ubicación de distintas bases militares de Estados Unidos, generando un riesgo inusitado para este país y los miembros de su ejército.
Aquí, parte del problema se dio por la idea de que el individuo que da su consentimiento a las políticas y términos de uso de una aplicación, lo cual todos solemos aceptar sin leer previamente, lo hace siendo consciente de los riesgos a los que se puede estar exponiendo y eso no es real. Es prudente asumir que Strava no tuvo intenciones de revelar las coordenadas de bases militares estadounidenses, así y todo, lo hizo. Esta empresa, y muchas otras tecnológicas, tienen buenas intenciones y actúan en buena fe, sin embargo, fallan al transmitirnos con certeza a qué tipo de riesgo podemos estar exponiéndonos.
Así como mencionamos a Assange y Snowden, una mención aparte se merece Jack Teixeira, arrestado en Abril del 2023[86]. Mientras Assange desclasificó información de actos pasados, sobre ataques a la población civil que habían sido encubiertos, o espionaje a otros líderes mundiales, a la vez que Snowden desenmascaró una red de espionaje que también afectaba a civiles, Teixeira derrapó por otra vertiente poniendo en peligro la vida de civiles inocentes. Su caso, me resulta asombroso. Depende la edad que tengas puede que sepas o no qué es Minecraft, que es un videojuego muy popular con millones de usuarios. Lo otro que necesitas saber es que hay una plataforma que se llama Discord y permite crear comunidades online de forma parecida a como hicieron los primeros foros en internet. La cuestión es que Teixeira, de 21 años era usuario del videojuego en cuestión y utilizaba la plataforma de Discord para conectarse con otros jugadores, la mayoría de ellos menores de edad. Teixeira sin embargo, no era un jóven más. Él trabajaba como administrador de sistemas de información de la Guardia Nacional de los Estados de Unidos. Si bien él no trabajaba directamente en el campo de lo que denominamos Inteligencia, parte de su trabajo era proteger este tipo de datos. Por ende, él tenía acceso a información muy valiosa. Sin embargo, este poder fue utilizado para impresionar a otros usuarios de la comunidad. Mientras los altos mandos de Estados Unidos no podían descifrar cómo estaban filtrando su información, desconociendo si se trataba de un topo interno o un hacker, la realidad superó a la ficción. El servidor de Discord llamado Thug Shaker Central fue el lugar donde Teixeira compartió cientos de hojas secretas de documentos de inteligencia de los Estados Unidos. Lo peor, es que no lo hizo, aparentemente, por cuestiones ideológicas o políticas, sino porque estaba aburrido, presumiendo su acceso a información confidencial en un foro online, cuando alguien le respondió que era un mentiroso, por lo que el jóven de 21 años procedió a compartir los documentos en cuestión. Jack comenzó a publicar imágenes de los planes de batalla de Ucrania. Demostró qué tan infiltrada estaba la inteligencia estadounidense y sus aliados en el frente ruso, lo cual ha permitido alertar a las fuerzas ucranianas sobre ataques planeados por las fuerzas de Putin. Aunque quizás Teixeira no lo haya premeditado, puso en riesgo la vida de civiles ucranianos y alertó a Rusia sobre sus debilidades en el campo de la inteligencia. Hoy el jóven se enfrenta al peso de la ley. No fue China, Rusia, ni grupos de hackers de élite de Corea del Norte. Resulta impresionante cómo nadie pensó que darle acceso a semejante información a un jóven de 21 años podía no llegar a ser una buena idea. A veces el capitalismo de vigilancia se olvida cabos sueltos que ponen en jaque el juego de la escondida.
Al igual que China, Estados Unidos está desarrollando su propia carrera para identificar, etiquetar y perseguir a sus ciudadanos. Sin embargo, a diferencia de China, Estados Unidos enfrenta la oposición de numerosas organizaciones de derechos humanos, a las que tiene que escuchar hasta cierto punto, en lugar de poder ignorarlas por completo. La sociedad occidental no está preparada culturalmente para entregar su privacidad tan abiertamente. La cultura china, tras décadas de un férreo control gubernamental sobre la vida de las personas, es más proclive a ceder en este tipo de avanzadas.
Es muy probable que uno se vea horrorizado ante el sistema de vigilancia y puntaje diseñado e implementado por China. La realidad, nos guste o no, es que a todos nosotros nos están puntuando constantemente, no importa que vivamos en una democracia occidental. Todos somos analizados por algoritmos, algunos pertenecientes al Estado, y otros, la gran mayoría, a privados. Estos algoritmos no solo deciden qué productos o servicios recomendarnos, sino que también moldean nuestra visión del mundo. Los algoritmos de Google no tienen por qué saber qué es bueno y qué es malo. Lo que sí saben es que deben intentar retener nuestra atención todo lo que puedan, incluso si es a costa de alimentarnos con noticias falsas o teorías conspirativas, científicamente desacreditadas. Si a vos te gusta eso, Google te va a dar eso. Tal como dijo Leonardo Fariña, un empresario argentino, que declaró como testigo arrepentido en una de las causas de corrupción más recordadas del país: “Querían ficción, les di ficción”[87].
La propiedad de la información se volverá un componente crítico y deberíamos evitar que esta sea concentrada de forma monopólica. No debemos permitir que se dé una nueva distribución asimétrica del poder y justamente de esto trata la batalla entre Estados Unidos y China por el control de las redes de 5G. El problema que tiene Estados Unidos en esta pelea, tal como escuché en uno de los paneles que participé en el campamento tecnológico para defensores del espacio cívico en la Universidad de Stanford, organizado por su Global Digital Policy Incubator y el International Center for Not-for-Profit Law, mientras China ofrece grandes obras de infraestructura a países en vías de desarrollo, Estados Unidos lo único que ofrece es una narrativa ligada a Mark Zuckerberg y Elon Musk. Los acuerdos ligados a la Iniciativa de Belt & Rode de China no son gratuitos y en muchos casos pueden presentarse como perjudiciales en el largo plazo para los países beneficiarios, pero es difícil que un gobernante de turno que enfrente altas tasas de desempleo y carezca de acceso al crédito internacional barato pueda negarse a firmar estos acuerdos. Quizás China hoy no tiene la capacidad de analizar todos estos datos que se transmitan a través de su tecnología, pero es probable que eventualmente lo logren.
Si la información es poder, la relevancia geopolítica de la AI es aún mayor a la de un arsenal de misiles. La principal diferencia entre China y Estados Unidos, respecto a este punto, es que, aunque suene paradójico, China es transparente sobre ello, de hecho en su territorio está prohibida la encriptación https en internet[88], que es un protocolo de transferencia segura de texto, utilizado por prácticamente todos los sitios webs que seguramente visitas y que puedes detectar fácilmente si delante de la URL de los mismos observas un candado. Estamos a pasos de entrar en un nuevo tipo de colonialismo, el de la información, un bien ilimitado y replicable. ¿Murió acaso el sueño de una internet libre y abierta? ¿Puede la democracia liberal sobrevivir a internet?
[81] Brooks, S. (2019). Hong Kong’s extradition law changes spark mass protests over fears about Beijing’s reach. Visto el 18 de abril 2021, en ABC News. https://www.abc.net.au/news/2019-06-09/hong-kong-extradition-law-changes-spark-mass-protests/11187374.
[82] Bhuiyan, J. (2021). “There’s cameras everywhere”: testimonies detail far-reaching surveillance of Uyghurs in China. The Guardian. Visto el 20 de diciembre del 2021, en https://www.theguardian.com/world/2021/sep/30/uyghur-tribunal-testimony-surveillance-china.
[83] Johnson, K. (2023). Iran Says Face Recognition Will ID Women Breaking Hijab Laws. WIRED. Visto el 1 de marzo del 2023, en https://www.wired.com/story/iran-says-face-recognition-will-id-women-breaking-hijab-laws.
[84] BBC News. (2017). China: «the world’s biggest camera surveillance network» – BBC News [Video]. Visto el 14 de abril del 2021, en https://www.youtube.com/watch?v=pNf4-d6fDoY.
[85] Hern, A. (2018). Fitness tracking app Strava gives away location of secret US army bases. The Guardian. Visto el 23 de octubre del 2022, en https://www.theguardian.com/world/2018/jan/28/fitness-tracking-app-gives-away-location-of-secret-us-army-bases.
[86] Toler, A., Triebert, C., Willis, H., Browne, M., Schwirtz, M., & Mellen, R. (2023). The Airman Who Gave Gamers a Real Taste of War. The New York Times. Visto el 19 de abril del 2023, en https://www.nytimes.com/2023/04/13/world/europe/jack-teixeira-pentagon-leak.html.
[87] La Capital. (2013). Leo Fariña aseguró que todo lo que dijo en la cámara oculta fue “ficción”. La Capital. Visto el 10 de enero del 2022, en https://www.lacapital.com.ar/edicion-impresa/leo-farina-aseguro-que-todo-lo-que-dijo-la-camara-oculta-fue-ficcion-n569801.html.
[88] Catalin Cimpanu. (2020). China is now blocking all encrypted HTTPS traffic that uses TLS 1.3 and ESNI. ZDNET. Visto el 24 de marzo del 2023, en https://www.zdnet.com/article/china-is-now-blocking-all-encrypted-https-traffic-using-tls-1-3-and-esni.