Así es como China gobierna el uso de datos, inteligencia artificial y vigilancia de Internet.
por Christina Larson
20 de agosto de 2018
La gente de Pekín siempre está bajo la atenta mirada de Mao, y de innumerables cámaras de vigilancia.
En 1955, el escritor de ciencia ficción Isaac Asimov publicó una breve historia sobre un experimento en "democracia electrónica", en el que un ciudadano individual, seleccionado para representar a toda una población, respondía a las preguntas generadas por una computadora llamada Multivac. La máquina tomó esta información y calculó los resultados de una elección que, por lo tanto, nunca tuvo que suceder. La historia de Asimov se estableció en Bloomington, Indiana, pero hoy se está construyendo una aproximación de Multivac en China.
Para cualquier régimen autoritario, "hay un problema básico para el centro de averiguar qué está pasando en los niveles inferiores y en la sociedad", dice Deborah Seligsohn, politóloga y experta en China de la Universidad de Villanova en Filadelfia. ¿Cómo se puede gobernar efectivamente un país que alberga a una de cada cinco personas en el planeta, con una economía y una sociedad cada vez más complejas, si no se permite el debate público, el activismo civil y la retroalimentación electoral? ¿Cómo reúnes suficiente información para realmente tomar decisiones? ¿Y cómo un gobierno que no invita a sus ciudadanos a participar todavía engendra confianza y doblega el comportamiento público sin poner a la policía en cada puerta?
Hu Jintao, el líder de China de 2002 a 2012, había intentado resolver estos problemas permitiendo un moderado deshielo democrático, permitiendo que las vías para agravios lleguen a la clase dominante. Su sucesor, Xi Jinping, ha invertido esa tendencia. En cambio, su estrategia para comprender y responder a lo que está sucediendo en una nación de 1,4 billones se basa en una combinación de vigilancia, inteligencia artificial y big data para monitorear la vida y el comportamiento de las personas en detalle.
Desde que se convirtió en secretario general del Partido Comunista de China en 2012, Xi ha presentado una serie de ambiciosos planes para el país, muchos de ellos arraigados en la tecnología, incluido el objetivo de convertirse en el líder mundial en inteligencia artificial para 2030. Xi ha pedido "Ciber soberanía" para mejorar la censura y ejercer un control total sobre internet nacional. En mayo, dijo en una reunión de la Academia China de Ciencias que la tecnología era la clave para lograr "el gran objetivo de construir una nación socialista y modernizada". En enero, cuando se dirigió al país por televisión, las estanterías a ambos lados de él contenía tanto títulos clásicos como Das Kapital y algunas nuevas incorporaciones, incluidos dos libros sobre inteligencia artificial: The Master Algorithm de Pedro Domingos y Brett King'sAumentado: vida en el carril inteligente .Ayuda que un par de años tumultuosos en las democracias del mundo hayan hecho que la elite política china se sienta cada vez más justificada al excluir a los votantes. Desarrollos como la elección de Donald Trump, Brexit, el ascenso de los partidos de extrema derecha en Europa y el reinado de terror de Rodrigo Duterte en Filipinas subrayan lo que muchos críticos ven como los problemas inherentes a la democracia, especialmente el populismo, la inestabilidad y el liderazgo precariamente personalizado.
"Ningún gobierno tiene un plan más ambicioso y de largo alcance para aprovechar el poder de los datos para cambiar la forma en que gobierna que el gobierno chino", dice Martin Chorzempa del Instituto Peterson de Economía Internacional en Washington, DC. Incluso algunos observadores extranjeros, que observan desde lejos, pueden sentirse tentados a preguntarse si esa gobernanza basada en datos ofrece una alternativa viable al modelo electoral cada vez más disfuncional. Pero confiar demasiado en la sabiduría de la tecnología y los datos conlleva sus propios riesgos.
Datos en lugar de diálogo
Los líderes chinos han querido durante mucho tiempo aprovechar el sentimiento público sin abrir la puerta a un acalorado debate y críticas a las autoridades. Durante la mayor parte de la historia imperial y moderna de China, ha habido una tradición de personas descontentas del campo que viajan a Beijing y realizan pequeñas manifestaciones como "peticionarios" públicos. La idea era que si las autoridades locales no entendían o no se preocupaban por sus agravios, el emperador podría mostrar mejor juicio.
Bajo Hu Jintao, algunos miembros del Partido Comunista vieron una apertura limitada como una posible forma de exponer y corregir ciertos tipos de problemas. Blogs, periodistas anticorrupción, abogados defensores de los derechos humanos y críticos en línea que destacan la corrupción local impulsaron el debate público hacia el final del reinado de Hu. Al comienzo de su mandato, Xi recibió un informe diario sobre las inquietudes y disturbios del público en las redes sociales, según un ex funcionario estadounidense con conocimiento del asunto. En los últimos años, los peticionarios han acudido a la capital para llamar la atención sobre escándalos como las incautaciones ilegales de tierras por parte de las autoridades locales y la leche en polvo contaminada.
Pero la policía impide cada vez más que los peticionarios lleguen a Beijing. "Ahora los trenes requieren identificaciones nacionales para comprar boletos, lo que facilita a las autoridades la identificación de posibles 'alborotadores' como los que han protestado contra el gobierno en el pasado", dice Maya Wang, investigadora principal de China de Human Rights Watch. "Varios peticionarios nos dijeron que fueron detenidos en las plataformas de los trenes". Los blogueros, activistas y abogados también están siendo sistemáticamente silenciados o encarcelados, como si los datos pudieran darle al gobierno la misma información sin ninguno de los incómodos problemas de la libertad.
Una demostración de una startup de Shangai de su sistema de reconocimiento facial.
La idea de utilizar la tecnología en red como herramienta de gobernanza en China se remonta al menos a mediados de los años ochenta. Como explica el historiador de Harvard Julian Gewirtz: "Cuando el gobierno chino vio que la tecnología de la información se estaba convirtiendo en parte de la vida cotidiana, se dio cuenta de que tendría una nueva herramienta poderosa para reunir información y controlar la cultura, para hacer que los chinos sean más 'modernos' y más "gobernables", que han sido obsesiones perennes de los líderes ". Los avances posteriores, incluido el progreso en la IA y los procesadores más rápidos, han acercado esa visión.
Por lo que sabemos, no existe un modelo maestro único que vincule tecnología y gobernanza en China. Pero hay varias iniciativas que comparten una estrategia común de recolección de datos sobre personas y empresas para informar la toma de decisiones y crear sistemas de incentivos y castigos para influir en el comportamiento. Estas iniciativas incluyen el "Sistema de crédito social" del Consejo de Estado de 2014, la Ley de seguridad cibernética de 2016, varios experimentos a nivel local y privado en planes de "crédito social", "ciudad inteligente" y políticas basadas en la tecnología en la región occidental de Xinjiang . A menudo implican asociaciones entre el gobierno y las compañías tecnológicas de China.
El de mayor alcance es el Sistema de Crédito Social, aunque una mejor traducción en inglés podría ser el sistema de "confianza" o "reputación". El plan del gobierno, que abarca tanto a las personas como a las empresas, enumera entre sus objetivos la "construcción de sinceridad en los asuntos gubernamentales, sinceridad comercial y credibilidad judicial". ("Todos en China tienen una tía que ha sido estafado. Existe una necesidad legítima de abordar un desglose de la confianza pública ", dice Paul Triolo, jefe de la práctica de geotecnología en la consultora Eurasia Group). Hasta la fecha, es un trabajo en progreso, aunque varios pilotos prevén cómo podría funcionar en 2020, cuando se supone que es totalmente implementado.
Las listas negras son la primera herramienta del sistema. Durante los últimos cinco años, el sistema judicial de China ha publicado los nombres de las personas que no han pagado multas ni han cumplido las sentencias. Bajo las nuevas regulaciones de crédito social, esta lista se comparte con varias empresas y agencias gubernamentales. Las personas en la lista se han visto bloqueadas de pedir dinero prestado, reservar vuelos y alojarse en hoteles de lujo. Las empresas nacionales de transporte de China han creado listas negras adicionales para castigar a los pasajeros por su comportamiento, como bloquear las puertas de los trenes o buscar peleas durante un viaje; a los delincuentes se les prohíbe comprar futuras entradas por seis o 12 meses. A principios de este año, Pekín presentó una serie de listas negras para prohibir que las empresas "deshonestas" reciban contratos gubernamentales futuros o concesiones de tierras.
Algunos gobiernos locales han experimentado con "puntajes" de crédito social, aunque no está claro si formarán parte del plan nacional. La ciudad norteña de Rongcheng, por ejemplo, asigna un puntaje a cada uno de sus 740,000 residentes, informó Foreign Policy. Todo el mundo comienza con 1,000 puntos. Si dona a una organización benéfica o gana un premio del gobierno, gana puntos; Si viola una ley de tráfico, como conducir borracho o conducir a exceso de velocidad, pierde puntos. Las personas con buenos puntajes pueden ganar descuentos en los suministros de calefacción de invierno o obtener mejores condiciones de las hipotecas; aquellos con malos puntajes pueden perder acceso a préstamos bancarios o promociones en trabajos gubernamentales. El Ayuntamiento exhibe pósters de modelos locales, que han exhibido "virtud" y obtuvieron puntajes altos.
"La idea del crédito social es monitorear y gestionar cómo se comportan las personas y las instituciones", dice Samantha Hoffman del Instituto Mercator para Estudios de China en Berlín. "Una vez que se registra una violación en una parte del sistema, puede desencadenar respuestas en otras partes del sistema. Es un concepto diseñado para apoyar el desarrollo económico y la gestión social, y es intrínsecamente político ". Ya existen algunos paralelismos con partes del plan de China en los EE. UU .: un puntaje de crédito malo puede evitar que usted obtenga un préstamo hipotecario, mientras que una condena por delito grave suspende o anula su derecho al voto, por ejemplo. "Pero no están todos conectados de la misma manera; no hay un plan general", señala Hoffman.
Una de las mayores preocupaciones es que debido a que China carece de un poder judicial independiente, los ciudadanos no tienen ningún recurso para disputar acusaciones falsas o inexactas. Algunos han encontrado sus nombres agregados a las listas negras de viaje sin notificación después de una decisión judicial. Los solicitantes y los periodistas de investigación son monitoreados de acuerdo con otro sistema, y las personas que ingresaron a la rehabilitación de drogas son vigiladas por un sistema de monitoreo diferente. "Teóricamente se supone que las bases de datos de usuarios de drogas borren nombres después de cinco o siete años, pero he visto muchos casos en los que eso no sucedió", dice Wang de Human Rights Watch. "Es inmensamente difícil sacarte alguna de estas listas".
Occasional bursts of rage online point to public resentment. News that a student had been turned down by a college because of her father’s inclusion on a credit blacklist recently lit a wildfire of online anger. The college’s decision hadn’t been officially sanctioned or ordered by the government. Rather, in their enthusiasm to support the new policies, school administrators had simply taken them to what they saw as the logical conclusion.
La opacidad del sistema hace que sea difícil evaluar cuán efectivos son los experimentos como los de Rongcheng. El partido ha eliminado a casi todas las voces críticas desde 2012, y los riesgos de desafiar al sistema, incluso en formas relativamente pequeñas, han aumentado. La información disponible está profundamente viciada; la falsificación sistemática de datos sobre todo, desde el crecimiento del PIB hasta el uso de la energía hidroeléctrica, impregna las estadísticas del gobierno chino. El investigador de la Universidad Nacional de Australia, Borge Bakken, estima que las cifras oficiales delictivas, que el gobierno tiene un claro incentivo para restar importancia, pueden representar tan solo el 2.5 por ciento de todo el comportamiento delictivo.
En teoría, la gobernanza basada en datos podría ayudar a solucionar estos problemas, eludiendo las distorsiones para permitir que el gobierno central recopile información directamente. Esa ha sido la idea detrás de, por ejemplo, la introducción de monitores de calidad del aire que envíen datos a las autoridades centrales en lugar de depender de los funcionarios locales que puedan estar en el bolsillo de las industrias contaminantes. Pero muchos aspectos de la buena gobernanza son demasiado complicados para permitir ese tipo de supervisión directa y, en cambio, dependen de los datos ingresados por esos mismos funcionarios locales.
Sin embargo, el gobierno chino raramente publica datos de rendimiento que los de afuera podrían usar para evaluar estos sistemas. Tome las cámaras que se utilizan para identificar y avergonzar a los jaywalkers en algunas ciudades al proyectar sus rostros en vallas publicitarias, así como para rastrear los hábitos de oración de los musulmanes en el oeste de China. Su exactitud sigue siendo cuestionable: en particular, ¿qué tan bien puede el software de reconocimiento facial entrenado en las caras Han chino reconocer a los miembros de los grupos minoritarios de Eurasia? Además, incluso si la recopilación de datos es precisa, ¿cómo utilizará el gobierno esa información para dirigir o frustrar el comportamiento futuro? Los algoritmos policiales que predicen quién puede convertirse en delincuente no están abiertos al escrutinio público, ni tampoco las estadísticas que mostrarían si el delito o el terrorismo han aumentado o disminuido. (Por ejemplo, en la región occidental de Xinjiang,
En la ciudad de Xiangyang, las cámaras conectadas a la tecnología de reconocimiento facial proyectan fotos de jaywalkers, con nombres y números de identificación, en una valla publicitaria.
"No es la tecnología la que creó las políticas, sino que la tecnología amplía enormemente los tipos de datos que el gobierno chino puede recopilar sobre individuos", dice Richard McGregor, investigador principal del Instituto Lowy y autor de The Party: The Secret World of Los gobernantes comunistas de China . "Internet en China actúa como un servicio de inteligencia digital administrado en tiempo real y en tiempo real".
Policía algorítmica
Escribiendo en el Washington Post a principios de este año, Xiao Qiang, profesor de comunicaciones en la Universidad de California en Berkeley, apodó a la gobernanza mejorada por datos de China como "un estado digital totalitario". Los aspectos distópicos se encuentran más obviamente en exhibición en el oeste de China.
Xinjiang ("Nuevo Territorio") es el hogar tradicional de una minoría musulmana china conocida como Uighurs. Debido a que un gran número de migrantes Han chinos se han asentado -algunos dicen que están "colonizados" -la región, el trabajo y las oportunidades religiosas ofrecidas a la población uigur local han disminuido. Uno de los resultados ha sido un repunte de la violencia en el que tanto Han y Uighur han sido atacados, incluido un disturbio en 2009 en la ciudad capital de Urumqi, cuando murieron 200 personas. La respuesta del gobierno al aumento de las tensiones no ha sido la celebración de foros públicos para solicitar puntos de vista o asesoramiento sobre políticas. En cambio, el estado está utilizando la recopilación de datos y algoritmos para determinar quién es "probable" para cometer futuros actos de violencia o desafío.
El gobierno de Xinjiang contrató a una compañía privada para diseñar los algoritmos predictivos que evalúan varios flujos de datos. No hay registro público ni responsabilidad de cómo se construyen o ponderan estos cálculos. "Las personas que viven bajo este sistema generalmente ni siquiera saben cuáles son las reglas", dice Rian Thum, un antropólogo de la Universidad de Loyola que estudia Xinjiang y que ha visto avisos de compras del gobierno que se emitieron para construir el sistema.
En la ciudad occidental de Kashgar, muchas de las casas y tiendas familiares en las calles principales están tapiadas, y las plazas públicas están vacías. Cuando visité en 2013, estaba claro que Kashgar ya era una ciudad segregada: las poblaciones Han y Uighur vivían y trabajaban en distintas secciones de la ciudad. Pero por las noches, también era un lugar animado ya menudo ruidoso, donde los sonidos del llamado a la oración se entremezclaban con la música de baile de los clubes locales y las conversaciones de ancianos sentados hasta tarde en sillas de plástico en los patios. Hoy la ciudad es inquietantemente silenciosa; la vida pública del vecindario prácticamente ha desaparecido. Emily Feng, periodista del Financial Times , visitó Kashgar en junio y publicó fotos en Twitter de las calles recientemente desocupadas.
La razón es que, según algunas estimaciones, más de uno de cada 10 uigures y kazajos adultos en Xinjiang han sido enviados a "campos de reeducación" con anillos de púas, y quienes permanecen en libertad tienen miedo.
En los últimos dos años, se han establecido miles de puestos de control en los que los transeúntes deben presentar su cara y su tarjeta de identificación nacional para proceder en una carretera, ingresar a una mezquita o visitar un centro comercial. Los uigures deben instalar aplicaciones de seguimiento diseñadas por el gobierno en sus teléfonos inteligentes, que monitorean sus contactos en línea y las páginas web que han visitado. Los agentes de policía visitan los hogares locales con regularidad para recabar más datos sobre cuántas personas viven en el hogar, cómo son sus relaciones con sus vecinos, cuántas veces rezan a diario, si han viajado al extranjero y qué libros tienen.
Todos estos flujos de datos se introducen en el sistema de seguridad pública de Xinjiang, junto con otros registros que capturan información sobre todo, desde la historia bancaria hasta la planificación familiar. "El programa de computadora agrega todos los datos de estas diferentes fuentes y señala a quienes podrían convertirse en 'una amenaza' para las autoridades", dice Wang. Aunque se desconoce el algoritmo preciso, se cree que puede destacar comportamientos tales como visitar una mezquita en particular, poseer muchos libros, comprar una gran cantidad de gasolina o recibir llamadas telefónicas o correos electrónicos de contactos en el extranjero. Las personas a las que llama son visitadas por la policía, que puede llevarlas bajo custodia y ponerlas en prisión o en campos de reeducación sin cargos formales.
Los visitantes de la Plaza Tiananmen en Beijing escanean sus identificaciones en un puesto de control.
Adrian Zenz, un científico político de la Escuela Europea de Cultura y Teología en Korntal, Alemania, calcula que la tasa de internamiento de las minorías en Xinjiang puede llegar al 11.5 por ciento de la población adulta. Estos campamentos están diseñados para infundir patriotismo y hacer que las personas desaprendan las creencias religiosas. (Los nuevos avisos de adquisiciones para los guardias de seguridad de cremación parecen indicar que el gobierno también está tratando de erradicar las prácticas funerarias musulmanas tradicionales en la región).
Mientras que Xinjiang representa un extremo draconiano, en otros lugares de China los ciudadanos están empezando a rechazar ciertos tipos de vigilancia. Una compañía de internet que transmitió secuencias de televisión de circuito cerrado cerró esas transmisiones luego de una protesta pública. La ciudad de Shanghai recientemente emitió regulaciones para permitir a las personas disputar información incorrecta utilizada para compilar registros de crédito social. "Hay una creciente demanda de privacidad por parte de los usuarios de Internet chinos", dice Samm Sacks, miembro senior del Programa de Política Tecnológica de CSIS en Nueva York. "No es exactamente lo que se pretende que sea".
Christina Larson es una galardonada corresponsal extranjera y periodista científica, que escribe principalmente sobre China y Asia.
No hay comentarios:
Publicar un comentario