La Chine développe un système numérique pour suivre et évaluer sa population de 1,3 milliard de personnes. Le système suscite des comparaisons avec les films d'Orwell de 1984 et les films dystopiques, mais ce n'est qu'une utilisation du Big Data pour gérer les gens. Kai Strittmatter, qui a fait un reportage sur la culture chinoise pour le journal allemand Sueddeutsche Zeitung, résume le nouveau programme dans "Punkteregime" ou "Points Regime" (19 mai 2017).
Certaines applications pour le système sont déjà en cours d'essai. Lorsque vous téléchargez «Honest Shanghai», l'application scanne votre visage lorsque vous vous enregistrez et récupère des données à votre sujet sur Internet. Comme une cote de crédit aux États-Unis, l'application utilise des algorithmes pour évaluer vos transactions financières (factures payées à temps?) Et classer votre solvabilité.
D'ici 2020, il est prévu que le système inclura tous les Chinois dans un «système de confiance sociale». L'idée est non seulement de faciliter et de sécuriser les transactions commerciales, mais aussi d'améliorer le comportement individuel. Comme dans Orwell en 1984, le big data, les médias sociaux et un système de points numériques utiliseront des récompenses et des désincitations ou des punitions directes pour créer une nouvelle personne modèle. Un responsable de la ville de Rongchen déclare "Nous voulons civiliser les gens".
Zhang Zheng, doyen de la faculté d'économie de l'Université de Beijing, explique: «Comment traitez-vous vos parents et votre conjoint, toutes vos actions sociales, si et comment vous vous conformez aux règles morales? Cela ne vous dit-il pas aussi votre fiabilité?
Selon le directeur du projet pilote à Rongchen, le système classera chaque entreprise et chaque citoyen en Chine. Dans le projet pilote, tout le monde commence avec 1000 points. Le comportement approuvé améliore votre score. Vous "pouvez être un citoyen AAA (" modèle d'honnêteté ", plus de 1050 points). Mais un glissement à 849 points est le «niveau d'alerte». Au-dessous de 599 points, classé «malhonnête», votre nom sera mis sur liste noire, publié, et vous devenez «l'objet d'un suivi important». les "Mesures administratives pour la fiabilité des personnes physiques".
Vous pouvez voir des métaphores profondes dans le système. Il ressemble à des jeux basés sur la notation, combinés avec les processus standardisés d'une usine. Mesurer la valeur par les scores évoque le commerce et les affaires, en particulier la comptabilité. Comme la plupart des technologies informatiques, elle rend la théorie des traits et l'arbre de décision plus importants que la vie intérieure.
Les adeptes font en sorte que le système soit sain comme un jeu télévisé, avec des garanties intégrées de flexibilité et d'équité. Mais si l'histoire est un guide, le Parti communiste et les grandes entreprises préféreront un système musclé qui renforce le contrôle social. Il reste à voir si n'importe quelle conception peut exclure l'incompétence ou la corruption.
À certains égards, le programme fait écho à la promotion des privilèges des entreprises aux États-Unis, où un certain niveau de dépenses ou la «fidélité» des clients vous qualifie pour un traitement spécial. Mais quand les dissidents chinois sont en désaccord avec le Parti, ils ne disparaissent généralement pas dans le salon Elite Club d'une compagnie aérienne.
Les enthousiastes évitent le spectre de la punition en suggérant que les évaluations négatives pourraient remodeler le citoyen en limitant les privilèges sociaux, tels que l'accès aux livres de bibliothèque ou de voyage. Mais peu importe la douceur des euphémismes, l'influence sur les autres est liée à un élément coercitif. Même l'utopie a besoin de la protection de la loi et d'une procédure régulière.
Le rêve du Nouvel Homme était le cauchemar du totalitarisme du 20ème siècle. Qui contrôlera les contrôleurs? Qui va surveiller la police? Qui va régler la confusion des pratiques commerciales avec la gouvernance? Le but est de stimuler l'autorégulation tout en déguisant le contrôleur.
Aux États-Unis, comme l'ont montré les campagnes publicitaires et les récents cycles électoraux, les mineurs de big data envisagent des algorithmes capables de prédire les choix des individus. Le rêve est que, si l'information est suffisante, un programme sera en mesure de démêler et de contrôler les préférences intuitives et toujours inconscientes du consommateur ou de l'électeur.
Les médias sociaux tels que Facebook et les initiatives académiques telles que le projet de bien-être mondial et myPersonality promettent d'améliorer la liberté individuelle. Ils supposent que la machinerie psychologique peut actualiser des valeurs authentiques autrement simplement latentes en nous. Mais dans tous ces efforts pour aider le papillon à sortir du cocon, les outils et les hypothèses du projet colorient le papillon.
Et bien sûr, certains chasseurs de papillons sont franchement intéressés à perfectionner les outils à vendre au plus offrant. Dans une présentation sur YouTube, le PDG de Cambridge Analytica affirme avoir combiné les réponses de test de personnalité aux données des médias sociaux pour produire des «profils psychographiques». Ses «modèles qui prédisent les traits de personnalité de tous les adultes américains» ont joué un rôle lors des dernières élections . Mais "il est important de se rappeler que cette vidéo très discutée est un argument de vente." [1]
Malgré différents accents, l'intérêt chinois et américain pour le contrôle social se chevauchent. Comme le montre la nouvelle hystérie sur les immigrés clandestins et le terrorisme, et les investissements massifs du gouvernement dans la surveillance, les Etats-Unis partagent l'inquiétude chinoise selon laquelle l'échelle de la vie dépasse les contraintes traditionnelles. Les responsables américains de l'immigration examinent les dossiers à la recherche d'infractions, même mineures, qui pourraient justifier l'expulsion.
Dans le même temps, les deux pays nourrissent des ambitions qui cherchent à obtenir de nouveaux outils de contrôle. Certains de ces outils sont de la propagande grossière comme le mur mexicain balisé, mais d'autres explorent les profondeurs de la technologie des données électroniques et de la nature humaine. Pourquoi l'hystérie? Pour le moment, l'échelle de la vie a atteint un point de basculement. Un grand nombre défie le cerveau, qu'il s'agisse de la population, du commerce ou de l'environnement. Et la compétition rend nerveux les humains nerveux, puisque la métaphore profonde est le combat. Vous voyez l'hystérie dans la thésaurisation du pouvoir et de l'argent au sommet, une arme à feu sous chaque oreiller, et des attaques honteuses contre les travailleurs pauvres et le droit du travail.
Les Chinois ont un système de surveillance en mille points. Les États-Unis ont le slogan smarmy "mille points de lumière." Les deux cultures essaient d'élaborer des récits qui contrôlent la réalité exubérante sans laisser de cicatrices disgracieuses. C'est un vieux projet. Voyons voir comment cela fonctionne cette fois.
Dans ses notes d'Underground, Dostoïevski a juré que certains humains sont d'une manière perverse et par conséquent seront d'un air de défi. Les sceptiques prévoient que certains Chinois trouveront des moyens de contourner le système de notation et ses corruptions probables. Nous sommes des animaux sociaux, mais aussi des créatures compétitives et sournoises. La même mentalité qui permet aux traders de deviner ce que les autres apprécient peut aussi être capable d'imaginer ce qui les trompe. Comme nous le voyons autour de nous aujourd'hui, nous pouvons déplorer la tromperie alors même que la foule applaudit un spectacle de magie.
Ressources utilisées dans cet essai:
1. Tamsin Shaw, «Manipulateurs invisibles de votre esprit», New York Review of Books (20 avril 2017), p. 64.
