Ce dispositif permet de noter les citoyens selon leur comportement grâce à des outils technologiques. Si certains en vantent les mérites, nombreux sont ceux qui n’hésitent pas à dénoncer les dérives d’une telle surveillance de masse. Alors le crédit social, réel progrès ou menace de nos libertés ?
Le crédit social, qu’est-ce que c’est ?
C’est en 2014 que la Chine annonce officiellement à la face du monde le lancement de son « système de crédit social ». Le but initial ? S’assurer du bon respect des lois aussi bien par les entreprises que par les citoyens. Afin d’endiguer dérives, fraude et incivilités paradoxalement très présentes dans cet Etat policier, ce système vise à distribuer des bons et mauvais points. En bref, une sorte de bonus-malus qui s’applique selon les comportements. Notamment appuyé sur l’intelligence artificielle, la Chine qui maitrise les technologies numériques et le big data n’a aucun mal à recueillir et à traiter des quantités colossales d’informations. Cet outil vient finalement compléter la surveillance et la censure déjà mises en place par le pays qui contrôle déjà Internet.
Le système de surveillance chinois ©Cryptoast
Un système sous les feux de de la critique
Tant qu’il ne concernait que les entreprises, cet outil pouvait séduire et représenter un réel progrès. Il permet en effet de récompenser celles qui respectent l’éthique et de rappeler à l’ordre celles qui dépassent la ligne rouge. Mais dès son extension aux individus, les passions n’ont pas tardé à se déchainer.
En Europe surtout où les hommes politiques, les journalistes mais aussi les utilisateurs de twitter en général s’offusquent. Les comparaisons avec Black Mirror ou encore les ouvrages de Georges Orwell ou Aldous Huxley fusent, pointant du doigt la Chine comme étant l’incarnation de la dystopie moderne.
On peut par exemple évoquer le récent documentaire diffusé sur LCP intitulé « Ma femme a du crédit ». Un journaliste français marié avec une chinoise la filme tous les jours pendant 1 an. On la voit utiliser la reconnaissance faciale pour faire ses courses ou encore prendre le bus, elle peut accéder à certains privilèges grâce aux points qu’elle a accumulés. Chaque habitant commence avec un total de 100 points, il peut monter jusqu’à 1300 points et descendre jusqu’à 600 points. Dans le pire des cas, les citoyens comme les entreprises peuvent se retrouver sur une liste noire appelée « heavily distrusted entities list » (liste des entités très suspectes) La jeune chinoise du documentaire explique aussi que si elle ne traverse pas bien la route, elle verra (ainsi que tous les autres piétons) son visage affiché en grand écran. Ce contrôle extrême lorsqu’il est conjugué à la collecte de données centralisée par l’Etat fait donc l’objet de vives critiques. Vu de l’Occident, ce monde de gouvernance peut s’apparenter à un outil au service d’une police politique qui chercherait davantage à réprimer et à ficher les individus qu’à émanciper une nation en y faisant régner l’ordre et la justice. Ce système opaque est en contradiction avec la conception européenne de la protection des données.
Quel impact ?
Il n’est pas aisé de déterminer les conséquences du système de crédit social puisque son application à large échelle n’est pour l’instant qu’à l’état d’embryon. Parmi les avantages que donnent les comportements exemplaires, on peut par exemple citer l’accès facilité au crédit, un meilleur accès aux soins, un temps d’attente réduit pour l’accès aux logements sociaux, une réduction d’impôt, une promotion plus rapide, etc. Ces avantages considérables sont le contrepoids des conséquences qui peuvent s’appliquer en cas de « mauvais comportements » : impossibilité d’exercer dans certains secteurs de marché, refus d’attribution de licences et de permis (pour les entreprises), amendes (pour les entreprises), accès limité aux prestations sociales et aux services publics, pas d’accès aux écoles privées, etc. Par exemple, en 2018, 15 millions d’interdictions auraient empêché des personnes ayant un mauvais score de voyager sur de longues distances.
Les citoyens (ou entreprises sur liste noire) peuvent être exposés sur internet ou sur des écrans de l’espaces publics.
Au-delà du sensationnalisme, une réalité complexe
Si cet état des lieux semble édifiant, il convient tout de même d’y apporter certaines nuances afin d’établir une analyse plus fine du sujet. En effet, on peut aisément se faire berner par les dynamiques journalistiques simplificatrices qui cherchent à faire dans le sensationnel.
Le phénomène de crédit social est un objet complexe qu’il faut évaluer avec prudence et ne pas réifier : il existe en réalité différents systèmes de notation (entre 70 et 200 selon les estimations) qui ne sont pour l’instant qu’à l’état de test. Les critères d’évaluation des citoyens ne sont pas les mêmes selon les projets, ils sont la plupart du temps établis par des acteurs municipaux. Enfin, si la lumière est mise sur le cas des citoyens, c’est surtout les entreprises qui sont touchées par un tel système (les individus représenteraient 0,2% des sanctionnés). Une des fonctions du système de crédit social mise en avant est ainsi de permettre le partage d’informations entre les administrations en construisant des bases de données à disposition de ces dernières.
Et en Chine qu’en pense-t-on ? Le système est très peu critiqué dans le pays où le degré d’acceptation peut nous surprendre. Comment l’expliquer ? De nombreux citoyens fondent leurs espoirs sr ce système et font confiance au gouvernement : ce serait un outil leur permettant de vivre dans un monde plus sûr sans corruption. Ils voient également d’un bon œil les avancée technologiques et les avantages de la numérisation complète. Il faut tout de même préciser que s’il n’y a pas de critique chinoise, cela peut être aussi dû à la crainte de sanction : l’Etat chinois ne tolère pas la critique ouverte.
Vers une internalisation du système de crédit social ?
Faut-il s’inquiéter de l’exportation du système à l’étranger ? C’est ce qui commence en effet à s’observer dans certains pays comme l’Allemagne où l’entreprise Schufa effectue des contrôles de crédit basés sur des données. Mais n’est-on pas déjà soumis à ce système à notre insu ? D’après le président du comité d’éthique du CNRS Jean-Gabriel Ganascia, il existe déjà un crédit social sur internet où « nous sommes notés en permanence », c’est également le cas pour certaines banques et assurances. Ces informations transmises par les médias sont récupérées par de nombreuses entreprises. Donc à la différence de la Chine, la notation sociale n’est pas entre les mains de l’Etat mais entre les mains du secteur privé. Mais le scandale de l’accès aux données privées de facebook durant la campagne électorale américaine par exemple peut nous faire douter de la protection des données du secteur privé.
Appréhender ce système c’est donc aussi mettre en lumière les nombreuses ambiguïtés et les approches différentes. Pour le chercheur Jeremy Daum, expert de la Chine, le crédit social « est davantage un outil de propagande : son but est de discipliner les citoyens par des menaces » alors même que la plupart des caméras de surveillance ne sont pas en service.
Les avis sont donc très divergents, reflétant souvent une désinformation, une exagération ou au contraire une trop grande tolérance.
Or pour guider nos réflexions sur les technologies numériques, il est primordial de saisir avec justesse et prudence ce système complexe.
Ce sujet nous amène à nous interroger sur la question de l’informatisation de la bureaucratie chinoise mais plus largement, sur la question du traitement des données et de leur usage dans nos sociétés modernes.
Myriam Boukhalfa
Comentarios