Chine et IA : impérial !

Je vais en Chine pour mieux voir la France et ses problèmes.

Jacques Chaban Delmas


La Chine a depuis longtemps assumé l’ « être » du système technicien numérique, qui est de servir une société de surveillance et de transparence radicale. Ce n’est ni bien, ni mal : c’est ainsi (à l’instant Facebook / Cambridge Analytica, nous ferions mieux de commencer par l’admettre).

Quelques mois après la fin du 19ème congrès du PC chinois, l’intronisation du « Président » à vie Xi Jinping et le dévoilement d’une stratégie en matière d’intelligence artificielle, où la Chine veut-elle aller ? Quels enseignements pouvons-nous en tirer ?

大哥正望著你

Dans un document publié en juin 2014, et intitulé «  Planning Outline for the Construction of a Social Credit System (2014-2020) »1, le Conseil des affaires de l’État chinois met en ordre sa vision de la Société Socialiste de demain et propose de la renforcer par un « Système de Crédit Social » permettant de noter chaque acteur de la société chinoise. Le premier paragraphe de ce document mérite d’être cité in extenso :

Un Système de Crédit Social est un élément important du système économique Socialiste et du système de gouvernance sociale. Il est fondé sur des lois, des règlements, des standards et des chartes, il est basé sur un réseau complet couvrant les notes de crédit (credit records) des citoyens et l’infrastructure de crédit, il s’appuie sur l’utilisation légale d’information de crédit et d’un système de services de crédit (credit services system), ses exigences fondamentales sont d’établir l’idée d’une culture de l’honnêteté (sincerity), de faire avancer l’honnêteté et les valeurs traditionnelles, il utilise, comme mécanismes d’incitation, l’encouragement pour le maintien de la confiance et la coercition contre la rupture de confiance, et ses objectifs sont d’élever la mentalité de l’honnêteté et les « niveaux de crédit » de toute la société.

Concrètement, il s’agit de déployer un big data national permettant d’accorder une « note de crédit » (traduit en français par « note sociale ») aux citoyens en fonction de leur historique de comportement. Ce projet, qui doit s’achever en 2020, est déjà bien avancé2 :

Cette réforme semble déjà avoir commencé à être appliquée en 2017, puisque les autorités judiciaires chinoises avaient annoncé au début de cette année-là que 6 millions de Chinois avaient été interdits d’avion en raison de mauvaises conduites sociales.

Il faut cependant éviter de porter des jugements trop rapides. La Chine est bien entendu en quête de sa propre puissance mais doit en même temps faire face, notamment à cause de son immense population, à des tensions et des contradictions internes très importantes. De plus, les normes sociales acceptables changent à mesure que le niveau de vie augmente :

[…] la conscience sociale de l’honnêteté et les niveaux de crédit sont bas, il ne se dessine pas encore une atmosphère sociale dans laquelle les accords sont honorés et la confiance est accordée ; il se produit en particulier de graves accidents de sécurité dans la production, de temps en temps des incidents de sécurité dans l’alimentation, des escroqueries commerciales, de la fabrication et de la vente des produits contrefaits, de l’évasion fiscale, des réclamations financières frauduleuses […]

Sans parler de la pollution… La Chine est probablement le seul pays au monde qui a à ce point besoin, indépendamment de toute idéologie, d’un système de régulation sociale puissant et transparent.

Le Conseil des affaires de l’État énumère ensuite dans de longues pages chaque entité de l’appareil social chinois, chaque pan du système administratif et économique, s’adresse à chaque acteur de la société pour l’impliquer dans la mise en œuvre de ce système de crédit social qui doit récompenser les comportements vertueux et punir les comportements antisociaux. Voici quelques extraits du passage concernant internet :

Avancer avec vigueur vers l’honnêteté en ligne […] implémenter progressivement le système de noms réels » sur Internet, élaborer des systèmes d’évaluation de crédit en ligne […] évaluer le comportement en ligne des net-citoyens (netcitizens) et enregistrer leur note de crédit […] Elaborer des systèmes de listes noires en ligne […] adopter des mesures contre les individus en liste noire incluant la limitation [ de leurs ] accès et les dénoncer aux départements concernés […]

La « note sociale » n’est donc que le sommet de la partie émergée d’un vaste iceberg de contrôle et de régulation, dont nous connaissons l’existence mais dont nous pouvons encore difficilement imaginer la profondeur et la cohérence avec, en particulier, un réseau étendu de données locales et nationales et des entreprises technologiques en coopération symbiotiques avec le gouvernement.

Résultat : en 2018, près de 10 millions de chinois sont blacklistés3.

En matière d’éthique, le principe de notation sociale ne s’embarrasse pas des considérations parfois alambiquées de la philosophie analytique anglo-saxonne (voir ici Infosphère, Stuart Russell…). Il reste toutefois à construire la pensée de ce « casier numéraire » et de ses implications sociétales.

Rappelons enfin que la Chine est déjà munie de 170 millions de caméras de surveillance et que ce nombre va quadrupler d’ici 20204. Bien entendu, après le big data, ces gigantesques commandes nationales de matériel et de logiciels de reconnaissance faciale profitent aux entreprises chinoises dont le savoir-faire devient incomparable. Un savoir-faire qui s’exporte et commence à créer, on peut l’imaginer, des tensions géopolitiques :

Le 12 novembre, le Wall Street Journal se faisait l’écho de réticences grandissantes aux États-Unis, où l’on s’inquiète que Pékin puisse utiliser à son profit des failles, accidentelles ou intentionnelles, dans ces équipements – les caméras d’Hikvision sont utilisées aussi bien par la police de Memphis, dans le Tennessee, que dans une base militaire du Missouri. De fait, l’Administration des services généraux a, l’an dernier, retiré l’entreprise de sa liste de fournisseurs agréés pour équiper les agences et services gouvernementaux.

Le succès des technologies chinoise à l’export s’appuie bien entendu d’abord sur un retour d’expérience massif sur leur propre territoire.

人工智能

Le plan chinois pour l’intelligence artificielle apparaît ainsi dans un contexte intérieur particulièrement favorable.

La stratégie de la Chine est définie dans un nouveau document du Conseil des affaires de l’État chinois publié en juillet 2017 et intitulé « New Generation of Artificial Intelligence Development Plan »5. Il fait écho au plan américain de 2016 publié par l’administration Obama6 (et celui du député Villani fera donc écho à ces deux-là).

Il n’y a rien de vraiment surprenant dans la stratégie de la Chine, dont le principe est assez identique à celui de la stratégie américaine (quoi dire d’autre ?) mais sa forme est… chinoise. En voici quelques aspects saillants.

Premièrement, absolument tous les acteurs de la société chinoise sont embarqués, toutes les choses, tous les artefacts, tous les processus économiques sont sommés de devenir « intelligents ». C’est ainsi que la Chine doit devenir le leader mondial de l’intelligence artificielle. Plus exactement, l’IA est un moyen fondamental pour renforcer le leadership de la Chine sur la scène mondiale. D’autant plus que la Chine est perçue comme ayant atteint un palier dangereusement « normal », une situation d’où la forte dynamique de rattrapage a disparu (nous soulignons ces éléments si orientaux) :

L’économie de la Chine a atteint un nouvel état normal (new normal situation), et approfondir le volet offre des travaux de réforme structurelle est devenu difficile ; par conséquent, nous devons accélérer les applications de l’intelligence artificielle, développer et accroître l’industrie de l’intelligence artificielle pour insuffler une nouvelle énergie cinétique dans le développement économique de la Chine.

Deuxièmement, comme le Système de Crédit Social, l’IA est d’emblée perçue comme un moyen complet, vertical et horizontal, de contrôle et donc de stabilité sociale :

Les technologies d’intelligence artificielle peuvent percevoir avec précision, prévoir, […] saisir à temps les changements de psychologie et de prise de conscience des groupes […] améliorer grandement la capacité et le niveau de la gouvernance sociale, et tout ceci est essentiel pour maintenir la stabilité sociale avec efficacité.

Troisièmement, les objectifs sont planifiés et tous les acteurs sont orientés vers le respect du plan et de ses délais, tout en rappelant son adéquation à certains piliers de la stratégie chinoise en générale (en particulier, les « four comprehensive » de Xi Jinping, pas explicitement cités mais omniprésents). Nous ne détaillerons pas ici ces étapes, déjà largement commentées7. L’un des objectifs les plus intéressants est celui qu’aucun occidental n’oserait décréter. Partant du principe, au demeurant assez juste, que la « théorie originelle » (comprenons « américaine ») de l’IA est fondée sur des « bases théoriques faibles »…

En 2025, nous accomplirons une percée majeure dans la théorie de base de l’intelligence artificielle.

A moins qu’il ne s’agisse que d’une rhétorique visant à focaliser les énergies et à nommer les ambitions…

Quatrièmement, ce plan d’ensemble est parfaitement cohérent et tout à fait profond. Ses enjeux militaires ne sont jamais loin des propos plus lyriques :

Nous allons construire une société de l’intelligence artificielle pour le développement scientifique et technologique du monde, pour l’amélioration des conditions de vie des gens, pour le bien-être social et pour la réalisation de l’idéologie d’un développement centré sur le peuple. Nous améliorerons les moyens de la défense nationale avec l’intelligence artificielle pour protéger et sauvegarder la sécurité nationale.

Ces quelques passages donnent la tonalité générale. Nul doute que la Chine appliquera son plan IA (concernant également des objets bien réels : robots polaires, vergers intelligents…), comme elle déploie sans sourciller son Système de Crédit Social et ses caméras de surveillance. Attendons-nous à devoir faire face à la meilleure technologie d’IA appliquée au monde, car d’abord déployée « sans mégoter » sur une scène intérieure de 1,3 milliards d’individus.

De la Chine à la France

Nous assistons à une splendide manifestation de Système Technicien, au sujet duquel nous écrivions (Jacques Ellul) :

N’ayant aucune finalité, étant fondamentalement neutre […] le système technicien est a-politique, a-moral, a-éthique…

Il sert en revanche parfaitement les normes socio-politiques de la Chine d’aujourd’hui.

Vu de France, on peut considérer que la notation sociale, la surveillance de masse et, demain, l’augmentation de tous les procédés de contrôle et d’action par l’intelligence artificielle constituent un véritable cauchemar politique et social. Mais qui aurait prédit, quinze ans plus tôt, que nous accepterions de partager nos informations personnelles, de divulguer en permanence notre position géographique, de procéder à des achats massifs sur internet, de partager nos auto-mesures etc. ? Autrement dit, comme la célèbre grenouille dans la casserole, la vision de la Chine peut devenir progressivement une norme acceptée (puis nécessaire ?).

C’est pourquoi, il faut cesser de considérer le numérique et l’IA comme les simples moyens économiques d’une « startup nation ». C’est à une réflexion urgente concernant notre propre projet de société que nous sommes convoqués. Ces technologies, loin d’être des forces d’homogénéisation et de mondialisation, exacerbent au contraire les différences culturelles. Pour les grandes puissances, elles constituent les outils de la véritable domination, non pas économique mais sociopolitique. De ce point de vue, la question des « normes éthiques » est l’enjeu d’une bataille dont nous avons encore à peine aperçu la férocité.

Dans cette bataille, l’Europe, faute d’une homogénéité politique sur la question du projet de société, et qui permettrait d’engager une stratégie de puissance, reste aujourd’hui une colonie numérique. Empêtrée dans une culture trop simpliste de la « protection des données », faute de faire face publiquement à la question des implications du numérique en matière de surveillance, etc. elle peine à sortir de ses contradictions et de ses réserves. Nul acteur numérique fort ne peut sortir de ces ambiguïtés et, surtout, nulle « décolonisation » n’est en vue.

Il est vraiment temps d’affronter les bonnes questions.


1. Texte intégral traduit en anglais sur le blog de Rogier Creemers : Planning Outline for the Construction of a Social Credit System (2014-2020)
2. Depuis 2015, de très nombreux articles ont été consacrés à ce sujet sensationnel. Ici, par exemple : L’express – 19 mars 2018 – En Chine, on pourra être interdit d’avion en fonction de sa « note sociale »
3. Voici la vie de l’un d’entre eux. Jennifer Pak – 13 février 2018 – Inside China’s « social credit » system, which blacklists citizens
4. Amaelle Guiton pour Libération – 27 décembre 2017 – Le boom de la vidéosurveillance «made in China» inquiète le monde
5. Juillet 2017 – New Generation of Artificial Intelligence Development Plan
6. Octobre 2016 – Preparing for the Future of Artificial Intelligence
7. Par exemple, Chine Magazine – 4 décembre 2017 – La Chine, prochain leader de l’intelligence artificielle

Un commentaire on "Chine et IA : impérial !"


  1. Bonjour Arnaud
    Superbe et extrêmement intéressant article. Qui tombe en parfait accord avec les propos de Y N Harari dans son livre Homo Deus. Il y insiste à plusieurs endroits sur le fait que la Chine ne s’inscrit pas du tout dans la même ligne que l’humanisme général sur les questions de ce que sont l’intimité, le libre arbitre, l’individualité etc… Merci donc pour cet édifiant partage.
    À bientôt
    Joël

    Répondre

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.