Le système chinois de lutte contre la corruption à base d'intelligence artificielle « Zero Trust » est-il désactivé parce qu'il est trop efficace ?

Je vous rassure, en France on n'a pas encore les mêmes compétences en matière d'IA et de Big-data. Mais la France est sur les pas de la Chine, pourtant pas de soucis puisque que les gens « n'ont rien à cacher... Cependant chez nous, contrairement à la Chine, je pense qu’en matière de corruption, les principaux intéressés n’ont rien à craindre, puisqu'ils sont aux commandes... ; ))))))))) HAHA

China AI 05 02 2019
Le ministre de la Supervision, Yang Xiaodu, a déclaré qu'une grande partie du travail de l'agence consistera à surveiller
et à « empêcher les gens qui commettent de petites erreurs de commettre de plus grandes erreurs ». Photo : S. Song
  •     Bien que limité à seulement 30 comtés et villes, le système d'intelligence artificielle a déjà permis d'attraper 8721 fonctionnaires.
  •     Le système croise des big data pour évaluer le travail et la vie personnelle de millions de fonctionnaires.

PUBLIÉE : Lundi, 04 Février 2019, 12:00am

MISE À JOUR : Mardi, 05 Février, 2019, 5:02am

Que feriez-vous si vous aviez une machine pour attraper un voleur ? Si vous étiez un bureaucrate chinois corrompu, vous voudriez l'abandonner, bien sûr.

La résistance des représentants du gouvernement à une grande expérience révolutionnaire en matière de données n'est qu'un des nombreux défis que doit relever le gouvernement chinois qui commence à utiliser les nouvelles technologies pour naviguer dans son immense bureaucratie.

Selon les médias d’État, il y avait plus de 50 millions de personnes sur la liste de paie du gouvernement chinois en 2016, bien que les analystes ont estimé le chiffre à plus de 64 millions - légèrement moins que la population de la Grande-Bretagne.

Xi Jinping demande aux autorités judiciaires et aux forces de l'ordre de « gratter le poison ».

Pour transformer ce monstre en une opération sans faille adaptée à l'ère de l'information, la Chine a commencé à adapter divers types de technologies sophistiquées. Le ministère des Affaires étrangères, par exemple, utilise l'apprentissage machine pour faciliter l'évaluation des risques et la prise de décision dans le cadre des grands projets d'investissement de la Chine à l'étranger.

Pékin a développé un système national de reconnaissance faciale utilisant des caméras de surveillance capables d'identifier n'importe quelle personne, n'importe où, 24 heures sur 24, en quelques secondes. Dans le Guizhou, un système en nuage suit les mouvements de chaque policier avec un rapport d'état en direct.

De grandes entreprises de télécommunications chinoises telles que ZTE ont obtenu des contrats du gouvernement pour le développement d'une technologie de blockchain pour empêcher la modification des données gouvernementales par des personnes ou des organisations non autorisées.

Le président Xi Jinping a souligné à plusieurs reprises la nécessité de promouvoir les innovations scientifiques et technologiques telles que le big data et l'intelligence artificielle (IA) dans la réforme gouvernementale.

Des équipes anti-corruption installées dans les banques d’État chinoises, les compagnies d'assurance

Le défi consiste à mettre en œuvre cette vision sur le terrain. Ne cherchez pas plus loin qu'un système d'IA anti-corruption surnommé « Zero Trust » par les chercheurs.

Développé et déployé conjointement par l'Académie chinoise des sciences et les institutions de contrôle interne du Parti communiste chinois pour surveiller, évaluer ou intervenir dans le travail et la vie personnelle des fonctionnaires, le système peut accéder à plus de 150 bases de données protégées dans les administrations centrales et locales pour des renvois.

Selon les personnes impliquées dans le programme, cela lui permet de dessiner des cartes sophistiquées et multiples des relations sociales pour en déduire des analyses comportementales des employés du gouvernement.

Cela a été « particulièrement utile » pour détecter les transferts de propriété suspects, la construction d'infrastructures, l'acquisition de terrains et les démolitions de maisons, a déclaré un chercheur.

Le système n'est cependant pas sans faiblesses.

« L'IA peut rapidement signaler un fonctionnaire corrompu, mais elle n'est pas très douée pour expliquer le processus qu'elle a suivi pour arriver à une telle conclusion », a déclaré le chercheur. « Bien que dans la plupart des cas, il faut un humain pour travailler en étroite collaboration avec lui. »

Le chef de la police s'est suicidé après que deux collègues soit détenus dans des affaires de corruption

Le système peut détecter immédiatement des augmentations inhabituelles de l'épargne bancaire, par exemple, ou s'il y a eu un achat d'une nouvelle voiture ou une soumission pour un contrat gouvernemental au nom d'un fonctionnaire ou d'un membre de sa famille ou d'un ami.

Une fois ses soupçons soulevés, il calculera les chances que l'action soit corrompue. Si le résultat dépasse un marqueur défini, les autorités sont alertées.

Un informaticien impliqué dans le programme, qui a demandé à ne pas être nommé, a déclaré qu'à ce stade, un supérieur hiérarchique pourrait alors contacter la personne examinée et peut-être l'aider à éviter de « s'engager sur la voie du non-retour avec d'autres erreurs plus graves ».

L'expérience Zero Trust a été limitée à 30 comtés et villes, soit seulement 1% de la superficie administrative totale du pays. Les gouvernements locaux concernés, y compris le comté autonome de Mayang Miao dans la province du Hunan, sont situés dans des régions relativement pauvres et isolées, loin des centres du pouvoir politique chinois.

Un autre chercheur impliqué dans le programme a déclaré que l'idée était « d'éviter de déclencher une résistance à grande échelle chez les bureaucrates », en particulier les plus puissants, à l'utilisation des robots dans la gouvernance.

Depuis 2012, Zero Trust a arrêté 8721 employés du gouvernement qui se sont rendus coupables de malversations, d'abus de pouvoir, d'utilisation abusive des fonds publics et de népotisme.

Victoire écrasante : quelle est la suite de la guerre de Xi Jinping contre la corruption ?

Si certains ont été condamnés à des peines d'emprisonnement, la plupart ont été autorisés à garder leur emploi après avoir reçu un avertissement ou une peine mineure.

Néanmoins, certains gouvernements - dont le comté de Mayang, la ville de Huaihua et le comté de Li au Hunan - ont mis la machine hors service, selon les chercheurs, dont l'un a déclaré qu'il « pourrait ne pas se sentir très à l'aise avec la nouvelle technologie ».

Aucune des autorités locales n'a répondu aux demandes de commentaires.

Zhang Yi, un fonctionnaire de la Commission d'inspection disciplinaire du Parti communiste chinois à Ningxiang, dans la province du Hunan, a déclaré que son agence était l'une des rares à utiliser encore ce système.

« Ce n'est pas facile... nous sommes soumis à d'énormes pressions », a-t-il déclaré, insistant sur le fait que l'objectif principal du programme n'était pas de punir les fonctionnaires mais de les « sauver » à un « stade précoce de la corruption ».

« Nous utilisons juste le résultat de la machine comme référence » dit Zhang. « Nous devons vérifier sa validité. La machine ne peut pas décrocher le téléphone et appeler la personne ayant un problème. La décision finale est toujours prise par les humains. »

Zhou Yongkang, Bo Xilai parmi les prisonniers d'élite dans la « cage aux tigres » de Chine

Depuis l'arrivée au pouvoir de Xi en 2012, plus de 1,4 million de membres du parti et d'employés du gouvernement auraient fait l'objet de mesures disciplinaires, y compris des dirigeants comme l'ancien tsar de la sécurité Zhou Yongkang et l'ancien homme fort Chongqing Bo Xilai.

Un responsable de la discipline de parti dans le comté de Xiushui, dans le Jiangxi, qui a participé au projet Zero Trust, a déclaré qu'aucun responsable gouvernemental n'était disposé à fournir les données nécessaires.

« Mais ils se conforment généralement à un peu de pression », a déclaré le responsable, qui a demandé à ne pas être nommé en raison de la sensibilité de la question.

Xi Ji Ping 05 02 2019
Xi Jinping a souligné à plusieurs reprises la nécessité de promouvoir l'innovation technologique dans la réforme
gouvernementale. [Photo : Xinhua]

Les agents disciplinaires doivent aider les scientifiques à former la machine grâce à leur expérience et aux connaissances qu'ils ont accumulées dans les cas précédents. Par exemple, les responsables disciplinaires ont passé de nombreuses heures à marquer manuellement des phénomènes inhabituels dans divers types d'ensembles de données pour apprendre à la machine ce qu'il faut rechercher.

Certains fonctionnaires peuvent fabriquer des données, mais la machine peut comparer des informations provenant de différentes sources et les incohérences dans les signalement. Il peut même appeler des images satellitaires, par exemple, pour savoir si le financement gouvernemental de la construction d'une route dans un village a fini dans la poche d'un fonctionnaire, ont dit les chercheurs.

Xi Jinping s'attaque à un plus grand nombre de généraux de haut rang alors que la lutte contre la corruption s'intensifie.

Le système fonctionne toujours à Xiushui, mais son sort est incertain. Certains fonctionnaires ont remis en cause le droit d'accès de la machine aux bases de données sensibles parce qu'il n'existe ni loi ni règlement autorisant un ordinateur ou un robot à le faire.

Il n'est pas étonnant que le système soit mis hors service par les comtés et les villes qui s'y sont inscrits et que ceux qui l'utilisent encore soient confrontés à une pression énorme, les chercheurs ne voyant que peu ou pas d'espoir de le déployer à l'échelle nationale.

Malgré la bosse du Zero Trust, l'incursion de l'intelligence artificielle dans d'autres secteurs gouvernementaux se poursuit alors que le gouvernement est déterminé à appliquer la technologie de pointe à son avantage. Des commis IA, par exemple, ont été recrutés dans certains tribunaux pour lire les dossiers et aider les juges à traiter les poursuites avec plus de rapidité et de précision.

Le mois dernier, un tribunal de Shanghai est devenu le premier en Chine à faire appel à un assistant IA lors d'une audience publique, a rapporté Xinhua.

La machine, baptisée « 206 », a la capacité d'enregistrer les conversations, de montrer des preuves telles que des images de caméras de surveillance lorsqu'elles sont mentionnées par les avocats, et de comparer les témoignages pour aider les juges à repérer les divergences, selon le rapport.

Un juge aurait dit que cela réduirait la probabilité d'un verdict erroné.

 

Source : Scmp.com

 

Informations complémentaires :

Crashdebug.fr : Traqués !
Crashdebug.fr : J'Accuse