Posté le 24 février 2021
Auteur Derrick Broze
Le simple fait que la Commission AI soit dirigée par l'ancien PDG de Google, Eric Schmidt, devrait inquiéter ceux qui se soucient de la vie privée, de la responsabilité, de la transparence et de la liberté individuelle.
Fin janvier, la Commission de sécurité nationale sur l'intelligence artificielle (NSCAI), ou Commission AI, a publié une ébauche de son prochain rapport au Congrès, rejetant les appels à l'interdiction des armes autonomes actionnées par l'AI, qualifiées par les critiques de "robots tueurs". Si la Commission AI a brièvement abordé les questions de la vie privée et des libertés civiles, elle a finalement demandé au Congrès de doubler la recherche et le financement de l'AI, jusqu'à 32 milliards de dollars par an d'ici 2026. Le rapport n'a pas non plus relevé de conflits d'intérêts évidents entre le président de la Commission et l'ancien PDG de Google, Eric Schmidt.
Parmi les opposants à l'avancée de la surveillance par l'IA et les États policiers figurent des défenseurs de la vie privée inquiets d'un avenir où les forces de l'ordre porteront des lunettes équipées de logiciels de reconnaissance faciale alimentés par des algorithmes secrets de l'IA.
Le projet de rapport aborde les préoccupations en matière de surveillance en déclarant : "Les enjeux de l'avenir de l'IA sont intimement liés à la lutte permanente entre les systèmes politiques et les idéologies autoritaires et démocratiques". La Commission note également que la surveillance basée sur l'IA sera "bientôt entre les mains de la plupart ou de tous les gouvernements" et que "les régimes autoritaires continueront à utiliser la reconnaissance faciale, la biométrie, l'analyse prédictive et la fusion de données basées sur l'IA comme instruments de surveillance, d'influence et de contrôle politique".
Le rapport pointe à juste titre du doigt l'autoritarisme de la Chine et son État de surveillance basé sur l'IA. Cependant, le projet tente également de dépeindre les États-Unis comme une "démocratie libérale" qui utilise ces technologies à des "fins publiques légitimes.... compatibles avec l'État de droit". L'implication est que les ennemis des États-Unis pourraient utiliser cette technologie à des fins tyranniques, mais que les États-Unis et leurs alliés n'utiliseraient jamais l'IA que dans l'intérêt de la préservation de la liberté.
"Une démocratie responsable doit s'assurer que l'utilisation de l'IA par le gouvernement est limitée par des restrictions judicieuses afin de respecter les droits et libertés qui définissent une société libre et ouverte", peut-on lire dans le projet. "Le gouvernement américain devrait développer et mettre en œuvre des technologies d'IA avec une transparence adéquate, une surveillance forte et une responsabilité pour se protéger contre les abus."
Prises au pied de la lettre, ces déclarations peuvent rassurer. Malheureusement, nous parlons du gouvernement et de l'armée américains, et ces institutions n'ont pas d'antécédents en matière de transparence ou de responsabilité. Plus inquiétant encore, les projets mentionnent le "besoin urgent" d'utiliser l'IA à des fins de sécurité nationale, en particulier contre "les terroristes étrangers et nationaux opérant à l'intérieur de nos frontières". Le projet encourage la Défense à ne pas poursuivre ses objectifs de lutte contre le terrorisme sans s'assurer que "les applications de sécurité de l'IA sont conformes aux valeurs fondamentales de liberté individuelle et de protection égale par la loi".
Malgré la reconnaissance des préoccupations relatives à la protection de la vie privée, la majeure partie du projet de rapport approuve l'extension des recherches du gouvernement américain et de l'armée américaine sur l'IA. Robert Work, ancien vice-ministre de la Défense et vice-président de la commission, a déclaré que la commission appelle le ministère de la Défense à atteindre un niveau de préparation militaire en matière d'IA d'ici 2025, avec une formation et une éducation pour les militaires. Le projet demande au secrétaire à la Défense d'établir des objectifs de préparation à l'IA d'ici la fin de cette année.
La version finale du rapport devrait être partagée avec le Congrès le 1er mars.
La lutte pour arrêter les robots tueurs
On craint également que le maintien de l'ordre traditionnel impliquant des agents humains ne soit remplacé par des drones télécommandés et des agents robots actionnés par l'intelligence artificielle qui prennent des décisions selon une formule inconnue du public.
Certains critiques avaient espéré une interdiction totale de cette technologie, mais la commission a déclaré qu'ils croyaient que l'intelligence artificielle ferait moins d'erreurs au combat, ce qui entraînerait moins de morts. Le vice-président Work a déclaré qu'il y avait "un impératif moral d'au moins poursuivre cette hypothèse". Reuters rapporte que l'un des membres de la commission a mis en garde contre "la pression pour construire des machines qui réagissent rapidement, ce qui pourrait aggraver les conflits". La commission a approuvé l'idée que seuls les humains devraient prendre les décisions concernant le lancement d'armes nucléaires, mais a déclaré qu'une interdiction de l'IA irait à l'encontre des "intérêts américains" et serait difficile à appliquer.
L'un des principaux défenseurs de l'interdiction des armes autonomes est l'organisation Campaign to Stop Killer Robots, une coalition d'organisations non gouvernementales (ONG) formée en octobre 2012 pour interdire les armes totalement autonomes. Ils affirment que cela aiderait à "conserver un contrôle humain significatif sur l'utilisation de la force". L'organisation a fait campagne au niveau international pour un traité qui interdirait les "robots tueurs". Selon la coalition, 30 pays, 110 ONG et 4500 experts en IA soutiennent leurs efforts pour interdire cette technologie.
Mary Wareham, coordinatrice de la campagne "Stop aux robots tueurs", a déclaré à Reuters que l'accent mis par la commission "sur la nécessité de concurrencer les investissements similaires faits par la Chine et la Russie... ne sert qu'à encourager les courses aux armements". Wareham a raison dans son évaluation étant donné la déclaration du vice-président Work selon laquelle c'est un "impératif moral" pour l'armée américaine de poursuivre la recherche sur l'IA en partant de l'hypothèse que la guerre basée sur l'IA conduirait à moins de pertes humaines. Cette mentalité ne fera que garantir que la recherche sur la défense liée à l'IA sera financée à hauteur de milliards de dollars par an par les contribuables.
L'Electronic Privacy Information Center s'est battu pour obliger la Commission sur l'IA à fournir des détails sur la manière dont elle parvient à ses conclusions, et pour obtenir des communications internes entre les membres de la Commission. L'EPIC a gagné deux fois dans son procès contre la Commission AI, forçant la Commission à tenir des réunions publiques et à divulguer des milliers de pages de documents. L'EPIC a demandé à la Commission AI de "conseiller au Congrès, en tant que plus haute autorité politique du pays, d'établir des principes et des garanties à l'échelle du gouvernement pour l'utilisation et le développement de l'AI".
Bien que l'EPIC ait réussi à révéler des données inestimables sur le travail de la Commission IA, il avertit également que "certains éléments indiquent déjà que la communauté du renseignement américaine n'a pas investi dans des mesures de protection essentielles de l'IA".
Eric Schmidt de Google et Rebellion Defense
La Commission AI a été créée par le Congrès en 2018 dans le but d'"examiner les progrès de l'intelligence artificielle, les développements connexes de l'apprentissage machine et les technologies associées" et de faire des recommandations politiques au Congrès et au Président. La Commission a fait des promesses de transparence et de responsabilité, mais a en fait tenu la plupart de ses réunions et de ses prises de décision en secret. Le simple fait que la Commission soit dirigée par l'ancien PDG de Google, Eric Schmidt, devrait inquiéter ceux qui se soucient de la vie privée, de la responsabilité, de la transparence et de la liberté individuelle.
Eric Schmidt est connu pour avoir été le PDG de Google de 2001 à 2011, mais son rôle au sein de Google se poursuit dans les années 2020. M. Schmidt a été président exécutif de Google de 2011 à 2015, puis président exécutif de la société mère de Google, Alphabet Inc. de 2015 à 2017. Plus récemment, M. Schmidt a été "conseiller technique" chez Alphabet de 2017 à 2020.
Au cours de cette période, Google a connu de multiples cauchemars de relations publiques, notamment le fait que la société "Big Tech" est tristement célèbre pour avoir recueilli des quantités massives de données auprès de ses utilisateurs. Il fut un temps où Google prévoyait de lancer une version censurée de son moteur de recherche en Chine qui mettrait sur liste noire les sites web et les termes de recherche - une initiative qui, selon Eric Schmidt, aiderait la Chine à être "plus ouverte". Il y a eu aussi le fiasco de Project Maven, où il a été révélé que Google travaillait avec le Pentagone pour développer une IA qui analyserait les images des drones. Après que la nouvelle de Maven se soit répandue, des dizaines d'employés ont démissionné en signe de protestation et des milliers ont signé une pétition demandant à Google de quitter le projet. Google a finalement cédé et a annoncé qu'il abandonnerait le projet Maven.
Plus récemment, une enquête menée par The American Prospect a révélé que Schmidt avait des liens avec un entrepreneur en IA largement inconnu. Le rapport note que sous l'administration Obama, les représentants de Google étaient assez souvent présents à la Maison Blanche pour que certains "appellent à la blague l'administration Google.gov", avec plus de 250 employés de Google qui se déplacent entre le gouvernement et la société pendant la présidence d'Obama. Schmidt était l'un de ces employés de Google.
"Depuis ses positions officielles, il a plaidé pour que le ministère de la Défense et les agences de renseignement adoptent davantage de technologies d'apprentissage automatique. Entre-temps, en tant que capital-risqueur, il a investi des millions de dollars dans plus d'une demi-douzaine de start-ups de sécurité nationale qui revendent ces mêmes technologies au gouvernement", écrit le Prospect.
Plus précisément, M. Schmidt est l'un des principaux investisseurs de Rebellion Defense, un entrepreneur en IA, par le biais de sa société Innovation Endeavors. Rebellion déclare que sa mission est de "renforcer la mission de la défense nationale grâce à la technologie de l'IA". La société se vante que les membres de son équipe ont été "des employés de la première heure chez Netflix, Amazon, Twitter, Google et Microsoft, et beaucoup ont passé du temps comme fonctionnaires au Service numérique américain, au Service numérique de la défense et au Service numérique du gouvernement britannique (GDS)".
Chris Lynch, co-fondateur et PDG de Rebellion, a quitté le secteur des technologies pour venir à Washington en 2015 afin de diriger le Service numérique de la défense (DDS) du Pentagone. Pendant son séjour à la DDS, Lynch a travaillé sous la direction de trois secrétaires à la défense avant de partir en 2019 pour lancer Rebellion Defense. Le passage de Lynch du secteur des grandes technologies au complexe militaro-industriel et son retour au secteur privé illustre la porte tournante qui existe entre le secteur privé et le gouvernement.
La facilité d'accès dont Schmidt et ses collègues de Google ont bénéficié pendant les années Obama semble revenir dans les premiers temps de l'administration Biden. The Prospect note qu'en novembre, Rebellion a obtenu un contrat pour la création d'un réseau unique de partage de données pour l'armée de l'air. Peu après que Biden ait été déclaré président suivant, il a commencé à annoncer son équipe de transition. Des entreprises de haute technologie figuraient sur la liste, dont Uber, Amazon, Google et la relativement peu connue Rebellion Defense.
La présence d'Eric Schmidt au sein de la Commission AI et en tant qu'investisseur principal d'un contractant AI pour l'armée est un conflit d'intérêt évident. Le temps que Schmidt a passé chez Google et ses déclarations publiques ont montré clairement qu'il n'accorde aucune valeur à la vie privée. Malgré le fait que le projet de rapport de la Commission sur l'IA se prononce pour la protection de la vie privée, le peuple américain ne doit pas s'attendre à ce que des personnes comme Eric Schmidt ou Rebellion Defense les protègent du spectre croissant des armes autonomes fonctionnant avec l'IA.
Remettez tout en question, tirez vos propres conclusions.
Source : Thelastamericanvagabond.com
Informations complémentaires :
Crashdebug.fr : Le « big data » ou la recette secrète du succès d'Emmanuel Macron ?
