Les robots juges de notre humanité

Partager sur facebook
Partager sur twitter
Partager sur linkedin
Partager sur whatsapp
Partager sur telegram
Partager sur email
Partager sur print

Dans cette analyse, notre camarade Jean-François Collin se livre à une déconstruction lucide des lieux communs pour pointer les enjeux réels liés à l’explosion de la société numérique, de l’exploitation de la data et de l' »intelligence artificielle ».

Chat GPT n’est qu’un leurre

Sam Altman est une figure bien connue de l’industrie numérique mondiale, entre autres pour être le dirigeant de l’entreprise Open AI, qui a produit le trop connu robot conversationnel « Chat GPT ». Il a d’ailleurs été brièvement congédié, en novembre 2023, de ses fonctions de PDG d’Open AI, par son Conseil d’administration qui l’accusait d’avoir dissimulé un certain nombre d’informations essentielles, avant d’être réintégré dans ses fonctions une semaine plus tard. Ce n’est qu’un des épisodes des crises successives connues par cette entreprise, dont Elon Musk fut un cofondateur avant de la quitter (puis de proposer en février 2025 de la racheter pour 97 milliards de dollars) et dont Microsoft est l’actionnaire principal.

Open AI a été créée le 11 décembre 2015, sous la forme d’une association à but non lucratif, détenant une filiale à but lucratif plafonné, « Open AI Global LLC ».

Bien entendu, cette nouvelle entreprise n’avait d’autre but que le bien de l’humanité, puisque ses missions étaient, selon ses fondateurs, de « garantir que l’intelligence artificielle générale – c’est-à-dire (selon eux) les systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux économiquement valorisés – profitent à toute l’humanité ». On aurait presque les larmes aux yeux devant une si haute ambition.

A défaut de profiter à l’ensemble de l’humanité, l’opération aura en tout cas bien profité aux deux fondateurs de l’entreprise : la fortune d’Elon Musk se compte en centaines de milliards de dollars et celle de Sam Altman est évaluée à au moins un milliard de dollars.

Sam Altman participait, comme JD Vance, au dîner offert par Emmanuel Macron, au mois de février 2025, à l’occasion du sommet international qu’il avait organisé sur l’intelligence artificielle. Comme le vice-président américain, Sam Altman a quitté le dîner avant la fin, ce que l’on peut difficilement prendre pour une marque de considération. Il faut dire que le champion de l’intelligence artificielle ne méprise pas complètement les contingences politiques. Il était démocrate lorsque les démocrates étaient au pouvoir, il est devenu républicain lorsque Trump est redevenu président. Il avait financé la campagne de J. Biden lorsque celui-ci l’a emporté face à Donald Trump en 2020 il aurait versé un million de dollars au Fonds inaugural du deuxième mandat de Donald Trump, et il suit JD. Vance lorsqu’il quitte un dîner sans dire merci.

On a beaucoup parlé de Chat GPT. Les médias français ont assuré une incroyable campagne de promotion gratuite à ce robot conversationnel américain, publicité qui a dû faire rêver son concurrent français, Mistral AI, qui n’a pas suscité le même intérêt de nos radios ou télévisions.

Mais nos médias ont beaucoup moins parlé d’un autre projet lancé par Sam Altman depuis 2021, pourtant bien plus terrifiant que Chat GPT. Il s’agit de deux plateformes, l’une de gestion de monnaie numérique, Worldcoin, l’autre d’identification des individus par scannage de leur rétine, World ID.

World ID : un projet de fichage mondial de l’humanité

Sam Altman a constaté que l’intelligence artificielle conquérait progressivement tous les domaines d’activité, en même temps que s’amélioraient ses performances. Une bonne chose aux yeux de notre entrepreneur californien, mais en même temps cette évolution pose un problème. Les « Bots », ces multiples logiciels qui interviennent dans le fonctionnement d’autres logiciels pour traiter des opérations répétitives et garantir leur bon fonctionnement, sont de plus en plus utilisés pour pirater les services numériques. Le développement des infrastructures numériques est tel qu’il est de plus en plus difficile de savoir à quel moment un ordinateur dialogue avec un autre ordinateur plutôt qu’avec un être humain. Des dispositifs divers ont été développés par lesquels on nous demande de certifier que nous sommes bien des êtres humains, en particulier les tests Captchas, qui consistent à cocher sur une image représentant divers objets, les cases figurant des autobus, des motos ou des escaliers. Mais bien entendu, il n’a pas fallu très longtemps pour mettre au point des logiciels capables de cocher les bonnes cases aussi bien qu’un humain était capable de le faire.

Sam Altman arriva alors avec sa solution : scanner la rétine des utilisateurs par un appareil dédié et stocker le résultat dans ses ordinateurs. La publicité de sa plateforme « World ID » a même le culot d’expliquer que, grâce à ce dispositif, nous allons enfin cesser de mettre à disposition de plateformes électroniques des informations personnelles. Nous n’aurons plus à saisir notre adresse ou notre numéro de carte d’identité, mais seulement à déposer le scan de notre iris qui permettra à l’ordinateur de savoir que nous sommes un être humain – au moins aussi longtemps que les sorciers de l’IA n’auront pas inventé un dispositif électronique capable de reproduire un iris humain – et en plus de savoir que nous sommes un humain particulier, puisqu’aucun iris ne ressemble complètement à un autre.

Mais que peut-il y avoir de plus personnel qu’une information de ce type  ? On peut tricher sur son adresse ou son âge, se procurer de faux papiers d’identité, mais il reste plus compliqué de se fait à greffer un autre œil que celui dont nous sommes dotés à la naissance.

Cette Banque mondiale de données biologiques est donc bien une banque de données personnelles encore plus sensibles que tout ce qui existe jusque-là. D’ailleurs, un article publié par la « MIT Technology Review », mettait en cause le marketing mensonger de la société et considérait qu’elle collectait des données personnelles, sans obtenir le consentement éclairé des utilisateurs, en violation des directives protégeant les données, en vigueur en Europe ou dans d’autres régions du monde. Le Royaume-Uni a d’ailleurs indiqué qu’il allait engager une enquête pour vérifier la conformité de ces plateformes à la réglementation en vigueur.

Manifestement, ce n’est pas un sujet qu’Emmanuel Macron aura évoqué lors de son sommet mondial de l’intelligence artificielle du mois de février 2025, ni lors du sommet « Choose France » (pourquoi pas Choisir la France ?) organisé à Versailles le 19 mai dernier, pour se féliciter des milliards d’investissements annoncés, particulièrement dans l’intelligence artificielle et les centres de traitement de données, en provenance du Moyen-Orient et des États-Unis.

Sam Altman nous le promet, avec lui, aucun risque de fuites de données et de divulgation de nos données personnelles. Le scannage des yeux des utilisateurs permettant d’alimenter World ID est assuré par un appareil répondant au nom « d’Orb », que Sam Altman veut déployer aux États-Unis et dans le reste du monde. Techcrunch (spécialisé dans l’actualité des startups) a révélé en mai 2023 que des pirates informatiques avaient installé un logiciel leur permettant d’accéder au tableau de bord des opérateurs d’Orbs. Les opérateurs en question sont chargés de collecter les données biométriques et sont rémunérés pour chaque nouvelle utilisateur numérisé.

Pas plus que les autres plateforme informatiques, World ID ne pourra garantir la sécurité des données personnelles qu’elle détiendra.

Base de données personnelles et bitcoin

Le projet de Sam Altman est donc de constituer une gigantesque base de données d’identification des êtres humains, qu’il pourra ensuite vendre à tous les autres fournisseurs de services électroniques, en leur garantissant qu’ils s’adresseront bien à des êtres humains et non à d’autres robots.

Pour assurer le succès de l’entreprise, le couplage de la plateforme de centralisation des informations personnelles avec une plateforme de gestion de cryptomonnaie (monnaie numérique), présentait un grand avantage. En effet, les candidats au scannage de leur rétine bénéficient d’une allocation de monnaie numérique géré par Worldcoin, dont la valeur évolue comme toutes les monnaies numériques en fonction de la spéculation dont elle est l’objet, mais qui équivalait au lancement du projet à une quarantaine de dollars. Worldcoin a prospecté, pour avoir plus de chances de succès, dans les pays pauvres d’Afrique et d’Asie dans lesquels une dotation de ce montant pouvait présenter un attrait réel, de sorte qu’elle a assez rapidement pu scanner la rétine de plusieurs millions d’individus. Sam Altman a même eu le toupet de présenter cette opération comme une première expérience mondiale de mise en place d’un salaire universel !

Quand allons-nous les arrêter ?

Cette expérience réunit tous les éléments qui devraient conduire, dans un monde dirigé par des gens sensés, à l’expropriation sans délai et sans indemnités, des quelques géants du numériques, américains et chinois, qui développent à grands frais des technologies inutiles et dangereuses et par l’interdiction d’une grande partie de cette activité.

Ce nouveau projet de Sam Altman n’est justifié que par l’impasse dans laquelle se trouvent les industries numériques.

A force de remplacer les êtres humains par des robots, les robots parlent aux robots.

L’ennui, c’est que pour amortir les centaines de milliards investis dans ce qui est baptisé « intelligence artificielle », alors qu’il s’agit plutôt d’abrutissement généralisé, il faut que les humains interviennent pour dépenser leur argent. Il faut s’assurer que des humains participeront à ce grand circuit numérique, faute de quoi le cirque fera faillite.

Les humains n’ont jamais eu de mal, jusque-là, à reconnaître d’autres humains. Ils n’ont pas eu besoin de dispositifs spécifiques. Ils savent spontanément faire la différence entre un humain et un animal, ou entre un humain et une machine. Nous en sommes même capables depuis un âge très précoce. Mais cette capacité spontanée des êtres humains à se reconnaître entre eux est insupportable pour les nouveaux maîtres du monde, ou ceux qui se considèrent comme tels, les « géants de la tech » comme ils se désignent eux-mêmes.

Désormais, notre humanité doit être attestée par un ordinateur.

Sam Altman, ou l’un de ses semblables, doivent pouvoir constituer et détenir une Banque mondiale de l’identité des humains peuplant cette planète, afin de leur donner l’accès au nouveau monde, le monde merveilleux des services numériques dans lequel nous sommes appelés à évoluer.

Les « Orbs » qui vont permettre à World ID de scanner nos rétines, pour contrôler notre accès au monde numérique, ne sont d’ailleurs que du bricolage. Un jour viendra où nous serons tous dotés de dispositifs plus sophistiqués de reconnaissance dès la naissance, afin de régler cette difficulté technique et d’éviter le coûteux déploiement de milliers d’Orbs à travers le monde.

Et tout cela pour quoi faire  ?

Développer un nouveau réseau de monnaie numérique. Mais qui a besoin de monnaie numérique ?

Rappelons que ceux qui ont promu cette idée géniale appartenaient majoritairement au courant libertarien américain, qui a vu dans cette technologie un moyen de créer un équivalent monétaire échappant au contrôle des institutions étatiques. Les monnaies numériques sont rapidement devenues un moyen privilégié d’échanges monétaires entre les mafias et les trafiquants en tout genre. Elles ont permis au passage de plumer les naïfs qui ont cru que l’on pouvait faire fortune à partir de rien et qui ont acheté, cher, du vent jusqu’à ce que celui-ci ne révèle sa véritable valeur. L’histoire des monnaies numériques est celle d’une suite de montées spéculatives et de faillites. On peut ajouter que ce système ne fonctionne qu’au prix d’un gaspillage énergétique considérable, dans lequel notre président voit des opportunités pour relancer la production d’électricité d’origine nucléaire.

Un jour ou l’autre, les États devront décider de ce qu’ils font.

Pour le moment, comme d’habitude, les dirigeants, plus faciles à berner qu’ils ne le croient, s’émerveillent devant les monnaies électroniques. La BCE veut lancer son euro électronique. Cette fois c’est sûr l’Europe sera sauvée. Dans une démarche plus libérale, Donald Trump a lancé ses propres « Trump coins » au moment où il a été réélu. Il a réalisé un substantiel profit grâce à cela, laissant ses admirateurs avec une monnaie numérique qui a immédiatement perdue toute valeur, mais quand on aime on ne compte pas.

L’argument de vente majeur de la monnaie électronique est son caractère secret. Secret, bien sûr, vis-à-vis des autorités de régulation. C’est pourquoi, l’alternative pour l’avenir paraît assez simple. Soit les États, à travers le monde, continueront à laisser faire, voire à favoriser le développement des monnaies électroniques, et le système financier mondial qui menace déjà l’économie internationale, deviendra ingouvernable et nous conduira aux pires catastrophes. Soit les États prendront le contrôle des monnaies numériques, en interdiront le contrôle et la création à des opérateurs privés et ils disposeront alors d’un outil de maîtrise et de surveillance de l’économie, via le contrôle des mouvements monétaires, sans équivalent avec ce qui existe aujourd’hui, pour le meilleur et pour le pire. Dans un monde idéal géré démocratiquement, ce contrôle permettrait d’assurer la stabilité du système financier et monétaire. Dans un monde dominé par des « prédateurs », pour reprendre la description faite par Giuliano da Empoli de la nouvelle génération de dirigeants de la planète, ils disposeront d’un contrôle sans équivalent de la population.

Le projet de World ID confirme qu’une des applications essentielles de la soi-disant intelligence artificielle est le fichage généralisé de la population, au travers de la reconnaissance faciale et maintenant du scannage de nos iris.

Il est aussi la confirmation de la volonté de prise du pouvoir des entreprises numériques, ambition qui ne connaît pas de limites puisqu’ils veulent désormais que notre propre humanité soit attestée par les dispositifs qu’ils contrôlent et non par les interactions habituelles entre les êtres humains, qui ont permis à ceux-ci, jusque-là, de se reconnaître comme membres d’une humanité. L’humanité n’est pas qu’une construction biologique, elle n’est pas qu’une affaire de conformation d’iris, mais aussi une construction sociale et politique.

Si ce projet, et d’autres du même type, devaient prospérer, il y aurait de quoi être très inquiet pour notre avenir. Notre rapport aux autres et au monde perd chaque jour un peu plus de sa réalité, de son immédiateté et de sa consistance. Tous les efforts des industriels du numérique appuyés par les autorités politiques et financés par le capitalisme mondial qui espère y trouver un relais de croissance, concourent à séparer les humains des humains, et à nous contraindre dans nos relations avec les autres et notre environnement, à emprunter le truchement d’un ordinateur et d’une plateforme ou d’un outil numérique.

Il est très inquiétant de constater que 26 millions d’humains ont déjà accepté de confier leur iris à la World Company de M Altman. Les hommes seraient-ils donc tellement fatigués d’être humains qu’il soient prêts à abandonner la responsabilité de leur humanité à une machine ?

Ma conviction est en tout cas que face à de telles entreprises, les discours habituels sur la neutralité de l’outil, qui ne serait pas en lui-même dangereux mais seulement en raison du mauvais usage qui pourrait en être fait, ou encore les propos sur la « bonne gouvernance » qui permettrait d’éviter les dérives, « parce que tout de même on ne peut pas aller contre le progrès », sont totalement inadaptés.

De telles entreprises doivent être purement et simplement interdites.

Allons-nous enfin nous réveiller et prendre cette décision ?

Jean-François Collin
Haut-fonctionnaire à la retraite

Nous avons besoin de vous !

Quelles que soient vos compétences, si vous touchez votre bille en droit, en bricolage, si vous aimez écrire, si vous êtes créatif… vous pouvez prendre part à des actions et ateliers près de chez vous ou encore nous envoyer vos vidéos, vos dessins pour des affiches etc.