Les robots juges de notre humanité

Dans cette analyse, notre camarade Jean-François Collin se livre à une déconstruction lucide des lieux communs pour pointer les enjeux réels liés à l’explosion de la société numérique, de l’exploitation de la data et de l' »intelligence artificielle ».

Chat GPT n’est qu’un leurre

Sam Altman est une figure bien connue de l’industrie numérique mondiale, entre autres pour être le dirigeant de l’entreprise Open AI, qui a produit le trop connu robot conversationnel « Chat GPT ». Il a d’ailleurs été brièvement congédié, en novembre 2023, de ses fonctions de PDG d’Open AI, par son Conseil d’administration qui l’accusait d’avoir dissimulé un certain nombre d’informations essentielles, avant d’être réintégré dans ses fonctions une semaine plus tard. Ce n’est qu’un des épisodes des crises successives connues par cette entreprise, dont Elon Musk fut un cofondateur avant de la quitter (puis de proposer en février 2025 de la racheter pour 97 milliards de dollars) et dont Microsoft est l’actionnaire principal.

Open AI a été créée le 11 décembre 2015, sous la forme d’une association à but non lucratif, détenant une filiale à but lucratif plafonné, « Open AI Global LLC ».

Bien entendu, cette nouvelle entreprise n’avait d’autre but que le bien de l’humanité, puisque ses missions étaient, selon ses fondateurs, de « garantir que l’intelligence artificielle générale – c’est-à-dire (selon eux) les systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux économiquement valorisés – profitent à toute l’humanité ». On aurait presque les larmes aux yeux devant une si haute ambition.

A défaut de profiter à l’ensemble de l’humanité, l’opération aura en tout cas bien profité aux deux fondateurs de l’entreprise : la fortune d’Elon Musk se compte en centaines de milliards de dollars et celle de Sam Altman est évaluée à au moins un milliard de dollars.

Sam Altman participait, comme JD Vance, au dîner offert par Emmanuel Macron, au mois de février 2025, à l’occasion du sommet international qu’il avait organisé sur l’intelligence artificielle. Comme le vice-président américain, Sam Altman a quitté le dîner avant la fin, ce que l’on peut difficilement prendre pour une marque de considération. Il faut dire que le champion de l’intelligence artificielle ne méprise pas complètement les contingences politiques. Il était démocrate lorsque les démocrates étaient au pouvoir, il est devenu républicain lorsque Trump est redevenu président. Il avait financé la campagne de J. Biden lorsque celui-ci l’a emporté face à Donald Trump en 2020 il aurait versé un million de dollars au Fonds inaugural du deuxième mandat de Donald Trump, et il suit JD. Vance lorsqu’il quitte un dîner sans dire merci.

On a beaucoup parlé de Chat GPT. Les médias français ont assuré une incroyable campagne de promotion gratuite à ce robot conversationnel américain, publicité qui a dû faire rêver son concurrent français, Mistral AI, qui n’a pas suscité le même intérêt de nos radios ou télévisions.

Mais nos médias ont beaucoup moins parlé d’un autre projet lancé par Sam Altman depuis 2021, pourtant bien plus terrifiant que Chat GPT. Il s’agit de deux plateformes, l’une de gestion de monnaie numérique, Worldcoin, l’autre d’identification des individus par scannage de leur rétine, World ID.

World ID : un projet de fichage mondial de l’humanité

Sam Altman a constaté que l’intelligence artificielle conquérait progressivement tous les domaines d’activité, en même temps que s’amélioraient ses performances. Une bonne chose aux yeux de notre entrepreneur californien, mais en même temps cette évolution pose un problème. Les « Bots », ces multiples logiciels qui interviennent dans le fonctionnement d’autres logiciels pour traiter des opérations répétitives et garantir leur bon fonctionnement, sont de plus en plus utilisés pour pirater les services numériques. Le développement des infrastructures numériques est tel qu’il est de plus en plus difficile de savoir à quel moment un ordinateur dialogue avec un autre ordinateur plutôt qu’avec un être humain. Des dispositifs divers ont été développés par lesquels on nous demande de certifier que nous sommes bien des êtres humains, en particulier les tests Captchas, qui consistent à cocher sur une image représentant divers objets, les cases figurant des autobus, des motos ou des escaliers. Mais bien entendu, il n’a pas fallu très longtemps pour mettre au point des logiciels capables de cocher les bonnes cases aussi bien qu’un humain était capable de le faire.

Sam Altman arriva alors avec sa solution : scanner la rétine des utilisateurs par un appareil dédié et stocker le résultat dans ses ordinateurs. La publicité de sa plateforme « World ID » a même le culot d’expliquer que, grâce à ce dispositif, nous allons enfin cesser de mettre à disposition de plateformes électroniques des informations personnelles. Nous n’aurons plus à saisir notre adresse ou notre numéro de carte d’identité, mais seulement à déposer le scan de notre iris qui permettra à l’ordinateur de savoir que nous sommes un être humain – au moins aussi longtemps que les sorciers de l’IA n’auront pas inventé un dispositif électronique capable de reproduire un iris humain – et en plus de savoir que nous sommes un humain particulier, puisqu’aucun iris ne ressemble complètement à un autre.

Mais que peut-il y avoir de plus personnel qu’une information de ce type  ? On peut tricher sur son adresse ou son âge, se procurer de faux papiers d’identité, mais il reste plus compliqué de se fait à greffer un autre œil que celui dont nous sommes dotés à la naissance.

Cette Banque mondiale de données biologiques est donc bien une banque de données personnelles encore plus sensibles que tout ce qui existe jusque-là. D’ailleurs, un article publié par la « MIT Technology Review », mettait en cause le marketing mensonger de la société et considérait qu’elle collectait des données personnelles, sans obtenir le consentement éclairé des utilisateurs, en violation des directives protégeant les données, en vigueur en Europe ou dans d’autres régions du monde. Le Royaume-Uni a d’ailleurs indiqué qu’il allait engager une enquête pour vérifier la conformité de ces plateformes à la réglementation en vigueur.

Manifestement, ce n’est pas un sujet qu’Emmanuel Macron aura évoqué lors de son sommet mondial de l’intelligence artificielle du mois de février 2025, ni lors du sommet « Choose France » (pourquoi pas Choisir la France ?) organisé à Versailles le 19 mai dernier, pour se féliciter des milliards d’investissements annoncés, particulièrement dans l’intelligence artificielle et les centres de traitement de données, en provenance du Moyen-Orient et des États-Unis.

Sam Altman nous le promet, avec lui, aucun risque de fuites de données et de divulgation de nos données personnelles. Le scannage des yeux des utilisateurs permettant d’alimenter World ID est assuré par un appareil répondant au nom « d’Orb », que Sam Altman veut déployer aux États-Unis et dans le reste du monde. Techcrunch (spécialisé dans l’actualité des startups) a révélé en mai 2023 que des pirates informatiques avaient installé un logiciel leur permettant d’accéder au tableau de bord des opérateurs d’Orbs. Les opérateurs en question sont chargés de collecter les données biométriques et sont rémunérés pour chaque nouvelle utilisateur numérisé.

Pas plus que les autres plateforme informatiques, World ID ne pourra garantir la sécurité des données personnelles qu’elle détiendra.

Base de données personnelles et bitcoin

Le projet de Sam Altman est donc de constituer une gigantesque base de données d’identification des êtres humains, qu’il pourra ensuite vendre à tous les autres fournisseurs de services électroniques, en leur garantissant qu’ils s’adresseront bien à des êtres humains et non à d’autres robots.

Pour assurer le succès de l’entreprise, le couplage de la plateforme de centralisation des informations personnelles avec une plateforme de gestion de cryptomonnaie (monnaie numérique), présentait un grand avantage. En effet, les candidats au scannage de leur rétine bénéficient d’une allocation de monnaie numérique géré par Worldcoin, dont la valeur évolue comme toutes les monnaies numériques en fonction de la spéculation dont elle est l’objet, mais qui équivalait au lancement du projet à une quarantaine de dollars. Worldcoin a prospecté, pour avoir plus de chances de succès, dans les pays pauvres d’Afrique et d’Asie dans lesquels une dotation de ce montant pouvait présenter un attrait réel, de sorte qu’elle a assez rapidement pu scanner la rétine de plusieurs millions d’individus. Sam Altman a même eu le toupet de présenter cette opération comme une première expérience mondiale de mise en place d’un salaire universel !

Quand allons-nous les arrêter ?

Cette expérience réunit tous les éléments qui devraient conduire, dans un monde dirigé par des gens sensés, à l’expropriation sans délai et sans indemnités, des quelques géants du numériques, américains et chinois, qui développent à grands frais des technologies inutiles et dangereuses et par l’interdiction d’une grande partie de cette activité.

Ce nouveau projet de Sam Altman n’est justifié que par l’impasse dans laquelle se trouvent les industries numériques.

A force de remplacer les êtres humains par des robots, les robots parlent aux robots.

L’ennui, c’est que pour amortir les centaines de milliards investis dans ce qui est baptisé « intelligence artificielle », alors qu’il s’agit plutôt d’abrutissement généralisé, il faut que les humains interviennent pour dépenser leur argent. Il faut s’assurer que des humains participeront à ce grand circuit numérique, faute de quoi le cirque fera faillite.

Les humains n’ont jamais eu de mal, jusque-là, à reconnaître d’autres humains. Ils n’ont pas eu besoin de dispositifs spécifiques. Ils savent spontanément faire la différence entre un humain et un animal, ou entre un humain et une machine. Nous en sommes même capables depuis un âge très précoce. Mais cette capacité spontanée des êtres humains à se reconnaître entre eux est insupportable pour les nouveaux maîtres du monde, ou ceux qui se considèrent comme tels, les « géants de la tech » comme ils se désignent eux-mêmes.

Désormais, notre humanité doit être attestée par un ordinateur.

Sam Altman, ou l’un de ses semblables, doivent pouvoir constituer et détenir une Banque mondiale de l’identité des humains peuplant cette planète, afin de leur donner l’accès au nouveau monde, le monde merveilleux des services numériques dans lequel nous sommes appelés à évoluer.

Les « Orbs » qui vont permettre à World ID de scanner nos rétines, pour contrôler notre accès au monde numérique, ne sont d’ailleurs que du bricolage. Un jour viendra où nous serons tous dotés de dispositifs plus sophistiqués de reconnaissance dès la naissance, afin de régler cette difficulté technique et d’éviter le coûteux déploiement de milliers d’Orbs à travers le monde.

Et tout cela pour quoi faire  ?

Développer un nouveau réseau de monnaie numérique. Mais qui a besoin de monnaie numérique ?

Rappelons que ceux qui ont promu cette idée géniale appartenaient majoritairement au courant libertarien américain, qui a vu dans cette technologie un moyen de créer un équivalent monétaire échappant au contrôle des institutions étatiques. Les monnaies numériques sont rapidement devenues un moyen privilégié d’échanges monétaires entre les mafias et les trafiquants en tout genre. Elles ont permis au passage de plumer les naïfs qui ont cru que l’on pouvait faire fortune à partir de rien et qui ont acheté, cher, du vent jusqu’à ce que celui-ci ne révèle sa véritable valeur. L’histoire des monnaies numériques est celle d’une suite de montées spéculatives et de faillites. On peut ajouter que ce système ne fonctionne qu’au prix d’un gaspillage énergétique considérable, dans lequel notre président voit des opportunités pour relancer la production d’électricité d’origine nucléaire.

Un jour ou l’autre, les États devront décider de ce qu’ils font.

Pour le moment, comme d’habitude, les dirigeants, plus faciles à berner qu’ils ne le croient, s’émerveillent devant les monnaies électroniques. La BCE veut lancer son euro électronique. Cette fois c’est sûr l’Europe sera sauvée. Dans une démarche plus libérale, Donald Trump a lancé ses propres « Trump coins » au moment où il a été réélu. Il a réalisé un substantiel profit grâce à cela, laissant ses admirateurs avec une monnaie numérique qui a immédiatement perdue toute valeur, mais quand on aime on ne compte pas.

L’argument de vente majeur de la monnaie électronique est son caractère secret. Secret, bien sûr, vis-à-vis des autorités de régulation. C’est pourquoi, l’alternative pour l’avenir paraît assez simple. Soit les États, à travers le monde, continueront à laisser faire, voire à favoriser le développement des monnaies électroniques, et le système financier mondial qui menace déjà l’économie internationale, deviendra ingouvernable et nous conduira aux pires catastrophes. Soit les États prendront le contrôle des monnaies numériques, en interdiront le contrôle et la création à des opérateurs privés et ils disposeront alors d’un outil de maîtrise et de surveillance de l’économie, via le contrôle des mouvements monétaires, sans équivalent avec ce qui existe aujourd’hui, pour le meilleur et pour le pire. Dans un monde idéal géré démocratiquement, ce contrôle permettrait d’assurer la stabilité du système financier et monétaire. Dans un monde dominé par des « prédateurs », pour reprendre la description faite par Giuliano da Empoli de la nouvelle génération de dirigeants de la planète, ils disposeront d’un contrôle sans équivalent de la population.

Le projet de World ID confirme qu’une des applications essentielles de la soi-disant intelligence artificielle est le fichage généralisé de la population, au travers de la reconnaissance faciale et maintenant du scannage de nos iris.

Il est aussi la confirmation de la volonté de prise du pouvoir des entreprises numériques, ambition qui ne connaît pas de limites puisqu’ils veulent désormais que notre propre humanité soit attestée par les dispositifs qu’ils contrôlent et non par les interactions habituelles entre les êtres humains, qui ont permis à ceux-ci, jusque-là, de se reconnaître comme membres d’une humanité. L’humanité n’est pas qu’une construction biologique, elle n’est pas qu’une affaire de conformation d’iris, mais aussi une construction sociale et politique.

Si ce projet, et d’autres du même type, devaient prospérer, il y aurait de quoi être très inquiet pour notre avenir. Notre rapport aux autres et au monde perd chaque jour un peu plus de sa réalité, de son immédiateté et de sa consistance. Tous les efforts des industriels du numérique appuyés par les autorités politiques et financés par le capitalisme mondial qui espère y trouver un relais de croissance, concourent à séparer les humains des humains, et à nous contraindre dans nos relations avec les autres et notre environnement, à emprunter le truchement d’un ordinateur et d’une plateforme ou d’un outil numérique.

Il est très inquiétant de constater que 26 millions d’humains ont déjà accepté de confier leur iris à la World Company de M Altman. Les hommes seraient-ils donc tellement fatigués d’être humains qu’il soient prêts à abandonner la responsabilité de leur humanité à une machine ?

Ma conviction est en tout cas que face à de telles entreprises, les discours habituels sur la neutralité de l’outil, qui ne serait pas en lui-même dangereux mais seulement en raison du mauvais usage qui pourrait en être fait, ou encore les propos sur la « bonne gouvernance » qui permettrait d’éviter les dérives, « parce que tout de même on ne peut pas aller contre le progrès », sont totalement inadaptés.

De telles entreprises doivent être purement et simplement interdites.

Allons-nous enfin nous réveiller et prendre cette décision ?

Jean-François Collin
Haut-fonctionnaire à la retraite

Auto-entrepreneuriat et illusion technophile : faire entendre raison face aux chimères macronistes

Le mirage de l’auto-entreprenariat est-il en train de se dissiper ?

On sait l’année 2024 a connu une vague de défaillances d’entreprises, mais elle a été également une record en création d’entreprises. Ainsi selon les données de l’Insee, plus d’1,1 million d’entreprises créées, soit 5,7 % de plus que l’année précédente. Faut-il voir dans ces chiffres des créations un signe encourageant, alors que 64 % de ces nouvelles entreprises sont en fait créées par des « micro-entrepreneurs », ceux que l’on appelle plus communément les auto-entrepreneurs. D’un point de vue légal, depuis 2016, le terme c’est bien micro entrepreneur, un travailleur indépendant qui facture ses prestations.

Le statut a été mis en place en 2009. Il attire de nombreux « candidats », grâce à ces formalités allégées, un régime fiscal dédié avec un mode de calcul des cotisations et de l’impôt sur le revenu simplifiée. Depuis sa création, le nombre de personnes qui s’inscrivent comme micro-entrepreneur augmente quasiment chaque année, et plus que d’autres régimes d’entreprise. En 2024, ils étaient 716 000 à s’être lancé, 50 000 de plus qu’en 2023, mais avec des profils très divers : on distingue ceux qui adoptent ce statut par opportunité économique et ceux dans une situation subie dans un entrepreneuriat dit « de nécessité ». 40 % des gens qui prennent ce statut le font pour créer leur propre emploi, largement parce qu’au départ ils étaient au chômage, sans activité. Pour 60 % d’entre eux, c’est leur activité principale. Mais quand on regarde les chiffres, le revenu tourne sous les 700€/mois de chiffre d’affaires, très loin du smic.

La multiplication de ces micro-entrepreneurs est donc bien plus le symptôme d’une précarisation du marché de l’emploi que d’un dynamisme entrepreneurial français. C’est une forme, une zone grise de l’économie, qui positionnent ces travailleurs comme des sous-traitants. Cela se pratique dans les transports routiers, dans le service à domicile : des entreprises qui employaient, par exemple, des personnels d’entretien ont demandé qu’elles prennent un statut d’auto-entrepreneur. Une réalité qui représente une part importante, très loin de ce qu’on imagine être l’entrepreneur héroïque et de la start-up nation.

Faut-il jeter le bébé avec l’eau du bain ?

Ce statut de micro-entrepreneur n’est pourtant pas qu’une solution choisie faute de mieux, car depuis quinze ans, ce statut de micro-entrepreneur s’inscrit dans les habitudes des Français : ne pas avoir de supérieur hiérarchique ou pour gagner un revenu complémentaire en marge, par exemple, d’un temps partiel (mais là aussi on voit bien l’effet de la précarisation du marché du travail) ; c’est un statut qui peut aussi attirer des jeunes retraités. Il sert parfois d’étape transitoire pour tester une idée avant de la faire croître dans une entreprise plus grosse. Mais pour que cette fonction d’étape transitoire fonctionne, il faudrait renforcer à tout l’accompagnement des micro-entrepreneurs. En moyenne, 40 % des entrepreneurs sont accompagnés, 25 % seulement chez les micro-entrepreneurs ; or les études ont démontré que des entrepreneurs qui ne sont pas accompagnés par des structures ont beaucoup plus de risque d’échouer. Selon une étude publiée par le CREDOC, le centre de recherche pour l’étude et l’observation des conditions de vie, ces structures sont moins pérennes que les entreprises classiques – un tiers seulement sont toujours actives 5 ans après leur création.

Malgré cela, leur nombre augmente. Fin 2023, l’URSSAF en recensait plus de 2,6 millions, soit 200 000 de plus que l’année précédente.

Retrouver le lien entre production et entreprenariat

Pendant ce temps, le sort des entreprises « classiques » n’est guère plus enviable que celui des autoentreprises. Aggravées par l’incertitude politique créée par la dissolution, les perspectives du secteur productif français, particulièrement son industrie manufacturière, n’en finissent plus d’être revues à la baisse. La productivité reste toujours en-deçà des années d’avant Covid, les investissements fléchissent dangereusement et les usines ferment (une étude conjointe de l’Usine Nouvelle et du réseau France Bleu a recensé 89 fermetures ou restructurations de sites contre seulement 65 ouvertures), tandis que le budget 2025 procède à des coupes massives dans les investissements d’avenir (recherche publique, transition écologique, industries innovantes, logement…).

Dans de telles conditions, les annonces tonitruantes d’Emmanuel Macron à l’occasion du sommet mondial sur l’Intelligence artificielle sont l’arbre qui cache la forêt, celle d’une industrie française qui va mal et que la politique budgétaire récessive du Gouvernement ne fera qu’affaiblir davantage. Vous pouvez d’ailleurs retrouver ci-dessous l’intervention d’Emmanuel Maurel, député GRS, lors des questions d’actualité au gouvernement du 12 février 2025 à ce propos.

Frédéric Faravel et Laurent Miermont

Intelligence artificielle : empêchons la dictature de la machine ! – tribune d’Emmanuel Maurel dans Euractiv

tribune publiée le 7 juin 2023 (pour la version anglo-saxonne ici)

Alors que Sam Altman, le PDG de l’IA générative ChatGPT, continue son tour du monde pour demander aux gouvernements de réguler l’intelligence artificielle (IA), le député européen Emmanuel Maurel met en garde contre tous les défis que l’UE aura à relever vis-à-vis de cette technologie de rupture.

L’intelligence artificielle révolutionne l’économie mais menace aussi la civilisation. Pour nous préserver de ce péril, il faudra aller bien plus loin que « l’IA Act » voté la semaine prochaine.

Pas un jour ne passe sans que nous soyons témoins de la progression fulgurante de l’intelligence artificielle.

L’IA est déjà utilisée dans la vie quotidienne : communications, traductions, jeux vidéo, bientôt voitures autonomes, mais aussi systèmes de surveillances de masse… et conflits armés. La possibilité de voir arriver des « robots tueurs » sur le champ de bataille est en effet tout sauf théorique.

Dans une lettre ouverte publiée en mars, un millier de chercheurs et professionnels du secteur demandaient un moratoire de six mois afin d’élaborer une régulation visant à empêcher l’IA d’être « dangereuse pour l’humanité ».

Moins apocalyptique, quoique fort inquiétant : la possibilité de propager de fausses informations à l’aide de photos et vidéos créées de toutes pièces par des IA, presque impossibles à distinguer des vraies.

Dans un contexte d’uniformisation des contenus sur les réseaux sociaux et les plateformes de streaming via les algorithmes, ce genre d’innovation nuira non seulement à la manifestation de la vérité, mais aussi à la culture et sa diversité – et donc à la civilisation.

Il est important de développer un projet éducatif autour de l’intelligence artificielle, ayant pour but d’informer les citoyens sur les risques associés à l’IA, mais aussi de les former à utiliser l’IA de manière responsable et éthique.

Des mesures fortes s’imposent pour encadrer l’IA, particulièrement sur les aspects liés aux droits humains. Est-il par exemple nécessaire de recourir aux technologies de reconnaissance faciale dans le cadre des prochains Jeux olympiques à Paris ?

L’Assemblée nationale, qui a voté en ce sens le mois dernier, aurait dû faire preuve de davantage de prudence au lieu de s’engager sur un terrain aussi glissant pour les libertés fondamentales.

Entretemps, l’Union européenne s’est emparée du sujet et met au point une législation se voulant protectrice et uniforme sur tout le continent, afin d’éviter toute tentation de « dumping numérique ». Les dispositions contenues dans son « IA Act », qui sera soumis au vote du Parlement européen en juin, offrent ainsi une perspective intéressante, insistant sur l’importance du rôle de l’humain dans la supervision de l’intelligence artificielle.

Mais organiser une telle supervision nécessitera que l’Europe se dote d’unités de contrôle fortement qualifiées, or les candidats manquent. De plus, il est nécessaire que l’humain soit en capacité de “débrancher la machine” manuellement, sans besoin de mécanismes informatisés et numérisés.

Qu’il s’agisse du contrôle ou du développement de l’IA, où nous sommes en retard par rapport aux États-Unis et à la Chine, nous n’aurons pas d’autre choix que mettre en place une stratégie extrêmement volontariste pour empêcher la « fuite de cerveaux », redoubler d’efforts pour la formation et pour la consolidation d’un écosystème favorable à l’émergence d’une IA spécifiquement européenne, centrée sur l’humain et sur les principes de liberté et de démocratie.

Un aspect important de cette stratégie est la collaboration entre les entreprises, les gouvernements, les experts en IA ainsi que la société civile, qui doivent travailler main dans la main pour amener une utilisation régulée des intelligences artificielles.

Dans l’immédiat, il nous faut contrer la voracité des géants du numérique, afin de prévenir toute utilisation abusive de l’IA, notamment en matière de protection des données personnelles, d’intrusion dans la vie privée, de désinformation, ou encore d’assurance-santé.

Tout reste à faire pour mettre sur pied une vision spécifiquement européenne de l’IA, à rebours du modèle chinois, mais aussi du modèle américain. Microsoft, qui a énormément investi dans OpenAI, et son « ChatGPT » vient de licencier la totalité de son équipe responsable de l’éthique de l’IA…

Enfin, l’IA risque d’entraîner une déstabilisation sociale massive. Des études récentes pronostiquent que 300 millions d’emplois pourraient être sous-traités par des IA !

Après avoir délocalisé la classe ouvrière en Asie, les multinationales s’apprêtent à remplacer la classe moyenne, y compris la plus diplômée, par des logiciels autonomes. Nos sociétés démocratiques n’y survivront pas. En l’espèce, agir dès maintenant sur le partage du temps de travail et de la valeur ajoutée, ainsi que sur les conditions de travail n’est pas une option, mais une obligation.

Tout doit être fait pour garantir une utilisation responsable et éthique de l’IA, dans l’intérêt des travailleurs et des citoyens européens. Nous ne pouvons pas laisser la machine décider de tout à la place de l’humain.

« Transferts de nos données personnelles aux États-Unis : pourquoi la Commission est-elle si laxiste ? »

Sans sourciller, comme ça, presque entre deux portes, la Commission de Bruxelles vient d’autoriser le transfert des données personnelles des Européens vers les États-Unis. Qui a bien négocié ? Et qui a fermé les yeux ? Et, surtout, est-il trop tard pour faire machine arrière ? Marianne fait le point sur le dossier, alors que la Commission européenne a lancé en décembre dernier un processus d’adoption de la décision d’adéquation* concernant le cadre de protection des données entre l’Europe et les USA. Emmanuel Maurel y revient longuement sur ce dossier.

Qu’est-ce qui a poussé Ursula von der Leyen, présidente de la Commission européenne, à passer un accord avec Joe Biden, en septembre, pour que les données personnelles de tous les Européens soient transférées aux États-Unis ? « Cela fait partie des choses que l’on ne s’explique pas, assure Emmanuel Maurel, député européen rattaché au groupe de gauche. Cet accord ne respecte pas le RGPD [Règlement général sur la protection des données] et nous pensions que les Allemands, qui sont très tatillons en matière de droit, s’y opposeraient. Ne mentionnons pas la France, qui parlait d' »autonomie stratégique », d' »indépendance industrielle » et de “cloud européen”. »

Côté américain, l’appropriation de ces données, de tous les éléments se rapportant à notre vie publique comme privée, fait sens. Les Gafam comme les sociétés d’Elon Musk réclament – pour bâtir le nouveau monde de l’intelligence artificielle, qui doit prédire les besoins des individus et, parfois même, les inventer – de disposer des données personnelles d’un maximum d’individus. « C’est l’or noir de ces sociétés : sans lui, Musk ne peut pas construire son rêve poursuit notre eurodéputé. Joe Biden a considéré – c’est tout à fait certain – que les intérêts économiques des Gafam prévalaient sur tout le reste. Il y a forcément un lien entre cet accord et le lancement de cette “intelligence artificielle”. »

Côté européen, l’abandon de cette souveraineté numérique ne répond à aucune logique, au regard des engagements pris, sauf si l’on applique la nouvelle clé de compréhension issue de la guerre russo-ukrainienne. « La Commission européenne, dans sa très grande majorité, considère que l’on a besoin du soutien des États-Unis non seulement pour aider les Ukrainiens, mais aussi pour nous protéger, estime Emmanuel Maurel. Il convient, dès lors, d’être solidaire de leur politique dans tous les domaines. Quitte à prendre des dispositions irréversibles en remettant les questions de fond à plus tard ! » Les pays scandinaves, les pays de l’Est, proches géographiquement de la Russie, sont sur cette ligne, comme l’Italie de Giorgia Meloni, qui se fait d’autant plus atlantiste qu’elle veut légitimer son gouvernement, dominé par l’extrême droite. « N’oublions pas non plus que ce pays – comme l’Allemagne – compte sur les États-Unis pour suppléer ses besoins en gaz » renchérit Philippe Latombe, député MoDem.

ADIEU LE CLOUD EUROPÉEN

Les entreprises européennes participent également de ce soutien à la politique économique américaine. La SAP SE, société allemande en pointe dans le domaine du progiciel, veut développer ses relations avec les sociétés américaines dont elle est le fournisseur. « Elle pèse d’autant plus fort sur son gouvernement que l’Allemagne fonctionne en écosystème ouvert avec ses entreprises, à la différence du système français, où tout cela est plus feutré » considère Philippe Latombe. Et le français Thales, qui vient de racheter OneWelcome, un logiciel de gestion des identités et des accès clients, outil essentiel dans le monde de la cybersécurité, serait aussi favorable à l’accord Biden-von der Leyen. Une société de cyber­sécurité doit théoriquement exploiter le plus de données personnelles possible pour être efficace. Si l’on sait que 42 % des entreprises françaises sont dotées aujourd’hui d’un système de protection cyber et que 72 % le seront dans dix ans, la position de Thales s’explique mieux. « N’oublions pas non plus que Thales a passé un partenariat avec Google pour créer un cloud de confiance, ce qui condamne la naissance d’un cloud européen pourtant appelé de ses vœux par Emmanuel Macron. Le mal était déjà fait » tranche Emmanuel Maurel. Cap Gemini et Orange, qui ont également passé un accord avec Microsoft en vue de créer un cloud de confiance, ne sont pas non plus hostiles à cet arran­gement. Pour leur défense, ces sociétés françaises assurent qu’elles conserveront la maîtrise de la clé d’accès à nos données.

Isolée sur la question, la France reste donc bien silencieuse sur ce dossier crucial. Thierry Breton, commissaire au Marché intérieur, que l’on a vu plus bavard sur le sujet, n’a pas fait connaître sa position. On sait seulement qu’il ne veut pas participer aux négociations informelles menées par Valdis Dombrovskis, commissaire en charge de l’Économie et du Commerce, et par la vice-présidente chargée du Numérique, Margrethe Vestager, avec les Américains Antony Blinken, secrétaire d’État, et Gina Raimondo, secrétaire au Commerce. Breton ne cautionnerait pas ces rencontres, qui se déroulent en dehors de tout mandat délivré par les États membres. Un peu de courage politique ne nuirait pas. Il est tout de même question de commerce mondial, de normes technologiques et d’administration des données. Rien ne semble donc contrarier l’adoption, au début de 2023, d’un accord dit « d’adéquation » sur le transfert des données. Celui-ci sera d’autant plus facile à mettre en œuvre qu’il ne répond pas, contrairement à un accord commercial, à la règle de l’unanimité.

Le terme « adéquation » prête d’ailleurs à sourire, car il suggère qu’il puisse y avoir convergence entre le droit américain et le droit européen. Ce qui n’est pas le cas. Cela provoque donc des réactions. Ainsi, Maximilian Schrems, l’avocat autrichien qui a fait invalider par la Cour de Justice de l’Union européenne (CJUE) deux accords précédents ­passés avec les États-Unis sur le même thème, le « Safe Harbor », en 2015, et le « Privacy Shield », en 2020, déclare : « On a vraiment l’impression que la Commission européenne prend sans cesse des décisions identiques sur la question, en violation de nos droits fondamentaux s’emporte le défenseur européen de la vie privée, fondateur de l’association None of Your Business (« Ce n’est pas votre affaire »). Je ne vois pas comment tout cela pourrait survivre à l’examen de la Cour de Justice. C’est un peu comme si les banques suisses vous disaient : “Donnez-nous votre or”, et que, une fois que vous leur auriez transféré, elles vous informeraient que vous n’avez plus aucun droit dessus car vous êtes étranger. » Me Schrems précise en guise d’explication : « Nous avons un conflit de juridictions : l’une, européenne, qui demande la protection de la vie privée ; et l’autre, américaine, qui prône la surveillance. Les sociétés qui gèrent les centres de données sont broyées entre les deux systèmes. » Et le député européen Emmanuel Maurel de renchérir : « Depuis l’adoption du Patriot Act, nous ne sommes plus certains que nos droits fondamentaux soient respectés par les États-Unis. Nous n’avons pas, avec les Américains, la même notion de ce que l’on appelle la sécurité. Nous n’avons pas, en conséquence, assez de garanties sur les protections et les droits de recours. Aux États-Unis, quand vous saisissez la justice sur ces problèmes de protection de données, vous devez saisir au préalable un médiateur, qui est un fonctionnaire des services des renseignements. » Me Schrems prédit : « La surveillance de masse va continuer, mais, à la fin, l’opinion de la CJUE l’emportera et tuera une nouvelle fois cet accord. »

LE PIÈGE PARFAIT

Le temps de la justice n’étant pas, et de très loin, aligné sur celui des technologies, 90 % des données personnelles des Européens auront été transférées aux États-Unis quand la Cour rendra son verdict. C’est le piège parfait, celui qui ne laisse aucune échappatoire, mais donne l’impression qu’on nous a donnés, à nous, les Européens, notre chance. Il sera alors certain que les entreprises du Vieux Continent ne voudront plus changer leurs modes de fonctionnement, leurs codes sources, investir du temps et de l’argent pour rapatrier et gérer les données personnelles. « C’est pourquoi je demande que des préconisations soient prises au moment où nous saisirons la Cour afin d’empêcher que le transfert des données soit irréversible, souhaite Emmanuel Maurel. À écouter les députés, aussi longtemps que le conflit russo-ukrainien perdurera, cela ne pourra pas être le cas. »

ON NE BADINE PAS AVEC LE CONSENTEMENT

Accepter de partager ses données personnelles, c’est permettre à des entreprises de connaître l’intégralité de sa vie. Famille, réseau d’amis, déplacements, loisirs, situation médicale, maritale, tout peut être connu à partir de la géolocalisation, de l’historique de recherche, de la lecture des courriels comme des messages postés sur les réseaux sociaux. Sur le marché mondial des données personnelles, ces informations ont un prix. Les sociétés qui les achètent les utilisent pour vendre de la publicité, des produits ou pour influencer des choix culturels et politiques. En acceptant l’installation de cookies, c’est-à-dire de fichiers espions, l’internaute autorise que sa personnalité, sa vie dans toutes ses composantes, soit vendue aux enchères à des sociétés qui vont la monnayer. L’obtention du consentement exigé par le Règlement européen sur la protection des données est la seule garantie dont l’internaute dispose. Google avait installé sur les 310 millions de téléphones Android un identifiant unique facilitant l’envoi de publicités ciblées sans que les internautes puissent s’y opposer, mais la firme de Mountain View a dû renoncer à l’exploiter pour respecter le droit européen, suffisamment exigeant en la matière. En janvier 2022, la Commission de la protection de la vie privée, autorité belge de protection des données, dont la décision s’impose à toutes les Cnil en vertu du principe du « guichet unique », a exigé que le consentement de l’internaute ne soit pas obtenu par défaut, sans que celui-ci soit clairement informé. Si tel est le cas, toutes les données recueillies à son insu doivent être supprimées.

Il faut se préoccuper de l’intelligence artificielle avant qu’il ne soit trop tard

Tribune d’Emmanuel Maurel (député européen GRS), Pierre Ouzoulias (sénateur et conseiller départemental communiste des Hauts-de Seine) et Cédric Villani (mathématicien et ancien député) publiée dans Le Huffington Post le 16 novembre 2022

« Quelles institutions, quelles règles pour faire le bon tri, en régulant tout en permettant les progrès permis par l’IA ? Du travail a été fourni, du travail reste à fournir », estiment Pierre Ouzoulias, Emmanuel Maurel et Cédric Villani.

Que diriez-vous d’un monde dans lequel un article de journal ou le scénario d’un film serait intégralement rédigé par une intelligence artificielle ? Que penseriez-vous d’une société dans laquelle une décision de justice serait rendue par un algorithme ? D’une chaîne de musique qui vous ferait entendre un nouveau morceau composé de A à Z, paroles, instruments et arrangement, par un réseau de neurones ? Accepteriez-vous de travailler dans une entreprise qui laisserait à une machine le soin d’examiner votre CV et à une autre le droit de vous accorder une pause ?

Ces exemples ne sont pas issus du Meilleur des mondes ou de 1984, référence incontournable de la littérature dystopique. Ils ne sont qu’une infime partie de ce qui est déjà rendu possible par l’intelligence artificielle. Ils ont déjà tous été mis en œuvre ici ou là, suscitant des débats légitimes, dans la foulée du célèbre ouvrage de l’informaticienne Cathy O’Neil : Algorithmes, la Bombe à retardement.

La question n’est désormais plus de savoir si nous devons approuver ces bouleversements. Il est trop tard pour cela, et les rejeter, ce serait oublier les côtés plus sympathiques. L’algorithmique, experte en diagnostics à partir de données médicales, a déjà sauvé des vies. À Singapour, elle recale en temps réel les feux de circulation pour laisser la voie libre à une ambulance appelée pour une urgence vitale. Elle apporte un peu de confort plus que bienvenu à des agriculteurs. Elle donne chaque jour à des millions d’usagers les instructions pour trouver un itinéraire rapide, aller à la rencontre du bon arrêt de bus dans une ville inconnue. Elle améliore des consommations d’électricité à l’échelle de ménages ou de communes, aide à optimiser les positions des éoliennes, fouille les entrailles des grandes bases de données médicales pour mettre au point de nouveaux traitements.

La question n’est désormais plus de savoir si nous devons approuver ces bouleversements. Il est trop tard pour cela, et les rejeter, ce serait oublier les côtés plus sympathiques.

Quelles institutions, quelles règles pour faire le bon tri, ou le bon compromis, régulant tout en permettant les progrès permis par l’IA ? Du travail a été fourni, du travail reste à fournir. Les interrogations liées à l’IA passent souvent sous les radars politique et médiatique. Sans doute est-ce dû, pêle-mêle, à l’ésotérisme du jargon de la « tech » et au lobbying des grandes compagnies internationales qui présentent l’IA comme un progrès à accepter d’un bloc, incorporée dans des solutions démesurées par leur complexité technologique, leur dilapidation de matière et d’énergie et parfois les conditions inhumaines dans lesquelles travaillent sous-traitants et fournisseurs. La compagnie Tesla est emblématique de ce travestissement de progrès. Son fondateur n’hésite d’ailleurs pas à évoquer l’IA comme une menace existentielle pour l’humanité, bien conscient de l’efficacité d’une telle provocation pour séduire les investisseurs.

À raison, l’impact sur le travail et l’emploi nourrit les plus grandes inquiétudes, tout autant que les plus grandes incertitudes. Emploi massif de travailleurs pauvres pour consolider des bases de données toujours plus importantes : ce prolétariat d’un nouveau genre, à défaut d’être remplacé par une armée de robots, ne doit-il pas être considéré comme tel ? L’esclavage d’employés d’Amazon soumis aux ordres d’algorithmes, tant dans leurs actions que dans la gestion de leurs pauses, les « optimisations » d’horaires devenus parfaitement ingérables et décrits dans le rapport de O’Neil, donnent finalement raison à Marx lorsque celui-ci affirmait que « le temps est tout, l’homme n’est plus rien ; il est tout au plus une carcasse du temps. ».

Qu’avons-nous à dire sur les implications philosophiques, juridiques et politiques de l’intelligence artificielle ? La Chine nous démontre comment elle peut être utilisée pour la surveillance massive et l’anéantissement de la vie privée. Aux États-Unis, elle s’est sournoisement infiltrée dans les procédures judiciaires accentuant le plus souvent les jugements à caractère raciste, ainsi que des associations ont pu le prouver.

Qu’avons-nous à dire sur les implications philosophiques, juridiques et politiques de l’intelligence artificielle ?

Le gouvernement français, suivant l’avis du rapport du Conseil d’État sur l’intelligence artificielle, a décidé de continuer le déploiement d’une stratégie initiée en 2018 : en témoignent les dispositions prévues dans le projet de loi d’orientation et de programmation du ministère de l’Intérieur (LOPMI), qui est actuellement discuté au Parlement. Ce doit être l’occasion de poser encore et toujours les mêmes questions : comment instaurer un contrôle démocratique dans l’utilisation des algorithmes ? Comment l’articuler avec notre souveraineté numérique ? Quel sens politique accorder à l’usage croissant des nouvelles technologies ? Où trouver l’équilibre entre l’usage de l’algorithme et la protection des données ? Qui est responsable juridiquement de l’algorithme en cas de défaillance ?

Le temps presse, car les grands groupes disposent d’une avance considérable sur les États. Sans réaction de notre part, nous serons dans l’incapacité de construire une politique humaniste et opérante de l’intelligence artificielle. Le Parlement européen a déjà porté le fer sur le sujet, mais sans la couverture médiatique nécessaire à un débat fécond dans l’opinion publique.

L’objet de ce texte est précisément de contribuer à ouvrir la discussion pour les semaines et les mois à venir. Nous devons, selon le concept de Michel Callon et du regretté Bruno Latour, opérer un véritable travail de traduction autour de ces questions fondamentales, afin que les citoyennes et les citoyens appréhendent cette matière, qui, un jour ou l’autre, finira par les toucher. Il est essentiel que nos organisations politiques, les syndicats, les associations et les universitaires agissent de concert pour que demain, nous soyons tous capables de répondre à cet immense défi.

Nous avons besoin de vous !

Quelles que soient vos compétences, si vous touchez votre bille en droit, en bricolage, si vous aimez écrire, si vous êtes créatif… vous pouvez prendre part à des actions et ateliers près de chez vous ou encore nous envoyer vos vidéos, vos dessins pour des affiches etc.