Les cahiers du net

Merci beaucoup pour cette invitation dans votre magnifique ville d'Albi pour discuter avec vous de questions autour de ce que l'on appelle "l'intelligence artificielle", que je vais plutôt désigner ici sous le nom moins flatteur "d'automates numériques". Je vais essayer de revenir sur les articles que l'on a coécrit avec Zako Sappey-Triomphe et Auguste Lehuger, il y a un an et demi maintenant, en les actualisant avec des réflexions plus récentes que j'explore dans le cadre de ma thèse — thèse qui, pour le dire en quelques mots, non sans lien avec la question de l'IA, vise à théoriser une forme "contributive" d'intelligence collective, au travers de technologies numériques éditoriales libres et ouvertes. C'est pourquoi j'ai mis au pluriel "numériques" dans le titre, pour souligner le fait que, si le monde numérique actuel semble majoritairement dominé par les grands groupes de la Silicon Valley, il existe d'autres numériques, certes moins puissants économiquement et géopolitiquement, mais qui peuvent toutefois donner à voir un autre rapport à la technique, au savoir et à la société que le projet général de "l'intelligence articielle". Je pense notamment à des initiatives comme l'encyclopédie Wikipédia, au mouvement du logiciel libre dont celui-ci s'inspire (c'est-à-dire de la libre modification et adaptations des logiciels) ou encore aux forums en ligne, au blogging, etc.

Je ne ferai pas dans cette conférence la description clinique du passage de l'utopie de l'internet du début des années 2000, en tout cas des espoirs qu'il pouvait susciter dans sa décentralisation des savoirs et des pouvoirs, à la dystopie actuelle des géants du numérique et de l'IA, qui les reconcentrent. D'autres font déjà ce travail critique — je pense à Sébastien Broca et Félix Tréguer particulièrement, contributeurs au Monde Diplomatique sur ces questions. Non : ce qui m'intéresse plutôt, c'est d'ouvrir la voie à des perspectives technologiques et sociales mobilisatrices, capables de nous faire critiquer le projet général dit de "l'intelligence artificielle" de manière moins réactive qu'aujourd'hui — c'est-à-dire de manière à ne pas simplement être dans le ressentiment de notre impuissance et écrasement, mais à être en mesure de s'émanciper de ces logiques et d'agir différemment. Comme vous le comprenez, mon parti prit est que pour combattre la machine numérique capitaliste, il ne s'agit pas tant d'y "résister" en essayant de la stopper ou de la déserter, que de travailler à d'autres machines, à même de transformer notre condition cauchemardesque présente.

Une autre intelligence artificielle est possible

Dans nos articles du Monde Diplo de novembre 2024, nous avons essayé de clarifier cet objet que l'on appelle "intelligence artificielle", de manière à la fois technique, politique, théorique et historique. En fait, si mes co-auteurs sont des ingénieurs, anciens étudiants de Polytechnique, je suis de mon côté issu d'une formation en sciences humaines et philosophie de la technique. J'ai eu la chance de pouvoir travailler assez étroitement avec le philosophe Bernard Stiegler, pendant un an, dans le cadre d'une association que l'on animait ensemble, qui se dénomme désormais Épokhè et que je continue à co-animer avec d'autres — expérience qui m'a particulièrement consolidé dans ma pensée philosophique et politique. C'est pour cette raison notamment que Zako Sappey-Triomphe m'a invité à intégrer leur groupe de travail autour d'une note critique sur l'intelligence artificielle, au sein de l'association des ex-étudiants de Polytechnique, X-Alternative, dont je vous invite aussi à consulter le site et la note intitulée "Intelligence Artificielle : pour l’émergence d’alternatives, refonder une politique scientifique, industrielle et sociale de l’IA", qui s'adresse à une communauté large d'acteurs susceptibles d'êtres intéressés et impliqués dans ces sujets. Il s'agissait pour Zako Sappey-Triomphe, qui coordonnait ce travail collectif, d'intégrer des perspectives plus philosophiques, afin de nourrir l'alternative que l'on essayait de formaliser ensemble — l'intelligence artificielle ne pouvant, en définitive, être critiqué et analysé sans une certaine alliance entre des disciplines davantage techniques et des considérations plus philosophiques, notamment vis-à-vis de ce que l'on peut entendre par "intelligence", sur notre rapport à la technique, à la mémoire artificielle, etc. Notre article pour le Monde Diplo accompagne et synthétise ainsi certains aspects centraux de cette note.

Dans l'article, nous essayons d'apporter une conception alternative de l'intelligence que celle rattachée à l'impératif fonctionnel [@vitali-rosatiElogeBug2024] de produire toujours plus et toujours plus vite que semble véhiculer les "IA" actuelles. Nous partons de la conception de l'intelligence que fait l'association Ars Industrialis, que poursuit Épokhè, pour affirmer que celle-ci est d'emblée artificielle : il n'y a pas une "intelligence naturelle", d'un côté, à laquelle nous pourrions opposer une "intelligence machinique", de l'autre. Plutôt, l'intelligence se construit toujours avec un milieu social et technique ; à l'inverse, la machine est le fruit d'une intelligence socialisée. En ce sens, il n'y a pas de rivalité entre l'humain et la machine, du moins pas par défaut : ce rapport de compétition est le fruit d'un système capitaliste orienté vers la maximisation de la production et la minimisation de l'effort (le productivisme et le consumérisme, autrement dit). Dans cet objectif, il est clair que les humains sont tout à fait "remplacables" par la machine, et notre effroi actuelle face aux IA est probablement davantage dû au régime néolibéral de valorisation de l'optimisation avant toute chose dans lequel on baigne, qu'à une performance absolue et en soi de ces machines.

Il nous faut admettre que d'un point de vue capitaliste, une grosse partie de nos activités sont en effet mieux prise en main par des automates numériques : pourquoi s'amuser à coder quelque chose si l'IA peut le faire pour nous, et plus vite ? Pourquoi prendre la peine de penser au travers de la rédaction d'un texte, si l'IA peut nous procurer plus vite, sans effort, une pensée bien structurée et rédigée sur un sujet ? Pourquoi prendre autant de temps à lire toute une notice Wikipédia si l'IA peut nous faire un résumé synthétique avec les éléments principaux ? Tout cela est une question de perspective : d'un point de vue personnel, je préfère perdre mon temps à me perdre dans des notices Wikipédia, comprendre comment prendre en main l'ensemble de mon ordinateur au travers de la ligne de commande¹, me casser la tête à chercher le bon mot pour décrire un phénomène, et pleins de choses encore qui relève d'une activité certe "inutile" et "obsolète" du point de vue économique, sur lesquels je ne peux plus vraiment capitaliser, mais qui me procurent un certain plaisir — que je suis sûr, vous comprenez, en tant que communauté de lecteurs et de lectrices du Monde Diplo, vous qui avez pris le goût de prendre le temps du pas de côté critique à essayer de comprendre plein de choses forts complexes, pas forcément utiles au travail et dans la vie de tous les jours, qui relèvent d'une tout autre logique que celle de l'utilité, finalement. À ce propos, j'aimerais vous partager un fragment intitulé "l'utilité de l'inutile" écrit par Eugène Ionesco et que m'a fait découvrir Emma Biscarros, dans la salle, où il parle de ce registre de l'inutilité :

Si les avions sillonnent aujourd’hui le ciel, c’est parce que nous avions rêvé l’envol avant de nous envoler. Il a été possible de voler parce que nous rêvions que nous volions. Et voler est une chose inutile. Ce n’est qu’après coup qu’on en a démontré ou inventé la nécessité, pour nous excuser de l’inutilité profonde, essentielle, de la chose. Inutilité qui était pourtant un besoin.

Pour revenir à la conception d'Ars Industrialis de l'intelligence, lorsque l'association dit avec Bernard Stiegler que l'intelligence est d'emblée artificielle, cela commence d'abord par le langage, nous pourrions dire : il s'agit là d'un système technologique très sophistiqué qui, ces IA nous l'apprennent, consiste en une distribution de termes dont le traitement peut être probabiliste. Avec IA, je parle en particulier aux LLM, soit aux Larges Modèles de Langage à la base des applications comme Chat-GPT, Claude, Gemini pour Google, qui peuvent se combiner avec d'autres technologies dont on pourra parler plus en détail dans la discussion si vous le souhaitez, pour mieux puiser dans des sources actuelles. Alors certes, notre pratique technique de cette technologie que constitue le langage diffère de celles de ces opération statistiques sophistiquées des LLM, qui calculent la fréquence d'un terme dans un certain contexte pour anticiper le prochain — ça fait ça, un LLM. En cela, s'il s'agit d'aspirer et produire le plus d'écrits possibles, les LLM sont définitivement plus puissants que nous. Par contre si l'idée est de lutter contre la bêtise — c'est-à-dire en partie, contre la répétition automatique du stéréotype et du déjà-dit, les LLM ne peuvent pas être pertinents livrés à eux-même : ils ne peuvent que nous ramener à la bêtise, bien que cela puisse être un miroir intéressant duquel, partir pour mieux dépasser les clichés et les lieux communs.

L'humanisme réactionnaire, le transhumanisme et l'humanisme de la technique

Dans la conception d'Ars Insutrialis, une sorte de jeu de mot est fait avec le terme "co-naissance", où celle-ci consisterait en une co-émergence de l'humain et de son milieu. Ce qui est intéressant ici est que nous sortons d'un humanisme naïf où l'humain, l'individu serait son seul créateur. Plutôt, cet humain est construit, en grande partie, du fait de son milieu social, culturel et technique. Il s'agit là d'une philosophie développée notamment par Gilbert Simondon, qui vise à démanteler le clivage entre l'homme intérieur et l'homme extérieur, cet impensé des sciences humaines que poursuit aussi la philosophie de Bernard Stiegler. Comme l'explique Xavier Guchet dans son livre Pour un humanisme technologique. Culture, technique et société dans la philosophie de Gilbert Simondon [-@guchetPourHumanismeTechnologique2010, p.21] :

En s'en prenant à la machine et en la dénonçant comme déshumanisante, l'humanisme se condamne [...] à l'abstraction. L'humanisme moderne reste une doctrine abstraite quand elle croit sauver l'homme de toute aliénation en luttant contre la machine "qui déshumanise".

C'est depuis cette école philosophique que je parle aujourd'hui, en tant qu'humaniste de la technique, bien que cette expression puisse sembler relever de l'oxymore. Parlons un peu de l'encyclique du pape, à cet égard. On ne peut, à gauche, que respecter et apprécier son discours critique contre la centralisation des pouvoirs et la standardisation de la pensée par les grands groupes de l'IA : c'est encourageant de trouver un allié gauchiste insoupçonné dans la représentation d'une institution elle-même très conservatrice. Néanmoins, quelque chose reste fondamentalement très réactionnaire dans sa manière d'aborder le rapport entre l'humain et la machine, si l'on analyse son encyclique de plus près. Comme il l'écrit au paragraphe 116 :

En général, le transhumanisme imagine un renforcement de l’être humain grâce aux technologies (biomédecine, ingénierie corporelle, dispositifs, algorithmes), avec l’ambition d’accroître les performances et les capacités. Le posthumanisme, surtout dans ses versions les plus radicales, va plus loin : il critique l’anthropocentrisme et envisage une forme d’hybridation entre l’être humain, la machine et l’environnement, allant jusqu’à imaginer un franchissement de seuil où l’humanité se surpassera en entrant dans une nouvelle étape évolutive.

Si nous ne pouvons qu'être d'accord avec cette critique du surpassement transhumaniste par la machine, qui rend l'humain obsolète dans la course à la performance, nous pouvons émettre des réserves sur sa manière de séparer nettement l'humain, la machine et l'environnement : y a-t-il des limites "ontologiques" stables et prédeterminées entre ces catégories ? Y a-t-il un intérieur de l'humain qui n'est pas conditionné par des dispositifs techniques, et qui est autonome du milieu dans lequel il s'inscrit ? Si l'on se tient non pas au mythe Chrétien de l'humain créé à l'image de Dieu, mais à une analyse plus sociologique, nous pouvons le douter. L'humanisme romantique semble hériter de cette centralité de l'humain, à l'image de l'homme de Vitruve, qui serait l'allégorie de l'humanisme (c'est l'image de représentation de sa notice Wikipédia). L'humanisme de l'homme de Vitruve représenterait "l'humain comme mesure de toute chose", selon le dicton de Protagoras. Cependant, comme Marcello Vitali-Rosati le rappelait lors d'une discussion lors d'une réunion de mon équipe de recherche à l'Université de Rouen Normandie, l'humanisme de la renaissance ne plaçait pas l'humain au centre ainsi — c'est même pour cela que Giordano Bruno, qui a prolongé les thèses sur l'héliocentrisme de Copernic et Galilée à l'ensemble de l'univers, qui serait, lui, infini et sans centre, s'est fait condamner à mort par l'inquisition romaine (mort par strangulation, puis brûlé). Bref, malgré l'alliance objective que l'on peut trouver avec le pape contre les Big Tech, il ne faut pas oublier que l'institution qu'il représente n'est pas historiquement en faveur de remettre en question les dogmes centraux concernant le statut et la place de l'humain dans l'univers : l'institution catholique n'apprécie pas trop que l'on soutienne que l'humain n'est pas au centre, à l'image de son Dieu. Philippe de Villiers ne s'y est d'ailleurs pas trompé — hier, entre deux trains pour arriver dans la région, j'ai survolé au Relay, par curiosité "morbide", ce que pouvait bien penser la presse Bolloré de l'encyclique (en l'occurrence, le JDD Mag). Je survolais une chronique de cet ancien ministre, connu pour ses positions réactionnaires et nationalistes, qui écrit :

Le danger de l'IA, c'est que nous ne soyons plus capables de voir la grandeur de la personne humaine. Y aura-t-il encore demain, sur Terre, assez de sagesse pour répondre au plus grand défi de l'histoire de l'humanité, quand le progrès, en son saut ultime, caresse l'idée d'un humain revisité par la machine, un humain machinal et décérébré ?

L'humanisme réactionnaire a au moins le mérite d'être clair, dans ce discours, jusqu'à l'expression décérébré, historiquement popularisé par le journaliste nationaliste et antisémite Maurice Barrès durant l'affaire Dreyfus, pour parler d'"une France dissociée et décérébrée". Comme quoi, on peut aller très loin dans l'humanisme conservateur, jusqu'à l'extrême droite actuelle et historique. L'humanisme n'est pas que du côté de la gauche critique, est même plutôt du côté d'un conservatisme réactionnaire. A contrario, nous pourrions envisager une manière de repenser le lien entre machine et humain de manière que la première appuie l'intelligence du second, plutôt que de la décourager structurellement, ce que font les IA actuelles dans leur optique d'optimisation, soit à l'encontre d'une logique d'apprentissage, de compréhension et de réflexion, qui demanderait de prendre du temps plutôt que de performer.

Nous allons y venir, ce sera mon point principal. Mais avant cela, prenons encore un peu de recul historique dans la fabrique technique et sociale de l'intelligence, en observant dans quelle mesure elle est conditionnée par des supports techniques complexes comme le dessin et l'écriture. Bernard Stiegler parle "d'exosomatisation", un concept du biologiste Alfred Lotka pour parler du processus par lequel les organismes vivants, et particulièrement les humains, externalisent certaines fonctions de leurs corps en créant des organes artificiels ou techniques situés hors du corps. Ce mouvement commence depuis le silex taillé et débouche aujourd'hui sur notre mégamachine numérique. Il s'agit d'un long processus bien mis en scène par le film de Stanley Kubrick 2001, l'Odyssée de l'espace ; même si l'on peut remarquer que cette technique est surtout présentée dans son aspect violent et menaçant : un os utilisé par des singes pour se battre contre d'autres, jusqu'à une IA qui se refuse d'obéir aux instructions d'un humain et le laisse mourir en dehors de son vaisseau spatial. L'univers de la science-fiction américaine baigne globalement dans cette ambiance de violence, associée à l'objet technique. C'est beaucoup moins le cas de la science-fiction japonaise, par exemple. Pour prendre des références connues, dans des films de Miyazaki, il fait le portrait de machines aussi bien tueuses qu'objet de rêves : nous pouvons penser à le Vent se Lève, au Chateau Ambulant et au Chateau dans le ciel. Dans ce dernier, Miyazaki fait carrément le portrait de robots protecteurs et soigneux de leur milieu écologique, plus encore que les humains qui sont présentés comme assez destructeurs de ce milieu, tout au long de ce film d'animation. Cette ambivalence de la technique est aussi bien souligée par Lotka, lorsqu'il introduit son concept au sortir de la seconde guerre mondiale, en 1945, dans « The law of evolution as a maximal principle ». Lotka y souligne que les organes inorganiques issus du travail sont ambivalents : ils sont nécessaires à la préservation de l'espèce mais peuvent devenir des facteurs d'auto-destruction, d'où la nécessité de les inscrire dans des finalités d'intérêt général.

Hacker les IA ?

Il semble donc y avoir une voie entre celle de l'humanisme réactionnaire, vis-à-vis des évolutions technologiques, et le transhumanisme, obnubilé par les seules performances des machines. Cette voie a été bien empruntée par Bernard Stiegler, Gilbert Simondon et d'autres philosophes dans lesquels je me retrouve, et avec lesquels nous pouvons affirmer que la question n'est pas tant dans quelle mesure les humains ne sont pas corrompus par la technique — ce qui est absurde, si l'on considère la condition humaine comme technique et exosomatique - mais plutôt qui développe les technologies qui soutiennent notre pensée, nos relations, notre travail, nos loisirs, etc. ? Et surtout : pour quelles raisons ? Comme l'a souligné un article autour d'une expérience avec un LLM (celui de Mistral) pour faire parler le fantôme de Michel Foucault (oui oui, je vous invite à y jeter un coup d'oeil, c'est assez fascinant — le site de cette expérimentation se trouve à l'URL foucaultsein.io), ces raisons et ces acteurs ne sont pas gravés dans le marbre :

L’écriture servait l’État. Lʼimprimerie, rappelons-le, avant de servir la Réforme, servait le commerce des indulgences — cette fabrique tarifée du salut chrétien, adossée à une fiction admirablement profitable, le purgatoire et ses flammes, dont lʼinstitution ecclésiale écoulait l’antidote sur papier contre florins sonnants à travers les premières presses de Gutenberg. Ce sont pourtant ces mêmes presses, ces mêmes caractères mobiles — ou plutôt cette même infrastructure technique, passée dans dʼautres mains, branchée sur dʼautres colères, dʼautres conflits, dʼautres formes de circulation — qui finirent par cracher les quatrevingt-quinze thèses de Luther.

Ainsi, selon ce collectif,

La question, devant un dispositif — une serrure, un portail, une IA — nʼest jamais dʼabord : que faut-il en penser ? Cʼest : où peut-on lʼattraper ?

Je suis probablement moins enthousiaste que ce collectif, bien que je le rejoigne sur certains points et dans la logique d'ensemble. J'ai moi-même essayé d'envisager dans un billet de blog, il y a quelques mois, dans quelle mesure nous pouvons "hacker" ces dispositifs. À partir d'une conception de "l'éthique du Hacker" par Pekka Himanen et Linus Torvalds [-@himanenHackerEthic2001] (Linus Torvalds est la personne qui a lancé le projet de Linux, le système d'exploitation de plus de 99% des serveurs du monde), nous pouvons comprendre le hack comme playfulness (pour reprendre leur mot anglais, sans vértiable équivalent en français), au lieu d'une éthique protestante de l'esprit du capitalisme, telle que décrite par Max Weber dans son livre éponyme, d'optimisation. Distinguons au passage la logique des hackers à celle des crackers, c'est-à-dire de ceux qui s'infiltrent de manière malveillante dans des systèmes numériques — ça, ce sont les discours médiatiques des années 80 qui ont mené une campagne pour réduire les premiers aux seconds, comme le soutien tout du moins le livre d'Himanen (je n'ai pas connu cette époque). Néanmoins, force est de consater aujourd'hui que ce sont plutôt les LLM qui ont hacké les hackers, si l'on peut dire, en faisant de toutes leur sédimentations libres en ligne — sur les forums, les logiciels libres, les encyclopédies collaboratives, etc. — une matière première pour leur corpus d'entraînement, servant ensuite des dispositifs d'optimisation capitaliste du temps et du travail qui vont à l'encontre de l'éthique des hackers d'apprendre, d'explorer, de s'entraider entre pairs, et surtout de faire du travail du "hack" une activité plaisante à soi, que l'on ne voudrait pas déléguer à des robots. Le contexte est plutôt triste pour la culture hacker, si l'on se fie à la conception qu'en font Himanen et Torvalds. J'ai malgré tout essayé d'envisager une manière de renverser le renversement des IA vis-à-vis de la culture contributive — "un hack du hack du hack" — pour essayer de remettre les automates computationnels, y compris ceux basés sur des LLM, au service de la formation de communautés apprenantes et passionnées, plutôt qu'optimisatrices. En quelques mots, il s'agirait d'abord d'utiliser des IA en local, sur sa machine, qui tournent sur nos ordinateurs et dont les données ne transitent pas par les serveurs de la Big Tech américaine. Aujourd'hui peu au point, elle pourraient l'être assez prochainement, largement suffisantes pour un grand nombre de tâches. Il s'agirait ensuite de sortir d'une logique d'optimisation et de consommation pour être dans une logique d'apprentissage et de jeu, avec ces technologies : en se les appropriant pour des finalités au service de nos passions.

J'ai bien conscience que cette voie peut sembler aujourd'hui hautement spéculative. Cependant, il suffit d'observer comment les hackers ont historiquement détourné une technologie numérique supposée optimiser le temps et des opérations militaires, pour en faire l'occasion de la création de communautés apprenantes et discutantes sur le Web, mettant les automates au service de leurs rêves individuels et collectifs et transformant une partie du capitalisme numérique en une économie contributive, pour se dire qu'une technologie d'origine capitaliste et militaire n'est pas vouée à le rester pour toujours. Ce qu'il y a d'intéressant dans la culture hacker, sur laquelle je travaille dans le cadre de ma thèse, est aussi cette posture non réactive et affirmative, dans laquelle l'orientation n'est pas dictée par le haut des pouvoirs en place (contre lesquels on emploie souvent une rhétorique impuissante de "résistance" un peu vague, il me semble), mais par des initiatives "par le bas" qui n'attendent pas d'autorisation particulière pour opposer aux tendances majoritaires de notre monde un rapport alternatif à la technique, au travail et au temps. Pour faire le lien avec ce que je disais au début concernant la tradition chrétienne de l'humanisme, si l'humain n'est pas à l'image de Dieu, l'IA n'est pas à l'image de l'humain non plus mais plutôt de ceux qui la développent. Ce que le pape semble avoir compris en partie. L'IA est un projet économique, géopolitique et social général à l'image des impérialistes et capitalistes américains. Elle pourrait être à l'image d'autres communautés, orientés vers d'autres finalités, quitte à les redévelopper et retravailler en profondeur - pourquoi pas, à l'image de la tradition académique, qui vise plutôt une diversification des points de vues, un apprentissage continu et un temps émancipé des utilités du quotidien. Nous serions davantage dans une technologie qui appuierai des interprétations situées et singulières, au lieu d'une technologie qui les court-circuite par probabilité.

Techno-fascisme

Pour actualiser un peu notre papier dans le Monde Diplomatique de novembre 2024, l'optimisation probabiliste des IA actuelles rejoint un projet qui n'est peut-être pas seulement capitaliste, mais fasciste, dans le sens de conditionnement vers une pensée unique. On parle beaucoup de "techno-fascisme" aujourd'hui. Un article en particulier m'a beaucoup parlé sur ces questions : un article du philosophe et historien des sciences et des techniques Christophe Masutti, également "hacktiviste" et membre de l'association Framasoft - association pour une éducation populaire aux enjeux du numérique et qui développe ou donne accès à des supers outils émancipés des GAFAM, je vous inviter à y jeter un coup d'oeil ! Dans ce billet, il décrit des méthodes qui diffèrent radicalement du fascisme historique, mais qui mènent toutefois à la même neutralisation de toute contestation, de manière d'autant plus efficace qu'elle se fait "à la racine". Comme Masutti l'explique :

Par la capture attentionnelle et l’invisibilisation algorithmique, [le techno-fascisme] impose un présent perpétuel et mondialisé qui fige les inégalités et cherche à enfermer les existences dans un ordre biopolitique permanent.

En effet, nous sortons d'une simple oligarchie, selon Masutti, dans la mesure où nous ne sommes plus dans un système d'extraction de valeur à court terme, mais dans la longue durée, avec une "neutralisation de l'historicité". Avec une infrastructure qui n'est plus seulement disciplinaire, au sens de Foucault, mais de sociétés de contrôle, au sens de Deleuze, le pouvoir s'exerce non seulement au travers des institutions étatiques mais aussi et peut-être surtout dans l'intimité du quotidien, dans l'utilisation de "données comportementales" pour modifier nos comportements et "états affectifs" au travers de "stimuli algorithmiques personnalisés", qui permettent une "sédation" et une "pulsion contrôlée", selon les mots de Masutti. Selon Masutti, le pouvoir faciste "régule les pulsions de la population pour étouffer le potentiel insurrectionnel à sa source biologique", sans devoir passer par la "contrainte discursive". Un système de tri biopolitique s'instaure en parallèle, avec un processus d'épuration non plus au travers "d’une exclusion physique immédiate fondée sur des critères biologiques, mais d’une élimination socio-technique" : certains sont ainsi "cantonnés à un rôle de fournisseurs de données pour l'apprentissage des machines", voire absolument marginalisés. En prolongeant les tendances actuelles, Masutti écrit :

Sont déclarés obsolètes ou invisibilisés tous les éléments non conformes, inutiles à la reproduction du capital, ou inadaptés aux impératifs d’automatisation ou d’ubérisation.

En fait, dans le techno-fascisme, l'ennemi existentiel est avant tout "l'individu indocile", selon Masutti, que le techno-fascisme identifie et traque — indocile parce que revandiquant sa singularité psychique, épistémique, voire "son auto-détermination face aux infrastructures de captation". Cette dernière est rendue bien compliquée dans un régime techno-fasciste, où "toute tentative d’échapper à la traçabilité est traitée comme une anomalie systémique à corriger ou à neutraliser." Ce n'est pas un scénario de science-fiction pour les palestiniens, libannais et iraniens qui sont déjà ciblés par le système d'IA Lavender, comme cela est décrit de manière terrifiante dans un article de Hubert Guillaud qui s'intitule "L'IA, ça sert d'abord à faire la guerre". Dans cette revue de presse, Guillaud relate l'enquête de Yuval Abraham, selon qui ce système de ciblage par IA est "un système peu supervisé par l’humain et caractérisé par une politique permissive en matière de pertes humaines — rien de nouveau pour l'armée israëlienne, en ce qui concerne ce deuxième aspect. Ce qui est plus nouveau, c'est comment "l’armée s’est presque entièrement fiée à Lavender, qui a recensé jusqu’à 37 000 Palestiniens comme militants présumés [...] susceptibles de faire l’objet de frappes aériennes". L'armée israëlienne pratique ainsi un bombardement plus ou moins ciblé des lieux où réside toute personne dans la case "anomalie" et "rebellion", vis-à-vis du régime Israëlien. Si la guerre a déjà bien commencé au Moyen-Orient, nous devons ici en Europe vite nous organiser pour consolider des infrastructures autonomes de circulation de l'information, qui facilitent aussi la réflexion critique, à contrecourant de la surcharge attentionnelle permanente. Framasoft, acteur fondamental de la résistance au techno-fascisme, va dans cette direction, par sa contribution à une autonomisation des infrastructures de la Big Tech, par exemple au travers de son projet de cloud associatif et militant "Framaspace". Cette autonomie est loin d'être la règle générale aujourd'hui, quand on sait que, comme le rappelle Masutti dans son article :

Les technologies de surveillance américaines ont depuis longtemps envahi les structures étatiques européennes. Ainsi, elles se trouvent structurellement liées à des opérateurs privés. C’est l’exemple de l’usage des solutions logicielles de Palantir par les institutions européennes, y compris par exemple en France pour la DGSI.

Bref, il y a du travail pour se réapproprier de manière démocratique les réseaux numériques et les infrastructures de circulation de l'information et des discours, dont font maintenant partie les technologies dites "d'intelligence artificielle génératives", que la notion d'automate numérique proposée par Anne Alombert et Giuseppe Longo me semble mieux décrire. Il nous faut participer à la construction d'une autonomie authentique sur le plan technique et politique, ce à quoi travaillent les réflexions et enquêtes critiques du Monde Diplomatique que je dois dire, j'admire depuis mon adolescence, et qui en est pour beaucoup dans mes orientations actuelles. Il s'agit d'accompagner ces pensées critiques par des infrastructures soutenant la formation de collectifs et une diversification des manières de vivre, de théoriser et d'agir dans le monde actuel. C'est ce à quoi nous nous sommes attelés avec le groupe d'X-Alternative, et dans nos articles pour le Diplo - montrer que toute cette situation est loin d'être inévitable. En tant que lecteurs et lectrices du Monde Diplomatique, je sais que vous êtes les plus susceptibles de comprendre cela, et donc aussi les mieux à même de participer à des bifurcations multiples vers d'autres trajectoires dans notre rapport à la technique, à la société et à la circulation de l'information et des savoirs, vis-à-vis des "IA" actuelles.

Références bibliographiques

---

1. Si vous ne savez pas ce qu'est la ligne de commande, je vous invite à chercher "terminal" dans vos applications, vous tomberez alors dans un univers informatique magique, peuplé de créatures invisibilisées de votre interface graphique. Dans cet univers, certains sortilèges ne sont pas recommandés pour les apprentis sorciers, bien que la plupart soient globalement inoffensifs - commencez par demander à votre ordi son nom entier et réel, avec la commande uname -a. Une initiation plus conséquente est proposée ici pour les plus téméraires : https://coolguy.website/la-carte-est-le-territoire/↩