Chapitre 1
La méchanceté
C’est là un sérieux obstacle [comment dépasser le statut de sujet connaissant qui empêche, dès lors qu’on y est installée, de comprendre la méchanceté]. Est-il possible de le contourner ? J’ai tenté de le faire en procédant par allers et retours entre récit et réflexion. Le grand avantage des récits de fiction en effet, c’est qu’ils ne s’adressent pas au sujet connaissant : dans un récit, il y a toujours quelqu’un aux prises avec quelqu’un d’autre, et qui est guetté par la démesure, la confusion ou une autre manière de dépasser les bornes. Les récits nous parlent du sujet existant et ils s’adressent à lui. D’ailleurs, on consomme des récits de fiction en lisant, en allant au cinéma ou en regardant la télévision : activités auxquelles on se livre bien moins pour savoir que pour éprouver du plaisir ou, au moins, éviter l’ennui.
Pour n’être pas de l’ordre du savoir, les scènes d’un récit et leur succession n’en sont pas moins parlantes ; c’est pourquoi, si nous pouvons apprendre quelque chose d’un rêve que nous avons fait, nous pouvons également apprendre quelque chose d’un récit qui nous a laissé une forte impression - la grande différence entre le rêve et le récit de fiction étant que le premier concerne une personne singulière, alors que le second concerne des milliers, voire des millions de personnes.
Essayer de nous deviner dans le miroir énigmatique que les récits de fiction nous tendent n’est pas une tâche facile. La tentation est grande en effet d’interpréter le récit à partir d’un savoir dont nous disposons, par conséquent de l’assimiler à ce savoir et, ainsi, de ne rien en apprendre de nouveau. Cela évite aussi d’avoir à se reconnaître dans l’image éventuellement déplaisante que nous montre le miroir. Dans L’interprétation des rêves, Freud fait au contraire le pari que ses rêves savent quelque chose de lui qu’il ne sait pas. C’est ce principe fondamental que je me suis efforcé de suivre. Les récits de méchanceté auxquels je me suis intéressé, j’ai donc fait l’hypothèse que ce qui faisait que, précisément, je m’y intéressais ne résidait pas seulement en eux, mais aussi en moi. Car même lus avec attention et analysés avec méthode, ils ne m’auraient rien appris sur la méchanceté si je ne m’étais pas préparé à ce qu’ils me disent d’abord quelque chose de ma propre méchanceté. Ce qu’un récit dit du sujet existant, le sujet connaissant n’est pas en position de l’entendre.
Il s’agissait donc de m’interroger sur les impressions laissées par le récit, sur le lien invisible qui s’était noué entre les scènes qui m’avaient frappé et la manière dont moi-même j’existe. Il s’agissait ensuite d’essayer de formuler quelque chose de ce lien, de cette résonance. Et enfin de confronter ces premières formulations avec les idées que j’ai, que nous avons, sur ce qu’est l’être humain (le récit lui-même se réfère parfois à ces idées, mais celles-ci ne concordent pas pour autant avec les “pensées” que tisse obscurément sa trame narrative). Il s’agissait donc, non pas de ramener le récit à la raison, mais de faire qu’il me suggère les siennes et qu’ainsi il m’apporte une véritable aide philosophique.
François Flahaut, La méchanceté, Éd. Descartes & Cie (1998). pp.14-16 Disponible en pdf en ligne sur le site de l’auteur.
La gouvernance par les nombres
Le point de départ de Hobbes [1588-1679], le premier mot du livre [Le Léviathan, publié en 1651], est celui de « nature » : « La nature (l’art par lequel Dieu a fait le monde et le gouverne) est si bien imitée par l’art de l’homme, en ceci comme en de nombreuses autres choses, que cet art peut fabriquer un animal artificiel. » Hobbes n’est pas le premier ni les dernier à vouloir ancrer le droit dans la nature, mais il voit celle-ci comme l’expression d’une technique divine qui a permis sa fabrication et préside à son fonctionnement. L’homme, fait à l’image de Dieu, se peut et se doit d’imiter cette technique, et d’user des arts mécaniques pour fabriquer à son tour des êtres artificiels, plus précisément des « animaux artificiels, c’est-à-dire des automates, qui imitent le vivant et sont capables de se mouvoir eux-mêmes. De la fin du Moyen-Âge jusqu’à l’ère industriel, les automates ont fasciné et donné lieu à des prouesses techniques de la part des meilleurs horlogers d’Europe […].
« Étant donné, poursuit Hobbes, que la vie n’est rien d’autre qu’un mouvement de membres, dont le commencement est en quelque partie principale intérieure, pourquoi ne pourrions-nous pas dire que tous les automates (des engins qui se meuvent eux-mêmes, par des ressorts et des roues, comme une montre) ont une vie artificielle ? »
« Comme une montre » écrit Hobbes. L’automate par excellence, celui qui va occuper l’imaginaire occidentale de la fin du Moyen-Âge à l’ère industrielle, est en effet l’horloge , qui reproduit à l’échelle humaine la création du Dieu horloger. Au point de proposer à la contemplation des fidèles des horloges astronomiques dans le chœur même des cathédrales […]. La création toute entière se présente alors comme un immense mécanisme d’horlogerie, mu par un jeu de masses et d’énergie que la physique classique va s’efforcer de déchiffrer.
Parvenu à ce point, Hobbes opère un retournement : si l’homme, imitant l’œuvre divine, crée des automates, c’est parce qu’il est lui-même un automate créé par le Grand horloger : « Car qu’est-ce que le cœur, sinon un ressort, les nerfs, sinon de nombreux fils, et les jointures, sinon autant de nombreuses roues qui donnent du mouvement au corps entier, comme cela a été voulu par l’artisan. » Ce retournement est du même type que celui de nos contemporains qui, se fondant sur le fait que l’ordinateur aurait été conçu sur le modèle de certaines facultés cérébrales, en viennent à concevoir le cerveau humain sur le modèle de l’ordinateur. À la base [du Léviathan] se trouve donc, non pas une métaphore, mais une véritable anthropologie physique : celle de l’homme machine. […]
Une fois ainsi établi un continuum entre l’homme, l’animal et la machine, Hobbes franchit un dernier pas qui le conduit à concevoir l’État comme un automate fabriqué par l’homme à sa propre image : (voir p.65) […] un imaginaire normatif qui est encore largement le nôtre : celui qui se représente le gouvernement des hommes sur le modèle de la machine.
[…]
À ce modèle physique de l’horloge qui conduisait à voir dans l’homme lui-même une machine, s’est ajouté au XIXe siècle le modèle biologique de la sélection naturelle, qui a inspiré le darwinisme social et continue de sévir sous les espèces de l’ultra-libéralisme et de la compétition de tous contre tous. À ces représentations, qui ne s’annulent pas mais se superposent, s’ajoute aujourd’hui celle de l’homme programmable portée par la cybernétique et la révolution numérique. Son modèle n’est plus l’horloge et son jeu de forces et d’engrenages, mais l’ordinateur et son traitement numérique des signaux. L’ordinateur obéit à des programmes plutôt qu’à des lois. Autorisant une extériorisation de certaines facultés cérébrales de l’être humain, il ouvre une ère nouvelle dans notre rapport aux machines, aussi bien dans le contenu et l’organisation de notre travail.
Alain Supiot, La gouvernance par les nombres, Éd. Fayard (2015) – pp.60 et suivantes
Du mode d’existence des objets techniques
L’homme qui veut dominer ses semblables suscite la machine androïde. Il abdique devant elle et lui délègue son humanité. Il cherche à construire la machine à penser, rêvant de pouvoir construire la machine à vouloir, la machine à vivre, pour rester derrière elle sans angoisse, libéré de tout danger, exempt de tout sentiment de faiblesse, et triomphant médiatement par ce qu’il a inventé. Or, dans ce cas, la machine devenue selon l’imagination ce double de l’homme qu’est le robot, dépourvu d’intériorité, représente de façon bien évidente et inévitable un être purement mythique et imaginaire.
Nous voudrions précisément montrer que le robot n’existe pas, qu’il n’est pas une machine, pas plus qu’une statue n’est un être vivant, mais seulement un produit de l’imagination et de la fabrication fictive, de l’art d’illusion. Pourtant, la notion de la machine qui existe dans la culture actuelle incorpore dans une large mesure cette représentation mythique du robot. Un homme cultivé ne se permettrait pas de parler des objets ou des personnages peints sur une toile comme de véritables réalités, ayant une intériorité, une volonté bonne ou mauvaise. Ce même homme parle pourtant des machines qui menacent l’homme comme s’il attribuait à ces objets une âme et une existence séparée, autonome, qui leur confère l’usage de sentiments et d’intentions envers l’homme.
Gilbert Simondon, Du mode d’existence des objets techniques, Éd. Flammarion (2024) – pp.13 (première édition en 1958 chez Aubier)
Chapitre 2
Fragment d’un village global
Par le passé, les effets des médias étaient expérimentés de manière plus progressive, ce qui permettait à l’individu et à la société d’en amortir l’impact dans une certaine mesure. Aujourd’hui, à l’âge électronique de la communication instantanée, je pense que notre survie, tout au moins notre confort et notre bonheur, dépendent de notre compréhension de la nature même de notre nouvel environnement, car contrairement aux changements environnementaux précédents, le médium électrique transforme entièrement et presque instantanément la culture, les valeurs et les comportements. Une grande douleur et une perte d’identité découlent de ce bouleversement, et elles ne peuvent être soulagées que par une prise de conscience de ses dynamiques. Si nous comprenons les transformations révolutionnaires causées par les nouveaux médias, nous pourrons les anticiper et les contrôler ; mais si nous continuons à nous infliger cette transe subliminale, nous serons leurs esclaves.
Aujourd’hui, en raison de la formidable accélération que connaît la circulation de l’information, nous avons la possibilité d’appréhender, de prédire et d’influencer les forces environnementales qui nous modèlent — et de reprendre ainsi le contrôle sur notre destinée. Cette évolution se manifeste essentiellement par les nouveaux prolongements de l’homme et par l’environnement qu’ils engendrent, et pourtant nous avons l’illusion que le manière dont un médium est utilisé compte davantage que les effets qu’il a sur nous et avec nous. Nous nous retrouvons dans la posture de l’idiot technologique au stade de zombie.
Marshall McLuhan, Fragment d’un village global, Éd. Allia (2025) (texte original de 1968) – pp.15-17
Chapitre 3
Du mode d’existence des objets techniques
La culture s’est constituée en système de défense contre les techniques. Or, cette défense se présente comme une défense de l’homme, supposant que les objets techniques ne contiennent pas de réalité humaine. Nous voudrions montrer que la culture ignore dans la réalité technique une réalité humaine et que pour jouer son rôle complet, la culture doit incorporer les êtres techniques sous forme de connaissances et de sens des valeurs. La prise de conscience de modes d’existence des objets techniques doit être effectué par la pensée philosophique qui se trouve devoir emplir en cette œuvre un devoir analogue à celui qu’elle a joué pour l’abolition de l’esclavage et l’affirmation de la valeur de la personne humaine. […]
La culture se conduit envers l’objet technique comme l’homme envers l’étranger quand il se laisse emporter par la xénophobie primitive. La machine est l’étrangère, c’est l’étrangère en laquelle reste enfermé de l’humain, méconnu, matérialisé, asservi, mais restant pourtant de l’humain. La plus forte cause d’aliénation dans le monde contemporain, réside dans cette méconnaissance de la machine, qui n’est pas une aliénation causée par la machine, mais par la non connaissance de sa nature et son essence, par son absence du monde des significations, et par son omission dans la table des valeurs et des concepts faisant partie de la culture.
Gilbert Simondon, Du mode d’existence des objets techniques, Éd. Flammarion (2024) – pp.11-12 (première édition en 1958 chez Aubier)
L’attention prédominante et exclusive donnée à une machine ne peut conduire à la découverte de la technique, pas plus que la relation avec une sorte unique d’étrangers ne peut permettre de pénétrer l’intériorité de leur mode de vie, et de la connaître selon la culture. Même la fréquentation de plusieurs machines ne suffit pas, pas plus que la fréquentation successive de plusieurs étrangers ; ces expériences ne conduisent qu’à la xénophobie ou à la xénophilie, qui sont des attitudes opposées mais également passionnées. Pour considérer un étranger à travers la culture, il faut avoir vu jouer hors de soi, objectivement, le rapport qui fait que deux êtres sont étrangers l’un par rapport à l’autre. De même, si une technique unique ne suffit pas à donner un contenu culturel, une polytechnique ne suffit pas non plus ; elle n’engendre que tendance à la technocratie ou refus des techniques prises en bloc.
Gilbert Simondon, Du mode d’existence des objets techniques, Éd. Flammarion (2024) – p.219 (première édition en 1958 chez Aubier)
Psychosociologie de la technicité
Les constructeurs et vendeurs savent capter cette faim de magie qui existe dans les groupes humains selon les situations où les individus se trouvent engager. La crainte du danger, l’accablement devant le travail, la crainte de l’échec en affaires ou en amour, le désir de supériorité, n’ont pas nécessairement une signification collective mais bien individuelle. C’est la tendance de l’individu qui est à l’origine de cette adjonction de magie à l’objet technique. Tout particulièrement, on accuse souvent l’objet ménager de mécaniser la vie. Mais en fait, c’est la femme en situation ménagère qui demande à une machine à laver ou à une autre machine de la remplacer dans une tâche pénible ou dont elle craint de s’acquitter mal.
Des récits féeriques nous présentent les ménagères des temps passés accablées de travail, s’endormant à la besogne, vaincues par le découragement, mais une fée veille et les fourmis ou les gnomes viennent travailler pendant la nuit. Au réveil, tout est net, tout est prêt. La machine à laver moderne est magique dans la mesure où elle est automatique et non point dans la mesure où elle est une machine. C’est cet automatisme qui est désiré parce que la ménagère désire près d’elle pour lui donner courage une autre ménagère obscure et mystérieuse qui est l’esprit bienveillant de la buanderie comme le réfrigérateur est celui de la cuisine moderne. « Moderne » signifie magique, pour le subconscient individuel de l’utilisateur. »
Gilbert Simondon, extraits de Psychosociologie de la technicité (1960-1961) cités dans l’émission radio Les chemins de la philosophie Objets trouvés (3/4) : la boîte à outils de Gilbert Simondon diffusée sur France Culture, Les chemins de la philosophie, le 17/04/2013
Persistance du merveilleux
Il est important de considérer le contexte temporel, puis le milieu dans lesquels les imaginaires se déploient. De ce point de vue, les années qui ont suivi la Seconde Guerre mondiale, période de déploiement de technologies informatiques insaisissables, à l’usage relativement abscons et sans commune mesure avec les objets antérieurs, sont sans équivalent. L’incarnation dans des personnages déjà connus permet alors à la fois de donner du sens et de traduire pour un public non spécialiste ces concepts en expressions évocatrices, lesquelles rendent compte de nouvelles capacités d’autonomie de la machinerie numérique. C’est peut-être la raison pour laquelle on trouve tant de références aux animaux. Le fait, par exemple, de parler de virus qui se reproduisent comme leur pendant organique permet de les désigner en tant qu’entités agissantes. En personnifiant le mode opératoire de programmes et d’outils, la langue leur attribue implicitement des attributs et des capacités d’action. Et, ce faisant, elle implique toute une gamme de relations, de manières d’interagir avec cette entité et de s’en occuper. Ce recours à une terminologie associée à des êtres animés, en particulier pour les bugs, les virus et les vers, permet également aux discours de l’industrie informatique de s’appuyer sur l’autorité des sciences naturelles pour décrire ces nouveaux risques et légitimer leur intervention […].
Cette connotation vitaliste ne se limite pas à de simples références animales. La convocation de diverses créatures du merveilleux souligne par exemple la singularité des objets numériques et des risques qu’ils portent. Elle permet d’abord de souligner la démesure et les proportions gargantuesques de certains de ces programmes, comme on a pu le voir avec le Basilic de Roko ou les Shoggoths tentaculaires. Mais surtout, elle rend compte de leur comportement surnaturel ou aberrant. Un « daemon » informatique qui fonctionne en arrière-plan est plus facilement compréhensible quand on l’associe à l’idée d’un petit esprit invisible et agissant. L’expression de « centaure » est aussi une façon de souligner les nouveaux pouvoirs cognitifs accessibles aux êtres humains lorsqu’ils collaborent avec des systèmes d’intelligence artificielle.**
Spécifique d’une phase transitoire de domestication, l’emploi de cette terminologie plus vive et animée rappelle d’ailleurs le recours aux métaphores magiques fréquentes dans l’histoire de l’informatique, notamment lorsqu’il s’est agi de susciter l’intérêt du grand public pour les nouveaux objets numériques que furent l’ordinateur ou le smartphone. À chacune de ces étapes, la langue fut un moyen de suggérer l’autonomie relative de ces machines au service de leurs utilisateurs — à telle enseigne que l’on peur se demander si l’emploi de métaphores fabuleuses ne serait pas une manière d’entretenir une certaine méconnaissance. Elles témoignent dans tous les cas d’une relation asymétrique entre les concepteurs et les utilisateurs, presque d’une forme d’infantilisation dans la mesure où elles renforcent le manque voire la rétention d’informations quant au fonctionnement de ces objets numériques. Le « magicien », jeune entreprise ou organisation multinationale, tire les ficelles, reste masqué, et on n’a d’autre choix que de lui faire confiance.
Nicolas Nova, Persistance du merveilleux, Éd. Premier Parallèle (2025) – pp.178-180
La gouvernance par les nombres
Les big data ne sont pas des connaissances objectives dans lesquelles il suffirait d’aller puiser, comme dans des mines de houille (data mining), nous épargnant ainsi tout effort réflexif. Comme les algorithmes qui les exploitent, ce sont des objets construits, qui reposent sur des opérations de qualification masquées par la force dogmatique des nombres, et dont la compilation repose sur le travail peu ou pas rémunéré d’innombrables petites mains. Il faut donc pouvoir les déconstruire pour les comprendre et les soumettre à la critique rationnelle nécessaire à leur usage avisé.
Alain Supiot, La gouvernance par les nombres, Éd. Fayard (2015) – pp.14-15
Chapitre 4
De la bêtise numérique
Même si pour l’instant, les utilisateurs des automates computationnels ont tous appris à parler, à lire et à écrire, il est nécessaire de s’interroger sur les conséquences de l’extension de l’usage de ces dispositifs génératifs dans les années à venir. Au siècle dernier, le compositeur Béla Bartók s’interrogeait sur les enjeux de « l’extension de l’usage de la radio et du gramophone » pour la pratique de la musique. Selon lui, la possibilité d’entendre de la musique sans avoir à en jouer risquait de pousser les individus à renoncer à l’apprentissage de la musique. « Pourquoi me fatiguer à apprendre la musique alors que j’ai là des machines qui mettent à ma disposition n’importe quel genre de musique à n’importe quel moment ? » Pour ceux-là, soutient Bartók, « la radio est assurément dommageable » : « ils ne savent pas à quel point l’effet de la musique est différent sur celui qui connaît les partitions et sait les jouer lui-même, si maladroitement que ce soit ». Même si Bartók reconnaissait que la radio pouvait se révéler très instructive « pour ceux qui assistent régulièrement aux concerts et « qui ne renoncent pas à la pratique musicale active », il s’inquiétait de la perte de connaissances et pratiques musicales que cette technologie pouvait entraîner.
De même, […] Pourquoi se fatiguer à apprendre à écrire des textes, à produire des images, à jouer de la musique et réaliser des films, alors que j’ai là des machines qui génèrent n’importe quel genre de contenus symboliques à n’importe quel moment ? Les automates computationnels deviendront tout aussi dommageables que la radio à l’époque de Bartók, car l’effet d’un texte, d’une musique, d’une image, d’un film est évidemment différent sur celui qui connaît ces techniques et sait les pratiquer que sur celui qui ne sait produire que des « prompts » adaptés.
Anne Alombert, De la bêtise numérique, Éd. Allia (2025) – pp.59-61