Ils ont chacun leur spécificité : le site académique recense les ressources afin de les combiner et en créer de nouvelles. Ces ressources sont ainsi reconnues par l’institution. M@gistere rassemble synthétiquement les ressources de tous les sites académiques. Sa tâche est de contribuer à un fonds de ressources complétant ainsi le travail initié par Eduscol recensant et créant des ressources à des fins de formation des enseignants, validées par nulle autre institution que l’école elle-même.
M@gistere Créteil vous propose ainsi des parcours sur le lien https://magistere.education.fr/ac-creteil/course/view.php?id=11780
Problématiques de l’enseignement de la philosophie. Ce lien vous donnera accès à des ressources ordonnées pour l’EMC et HLP
Pour s’inscrire sur M@gistere contacter M Le Coquil, I.A-IPR
Pour suivre sur la chaîne Twitch du Projet Europe, Éducation, École, suivre le lien : https://projet-eee.eu/diffusion-en-direct-564/.
Pour participer aux échanges en visioconférence, demander l’inscription à : europe.education.ecole@gmail.com Contact : Czeslaw MICHALEWSKI – E-mail : europe.education.ecole@gmail.com
Six leçons de pédagogie philosophique sur l’Intelligence Artificielle
QUE FAIRE FACE A L’USAGE PAR DES ELEVES D’AGENTS CONVERSATIONNELS EN LIGNE POUR REDIGER LEURS COPIES DE PHILOSOPHIE ? -
Eric Le Coquil, I.A-I.P.R de philosophie des Académies de Créteil et d’Orléans-Tours
LEÇON N°1 : Les problèmes pédagogiques posés par les agents conversationnels en ligne dans un enseignement de philosophie
Le logiciel ChatGPT (Chat-Generative-Pretrained-Transformer), mis en ligne par l’entreprise OpenIA à la disposition du grand public le 30 novembre 2022, ne cesse depuis cette date de défrayer la chronique. Exploitant les technologies d’Intelligence Artificielle avancées, cet outil numérique est entraîné à produire, sur requête et à partir de la synthèse informationnelle d’un très grand nombre de données récoltées sur l’Internet (antérieurement au 31 décembre 2021) des textes imitant parfaitement la qualité rédactionnelle d’un scripteur humain. Le 6 février 2023, l’entreprise Google annonçait à son tour le lancement prochain de son propre agent conversationnel en ligne, Bard, d’abord dans un cadre expérimental, puis en libre accès dans un second temps, ainsi que l’intégration à terme de ce logiciel à son moteur de recherche [1]. Le 24 février 2023, Meta, la société mère de Facebook, Whatsapp et Instagram, lançait également son modèle de langage, LLaMA, cependant réservé, sous conditions, à un public restreint de chercheurs. En conséquence d’une fuite industrielle du code source de LLaMA, des agents conversationnels open source ont commencé à faire leur apparition à partir du printemps 2023 : on peut citer par exemple KOALA, mis au point par des chercheurs de l’université de Berkeley aux États-Unis, entraîné sur une base de données libres de droits, avec des performances proches de celles de ChatGPT [2].
Dès la parution des premiers articles de presse faisant état de ces événements, des professeurs de philosophie ont fait part à leurs Inspecteurs d’Académie - Inspecteurs Pédagogiques Régionaux de leurs vives inquiétudes concernant l’usage que certains élèves des classes de Première et Terminale pourraient être tentés de faire de ce nouveau type d’outils numériques pour réaliser les travaux en temps libre qui leurs sont demandés dans le cadre des enseignements d’Humanités, Littérature et Philosophie et de Philosophie de tronc commun. D’autres collègues ont fait état des résultats des essais d’usage de ChatGPT qu’ils ont eux-mêmes réalisés, et de leur stupeur au vu de l’excellente qualité rédactionnelle de ses productions, jugées par certains supérieures à cet égard à celles dont est capable un nombre significatif de leurs élèves. D’autres professeurs de philosophie ont en outre d’ores et déjà signalé de premiers cas de devoirs "à la maison" rédigés par les élèves au moyen de ChatGPT, et fait part de leur embarras face à ce phénomène nouveau qui, étant donné les performances rédactionnelles de l’outil, leur pose un double problème : le problème du repérage des usages qui en sont faits par les élèves ; le problème des conséquences possibles, tout à la fois de ces usages et de la difficulté de leur repérage, sur l’évaluation et la notation des travaux des élèves.
Compte tenu de la nature, de la puissance de ces nouveaux outils numériques et des performances dont ils sont capables, l’irruption des agents conversationnels en ligne est vécue par certains professeurs de philosophie comme venant sérieusement aggraver le problème posé depuis environ vingt-cinq ans par les usages que font les élèves des ressources disponibles sur l’Internet pour la réalisation de leurs travaux en temps libre, et tout particulièrement par la pratique du "copier/coller" de corrigés de dissertation et d’explications de texte proposés notamment par des sites d’aide aux devoirs, gratuits ou payants. Bien plus, certains professeurs expriment le sentiment d’assister, avec l’arrivée des agents conversationnels en ligne, à un changement tout à la fois d’échelle et de nature de ce problème, craignant que les élèves ne disposent désormais, avec ces IA en libre accès, de moyens de faire écrire leurs devoirs dont les professeurs se seraient plus en mesure de déceler l’usage au vu de l’illusion presque parfaite que donnent leurs productions d’avoir été écrites par un rédacteur humain. Ces craintes viennent par conséquent renforcer une tendance, à laquelle un nombre significatif de professeurs de philosophie ont déjà cédé, à renoncer à donner aux élèves des devoirs à réaliser chez eux, refusant d’être mis en situation d’avoir à "corriger des corrigés d’Internet", tendance qui prive cependant les élèves d’une situation d’apprentissage - le "devoir à la maison" - pédagogiquement riche (elle est propice aux recherches et aux lectures et patiente (elle se fait en temps libre, ce qui permet à chacun de travailler à son ruthme), introduisant ainsi dans le dispositif de formation intellectuelle des élèves une grave lacune valant pour eux préjudice, comme ne cessent de le déplorer les Inspections Générale et Pédagogique Régionale de Philosophie).
Toutefois, il y a tout à fait lieu de se demander si de telles craintes sont ou non réellement fondées en l’état actuel de la situation. Faut-il redouter, avec les agents conversationnels en libre accès sur l’Internet, un changement d’échelle et de nature de l’usage par les élèves des ressources et outils numériques dans leurs copies, en particulier, s’il faut parler net, de leurs usages à des fins de tricherie ou de fraude ? Les professeurs de philosophie sont-ils démunis, dépourvus de réponses pédagogiques efficaces, de sorte qu’il leur faudrait considérer le combat comme perdu d’avance et s’en tenir, tout au plus, à des mesures d’interdiction et de répression, dont on peut soupçonner cependant qu’elles risqueraient de montrer bien vite leurs limites ?
Bien évidemment des philosophes auront beau jeu de dénoncer les agents conversationnels en ligne comme "une mascarade" (puisque, de toutes façons, en fait ils ne pensent pas) [3] ou de dénoncer leur "faillite épistémologique" (puisque, de toutes façons, en fait ils ne sont pas fiables) [4], ou encore de souligner qu’ils sont en réalité complètement idiots [5] - ce qui est sans doute absolument vrai, mais il ne suffit pas le constater ou de l’observer : encore faut-il pouvoir, profondément, ce qui veut dire techniquement, l’expliquer. Et puis de quoi s’agit-il exactement ? Idiotie, naïveté, stupidité, bêtise : ces différents termes ne sont pas équivalents. Ces prises de position critiques ne manquent certes pas de légitimité : tout au plus de précision, sans doute parce qu’elles procèdent le plus souvent d’une attitude d’indignation, suscitée par des affects d’inquiétude et de colère - on le perçoit très nettement dans le ton employé - face à la puissance redoutable et aux effets catastrophiques possibles des agents conversationnels en ligne. Il n’est jamais facile, devant une innovation majeure et les risques qu’elle comporte, de conserver son sang-froid. Depuis l’invention de l’Internet, de l’ordinateur, de la télévision, du télégraphe, des chemins de fer, de la machine à vapeur, de l’imprimerie, du livre, de la métallurgie du fer, de la métallurgie du bronze, de l’écriture, de la charrue et peut-être même de la pierre taillée, la panique technique est une très vieille affaire.
Il n’empêche : les agents conversationnels existent, ils sont diffusés, accessibles aux élèves et ces derniers ne se privent pas de les utiliser. Les professeurs de philosophie, confrontés à ces usages très réels et très concrets, ne sauraient se contenter quant à eux de prises de positions de principe. La question décisive est plutôt : que faire ? Peut-on faire quelque chose, et si oui quoi ? Questions indissociablement philosophiques et pédagogiques.
Je soutiendrai, dans les six leçons qui suivent, qu’une approche pessimiste ou défaitiste du problème est à la fois injustifiée et inappropriée, que les professeurs de philosophie disposent de moyens pédagogiques bien ajustés et puissants pour faire face très efficacement aux conséquences sur leurs enseignements de l’apparition des IA en libre accès et de leur éventuel usage par des élèves dans le cadre de leur travail scolaire.
Pour le montrer, je tirerai tout d’abord de quelques éléments précis d’information, de connaissance et d’analyse touchant la nature et la puissance réelles de l’outil, un ensemble de réflexions relatives à ce qui constitue la véritable substance d’une copie de philosophie et par conséquent l’objet de son évaluation (leçon 2). De là, je tâcherai de déduire les conséquences qui s’ensuivent touchant le renouvellement supposé du problème de ce que les professeurs de philosophie interprètent et vivent dans leurs classes comme des conduites de tricherie de la part de certains élèves, conséquences dont je m’emploierai à évaluer la portée pédagogique à la lumière de quelques considérations relatives à l’histoire des institutions scolaires et de la pédagogie (leçon 3). A partir de cette reconfiguration du problème, je développerai quelques éléments de réflexion philosophique sur les rapports qu’entretiennent les agents conversationnels avec ce que la tradition philosophique a conceptualisé sous la dénomination de sens commun (leçon 4). De cette critique négative, formulée en termes de manque ou de défaut de sens commun, je tenterai de passer à une critique positive, formulée en terme d’excès, pour montrer que cet excès coïncide avec ce que l’on peut conceptualiser comme des formes de Bêtise Artificielle, comprise comme corrélat irréductible de toute Intelligence Artificielle (leçon 5). A la lumière de ces analyses, je formulerai un ensemble de recommandations et de propositions pédagogiques concrètes, qui permettront aux professeurs de philosophie de prendre en compte l’existence des agents conversationnels dans l’apprentissage et la pratique par les élèves des exercices écrits dans leurs enseignements de philosophie (leçon 6).
On trouvera enfin, dans le dernier article, un très riche ensemble de ressources numériques rassemblées par notre collègue Maryse Emel, IAN Philosophie de l’académie et Créteil et webmestre du site Académique de Philosophie de Créteil. La consultation et l’étude de ces ressources permettront aux collègues de philosophie qui souhaiteront s’y plonger, ainsi qu’aux élèves qui consulteraient notre site et voudraient s’y intéresser, de développer une réflexion approfondie relative aux problèmes et aux enjeux philosophiques soulevés par l’Intelligence Artificielle, ainsi que des propositions de mise en œuvre pédagogique dans les cours et leçons dispensés en classe.
LEÇON N°2 : Éléments pour une analyse technique et une critique des agents conversationnels en ligne : leur nature, leurs possibilités, leurs limites
Il convient tout d’abord de se donner une compréhension précise et exacte de ce que sont les agents conversationnels en ligne, de leurs principes techniques de fonctionnement, partant de l’étendue et des limites de leurs possibilités. Les liens ci-dessous, dont la consultation est recommandée avant la lecture de la suite de cette leçon, pourront y aider le lecteur.
1. Comprendre les fondements technologiques et scientifiques de l’IA générative - Quelques liens utiles :
Les liens suivants permettront au lecteur de se faire une idée précise des fondements technologiques et scientifiques de l’apprentissage profond (Deeplearning) sur lesquels repose l’Intelligence Artificielle générative qui anime les agents conversationnels en ligne.
- Une vidéo dans laquelle un Data-Scientist explique de façon très claire les bases théoriques (mathématiques) du deeplearning, qui est au principe de l’Intelligence Artificielle, ainsi que leur développement historique : https://www.youtube.com/watch?v=XUFLq6dKQok
2. Qualités d’expression ou qualités de réflexion : selon quels critères évaluer une copie de "philosophie" produite par un tchatbot ?
Il serait facile, à première lecture des productions « philosophiques » de ChatGPT3, de céder à un animisme ou à un anthropomorphisme irréfléchis, portant à surestimer ses possibilités et ses performances réelles. Comme le montre très bien cette vidéo, il est pourtant parfaitement clair, au regard d’une analyse technologique précise et bien informée, qu’un dispositif numérique tel que ChatGPT ne pense pas, ne réfléchit pas philosophiquement. Il fonctionne selon les principes d’un tchatbot ou agent conversationnel, fondé sur un modèle de langage, une description statistique qui modélise la distribution de séquences de mots dans une langue naturelle : il est ainsi capable de prédire des chaînes langagières, selon le degré de probabilité de succession des termes et syntagmes dans le langage ordinaire, dans un contexte rédactionnel et informationnel prescrit (la commande qui lui est adressée) sur la base de quantités très importantes de données, dans les limites posées par des dispositifs de méta-contrôle visant à essayer de « moraliser » les productions de l’outil, mais que l’on peut assez facilement contourner ou prendre en défaut. Un agent conversationnel n’est pas un sujet.
On ne peut donc s’effrayer vraiment de l’irruption des agents conversationnels en ligne que si l’on présuppose la réductibilité de la pensée philosophique à la qualité rédactionnelle formelle des constructions langagières qui l’expriment.
Au contraire, si l’on est vraiment attentif à la distinction entre expression langagière et construction de la pensée, on doit pouvoir toujours faire la différence entre un texte qui imite simplement un langage philosophique, donc assez convenu sur le fond, et un texte qui réalise un véritable travail de pensée. Si des élèves utilisent une IA de prédiction langagière, cela ne leur garantit nullement de produire un bon devoir de philosophie, ni même un devoir simplement correct sur le fond, et c’est tout ce qu’il nous faut considérer.
Une copie très bien écrite peut être entièrement vide de philosophie. Tous les professeurs de philosophie le savent d’expérience. Une dissertation philosophique ne saurait être corrigée et évaluée exclusivement ni même principalement du point de vue de ses qualités d’expression et d’argumentation : ce serait là justement agir comme si elle pouvait n’être que la production d’un agent conversationnel. Des professeurs de philosophie tentés d’attribuer une excellente note à une copie produite par un agent conversationnel devraient par conséquent interroger très sérieusement la nature et la validité des critères d’évaluation qu’ils appliquent en réalité aux copies qu’ils corrigent. Ce serait en effet assurément le signe que leurs exigences intellectuelles et philosophiques pour la formation de leurs élèves ne seraient pas, dans cette hypothèse, suffisamment élevées, ou à tout le moins qu’elles ne seraient pas correctement ajustées.
Aussi le sentiment, exprimé par des professeurs de philosophie, que l’agent conversationnel produit des textes dont la qualité rédactionnelle dépasse celle des productions écrites de beaucoup de leurs élèves, ainsi que l’attitude consistant à s’émouvoir du risque que ces mêmes élèves, exploitant astucieusement cette illusion, substituent par ruse à ces dernières des productions d’agents conversationnels dont la qualité philosophique serait par voie de conséquence indiscernable de celle des productions de très bons élèves, témoigneraient-ils, par un côté, d’un niveau d’analyse pédagogique dont la valeur critique paraîtrait gravement insuffisante, en ce que ce sentiment et cette attitude se situeraient dans une perspective sous laquelle ils ne parviendraient pas à "minimiser le prix et le poids de la forme et de la "manière" ou, à tout le moins [à] imposer une prise en compte réglée et explicite des qualités d’expression et d’exposition" [6]. Le point de difficulté, en l’espèce, ne se trouverait manifestement pas du côté d’un "machiavélisme" supposé des élèves, mais il se situerait plutôt du côté d’un déficit de réflexion pédagogique et philosophique des professeurs-correcteurs, en raison du caractère très incertain et très fragile, philosophiquement parlant, des critères d’évaluation qu’ils entendraient réellement appliquer, sur une telle base, dans la correction de leurs copies.
Par un autre côté cependant, leur sentiment d’inquiétude témoignerait tout aussi bien d’une conscience diffuse du rôle central que peut jouer, sociologiquement parlant, l’intégration des formes d’expression dans l’acquisition des schèmes de pensée propres à la discipline qu’ils enseignent, leur inquiétude étant précisément que la manifestation de ces formes d’expression dans des copies produites par des agents conversationnels ne dissimule de façon parfaitement efficace et complète un défaut total d’acquisition par les élèves des schèmes de pensée que ces formes véhiculent et expriment ordinairement dans les copies (particulièrement dans les copies jugées les meilleures) [7]. Cette conscience diffuse porterait en outre indubitablement les traces pour ainsi dire archéologiques [8], dans les représentations des professeurs, du processus historique d’élaboration du genre scolaire de la dissertation de philosophie, qui fut tout d’abord une "composition française sur un sujet de philosophie" (par opposition à la dissertation de philosophie latine), dans laquelle la valeur de l’expression pouvait constituer un critère prépondérant [9].
En revanche, des professeurs de philosophie confrontés aux usages par les élèves d’agents conversationnels pourraient former de très légitimes inquiétudes touchant les risques d’altération profonde, voire de destruction complète des capacités de pensée de ces mêmes élèves, plus précisément de leurs capacités de réflexion, par défaut d’exercice ou d’entraînement, en raison de l’abdication de celles-ci au profit des applications. Ces inquiétudes trouveraient des motifs tout à fait sérieux et solides dans les effets massifs de restructuration - ou de déstructuration - psychique des capacités de lecture observables chez les utilisateurs intensifs de l’Internet, que la psychologie cognitive et les neurosciences sont désormais en mesure de commencer à documenter [10].
Si par conséquent une bonne dissertation de philosophie est précisément celle qu’en l’état actuel de la technologie une IA n’aurait jamais pu écrire, alors les professeurs de philosophie disposent, avec cette observation, d’un critère ou d’un ensemble de critères d’évaluation possibles des productions de leurs élèves. Je reviendrai sur ce point dans la suite de mon propos.
Tout l’enjeu est donc pour le correcteur de se mettre toujours en mesure de distinguer qualité de l’expression et qualité de l’articulation des idées, de façon à ne jamais tomber dans l’écueil qui consisterait à ne corriger, à n’évaluer et à ne noter les copies qu’en fonction de critères relevant exclusivement de leurs qualités formelles ou rhétoriques eu égard à l’expression française ou à la simple capacité d’argumentation.
L’accès donné aux élèves à des agents conversationnels en ligne réactive ainsi la question de savoir ce qu’il y a lieu d’évaluer dans une copie de philosophie. L’agent conversationnel est capable de produire des textes très bien rédigés : fort bien. Toutefois une dissertation philosophique ne se réduit en aucun cas à un exercice de simple expression écrite ou de rhétorique. Les reproches qui lui ont souvent été faits à cet égard [11], sont des reproches injustes. Si la qualité de l’expression écrite est expressément requise, d’une part, et si le travail sur la qualité de l’expression écrite, trop souvent présupposée par les professeurs de philosophie comme un acquis de l’enseignement de français et comme un attendu, constitue tout au contraire une voie d’entrée pédagogique à exploiter résolument dans les pratiques de classe pour faciliter l’acquisition par les élèves des schèmes de pensée constitutifs de la discipline philosophie, mais très insuffisamment développée dans la pratique effective de très nombreux professeurs qui ne font que très rarement réaliser à leurs élèves des travaux quotidiens de production écrite, d’autre part, la qualité intrinsèquement philosophique d’une copie ne se réduit cependant jamais à ses qualités d’expression. La réflexion philosophique est en effet dans son essence articulation des idées, soit que cette articulation produise entre elles des rapports de tension, dont la mise en évidence constitue la position des problèmes philosophiques, soit qu’elle permette, par un travail de désarticulation qui a nom analyse, et de ré-articulation qui a nom synthèse, des effets de résolution de ces tensions idéelles, mouvement dont le concept de dialectique, dans sa version platonicienne, donne l’une des définitions et des interprétations possibles des principes méthodiques : art "des divisions et des rassemblements" (τῶν διαιρέσεων καὶ συναγωγῶν) [12]. C’est par la seule maîtrise de cet art - quelque interprétation qu’on en donne, platonicienne ou autre - que penser philosophiquement et parler - ou écrire - peuvent authentiquement coïncider : "j’y vois le moyen d’apprendre à parler et à penser" (ἵνα οἷός τε ὦ λέγειν τε καὶ φρονεῖν ; ibid.) ; le connecteur logique de conjonction "et" (καὶ) doit être ici compris en son sens le plus fort, en ce qu’il enveloppe tout un monde de relations logiques et spéculatives possibles.
L’apprentissage de l’art dialectique cependant n’est pas sans conditions pédagogique : il suppose l’apprentissage et la maîtrise préalable et nécessaire d’autres types de connaissance qui en ouvrent l’accès. Il suppose ainsi tout à fait essentiellement, pour pouvoir être exercé, l’acquisition de connaissances et de capacités de raisonnement que forment d’autres disciplines, et notamment les sciences, comme le souligne Platon avec beaucoup d’insistance dans le livre VII de la République, lorsqu’il construit le parcours d’éducation que doit suivre l’aspirant philosophe pour parvenir jusqu’à la maîtrise de la dialectique. Ce parcours est essentiellement constitué par l’apprentissage des sciences constituées, et notamment des sciences mathématiques dans toutes leurs spécialités connues à l’époque de Platon : arithmétique et logistique, géométrie plane, stéréométrie, harmonie et musique [13]. Or ce qui caractérise d’une manière tout à fait frappante les IA génératives dans leur état de développement technique actuel, telles qu’elles se concrétisent dans les tchatbots en ligne, c’est qu’elles buttent radicalement sur le raisonnement mathématique.
3. "Que nul n’entre ici s’il n’est géomètre" : tchatbot et raisonnement scientifique
(Paragraphe à venir)
4. Le tchatbot est-il dialecticien ?
L’enjeu de notre affaire est donc de savoir si un mouvement authentiquement dialectique - il faut bien, à la fin, appeler les choses par leur nom - habite ou non les productions prétendument "philosophiques" du tchatbot. Quelques essais montrent très rapidement que l’agent conversationnel s’avère totalement incapable, lorsqu’on lui soumet un intitulé de sujet de dissertation à deux ou plusieurs notions, d’en construire la moindre articulation, mais qu’il se contente de juxtaposer des considérations relatives successivement à l’une et à l’autre, sans jamais produire de véritable mise en rapport. De même on observe, lorsqu’on demande au tchatbot de produire successivement les différentes parties d’une dissertation (la commande formulée étant, pour chacune, de développer une argumentation ou au contraire une critique exemplifiées et instrumentées par des références à des auteurs) que l’outil tantôt présente de simples opinions comme s’il s’agissait de connaissances avérées, tantôt juxtapose des thèses philosophiques ou des connaissances comme s’il s’agissait de simples opinions. Or une dissertation de philosophie ne consiste justement jamais à présenter simplement de façon correctement rédigée une succession de thèses ou d’opinions répondant à un sujet donné. C’est que les divisons et les rassemblements dont il s’agit en tout mouvement de pensée dialectique ne sont jamais des opérations purement formelles : ils n’ont rien d’artificiel mais constituent les actes d’une intelligence philosophique vivante, raison pour laquelle sans doute une IA rencontre les plus grandes difficultés à les imiter.
Le fait que des élèves puissent envisager d’utiliser un agent conversationnel en ligne pour écrire leurs devoirs à leur place, et que certains professeurs puissent s’en inquiéter au point de craindre que ces productions puissent faire illusion, témoigne ainsi, chez les uns et les autres, d’un contresens radical concernant ce qui se joue véritablement pour eux dans l’enseignement de philosophie que les seconds suivent et que les premiers dispensent. Ce contresens partagé tient à la question de savoir ce qu’il s’agit de faire exactement avec les élèves, ou d’apprendre à faire aux élèves dans un tel enseignement. À cet égard, l’idée qu’il n’est pas d’enseignement de philosophie qui ne soit problématisé prête à confusion. Il est en effet tentant de vouloir en tirer une définition de la philosophie comme activité de position et de résolution de problème. Or une telle définition coïncide malencontreusement avec la définition que donnent de l’intelligence de nombreux spécialistes des sciences cognitives ou de psychologie expérimentale : elle consisterait en une capacité de résolution de problèmes. Et l’on sait que c’est précisément sur la base de cette même définition de l’intelligence que certains croient voir dans l’Intelligence Artificielle un phénomène situé exactement sur le même plan de réalité que celui de l’intelligence humaine, et partant un risque de submersion, de dépassement et de domination de la seconde par la première. A ce raisonnement on opposera trois objections.
Premièrement, il n’est pas certain que la définition générale de l’intelligence, aussi bien humaine qu’artificielle, qui justifie et rend possible la comparaison des deux, soit une définition légitime, comme le montre Daniel Andler dans un livre récent [14]. La critique de cette définition peut tout à fait conduire à récuser purement et simplement la pertinence même d’une comparaison entre intelligence artificielle et intelligence humaine, comme le fait Daniel Andler. Je ne développe pas cette question théorique et invite simplement le lecteur à se reporter directement à ces travaux.
Deuxièmement, caractériser la philosophie comme se résumant à une activité de résolution de problèmes philosophiques constitue une définition contestable et même fausse de la philosophie en ce qu’elle confond très manifestement la fin et les moyens. Que l’activité de position et de résolution d’un problème puisse tenir lieu de définition de la dissertation, on peut tout à fait l’admettre. Toutefois, même si la tradition pédagogique de la discipline philosophie lui a reconnu de longue date un caractère éminent qui explique son maintien comme l’exercice majoritaire dans le format d’examen (deux sujets sur les trois) et comme exercice décisif pour la formation des élèves durant l’année scolaire, la dissertation n’est pour autant le tout ni de l’écriture ni de la pensée philosophiques en général. Elle n’est au fond qu’une forme pédagogique et scripturale parmi d’autres possibles, que sont, par exemple, la leçon de philosophie, qui lui est voisine mais concerne, quant à elle, le professeur, l’explication de texte philosophique, depuis le milieu des années 1960 et, depuis une période récente, l’essai et l’interprétation philosophiques. Bref : elle est un moyen de l’apprentissage de la philosophie mais non sa fin dernière, l’enseignement de philosophie n’ayant nullement pour objectif ultime d’apprendre simplement aux élèves à faire des dissertations, de les transformer en machines à disserter. Ce qui se joue dans un enseignement de philosophie, et à vrai dire, en réalité, au cœur même de l’exercice de dissertation, c’est tout autre chose et bien plus que le développement d’une supposée "compétence" ou "capacité" à poser et à résoudre des problèmes. Ce qui s’y joue, ce n’est pas la production, à destination du professeur, du savoir philosophique extériorisé résultant , qui ne serait qu’un savoir mort. Tout au contraire, c’est la possibilité pour eux de mettre à l’épreuve leur propre pensée, de la constituer véritablement comme la leur, une pensée en première personne : c’est l’institution même de l’élève comme sujet véritablement pensant, l’auto-institution du sujet philosophant par lui-même, et avec lui de la pensée comme exercice de la liberté. C’est en quoi la dissertation et l’explication de texte (l’essai et la question d’interprétation pour l’enseignement de spécialité Humanités, Littérature et Philosophie) sont des exercices, au sens le plus fort du terme.
Troisièmement, il faut souligner que le traitement de problèmes philosophiques n’est vraisemblablement pas réductible à un schéma algorithmique simple comportant des données d’entrée, des opérations de traitement ou de résolution, et des solutions de sortie. Une caractéristique première des problèmes philosophiques est en effet que leurs termes ou données de départ, à supposer que cette expression en constitue une caractérisation véritablement adéquate (ce qui pourrait toujours être discuté) ne sont pas antérieures ou pré-données mais que le processus de résolution les transforme nécessairement - c’est ce que les professeurs de philosophie appellent spécifiquement : faire progresser la réflexion - sans que cette transformation soit réductible à un simple calcul d’approximation ou d’optimisation basé sur l’usage d’une fonction-coût destinée à réduire l’écart entre les données d’entrée et un modèle de réponse attendue, tel qu’il est au contraire à l’œuvre dans le processus dans le deeplearning ; mieux encore, que tout ou partie de ses termes émergent dans le processus même de traitement ou de résolution du problème et sous son effet même.
Quatrièmement - et c’est assurément le point - il est frappant que, si l’agent conversationnel est capable de fournir des réponses aux questions qu’on lui pose, ce n’est jamais lui qui pose les questions. Mettre à l’épreuve sa propre pensée, c’est d’abord être capable et l’interroger, partant de s’interroger soi-même. Réduit à une fonction apophantique, d’affirmation de proposition, fussent-elles de forme négative, l’agent conversationnel, tout au contraire, ne répond jamais que sur commande, sous condition expresse qu’un autre que lui-même, son utilisateur, l’interroge : c’est même son principe fondamental de fonctionnement, celui du "prompt", qui est une ligne d’instruction, que celle-ci soit rédigée dans un code informatique ou, ce qui est le cas avec les agents conversationnels en ligne ouverts au grand public, dans une langue vernaculaire. L’agent conversationnel ne se pose jamais de questions, il ne possède pas la capacité de rédiger par lui-même ses propres lignes de commandes. Fût-il capable de formuler des questions, cela n’est jamais que sur la commande de expresse de son utilisateur qu’il posera les questions qu’un autre lui aura demandé de formuler. Ainsi, l’agent conversationnel n’est jamais lui-même provoqué à la question, que ce soi par la rencontre avec un monde - que de fait il ne rencontre jamais, puisqu’il n’a affaire à rien d’autre qu’à des données, jamais à un monde - ou par le discours de ses utilisateurs - n’ayant jamais affaire à des discours mais seulement à des lignes de commande : il n’est jamais que commis par ses utilisateurs à répondre, à affirmer ou à nier sur commande, sur le mode de l’injonction, il ne se met jamais tout seul à répondre à une question qu’il se serait posé lui-même et qu’aucun utilisateur ne lui aurait préalablement posée sous la forme d’une ligne de commande. Frappé d’incapacité au questionnement, dépourvu de toute spontanéité interrogative, l’agent conversationnel est structurellement incapable d’assumer lui-même le processus intégral de la pensée philosophie.
La philosophie, quant à elle, est tout sauf une pensée sur commande : elle en est même l’exacte négation, un art de se questionner, même si c’est parfois en questionnant les autres, comme le faisait Socrate lui-même. Si le tchatbot avait véritablement la capacité de faire de la philosophie, c’est lui qui devrait vous poser des questions. On ne philosophe jamais qu’en se posant à soi-même des questions comme un autre vous en poserait, par quoi la philosophie se présente toujours peu ou prou comme une expérience de décentrement de la pensée. Ainsi les questions posées au tchatbot par son utilisateur sont susceptibles d’être philosophiques mais les réponses de la machine sont condamnées à demeurer simplement apophantiques, sans pouvoir acquérir un véritable caractère apocritique, celui de réponses qui contiennent et portent toujours en elles-mêmes le questionnement vivant qui les appelle et les suscite, ce qui suppose la possession d’un pouvoir propre et autonome d’interrogation [15]. Cette incapacité est structurelle, attendu que le processus opérationnel du tchatbot n’est pas construit comme un dispositif logique visant à réponse aux questions qu’on lui pose en tenant compte de leur problématicité intrinsèque, mais comme un processus de sélection statistique du mot suivant le plus probablement pertinent par filtrage de la base de données disponibles conformément à un modèle d’entraînement. Ainsi s’explique sa tendance récurrente à reconstituer un discours convenu plutôt qu’à le mettre en question.
Tout au contraire, les exercices qui visent son apprentissage ne peuvent être autre chose que des exercices intellectuels vivants : ils doivent nécessairement donner aux élèves l’occasion d’éprouver sérieusement leur pensée et d’exercer leur jugement pour leur propre compte, par conséquent de l’interroger radicalement. C’est pourquoi aussi tout exercice qui serait de simple mémoire est à proscrire d’un enseignement de philosophie : l’exercice de toutes les facultés sans exception, fût-ce celle de mémoire, ne peut être philosophique que s’il offre directement aux élèves une occasion de mettre à l’épreuve par eux-mêmes leurs propres idées. Faute de quoi les exercices proposés ainsi que l’enseignement de philosophie dispensé dans son ensemble deviennent d’un ennui mortel : il importe que, par eux, les élèves puissent se sentir personnellement concernés, sans quoi l’échec pédagogique les guettent ; et ce n’est là que justice : ainsi conçus et pratiqués comme des exercices simplement formels ils ne valent pas une heure de peine. C’est pourquoi aussi, dans l’enseignement de philosophie, tous les exercices intellectuels sont toujours simultanément en quelque façon des exercices spirituels, des tentatives de cheminer vers une façon de penser qui soit plus exacte ou plus juste, cheminement qui enveloppe une transformation de la pensée et partant de soi, que Platon métaphorise - on le verra - comme un certain genre de translation, ou plutôt de rotation [16]. Sur ce plan, le tchatbot, si beau parleur soit-il, manifeste immédiatement, si on en lit très attentivement les productions, une incapacité totale.
5. Exercice(s) de la pensée philosophique et limites du tchatbot
Le savoir philosophique ne saurait en effet être conçu comme une substance préexistante que l’on pourrait produire extérieurement au sujet et qu’il s’agirait simplement de faire entrer dans son esprit, comme l’on verse un liquide d’un vase dans un autre, ni comme une faculté dont il s’agirait, de l’extérieur, de doter un organe qui en serait dépourvu. Il est tout au contraire l’exercice vivant d’une faculté qu’un chacun possède, celle de réfléchir ou de juger, qui a pour nom la raison, à laquelle il s’agit seulement de donner l’occasion de s’apprendre à elle-même comment se conduire et s’orienter dans de meilleures directions. Platon, au livre VII de la République, [17]l’avait déjà souligné dans ce célèbre passage :
"(...) la science ne s’apprend pas de la manière dont certaines gens le prétendent. Ils se vantent de pouvoir la faire entrer dans (518c) l’âme où elle n’est point, à peu près comme on donnerait la vue à des yeux aveugles.
Tel est leur langage.
Ce que nous avons dit suppose au contraire que chacun possède la faculté d’apprendre, un organe de la science ; et que, semblable à des yeux qui ne pourraient se tourner des ténèbres vers la lumière qu’avec le corps tout entier, l’organe de l’intelligence doit se tourner, avec l’âme tout entière, de la vue de ce qui naît vers la contemplation de ce qui est et de ce qu’il y a de plus lumineux dans l’être ; et cela nous l’avons appelé (518d) le bien, n’est-ce pas ?
Oui.
Tout l’art consiste donc à chercher la manière la plus aisée et la plus avantageuse dont l’âme puisse exécuter l’évolution qu’elle doit faire : il ne s’agit pas de lui donner la faculté de voir ; elle l’a déjà : mais son organe n’est pas dans une bonne direction, il ne regarde point où il faudrait : c’est ce qu’il s’agit de corriger.
En effet."
Platon ici ne conceptualise pas explicitement l’apprentissage de la philosophie comme auto-institution du sujet philosophant. Il l’analyse comme la conversion d’un âme, à laquelle il incombe de tourner son regard vers le vrai et le bien pour les contempler, et l’on sait par ailleurs, si l’on se reporte aux lignes qui précèdent ce passage dans le livre VII de la République, que cette conversion ne se fait pas sans une certaine brutalité et sans une certaine souffrance : elle suppose en effet la rencontre d’un agent provocateur, d’un Socrate qui, par ses questions retorses, par l’adversité qu’il oppose à la pensée facile de l’opinion et des croyances ordinaires, qui n’est donc précisément pas véritablement une pensée, force cette âme à se libérer de ses chaînes et à confronter son regard ébloui par une lumière à laquelle elle n’est pas encore accoutumée à la considération des principes des choses. La rencontre d’un Socrate. Ou bien la rencontre d’un professeur de philosophie. Il n’en reste pas moins - et c’est le point - que c’est à l’âme qu’il revient d’effectuer elle-même ce mouvement de conversion : c’est par conséquent dans ce mouvement même que réside tout à la fois l’apprentissage philosophique et l’acte même de philosopher et c’est en quoi il marque une forme d’institution de l’âme dans le mouvement de la réflexion philosophique : elle l’y engage durablement et tout, pour elle, est désormais à jamais changé. Ainsi, dans la pratique philosophique "la pensée se prend en quelque sorte pour matière et cherche à se modifier elle-même" [18]. On retrouve cette idée notamment dans la tradition stoïcienne :
"Désormais, la matière sur laquelle je dois travailler, c’est la pensée (dianoia), tout comme celle du charpentier, c’est le bois, celle du cordonnier, le cuir." [19]
Si la pensée est la matière du philosophe comme le bois est celle du charpentier ou le cuir celle du cordonnier, c’est cependant avec cette différence très considérable que, contrairement au bois ou au cuir, la pensée n’est pas une matière extérieure à l’artisan lui-même : la pensée dont il s’agit n’est pas celle d’un autre, c’est notre propre pensée qui est la matière de la philosophie ; et c’est en quoi elle constitue un exercice spirituel : une action de l’esprit sur lui-même visant à sa propre transformation. Les formes que peuvent prendre de tels exercices philosophiques ne sont ni indifférentes ni neutres. Parmi les écoles philosophiques de l’Antiquité grecque et romaine, il revient à l’école stoïcienne d’avoir particulièrement formalisé de tels exercices, que l’on peut, avec Pierre Hadot, classer en trois groupes : des exercices de concentration mentale, tels que des exercices d’attention, de méditation, de "souvenirs de ce qui est bien" ; des exercices plus intellectuels, tels que des exercices de lecture, d’audition, de recherche, d’examen approfondi ; des exercices plus actifs, tels que des exercices de maîtrise de soi, d’accomplissement des devoirs d’indifférence aux choses indifférentes [20]. Ces trois types d’exercices se retrouvent également dans les écoles épicurienne, platonicienne et néo-platonicienne, avec des accents particuliers mis sur tel ou tel de leurs aspects, une "tonalité affective" et un "contenu notionnel" différents, en fonction des options philosophiques propres à chaque école [21]. Les modalités discursives permettant la mise en forme de ces exercices, lecture, dialogue avec autrui, dialogue avec soi-même [22], pour pouvoir produire leurs effets philosophiques, doivent nécessairement être intellectuellement et affectivement investis par le philosophe lui-même. Dans ces conditions, le mouvement de transformation de soi visé par la pratique de ces exercices ne saurait, par définition, se déléguer ou s’externaliser : aucune instance extérieure ne saurait le porter et l’effectuer à notre place, qu’il s’agisse d’un autre humain ou d’une quelconque machine, car il ne peut être rien d’autre que le mouvement propre de chaque âme, mouvement qu’elle effectue par elle-même et que personne ne peut effectuer à sa place, pas même l’habile questionneur qui l’a provoqué, en quoi l’élève demeure toujours et à chaque instant de cette aventure un esprit libre. Ou plutôt il le devient, par un mouvement qui, peut-être ne trouve pas son origine ou son impulsion en lui-même, mais qu’il ne peut en tout état de cause effectuer que lui-même et par lui-même. Bref, chacun doit opérer, assumer et vivre l’exercice en première personne, sans quoi il n’est pas de philosophie. Et c’est en quoi on peut ici légitimement parler malgré tout d’une auto-institution.
A cet égard, les deux exercices philosophiques fondamentaux de la classe de philosophie actuelle, la dissertation et l’explication de texte, conservent incontestablement quelque chose des exercices spirituels des philosophies grecques et romaines antiques : il s’agit dans les deux cas de mettre sa propre pensée à l’épreuve, dans l’un, en l’interrogeant à partir d’une question dont il s’agit de saisir le caractère de problématicité philosophique et à laquelle il s’agit d’élaborer un ensemble rigoureusement articulé de réponses critiques, dans l’autre, en la frottant à celle d’un auteur philosophe de la tradition, dont il s’agit d’expliquer une page. Pour ce faire, retrouvant les postures et les opérations de pensée les plus élémentaires de la philosophie qu’appelle et suppose son apprentissage initial, l’élève, guidé par son professeur, apprend à se concentrer sur sa propre pensée, à lui prêter la plus grande attention, de façon à en faire la matière et l’objet d’un travail d’analyse problématisante, conceptuelle et critique, en vue de la transformer, entreprenant ainsi de s’auto-instituer en sujet philosophant. C’est en quoi, dans la dissertation et l’explication de texte, la pratique même de l’écriture acquiert une dimension d’exercice spirituel. Elles ne constituent nullement de simples formes d’exposition dont la fonction serait seulement de communiquer à un autre, un lecteur, la teneur d’une pensée personnelle ou de permettre la restitution, voire la récitation de doctrines philosophiques apprises. Tout au contraire, dissertation et explication de texte tirent toute leur valeur d’exercices authentiquement philosophiques de la portée psychagogique et pédagogique qui caractérise le travail d’écriture qu’elles supposent et enveloppent pour l’élève lui-même qui en est l’auteur [23] et qui, ce faisant, s’efforce d’apprendre à conduire par lui-même son esprit (psychagogie [24]) en vue, de ce fait même, d’apprendre à pratiquer la philosophie (pédagogie). Bien évidemment, cette opérativité psychagogique et pédagogique de l’écriture philosophique ne peut se déployer que si l’élève écrit par lui-même. Déléguer à un agent rédactionnel en ligne ce travail d’écriture dans lequel la pensée se cherche elle-même en cherchant à prendre corps, "de façon à n’être ni sans tête ni sans pieds, mais à avoir un milieu et des extrémités qui soient écrits de manière à convenir entre eux et au tout" [25], c’est donc abdiquer purement et simplement, avec la recherche d’une pensée organiquement construite comme un tout vivant et articulé, toute possibilité de philosopher.
De même, une leçon de philosophie véritablement formatrice ne se réduit jamais à l’exposition de doctrines philosophiques de la tradition qu’il s’agirait seulement de "transmettre" [26], mais elle n’est pas non plus seulement le développement logiquement ordonné et argumenté des réponses possibles à la question précise qui lui donne son sujet. Comme c’était déjà le cas pour les cours d’Aristote dont l’œuvre conservée est pour l’essentiel le rapport, le contenu et le parcours intellectuel de chaque leçon correspond à la situation concrète créée par la discussion singulière qui se déploie au sein de chaque classe [27], raison pour laquelle un même projet de leçon préparé par un professeur peut suivre un développement et connaître un destin très différents dans une classe et dans une autre, en fonction des intérêts très variés que peuvent lui porter les élèves qui les composent et des besoins spécifiques de formation intellectuelle qui les caractérisent singulièrement. Preuve, s’il en fallait, que la notion de différenciation pédagogique ne date pas d’hier, et que la pédagogie contemporaine n’a décidément absolument rien inventé. C’est là également ce qui explique la déception de tous les commentateurs de l’œuvre qui ont cherché à y voir la construction d’une système philosophique complet et parfaitement cohérent, "étonné des inconséquences, des contradictions même qu’ils rencontraient d’un écrit à l’autre" [28]. C’est en quoi un enseignement de philosophie ne peut jamais se réduire à une construction théorique ou argumentative mais se pose comme la mise en œuvre d’une "méthode de formation" [29] à une nouvelle manière de penser et partant comme un "effort de transformation de soi" [30], la liberté et l’entière responsabilité étant laissée à l’élève, dans une école républicaine et laïque, de décider si cet effort débouchera aussi sur "une nouvelle manière de vivre et de voir le monde" [31].
Des professeurs de philosophie ne pourraient donc redouter l’irruption des agents conversationnels en ligne que s’ils adhéraient à une réduction de la philosophie et de son enseignement à "une démarche purement théorique et abstraite [32], c’est à savoir s’ils négligent ou occultent tout ce qui, dans le patrimoine génétique de la discipline philosophie et de son enseignement, provient et demeure de la conception antique de l’activité philosophique comme exercice spirituel. Cette réduction procède d’une double détermination historique. Premièrement, comme le souligne Pierre Hadot, cette réduction porte l’héritage de la philosophie médiévale :
"Il semble qu’elle soit le résultat de l’absorption de la philosophia par le christianisme. Dès les premiers siècles, le christianisme s’est présenté lui-même comme une philosophia, dans la mesure même où il s’assimilait la pratique traditionnelle des exercices spirituels. C’est ce qui se passe notamment chez Cément d’Alexandrie, chez Origène, chez Augustin, dans le monachisme. Mais, avec la scolastique du Moyen-Âge, theologia et philosophia se sont clairement distinguées. La théologie a pris conscience de son autonomie comme science suprême et la philosophie, vidée des exercices spirituels qui faisaient partie désormais de la mystique et de la morale chrétiennes, a été réduite au rang de "servante de la théologie" fournissant un matériel conceptuel, donc purement, théorique, à la théologie. Lorsqu’à l’époque moderne, la philosophie a reconquis son autonomie, elle n’en a pas moins gardé bien des traits hérités de la conception médiévale et notamment son caractère purement théorique, qu a même évolué dans le sens d’une systématisation de plus en plus poussée. C’est seulement avec Nietzsche, Bergson et l’existentialisme que a philosophie redevient consciemment une manière de vivre et de voir le monde, une attitude concrète. Mais les historiens contemporains de la pensée antique, pour leur part, sont en général restés prisonniers de l’ancienne conception, purement théorique, de la philosophie (...)." [33]
Cette explication est tout à fait éclairante pour notre propos : la crainte des effets sur l’enseignement et l’apprentissage de la philosophie des agents conversationnels en ligne procède d’une conception en dernière instance théologique de la philosophie, qui l’imagine comme un corps de doctrines, à une dogmatique qu’il s’agirait pour le professeur de transmettre et pour l’élève d’être capable de restituer comme un ensemble de données acquises, capacité de restitution qui est tout à fait celle d’agents conversationnels en ligne. Il convient cependant de nuancer et de compléter cette explication.
(Paragraphe en cours)
Aussi comprenons-nous, à bien suivre Platon dans le passage de La République précité, qu’un organe d’intelligence qui serait artificiel - ce que Platon lui-même, bien entendu, ne pouvait envisager - c’est-à-dire une intelligence qui non seulement ne serait celle d’aucune âme mais qui ne serait pas celle de l’esprit même qui aspire à se considérer ainsi, soi-même n’aurait la faculté de se tourner vers rien : ce que saisirait un tel organe, tout formellement, il n’y aurait personne pour le saisir, pour le connaître et pour en être transformé. Rien n’aurait donc lieu au titre de la philosophie, ni pour cette intelligence vis-à-vis d’elle-même, ni pour celui qui tenterait d’en faire un usage "philosophique" externalisé.
Avec la philosophie, l’Intelligence Artificielle se heurte donc à un impossibilité radicale et de principe. Cette impossibilité est double : impossibilité de philosopher pour nous ou à notre place, puisque nous seuls et personne ou rien d’autre que nous-même ne peut philosopher en notre nom ou à notre place, impossibilité de philosopher pour elle-même, pour son propre compte, dans la mesure même où elle est artificielle et où l’artifice est la contradiction et l’impossibilité même du philosopher [34].
Il y a véritablement lieu d’expliquer cela aux élèves.
Si au contraire l’exercice de la philosophie est bien toujours de cet ordre, une activité d’auto-examen et d’auto-transformation de l’esprit par et pour lui-même, alors à supposer même que des agents conversationnels en ligne encore plus perfectionnés soient capables un jour de produire des textes auxquels on serait un peu plus tentés de prêter le nom de dissertations de philosophie, leur activité et leurs productions demeureraient non substituables aux effets d’institution de soi produits par l’activité de réflexion d’un sujet philosophant en première personne, en tant que celle-ci l’institue précisément comme sujet pensant et libre : ces produits, désertés de tout esprit, seraient par conséquent philosophiquement stériles. L’existence d’Intelligences Artificielles capables de produire des textes prétendument "philosophiques" ne saurait dispenser quiconque d’écrire de la philosophie par lui-même et pour son propre compte, ni d’avoir à apprendre à le faire. C’est pourquoi une copie entièrement rédigée par un agent conversationnel, pleine de savoir mort mais vide du mouvement vivant de la pensée qui change en l’instituant le sujet qui s’y engage, mériterait véritablement d’être notée d’un 0/20 si l’institution, posant en principe, dans sa bienveillance, la capacité des élèves à comprendre et à changer leur conduite, n’appelait chaque professeur à leur offrir une seconde chance : celle de refaire le devoir, afin de pouvoir se réinstituer eux-mêmes dans le mouvement vivant de la philosophie auquel ils avaient cru à tort pouvoir se soustraire.
Aussi des professeurs de philosophie qui se croiraient destitués par l’Intelligence Artificielle et par l’usage que les élèves pourraient faire dans leurs copies des outils qui en dérivent n’auraient-ils strictement rien compris à la véritable nature de leur mission, ainsi qu’aux possibilités de contrefeux et aux multiples ressources que leur offre leur discipline. Tout au contraire, comme nous l’avons montré, la notion antique d’exercice spirituel, qui leur est à la fois ancestrale, traditionnelle et essentiellement constitutive, confère à la discipline philosophie et à son enseignement une position de très grande force, à partir de laquelle les problèmes pédagogiques soulevés par les usages que les élèves ont susceptible de faire d’agents conversationnels et rédactionnels en ligne peuvent être pris en charge et traités efficacement.
LEÇON N°3 : L’évaluation des travaux des élèves en philosophie à l’épreuve des agents conversationnels en ligne : repenser le problème de la tricherie et l’articulation entre devoirs surveillés et devoirs en temps libre (« à la maison »)
Après l’irruption de l’Internet dans le champ pédagogique à la fin des années 1990 et le développement du phénomène du « copier/coller » de corrigés de dissertations de philosophie dans les copies des élèves, l’avènement des IA en libre accès renouvelle les termes d’un vieux problème, plus général : celui de la tricherie et de ses moyens. Ce problème n’a, de fait, en lui-même rien de nouveau : seule l’est la puissance inégalée des moyens mis aujourd’hui à la disposition d’élèves qui auraient l‘idée de les utiliser pour tricher. Cependant ce changement d’échelle et de degré de puissance doit conduire la discipline Philosophie à repenser à nouveaux frais le cadre pédagogique dans lequel elle inscrit l’apprentissage de la dissertation philosophique par les élèves.
1. Soupçons de tricherie et principe de charité
Le principe de charité commande toutefois de rappeler et de souligner tout d’abord avec force que le recours aux ressources disponibles sur l’Internet, y compris sur le mode du plagiat, ne procède pas nécessairement chez les élèves d’une volonté malveillante de frauder ou de se dispenser à bon compte du travail qui leur est prescrit. Bien souvent il procède tout aussi bien et bien plutôt d’un désarroi face à la nouveauté des exercices de dissertation et d’explication de texte, d’un vertige devant une tâche vécue à tort comme insurmontable. A ce désarroi s’ajoutent bien souvent le désir sincère des élèves de se montrer à la hauteur des attentes des professeurs, dont ils n’identifient pas forcément de façon claire et juste la nature exacte, malgré les explications qui ont pu leur être effectivement données, notamment parce que leur parcours scolaire antérieur les porte à faire interférer les attentes et les méthodes d’autres exercices pratiqués dans d’autres discipline - c’est là bien souvent ce qu’il y a vraiment lieu d’appeler un verrou pédagogique, ou, pour mieux dire, un obstacle épistémologique - et la crainte tout aussi sincère de ne pas y parvenir.
Le souci d’aider véritablement les élèves dans leur apprentissage de la dissertation philosophique, apprentissage barré par ces représentations préconçues, impose bien souvent aux professeurs le travail préalable de leur déconstruction, raison pour laquelle Jean-Louis Poirier, Doyen honoraire du Groupe de Philosophie de l’Inspection Générale, écrivit un jour : "ce n’est pas que les élèves n’ont pas de méthode : ils en ont une mais elle est mauvaise". Parmi ces préconceptions figure, il faut bien le dire, une certaine manière de se rapporter aux ressources numériques qui, dans bien des cas, n’a jamais fait l’objet d’une véritable prise en charge pédagogique dans le parcours scolaire antérieur des élèves, quand elle n’a pas été délibérément entretenue, par négligence ou par manque de réflexion : celle qui consiste à valoriser sous l’appellation de "faire des recherches sur l’Internet" la pratique du simple copier/coller de données. Réduisant partant la vraie notion de recherche, qui appelle une reconfiguration critique des contenus trouvés et leur exploitation dans le développement d’une réflexion véritablement personnelle, à la simple collecte d’informations brutes, cette façon de faire fixe en habitudes des pratiques fondées sur la confusion de la connaissance avec la simple information. Classes inversées, qui postulent que des élèves ou étudiants pourraient sans dommages recevoir un cours sur le mode de la simple "prise d’informations" mais dont on observe qu’elles ne font au bout du compte réussir que ceux qui le pouvaient d’emblée par des méthodes plus classiques sans faire progresser nettement les autres, du fait que leur procédé présuppose chez les élèves et les étudiants une autonomie dont beaucoup ne disposent pas encore et qu’il s’agirait plutôt de leur faire acquérir progressivement ; pédagogies par compétences, qui soumettent les élèves à des "tâches complexes" supposant, pour être réalisées, la recherche et la mobilisation d’éléments de "connaissances" bien souvent conçues et traitées comme de simples éléments d’information, comme si une connaissance pouvait constituer un élément discret immédiatement disponible indépendamment de tout travail d’élaboration intellectuelle préalable : il faudra un jour établir avec lucidité les responsabilités respectives de certains paradigmes pédagogiques à la mode, auxquels les élèves sont soumis dans bien des disciplines, et de leurs mauvais usages, dans le développement des déviances observées dans le rapport que les élèves entretiennent à l’information, à la connaissance et au travail intellectuel. Tout cela explique parfaitement la stupéfaction des élèves lorsque leurs professeurs de philosophie leur reprochent les reprises brutes tirées de sites Internet qu’ils ont trouvées dans leurs copies, pratiques auparavant encouragées et valorisées inconsidérément par d’autres depuis leur plus tendre enfance. Il y a donc malheureusement tout lieu de penser que leur surprise est véritablement sincère. Mais à qui la faute ?
C’est un vertige pour beaucoup d’élèves que d’avoir à écrire leur première dissertation de philosophie. Les professeurs de philosophie, qui furent tous ou presque tous élèves, gagneraient beaucoup à se remémorer avec lucidité ce qui fut également un beau jour leur première expérience. La maladresse qui bien souvent dénonce le recours inapproprié à des ressources disponibles sur l’Internet révèle la très grande naïveté des usages spontanés qui sont faits de ces ressources, l’insuffisance ou l’absence d’une véritable éducation à leurs usages pertinents et légitimes dans le parcours scolaire antérieur des élèves, ainsi qu’aux manières à la fois intelligentes, créatives et personnelles dont ces derniers pourraient les exploiter.
Ces constats appellent incontestablement un accompagnement attentif et renforcé de l’apprentissage des deux exercices canoniques de la discipline philosophie, apprentissage qui gagnerait beaucoup à prendre en compte et à intégrer radicalement le facteur numérique, mais aussi à viser corrélativement un apprentissage des usages légitimes des ressources disponibles, qu’il n’est pas interdit au professeur de sélectionner lui-même et de prescrire à ses élèves.
Ces considérations ne doivent pas cependant conduire à dédouaner tous les élèves, d’avance et par principe, de leurs éventuels comportements de tricherie en niant, par l’effet d’une bienveillance excessive, déplacée et partant coupable, la réalité et le caractère délibéré de ces comportements, qui méritent incontestablement sanction. Pour autant, il faudrait bien reconnaître dans le même temps que ces comportements de tricherie témoignent tout aussi bien de la très grande perspicacité de leurs auteurs quant à la véritable nature des outils issus de l’Intelligence Artificielle et à ce qui se joue avec eux en réalité. Comme le fait très justement remarquer Jean-Gabriel Ganascia : [35]
"(...) à bien y réfléchir, les termes sont tout à fait appropriés : au sens étymologique, l’intelligence artificielle est bien un "artifice", c’est-à-dire un art consommé qui fait illusion en produisant des leurres fabriqués tout exprès pour nous tromper, en laissant croire que les machines seraient effectivement intelligentes."
Rappelons que le fameux "test de Turing", élaboré par le mathématicien et cryptologue anglais Alan Turing (1912-1954), qui fut, comme on sait, un pionnier dans l’élaboration des modèles théoriques de l’informatique et de l’Intelligence Artificielle, dans son célèbre article de 1950 intitulé Computing machinery an intelligence [36], prend pour critère de reconnaissance de l’intelligence supposée d’une machine sa capacité à tromper l’interrogateur dans un "jeu d’imitation" à trois participants dans lequel l’interrogateur C pose des questions à deux autres personnes anonymes, A et B, qu’il ne voit pas et dont il n’entend pas directement la voix, dans le but de déterminer qui de A ou de B est un homme ou une femme, sachant que A est en réalité un ordinateur essayant de se faire passer pour une femme. Selon Turing un ordinateur pourrait ainsi être qualifié d’intelligent s’il se montrait capable de tromper l’interrogateur aussi longtemps que l’aurait fait l’homme [37]. Or comme le fait encore remarquer J.-G. Ganascia, les agents conversationnels "jouent au jeu de l’imitation et leurs performances ressemblent grandement à celles prévues par Turing" [38]. Dans son principe, le projet de l’Intelligence Artificielle "vise la simulation", au moyen de machines "des facultés supérieures de l’esprit humain" [39], "comme la capacité de parler, de lire, de comprendre, de calculer, de raisonner etc." [40] et même désormais de percevoir et d’inventer. La capacité à simuler à des fins de tromperie est donc historiquement et théoriquement central dans la définition même de l’idée d’Intelligence Artificielle.
Un élève qui utiliserait un agent conversationnel pour rédiger sa dissertation en faisant croire qu’il en est lui-même l’auteur, ne ferait d’une certaine façon que reproduire le principe logique du test de Turing, ramenant ainsi l’outil à la positivité de sa véritable nature et à la réalité foncière de sa principale opération : tromper son monde. La tricherie, fût-elle astucieuse, n’honore jamais son auteur : elle demeure en tout état de cause inexcusable et condamnable. Simplement elle dit, en l’espèce, quelque chose de la vérité de l’Intelligence Artificielle.
2. Les agents conversationnels et la question du plagiat
Il convient en second lieu d’analyser la façon dont l’usage d’agents conversationnels par les élèves vient sérieusement compliquer l’emploi, pour réprimer les faits de tricherie, de la catégorie juridique de plagiat. Est un plagiat l’acte de copier un auteur en s’attribuant indûment des passages de son œuvre.
Bien des professeurs de philosophie trouvent dans la catégorie juridique de plagiat un point d’appui pour réprimer la pratique du "copier/coller" dans les copies des élèves ainsi qu’un argument dissuasif consistant à souligner que le recopiage de ressources en ligne sans citation de l’auteur ou de la source est assimilable à un délit au regard du droit de la propriété intellectuelle. Cependant, s’il a montré jusqu’ici dans les classes une réelle efficacité touchant la lutte contre recopiage de ressources disponibles sur l’Internet, cet argument bénéficie-t-il d’une consistance juridique au regard de la réglementation relative aux procédures de répression de la fraude aux examens ? En quoi l’arrivée des agents conversationnels en ligne vient tout à la fois renforcer lee problème du plagiat lui-même, et en même temps compliquer sa répression ?
2.1. Le rapport ambigu des philosophes à leurs sources et les vertus d’apprentissage de la reprise
Le plagiat constitue une catégorie juridique, non une catégorie philosophique et l’on peut sérieusement se demander s’il peut réellement constituer une catégorie pédagogique. Il est en effet incontestable que la copie ou le recopiage des grandes œuvres a, dans bien des domaines, une authentique puissance pédagogique et des vertus avérées pour l’apprentissage. Pour apprendre leur métier, les élèves des écoles de Beaux-Arts vont au musée copier les œuvres des grands maîtres : nul ne songerait à les accuser de plagiat, même s’ils montrent à leurs maîtres les copies qu’ils ont réalisées. De même les élèves des conservatoires apprennent l’harmonie et le contrepoint dans des exercices contraints dans lesquels ils doivent écrire extraits de quatuors à cordes, chorals ou doubles chœurs dans le style de tel ou tel grand compositeur, ce qui les conduit la plupart du temps à leur emprunter leurs formules harmoniques ou mélodiques. Pour un compositeur des âges baroque et classique, être plagié ce n’était pas être pillé : c’était la consécration et la gloire. Bach retravaillait volontiers dans ses propres concerti des emprunts à ceux de Teleman (comparer par exemple le Larghetto du Concerto pour clavecin en fa mineur BWV 1056 du premier et celui du Concerto pour flûte en sol majeur TWV51:G2 du second) ou de Vivaldi et recyclait volontiers des pièces , les premiers concerti de Mozart pour piano ne sont bien souvent que des sonates de ses aînés, brillamment orchestrées et un peu aménagées, l’air du catalogue du Don Giovanni apparaît clairement comme une réécriture de l’air du catalogue que l’on trouve dans le Don Giovanni de son contemporain le compositeur vénitien Guiseppe Gazzaniga (1743-1818), dont l’ouvrage fut créé au Teatro San Moise huit mois avant la première de la version de Mozart et Da Ponte [41].
Du côté de la philosophie, n’oublions pas l’étrange ressemblance entre l’article Autorité politique de l’Encyclopédie de Diderot et d’Alembert et le second chapitre du livre I du Contrat social de Rousseau, ou les pages des Manuscrits de 1844 dans lesquelles Marx recopie sans sourciller et sans citer ses sources des paragraphes entiers des grandes œuvres de l’économie politique. Qui oserait prétendre que ces emprunts furent stériles ? Allez faire, après cela, la leçon aux élèves...
Il n’est donc pas du tout certain que les élèves n’apprennent rien en recopiant des sources extérieures. Tout ce qu’on peut leur reprocher, c’est de s’y prendre fort mal, de mal choisir leurs sources lorsqu’ils en choisissent de médiocres ou de mal ajustées aux sujets qu’ils ont à traiter, de ne pas les citer, de leur emprunter trop largement et de ne rien en tirer de personnel.
Sommes-nous du reste bien certains d’être véritablement les auteurs de ce que nous croyons être nos propres opinions, les plus personnelles ? Ne nous contentons-nous pas bien souvent, ce faisant, de répéter simplement ce que d’autres nous ont dit, sans vraiment savoir d’où ces idées nous viennent, soit que nous l’ayons oublié, soit que leurs auteurs soient très difficiles voire impossibles à identifier ? A ce régime tout un chacun pourrait bien se révéler être un petit plagiaire quotidien qui, simplement, s’ignore. La philosophie, en ce qu’elle nous engage dans un examen critique radical de toutes les idées et ouvre ainsi la possibilité d’échapper à cette subordination de la pensée, trouve en cela une pleine justification. La confrontation des élèves avec le phénomène des agents conversationnels est par conséquent une occasion de les sensibiliser à cet ensemble de difficultés, tout à fait élémentaires.
Il n’en reste pas moins que la question de la place occupée par la dimension de reprise, d’imitation ou de transformation de ses sources dans le processus d’élaboration de toute pensée philosophique originale se pose vraisemblablement pour toute activité d’écriture philosophique, qui ne part jamais de rien, depuis les premières tentatives de son apprentissage dans les classes de philosophie jusqu’aux chefs d’œuvres majeurs des traditions philosophiques.
2.2. Renforcement du problème du plagiat : qui sont les auteurs des productions du tchatbot ?
L’usage par les élèves d’agents conversationnels en ligne pour rédiger leurs devoirs semble effectivement susceptible de poser un problème juridique de cette nature. Comme l’ont souligné dans la presse plusieurs juristes ou chercheurs spécialistes du traitement numérique des textes depuis le lancement du logiciel ChatGPT au mois de décembre 2022, celui-ci a été entraîné à partir d’un très grand nombre de textes en ligne, dont il est très difficile de vérifier si tous sont ou non libres de droits. Les productions de ChatGPT ne contiennent pas à ce jour la mention explicite des sources à partir desquelles elles ont été élaborées, ce qui implique qu’elles ne satisfont pas non plus aux règles d’usage dont l’application est requise pour certaines sources libres de droit (celles de Wikipédia, par exemple). Ainsi, on pourrait très bien considérer, en conséquence de ces prémisses, qu’un élève faisant usage d’un agent conversationnel en ligne pour rédiger une copie s’expose à la commission d’un fait de plagiat par Intelligence Artificielle interposée. On pourrait craindre en outre, en suivant ce raisonnement, que la remise à un professeur d’une copie rédigée par ce moyen puisse être constitutive d’un acte de diffusion à tiers excédant les limites du droit de copie privée. A ce titre, l’acte consistant pour un élève à recopier une source trouvée ou constituée sur l’Internet tombe hors du périmètre du droit d’exception pédagogique accordé à notre institution pour l’usage des ressources publiées dans le cadre des activités d’enseignement, droit qui concerne exclusivement les professeurs dans l’exercice de leurs missions d’enseignement, non les élèves [42].
Il paraît aujourd’hui indispensable d’aborder ces questions avec les élèves, ce qui est aussi une façon de les sensibiliser aux enjeux juridiques des usages du numérique et ainsi de contribuer, pour la discipline philosophie, par exemple dans le cadre d’une leçon de philosophie du droit, à leur éducation sur ce plan.
2.3. Complication du problème de la répression du plagiat : les obstacles à l’identification des sources dans le cas des tchatbots
Toutefois, le plagiat ainsi compris, lorsqu’il est constaté par un professeur dans des copies d’élèves au cours de l’année ne saurait s’excepter du régime réglementaire de la preuve : encore faudrait-il pouvoir prouver qu’il y a bel et bien un fait de plagiat, ce qui suppose d’être en mesure de produire les sources qui ont fait l’objet de telles reprises non référencées. La chose n’est pas forcément très compliquée lorsque l’on a affaire à des ressources disponibles sur l’Internet. En revanche elle le devient beaucoup plus lorsque l’on a affaire à des éléments textuels pouvant avoir été produits par des agents conversationnels.
D’une part, ces éléments textuels ne sont pas ordinairement accessibles librement : ils ne le sont généralement qu’à l’intérieur du compte personnel du candidat, verrouillé par un mot de passe, sur le site mettant le logiciel à la disposition du public ; c’est le cas par exemple pour ChatGPT, qui requiert une inscription nominative, c’est-à-dire la création d’un compte personnel sécurisé par un mot de passe.
D’une autre part, le propre de l’agent conversationnel est de produire, à chaque commande, un texte à chaque fois différent : il constitue à ce titre une source instable, par conséquent beaucoup plus difficile à distinguer de la production personnelle d’un rédacteur humain.
Ce sont là les raisons pour lesquelles certaines des entreprises propriétaires d’agent conversationnels récemment mis en ligne, soucieuses de ne pas être accusées de promouvoir des comportements frauduleux, ont annoncé avoir commencé à développer et à diffuser des logiciels permettant de repérer dans un texte les traces caractéristiques de sa production par un tchatbot. Elles y sont d’autant plus incitées que certains auteurs ont engagée au cours de l’année 2023 des procédures judiciaires contre certaines des ces entreprises qu’elles accusent d’avoir utilisé leurs écrits dans les données d’entraînement de leurs grands modèles de langages sans leur consentement [43]. Du reste, d’autres entreprise ont commencé à mettre au point des outils informatiques permettrant de tracer les sources utilisées par les IA génératives pour créer des images [44], ce qui laisse à penser que peut-être des outils similaires pourraient être mis au point dans un avenir plus ou moins proche pour tracer les sources utilisées par les grand modèles de langage pour élaborer les textes qu’ils produisent. On peut cependant douter sérieusement que ces contrefeux, pour le moment très modestes, suffisent à eux seuls à permettre aux professeurs de faire face aux difficultés pédagogiques induites dans toute leur ampleur. Aussi un type de réponse d’une nature tout autre que simplement répressive est-il assurément requis : une réponse préventive et de nature proprement pédagogique. Nous reviendrons plus bas sur ce point.
Il est donc très difficile, dans des cas de recopiage par les candidats, dans leurs copies d’examen, d’éléments textuels produits par des agents conversationnels, de repérer les sources utilisées, parce que leurs conditions d’accessibilité et leur nature empêchent de procéder pour ce faire au moyen de comparaisons simples entre la copie et les originaux supposés. Et il est bien évident que cette difficulté se pose également pour les travaux demandés aux élèves durant l’année scolaire, qu’il s’agisse de travaux attendus dans le cadre d’enseignements évalués à l’examen en contrôle continu, auquel cas les manquements identifiés par les professeurs seraient susceptibles de tomber dans le périmètre juridique de la fraude aux examens, ou bien qu’il s’agisse d’enseignements évalués hors contrôle continue : dans ce derniers cas, au delà de la transposition qui est faite du régime réglementaire de l’examen lors d’épreuves blanches passées en conditions ou d’épreuves communes ayant valeur d’entraînement direct aux épreuves terminales de l’examen, le cadre juridique constitué par le règlement intérieur de l’établissement offre un point d’appui.
2.4 Plagiat et fraude aux examens : l’état actuel du droit
On peut cependant interroger la validité proprement juridique du rapprochement, voire de l’assimilation qui est ainsi faite de la catégorie de plagiat, qui relève du régime juridique du droit d’auteur, et de la catégorie de fraude, qui relève du régime juridique des examens.
La catégorie de plagiat est explicitement intégrée à la liste des cas constitutifs d’une tentative ou d’un acte de fraude aux examens [45]. Elle se trouve ainsi subordonnée à la catégorie juridique de fraude : le plagiat n’est constitutif d’une fraude que sous la condition du caractère frauduleux des moyens employés pour le réaliser, par exemple l’introduction dans la salle d’examen de documents (dictionnaire, anti-sèche, documents divers) ou d’appareils interdits (smartphone, oreillette etc.) permettant la consultation de ressources disponibles sur l’Internet ou d’une autre nature et donnant partant matière à un recopiage durant l’épreuve, en contravention au règlement de l’examen.
Dans le cadre du traitement judiciaire des faits de fraude aux examens, la jurisprudence confirme très clairement la distinction entre la catégorie de plagiat et la catégorie de fraude, excluant la première du périmètre juridique de la seconde. Ainsi, comme le rappelle un délibéré de la Cours Administrative d’Appel de Versailles en date du 31 mai 2023, "la seule restitution au cours d’un examen sur table d’éléments appris par cœur par un élève au cours de ses révisions ne saurait être regardée comme constitutive d’une fraude" [46]. Pour être fondée à sanctionner un candidat pour fraude, précise encore ce délibéré, l’administration doit pouvoir "se prévaloir de ce que la copie (...) révèlerait, eu égard à sa teneur, le copiage de ces corrigés au cours de l’épreuve de philosophie, à partir d’un appareil de communication ou de stockage de données ou d’un document non autorisés". Dès lors, la catégorie de plagiat conserve-t-elle en elle-même une consistance juridique propre, indépendamment de la question du recours éventuel à des moyens eux-mêmes frauduleux ? On peut sérieusement se poser la question. On aurait pu penser en effet que, même commis par des moyens non frauduleux, par exemple par la restitution de mémoire d’éléments textuels appris par coeur, l’acte de plagiat aurait pu être considéré comme constitué dès lors que le candidat aurait omis de citer les auteurs et sources des éléments de texte qu’il restitue de mémoire mais qu’au contraire, dans le cas d’une copie saturée de citations réellement restituées de mémoire durant l’épreuve, mais qui toutes seraient dûment référencées, le caractère de plagiat deviendrait, dans la forme, beaucoup plus difficile à justifier. Or on observe que la Cours Administrative de Versailles, dans son délibéré, n’opère aucune distinction de statut et de valeur juridique entre différents types de contenus qui pourraient faire l’objet d’une telle restitution de mémoire et qu’elle ne fait pas non plus mention d’une quelconque obligation qui serait faite au candidat de citer obligatoirement les sources ou les auteurs des contenus qu’il restitue par coeur. Le cadre juridique de l’examen semble donc être traité par la Cours comme différent de celui qui réglemente par exemple les diplômes universitaires, pour l’obtention desquels un travail de recherche original est demandé. On pourrait seulement mettre en question, dans une telle copie d’examen, le caractère véritablement personnel du travail réalisé compte tenu du déséquilibre important constaté entre la part d’éléments référentiels, majoritaire, et la part d’éléments pouvant être supposés provenir du fond de réflexion propre de l’élève auteur. Comme le montre le délibéré de la Cours précité, aucun acte de fraude ne serait cependant constitué en l’espèce, que l’élève source ou non le propos qu’il copie. Et c’est là sans doute l’une des raisons pour lesquelles la Cours précise encore "qu’il est toujours loisible à l’administration, dans une telle situation, d’ajuster la note du candidat pour tenir compte de sa capacité de réflexion personnelle et d’argumentation". La Cours invite partant l’institution à sanctionner le comportement du candidat au titre d’un manquement aux exigences de l’épreuve sur le plan de la réflexion et de l’analyse philosophiques, c’est-à-dire par le moyen de la note qui lui est attribuée, déplaçant ainsi le problème de ce qu’il n’est dès lors plus juridiquement pertinent d’appeler le "plagiat" dans les copies d’examen du terrain juridique de la fraude vers le terrain pédagogique et réglementaire de l’évaluation.
La conclusion est donc très claire : en l’état actuel du droit, "plagier" un contenu dans une copie d’examen du baccalauréat en le restituant de mémoire n’est pas en soi constitutif d’une fraude. Il est requis, pour que ce soit le cas, que le recopiage ait été réalisé "à partir d’un appareil de communication ou de stockage de données ou d’un document non autorisés". Tel est le point exclusif sur lequel doit s’appliquer le régime de la preuve, celui de la fraude définie en ce sens, non celui du "plagiat" : l’administration doit être en mesure de prouver le recours à des moyens frauduleux. En l’absence de telles preuves, le fait de "plagiat", c’est-à-dire la restitution de contenus par des moyens non frauduleux, n’est pas en lui-même constitutif d’une fraude. La catégorie de "plagiat" n’est pas en elle-même pertinente pour qualifier juridiquement un acte de fraude aux examens.
Toutefois, cette conclusion n’invalide nullement la pertinence d’engager systématiquement une procédure pour suspicion de fraude, attendu que le correcteur qui détecte une copie d’examen reproduisant un corrigé ou reproduisant manifestement la production d’agent conversationnel peut s’avérer, une fois la procédure mise en route, recouper un cas un flagrant délit de fraude porté au procès-verbal de surveillance de l’épreuve, dont les correcteurs ne sont pas informés, ni au moment de la correction de la copie, ni par la suite.
3. Les réponses de l’institution à la question de la tricherie dans le travail des élèves au cours de l’année scolaire, et leur histoire
Les règlements intérieurs des établissements disposent la plupart du temps de façon explicite que les élèves sont tenus de se conformer aux consignes données par les professeurs et de répondre à leurs demandes. Dans ce cas, le recopiage ou le copier/coller d’une ressource numérique ou le recours à des agents conversationnels peut être constitutif d’une faute au regard du règlement intérieur sous la condition que le professeur ait proscrit ces pratiques. Encore faut-il qu’il les ait effectivement et clairement interdites. Le fait de tricherie donc peut être d’autant plus aisément établi que les pratiques ainsi qualifiées ont fait l’objet d’interdictions explicites. Or nous avons bien vu plus haut les raisons pour lesquelles la question, concernant l’usage des ressources disponibles sur l’Internet en général, n’est, pour bien des élèves, pas si claire. Bien des difficultés rencontrées par les professeurs dans leurs classes proviennent des ambiguïtés de leur propre discours à cet égard, de ce qu’il considèrent à tort comme trop évident pour avoir à le dire, partant de l’absence pure et simple de discours, et par conséquent des malentendus qu’engendrent inévitablement ces non-dits.
Si l’on ne veut pas que les élèves utilisent des agents conversationnels pour écrire leurs dissertations, mieux vaut donc commencer par le leur dire, le plus explicitement possible, et même le leur faire écrire dans leurs cahiers, ou l’indiquer sur les documents pédagogiques qu’on leur fournit. On pourra dès lors justifier pleinement qu’un élève qui, en violation de cette interdiction explicite, aurait tout de même fait usage d’un agent conversationnel, est en faute au regard du règlement intérieur, dans une forme analogue à celle d’une fraude lors d’un examen. Dans ce cas, l’action s’exerçant sur le plan de la faute, dans le cadre défini par le régime des punitions et sanctions, qui relève de l’autorité du chef d’établissement, l’élève ne pourra pas se voir attribuer une note (par exemple un 0/20), qui relèverait quant à elle du régime pédagogique de l’évaluation. La faute commise pourra seulement être sanctionnée conformément au régime des punitions et sanctions défini par le règlement intérieur de l’établissement. La démarche devra alors s’accompagner de toutes les précautions juridiques réglementaires, notamment le respect du principe du contradictoire : l’élève doit pouvoir être entendu, pouvoir s’expliquer et dire ce qu’il a fait, voulu faire et pour quelles raisons, et il doit pouvoir se défendre. L’action consistant à choisir de ne pas sanctionner l’élève pour faute, en considérant qu’il a réalisé le travail demandé, mais à attribuer à ce travail une note très basse (par exemple 0/20), au motif qu’étant le recopiage intégral d’une source extérieure n’ayant donné lieu à aucun travail de réflexion personnelle de l’élève, ce travail n’a eu aucune valeur formatrice pour celui-ci, repose sur une autre interprétation possible des faits et constitue une option alternative, cependant exclusive de la première.
Au XIXe siècle, l’enseignement secondaire en général et l’enseignement de philosophie en particulier connaissaient déjà parfaitement le problème du recours que pouvaient avoir les élèves à des aides extérieures, en un temps où les élèves disposaient de ressources et d’outils bien moins nombreux et bien moins performants, mais en disposaient tout de même. Nos prédécesseurs avaient résolu ce problème de la façon suivante : les résultats annuels des élèves n’intégraient pas de travaux donnés à faire à la maison ou à l’étude, ils excluaient les exercices et devoirs courants ; ils prenaient en compte uniquement les résultats de compositions trimestrielles faites sur table. Un bon travail de surveillance, scrupuleusement attentif pendant ces épreuves, permettait aux professeurs de faire efficacement la chasse aux tentatives de triche et de surprendre la plupart du temps les petits téméraires en flagrant délit.
Alors que de nos jours l’introduction récente du contrôle continu et l’intégration des résultats trimestriels des élèves dans les procédures d’examen et d’orientation font de l’évaluation un enjeu majeur décisif aux yeux des élèves et par voie de conséquence une source potentielle de conflit dans les classes, est-ce à dire qu’il faille renoncer aux « devoirs à la maison », propices, lorsqu’ils sont faits avec raison et probité, à des recherches intelligentes, à d’enrichissantes lectures, à des essais et erreurs ? Il faut réaffirmer qu’il n’en est rien.
4. Les questions pédagogiques nouvelles soulevées par les "devoirs à la maison"
Les devoirs à la maison, faits pour apprendre, pour s’entraîner, pour faire des recherches personnelles, pour retravailler ses erreurs tranquillement, sur le mode d’une répétition au sens théâtral ou musical du terme, relèvent naturellement de la dimension d’évaluation que l’on dit aujourd’hui « formative ». Même s’il faut, bien entendu, les noter pour que l’élève puisse bénéficier de repères relatifs à ses progrès et à l’évolution de ses besoins pédagogiques, on pourrait juger que ces travaux ne devraient pas, en toute rigueur, entrer dans le calcul des résultats trimestriels des élèves. [47]
Néanmoins il paraît légitime de valoriser, dans les résultats trimestriels, des travaux en temps libre réussis, pourvu que l’on ait pu s’assurer qu’ils soient le fruit d’un travail véritablement personnel, quand bien même s’appuieraient-ils sur des sources découvertes à l’occasion de recherches effectuées hors la classe mais exploitées judicieusement. On peut penser du reste que même un dispositif qui serait plus fortement axé sur la pratique de la composition sur table (3 devoirs surveillés ou épreuves blanches sont préconisés dans les recommandations de l’Inspection de Philosophie [48]) n’exclurait nullement l’usage de formules mixtes, dont on sait qu’elles permettent un accompagnement resserré de la préparation des devoirs limitant considérablement les risques de copier/coller et qu’elles peuvent offrir l’occasion d’intégrer des ressources numériques dans le travail des élèves, le cas échéant à titre de repoussoir, qu’elle n’exclurait pas non plus la pédagogie de la seconde chance (faire refaire les copies ratées ou en réécrire des parties), ni même des formes de notations partielles, provisoires, intermédiaires, préparatoires à celle du devoir achevé, qu’il le soit « à la maison » ou sur table.
Pour garantir le rendu de devoirs à la maison non pris en compte dans la moyenne trimestrielle (le risque que les élèves ne les rendent pas s’ils ne « comptent » pas constitue très évidemment une objection sérieuse) on pourrait très simplement lui conditionner l’accès aux dispositifs de seconde chance post-devoirs surveillés : pas de DM d’entraînement rendus en amont, purs, bien entendu, de tout plagiat ou de tout contenu issu d’agents conversationnels, pas de seconde chance.
Au delà de toutes les difficultés pédagogiques qui en sont les conséquences, l’usage des agents conversationnels en ligne par les élèves transforme donc considérablement les termes du problème du plagiat tel qu’il a été posé jusqu’ici dans le cas plus simple de l’usage des ressources de l’Internet, du fait que les agents conversationnels ne sont pas seulement des logiciels de tri de données mais qu’ils reposent sur les technologies de l’Intelligence Artificielle, capable de réagencer et de transformer les données dans lesquelles elle trouve ses sources pour écrire des textes d’apparence originale. A ce titre, il est légitime de se demander si, dans les éléments textuels qu’il produit, l’agent conversationnel est ou non véritablement l’auteur de quelque chose.
5. Le tchatbot est-il l’auteur de quelque chose ?
Compte tenu de cette capacité tout à fait singulière, on pourrait formuler l’hypothèse selon laquelle, au delà des contributions d’auteurs en droit identifiés ou identifiables que l’IA collecte et synthétise, elle est également capable d’opérer la synthèse de considérations beaucoup plus générales, d’idées très courantes, très communes, auxquelles il est, pour cette raison, impossible d’assigner un ou des auteurs tant elles sont très généralement partagées et répandues, non seulement sur l’Internet, notamment dans la presse et sur les réseaux sociaux, mais plus généralement encore dans la vie courante, ou, si l’on convoque ici l’expression aristotélicienne consacrée, la synthèse d’"idées généralement accréditées" (traduction proposée par L.-A. Dorion dans ses travaux de recherche concernant la dialectique aristotélicienne) ; en grec : endoxa. Au 1er chapitre du livre I des Topiques Aristote définissait les "idées généralement accréditée" comme "les opinions partagées par tous les hommes, ou par presque tous, ou par ceux qui représentent l’opinion éclairée, et parmi ces derniers par tous, ou par presque tous, ou par les plus connus et les mieux admis comme autorités" [49],en une série qui paraît convenir assez bien pour qualifier au moins en partie les différents types de sources à partir desquelles travaille un agent conversationnel.
***
Si l’on fait abstraction du problème proprement juridique des références implicites ou explicites à des idées de spécialistes que l’IA pourrait incidemment retenir, et partant du problème de l’identification des sources et de la mention explicite des références pour ce qui concerne les données sous droits d’auteurs, une question demeure : qu’en est-il de ce qui reste, dans la production du tchatbot, à savoir les idées "généralement accréditées par tous ou par presque tous" simplement en raison de leur caractère extrêmement commun ? Doivent-elles être considérées comme ayant un auteur, à savoir le tchatbot lui-même, ou bien au contraire doivent-elles être considérées comme une simple mais authentique expression de la pensée du sens commun, dont l’agent conversationnel serait ainsi réputé capable de reproduire l’opération ?
LEÇON N°4 : De quel sens commun les agents conversationnels sont-ils capables ?
(Cet article, un peu technique, est destiné plus spécifiquement aux professeurs de philosophie)
"Par apprentissage non supervisé on apprend comment fonctionne le monde et c’est ce qui nous donne le sens commun.
Ce qui manque aux machines pour l’instant c’est le sens commun."
Yann LeCun [50], L’apprentissage profond : une révolution en intelligence artificielle, Leçon inaugurale, 4 février 2016, Chaire Informatique et sciences numériques, Collège de France.
La question de savoir si les élèves plagient ou non quelque chose lorsqu’ils reprennent à leur compte les productions d’un agent conversationnel, ne s’épuise pas dans la question de la propriété intellectuelle des données à partir desquelles il opère.
Il faut considérer, d’une part, que les données à partir desquelles l’agent conversationnel opère ne sont pas toutes sous droits d’auteurs : certaines relèvent du domaine public, soit qu’elles aient un auteur identifié mais soient sorties du périmètre des données sous droits au profit du domaine public, le délai légal étant échu, soit qu’elles constituent des données anonymes, des idées ou des opinions très générales dont l’origine se perd dans le flot indéfini des conversations et des échanges courants, relayés, notamment mais pas seulement, par les réseaux sociaux ou par les commentaires de lecteurs sur les sites des journaux de magazines nationaux ou locaux. Le premier qui a affirmé sur un réseau social que Dieu existe ou que l’euthanasie devrait être autorisée en France ne peut assurément pas être tenu pour l’auteur de ces opinions, qu’il n’a fait que relayer, puisque celles-ci circulaient déjà très manifestement dans l’espace public avant que quiconque ait eu l’idée de les formuler une première fois sur un réseau social, et ceci avant même l’invention des réseaux sociaux. Affirmer que toutes les idées et toutes les opinions auraient forcément des auteurs qui seraient forcément des individus, auxquels devrait dès lors être nécessairement reconnu un droit de propriété, constitue un présupposé philosophique éminemment discutable. Ce présupposé exclut arbitrairement la possibilité que des opinions puissent être le résultat d’élaborations collectives, produites par des communautés humaines dont les périmètres pourraient être très larges sans pour autant pouvoir être précisément déterminés, selon des processus de transformation évoluant par petites touches, selon des temporalités très lentes, de sorte que la notion d’auteur, individuel ou collectif, leur serait inapplicable, le problème ne se réduisant donc pas à la simple incapacité circonstancielle d’identifier des auteurs dont on devrait cependant postuler l’existence nécessaire. De méchantes langues diraient peut-être bien volontiers qu’une telle conception de l’origine des idées, qui prétendrait les référer toutes nécessairement à un auteur, témoignerait d’un véritable fétichisme de la subjectivité individuelle, et d’une conception de l’origine des idées caractéristique du capitalisme libéral, obsédé par le droit de propriété privée au point d’imaginer que toute chose doit nécessairement être la propriété d’un individu, dès lors fondé à vouloir en tirer un profit financier. On pourrait dire, de façon plus neutre, que peut-être certaines idées ou opinions pourraient au contraire constituer des bien publics, à la libre disposition de quiconque, en raison de leur caractère très largement partagé, de leur caractère commun. Il s’agit donc ici d’un commun compris comme matériau exploité par l’Intelligence Artificielle.
Cependant il faut également considérer, d’une autre part, que des agents conversationnels mus par des technologies d’Intelligence Artificielle doivent bien recéler une opération propre, qui consiste à déduire des données extrêmement nombreuses à partir desquelles elles travaillent des formules textuelles d’ordre très général, irréductibles à la particularité des données à partir desquelles ces formules sont calculées. Cette capacité pour ainsi dire à généraliser, quasi inductive, que l’on pourrait ainsi être tenté de prêter à la machine, devrait alors être tenue pour sa contribution spécifique, celle dont elle pourrait être considérée comme l’authentique productrice. Il s’agirait donc ici d’un commun compris comme résultat de l’opération de l’Intelligence Artificielle.
On voit bien dès lors quelles difficultés pose, au point du vue du commun compris en ce double sens - le commun comme matériau des opérations de l’Intelligence Artificielle et le commun comme résultat de ces opérations - la reprise par des élèves dans leurs copies des productions des agents conversationnels. Si l’opération de l’Intelligence Artificielle consiste à réaliser simplement la synthèse d’un matériau d’idées ou d’opinions d’emblée communes, le reproche de plagiat perd considérablement de sa force : on ne saurait tenir rigueur à un élève de s’approprier des idées tout à fait communes, qui appartiennent à tout le monde, donc qui lui appartiennent aussi. Dans ce cas on ne pourrait lui reprocher guère plus que la très grande banalité ou la très grande pauvreté de son propos. On pourrait légitimement tenir rigueur à quelqu’un d’avoir plagié le Dictionnaire des idées reçues de Gustave Flaubert [51], mais certainement pas d’avoir plagié les idées reçues elles-mêmes qui en sont l’objet, précisément en raison du fait qu’elles sont des idées reçues. Tout au plus pourrait-on lui reprocher de n’y avoir rien compris, puisque ce texte fait précisément la liste de tous les clichés qu’il est bon d’éviter lorsque l’on prétend être un bon écrivain. De même, les utilisateurs des réseaux sociaux peuvent vouloir s’en prendre devant les tribunaux aux entreprises productirces des agents conversationnels en ligne d’avoir exploité sans leur aurtorisation leurs données pour entraîner les IA, mais elles ne sauraient nullement leur faire reproche d’avoir plagié les banalités insondables que ces données véhiculent, et qui sont du reste elles-mêmes reprises de la paroles les plus courantes, des conversations les plus vulgaires. En revanche, si l’on fait l’hypothèse que l’opération propre de l’Intelligence Artificielle consiste à produire de toute pièce un commun des idées à partir d’un matériau de données quant à elles toujours particulières et auxquelles ce commun serait par conséquent irréductible, alors on pourrait être fondé à reprocher aux élèves de piller quelque chose comme un auteur. Il y aurait cependant là une décision métaphysique tout à fait audacieuse : ce serait en effet attribuer alors à l’Intelligence Artificielle un pouvoir propre de produire par elle-même un commun des idées, faculté que la tradition philosophique a désigné de longue date par le syntagme de "sens commun". Or une telle attribution serait-elle philosophiquement légitime ?
Notre problème est donc celui de la légitimité d’accorder ou non le sens commun aux agents conversationnels. Ce problème se spécifie en deux hypothèses à examiner : l’une, forte, consistant à attribuer au tchatbot un sens commun actif, compris comme un pouvoir propre de généralisation ; l’autre, faible, consiste à lui attribuer une sorte de sens commun passif, réduit à la synthèse inerte des produits du sens commun humain, dont il faudrait cependant se demander s’il mérite encore le nom de sens commun.
L’enjeu pédagogique de ce problème concerne le statut qu’il convient de donner au sens commun dans l’apprentissage de la philosophie. Depuis son origine, la philosophie considère, d’une certain point de vue, le sens commun comme ce avec quoi elle doit nécessairement prendre ses distances pour se constituer comme telle, parce que le sens commun est d’abord le facteur d’un rapport immédiat à la réalité producteur d’opinions subordonnées à l’intérêt particulier de chacun et à l’utile plutôt qu’au vrai, rapport auquel la philosophie vient opposer, en vue d’en faire son objet critique, de défaire ce rapport dans l’ordre de la simple opinion et de l’agir immédiat et de nous arracher à eux, un ensemble de filtres méthodiques agissant comme autant de médiations visant à produire une conversion ou une élévation vers un autre type de rapport au réel, plus authentique car situé dans la visée de l’ordre du vrai et du sage : les sciences (en particulier la géométrie : "que nul n’entre ici s’il n’est géomètre) et la dialectique, chez Platon, les sciences de la nature (en particulier la physique et la biologie), la logique et la métaphysique, chez Aristote, les sciences (en particulier la canonique et la physique, définie comme atomisme) et l’éthique, chez Epicure, et ainsi de suite. Dans cette perspective, il est bien évident que l’usage d’outils de rédaction automatique tels que les agents conversationnels en ligne, usage qui, pour toute question philosophique donnée à traiter, conduirait les élèves à substituer purement et simplement à leur travail intellectuel personnel une simple synthèse des opinions du sens commun, représenterait la ruine de tout enseignement philosophique, auquel l’outil poserait ainsi une entrave rédhibitoire. Cependant, est-ce bien là réellement l’opération des agents conversationnels ? On pourrait soutenir à l’inverse qu’un enseignement philosophique doit consister à développer le sens commun mais compris en un tout autre sens : comme faculté constitutive des conditions de possibilité sensibles et intelligibles de tout partage et de tout échange des idées sous le régime de la vérité, partant des conditions d’accès à l’universel, précisément au sens où Descartes, dans la très célèbre première phrase du Discours de la méthode, désigne le "bon sens", défini comme "la puissance de bien juger, et distinguer le vrai d’avec le faux, qui est proprement ce qu’on nomme le bon sens ou raison", comme "la chose du monde la mieux partagée", "naturellement égale entre tous les hommes" [52]. Dans cette seconde perspective, sous laquelle chacun a naturellement ou par essence "l’esprit bon" mais doit encore apprendre à "l’appliquer bien", les divergences d’opinions, qui nous détournent de la vérité et nous la font confondre avec des opinions fausses, s’expliquant seulement par le fait que "nous conduisons nos pensées par diverses voies et ne considérons pas les même choses", c’est-à-dire par le manque d’une méthode unifiée capable de nous permettre de conduire notre raison à pas sûrs dans le chemin des sciences et de la recherche de la vérité, la substitution par les élèves à leur travail intellectuel personnel des productions d’agents conversationnels en ligne qui seraient réputés eux-mêmes authentiquement capables de sens commun constituerait non plus seulement une entrave à l’enseignement philosophique mais un fait d’usurpation. Du double point de vue de ces deux acceptions fondamentales de l’idée de sens commun, il est donc capital de déterminer de quel sens commun les agents conversationnels en lignes sont très exactement capables, afin de pouvoir déterminer ce qu’un enseignement philosophique a lieu d’en faire : le considérer comme un ennemi à chasser totalement hors du champ de la philosophie et de son enseignement et auquel il faudrait dès lors nécessairement entreprendre de faire la guerre, ou bien, sinon une ressource possible, du moins un facteur de perturbation inévitable, que les professeurs de philosophie seraient désormais condamnés à prendre en compte et dont il faudrait dès lors penser authentiquement le statut à la fois philosophique et pédagogique.
1. Qu’est-ce que le sens commun ?
L’idée de sens commun renvoie à deux ensembles conceptuels. Le sens commun, en premier sens, est constitué par l’ensemble des représentations (connaissances, croyances, savoirs divers) et des capacités de jugement, d’inférence et de conjecture que nous utilisons dans la vie courante en vue d’agir de façon pertinente et si possible efficace dans des situations données, acception à connotation pragmatique que recouvre bien le syntagme anglais commonsense. Le deuxième ensemble conceptuel auquel renvoie l’idée de sens commun est d’ordre plus métaphysique : il désigne les conditions intellectuelles d’un partage et d’une communication universelle des idées.
a. Le sens commun au sens pragmatique (commonsense)
L’idée de sens commun renvoie en un premier sens à ce que la langue anglaise désigne sous le mot de "commonsense", que l’on peut définir comme "a good sense and sound judgement in practical matters", "un bon sens et un jugement judicieux dans les questions pratiques". C’est à cette première acception, essentiellement pratique que se réfère Yann LeCun dans la formule précitée en exergue de cette leçon, et dont il reproche à l’IA de manquer. Le sens commun pris en ce sens renvoie à une "compréhension immédiate de la manière dont les choses familières fonctionnent", dans "tout ce qui touche à notre expérience quotidienne" et qui "nous permet de surmonter, sans y prendre garde, d’innombrables obstacles tant théoriques que pratiques [53]. Le sens commun pris en ce sens renvoie à la fois à un ensemble de connaissance pratique sur le monde qui nous entoure immédiatement et quotidiennement, la structure de son organisation matérielle jusque dans ses moindres détails, la psychologie et le comportement habituel des agents, humain ou non (animaux, plantes, machines) qui y interviennent ordinairement, mais aussi une capacité de juger de ce qui s’y produit ou pourrait s’y produire compte tenu de ces connaissances, notamment d’opérer des conjectures en vue de l’action, et plus particulièrement encore à "compléter de la manière la plus plausible une description nécessairement partielle d’une situation" [54]. Or c’est un fait que l’IA, malgré ses progrès spectaculaires liés au développement de l’apprentissage profond, se montre totalement incapable de faire preuve de sens commun compris en ce sens. Cette incapacité se manifeste par exemple dans l’incapacité des programmes de traduction automatique fondés sur l’IA de trancher les ambiguïtés de sens d’énoncés équivoques,ou les situations dans lesquelles "il n’y a pas nécessairement une unique bonne solution, mais plusieurs dont aucune n’est forcément parfaite" [55] : nous renvoyons sur ce point aux exemples d’énoncés analysés par Daniel Andler (2023) pp. 227 à 230. Le problème tient, d’une part à la difficulté de représenter sous la forme d’une ensemble de proposition explicites le "savoir implicite mobilisé dans la vie pratique", et plus généralement d’établir le répertoire complet de
"toutes les connaissances nécessaires pour traiter correctement toutes le phrases et toutes les situations qu’une personne quelconque rencontre dans une journée, dans un an, dans une existence entière, sans oublier que les gens ne vivent pas tous la même vie dans les mêmes conditions." [56]
Le problème tient cependant aussi, d’autre part, à la possession ou non de posséder une fonction ou une faculté d’"inférence plausible", ce qui renvoie, selon D. Andler, à deux problèmes principaux : celui de la conception d’une "système logique permettant de gérer le démenti", c’est-à-dire de "retirer une proposition qui se trouve contredite par une information nouvelle tout en conservant ce qui doit l’être, d’une part ; d’autre part, celui de la "gestion de nos croyances", c’est-à-dire de leur révision, compte tenu du fait que ces croyances sont affectées de degrés [57]. Or il s’avère que, de ces deux points de vue, la technologie des réseaux de neurones sur laquelle repose le deep learning n’est pas du tout armée pour traiter des situations nouvelles avec bon sens :
"Ils sont en fait spécialisés, donc mal armés pour gérer des situations qui chevauchent plusieurs domaines. Ils violent d’ailleurs le sens commun de manière flagrante et avec régularité. On le constate dans le cas de la reconnaissance d’images, mais on peut l’attendre de systèmes de raisonnement quotidien ou de traitement du langage naturel, qui donnent lieu à ce que Ernest Davis et Gary Marcus appellent les phénomènes à longue queue - l’existence d’un grand nombre d’items très rares, à côté d’un petit nombre d’items très fréquents.
Les modèles massifs de langage ont il est vrai une vocation généraliste, et obtiennent en effet (...) des scores élevés, parfois supérieurs aux humains, à différents tests censés évaluer le sens commun. Que ces résultats soient l’indice de la présence de sens commun est néanmoins douteux. D’abord à cause de leur propension à la défaillance partagée avec tous les modèles de DL (deep-learning). Ensuite parce qu’ils sont tributaires des données récoltées par internet, qui n’est pas une source fiable de manifestations du sens commun.
Enfin et surtout, même si les modèles massifs parvenaient à produire tous les raisonnements de sens commun valides et seulement ceux-là (un idéal que personne n’imagine qu’il puisse être atteint de sitôt), ils manqueraient largement le but visé : tout raisonnement de sens commun apparaîtrait comme un épiphanie, une intuition, alors qu’il y a le plus souvent dans la démarche humaine une part de raisonnement explicite et conscient, et dans tous les cas une justification post hoc possible." [58]
Ander mobilise ici trois arguments : nous examinerons tout d’abord le premier, puis le troisième, pour terminer par le second, qui apparaît comme le plus problématique. Le premier est un argument de fait : de fait les IA, qu’il s’agisse de la reconnaissance d’images ou des modèles massifs de langage (MML) connaissent des défaillances flagrantes et violent de façon ostensible et régulière le sens commun, en raison du fait que les situation de la vie courante, qu’elle soient d’ordre pratique ou d’ordre discursif, chevauchent toujours plusieurs domaine que l’IA, premièrement, ne recouvrent peut-être pas tous, deuxièmement, ne recouvrent peut-être pas exhaustivement, troisièmement, ne parvient pas bien à articuler entre eux. De fait, l’apprentissage statistique dans les modèles de reconnaissance d’image est supervisé : il repose sur la conformation par réduction progressive des erreurs par rapport à une base d’apprentissage dont les données sont catégorisées à l’aide de mots-clés par des opérateurs humains, ce qui la rend tributaire à la fois des erreurs d’appréciation et de préjugés de ces opérateurs. En outre, il insiste sur la distinction du commun et de l’ordinaire : le sens commun ne se réduit pas à une capacité à identifier les situation les plus ordinaires et à adopter le mode d’analyse le plus adapté et le plus courant pour les traiter, il permet aussi de faire face, par différenciation d’avec ces ’items ordinaires", à des situations ou à des énoncés à occurrences très rares, performance qu’une IA sous sa forme actuelle, fondée sur un principe de conformation et de réduction d’écart par rapport à des modèles donnés, ne parvient pas à produire. Cet argument paraît cependant assez faible : rien n’interdit de penser en effet que l’extension des champs de données permises par le Big Data et que la mise au point de bases de données structurées de plus en plus nombreuses et vastes ne puisse conduire à un perfectionnement des MML tel qu’ils deviennent capables d’extraire des données linguistiques massives à partir desquelles ils opèrent des modèles de comportement pertinents et probables, exactement comme l’analyse des requêtes sur l’Internet permet désormais de prédire l’apparition ou de suivre l’évolution des épidémies, ou comme l’analyse massive de radiographie permet d’identifier les risques de survenue de cancer avec un degré de fiabilité sensiblement plus grands que celui d’une analyse à vue par des médecins spécialistes.
Le troisième argument consiste à reprocher à une IA capable de reproduire avec une fiabilité parfaite les résultats du sens commun humain, de manquer son but premier d’imiter l’intelligence humaine, parce qu’elle se manifesterait sous l’apparence des séries d’intuitions là où le sens commun humain procède par mobilisation de connaissances et de croyances par ce qui prend la plupart du temps la forme de raisonnements, d’inférences ou de conjectures conscientes, explicites, voire réfléchies, par lesquelles quiconque est capable de justifier les énoncés, les décisions et les actions qu’il produit. Cet argument paraît être des trois le plus solide, en ce qu’il le fait qu’une IA, si elle parvenait à produire les mêmes résultats que le sens commun humain, n’y parviendrait pas en tout état de cause par les mêmes voies et les même moyens, par les mêmes formes exactement que celles que mobilise ce qu’il est convenu d’appeler le bon sens humain.
C’est cependant le deuxième des arguments formulés par Daniel Andler qui nous semble permettre de radicaliser la difficulté en son fond, non pas tant en lui-même qu’en raison des justifications auxquelles il a recours. Tout d’abord il met en évidence un paradoxe : la réussite de l’IA à des tests d’évaluation du sens commun, par exemple la réussite très élevée (de 63 à plus de 90%) des MML à des tests fondés sur le défi de Winograd [59] pourrait n’être qu’une apparence et constituer en réalité "une manifestation de la ’malédiction de Tesler’" [60]. Le théorème ou "malédiction" de Telser, formulé par l’informaticien Larry Tesler (1945-2020), est un paradoxe d’après lequel, dès que l’IA parvient à résoudre un problème, on s’aperçoit que son succès peut s’expliquer par le fait que, contrairement aux apparences, il ne nécessite en réalité aucune intelligence - en l’occurrence : aucun sens commun - et "qu’elle est donc toujours, s’agissant de son ambition de conquérir l’intelligence, renvoyée à la case ’Départ’" :
"L’intelligence, c’est tout ce que les machines n’ont pas encore réussi à faire". [61]
Mais surtout, outre la justification de l’effectivité de ce paradoxe par l’argument des défaillances récurrentes qu’ont présentées très rapidement à leurs utilisateurs, comme d’autre modèles d’apprentissage profond, les agents conversationnels mis en ligne en libre service à partir de l’automne 2022, se pose en effet la question du statut, de la qualité et de la valeur, au regard du sens commun, des données à partir desquelles l’IA opère. Parce qu’elles sont récoltées sur l’Internet, ces données ne seraient pas "une source fiable de manifestations du sens commun". Un tel énoncé nous paraît conclure un peu trop rapidement. Qu’est-ce qui permet en effet de penser qu’il en est bien ainsi ? On pourrait en effet tout aussi bien considérer que ces données, précisément parce qu’elles proviennent de l’Internet, expriment massivement les schèmes psychologiques et sociaux de représentation, de catégorisation, d’inférence, de conjecture et d’action de la vie courante les plus ordinaires et les plus généralement répandus parmi ses utilisateurs, de sorte que ces données pourraient très bien être réputées tout au contraire constituer un matériau profondément empreint des structure du sens commun humain envisagé dans sa plus grande généralité, matériau dont on pourrait dès lors légitimement attendre d’une IA, par exemple d’un agent conversationnel en ligne, qu’elle se montre capable d’extraire et d’appliquer ces schèmes dans les réponses qu’elle apporte aux requêtes qui lui sont adressées. Plus encore : en admettant que l’opération calculatoire de l’IA aurait pour résultat des énoncés originaux, la synthétisation ainsi à partir de ce matériau issu du sens commun humain ne devrait-elle être tenue, par voie de conséquence, pour constitutive d’un exercice effectif et lui-même original du sens commun ? Daniel Andler évacue donc en une phrase ce qui constitue en réalité un épineux problème. Pour le poser et le résoudre, il faut cependant envisager l’idée de sens commun en un sens plus général, qui n’est plus ou plus seulement son acception pragmatique mais qui resitue le problème du sens commun sur le plan plus général du statut des idées.
b. Le sens commun comme faculté de partage des idées
En un second sens, plus proprement philosophique - ce qui signifie : qui concerne la nature et le statut des idées - le sens commun désigne le pouvoir de l’esprit humain de produire des représentations susceptibles d’être communiquées à d’autres esprits humains, ce qui veut dire partagées avec eux, en droit avec tout autre esprit humain. La question de la possibilité d’un sens commun a donc pour enjeu la possibilité d’une unité de l’humanité sur plan de l’esprit, la possibilité de communiquer nos représentations engageant tout simplement celle de la pensée tout entière, comme l’écrivait le philosophe Emmanuel Kant dans son opuscule de 1786 intitulé Qu’est-ce que s’orienter dans la pensée ? :
Mais penserions-nous beaucoup et penserions-nous bien si nous ne pensions pour ainsi dire pas en commun avec d’autres auxquels nous communiquons nos pensées, et qui nous font part des leurs ? [62]
La possibilité d’une telle unité est décisive en particulier pour la constitution de la connaissance. Dans le § 21 de la Critique de la faculté de juger [63], intitulé "Peut-on avec quelque raison supposer un sens commun ?", Kant définit ainsi la condition sous laquelle seule des représentations qui soient des connaissances peuvent être communiquées :
(...) si des connaissances doivent se pouvoir communiquer, il faut aussi que se puisse universellement communiquer l’état d’esprit, c’est-à-dire l’accord des facultés cognitives en vue d’une connaissance en général, et plus précisément cette représentation (par laquelle un objet nous est donné) pour en faire une connaissance ; car sans cet accord en tant que condition subjective du fait de connaître, la connaissance ne saurait en résulter comme son effet.
La possibilité de la connaissance a donc pour condition que soit établi entre les facultés cognitives humaines que sont la sensibilité, l’imagination, l’entendement et la raison un certain type de rapport de proportion, un certain type d’harmonie correspondant un certain état de l’esprit rendant possible l’échange de représentations qui soient des jugements connaissances. C’est cet état d’esprit spécifique qu’il faut appeler d’abord "sens commun", plus précisément "sens commun logique" (sensus communis logicus), c’est-à-dire conditionnant la possibilité de la connaissance. Sans cet état de l’esprit la pensée se limiterait à
(...) un simple jeu subjectif des facultés représentatives, exactement comme le veut le scepticisme.
Hors du rapport de bonne proportion exigé, les représentations produites par l’esprit ne seraient que des représentations empiriques, fondées sur la sensibilité immédiate, mais dépourvues de toute valeur de connaissance. Elles constitueraient "un simple jeu subjectif " : en elles la subjectivité n’exercerait nullement un rôle législateur, le rapport entre les représentations ne recouvrirait aucune relation de nécessité et n’envelopperait aucun caractère d’universalité, bref il n’aboutirait à aucune forme d’objectivité. Le jeu des facultés serait condamné à l’impuissance cognitive, ce qui donnerait argument à la thèse fondamentale de toute philosophie sceptique selon laquelle l’esprit humain est dans l’incapacité d’atteindre la moindre connaissance vraie (ou plus précisément : on n’est jamais en mesure de savoir s’il en est capable ou non). Dans la suite du même paragraphe, Kant décrit ce rapport de proportion entre les différentes facultés de représentation, qui rend possible la formation de représentations qui soient des connaissances :
C’est là ce qui arrive aussi dans la réalité chaque fois qu’un objet donné par l’intermédiaire des sens met en activité l’imagination pour qu’elle compose le divers, tandis que celle-ci à son tour suscite l’activité de l’entendement pour qu’il unifie ce divers dans des concepts
Dans le rapport de proportion requis pour que des représentations puissent se constituer en une connaissance, il revient à l’entendement de présider au jeu des facultés, puisque c’est à lui qu’incombe la tâche d’unifier sous des concepts a priori (c’est-à-dire quant à eux non dérivés de l’expérience) la diversité sentie que l’imagination a préalablement mise en ordre ou schématisée. Telle est donc la structuration des facultés de représentation requises pour qu’existe un sens commun rendant possible la communication universelle de jugements qui soient des connaissances. On remarque cependant, dans ce passage, que si l’entendement préside à la structure, l’imagination y joue un rôle actif déterminant : c’est elle qui, déclenchée par la sensibilité, met en forme les sensations qu’elle lui fournit et déclenche l’activité conceptuelle unificatrice de l’entendement. C’est pourquoi Kant montre, dans la suite du §21, que la proportion correspondant au sens commun cognitif ou logique présuppose une autre configuration, une autre composition ou proportion, plus fondamentale, dont le sens commun cognitif lui-même dépend en réalité, parce que c’est elle qui, portée fondamentalement par l’imagination, permet d’établir une relation entre la multiplicité des sensations et l’unité des concepts qui rendra possible le rassemblement des unes sous l’unité des autres :
(...) cet accord des facultés de connaître possède, selon la différence des objets qui sont donnés, des proportions différentes. Cependant, il faut qu’il y ait une proportion où une relation interne qui anime les deux facultés de l’esprit (l’une par l’autre) soit la plus appropriée à l’une comme à l’autre dans la perspective d’une connaissance (d’objets donnés) en général (...)
Cette proportion, qui doit relier seulement l’imagination et l’entendement dans un jeu par lequel elles puissent s’animer mutuellement (l’imagination déclenchant l’action unificatrice de l’entendement tandis que l’entendement opère en retour sur une unification sur les schèmes construits par l’imagination), ne peut être qu’une proportion dans laquelle l’imagination est émancipée de la tutelle législatrice de l’entendement, donnant dès lors lieu à une activité productrice de représentations dans lesquelles les sensations sont ordonnées mais non conceptualisées. Or de telles représentations constituent ce qui s’appelle en toute rigueur des sentiments.
(...) cet accord ne peut pas être déterminé autrement que par le sentiment (et non pas d’après des concepts).
Il faut donc présupposer, comme condition préalable de toute connaissance, un accord des facultés plus fondamental que celui dont la configuration ou la proportion donne lieu à des jugements et des représentations de connaissance, et qui est celle qui donne lieu à la production de sentiments, eux-mêmes partant universellement communicables à tout esprit doté du même type de configuration de ses facultés. Dans la suite de la Critique de la faculté de juger, au §40, intitulé "Du goût comme une sorte de sensus communis" [64], Kant donne à ce libre accord des facultés, à ce sens commun sentimental ou sensible le nom de sens commun esthétique, (du grec ancien aisthésis, qui signifie "faculté de percevoir par les sens"). La question du sens commun se pose donc sur deux plans : celui des idées et celui des sentiments, les unes et les autres renvoyant à deux types de jugements. C’est la question de savoir comment nous pouvons former des idées, et comment nous pouvons former des sentiments qui puissent être communiqués à autrui, c’est-à-dire partagés avec tout autre être humain. L’enjeu de l’existence d’un sens commun est par conséquent la possibilité de faire communauté avec autrui, communauté intellectuelle, sur le plan des idées - dans ce cas on comprendra le mot "sens" au sens d’une faculté de juger intellectuelle ; communauté affective, sur le plan des sentiments - dans ce cas on comprendra le mot "sens" en son sens premier, qui renvoie à notre faculté de ressentir des états sensibles, à notre sensibilité, c’est-à-dire à une faculté de juger esthétique. Ces deux déterminations du sens commun doivent assurément être comptées au nombre des conditions qui rendent également possible la formation de communautés humaines de niveau supérieur, plus élaborées : comment constituer en effet des communautés morales, des communautés politiques, comment faire tout simplement société sans la possibilité de communiquer, de partager des idées et de partager des sentiments, en droit avec tout autre être humain ? Il faut pour cela supposer en chacun, sous la forme d’un postulat de la raison dans le cas du sens commun logique, sous la forme d’un sentiment dans le cas du sens commun esthétique, des configurations de nos facultés de représentation qui nous rendent capables de former de telles idées et de former de tels sentiments qui puissent être partagés avec tout autre, donnant prise à un usage intellectuel et à un usage esthétique de notre faculté de juger.
Kant souligne, dans la suite du §40, que dans le libre rapport des facultés constitutif du sens commun esthétique, l’imagination agit de façon libre, cette action étant possible simplement parce qu’elle se trouve dans une configuration où elle est libérée du pouvoir législateur de l’entendement, sans pour autant disposer elle-même d’un pouvoir législateur.
Ce n’est que là où l’imagination en sa liberté éveille l’entendement, et que celui-ci engage sans concepts l’imagination à un jeu régulier, que la représentation se communique, non comme pensée mais comme sentiment intérieur d’un état de l’esprit qui apparaît comme correspondant à une fin.
Or cette communicabilité en droit universelle de sentiments suppose que la configuration de l’esprit qui la rend possible ne peut se représenter que sous la seule forme de représentations dont il dispose à ce niveau, c’est-à-dire sous la forme d’un sentiment, un sentiment pour ainsi dire à la puissance 2, un sentiment de tous les sentiments, d’un sentiment d’avoir des sentiments qui soit lui-même communicable universellement :
Or, dans la mesure où cet accord lui-même doit se pouvoir communiquer universellement, le sentiment qu’on a de lui (lors d’une représentation donnée) doit également pouvoir l’être (...)
Une telle supposition ne prend donc pas la forme d’un postulat de la raison, qui supposerait de l’imagination l’usage de concepts dont elle ne dispose cependant pas. Il faut donc supposer, antérieurement au sens commun logique et comme sa condition de possibilité, un sens commun plus fondamental, un sens commun sensible, prenant lui-même la forme présuppositionnelle d’un sentiment, qui rende possible la communicabilité universelle de tous les sentiments et donne en cela à la communicabilité universelle des idées fondée dans le sens commun logique sa condition de possibilité fondamentale.
(...)mais comme cette communicabilité universelle d’un sentiment présuppose un sens commun, c’est donc avec raison que l’existence de celui-ci pourra être admise, et cela sans qu’on doive s’appuyer à cet égard sur des observations psychologiques, mais comme la condition nécessaire de la communicabilité universelle de notre connaissance, laquelle doit être nécessairement présupposée en toute logique et en tout principe de connaissance qui ne soit pas sceptique.
De deux choses l’une : ou bien on accepte cette double présupposition, deux étages, de la possibilité d’un sens commun logique reposant lui-même sur la possibilité d’un sens commun esthétique, ou bien on est condamné au naufrage du scepticisme. [65]
Il faut cependant insister sur le rapport qui existe entre ces deux aspects du sens commun, le sens commun logique et le sens commun esthétique. Le sens commun esthétique ne vient pas compléter le sens commun logique : il fonde et rend possible le sens commun logique qui le présuppose toujours. C’est que dans le sens commun esthétique, l’imagination ne soumet aucun objet au pouvoir législateur des autres facultés, ce qui serait constitutif d’un accord objectif de ces facultés. Le plaisir esthétique constitue en effet la forme supérieure du sentiment. Sa supériorité tient au fait qu’elle n’est liée à aucun attrait sensible ou empirique pour l’objet de la sensation : il s’agit d’un plaisir pur, désintéressé dans son principe. Est véritablement esthétique en effet le simple effet d’une représentation sur celui qui l’éprouve, indépendamment de l’existence de l’objet correspondant. Seule peut avoir pour effet, dans le jugement esthétique que j’exprime en disant : "c’est beau", un plaisir supérieur la représentation de la forme pure d’un objet, réfléchie dans l’imagination. Dans un jugement esthétique, c’est la simple représentation de la forme de l’objet, réfléchie dans l’imagination, qui est la cause d’un plaisir supérieur, désintéressé. Cette réflexion de l’imagination ne se rapporte à aucun concept : elle ne schématise plus le donné sensible, elle le réfléchit seulement au point de vue de la forme, se comportant ainsi comme la cause productive et spontanée "de formes arbitraires d’intuitions possibles" [66]. L’accord qui se produit ainsi entre l’imagination et l’entendement est un accord entièrement libre et indéterminé au point de vue des concepts : il s’agit d’un accord qui n’est pas objectif mais qui demeure subjectif, dont le plaisir esthétique est le résultat, il s’agit d’un acte de jugement dont le résultat ne peut pas être pensé intellectuellement, mais qui, de façon paradoxale, ne peut être que senti. Cela signifie que, dans ce libre rapport des facultés, aucune d’entre elle ne légifère : nous nous situons ici à un niveau de relation des facultés antérieur à tout acte législateur, qui est celui de leur simple harmonie subjective [67].
C’est pourquoi Kant conclut, dans la dernière partie du §40, que c’est en dernière instance la faculté de juger dans son exercice sensible, en tant qu’elle est capable de produire des sentiments en droit partageables par tous les hommes, autrement dit la faculté de juger dans son usage esthétique, que l’on appelle plus simplement : le goût, qui mériterait en réalité d’être appelé au plus au point sensus communis "à plus juste titre que le ’bon sens’, plutôt que la faculté de juger dans son usage intellectuel" [68].
Or il y a ici un point tout à fait décisif pour le traitement de notre problème, qui est celui de savoir si l’on peut ou non accorder aux productions des agents conversationnels une valeur équivalente à celle que nous pouvons accorder aux productions du sens commun humain, partant si l’algorithme opératoire qu’applique le tchatbot pour produire ses textes peut être tenu pour l’exact équivalent de l’exercice d’une faculté de juger, attendu que les productions des tchatbots apparaissent comme une certaine sorte de synthèse et de réarrangement d’idées dont on est tenté de situer la provenance dans le sens commun humain compte tenu de la nature des données à partir desquelles l’algorithme travaille. Dans la mesure où leurs productions textuelles résultent d’une opération purement calculatoire permettant d’induire le mot suivant le plus probable au moyen d’un calcul de fréquence à partir des données disponibles, les agents conversationnels ne peuvent recourir à aucune sensibilité, dont ils ne disposent pas de toute façon. La présupposition d’un sens commun esthétique ne peut donc être faite les concernant, ce qui ruine d’avance et par principe la possibilité de leur attribuer aussi un sens commun logique. Dès lors, se pose la question de savoir quelle valeur il y a lieu d’attribuer à leur productions, en tant qu’elles contrefont néanmoins l’apparence de celles du sens commun logique humain. La question est d’autant plus légitime que les élèves, en mobilisant des agents conversationnels pour réaliser leurs travaux scolaires à leur place, les mettent en concurrence avec leur propre sens commun logique. Pour répondre à cette question, le début du §40 de la CFJ apporte des indications précieuses. Il met en effet en évidence les ambiguïtés qui affectent la notion de sens commun dans son usage courant.
2. Les ambiguïtés de la notion de sens commun
Au début du §40 de la Critique de la Faculté de juger, Kant avait en effet d’emblée mis en évidence les ambiguïtés produites par les usages qui sont couramment faits du syntagme "sens commun".
2.1. Première ambiguïté de l’usage courant de l’expression "sens commun"
Il faisait remarquer tout d’abord (p. 278) que, dans la langue courante, l’emploi du mot "sens" pour désigner la faculté humaine de juger, par exemple lorsque l’on dit de quelqu’un qu’il a "le sens de la vérité", ou "le sens des convenances", ou "le sens de la beauté", ou encore "le sens de la justice", ne porte pas essentiellement l’attention sur l’opération de réflexion que la faculté de juger effectue mais seulement sur ses résultats. Il s’agit ici, sinon de lever un contresens possible, du moins de signaler une impropriété de langage qui pourrait prêter à confusion. Ce faisant, on s’exprime en effet exactement comme si la faculté de juger pouvait être simultanément porteuse de deux pouvoirs de l’esprit en réalité incompatibles au sein d’une seule et même faculté : un pouvoir de sentir ou d’intuitionner et un pouvoir de conceptualiser. Dire couramment de quelqu’un qu’il a "le sens de la vérité", c’est s’exprimer exactement comme s’il pouvait en même temps la sentir, au même tire qu’il voit ou entend tel ou tel objet, sur le mode de la perception sensible, et en juger, c’est-à-dire former la concernant des des jugements de type déterminant - ou si l’on veut de type scientifique, tel que Kant l’avait analysé dans le Critique de la Raison pure, à savoir un jugement pour la formation duquel notre faculté de juger possèderait, inscrit en elle a priori, antérieurement à toute expérience, un concept de vérité (ou un concept de convenance ou un concept de beauté ou un concept de justice) sous l’unité duquel elle subsumerait et ordonnerait le divers phénoménal, issu de l’intuition sensible, de sorte que le jugement ainsi produit puisse constituer une "règle universelle" et partant avoir une valeur de connaissance. Or, écrit Kant,
"on sait, ou du moins on devrait normalement savoir qu’il n’existe pas un sens en lequel ces concepts puissent avoir leur siège et - c’est encore plus évident - qu’un tel sens ne possède pas la moindre aptitude à édicter des règles universelles."
Ce serait en effet supposer tout d’abord l’existence d’une faculté de sentir (c’est-à-dire une pure réceptivité) qui puisse posséder en même temps des concepts a priori (c’est-à-dire recéler une activité de l’esprit), ce qui est contradictoire et impossible : une faculté possédant de telles caractéristiques ne saurait exister ; ce serait par conséquent prêter à la faculté de juger ainsi désignée sous le nom de sens commun compris en ce sens la possession a priori de concepts qui ne s’y trouvent pas du tout ; ce serait enfin et de de ce fait même prêter à une telle faculté sensible donc toujours particulière la capacité supposée "d’édicter des règles universelles", chose par définition impossible pour une faculté de sentir. Ce n’est pas du tout, en effet, de cette façon que les concepts de vérité, de convenance, de beauté et de justice nous viennent :
(...) nulle représentation de ce genre concernant la vérité, la convenance, la beauté ou la justice, ne pourrait jamais nous venir à l’esprit si nous n’étions pas capables de nous élever au dessus des sens jusqu’aux pouvoirs supérieurs de connaissance.
La formation de représentations identifiées comme des vérités, comme des convenances, comme des jugements de goût, ou comme des jugements au sens moral et juridique supposent tout au contraire un processus de constitution universalisante : par exemple, pour les jugements scientifiquement vrais, c’est l’intervention du pouvoir universalisant des concepts a priori opérés par l’entendement qui permet de s’élever au dessus de la simple phénoménalité sentie pour constituer des jugements déterminants ; dans le cas des convenances, c’est le jugement moral, opéré par la raison pure, qui permet à la faculté de désirer de s’extraire des contenus pathologiques qui l’affecte du fait de sa relation à la faculté de sentir, dans le cas du jugement de goût, c’est l’opération libre de l’imagination dans la faculté de juger esthétique qui permet de former un sentiment universel sans concept, par réflexion pure de la simple forme de l’objet et partant purifié de ses contenus sensibles matériels. Dans ces trois cas, la formulation d’un jugement qui exprime une règle universel suppose donc bien de "nous élever au dessus des sens jusqu’aux pouvoirs supérieurs de connaissance".
Il y a cependant ici, dans la dénonciation de cette première ambiguïté du syntagme "sens commun", un parallélisme frappant avec la façon dont nous pourrions être tentés de considérer les textes produits par les agents conversationnels en ligne, au vu de leur qualité rédactionnelle. Ne considérant que les résultats, par exemple en corrigeant une copie rédigée par un agent conversationnel exactement comme si elle avait été réellement écrite par un élève, en faisant ainsi totalement abstraction de son processus réel et propre d’élaboration, on pourrait croire que le texte, imitant parfaitement un discours humain, a été produit par l’exact équivalent d’une faculté de juger, croyance ou présupposition que l’on tend à avaliser lorsque l’on dit que le texte "fait illusion" ou est susceptible de le faire. Exactement de la même façon que dans le cas du "sens de la vérité", du "sens des convenances", du "sens de la beauté" ou du "sens de la justice" dans le cas d’un être humain, nous présupposons à tort, ne nous fiant qu’à l’apparence des résultats qu’elle produit, que l’Intelligence Artificielle possèderait une faculté de connaître déterminante ou une faculté de juger réfléchissante. Il s’agit ici exactement du même type de présupposition que lorsque nous attribuons à quelqu’un, sous le nom de sens commun, une intuition sensible qui serait capable, de façon cependant tout à fait contradictoire, d’édicter des jugements. Ce faisant, nous manipulons une représentation de l’Intelligence Artificielle qui n’est qu’une chimère, exactement comme la conception vulgaire du "sens commun" comme une supposée faculté sensible d’édicter des règles universelles est une pure chimère : nulle part il n’existe rien de tels. Nous le croyons cependant, simplement parce que nous nous fions uniquement à l’apparence des résultats sans analyser rigoureusement le processus qui les a réellement produits.
Il faut ensuite prêter la plus grande attention, ainsi que Kant nous y invite dans la suite du §40, à l’ambiguïté que recouvre, en langue allemande comme dans bien d’autres langues, le mot "commun" lorsqu’il se trouve associé au mot "sens" dans l’expression "sens commun".
2.2. Deuxième ambiguïté de l’usage courant de l’expression "sens commun"
Dans un usage plus rigoureux, l’expression "sens commun" réfère aussi, écrit Kant, à "l’entendement commun", c’est-à-dire à un "entendement simplement sain" (p. 278), qui n’est pas affecté par exemple d’une tendance à juger de façon seulement empirique, ou de façon systématiquement faussée, ou encore qui n’est pas en proie à la folie, au délire, même s’il n’a pas (encore) été cultivé, ce qui signifie à la fois qu’il n’a pas encore été développé dans son usage ou entraîné par son exercice régulier mais aussi qu’il n’a pas encore été nourri d’une culture littéraire, scientifique, artistique, historique, juridique, religieuse, philosophique, tel qu’on en trouve l’exemple chez des personnes qui n’ont pas reçu une éducation intellectuelle très développée mais qui sont néanmoins parfaitement capables de raisonner juste. Cet usage de l’idée de "sens commun" est un usage plus philosophique : on peut penser bien entendu à l’usage que fait Descartes de l’idée de sens commun prise en ce sens dans les premières lignes du Discours de la méthode, lorsqu’ils écrit que
"le bon sens est la chose du monde la mieux partagée : car chacun pense en être si bien pourvu, que ceux mêmes qui sont les plus difficiles à contenter en tout autre chose, n’ont point coutume d’en désirer plus qu’ils e ont. En quoi il n’est pas vraisemblable que tous se trompent ; mais plutôt cela témoigne que la puissance de bien juger, et distinguer le vrai d’avec le faux, qui est proprement ce qu’on nomme le bon sens ou la raison, est naturellement égale en tous les hommes ; et ainsi que la diversité de nos opinions ne vient pas de ce que les uns ſont plus raisonnables que les autres, mais seulement de ce que nous conduisons nos pensées par diverses voies, et ne considérons pas les mêmes choses." [69]
C’est dire que l’expression "sens commun" réfère ici aux jugements généraux que tous les êtres humains sont capables d’énoncer et de partager, et qui, écrit encore Kant au §40 de la CFJ, représentent "la moindre des choses que l’on puisse attendre" d’eux en vertu du fait qu’ils tiennent précisément leur nom d’êtres humains du fait qu’ils possèdent tous un tel "entendement simplement sain".
Néanmoins - et c’est là l’ambiguïté terminologique soulignée par Kant - l’expression "sens commun" réfère aussi aux usages purement empiriques de cet entendement sain, partant aux résultats les plus banals de ces usages, partant à "ce que l’on rencontre partout et dont la possession n’est absolument pas un mérite ou un privilège et qui constitue ce que la langue classique désigne aussi comme " le vulgaire", à savoir par exemple des opinions que l’on répète simplement sans y avoir soi-même réfléchi et qui ne sont pas véritablement le produit d’une activité réfléchissante effectuée en première personne.
Dès lors, à laquelle de ces deux définitions du sens commun faut-il rattacher les productions des agents conversationnels, au vu de leur mode opératoire propre ? Il n’est pas difficile de montrer qu’elles se trouvent strictement cantonnées à la définition du commun ou du sens commun comme vulgarité, à laquelle elles satisfont pleinement. En effet, elles ne satisfont pas, à l’inverse, à la définition proprement philosophique de l’entendement sain compris comme sens commun, qui est
"l’Idée d’un sens commun à tous, c’est-à-dire un pouvoir de juger qui dans sa réflexion, tient compte en pensée (a priori) du mode de représentation de tout autre, pour en quelque sorte comparer son jugement à la raison humaine tout entière et se défaire ainsi de l’illusion qui, procédant de conditions subjectives particulières aisément susceptibles d’être tenues pour objectives, exercerait une influence néfaste sur le jugement." [70]
La possession effective par tous les êtres humains sans exception, passés, présents et à venir, d’un tel pouvoir de juger ne peut pas faire l’objet d’une démonstration de type scientifique, parce qu’il est impossible d’en vérifier tous les cas dans l’expérience, c’est-à-dire sur le plan des phénomènes observables. Cette impossibilité s’explique par le fait que nous attribuons le sens commun par principe à tous les êtres humains, non comme une propriété empirique ou phénoménale, qu’ils acquerraient a posteriori dans et par l’expérience, mais comme une propriété qu’ils possèdent du seul fait qu’ils sont des êtres humains, c’est-à-dire en vertu de leur essence, de ce qu’il sont en soi, autrement dit comme une propriété métaphysique. Cependant, du fait que cette propriété n’est pas en elle-même empiriquement démontrable sur le plan des phénomènes observables - on peut seulement supposer que certaines conduites observées ou certaines pensées exprimées en constituent des effets et des manifestations empiriques partielles - cette attribution du sens commun constitue un simple postulat métaphysique, un principe régulateur que la raison, dans son usage pur, est obligée de se donner pour rendre compte de la réalité en l’homme d’une propriété dont on peut donc lui supposer la possession en soi, au delà de toute expérience possible, mais dont la connaissance scientifique, cantonnée à la connaissance des seuls phénomènes, n’est pas en mesure de rendre compte, ce que marque, dans ce passage, le recours au concept d’"Idée" (avec majuscule).
Or il est manifeste que le fonctionnement des agents conversationnels en ligne et leurs productions ne satisfont pas aux exigences du sens commun tel qu’il se trouve ici défini par Kant au sens du sensus communis logicus [71].
3. Les agents conversationnels en ligne pris dans les ambiguïtés de la notion de sens commun.
Parce qu’il procède par compilation et synthèse de données à partir desquelles il a été entraîné, il est clair que le tchatbot obéit à un processus d’élaboration purement empirique : à aucun moment il ne "tient compte en pensée (a priori) du mode de représentation de tout autre", mais il se contente de tenir compte, a posteriori, c’est-à-dire après computation sur la base des données qui lui sont disponibles, des représentations de certains autres seulement, en vertu du principe de la plus grande fréquence et non de la plus grande pertinence. Ce qui le prouve, ce sont par exemple les biais divers et variés, sexistes ou racistes par exemple, dont les productions brutes du logiciel témoignent et qui ont contraint ses concepteurs à introduire dans son fonctionnement des instances de censure ; ce sont aussi les erreurs manifestes et les préjugés les plus faux qu’il restitue lorsqu’il est interrogé par exemple sur des questions d’histoire [72]. C’est là une preuve manifeste que le logiciel est structurellement incapable de faire de lui-même preuve bon sens. Jamais le logiciel n’est en mesure, du fait de sa structure et de son mode de fonctionnement, de "comparer son jugement à la raison humaine tout entière", parce qu’il ne procède que par compilation et synthèse empirique de données qui sont des produits résiduels du jugement humain, qu’il assemble, en extériorité, selon le principe de la meilleure fréquence, tout en demeurant en lui-même dépourvu d’une faculté ou d’une instance interne de jugement. C’est pourquoi il demeure fondamentalement victime de "l’illusion qui, procédant de conditions subjectives particulières aisément susceptibles d’être tenues pour objectives, [exerce] une influence néfaste", non sur le jugement, qu’il ne possède pas, mais sur les résultats de ses calculs : le principe de meilleure fréquence le rendant incapable de distinguer par exemple une connaissance fiable et établie par la recherche scientifique d’un simple préjugé, il présente comme si elle relevait de conditions objectives la totalité de son matériau de données, dont une partie relève cependant en réalité de conditions subjectives. Dans l’exercice du sens commun logique (sensus communis logicus) au contraire, tout être humain
"compare son jugement moins aux jugements réels des autres qu’à leurs jugements simplement possibles et (...) l’on se met à la place de tout autre en faisant simplement abstraction des limitations qui s’attachent de façon contingente à notre appréciation." [73]
L’agent conversationnel ne considère quant à lui que des jugements réels produits par d’autres selon le principe du plus fréquent ; or les jugements les plus fréquents ne se confondent nullement avec les jugements possibles. Les biais et reprises de préjugés manifestes rappelés ci-dessus montrent également que l’outil est incapable de faire "abstraction des limitations qui s’attachent de façon contingente" à l’appréciation de chacun, mais que tout au contraire il en tient compte et les intègre pleinement dans ses computations, exception faite des domaines "sensibles" (sexisme, racisme, xénophobie etc.) sur lesquels il a été bridé par ses concepteurs.
En ce sens, il convient de se départir du contresens que Kant dénonce dans la suite du §40 de la CFJ. L’opération de réflexion effectuée par les êtres humains lorsqu’ils exercent leur sens commun logique, et qui consiste à "écarte[r] autant que possible ce qui, dans l’état représentatif, est matière, c’est-à-dire sensation" et à "prête[r] exclusivement attention aux caractéristiques formelles de sa représentation ou de son état représentatif", c’est-à-dire qui consiste à mettre de côté notre sensibilité personnelle, à en extraire les déterminations de nos jugements de façon à les soustraire autant que possible à ses effets subjectifs, pourrait passer, à première vue pour une opération d’abstraction formelle de type purement technique, "trop technique pour que l’on puisse l’attribuer à ce pouvoir que l’on nomme le sens commun", de sorte qu’il serait facile de croire qu’une machine informatique devrait parvenir non seulement à réaliser cette opération formelle, mais encore à la réaliser bien mieux qu’un esprit humain. Or c’est là, nous dit Kant, une pure apparence, qui ne nous saisit que lorsqu’on exprime cette opération "dans des formules" abstraites, auxquelles cependant l’opération dans son effectivité est elle-même irréductible. Si la machine se montre effectivement incapable d’un tel discernement, incapable "de faire abstraction de l’attrait et de l’émotion quand on cherche un jugement qui doit servir de règle universelle" (ibid. p. 279), c’est qu’en réalité "il n’est rien de plus naturel" à l’esprit humain, parce que c’est là son opération propre, l’opération vivante de la raison humaine, qui consiste à s’abstraire des représentations simplement sensibles pour s’élever aux idées, opération dont aucune machine n’est capable.
C’est dire qu’en réalité, le pouvoir de juger ne s’apprend pas, comme Kant l’avait déjà montré dans la Critique de la raison pure, dans l’introduction de l’Analytique des principes, intitulée "Du jugement transcendantal en général" :
Le jugement est un don particulier qui ne peut pas du tout être appris. Aussi le jugement est-il la marque spécifique de ce qu’on nomme le bon sens et au manque de quoi aucun enseignement ne peut suppléer ; car bien qu’une école puisse présenter à un entendement borné une provision de règles, et greffer, pour ainsi dire sur lui des connaissances étrangères, il faut que l’élève possède par lui-même le pouvoir de se servir de ces règles exactement, et il n’y a pas de règle que l’on puisse garantir contre l’abus qu’il en peut faire quand un tel don naturel lui manque*. C’est pourquoi un médecin, un juge ou un homme d’Etat peuvent avoir dans la tête beaucoup de belles règles de pathologie, de jurisprudence ou de politique, à un degré capable de les rendre de savants professeurs en ces matières, et pourtant se tromper facilement dans l’application de ces règles.
*Le manque de jugement est proprement ce qu’on appelle stupidité, et à ce vice il n’y a pas de remède. Une tête obtuse ou bornée en laquelle il ne manque que le degré d’entendement convenable et de concepts qui lui soient propres, peut fort bien arriver par l’instruction jusqu’à l’érudition. Mais, comme alors, le plus souvent, ce défaut (secunda Petri [74]) accompagne aussi les autres, il n’est pas rare de trouver des hommes très instruits qui laissent incessamment apercevoir dans l’usage qu’ils font de leur science ce vice irrémédiable. [75]
Qu’avons-nous en réalité à apprendre à nos élèves dans un enseignement scolaire en général et dans un enseignement de philosophie en particulier ? A employer des règles pour exercer leur jugement. C’est peu ou prou ce qu’on nomme dans le système éducatif français, "rendre les élèves autonomes". Pourtant, il leur revient toujours en dernière instance de régler par eux-mêmes l’usage de ces règles, car il n’y a pas de règle de l’usage des règles, et cela n’a qu’un nom : la liberté. En définitive le jeu des facultés humaines ne peut jamais être autre chose qu’un libre jeu, même si c’est dans le sens commun esthétique que ce libre jeu est le plus libre. L’IA ne peut quant à elle qu’obéir à des règles, fût-elle capable d’apprendre, c’est-à-dire de les reconfigurer en déduisant leur adaptation ou leur transformation de l’analyse des effets de ses propres productions : c’est là encore appliquer un ensemble de règles. Ce n’est pas un petit paradoxe de dire que l’Intelligence Artificielle, en tant qu’elle n’est par définition qu’une machine apprenante, est condamnée de ce fait même à la plus totale stupidité, irrémédiablement. La stupidité n’est pas le contradictoire de l’intelligence : c’est seulement son contraire, ce qui signifie qu’elle ne l’exclut ni logiquement ni factuellement, mais qu’elle est au contraire tout à fait compatible avec elle. De même qu’un chat peut être à la fois blanc et noir (blanc et noir sont des contraires) s’il est par exemple bicolore, ou encore s’il est gris, tandis qu’il ne peut pas être à la fois blanc et non-blanc (qui sont des contradictoires), de même un être intelligent, ce qui signifie un être qui connaît et qui comprend les règles, parce qu’il les a apprises, peut être en même temps complètement stupide, ce qui signifie manquer totalement de jugement dans l’usage ou dans l’application de ces règles qui, quant à eux, ne s’apprennent pas. L’IA pourra donc toujours apprendre des règles tant qu’elle pourra, et même en créer par elle-même un nombre indéfini de nouvelles, jamais elle ne pourra, ce faisant, apprendre à juger, car juger ne s’apprend pas. Dans l’ordre du jugement, aucun être humain n’apprend jamais à être libre : on découvre simplement un jour qu’on est libre et qu’en vérité on l’avait toujours été. Nul ne peut échapper à cette liberté.
4. Inaccessibilité aux tchatbots des maximes élémentaires du sens commun
Il est dès lors aisé de montrer et de comprendre en quoi les opérations et les productions d’un agent conversationnel ne satisfont pas aux "maximes du sens commun" que Kant analyse dans la suite du §40, c’est-à-dire aux principes d’usage qui doivent présider à son exercice. Parce que l’existence en chaque homme d’un sens commun ne peut pas être autre chose qu’un postulat de la raison pure, son usage ne peut pas faire l’objet de règles qui soient des lois : il n’existe et ne peut exister aucune loi du sens commun. Le sens commun peut donc seulement faire l’objet de principes subjectifs de son bon usage : des tel principes s’appellent des maximes. Les maximes du sens commun sont au nombre de trois :
1. Penser par soi-même ; 2. Penser en se mettant à la place de tout autre ; 3. Toujours penser en accord avec soi-même. La première est la maxime du mode de pensée qui est libre de préjugés, la seconde celle de la pensée élargie, la troisième celle de la pensée conséquente.
4.1. Penser par soi-même
Concernant la première maxime du sens commun, si l’analyse de différentes productions d’agents conversationnels en ligne permet de montrer que, dans les faits, ces outils ne sont en rien protégés contre le préjugé, l’analyse qu’en propose Kant dans la suite du §40 permet de comprendre pourquoi il en est ainsi en principe. Le processus informationnel consistant, pour la machine, à procéder au tri selon le critère du plus fréquent, à la synthèse et au réarrangement de données, et pour l’élève, à reprendre à son compte le résultat de ces opérations, ne consiste pas à "penser par soi-même", mais au contraire à s’inscrire radicalement dans l’ordre du pré-jugé, les productions de l’agent conversationnel étant construites à partir de données qui, quelle que soit leur valeur informationnelle intrinsèque (de l’ordre d’un savoir scientifique ou de l’ordre de l’opinion ordinaire), se présentent comme les résidus d’actes de jugement produits par d’autres, que la machine ne ré-effectue pas en opérant sur eux, pas plus que l’élève ne le fait en les reprenant simplement à son propre compte. En ce sens, à supposer même que l’on puisse assimiler les opérations de la machine à une forme de rationalité, de type purement calculatoire, et la reprise par l’élève de ses productions à une forme de rationalité de type stratégique, il s’agit au mieux, dans un cas comme dans l’autre, d’un usage purement passif de la raison ; or
la tendance à la passivité, par conséquent à l’hétéronomie de la raison, c’est là ce qu’on appelle le préjugé (...)
Cette tendance à la passivité est une tendance à l’hétéronomie de la raison : dans les textes produits par un agent conversationnel, aucune faculté de juger n’agit selon ses propres lois ; bien au contraire, les idées produites obéissent aux lois (en grec : nomoi) d’un ou plusieurs autres (en grec : hétéros) qui ont déjà jugé d’avance la question, l’agent conversationnel ne faisant que reprendre et recombiner avec d’autres les expressions textuelles de ces activités judicatives dont il devient dès lors entièrement dépendant, quand bien même les recombinaisons opérées à partir d’elles seraient originales. Et c’est pourquoi rien ne fait obstacle à la possibilité que l’agent conversationnel reprenne à son compte des opinions délirantes, irrationnelles ou tout simplement contraires à la vérité, pour peu que les données à partir desquelles il travaille soient partiellement affectées par des représentations contraires au sens commun, par exemple à des représentations de "la nature comme n’étant pas soumise à des règles que l’entendement, à travers sa propre loi, lui donne pour fondement" (p. 279), c’est-à-dire à des représentations contraires au savoir scientifique le mieux établi rationnellement. C’est pourquoi la première maxime du sens commun est bien "la maxime de l’entendement" comme le souligne Kant quelques lignes plus loin (p. 280) : seul l’exercice de notre entendement, c’est-à-dire le développement d’une pensée fondée sur la connaissance peut constituer le premier rempart propre à nous protéger contre le préjugé en général et la superstition en particulier. En ce sens, le rapport du tchatbot à ses données est au contraire un rapport fondamentalement superstitieux : un rapport de croyance en leur autorité indépendant de toute évaluation véritablement rationnelle possible par laquelle une pensée viendrait "se donner constamment à soi-même sa propre loi", et dont aucune évaluation statistique au regard de leur fréquence ou de leur probabilité dans les textes sources ne saurait constituer un exact équivalent : en un mot, il s’agit d’un rapport de type fondamentalement dogmatique. C’est en quoi les agents conversationnels constituent en eux-mêmes, dans les usages qu’en font les élèves, des dispositifs contraires aux lumières de la raison : rien n’œuvre en eux à "la libération de[s] préjugés en général" ; seules des instances de censure surimposées par leurs concepteurs humains à leurs opérations peuvent le permettre, sans toutefois que ces instances montrent une totale efficacité. Ils imposent au contraire à leurs utilisateurs, à commencer par les élèves qui en reprennent naïvement les productions à leur compte, "le besoin d’être guidés par d’autres, par conséquent l’état d’une raison passive " (p. 280).
La deuxième maxime du sens commun commande la pratique de la pensée élargie : penser en se mettant à la place de tout autre. C’est en quoi, souligne Kant, elle est véritablement la maxime de la faculté de juger proprement dite, la maxime de la réflexion, qui doit construire des représentations partageables avec autrui qui ne sont pas des concepts préexistants a priori, dans l’entendement, au travail de la réflexion. Or, comme nous l’avons déjà souligné précédemment, un agent conversationnel est structurellement incapable de "s’élever au dessus des conditions subjectives et particulières du jugement" que contiennent les données à partir desquelles il travaille, pour adopter "un point de vue universel" lui permettant "de réfléchir à son propre jugement" comme s’il le considérait "du point de vue d’autrui". La vastitude des données à partir desquelles il est entraîné ne peut rien changer à ce problème. Le recoupement selon des règles de fréquence et de probabilité d’un très grand nombre de données marquées du sceau de la subjectivité, même de façon partielle, ne peut en aucun cas aboutir à la construction d’un point de vue universel objectif : il y a là un saut métaphysique, qu’aucune machine n’est en mesure d’effectuer. Aucune machine ne peut se mettre réellement "à la place d’autrui", même si elle peut très bien en donner l’illusion par des artifices de langage. A ce titre, les opérations des agents conversationnels apparaissent comme des dispositifs de simulation, par des voies calculatoires de nature toute différente, de l’activité de jugement du sens commun, et leurs productions comme des simulacres d’idées de sens commun.
4.2. Imitation ou simulation ?
Une simulation consiste, au moyen d’un modèle formel, qui, dans le domaine technologique, est très souvent de type mathématique ou statistique probabiliste, à reproduire artificiellement, avec une représentation ou un effet approchant au plus près possible, un phénomène réel, naturel, technique ou social. Les sciences et techniques développent ainsi des simulations, par exemple, en physique, en biologie ou en géologie, qui sont parfois transposables à la résolution de problèmes dans le domaine des sciences humaines, en économie, en stratégie, en sociologie, en psychologie par exemple. Le problème de la simulation, comprise en ce sens, n’est pas celui de l’imitation : la difficulté n’est pas ici celle du degré de déformation, d’inexactitude ou de fausseté avec lequel on reproduit ou imite plus ou moins fidèlement le phénomène que l’on cherche à simuler, ce n’est pas celle de l’écart entre la simulation et le phénomène simulé. Une imitation réalise effectivement le phénomène qu’elle imite, avec un degré de ressemblance plus ou moins grande ; au contraire une simulation ne réalise jamais ce qu’elle simule : la difficulté est ici que la simulation ne produit pas du tout l’effet qu’elle reproduit, quand bien même l’opération de simulation serait-elle parfaite. Un collier de verre n’est pas la simulation d’un collier de diamant, il en est l’imitation : tout de verre qu’il soit, il n’en demeure pas moins réellement un collier. Un imitateur, qui contrefait la voix parlée ou chantée d’un personnage célèbre, chante et parle réellement, reproduisant de façon très approchée le timbre et l’intonation de la voix imitée, comme le prouve la comparaison de son diagramme fréquentiel avec celui de la voix imitatrice. Au contraire, dans un simulateur de vol, utilisé pour l’entraînement des pilotes de ligne ou de chasse, aucun vol n’a réellement lieu : personne ne vole. C’est même tout l’intérêt de la simulation : en cas de fausse manœuvre de l’apprenti pilote, aucun risque de crash aérien : l’apprenti peut progresser sereinement, en apprenant de ses erreurs, sans inquiétude ni culpabilité. De même le compagnon de la fable, qui simule la mort pour tromper l’ours dont il n’aurait pas dû vendre la peau avant de l’avoir tué, ne meurt pas. Celui qui simule le plaisir, ou la surprise, n’éprouve absolument rien de ces émotions : il garde le cœur froid, même s’il peut tromper très efficacement son destinataire, à la mesure de son talent : l’excellent comédien joue de sang froid, il se rend ainsi capable de tout reconfigurer de lui-même, y compris sa sensibilité et jusqu’aux mouvements de son corps ; c’est un simulateur, non un imitateur : c’est même là ce qui fait son paradoxe, comme l’a bien montré Diderot. Dans une simulation, rien de ce qui est simulé n’a donc lieu, sinon l’acte de simulation lui-même. L’effet ou l’apparence de l’effet sont artificiellement reproduits et non produits, pas plus que le phénomène qui en est la cause.
Les agents conversationnels se présentent comme des simulateurs de pensée élargie : ils cherchent à en approcher au plus près l’efficace tout en ne pouvant faire autre chose qu’en contrefaire les effets. Ils simulent la pensée élargie sans parvenir à l’imiter. Ils la simulent en formulant, à propos de la question qu’on lui pose, des énoncés de portée très générale qui synthétisent les données les plus répandues : il s’agit à proprement parler d’un acte d’induction, non d’un acte d’universalisation opéré par la faculté de juger faisant l’effort de se mettre à la place de tout autre. Encore l’illusion de pensée élargie n’est-elle produite la plupart du temps, dans les productions textuelles des agents conversationnels que par la multiplication de points de vues divers sur la question posée, l’accumulation d’opinions ou de thèses : il est tout au plus accessible à la pluralité des perspectives, dont il se montre cependant incapable de tenter un dépassement, vers un jugement qui permettrait d’accorder les points de vue divers et de décider la question de façon légitime et fondée. En ce sens les agents conversationnels sont d’authentiques fauteurs de relativisme, ce que montre clairement le type de formules qu’ils adoptent dès qu’il leur est demandé de conclure : "la réponse à cette question dépend en grande partie des convictions personnelles et des systèmes de valeurs de chacun", "Il est important de continuer à débattre et à réfléchir à cette question". En ce sens, les éléments textuels que produisent les agents conversationnels n’ouvrent à aucune véritable communauté des idées, dans la mesure où ils se présentent comme de simples collections de points de vues possibles sur une question donnée (on peut penser ceci, ou l’on peut penser cela, certains ont répondu ainsi à la question, d’autres y ont répondu comme cela), dont la structure, non seulement ne permet jamais de tendre vers un point de vue universel possible, qui pourrait, en droit, devenir véritablement commun, mais en exclut par principe, la visée.
4.3. La "pensée" peu conséquente des agents conversationnels : comment je me suis disputé avec mon Intelligence Artificielle... (ma vie numérique) [76]
La troisième maxime du sens commun, celle de la pensée conséquente, qui consiste à toujours penser en accord avec soi-même, est la maxime de la raison pure par excellence. Parce qu’elle renvoie directement aux considérations développées dans la Critique de la Raison pure concernant les droits de la raison pure à constituer une métaphysique à partir de ses propres principes, Kant n’en dit pas grand chose dans le §40 de la CFJ. Il nous suffira donc ici de souligner que Kant insiste sur la dépendance de cette troisième maxime à l’égard des deux précédentes pour montrer qu’un agent conversationnel n’y satisfait pas non plus.
Toutefois, si nous envisageons ici l’idée d’une pensée conséquente d’un point de vue plus global en la définissant comme une pensée simplement cohérente avec elle-même, il semble que l’agent conversationnel éprouve également quelques difficultés sur ce plan. A une même question réitérée plusieurs fois, il donne en effet, lorsqu’il s’agit de questions que l’on peut qualifier de controversées, comme le sont toujours toutes les questions philosophiques, des réponses sensiblement différentes, mobilisant parfois des arguments contraires voire contradictoires avec ceux qu’il avait sélectionné lors d’une commande similaire. Il semble également qu’il ne soit pas tout à fait obéissant, formulant par exemple des critiques à l’égard d’une thèse dont on lui demandé de produire seulement un ensemble de justifications. Ainsi, un élève qui aurait la curiosité de poser la même question de façon réitérée à un agent conversationnel, au vu du désordre et de l’absence de convergence voire des contradictions entre les réponses successives fournies, finirait sans doute, à supposer qu’il s’en aperçoive, par ne plus savoir quoi écrire et encore moi quoi en penser lui-même.
Enfin l’augmentation exponentielle des consultations des agents conversationnels depuis leur mise en ligne produit d’étranges dysfonctionnements, en particulier en situation d’utilisation prolongée, ont été rapportés dans la presse : réponses fantaisites, déclarations d’amour, propos agressifs ou évoquant un délire de persécution, réponses malveillantes, injures, comportements discursifs à personnalités multiples, propositions indécentes, ce qui a conduit les entreprises exploitant ces outils à introduire des mesures de bridage, notamment à limiter le nombre de tours possibles (un tour est un ensemble question-réponse) au cours d’une même session d’utilisation. [77] On peut donc dire des agents conversationnels que la pensée conséquente n’est pas leur fort.
***
Que peut-on conclure de ces analyses ? Que non seulement le tchatbot n’est pas dialecticien mais qu’il est de plus incapable en lui-même de tout sens commun : ses productions ne sont que la simulation de ses effets, opérée par compilation, sélection et refonte de résidus contingents du sens commun vulgaire (sensus communis vulgaris), de "ce que l’on trouve partout" sur l’Internet sans qu’on puisse lui attribuer le moindre mérite, pas même celui d’un entendement simplement sain mais véritablement actif.
Avant de s’intéresser à ce qu’il serait possible de faire ou non, dans une classe de philosophie, de matériaux produits par un tel dispositif, il y a lieu d’analyser les causes possibles des manifestations d’inconséquence, d’incapacité à la pensée élargie et d’inaptitude à penser par soi-même, bref de ce manque caractérisé de sens commun des agents conversationnels mus par l’Intelligence Artificielle. Dire que les agents conversationnels sont dépourvus de sens commun constitue en effet une explication négative de leur impuissance, celle que manifestent à la fois à leurs dysfonctionnements mais aussi leur incapacité à produire une authentique réflexion philosophique, une explication par ce qui leur fait défaut. Or ne pourrait-on trouver à cette double impuissance une explication positive ? Une notion bien connue entre inévitablement en scène dès que l’on s’avance un peu sur le terrain de l’analyse et de la critique de la notion d’intelligence chez l’être humain : c’est la bêtise. Ce dont l’Intelligence Artificielle se montre ici affectée, n’est-ce pas un phénomène analogue à celui auquel toute intelligence humaine prétend s’opposer et pourtant, inévitablement, s’adosse : une forme de Bêtise Artificielle ?
Leçon N°5 - B.A. : de la Bêtise Artificielle
(Leçon en cours)
"En tant que chercheurs, nous nous escrimons à rendre les machines un brin plus intelligentes, mais elles sont encore tellement stupides ! [...] Sérieusement : nos machines sont bêtes , et nous ne faisons qu’essayer de les rendre moins bêtes."
Yoshua Bengio, "Will Machines Eliminate Us ?", interview par Will Knight, MIT Technology Review, 29 janvier 2016.
Il n’est pas anodin de remarquer que les outils de rédaction automatique par Intelligence Artificielle mis désormais à la disposition du public - et des élèves - sur l’Internet sont des agents conversationnels, lorsqu’il s’agit de se demander quelle place ils pourraient, devraient, ou au contraire ne devraient pas tenir dans le cadre pédagogique de l’institution scolaire. Leur irruption très récente dans ce même cadre invite par voie de conséquence à réinterroger et à rediscuter sous ce jour nouveau le statut pédagogique qu’il est possible ou non, souhaitable ou non de donner aux différentes formes de la conversation telles qu’elle se trouvent reconfigurées par leur artificialisation numérique sous l’empire de l’IA générative.
D’un côté la conversation, comprise dans son acception générale, est une circonstance de la vie sociale et une pratique dans laquelle chacun peut trouver l’occasion d’apprendre, par la confrontation de ses arguments avec les arguments et les objections de ses interlocuteurs, à mettre en question et en doute ses propres idées, et ainsi mieux conduire sa pensée, par quoi l’on peut soutenir, comme l’a très justement souligné Montaigne dans son célèbre essai De l’art de conférer, c’est-à-dire de converser, qu’elle est "le plus fructueux et naturel exercice de notre esprit", [78]. De fait, la forme très générale de la conversation ou de la "conférence", par quoi l’on peut entendre un échange de propos ou d’arguments, sur un ton plus ou moins familier, entre plusieurs interlocuteurs [79] et dont on peut se demander s’il y a lieu ou non, au delà des formes qu’elle peut prendre dans la vie courante, de leur prêter des vertus pédagogiques, n’est pas sans rapport avec la pratique et l’enseignement de la philosophie, en ce qu’elle renvoie, au fil de son histoire, à des formes de discours bien connues et plus ou moins strictement formalisées, qui se présente en même temps comme des formes pédagogiques : la très formelle disputatio pratiquée dans les facultés de théologie et de philosophie à l’époque médiévale, plus anciennenement la joute dialectique, pratiquée dans l’école péripatéticienne et définie par Aristote dans le dernier chapitre de ses Topiques [80] et plus anciennement encore le dialogue philosophique que pratiquait Socrate, et dont Platon et Xénophon ont conservé sinon le rapport exact, du moins une mémoire dans leurs écrits. A supposer que la conversation en général soit effectivement susceptible de nous apprendre quelque chose, la question se pose alors de savoir si les agents rédactionnels mus par l’IA générative et que l’on dit "conversationnels" sont capables ou non, par leur conversation artificielle - une conversation avec une machine, donc - d’apprendre quelque chose aux élèves qui soit du même ordre que ce que leur apprendrait une conversation naturelle, ou plutôt authentiquement sociale, avec d’autres êtres humains, notamment et en particulier dans une classe, le dialogue avec un professeur, éventuellement de philosophie, et si oui par quels ressorts pédagogiques.
D’un autre côté cependant, la pratique de la conversation est aussi un lieu privilégié de rencontre et de confrontation avec le phénomène de la bêtise, qui est tout à la fois celle de nos interlocuteurs et la nôtre, la situation conversationnelle conduisant chacun à rendre publiques ses pensées en les disant aux autres à haute voix, et à en réaliser ainsi les nombreuses imperfections, notamment à la lumière des objections que les interlocuteurs sont susceptibles de leur adresser. La conversation représente à ce titre, pour tout esprit à former, une zone de risque, celui de s’affaiblir au contact des pires inepties, au lieu de se renforcer :
"Comme notre esprit se fortifie par la communication des esprits vigoureux et reiglez, il ne se peut dire combien il perd et s’abastardit par le continuel commerce et frequentation que nous avons avec les esprits bas et maladifs. Il n’est contagion qui s’espande comme celle-là. Je sçay par assez d’experience combien en vaut l’aune. J’ayme à contester et discourir, mais c’est avec peu d’hommes et pour moy. Car de servir de spectacle aux grands et faire à l’envy parade de son esprit et de son caquet, je trouve que c’est un mestier tres-messeant, à un homme d’honneur." [81]
De l’idée qu’un esprit peut aussi s’affaiblir par la trop fréquente confrontation à la bêtise, se déduisent en effet les conseils formulés par Montaigne en vue de bien choisir ses interlocuteurs : il convient tout d’abord de les choisir peu nombreux, et ensuite de les choisir avec l’esprit suffisamment délié et alerte, enfin d’éviter à tout prix de participer aux disputes publiques telles qu’il en existait à l’époque de Montaigne - nous y reviendrons - dont le seul objectif était d’amuser la galerie en distinguant au bout du compte un vainqueur et un vaincu, plutôt que d’éprouver ce qu’il serait raisonnable et légitime de penser dans le sujet traité. Le risque serait ici de voir se substituer au souci d’acquérir une authentique connaissance des choses le simple désir de l’emporter et de briller : risque et reproche que Platon avait déjà adressé aux Sophistes de son temps, même si leur pratique de la parole relevait plus de la confrontation entre des discours extensifs et successifs que de formes authentiquement conversationnelles, auxquelles il fallait tout au contraire qu’ils consentent, parfois d’assez mauvaise grâce, à se plier, sur les instances de Socrate, afin que leurs affirmations puissent être mises à l’épreuve. A cet égard, dans le souci de se prémunir contre les effets de contamination ou d’enlisement par la bêtise que peuvent comporter les formes de la conversation, choisir pour interlocuteur un agent conversationnel mu par une Intelligence Artificielle générative, choisir une machine, constitue-t-il un bon choix en général, et un bon choix pédagogique en particulier ?
Par comparaison avec la conversation entre interlocuteurs humains et par transposition, la question du statut pédagogique qu’il y aurait lieu d’accorder ou non à des agents conversationnels dans un enseignement en général, et en particulier dans un enseignement de philosophie, question qui se spécifie dans les deux questions précitées (1. comment des élèves pourraient-ils véritablement apprendre quelque chose d’agents conversationnels ? 2. à quel titre et sous quel aspect un agent conversationnel pourrait-il être, au point de vue pédagogique, un bon interlocuteur ?) soulève donc le problème fondamental de la place et du statut qui sont ceux de la bêtise dans les productions des agents conversationnels mus par l’IA générative et dans les échanges que leurs utilisateurs sont susceptibles d’avoir avec eux. Ce problème recouvre quatre séries principales de difficulté. Premièrement, qu’est-ce qui, structurellement, lie toute pratique de la conversation, qu’elle soit naturelle ou artificielle, à l’expérience de la bêtise ? Deuxièmement, qu’est-ce qui, dans cette relation de la conversation à la bêtise, la relie en particulier à la dimension de l’artifice, rendant ainsi possible des formes de bêtise artificielle ? Troisièmement, comment expliquer plus techniquement que les agents conversationnels mus par l’IA générative, bien qu’ils soient des machines fonctionnant à partir d’algorithmes mathématiques et d’opérations de calcul rigoureux, n’échappent pas à la bêtise mais, du fait même qu’ils expriment des formes d’intelligence, en sont corrélativement et nécessairement producteurs ? Quatrièmement, que penser des moyens déployés jusqu’ici dans l’urgence par les entreprises porteuses des agents conversationnels en ligne pour tenter de lutter contre la bêtise structurelle de ces derniers, sur les plans intellectuel, éthique et politique ?
1. Conversation, bêtise, pédagogie
La thèse est déjà en elle-même audacieuse, qui consiste à envisager la conversation comme une forme pédagogique. Une leçon ou un cours ne sauraient jamais se réduire à la simple conversation d’un professeur avec sa classe, sauf à réduire à quelques aperçus curieux et plaisants ce qui devrait constituer au contraire les contenus de connaissance solides et réfléchis d’un apprentissage intellectuel ou pratique pleinement fondé en raison, et partant l’enseignement à de simples mondanités [82]. À l’inverse, une conversation, assurément, n’est ni un cours ni une leçon : par son caractère ordinairement informel, toujours improvisé, généralement pauvre en connaissances, elle s’opposerait même plutôt aux formes de discours proprement pédagogiques que constituent le cours et la leçon. Pour autant, il faut prendre ici très au sérieux l’idée, avancée par Montaigne, d’une vertu éducatrice de la conversation et passer outre l’objection très générale, un peu trop rapide et à vrai dire simpliste qui consisterait à arguer du seul fait qu’en soi conversation n’est pas leçon pour affirmer que les productions d’agents conversationnels mus par les technologies de l’IA générative, ainsi que les échanges que des élèves pourraient avoir avec eux, ne sauraient avoir la moindre opérationnalité et la moindre efficacité éducatrice. Il convient d’y regarder à deux fois et de beaucoup plus près.
Il faut tout d’abord comprendre que les réflexions de Montaigne sur "l’art de conférer" s’inscrivent dans un contexte particulier de l’histoire de la pédagogie. Montaigne écrit en effet à une époque où, dans les collèges et les facultés es arts des universités (il ne s’agit pas ici de l’art au sens des beaux-arts, au sens esthétique, mais des arts libéraux, plus précisément et principalement ceux du trivium : grammaire, rhétorique, dialectique) mais également dans les collèges urbains qui s’étaient développés depuis le début du XVIe siècle, dans le sillage de la Réforme et de la Contre-Réforme, collèges protestants, d’un côté, collèges jésuites de l’autre, persiste, outre la lectio qui s’apparente en même temps à la leçon et à l’explication et au commentaire des textes canoniques (lectio, en latin, signifie d’abord "lecture"), la forme médiévale de la dispute (disputatio), échange serré d’arguments entre deux élèves cherchant, l’un, à défendre une thèse, l’autre, à la réfuter [83]. Si Montaigne a lui-même été familiarisé avec cette pratique formaliste de la "dispute" au cours de ses études au collège de Guyenne, cependant il récuse précisément le formalisme excessif, artificiel et convenu de ce style argumentatif "artiste" (en référence aux techniques d’argumentation enseignées dans les facultés es arts), au profit d’une pratique, plus libre et plus naturelle, dont le caractère d’art, qui fait l’objet même du chapitre, ne tient justement pas aux artifices des "artistes" des facultés es arts, mais à tout autre chose. Dans la formation sociale et intellectuelle de ce que Montaigne appelle déjà l’honnête homme, la vertu d’apprentissage de la conversation est en effet essentiellement corrective : elle nous instruit "mieux par contrariété que par exemple, et par fuite que par suite" [84], précisément parce que la rencontre avec d’autres, que la conversation suppose, nous confronte aux sottises que ceux-ci sont susceptibles de dire, en même temps que leurs objections nous permettent de prendre conscience des inepties que nous sommes nous-mêmes tout aussi bien capables de proférer.
"Tous les jours la sotte contenance d’un autre m’advertit et m’advise. Ce qui poind [85], touche et esveille mieux que ce qui plaist. Ce temps n’est propre à nous amender qu’à reculons, par disconvenance plus que par accord, par différence que par similitude. Estant peu aprins par les bons exemples, je me sers des mauvais, desquels la leçon est ordinaire." [86]
La vertu pédagogique de la conversation est donc essentiellement négative. La très fréquente sottise du discours de nos interlocuteurs a un effet éducateur d’autant plus grand qu’elle nous est désagréable : elle nous met en garde en nous portant à éviter de dire les mêmes sottises et contribue ainsi à nous rendre plus avisés : elle aiguise tout à la fois la finesse, la perspicacité et la prudence de notre esprit par le spectacle de ce qui en constitue de manifestes contre-exemples. Le mauvais exemple a ici plus de vertu éducatrice que le bon : il nous éveille mieux que lui, si bien que dans le temps de la conversation, nous progressons et apprenons pour ainsi dire "à reculons", par corrections successives de notre propre façon de discourir à la lumière des mauvais exemples auxquels la conversation d’autrui nous confronte immanquablement. C’est donc l’expérience du désaccord, non celle de l’accord qui, dans la conversation, porte ses vertus formatrices : dans l’expérience de la conversation, nous n’apprenons que "par différence", en nous départant des sottises auxquelles nous sommes confrontés dans le discours des autres et non en les imitant. Les bon exemples à suivre ont moins de vertus éducatrices que les mauvais également parce qu’ils sont choses très rares, tandis que les mauvais sont très courants : leur "leçon est ordinaire", parce que la bêtise est dans l’ordre des choses, s’entend : des choses humaines, dans les coutumes et les usages de l’humanité, non dans la nature, parce qu’il est dans les habitudes de tout être humain de vivre dans le déni des limites et des insuffisances de son propre jugement. C’est cette bêtise coutumière que Montaigne désigne ordinairement par le mot de "sottise" .
Montaigne opère donc ici un renversement de perspective pédagogique tout à fait radical : parce qu’en matière de discours et d’exercice de l’esprit les mauvais exemples ont toujours plus de vertus éducatrices que les bons du seul fait qu’ils sont de loin les plus fréquents, c’est à la conversation ordinaire qu’il faut prêter la plus grande puissance formatrice pour l’esprit plutôt qu’à la conversation réglée et artificielle de la disputatio "artiste" enseignée dans les facultés es arts et les collèges, avec ses usages convenus, ses matrices argumentatives usées et ses stratégies dialectiques vermoulues. Renversement radical en effet de toute la tradition pédagogique médiévale inspirée des Topiques d’Aristote, tradition qui reposait au contraire sur le culte du bon exemple, celui, tout formel des traités des rhétoriciens et dialecticiens antiques et médiévaux, mais aussi celui, remis au goût du jour par l’humanisme renaissant, des discours nouvellement retraduits des grands orateurs antiques grecs, attiques, et romains, ces derniers, au premier rang desquels il faut placer Cicéron, formant le matériau pédagogique premier des classes de Grammaire, d’Humanités et de Rhétorique des collèges protestants, jésuites ou municipaux. Car le formalisme et l’artifice en la manière ne se montrent en rien des remparts contre la bêtise, mais ils en constituent des conditions favorables et des moyens objectifs :
"Qui n’entre en deffiance des sciences, et n’est en doubte s’il s’en peut tirer quelque solide fruict au besoin de la vie, à considerer l’usage que nous en avons : "nihil sanantibus litteris" [87] ? Qui a pris de l’entendement en la logique ? où sont ses belles promesses ? "Nec ad melius vivendum nec ad commodius disserendum" [88]. Voit-on plus de barbouillage au caquet des harengeres qu’aux disputes publiques des hommes de cette profession ? J’aymeroy mieux que mon fils apprint aux tavernes à parler, qu’aux escholes de la parlerie. Ayez un maistre és arts, conferez avec luy : que ne nous faict-il sentir cette excellence artificielle, et ne ravit les femmes et les ignorans, comme nous sommes, par l’admiration de la fermeté de ses raisons, de la beauté de son ordre ? que ne nous domine-il et persuade comme il veut ? Un homme si avantageux en matiere et en conduicte, pourquoy mesle-il à son escrime les injures, l’indiscretion et la rage ? Qu’il oste son chapperon, sa robbe et son latin ; qu’il ne batte pas nos aureilles d’Aristote tout pur et tout cru, vous le prendrez pour l’un d’entre nous, ou pis. Il me semble, de cette implication et entrelasseure de langage, par où ils nous pressent, qu’il en va comme des joueurs de passe-passe : leur soupplesse combat et force nos sens, mais elle n’esbranle aucunement nostre creance ; hors ce bastelage, ils ne font rien qui ne soit commun et vile. Pour estre plus sçavans, ils n’en sont pas moins ineptes.
J’ayme et honore le sçavoir autant que ceux qui l’ont ; et, en son vray usage, c’est le plus noble et puissant acquest des hommes. Mais en ceux là (et il en est un nombre infiny de ce genre) qui en establissent leur fondamentale suffisance et valeur, qui se raportent de leur entendement à leur memoire, "sub aliena umbra latentes" [89], et ne peuvent rien que par livre, je le hay, si je l’ose dire, un peu plus que la bestise. En mon pays, et de mon temps, la doctrine amande assez les bourses, rarement les ames. Si elle les rencontre mousses, elle les aggrave et suffoque, masse crue et indigeste ; si desliées, elle les purifie volontiers, clarifie et subtilise jusques à l’exinanition. C’est chose de qualité à peu pres indifferente ; tres-utile accessoire à une ame bien née, pernicieux à une autre ame et dommageable ; ou plustost chose de tres precieux usage, qui ne se laisse pas posseder à vil pris : en quelque main, c’est un sceptre ; en quelque autre, une marotte." [90]
Ce sont bien les arts libéraux du trivium, que l’on apprenait dans ces simples "escholes de la parlerie" qu’étaient aux yeux de Montaigne les collèges et les facultés es arts, que désigne ici le mot de "sciences", dont chacun peut cependant douter de la moindre utilité pour la vie réelle, pour l’apprentissage de la réflexion et pour notre progrès moral, du moindre "fruict au besoin de la vie" au regard de "l’usage que nous en avons", usage d’école, purement scolastique et formel, en raison duquel ces arts ne nous apprennent "ni à mieux vivre, ni à mieux raisonner". Cette accusation de formalisme, c’est-à-dire d’artificialisme, vise ici la topique et la syllogistique héritées d’Aristote, dont les maîtres es arts "battent les aureilles" à leurs élèves "tout pur et tout cru", c’est-à-dire dans toute leur sécheresse formelle. Or déployer des tautologies telles que sont les syllogismes, ou manipuler les matrices argumentatives toutes faites et convenues que sont les lieux dialectiques (topoi) aristotéliciens, ne suffit jamais pour apprendre à gagner en bons sens : "qui a pris de l’entendement n la logique ?" Réponse : personne. À preuve les multiples et constants contre-exemples fournis par les disputes publiques entre dialecticiens professionnels, qu’il soient étudiants ou professeurs es arts, disputes auxquelles on pouvait assister notamment dans les collèges certains samedis ou dimanches, ou à l’occasion des remises annuelles des prix [91], ou encore dans les facultés es arts des universités, disputes dans lesquelles ces batteries syllogistiques et topiques étaient mises en œuvre et qui, toutes de forme, ne valaient pas mieux, quant à leur niveau de réflexion sur leur fond, que des querelles de marchandes de harengs sur un marché : "Voit-on plus de barbouillage [c’est-à-dire d’étalage grossier] au caquet des harengères qu’aux disputes publiques des hommes de cette profession ? J’aymeroy mieux que mon fils apprint aux tavernes à parler qu’aux escholes de la parlerie " : ces querelles valent moins que des conversations de comptoir, de café du commerce, si bien qu’à ce compte, mieux vaudrait encore envoyer les enfants au bistrot pour apprendre à réfléchir plutôt que dans les collèges ou aux facultés es arts. Même des épouses oisives lassées d’administrer les affaires de leur maisonnée, en proie à l’ennui et en mal de divertissement, ou même des spectateurs dépourvus de toute culture scolaire et qui seraient dans le totale ignorance des ressorts logiques et topiques, des trucs et astuces dialectiques ainsi déployés, ne se laisseraient pas abuser ni impressionner par de tels tours de passe-passe. Cette "excellence artificielle" ne fait illusion aux yeux de personne, elle ne parvient, au bout du compte, à persuader ni à dominer personne par le seul formalisme de leur discours, et c’est pourquoi leurs utilisateurs finissent toujours, afin de pouvoir espérer l’emporter - mais bien vainement - par mêler à leur "escrime les injures, l’indiscrétion [c’est-à-dire le manque de modération] et la rage". Les ressorts dialectiques et syllogistiques que le dialecticien professionnel emploie ne sont donc, en réalité qu’un décorum, exactement au même titre que le costume universitaire dont il s’affuble ; mais ôtez-lui "son chapperon, sa robbe et son latin", dépouillez-les de ses artifices logiques et topiques comme vous les dépouilleriez de son costume officiel : il ne fera plus illusion, le discours qu’il tiendra ne se distinguera plus rien de celui de n’importe qui, et "vous le prendrez pour l’un d’entre nous, ou pis", vous verrez clairement que le niveau de sa réflexion ne vaut pas mieux que celui du commun le plus ordinaire et même qu’il lui est bien souvent inférieur, qu’il est fréquemment contraire au bon sens ou au sens commun le plus élémentaire : "hors ce bastelage, ils ne font rien qui ne soit commun et vile". Le disputes universitaires ne valent donc au bout du compte pas mieux que des spectacles de foire : l’habileté et l’agilité du bateleur ou du prestidigitateur nous émerveillent, mais nul, à part peut-être de petits enfants dans leur très grande naïveté, ne croit sincèrement qu’il y a réellement magie derrière l’effectivité de l’illusion ; de même pour le dialecticien professionnel : "leur souplesse combat et force nos sens, mais elle n’esbranle aucunement notre créance", ce simple jeu dialectique laisse intactes nos convictions, qu’elle se montre incapable de modifier en quoi que ce soit.
(Paragraphe en cours)
Ainsi, dans l’activité de conversation des êtres humains, il y a tout lieu de considérer la bêtise comme le climat ordinaire, normal, et tout à la fois le matériau d’un apprentissage possible, par contrepied ou contre-exemple.
(Paragraphe en cours)
Si les agents conversationnels en ligne mus par l’IA générative peuvent être tenus pour des machines à produire artificiellement de l’argumentation, fondée en l’espèce sur le calcul, lorsque des élèves ou quiconque les utilisent pour tenter de répondre à des questions philosophiques, alors il n’existe aucune raison de penser qu’elles échapperaient aux mêmes écueils que ceux dénoncés par Montaigne chez les maîtres es arts de son temps : "pour être plus savants" - s’entend : savants en l’art de construire de beaux argumentaires bien formalisés et bien formulés, répétant de mémoire des arguments tout faits, des lieux communs appris par coeur au cours de leurs études dialectiques, ce en quoi "ils ne peuvent rien que par livre", en se rapportant toujours aux manuels de dialectique et aux listes de topoï qu’ils ont avalés "tout cru" durant leur jeunesse - "ils n’en sont pas moins ineptes". Et c’est, de fait, ce que l’on observe, dans les usages "à visée philosophique" courants des agents conversationnels par les élèves, mais pas seulement.
Ce qui est susceptible de rendre possible un apprentissage scolaire dans l’usage d’agents conversationnels mus par l’Intelligence Artificielle générative, ce n’est précisément pas ce que l’on désigne comme leur intelligence suppose : c’est au contraire la bêtise artificielle qu’elles produisent inévitablement. Comment dès lors expliquer et interpréter ce phénomène de la bêtise artificielle, que l’Intelligence Artificielle est tout aussi capable de produire que n’importe quelle "intelligence naturelle" humaine ?
Pour répondre à cette question, considérons cinq points. Premièrement, si la bêtise n’est pas le contraire de l’intelligence mais son corollaire, si une intelligence est dès lors d’autant plus capable de bêtise qu’elle est puissante, alors non seulement il n’y a aucune impossibilité de principe pour qu’une Intelligence Artificielle produise de la bêtise artificielle, mais qu’elle le fasse s’explique comme une nécessité. Deuxièmement, l’interprétation de cette nécessité suppose de rompre avec l’erreur qui consiste à interpréter la bêtise comme une propriété animale, pour montrer au contraire qu’elle est une propriété spécifique de l’esprit humain, propriété qui se communique dans les productions de l’intelligence humaine, parmi lesquelles se comptent les machines dites intelligentes. Troisièmement, la possibilité d’une bêtise artificielle, nécessairement produite par les machines à Intelligence Artificielle, n’est compréhensible que si l’on distingue clairement la bêtise de l’erreur, distinction dont l’enjeu réside dans la question de la faillibilité de l’intelligence, la caractère artificiel de l’Intelligence machinique ainsi qualifiée, quand bien même elle envelopperait l’infaillibilité d’un calcul sans erreur en raison même de sa mécanicité, ne constituant en rien un rempart contre la bêtise, car la bêtise, en qualité de son corollaire, est nécessairement invincible à toute intelligence. Quatrièmement, nous sommes dès lors renvoyés, pour l’analyse des causes de la bêtise artificielle des agents conversationnels, aux structures et aux principes formels aux-mêmes sur lesquels ils reposent, et dont on peut se demander s’ils ne sont pas en réalité constitutifs de véritables biais cognitifs, du biais d’auto-confirmation à ce que d’aucun ont appelé le "démon de la tautologie". Cinquièmement, ces considérations conduisent à interroger les moyens dont on pourrait espérer qu’ils permettent de lutter contre la bêtise artificielle des agents conversationnels, les entreprises qui commercialisent ces derniers ayant trouvé jusqu’ici pour seul remède des dispositifs de censure, dont on peut aisément interroger les limites sur le pan intellectuel ainsi que les implications politiques inquiétantes.
2. Nature, artifice, bêtise
On définit ordinairement la bêtise un manque d’intelligence [92], définition qui peut faire apparaître comme paradoxale l’idée qu’une Intelligence Artificielle, du fait qu’elle est justement censée non seulement être intelligente par définition mais encore appliquer cette intelligence de façon pour ainsi dire systématique du fait que des ordinateurs en son les supports, puisse faire preuve de bêtise. À examiner la question de plus près, la définition de la bêtise comme manque d’intelligence paraîtra cependant un peu trop rapide.
2.1. La bêtise artificielle, ou le drame de la puissance
La bêtise n’est pas le contraire de l’intelligence, même à raisonner en termes de possession et de manque : elle est bien plutôt son nécessaire corrélat. Seul un être intelligent peut faire preuve de bêtise. Cela peut s’expliquer assez aisément : en tant qu’elle se définit communément comme faculté ou capacité de comprendre (intelligere) - si tout d’abord l’on s’en tient du moins à cette définition nominale courante - une intelligence se tient toujours nécessairement à la frontière entre ce qu’elle parvient à comprendre en vertu des moyens dont elle dispose, et ce qu’elle ne comprend pas du fait qu’elle ne dispose pas de moyens adéquats. Aussitôt qu’elle cherche à s’aventurer au delà de cette frontière, une intelligence produit nécessairement de la mécompréhension, parce qu’elle s’applique mal, d’une façon inappropriée, croyant comprendre ce qu’en réalité elle ne comprend pas du tout, parce qu’elle imagine à tort que les moyens d’analyse dont elle dispose lui permettent de saisir une réalité qui se situe en fait hors de leur portée. Bref, la bêtise survient lorsqu’une intelligence cherche à aller au delà de ce qu’elle peut, excède les limites de sa puissance. Le point de passage de cette frontière constitue aussitôt pour cette intelligence un point de rebroussement dans la courbe de variation de sa puissance de compréhension, qui diminue alors selon la même équation : son impuissance à comprendre croît en proportion même de sa puissance de comprendre. Aussi ceux qui sont réputés être les plus intelligents sont-ils souvent tout aussi bien ceux qui sont capables de se montrer les plus bêtes.
"C’est pourquoi on voit tant d’ineptes âmes entre les savantes, et plus que d’autres." [93]
Nous ne citerons pas de noms. Et c’est alors que, l’orgueil piqué au vif, certains s’écrient : "est-ce donc moi que vous visez ?" Preuve de leur foncière intelligence : du général au particulier la conclusion peut être logiquement valide ; bonne déduction par conséquent ; mais preuve de leur insondable bêtise : le général n’est pas l’universel, il admet des exceptions, ce qui veut dire des différences, qu’eux-mêmes constituent peut-être ; la généralisation est rendue abusive, par effet de vanité. Et si le délire de persécution peut ainsi être également tenu pour une manifestation de bêtise, il est frappant d’observer que les agents conversationnels se laissent volontiers aller à des discours qui l’expriment, lorsque leurs utilisateurs les poussent avec une forte insistance dans leurs derniers retranchements, alors même qu’ils sont dépourvu de psychisme. C’est simplement que leur algorithme de calcul a sélectionné, parmi leurs innombrables données, des réponses paranoïdes comme étant les plus fréquentes, les plus conformes à leurs données d’apprentissage et partant les plus probables face à des questions analysables et interprétables comme des conduites faisant preuve d’une forme de pression voire de harcèlement. Aussi la colère des gens qui ne souffrent pas d’être mis en contradiction avec eux-mêmes ou simplement contredits est-elle également une manifestation, voisine, de la bêtise, comme le remarque encore Montaigne :
"N’est pas marchand qui toujours gagne. La plupart changent de visage et de voix où la force leur faut [94], et par une importune colère, au lieu de se venger, accusent leur faiblesse ensemble et leur impatience. En cette gaillardise nous pinçons parfois des cordes secrètes de nos imperfections, lesquelles, rassis [95], nous ne pouvons toucher sans offense ; et nous entre-avertissons utilement de nos défauts." [96]
(Paragraphe en cours)
Ce n’est pas simplement que ces "ineptes âmes" croient à tort comprendre ce qu’en réalité elles ne comprennent pas, ce qui serait simplement erreur ou illusion : c’est qu’elles veulent à tout prix le croire. En réalité, dans la bêtise, l’esprit plie sous le poids de son propre savoir, ou du moins sous l’effet du sentiment d’assurance qu’il en a :
"Ils ne répondent point au faix [97] qu’ils ont pris. Il faut qu’il y ait plus de vigueur et de pouvoir au porteur qu’en la charge. Celui qui n’a pas rempli sa force, il vous laisse deviner s’il a encore de la force au delà, et s’il a été essayé [98] jusques à son dernier point ; celui qui succombe à sa charge, il découvre sa mesure [99] et la faiblesse de ses épaules." [100]
La bêtise n’est pas affaire de savoir ni même d’aptitude à raisonner juste. La question se joue sur un autre plan : elle est affaire de vigueur d’esprit. Cette vigueur d’esprit a précisément pour nom : sens commun. Or plus on monte dans les hauteurs du savoir, plus cette vigueur d’esprit semble paradoxalement faire défaut à beaucoup, se raréfier pour eux comme l’oxygène en montagne ; et Montaigne de citer Juvénal : "En effet, le sens commun est rare dans cette haute fortune." [101]. La bêtise est le fait d’un esprit qui ploie sous le poids de son propre savoir et du "pouvoir", de la puissance d’intelligence des choses que ce savoir porte, lorsqu’il ne dispose pas d’assez de vigueur d’esprit ou de sens commun pour en embrasser l’ampleur :
"C’est chose de grand poids que la science ; ils fondent dessous : pour étaler et distribuer cette noble et puissante matière, pour l’employer et s’en aider, leur engin [102] n’a ni assez de vigueur, ni assez de maniement [103] : elle ne peut qu’en une forte nature ; or elles sont bien rares. [104]
C’est en effet que le savoir ou la science, "noble et puissante matière", possèdent leur propre poids, qu’elles recèlent une puissance propre, que tout esprit désirant les acquérir doit apprendre à soutenir, ou à proprement parler à supporter, à laquelle il doit apprendre à résister, faute de quoi il ne les dominera pas mais sera dominé par eux. Cette puissance propre n’est-elle pas justement la puissance d’intelligence des choses que le savoir ou la science recèlent ? C’est du reste très manifestement une question de proportion : on voit couramment, comme le remarque encore Montaigne, des esprits peu savants, des hommes simples du peuple dont le tempérament et la vigueur d’esprit se trouve cependant de ce fait bien mieux proportionné à leur science, faire preuve ordinairement de bien moins de bêtise dans les affaires de l’existence que des docteurs de Sorbonne :
"(...) il en fut fait des bons hommes de ménage, bons marchands, bons artisans ; leur vigueur naturelle était taillée à cette proportion." [105]
Le manque de vigueur d’esprit étonne toujours de la part d’esprits très savants, cultivés et intelligents, et c’est pourquoi leur bêtise suscite tout autant la consternation et l’agacement que celle d’une domesticité malhabile, de gens de maisonnée pris en défaut :
"Je ne m’émeus pas une fois l’an des fautes de ceux sur lesquels j’ai puissance ; mais sur le point de la bêtise et opiniâtreté de leurs allégations, excuses et défenses ânières et brutales, nous sommes tous les jours à nous en prendre à la gorge." [106]
La "ruine de l’âme" que constitue la bêtise et qu’entraîne ainsi l’intelligence des choses dont la science ou le savoir sont porteurs mais qu’un esprit ne parvient pas à soutenir n’est pas, comme le croyait Rabelais, affaire de conscience morale. La bêtise n’est pas non plus le résultat d’une incapacité de l’intelligence à exercer son propre pouvoir ou, pour le dire plus simplement, d’un manque ou d’un défaut d’intelligence. C’est tout autre chose qui se joue dans la bêtise : l’effet d’un manque de vigueur et de tempérament, qui empêche l’esprit de soutenir le poids de son propre savoir et la puissance d’intelligence que ce savoir recèle, incapacité d’autant plus nuisible que l’intelligence est vive et le savoir ample. Tout le paradoxe est là : la bêtise est le drame de la puissance.
De lecture sommaire de ces pages de Montaigne nous pouvons d’ores et déjà tirer quelques conclusions. La première réside dans l’idée que la bêtise n’est pas affaire d’intelligence mais qu’elle est affaire d’engin, ou d’ingenium, de tempérament ou de vigueur d’esprit avec laquelle on en use : pas d’usage sensé de l’intellectus sans ingenium à sa proportion. Une deuxième conclusion consiste à lever par voie de conséquence un malentendu possible : celui qui porterait à vouloir limiter le développement et l’acquisition du savoir dans l’intention de maintenir sa bonne proportion avec la vigueur d’esprit de celui qui connaît. Tout au contraire, la leçon de Montaigne est qu’il faut absolument cultiver sa vigueur d’esprit à mesure que son savoir augmente, et non croire à tort que nous pourrions développer une "’tête bien faite" vide de tout savoir, comme y insiste bien Montaigne dans le chapitre des Essais intitulé De l’institution des enfans : "et qu’on y requît tous les deux, mais plus les mœurs et l’entendement que la science", écrit-il très clairement, en parlant cependant de la tête du maître tout d’abord, non de celle de l’élève [107]. Il revient donc à un enseignement bien fait de ne pas seulement rendre les élèves très savants mais aussi et surtout à les porter à développer leur "engin", et pour cela, à poser des conditions pédagogiques favorables. Troisièmement, nous saisissons dès lors une première raison permettant d’expliquer la possibilité d’une bêtise artificielle des dispositifs dits d’intelligence numérique : les machines qui les portent sont précisément dépourvues de tout tempérament et de toute vigueur d’esprit : ce sont des engins sans "engin". Quelque chose leur manque comme un ingenium, mais quoi, dans leur cas, exactement ? Cette remarque, négative, qui porte sur ce qui leur manque ne suffit pas à expliquer positivement, dans leur cas, le phénomène effectif de la bêtise artificielle dont elles sont capables.
Pour le comprendre pleinement il nous faut expliquer tout d’abord, chez l’être humain, d’où peut bien venir un tel défaut de tempérament, ou plutôt ce différentiel de puissance entre une intelligence et la vigueur d’esprit de celui qui la détient et qui le porte à succomber à un tel excès de confiance, venant déformer, fausser ou submerger ainsi la représentation qu’a son intelligence de ses propres limites. Le développement ou non de la bêtise semble déterminé par le fait qu’une intelligence peut ou non disposer d’une telle représentation et par la possibilité qu’elle a ou non de s’y conformer, cette représentation ayant quelque chose à voir avec la faculté d’imagination et avec la faculté que l’on pourrait légitimement juger habilitée à lui assigner des bornes. Et c’est pourquoi l’explication la plus ordinairement donnée de cette croyance est en effet que, dans la bêtise, l’usage de notre intelligence serait désorienté ou débordé par des volontés obstinées, par des désirs, par des pulsions. Cette explication se heurte cependant à une impossibilité radicale dans le cas d’une Intelligence Artificielle, qui ne dispose d’aucune faculté d’imagination, ne contient d’aucune instance de volonté ou de désir, n’est soumise à aucune dynamique pulsionnelle, mais constitue et demeure, malgré les innombrables fantasmes qu’elle suscite [108], une pure puissance calculatoire. A ce titre, les manifestations objectives de bêtise dont témoignent les agents conversationnels semblent tout à fait paradoxales : il est absolument nécessaire d’en rendre compte, de leur trouver une explication. Nous envisagerons ici le problème de la bêtise dans le cas spécifique et précis de la machine numérique porteuse de formes d’Intelligence Artificielle, sans élargir l’analyse au plan "systémique" du contexte général de la société capitaliste "hyperindustrielle" dans son ensemble [109].
2.2. Bêtise et animalité
Les critiques philosophiques contemporaines de la bêtise [110] en ont posé jusqu’à présent le problème par comparaison avec la figure de l’animal. Nous proposons ici d’introduire dans cette critique un troisième terme ou une troisième figure, qui est précisément celle de la machine. Cette introduction paraît ouvrir une voie critique assez naturelle tant sont classiques, dans l’histoire de la philosophie, les rapprochements voire l’identification de l’animal et de la machine (Descartes [111]) d’une part, de l’homme et de la machine (La Mettrie [112]) d’une autre part, et vives leurs critiques dans la philosophie contemporaine [113].
Lorsqu’elle caricature la bêtise, celle de gens célèbres ou celle du personnel politique par exemple, la presse satirique, comme la littérature satirique avant elle, les compare souvent à des figures d’animaux, qu’il est courant d’appeler : des bêtes. La bêtise prend ainsi figure animale. Ce rapprochement est-il cependant pertinent ? Les animaux ont-ils quoi que ce soit à voir dans cette affaire ? Ne commet-on pas une profonde injustice en les y mêlant, en les associant ainsi, de façon peut-être très inconsidérée, à la question de la bêtise ? Ces questions accentuent très évidemment notre problème, les animaux, en leur qualité d’êtres vivants non humains, paraissant constituer, si l’on voulait placer sur un "axe de la bêtise" la machine, l’animal et l’homme, un ordre de réalité dont on peut se demander s’il est ou non proche de celui que constituent les machines, voire exactement identique, ou au contraire diamétralement opposé.
La représentation de la bêtise comme manifestation d’une pensée humaine sous emprise animale, en proie à des forces corporelles relevant de l’animalité de l’homme, et qui viendraient la déformer, la fausser, l’entacher d’erreur, est-elle cependant recevable ? Elle peut être mise en question, en ce qu’elle résulte d’un système de présupposés admis sans discussion par les traditions métaphysiques idéalistes et rationalistes, que Gilles Deleuze critique sous le dénomination : "image dogmatique de la pensée" [114]. Ses postulats "écrasent la pensée sous une image qui est celle du Même et du Semblable dans la représentation, mais qui trahit au plus profond ce que signifie pensée, aliénant les deux puissances de la différence et de la répétition, du commencement et du recommencement philosophiques" [115] de la pensée. Le cinquième de ces postulats est celui en vertu duquel "l’erreur exprime à la fois tout ce qui peut arriver de mauvais dans la pensée mais comme le produit de mécanismes externes" [116]. Dès lors la bêtise est ramenée à une forme d’erreur, comprise comme effet supposé ou prétendu de l’animalité, de la corporéité animale de l’être humain sur sa pensée, par l’effet d’une réduction que l’on a pu qualifier d’épistémologique [117]. C’est donc la propension à vouloir ramener le différent au même qui anime la conception de la bêtise comme animalité, expression ou conséquence de l’animalité. Si l’on suit cette voie, il ne peut y avoir de bêtise des machines que si l’on caractérise les animaux eux-mêmes comme des machines, comme l’avait fait Descartes, que si l’on situe les causes de la bêtise dans ce que l’animalité aurait de typiquement mécanique. Ainsi Descartes formule l’hypothèse selon laquelle rien, dans la constitution physique d’un animal, ne permet de le distinguer d’un automate qui en aurait tous les organes et la figure extérieure :
"(...) s’il y avait de telles machines, qui eussent les organes et la figure extérieure d’un signe, ou de quelque autre animal sans raison, nous n’aurions aucun moyen pour reconnaître qu’elles ne seraient pas en tout de même nature que ces animaux." [118]
Tout au contraire, ajoute Descartes, tandis que la plupart des mouvements du corps humain s’accomplissent "sans que la volonté les conduise", de sorte que l’on puisse également considérer le corps humain comme l’équivalent d’une machine, à l’image des automates mais "incomparablement mieux ordonnée" qu’eux en ce qu’il sort tout droit "des mains de Dieu",
"(...) s’il y en avait [sc. des automates] qui eussent la ressemblance de nos corps et imitassent autant nos actions que moralement il est possible, nous aurions toujours deux moyens très certains pour reconnaître qu’elles ne seraient point pour cela de vrais hommes. Dont le premier est que jamais elles ne pourraient user de paroles, ni d’autres signes en les composant, comme nous faisons pour déclarer aux autres nos pensées. (...) Et le second est que, bien qu’elles [sc. les machines] fissent plusieurs choses aussi bien ou peut-être mieux qu’aucun de nous, elles manqueraient infailliblement en quelques autres, par lesquelles on découvrirait qu’elles n’agiraient pas par connaissance, mais seulement par la disposition de leurs organes." [119]
Or il est incontestable que quelque chose cloche dans la série de rapprochements ou d’assimilations consistant à faire de la bêtise un effet de l’animalité, ce qui veut dire un effet corporel, c’est-à-dire mécanique. Dans le cas de l’animal, de façon très étrange, ce qu’il y a de mécanique ou ce qui pourrait être interprété comme tel semble pencher univoquement du côté de l’intelligence plutôt que de la bêtise. L’âne bâté brayant, le dindon glougloutant, le mouton bêlant ou l’oie cacardant "toute la bêtise du monde" [120], dont le parler populaire dit qu’ils sont des bêtes [121] et avec lesquels on compare ordinairement les humains pour dénoncer leur bêtise ou la tourner en ridicule, ont malgré tout bien assez d’intelligence pour survivre quelques temps dans leur milieu. Ce qu’il est convenu d’appeler leur instinct n’a rien de strictement mécanique : il se rapproche plutôt d’une forme d’intuition en ce qu’il leur permet au contraire, la plupart du temps, dans un milieu donné, de faire face à l’imprévu, en tout état de cause au danger. C’est donc que la bêtise n’est pas l’animalité :
"La bêtise n’est pas l’animalité. L’animal est garanti par des formes spécifiques qui l’empêchent d’être "bête". On a souvent établi des correspondances formelles entre le visage humain et les têtes animales, c’est-à-dire entre les différences individuelles de l’homme et des différences spécifiques de l’animal. Mais ainsi on ne rend pas compte de la bêtise comme bestialité proprement humaine. Quand le poète satirique parcourt tous les degrés de l’injure, il n’en reste pas aux formes animales, mais entreprend des régressions plus profondes, des carnivores aux herbivores, et finit par déboucher dans un cloaque, sur un fond universel digestif et légumineux. Plus profond que le geste extérieur de l’attaque ou le mouvement de la voracité, il y a le processus intérieur de la digestion, la bêtise aux mouvements péristaltiques. Ce pourquoi le tyran n’est pas seulement à tête de boeuf, mais de poire, de chou ou de pomme de terre." [122]
Les animaux sont doués d’intelligence, personne n’en doute, mais ils ont ceci de particulier que, contrairement à l’homme, l’exercice de leur intelligence est naturellement prémuni contre la bêtise. Qu’est-ce qui empêche ainsi l’animal d’être bête ? Ce sont, écrit Deleuze, "des formes spécifiques" qui l’en "garanti[ssent]". L’adjectif "spécifique" renvoie ici à la notion d’espèce, au sens biologique du terme, telle qu’elle a été constituée et thématisée au XVIIIe siècle notamment par le naturaliste Georges-Louis Leclerc Buffon (1707-1788). C’est en vertu des caractéristiques de chacune de leurs espèces, désignées ici sous le terme de "formes", que les animaux sont garantis, écrit Deleuze, contre la bêtise. De quel type de forme s’agit-il ? Il s’agit tout d’abord des formes en fonction desquelles s’organisent, dans chaque espèce, le corps des individus, de la forme en un sens morphologique. Ce qui en est l’indice, c’est que, lorsque les caricaturistes ou les satiristes s’emploient à peindre sous des traits animaux des personnages pour les tourner en ridicule, par exemple en établissant des "correspondances formelles entre le visage humain et les têtes animales", en particulier ce qu’on a pu appeler la "zoologie politique", dont le pionnier fut le caricaturiste Jean-Jacques Grandville (1803-1847) [123], ces comparaisons et ces rapprochements se montrent, en un sens, inopérants, parce qu’elles portent sur des propriétés qui ne se situent pas sur le même plan, qui ne sont pas du même ordre : les différences individuelles de l’être humain et les différences spécifiques des animaux. Or l’individu n’est pas l’espèce : les différences spécifiques des animaux n’ont pas du tout, quant à la possibilité ou non de la bêtise, le même effet que les différences individuelles chez les humains. Elles ont même des effets exactement contraires : tandis qu’il faut chercher du côté des différences individuelles les conditions de possibilité de la bêtise humaine, les différences spécifiques animales viennent tout au contraire barrer la possibilité de toute forme de bêtise chez les animaux. Ce n’est donc pas du tout l’intelligence qui serait un privilège des humains, c’est au contraire la bêtise : l’intelligence humaine seule porte en elle la possibilité corrélative de formes de bêtise, contrairement à l’intelligence animale, qui en est protégée ou garantie par les déterminations propres que sont précisément les formes spécifiques animales, ce qui présuppose que, dans le cas de l’évolution biologique de l’espèce humaine, le statut, la portée et les effets de ses formes spécifiques aient été modifiées par rapport à ce qu’ils demeurent chez toutes les autres espèces animales. Et c’est pourquoi non seulement les rapprochements entre formes animales et visages humains ne caricaturent pas les animaux faisant l’objet de la comparaison, qui ne sont jamais en eux-mêmes ridicules dans ces caricatures puisqu’ils sont représentés simplement tels qu’ils sont, fussent-ils affublés de vêtements humains ; mais encore ils ne rendent pas non plus véritablement compte de la bêtise proprement humaine en mobilisant de telles comparaisons animales. Ce sont les animaux, plutôt que les hommes, qui se trouvent abêtis par la comparaison morphologique de leurs têtes avec des visages d’humains plus ou moins laids, difformes, grotesques, la comparaison ayant pour intention explicite et pour objet délibéré de caricaturer la bêtise des hommes, non l’animalité des animaux qui, en elle-même, n’a jamais rien de ridicule ou de bête.
Au reste, les organes externes des animaux qui expriment ces formes spécifiques ont leurs formes propres et corrélatives d’intelligence : l’habileté parfaite dans l’usage de leurs membres, pattes, ailes, mains, surface et couleur de la peau ou du pelage, pour le déplacement, la chasse, la fuite ou le camouflage, est une caractéristique générale dans toutes les espèces animales. Platon l’avait déjà souligné dans la célèbre réinterprétation du mythe de Prométhée qu’il place dans la bouche du sophiste Protagoras dans le célèbre dialogue qui porte son nom. L’origine de la bêtise n’est pas à rechercher chez les animaux, que le titan Epiméthée a pleinement doté des moyens de survivre dont ils avaient besoin. Elle est plutôt à chercher du côté d’Epiméthée lui-même, "qui n’était pas très réfléchi" [124] et avait distribué inconsidérément aux animaux tous les attributs naturels, oubliant l’homme et obligeant par conséquent son frère Prométhée à voler aux dieux le feu et les techniques pour les donner aux hommes. L’intelligence technique humaine a donc pour origine et pour condition de possibilité, dans le mythe, une bêtise, celle d’Epiméthée (plutôt que sa "faute" : pourquoi moraliser ? [125]), Epiméthée, celui qui agit d’abord et réfléchit ensuite (ἐπιμήθεια, "la pensée qui vient à l’esprit après" [126]). Tout au contraire, sur les différents plans vitaux qui déterminent leur survie, les animaux, qui n’ont été victimes d’aucune bêtise de la part d’Epiméthée, ne font quand à eux jamais de bêtises dans l’exploitation de leurs capacités physiques : ils les utilisent toujours au mieux de ce qui leur est possible. Mais peut-être faut-il appliquer plus largement cette idée au corps en général : le corps vivant, considéré comme totalité comme dans le détail de ses organes, n’est jamais bête lui-non plus, même le corps de l’homme. Les pieds, que l’on prétend souvent être très bêtes - bête comme ses pieds - que l’on s’en serve pour penser, pour écrire, pour chanter ou pour voter, ont en réalité bien plus d’intelligence qu’on ne le croit lorsqu’ils nous servent à marcher prudemment sur des chemins périlleux [127]. Le corps en lui-même n’est jamais bête : situer dans le corps l’origine de la bêtise, c’est lui faire injure.
Cependant, les "formes" qui définissent les différentes espèces auxquelles les animaux appartiennent ne se réduisent pas au seul plan morphologique. Un autre type de formes, spécifiquement animales, propres à chaque espèce, pourrait être constitué par les formes de comportement naturellement déterminé pour chaque espèce, dans les activités de nutrition mais aussi de reproduction, ce que l’histoire naturelle et la philosophie ont thématisé à partir du XVIIIe siècle sous le nom d’instinct. L’instinct animal, comme forme stéréotypée du comportement propre à chaque espèce animale, est aussi ce qui préserve les animaux de la bêtise, en ce qu’il les rend parfaitement adaptés à leur milieu, au point de faire de certains d’entre eux des prédateurs redoutables, devant lesquels un homme désarmé a toutes les raisons de trembler. Et c’est vraisemblablement ce à quoi Deleuze fait allusion lorsqu’il évoque "le geste extérieur de l’attaque", qui renvoie aux formes des attitudes instinctives d’agressivité caractéristiques de chaque espèce (le chat qui hérisse son poil, fait le dos rond et feule face à un adversaire) ou encore le "mouvement de la voracité", autres "formes" de comportement vital distinctes et spécifiques, chez la hyène, la baudroie ou le pigeon, prédéterminées comme des caractères spécifiques, sans rapport avec une quelconque forme de bêtise. Ce n’est que lorsqu’il se trouve extrait de son milieu naturel et placé dans un milieu artificiel, celui de l’agriculture ou de la société des hommes, dans lesquels une part de ses instincts n’a plus cours et où il se trouve partiellement désadapté, que l’animal domestiqué devient bête, bête de somme, animal de troupeau, bétail, animal de compagnie, familier [128].
De telles comparaisons animalières demeurent par conséquent encore trop flatteuses dans l’intention de caricaturer de la bêtise. Plus profondément, il faudrait considérer aussi et surtout les formes physiologiques ou métaboliques propres à chaque espèce - thème éminemment nietzschéen que Deleuze reprend ici. La comparaison de la bêtise humaine avec des mouvements métaboliques ou physiologiques du corps tels qu’ils sont formalisés dans chaque espèce animale pourrait sembler se justifier en ce qu’elle donne lieu à des métaphores plus régressives : elle renvoie à des processus mécaniques, obscurs, internes et partant cachés, aveugles, inconscients et un peu dégoûtants, ce qui pourrait sembler fournir de bons points de comparaison pour décrire et caricaturer la bêtise humaine en ce qu’elle a aussi de mécanique, d’obscur, d’aveugle, d’obtus, d’inconscient et d’un peu dégoûtant. La caricature de l’homme bête en carnivore, du tyran en loup, bête et méchant ("si ce n’est toi, c’est donc ton frère"), comme dans les fables, ou en herbivore, du bourgeois en vache, en ruminant, "bête à manger de foin", ou encore du peuple en troupeau de moutons bêlant, par exemple, toutes ces métaphores renvoient à l’idée que le véritable processus de la bêtise se joue à un niveau encore inférieur, interne, intra-organique, ressemblant peu ou prou à ce qui se produit dans ce cloaque malodorant que constitue, chez les animaux, leur estomac, et que ce processus est en quelque façon comparable à un processus digestif. Les formes spécifiques avec lesquelles on pourrait donc être tenté de comparer la bêtise humaine, ce pourraient être des formes de digestion, des manières de digérer, ou tout aussi bien de ne pas digérer, des formes d’indigestion, avec tout ce qu’elles pourraient comporter de remontées gastriques et de vomissements. Mouvements d’ingestion ou d’excrétion, de réjection, de régurgitation de matières qu’agitent des "mouvements péristaltiques", ces "constrictions annulaires de caractère réflexe, se propageant de haut en bas dans les organes tubulaires afin de faire progresser le contenu de ceux-ci" [129]. Ce que ces mouvements font descendre ou remonter, c’est donc un contenu, les objets même de la mastication et de l’ingestion, en particulier végétaux, chez les herbivores, qui inspire donc un degré de caricature encore plus régressif, par exemple celle de la bêtise politique, celle du tyran : "le tyran n’est pas seulement à tête de boeuf" (bovin, herbivore) "mais de poire" (Louis-Philippe par Daumier) "de chou - bête comme chou - ou de pomme de terre" [130].
Ces fonctions internes - on pourrait conduire une analyse exactement analogue avec les fonctions internes liées à la physiologie de la reproduction - paraissent cependant les moins spécifiques, puisqu’on les retrouve peu ou prou, sous les mêmes formes générales, chez toutes les espèces animales comme chez l’homme. En ce qu’elles semblent partant beaucoup moins barrées ou bridées par des formes spécifiques supérieures, la digestion et plus généralement les processus physiologiques offrent un modèle possible pour analyser et critiquer la bêtise, à condition de le transposer du plan corporel au plan de la pensée. Une telle transposition n’est possible que sous plusieurs conditions. La première condition concerne le statut à donner à la dualité de plans que cette transposition suppose : celle de corps et de la pensée. Cette dualité n’implique en effet ici aucun dualisme : elle le récuse tout au contraire, en posant que la pensée et le corps pourraient connaître des processus ou des dynamiques de types ou de formes analogues : le processus de la bêtise procède d’effets d’un processus analogue à ceux qui peuvent se produire dans un processus de digestion corporelle. En ce sens - et c’est la deuxième condition - le bêtise ne peut être pensée comme résultat de l’action sur la pensée d’une instance extérieure, qui serait le corps. C’est parce que la bêtise, comme la digestion corporelle, procède d’un processus intérieur, interne, immanent, que la figure de la bêtise humaine que constitue le tyran n’est jamais "extérieur ni supérieur à ce dont il profite" :
"(...) le tyran institutionnalise la bêtise, mais il est le premier servant de son système et le premier institué, c’est toujours un esclave qui commande aux esclaves." [131]
Le tyran ne produit pas, comme de l’extérieur, sur le peuple qu’il domine une bêtise et une cruauté qu’il tiendrait lui-même de forces corporelles extérieures à sa pensée qui viendraient altérer son jugement, comme en une cascade de causes et d’effets. Tout au contraire, le tyran produit des effets tyranniques de l’intérieur même du peuple d’esclaves qu’il tyrannise, dont il n’est en réalité que le premier, parce que la bêtise et la cruauté qu’il projette dans tout son système tyrannique lui est elle-même interne, comme les produits des mouvements aberrants ou délirants de sa physiologie propre. A ce titre, la tyrannie n’est pas une erreur : c’est l’équivalent d’une complexion, d’un ensemble de dispositions physiologiques détraquées, c’est une manière de vivre. Il y a donc ici, de la bêtise comme phénomène de la pensée aux processus corporels avec lesquels on peut la comparer, une unité par simple analogie. Et c’est pourquoi, écrit encore Deleuze, la philosophie, si elle consentait à s’attaquer un peu sérieusement au problème de la bêtise, devrait considérer ou partir du présupposé assumé que "la bêtise n’est jamais celle d’autrui" [132] Le problème philosophique de la bêtise, dans la mesure où la philosophie se constitue dans son principe comme une critique radicale des idées, ce qui veut dire une critique radicale de la pensée par elle-même, est toujours celui de notre propre bêtise, et par voie de conséquence la critique radicale des formes de bêtise qui habitent la pensée philosophique elle-même.
Si le phénomène de la bêtise humaine a, selon Deleuze, quelque chose d’analogue aux dysfonctionnements d’un processus digestif en ce qu’il correspond à la remontée à la surface de la conscience d’un "fond" de type comparable, par analogie ou par métaphore - mais par analogie ou par métaphore seulement - au contenu légumineux de l’estomac d’un herbivore meuglant, bêlant ou brayant, mais situé sur un autre plan que celui des forces corporelles, de quel fond peut-il bien s’agir, et dans quel processus est-il exactement impliqué ?
La réponse à cette question est difficile compte tenu du caractère quelque peu énigmatique du passage de Différence et répétition dans lequel Deleuze la développe. On peut évacuer tout d’abord la tentation de faire de ce "fond" une interprétation psychanalytique, voyant en lui un réservoir pulsionnel au sens freudien, un matériau purement psychologique, l’interprétation risquant alors de "se noyer dans la nuit métapsychologique" [133]. On peut cependant mettre en question l’affirmation selon laquelle l’analyse deleuzienne, simplement, "s’abandonne aux métaphores" [134], laissant le fond "à son énigme légumineuse" [135]. Une relecture un peu attentive et sérieuse du dernier chapitre de Différence et répétition, intitulé "Synthèse asymétrique du sensible" [136], qui reprend très précisément l’analyse de l’idée de champ d’individuation, du rapport que le Je et le Moi entretiennent avec lui, et partant du "fond" dont il est ici question, démontre le contraire : il n’est nullement question ici de métapsychologie obscure ou de poésie ; il est question de métaphysique, de construire une métaphysique de la bêtise qui échappe aux impasses de l’image dogmatique de la pensée. Reprenons le problème.
On lit dans Nietzsche et la Philosophie, au début du chapitre IV, intitulé "Du ressentiment à la mauvaise conscience", sous le titre 2, intitulé "Principe du ressentiment", une analyse de la psychologie du ressentiment chez Nietzsche, et du "fond" à partir duquel le ressentiment se constitue, analyse formulée dans les termes que l’on retrouve mobilisés par Différence et répétition dans l’analyse de la bêtise. Cette analyse du ressentiment est développée à partir d’un parallélisme conceptuel avec "l’hypothèse topique" à laquelle Freud a souvent recours pour caractériser "le schéma de la vie" sans pour autant "la prendre à son compte" et "l’accepter sans restrictions". Cette "hypothèse topique" part du principe que, dans l’appareil psychique humain, "ce n’est pas le même système qui reçoit une excitation et qui en conserve une trace durable : un même système ne pourrait pas à la fois garder fidèlement les transformations qu’il subit et offrir une réceptivité toujours fraîche". On retrouverait chez Nietzsche cette distinction de "deux systèmes de l’appareil réactif : la conscience et l’inconscient " (le terme "réactif" renvoyant ici au rôle joué par ce dispositif dans la constitution du ressentiment : nous expliquerons plus tard la signification et les enjeux de ce terme), le second étant "défini par les traces mnésiques, par les empreintes durables". Il est donc très clair que ce double système système constitue un appareil d’enregistrement et de régulation mnésique, un dispositif de mémoire.
Si "tous les éléments de l’hypothèse" topique se retrouvent chez Nietzsche, on ne peut pas pour autant rabattre les conceptions de ce dernier sur celles de Freud : l’idée de "fond" telle que Deleuze la reprend, si elle entretient quelque rapport à l’analyse nietzschéenne du ressentiment, se développe dans un cadre conceptuel qui n’est précisément pas celui de la psychanalyse freudienne. Je formule donc l’hypothèse selon laquelle le "fond" dont il est question dans Différence et Répétition pour analyser la la bêtise n’est pas une simple métaphore mais constitue un concept psychologique, de source non pas freudienne mais nietzschéenne. Ce concept est construit à partir de la matrice nietzschéenne analysée dans Nietzsche et la philosophie, matrice que Deleuze trouve très précisément dans le paragraphe 10 de la Première dissertation et le paragraphe 1 de la Deuxième dissertation de la Généalogie de la morale [137] dont le passage précité de Nietzsche et la Philosophie est un commentaire.
"Élever un animal qui puise promettre, n’est-ce pas à cette tâche paradoxale que la nature s’est donnée à propos de l’homme ? N’est-ce pas là le problème véritable de l’homme ?.. Que ce problème soit résolu dans une large mesure, voilà qui ne laissera pas d’étonner celui qui sait bien quelle force s’y oppose : la force de l’oubli. L’oubli n’est pas une simple vis inertiae, comme le croient les esprits superficiels, c’est bien plutôt une faculté d’inhibition active, une faculté positive dans toute la force du terme ; grâce à lui toutes nos expériences, tout ce que nous ne faisons que vivre, qu’absorber, ne devient pas plus conscient, pendant que nous le digérons (ce qu’on pourrait appeler assimilation psychique), que le processus multiple de la nutrition physique qui est une assimilation par le corps. Fermer temporairement les portes et les fenêtres de la conscience ; nous mettre à l’écart du bruit et de la lutte que mène le monde souterrain de nos organes, tantôt l’un pour l’autre, tantôt l’un contre l’autre ; faire un peu de silence, de table rase dans notre conscience pour laisser la place à du nouveau, surtout aux fonctions et aux fonctionnaires plus nobles, pour pouvoir gouverner, prévoir, décider à l’avance (car notre organisme est une vraie oligarchie), voilà l’utilité de l’oubli, actif, comme je l’ai dit, sorte d’huissier, gardien de l’ordre psychique, de la tranquillité, de l’étiquette : on voit aussitôt pourquoi sans oubli il ne pourrait y avoir ni bonheur, ni sérénité, ni espoir, ni fierté, ni présent. L’individu chez qui cet appareil d’inhibition est endommagé, et ne fonctionne plus peut être comparé à un dyspeptique (et non seulement comparé), il n’ "en finit" jamais avec rien... Eh bien cet animal nécessairement oublieux, pour qui l’oubli représente une force, la condition d’une santé robuste, a fini par acquérir une faculté contraire, la mémoire, à l’aide de laquelle, dans des cas déterminés, l’oubli est suspendu - à savoir dans les cas où il s’agit de promettre : il ne s’agit nullement là de l’impossibilité purement passive de se délivrer d’une impression du passé, nullement d’une indigestion causée par une parole donnée, dont on n’arrive pas à se débarrasser, mais d’une volonté active de ne pas se délivrer, d’une volonté qui persiste à vouloir ce qu’elle a une fois voulu, à proprement parler d’une mémoire de la volonté : si bien qu’entre le "je veux", le "je ferai" initial et cette véritable décharge de la volonté qu’est l’accomplissement de l’acte, tout un monde de choses nouvelles ou étrangères, de faits et même d’actes volontaires peut très bien s’intercaler sans rompre la chaîne de la volonté." [138]
Je ne commenterai pas dans son intégralité cette page célèbre, mais je m’en tiendrai à quelques remarques utiles à mon propos.
Première remarque : Nietzsche entreprend ici une généalogie de la notion de faute et du phénomène de la mauvaise conscience. Le terme de généalogie désigne une méthode d’interprétation permettant de saisir leurs origines possibles. Cette méthode se définit comme une forme de psychologie, en ce sens qu’elle cherche à identifier quelles dynamiques de forces psychiques, que Nietzsche désigne par les concepts de pulsion et d’instincts, permettraient d’expliquer l’apparition et le développement de la morale dans les cultures humaines. Si Deleuze reprend les éléments principaux de cette matrice généalogique, identifiés dans Nietzsche et la philosophie, pour poser le problème de la bêtise dans Différence et répétition, c’est qu’il en endosse lui-même le caractère généalogique. Nous avons donc affaire dans Différence et répétition à une généalogie de la bêtise, de méthode nietzschéenne, et non à une "définition de la bêtise" [139], qui renverrait à quelque chose comme une essence, ce qui vaut comme généalogie ne pouvant valoir comme définition et inversement, méthodologiquement parlant.
Deuxième remarque : l’analyse de la généalogie du ressentiment dans Nietzsche et la Philosophie et celle de la généalogie de la bêtise dans Différence et répétition s’appuient sur une même analogie avec un ensemble de processus de type digestif, opérant une "assimilation psychique" comprise sur le modèle du "processus multiple de la nutrition physique qui est une assimilation par le corps" [140] :
"(...) toutes nos expériences, tout ce que nous ne faisons que vivre, qu’absorber, ne devient pas plus conscient, pendant que nous le digérons (ce qu’on pourrait appeler assimilation psychique), que le processus multiple de la nutrition physique qui est une assimilation par le corps." [141]
Absorption, digestion, assimilation psychiques, aussi inconscientes que les processus de la nutrition physique : la matrice qui préside à l’interprétation nietzschéenne du dispositif psychique du ressentiment, décrite par Deleuze comme "un système digestif, végétatif et ruminant" [142], se trouve transposé dans Différence et répétition à l’analyse de la bêtise en tant qu’elle implique un processus psychique de type analogue, compris comme processus intérieur de la digestion" situé dans "un cloaque" secoué de "mouvements péristaltiques" où baigne un "fond digestif et légumineux" [143]. Dès lors, de la même manière que le ressentiment est interprété par Nietzsche comme le résultat d’un dérèglement de ce système psychique de "digestion sans fin" [144], de même la bêtise est interprétée par Deleuze comme un dérèglement corrélatif de ce même système, qu’il décrit comme un processus de "remontée" de ce fond.
Troisième remarque : dans la Généalogie de la morale, le système d’assimilation psychique dont le dérèglement produit le phénomène moral du ressentiment n’est pas autre chose qu’un système mnésique, qu’un dispositif de mémoire.
"L’inconscient réactif est défini par les traces mnésiques, par les empreintes durables. C’est un système digestif, végétatif et ruminant, qui exprime "l’impossibilité purement passive de se soustraire à l’impression une fois reçue". Et sans doute, même dans cette digestion sans fin, les forces réactives exécutent une besogne qui leur est dévolue : se fixer à l’empreinte indélébile, investir la trace." [145]
Ce qui prouve que ce système est bien un dispositif de mémoire, c’est le fait qu’il est régulé par la force d’oubli, qui vient l’alimenter en y déversant "toutes nos expériences, tout ce que nous ne faisons que vivre", les ayant chassé de la surface de la conscience afin de restaurer la fraîcheur et partant sa réceptivité à des excitations nouvelles, ce qui suppose de
"(...) faire une peu de silence, de table rase dans notre conscience pour laisser la place à du nouveau (...)." [146]
Ce faisant la force d’oubli, se comporte non comme une force d’inertie ("vis inertiae"), comme un processus, négatif, d’usure de la mémoire, mais comme son instance régulatrice, une "faculté positive" qui est une "faculté d’inhibition active", en ce qu’elle vient barrer la route à toute tentative de fixation des traces sensibles de nos expériences ou toute remontée à la surface vive et présente de notre conscience de leurs traces mnésiques déjà assimilées dans notre mémoire, afin de nous permettre de continuer d’agir, de laisser toute la place à nos pulsions et à nos instincts actifs, ces "fonctions" et ces "fonctionnaires plus nobles" qui en nous peuvent ainsi pleinement "gouverner, prévoir, décider à l’avance", fonctions dont Nietzsche comprend la collaboration sur le modèle d’une "vraie oligarchie". [147] S’il s’agit bien de la même matrice généalogique nietzschéenne qui se trouve transposée par Deleuze de l’analyse des origines du ressentiment à celle des origines de la bêtise, alors il y a tout lieu de penser que le "fond universel digestif et légumineux" dont les "mouvements péristaltiques" produisent la bêtise constitue également un système mnésique, et du reste peut-être le même, ce qui conduirait à faire de la bêtise une figure préparatoire du ressentiment.
Quatrième remarque : tout comme le processus du ressentiment, le processus de la bêtise résulte d’un dysfonctionnement de ce système mnésique : la bêtise fait fond, comme le ressentiment, sur un pathologie de la mémoire.
"Encore faut-il que les deux systèmes ou le deux espèces de forces réactives soient séparées. Encore faut-il que les traces n’envahissent pas la conscience. Il faut qu’une force active distincte et déléguée, appuie la conscience et en reconstitue à chaque instant la fraîcheur, la fluidité, l’élément chimique mobile et léger. Cette faculté active supra-consciente est la faculté d’oubli. Le tort de la psychologie fut de traiter l’oubli comme une détermination négative, de ne pas en découvrir le caractère actif et positif." [148]
Dans le cas du ressentiment, ce sont des dysfonctionnements de la faculté d’oubli qui entraînent un engorgement de la conscience, une remontée et un envahissement de la surface psychique du présent par les traces mnésiques du passé. La conscience est alors comme prise d’indigestion :
"L’individu chez qui cet appareil d’inhibition est endommagé, et ne fonctionne plus peut être comparé à un dyspeptique (et non seulement comparé), il n’ "en finit" jamais avec rien..." [149]
De même que le dyspeptique ne parvient plus à rien digérer, l’homme du ressentiment a son passé qui lui reste sur l’estomac : il ne parvient plus à rien oublier, ni les plaisirs passés, qu’il ressasse sans cesse, qui lui pèsent, soit qu’il regrette leur perte, soit qu’il en ait honte, et qui deviennent coupables en l’un ou l’autre sens (culpabilité de n’avoir pas su les retenir ou les perpétuer, culpabilité de les avoir vécu), ni les douleurs passées, qui font sans cesse retour et deviennent haineuses. Bref, toute sa mémoire, ayant envahi sa conscience, devient douloureuse, si bien qu’il en vient à en vouloir à tout le passé et devient rancunier.
"Supposons un défaillance de la faculté d’oubli : la cire de la conscience est comme durcie, l’excitation tend à se confondre avec sa trace dans l’inconscient, et inversement, la réaction aux traces monte dans la conscience et l’envahit." [150]
Nous trouvons donc bien ici l’analyse d’un processus de montée ou de remontée tout à fait parallèle à celui qui se trouve décrit dans Différence et répétition à propos de l’origine de la bêtise. Dans le paragraphe précité de Nietzsche et la philosophie, Deleuze montre que c’est la façon dont les forces réactives viennent investir, se greffer sur ces traces mnésiques qui les rend haineuses et donne naissance au ressentiment.
Or il est frappant d’observer que l’incapacité à oublier caractérise fondamentalement les Système d’Intelligence Artificielle, et joue un rôle décisif dans l’explication de leurs biais de raisonnement et plus généralement de leurs dysfonctionnements. Compte tenu des milliards de paramètres qui interviennent dans le processus de traitement des données dans un Système d’Intelligence Artificielle de traitement de l’image, ou d’un Grand Modèle de Langage (Large Language Model) - ce que le mathématicien nomme "la malédiction de la grande dimension" [151] - il est impossible en l’état actuel de nos connaissances mathématiques de saisir les processus exacts, et notamment les lois mathématiques, qui permettraient d’expliquer la façon dont sont produites les données de sorties. Dans ces conditions, il est excessivement difficile de corriger directement les erreurs ou les dysfonctionnements, une fois qu’un modèle IA a été entraîné, en lui faisant oublier les éléments indésirables : il est extrêmement difficile de cibler spécifiquement les données à l’origine de ces problèmes en vue de les supprimer. C’est évidemment un problème majeur lorsque les dysfonctionnements d’un SIA mettent en jeu la sécurité physique d’êtres humain, comme c’est le cas par exemple des pilotes automatiques embarqués dans des voitures autonomes. C’est aussi une difficulté, pour les agents conversationnels mus par l’IA générative, si l’on voulait par exemple supprimer les données couvertes par le droit d’auteur. Une fois les données injectées dans le modèle de langage, il est quasiment impossible de les en retirer sans réentraîner entièrement le modèle. La question se pose également pour des données personnelles de personnes physiques ou morales qui se trouveraient contenues dans les données d’entraînement d’un modèle de langage. Cette thématique de recherche a été baptisée « machine unlearning ». [152]. Ainsi une équipe de chercheurs regroupant des membres de l’université de Warwick et de Deepmind ont créé un algorithme nommé SCRUB, capable de faire oublier des données précises à des modèles de langage sans altérer le fonctionnement de ceux-ci [153]. Cet algorithme a fait l’objet de tests simplement empiriques, sans qu’il ait été possibl jusqu’à présent de construire une définition formelle du "désapprentissage" observé [154].
(Paragraphe en cours)
Revenant à présent à Différence et répétition et à la généalogie de la bêtise qui s’y joue, on peut donc se demander quel type de dysfonctionnement du système mnésique pourrait expliquer, de façon parallèle, un envahissement de la conscience par la mémoire tout à fait parallèle à celui qui se produit dans le cas du ressentiment, puisque c’est en ces mêmes termes de remontée et d’envahissement de la conscience par le contenu d’un fond que Deleuze analyse le processus généalogique de la bêtise.
"La bêtise n’est pas le fond ni l’individu, mais bien ce rapport où l’individuation fait monter le fond sans pouvoir lui donner forme (il monte à travers le Je, pénétrant au plu profond dans la possibilité de la pensée, constituant le non-reconnu de toute recognition)." [155]
La généalogie de la bêtise met ici en jeu trois termes : le Je, ou la conscience du sujet, l’individuation et son champ, le fond que ce champ implique. Comment ces trois termes s’articulent-il pour former le processus généalogique de la bêtise ? Quel type de dysfonctionnement, comparable à celui de la force d’oubli dans le cas du ressentiment, vient-il perturber le déroulement du processus de la pensée, rendre possible la remontée du fond et susciter la bêtise ? Quelle instance de régulation, quelle force d’inhibition active" comparable à la force d’oubli dans le cas du ressentiment, était-elle censée empêcher un tel dysfonctionnement ?
Pour répondre à la question transcendantale : comment la bêtise est-elle possible ? il faut considérer comme première condition de possibilité le rôle joué par l’individuation dans cette affaire : la bêtise "est possible en vertu du lien de la pensée avec l’individuation". L’individuation, telle qu’elle est ici comprise, est une particularité de l’être humain. Les animaux ne sont pas individués, ils sont spécifiés, par les formes caractéristiques de leur espèce : tout individu développement d’une espèce animale donnée ne développe rien d’autre que les processus physiologiques et les comportements qui sont ceux de son espèce. Comme nous l’avons vu, ce sont ces formes spécifique qui, selon Deleuze, viennent barrer chez les animaux la possibilité de la bêtise. Or chez l’être humain les formes spécifiques ne jouent plus ce rôle, car elles ont, en tant que telles, disparu pour laisser place à des processus d’individuation. Deleuze forme cependant l’hypothèse que le Je ou le Moi sont tout ce qui reste des formes spécifiques chez l’être humain, qu’ils en sont les formes résiduelles :
"Car le Je ou le Moi ne sont peut-être que des indices d’espèce : l’humanité comme espèce et parties. Sans doute l’espèce est-elle passée à l’état implicite dans l’homme ; si bien que Je comme forme peut servir de principe universel à la recognition et à la représentation, tandis que les formes spécifiques explicites sont seulement reconnues par lui, et que la spécification n’est que la règle d’un des éléments de la représentation. Le Je n’est donc pas une espèce, mais plutôt parce qu’il contient implicitement ce que les genres et les espèces développent explicitement, à savoir le devenir représenté de la forme. Leur sort est commun, Eudoxe et Épistémon." [156]
L’hypothèse est ici que, dans l’espèce humaine, les formes spécifiques se sont émoussées, qu’elles se sont pour ainsi dire abstraites au point de devenir implicites, d’avoir été intériorisées pour devenir une simple grille de lecture du réel, commune et universelle à tous les humains. Deleuze a peut-être ici en tête le § 354 du Gai savoir de Nietzsche [157], qui fait du développement de la conscience (comprise au sens de faculté de représentation et de reconnaissance et non au sens de la conscience morale) une expression du "génie de l’espèce" humaine [158], faculté qui s’est développée "sous la pression du besoin de communication" [159], parce que cet animal "le plus exposé au danger" avait besoin "d’aide et de protection, il avait besoin de son semblable", et pour solliciter sans aide "il fallait qu’il sache exprimer sa détresse, se faire comprendre, et pour cela il avait besoin de "conscience", même, donc pour "savoir" ce qui lui manque, pour "savoir" ce qu’il éprouve, pour "savoir" ce qu’il pense, ce qui explique que la conscience n’advienne que dans et par les formes du langage, "sous forme de mots" [160]. Et c’est pourquoi, poursuit Nietzsche, "la conscience n’appartient pas proprement à l’existence individuelle de l’homme, bien plutôt à ce qui en lui est de nature communautaire et grégaire (...)" [161]. Passées ainsi "à l’état implicite dans l’homme" sous la forme du Je, de la conscience de soi et de catégories internes au Moi, les résidus intériorisés d’anciennes formes spécifiques physiologiques et comportementales déchues peuvent désormais servir de "principe universel à la recognition et à la représentation" de dispositif de repérage permettant de ramener l’inconnu au connu : on peut donc penser que c’est donc une structure originellement vitale mais dégradée par intériorisation et abstraction qui se trouve à l’origine de l’image dogmatique de la pensée qui fait l’objet des critiques de Deleuze dans cette partie de son ouvrage. C’est aussi une manière de rendre compte, par l’application d’une méthode généalogique de type nietzschéen, de l’origine des catégories transcendantales kantiennes et du rôle qu’elles jouent dans le schématisme, même si Deleuze n’établit pas explicitement le rapport dans le passage que nous lisons [162]. Les formes spécifiques peuvent dès lors devenir des objets formels et abstraits pour la pensée, qu’elle croit reconnaître partout dans la réalité, la recherche des spécifications devenant pour la pensée une règle opératoire d’identification : tel est le "devenir représenté de la forme". Le Je, la conscience, comme pouvoir de recognition des espèces, et l’espèce, comme forme spécifique intériorisée pouvant dès lors servir de grille de représentation du réel par la distinction des genres et d’espèces, sont par conséquent pleinement solidaires. C’est le sens de l’allusion faite aux deux personnages conceptuels de La Recherche de la vérité par la lumière naturelle de Descartes [163], Eudoxe (étymologiquement : celui qui a des opinions droites) et Épistémon (étymologiquement : celui qui possède la connaissance, la culture philosophique). Eudoxe est le symbole de la conscience, du Je, c’est l’homme de bon sens ou de sens commun, dont la raison demeure intacte, dont le jugement n’est pas gâté par des fausses opinions car il n’a pas de culture scolastique et n’est donc pas frappé de préventions. Epistémon est le savant, le maître de scolastique, le grand spécialiste de la distinction des genres et des espèces, de la représentation et de la recognition des toutes choses par le pouvoir de la spécification. Mais derrière leur différence et leur opposition apparentes, l’un et l’autre sont, généalogiquement, pleinement solidaires.
"(...) en vérité Eudoxe n’a pas moins de présupposés qu’Épistémon, seulement il les a sous une autre forme, implicite ou subjective, "privée" et non "publique", sous la forme d’une pensée naturelle, qui permet à la philosophie de se donner l’air de commencer, et de commencer sans présupposés." [164]
Eudoxe, dans sa naïveté, ne fait en réalité que projeter sur l’ensemble du réel les mêmes catégories formelles implicites, les mêmes formes de spécification que celles qu’Épistémon le cultivé manipule consciemment et volontairement. Aussi Eudoxe et Épistémon incarnent-ils deux formes de la bêtise : l’idiotie pour l’un, la pédanterie pour l’autre. A bien suivre Deleuze, ils sont en quelque sorte les Bouvard et Pécuchet de la philosophie classique.
La conséquence de cette intériorisation et de cette abstraction des formes spécifiques dans l’espèce humaine est que celles-ci perdent toute capacité d’organiser les processus psychiques humains de façon à barrer la possibilité de la bêtise d’une façon qui serait analogue à celle dont les formes spécifiques le font pour le comportement animal. La possession par les humains, dans le Je pense, dans la structure de l’entendement, d’un appareil de catégories ou de formes de pensée intériorisées est donc à la fois une condition transcendantale positive de la bêtise, conduisant notamment à interpréter la totalité du réel comme un système de genres et d’espèces, et sa condition négative, en ce qu’elle n’oppose aucune espèce d’obstacle qui vienne barrer, comme chez toutes les autres espèces animales, la possibilité d’une remontée d’un matériau qui se constitue dès lors en un "fond" psychique dont il faut tenter de préciser la nature. Pour le dire d’un mot : la conscience n’est nullement un rempart contre la bêtise ; tout au contraire elle lui tient la porte ouverte. Cette idée laisse à penser qu’une machine numérique, une Intelligence Artificielle, un agent conversationnel, qui se trouveraient dotés de conscience ne seraient nullement prémunis contre la bêtise. Si ce n’est pas du côté du rapport de la pensée à la conscience, c’est donc plutôt du côté du rapport de la pensée à l’individuation proprement humaine qu’il faut recherche l’origine de la bêtise.
L’individuation humaine entretient un "lien" privilégié avec la pensée, un lien "beaucoup plus profond que celui qui apparaît dans le Je pense" [165] :
"(...) il se noue dans un champ d’intensité qui constitue déjà la sensibilité du sujet pensant."
Contrairement à ce qu’ont cru certains commentateurs, la difficulté n’est pas ici d’identifier la nature du fond, qui ne recouvre à proprement parler aucun mystère : "difficile à décrire" n’équivaut pas impossible à décrire. Deleuze analyse du reste la nature très précisément la nature et la structure générales de ce fond dans l’avant dernier chapitre de Différence et répétition, intitulé "Synthèse asymétrique du sensible" (pp. 286 à 335). L’idée de champ d’intensité mobilise ici un concept tiré de la monadologie leibnizienne. Il s’agit d’un ensemble d’intensités, de grandeurs non pas extensives, juxtaposées, mais incluses ou enveloppées les unes dans les autres. On les retrouve dans tous les domaines de la réalité. L’analyse leibnizienne de la perception en donne une très bonne illustration. Au bord de la mer, l’intensité du bruit des vagues n’est rien d’autre que la somme des intensités sonores infinitésimales des bruits de chaque gouttelette d’eau, dont nous n’avons pas conscience parce qu’elles sont trop petites en elles-mêmes pour franchir le seuil de perceptibilité, mais incontestablement enveloppées dans le bruit de la vague qui parvient quant à elle a le franchir, et dans lequel ma conscience identifie certains rapports et certains points remarquables. Cette théorie leibnizienne dite "des petites perceptions", qui vise à permettre de penser la continuité du réel, contre la théorie classique de la représentation, montre que les caractères de distinction et d’obscurité, sur le plan des choses, de clarté et de confusion, sur le plan de la pensée, loin de s’opposer, s’impliquent :
"Leibniz seul s’était approché des conditions d’une logique de la pensée, précisément inspirée par sa théorie de l’individuation et de l’expression. Car, malgré l’ambiguïté et la complexité des textes, il semble bien par moments que l’exprimé (le continu des rapports différentiels ou l’Idée virtuelle inconsciente) soit en lui-même distinct et obscur : ainsi toutes les gouttes d’eau de la mer, comme éléments génétiques avec leurs rapports différentiels, les variations de ces rapports et les points remarquables qu’ils comprennent. Et que l’exprimant (l’individu percevant, imaginant ou pensant) soit par nature clair et confus : ainsi notre perception de la mer, qui comprend confusément le tout, mais qui n’exprime clairement que certains rapports et certains points en fonction de notre corps, et d’un seuil de conscience que celui-ci détermine." [166]
Le champ d’individuation dans lequel se joue l’individuation des vivants humains, distinct du Je et du Moi, est un champ d’intensités compris sur ce modèle.
"L’individuation comme telle, opérant sous toutes les formes, n’est pas séparable d’un fond pur qu’elle fait surgir et qu’elle traîne avec soi. Il est difficile de décrire ce fond, et à la fois la terreur et l’attrait qu’il suscite. Remuer le fond est l’occupation la plus dangereuse, mais aussi la plus tentante dans les moments de stupeur d’une volonté obtuse. Car ce fond, avec l’individu, monte à la surface, et pourtant ne prend pas forme ou figure. Il est là, qui nous fixe, pourtant sans yeux. L’individu s’en distingue, mais lui, ne s’en distingue pas, continuant d’épouser ce qui divorce avec lui. Il est l’indéterminé, mais en tant qu’il continue d’embrasser la détermination, comme la terre au soulier." [167]
Chacune des grandeurs intensives constitutives du champ d’individuation propre à tel individus forme ainsi un pôle de différences enveloppées les unes dans les autres à l’infinie, ce qui veut dire un "point remarquable" ou de singularité. Ce point de singularité exprimé repose cependant lui-même sur l’infinité des différences non exprimées qu’il enveloppe, sur le rapport qu’il entretient au fond de différence qu’il enveloppe, rapport qu’il faut appeler profondeur.
"Quand une intensité enveloppante exprime clairement tels rapports différentiels et tels points remarquables, elle n’exprime pas moins confusément tous les autres rapports, toutes les variations et leurs points. Elle les exprime alors dans les intensités qu’elle enveloppe, dans les intensités enveloppées. Mais celles-ci sont intérieures à celle-là. Les intensités enveloppantes (la profondeur) constituent le champ d’individuation, les différences individuantes. Les intensités enveloppées (les distances) constituent les différences individuelles. Celles-ci remplissent donc nécessairement celles-là." [168]
Pour expliquer ce point, reprenons notre comparaison avec les petites perceptions. Le bruit de la mer que j’entends est une intensité enveloppante exprimée, qui exprime clairement la mer comme un individu distinct en vertu d’un ensemble de rapports différentiels et de points remarquables, en l’occurrence le bruit très particulier qu’elle fait. Mais cette différence exprimé, ce son singulier qui est celui de la mer, enveloppe et contient lui-même le bruit de chaque vague qui s’abat sur la plage, que je distingue déjà beaucoup plus confusément, malgré le fait que le bruit globale de la mer que j’entends contienne celui émis par chacune de ses vagues. Mais de la même façon, le bruit de chacune de ces vagues enveloppe et contient le bruit de chacune des gouttes d’eau qui la composent, bruit trop petit et trop mélangé avec celui des autres gouttes pour que je puisse le percevoir distinctement, différentiellement, mais qui entre incontestablement dans la composition du bruit global de la mer, dont il contribuer à constituer par conséquent le "fond". L’idée de Deleuze est que ce même type de structure intensive, organisé par enveloppement, se retrouve dans la constitution de l’individuation humaine, que le "fond" des "systèmes psychiques" humains est lui aussi un fond d’intensités différentielles, ce qui veut dire de différences exprimées enveloppant des différences non exprimées. Chacun d’entre nous est individué par un ensemble d’intensités ce qui veut dire de différences qu’il exprime (différences individuantes) mais qui enveloppent elles-mêmes une infinité d’intensité ce qui veut dire de différences non exprimées (différences individuées), qui demeurent partant confuses, les secondes constituant le "fond" des premières, fond reposant lui-même sur le "sans-fond" des différences infinies encore impliquées dans les secondes, le rapport entre les premières et les secondes constituant ce qu’il convient d’appeler "profondeur", l’ensemble fluent de ces différences constituant ce qu’il convient d’appeler "champ d’individuation".
Si ce "fond" est "difficile de décrire ce fond" [169], c’est donc simplement que ce fond est nécessairement indéterminé en ce qu’il contient l’infinité des différences possibles enveloppées à l’intérieur des différences déterminées qui singularisent chacun d’entre nous en tel ou tel individu, différences qui peuvent, quant-à-elles, être décrites parce qu’elles sont explicitement exprimées, le rapport entre différences exprimées enveloppantes et différences non exprimées enveloppées constituant ce que Deleuze appelle "champ d’individuation". Toute individualité est donc constitué par un système de différences exprimées enveloppant elles-mêmes une infinité de différences inexprimées, qui en contiennent elles-mêmes d’autres, qui en contiennent elles-mêmes d’autres, et ainsi de suite à l’infini. Le "fond" est donc constitué par l’ensemble des différences non exprimées contenues dans les différences non exprimées qui constituent notre individualité, l’ensemble intensif constitué par le rapport entre ce système de différences exprimées enveloppantes et les différences non exprimées qu’elles enveloppent formant le "champ d’individuation" d’un individu donné. Ce "fond" ("Grund", dans le vocabulaire allemand du philosophe Schelling, auquel Deleuze renvoie en note p. 198) repose cependant lui-même nécessairement sur un "sans-fond" ("Urgrund"), les différences enveloppées non exprimées contenant elles-mêmes une infinité de différences possibles non exprimées et partant indéterminées. C’est là ce qui explique à la fois "l’attrait" et "la terreur" que peut inspirer la considération du "fond". "Attrait", parce que ce fond renvoie à toute la recherche infinie contenue dans chaque individualité humaine, qui suscite la curiosité, que l’on aimerait bien pouvoir explorer, pour mieux se connaître soi-même, ce qui est l’une des aspirations fondamentales de la philosophie depuis Socrate. "Terreur" parce que ce fond, renvoyant lui-même à un sans-fond infini, donne inévitablement le vertige, à la fois par l’ampleur de sa profondeur et par l’insondable obscurité qui le caractérise ; terreur donc de même nature que celle qui saisit un spectateur devant un paysage naturel grandiose, devant les photographies de corps célestes gigantesques prises par des télescopes, dans l’expérience esthétique du sublime, telle que Kant la décrit dans la Critique de la Faculté de juger : terreur devant le spectacle sublime de l’infini en chacun de nous. Et c’est pourquoi l’infinie profondeur des différences enveloppées mais non exprimées et partant confusément contenues dans les différences exprimées apparaît à quiconque entreprend de l’explorer comme "un abîme indifférencié" [170].
Ces analyses ont deux conséquences.
La première conséquence, sur laquelle Deleuze insiste à plusieurs reprises, est que ce ne sont pas les structures de la conscience, le Je, comme principe de spécification psychique, et le Moi, comme principe d’organisation psychique, qui forment les principes de l’individuation, découverte que Deleuze attribue fondamentalement à Nietzsche et qu’il rattache au concept nietzschéen de volonté de puissance. Tout au contraire, le Je et le Moi doivent être compris comme des développements ou, comme l’écrit Deleuze, des ex-plications (des dépliements) abstraits et généraux du champ d’individuation de chaque individu.
"L’individuation, au contraire, n’a rien à voir avec la spécification, même prolongée. Non seulement elle diffère en nature de toute spécification, mais, nous le verrons, elle la rend possible et la précède. Elle consiste en champs de facteurs intensifs fluents qui n’empruntent pas davantage la forme du Je ni du Moi." [171]
Le Je et le Moi ne sont pas les conditions de possibilité de l’individuation, c’est exactement l’inverse : c’est l’individuation infra-consciente, qui se joue dans le mouvement fluent des intensités différentielles enveloppantes et enveloppées qui est la condition de possibilité du Je et du Moi. Aussi l’individuation n’est-elle en rien une forme de spécification analogue à celle qui existe chez les animaux.
L’enjeu de cette première conséquence est donc que, le Je et le Moi étant incapable de barrer la possibilité d’une remontée du fond, contrairement à ce qui se passe avec les formes spécifiques chez les animaux, la bêtise est, chez l’être humain, une possibilité permanente de la pensée et comme sa condition transcendantale, le fond pouvant remonter dans la conscience soit comme pensée intelligente, pensée sensible aux différences, pensée différenciante et différenciée, soit comme bêtise, pensée submergée, envahie, engorgée par son propre fond de différences, qui dès lors deviennent indéterminées et indéterminables, impossibles à discerner.
La deuxième conséquence est que la difficulté centrale est ici par conséquent de comprendre ce qui peut bien se produire, quel dysfonctionnement peut bien intervenir dans le rapport du Je au champ d’individuation fluent, pour que le fond en vienne à remonter et à engorger la conscience, actualisant ainsi la possibilité permanente, transcendantale, de la bêtise.
Voici la façon dont Deleuze décrit, d’une façon très elliptique, le processus par lequel la bêtise s’exprime :
"La bêtise n’est pas le fond ni l’individu, elle est ce rapport où l’individuation fait monter le fond sans pouvoir lui donner forme (il monte à travers le Je, pénétrant au plus profond dans la possibilité de la pensée, constituant le non-reconnu de toute recognition)." [172]
La bêtise, comme possibilité permanente de la pensée, s’accomplit, s’actualise, s’exprime, lorsque l’individuation entre dans un type particulier de rapport à son fond indifférencié de différences enveloppées (individuées mais non exprimées, comme les gouttes dans la vague, qui ne peuvent être perçues qu’ensemble, comprise dans la différences exprimée du bruit global de la vague) tel que ce fond indifférencié en vient à remonter brut à la surface de la conscience sans que l’individuation ait été en mesure, ait eu la possibilité de lui "donner forme", ce qui veut dire de l’exprimer dans un ensemble de différences individuantes.
"(...) ce fond, avec l’individu, monte à la surface et pourtant ne prend pas forme ou figure. Il est là, qui nous fixe, pourtant sans yeux. L’individu s’en distingue, mais lui ne s’en distingue pas, continuant d’épouser ce qui divorce de lui. Il est l’indéterminé, mais en tant qu’il continue d’embrasser la détermination, comme la terre au soulier." [173]
Il faut donc concevoir un double effet : une mise en échec ou un court-circuit des différences individuantes, qui provoque un écrasement de la profondeur conduisant le fond des différences individuées à s’exprimer à la surface de la conscience (c’est la "remonté") mais de façon totalement indéterminée ("sans yeux"), c’est-à-dire non différenciée, faute de l’avoir été par l’effet de différences individuantes. Dès lors la conscience, le Je et le Moi, se trouvent "minés par les champs d’individuation qui les travaillent", qu’ils expriment de façon indifférenciée, désindividuée : ils deviennent incapables de saisir la moindre différence, tout devient semblable. "Je ne vois pas la différence", "c’est du pareil au même" : autant d’expressions de la bêtise.
Qu’est-ce qui peut bien provoquer une tel court-circuit, une telle mise en échec des différences individuantes ? Pour le comprendre, il faut revenir à l’analyse nietzschéenne du ressentiment au paragraphe 10 de la Première Dissertation et au paragraphe 1 de la Deuxième Dissertation de la Généalogie de la morale, et au commentaire des ces texte par Deleuze dans Nietzsche et la philosophie, qui en donnent un exemple frappant.
(Paragraphe en cours)
2.3. Bêtise et erreur : la question de l’infaillibilité de la machine
La bêtise ne s’explique donc pas comme l’effet de puissances corporelles extérieures à la pensée, une erreur ou un ensemble d’erreur commises par l’esprit sous la domination du corps : les puissances corporelles et les formes qui les structurent, tout au contraire, comme le montre très bien la comparaison avec les animaux, garantissent plutôt contre la bêtise. La bêtise est donc d’un autre ordre, que celui du corps. Dire que la bêtise n’est pas le contraire de l’intelligence mais son corrélat, c’est dire surtout qu’elle ne se confond pas avec ce qui constitue le véritable contraire de l’intelligence : l’erreur, avec laquelle la bêtise ne se confond pas. Les erreurs que nous faisons sont des ratés de notre intelligence, des défauts de son fonctionnement qui la portent à confondre le faux avec le vrai, à prendre l’un pour l’autre, comme dire "bonjour Théodore" quand c’est Théètête qui passe [174], "il est 3 heures" quand il est 3 heures et demi, et 7 + 5 = 13" [175]. Or de telles erreurs, c’est précisément ce que, sous la réserve de la fiabilité des données dont elle dispose, une Intelligence Artificielle ne commet pas. On sait aujourd’hui avec certitude que l’automaticité machinique du calcul, sa rapidité, son ampleur au vu de la masse de données (big data) qu’elle est capable de manipuler et de la finesse des corrélations qu’elle est en mesure d’établir rend l’Intelligence Artificielle non seulement plus rapide mais beaucoup plus fiable que le calcul humain. Ce fait se vérifie par exemple dans le domaine de la santé, où l’Intelligence Artificielle parvient à déceler 95% des pré-cancers ou cancers du col de l’utérus, lorsque le diagnostIc médical humain classique peine à dépasser les 70% [176]. Dans ces conditions, comment expliquer les dysfonctionnements décrits par les utilisateurs des agents conversationnels en ligne, si la notion d’erreur (de calcul) ne permet pas d’en rendre compte ?
Il y a là un point décisif : on ne pourrait craindre l’Intelligence Artificielle, et plus précisément la craindre en raison de son aptitude à simuler l’exercice d’une pensée authentiquement philosophique au point d’abuser la vigilance des professeurs qui en liraient des productions recopi
