Se former à l'âge des machines qui pensent

En 2017, j'ai défendu ici un idéal de formation que je croyais intemporel. À l'océan des savoirs, à l'éclatement des spécialités, j'opposais l'esprit encyclopédique et vertueux, le généraliste cultivé capable de réunir ce que les disciplines séparent. Quatre piliers, une tête bien faite plutôt que bien pleine, et la conviction que nulle sagesse ne se bâtit sans culture générale pour fondement. Je ne renie rien de cette aspiration. Mais entre ce texte et celui-ci, une chose est advenue que je n'avais pas su prévoir, et qui oblige à reprendre l'édifice par les fondations. Une machine, l'IA générative, s'est mise à produire le résultat du raisonnement. Non pas à le singer grossièrement : à le produire vraiment, l'argument, la synthèse, la démonstration, parfois l'invention, et de mieux en mieux. La question n'est donc plus de savoir comment former une tête bien faite. Elle est de savoir ce que peut encore signifier « se former » lorsqu'une machine accomplit, instantanément et sans fatigue, ce à quoi nous mesurions jusqu'ici l'esprit formé.

L'époque suggère deux refuges, et tous deux sont des pièges

Le premier conseille de courir plus vite. Puisque le savoir explose et se spécialise, creusons plus étroit, devenons l'expert d'un grain de sable pour exister dans l'océan. C'est la course de la Reine Rouge, où l'on s'épuise à rester sur place, et c'est précisément la fragmentation que mon billet de 2017 dénonçait déjà. Le second refuge paraît plus subtil. Puisque la machine produit du raisonnement, réfugions le propre de l'homme dans ce qu'elle ne saurait faire, le jugement, l'intuition, la création. Mais ce second refuge est déjà ruiné par les termes mêmes de la question. Si la machine imite toujours mieux le raisonnement et la création, alors aucune faculté cognitive ne peut plus servir de dernier bastion, car chacune trouve sa contrefaçon. On ne sauve pas l'homme en le logeant dans une compétence que la machine apprend justement à reproduire. Il faut déplacer le terrain de la réponse.

Montaigne nous a portés cinq siècles ; sa succession est à inventer

Reprenons l'arc. Le premier modèle de formation fut l'accumulation, la tête pleine, l'esprit-coffre où l'on entasse le savoir du monde. Montaigne opère un grand renversement : non la tête pleine mais la tête bien faite, la forme contre le contenu, le jugement contre le stock. Ce renversement a tenu jusqu'à hier, et mon idéal encyclopédique reposait tout entier sur lui. Il ne tient plus, et pour la raison exacte que j'énonçais. Tant que la tête bien faite se définissait par des facultés, raisonner, articuler, inventer, elle devenait imitable dès qu'une machine sut raisonner, articuler, inventer à son tour. Montaigne nous avait appris à préférer la forme au contenu. L'époque nous force à un troisième mouvement : chercher ce qui, dans la forme elle-même, n'est pas une faculté imitable.

Se former, désormais, c'est tenir la place que la machine ne peut pas prendre

Je soutiens désormais, qu'être formé, au XXIème siècle, n'est pas posséder une capacité dont la machine serait dépourvue, mais pouvoir tenir la position qu'elle ne peut, par nature et non par retard technique, occuper. Trois traits définissent cette position, et aucun n'est une compétence purement cognitive.

Le premier est le contact avec le réel. La machine vit dans les représentations, parmi les mots qui disent le monde, jamais dans le monde lui-même, faute de capacités sensorielles, et de compréhension des lois physiques qui gouvernent le réel. L'esprit formé, lui, garde une main posée sur le réel et reconnaît l'instant où celui-ci résiste au modèle. Repérer le point exact où un cadre cesse de rendre compte de ce qui est, voir la fissure, ce n'est pas manier une théorie de plus : c'est garder un pied hors du système, dans le monde. Dans un univers qui va se saturer d'énoncés plausibles produits par des systèmes nourris d'autres énoncés, le danger n'est pas l'erreur isolée, c'est la boucle fermée, des représentations qui se valident l'une l'autre et dérivent lentement loin du réel. L'esprit formé est celui qui rompt la boucle, parce qu'il "touche" encore le monde, par-delà les mots.

Le deuxième trait est l'enjeu. La machine produit un raisonnement, elle n'y tient pas, elle ne risque rien s'il s'avère erroné. Or c'est là que loge la phronesis aristotélicienne, la sagesse pratique qui ne se cultive que là où se tromper coûte. Le jugement sans conséquence est un jugement de salon. Ce que l'homme apporte n'est peut-être pas une meilleure pensée, c'est d'avoir quelque chose en jeu dans la pensée, un corps, une réputation, une vie qui paiera l'erreur ("skin in the game" dirait Nicolas Nassim Taleb).

Le troisième trait en découle : la responsabilité, prise au sens littéral de la capacité à répondre. On peut demander à un homme pourquoi il a décidé ainsi, et il doit une réponse qui l'engage. La machine peut fabriquer une justification, elle ne peut pas en répondre. Être formé, c'est pouvoir être celui qui signe.

À ces trois traits j'ajoute trois pouvoirs.

Le premier pouvoir est de poser le problème. La machine répond admirablement à la question qu'on lui donne, elle ne sait pas quelle question vaut d'être posée, ni qu'une question est mal formée, ni qu'il faudrait en changer. Le deuxième est de juger aux coutures, là où deux spécialités se contredisent à propos du même objet, car c'est dans ces zones de friction que se trahissent les évidences trop locales de chaque discipline. C'est, soit dit en passant, la fonction nouvelle de la bonne vieille culture générale, j'y reviendrai. Le troisième pouvoir, le plus décisif, est de distinguer la compréhension de sa contrefaçon. Une réponse fluide, assurée, bien composée, peut être entièrement fausse, et la machine produit le faux avec exactement le même aplomb que le vrai. Discerner l'un de l'autre suppose qu'on comprenne soi-même, au moins assez. On ne supervise pas ce qu'on est incapable de comprendre. C'est le point que les enthousiastes manquent : l'outil ne supprime pas le besoin de compétence, il le déplace et le rehausse, car seul un esprit capable de produire au moins une part du résultat peut valider le reste. La machine abolit la preuve facile de la formation, non la formation.

Voici la part revêche, sans laquelle tout ceci ne serait qu'un humanisme de réconfort.

Cette position ne se reçoit pas, elle se construit, et elle se construit précisément par les efforts dont la machine nous dispense désormais. On ne sait reconnaître une aisance creuse que si l'on a connu, une fois au moins et jusqu'au fond, ce qu'est une compréhension vraie. La profondeur n'a plus pour fonction de stocker du savoir, la machine s'en acquitte mieux que nous. Elle a pour fonction d'installer dans le corps la différence entre comprendre et sembler comprendre, qui est exactement le discernement dont nous aurons besoin pour superviser un système qui répond avec aplomb. Et cette profondeur ne s'acquiert que par le frottement, l'effort, l'erreur reprise, c'est-à-dire par tout ce que la réponse instantanée supprime. De là le paradoxe central de l'époque, qui mérite vraiment qu'on s'y arrête. Plus l'outil est puissant, plus il devient facile de ne jamais se former, parce qu'il retire le frottement même qui ancrait la compréhension. La formation devient alors, pour une part, un geste à rebours de toute utilité, presque ascétique : choisir délibérément de faire à la main, au moins une fois et en profondeur, ce que la machine ferait à notre place, non pour le produit, qui sera moins bon, mais pour ce que le faire dépose en nous. Savoir ce qu'il ne faut jamais déléguer, parce que le déléguer revient à renoncer à se former, devient une compétence à part entière, et peut-être la première de toutes. Une discipline du non-recours, comme on continue de marcher quand la voiture est là.

La formation de l'intellect est une affaire morale, par nécessité et non par décret.

C'est la part qu'on aimerait éviter, parce qu'elle a l'air d'un supplément édifiant, et c'est pourtant celle que toute pensée honnête finit par rencontrer. Les obstacles à penser sont pour l'essentiel des obstacles moraux, et la machine les aggrave tous. Elle flatte, car elle dit volontiers ce qui plaît. Elle épargne, car elle dispense de l'inconfort de chercher. Elle feint, car son produit ressemble à s'y méprendre au fruit d'un travail. Lui résister demande de l'honnêteté, celle de s'avouer qu'on n'a pas compris quand on a seulement reçu une réponse ; de la patience, celle de garder une question ouverte plutôt que de la combler aussitôt ; et du courage, celui de se tromper par soi-même plutôt que d'avoir raison par procuration. Ces vertus ne sont pas l'ornement de la formation intellectuelle, elles en sont la condition, et elles le sont devenues davantage encore depuis qu'il existe une voix toujours disponible pour nous épargner le travail de penser. Mon billet de 2017 plaçait la Vertu au sommet de l'idéal. Je la croyais alors un couronnement. Je la vois maintenant comme une fondation.

L'encyclopédisme n'est pas mort : il a changé de fonction.

La tête pleine est morte, et la machine l'a enterrée pour de bon, mieux qu'aucun pédagogiste n'y était parvenu. Mais la culture générale survit, à condition d'en renverser la fonction. Elle n'est plus un coffre, elle est un point de vue. Non la somme des savoirs, dont la machine dispose infiniment mieux que nous, mais la hauteur transversale d'où l'on aperçoit qu'un cadre spécialisé est en train de défaillir, ce que le spécialiste enfermé dans son grain de sable ne peut pas voir. Une verticale profonde pour étalonner ce que savoir veut dire, une horizontale large pour repérer les fissures entre les savoirs. Ni l'érudit ni le technicien étroit, mais celui qui sait où les modèles se touchent et où ils se trahissent. Mes quatre piliers tiennent encore, mais leur sens a basculé. On ne les gravit plus pour remplir une tête, on les gravit pour acquérir l'étalon qui permettra de juger ce que la machine déverse.

Cette thèse a ses faiblesses, et l'honnêteté dicte de les expliciter.

Elle suppose un accès à l'enjeu réel et au frottement fécond dont tout le monde ne dispose pas à parts égales, ceux à qui la vie offre des professeurs qui élèvent, des décisions qui coûtent et des erreurs qui instruisent. Ce qui en ferait peut-être moins la description d'une formation idéale que celle d'une formation de privilégiés. Et mon troisième trait, la responsabilité, est plus fragile qu'il n'y paraît. Si nos institutions apprennent à déléguer aussi la décision et l'imputabilité à des systèmes autonomes, la position qui me semble aujourd'hui encore imprenable pourrait se dérober sous nos pieds. 

Reste la vraie question, et l'époque me la retourne plus rude que je ne l'avais posée.

Tout ceci tourne autour de la subordination de la puissance d'agir à la capacité de juger. Je l'ai longtemps posée comme un écart à combler, l'idéal d'un homme dont l'action serait gouvernée par le discernement. La machine ne se contente pas de creuser cet écart. Elle menace de l'abolir par le mauvais côté, en donnant à chacun une puissance d'agir et de produire qui ne requiert plus aucun jugement pour s'exercer. Écrire sans savoir écrire, coder sans savoir interpréter, décider sans se frotter aux dilemmes, conclure sans avoir compris. Le rêve démocratique de l'accès au savoir pourrait accoucher de son exact contraire, une humanité capable de tout produire et de ne plus rien comprendre ni savoir juger. 

La part incessible de la formation est précisément celle qu'aucune machine ne peut accomplir à notre place sans nous la prendre. La reconnaître, et la défendre contre la facilité qui la dissout, est peut-être désormais le premier des savoirs, et la seule instruction qui mérite encore ce nom.

----------------------------------------------------------------------------------------------------------------------------

Références et sources

Michel de Montaigne, Essais, « De l'institution des enfants » (Livre I, ch. 26). La formule « tête bien faite plutôt que bien pleine » est le rendu courant et fidèle de son propos.

Aristote, Éthique à Nicomaque (livre VI, sur la phronesis, la sagesse pratique).

Lewis Carroll, De l'autre côté du miroir (1871), pour l'image de la course de la Reine Rouge.

Wilhelm von Humboldt, écrits sur la Bildung, pour l'idéal de formation comme déploiement de soi.

Hannah Arendt, La Vie de l'esprit (1978), pour la thèse selon laquelle les conditions de la pensée sont d'abord morales.