Nous sommes une génération unique dans l’histoire. Nous sommes (j’entends par nous ceux qui ont encore, disons, cette fin de siècle à vivre), nous sommes la dernière génération d’hommes ne se parlant qu’entr’eux ; ne parlant qu’à des hommes comme eux ; ne connaissant d’autres interlocuteurs qu’eux-mêmes, d’autres hommes.
C’est une idée tellement extraordinaire qu’il faut l’exprimer de plusieurs façons, la regarder de plusieurs côtés pour être bien sûr qu’on l’a comprise : dans les quelques années qui viennent, peu à peu, la machine va se mettre à parler1. Non pas comme des publicités abusives le disent, à la façon de ces autos dont la voix douce vous avertit que votre niveau d’huile baisse ou que votre moteur chauffe : il n’y a là rien de merveilleux ; le niveau en baissant ou le moteur en chauffant, au lieu d’allumer une petite ampoule, déclenchent une bande magnétique enregistrée chez Renault ou Citroën. Mais réellement parler, c’est-à-dire discuter avec vous. Par exemple, discuter de philosophie.
Au début, la machine vous fera la conversation d’une façon encyclopédique, sèche, infaillible, citant infatigablement si vous le lui demandez toute la littérature philosophique sur le sujet de la discussion, ou bien démontant tous les raisonnements connus en signalant les erreurs, variantes, réfutations.
Puis, s’accoutumant à vous, la machine se souviendra de vos propos passés, prenant acte de vos incohérences, de vos préjugés (basic belief dans le jargon qui déjà existe2), de votre idiosyncrasie. Si vous avez l’habitude de raconter des histoires drôles, elle réalisera infailliblement le principe de votre humour s’il y en a un, et vous servira une infinité d’histoires drôles, ou peut-être pas drôles du tout mais fondées sur le même principe. Si vous riez, si vous riez plus ou moins et si le plus ou le moins ont une cause logique, même lointaine, elle inventera des histoires de plus en plus drôles.
Une ferraille qui se trompe dans nos feuilles de paie
Farceurs ! s’écriera plus d’un lecteur. Comment une ferraille qui se trompe dans l’établissement de ma feuille de paie, ou d’impôts, et généralement des deux, pourrait-elle discuter philosophie et raconter des histoires drôles ?
La réponse est donnée par ce que j’appellerai « aphorisme Enlart N° 1 » :
− Si l’on vous dit : « l’ordinateur s’est trompé », répondez simplement : « virez le programmeur » (l’aphorisme Enlart N° 2 devrait rassurer le lecteur soupçonneux. Le voici :
− Il arrive que vous ne compreniez pas ce que raconte un informaticien. Lui non plus) (a).
Mais revenons au sujet. Ce qui empêche les ordinateurs actuels (déjà existants) de discuter philosophie ou de vous faire mourir de rire, ce n’est pas ce que le public croit généralement : qu’une ferraille ne saurait le faire. Si l’on y mettait quelques gens compétents, ils trouveraient bien des logiciels philosophiques et humoristiques, et même je soupçonne quelques informaticiens d’être déjà très avancés sur les seconds.
La difficulté réelle est bien plus profonde, mais on n’a commencé à s’en douter qu’en se cassant le nez dessus il y a quinze ou vingt ans : c’est le problème dit de la reconnaissance des formes, ou, ce qui revient à peu près au même, de la traduction.
Celui de la traduction est le plus difficile à comprendre. Il y a bien un quart de siècle qu’on a commencé d’y réfléchir avec entrain. Rien de plus simple, crut-on d’abord, que de concevoir un dictionnaire automatisé. Vous tapez « pain », vous programmez « latin », et vous obtenez « panis », ce qui n’a même pas besoin d’être expliqué.
Au-dessus du vocabulaire, il y a la morphologie : à « prendre » correspond, disons « accipire ».
Chacun sachant qu’un ordinateur c’est notamment une mémoire, rien de miraculeux non plus si, ayant procédé comme ci-dessus, de « il a pris » nous tirons sur le champ « accepit ».
Au-dessus du vocabulaire et de la morphologie, la syntaxe. Mais ce n’est qu’une collection de règles interdépendantes, c’est-à-dire exactement un logiciel.
Il semble donc que nous tenons tout en main, puisque nous n’avons besoin de rien d’autres, pour connaître une langue, que de posséder son vocabulaire et sa syntaxe. Ou alors de quoi d’autres ? Passons donc tout de suite au premier exercice.
Je prends une phrase simple dans un livre, je procède comme ci-dessus, et j’obtiens la traduction suivante, que je livre à la méditation des latinistes :
« In ligno panem accepit »
Contrôlons en retraduisant à l’envers : « Il a pris le pain dans le bois. » C’est ennuyeux car cela ne signifie rien, et d’ailleurs même dans la phrase latine, à la place de in, on attendrait une autre préposition, ex, ou de, et même ainsi cela ne signifierai rien. Quelle était donc la phrase originelle française ? Celle-ci, tirée de San Antonio : « il a pris du pain dans la tronche » (tronche signifiant bûche, et bûche se disant en latin « bois », « lignum », comme on peut le voir dans le Gœlzer, citant Virgile et Horace).
D’accord nous sommes mal tombés, c’était du français figuré, une expression argotique. Mais comment reconnaître que tous ces mots parfaitement corrects, y compris tronche qui est seulement un peu ancien, sont pris ici dans un sens argotique ? Le contexte ? Et si par hasard cette même phrase était tirée de l’oraison funèbre d’un légionnaire par le cher Père Bruckberger ?3
La simplicité illusoire du début s’évanouit. Au mot « contexte » on se rend compte que la traduction suppose un monde énorme de mémoires, de programmes, il faut la mécanisation de la culture.
Est-ce possible ? Citons encore (avec excuses à ceux qui la connaissent déjà) la blague chère aux informaticiens : en procédant comme ci-dessus avec la phrase « l’esprit est fort mais la chair est faible », on obtient un choix de traductions, parmi lesquelles « l’alcool est raide, mais la viande tendre »4.
Il s’agit donc de savoir si l’on peut mécaniser la culture. C’est le moment de citer l’« aphorisme Enlart N° 3 » (et dernier) : « Le système informatique est le miroir de ce que nous savons sur le biocomputer. »5
… Et de dire qui est Christian P. Enlart. C’est un Français assez énigmatique, dont je ne connais que le génial petit livre publié en décembre dernier (b) ; génial car, sans aucune autre technique que l’humour, il réussit à faire entendre au profane complet la quintessence de l’informatique. En une matinée, et en se tenant les côtes, le lecteur comprend par des exemples ce qu’est un programme, une simulation, un logiciel, et comment le « modèle informatique » (p. 14) recouvre par définition tout ce qui peut être communiqué. C’est-à-dire tout « sauf », comme le disait A. M. Turing « le plaisir de manger une tarte aux fraises » (c)6.
Comme, pour inciter le lecteur à lire un livre7, il faut le laisser sur un sentiment de frustration, je m’abstiendrai à rien dire de plus sur les extravagantes affirmations du début de cet article : que les machines philosophiques, humoristiques et parlantes sont possibles, qu’on est en train de les imaginer, que nos enfants devront apprendre à vivre avec elles, et cela à jamais.
Je me bornerai à traduire le provocant « biocomputer » de l’aphorisme N° 3. Programme : langue française. Appuyons sur le bouton : « Homme ».
Biocomputer (d), autrement dit : Homme. Tout ce qu’on peut savoir sur l’Homme.
Mais évidemment restera toujours ce que l’on ignore, qui croît bien plus vite que ce que l’on sait8.
Aimé MICHEL
(a) « Lui non plus » : provocation, mais vérité. La logique formalisée (la seule qui soit « logique ») ne requiert pas, pour dérouler ses infinies variations, d’être comprise. Nous n’avons pas davantage besoin, pour penser, de savoir ce qui se passe dans notre cerveau. Ni la forme ni la matière n’ont ici besoin d’être « comprises ».
(b) Christian P. Enlart : Fondements humains des programmes et métaprogrammes. Ce qu’il y a de plus difficile dans ce livre, c’est le titre, mais voir Aphorisme N° 2. Éditeur : Cohérences, 2, rue du Donon, B.P. 47, 67034 Strasbourg Cedex. Lecteur de FC, Enlart est forcément quelqu’un de bien, outre son savoir et son humour…
(c) Turing, très grand mathématicien anglais, l’un des Pères Fondateurs de l’informatique. Il y a 50 ans, alors que l’idée même de mécanisation de la pensée logique n’existait pas encore, il en avait formulé des lois, prévoyant plusieurs de ses lointaines conséquences notamment dans un article devenu classique intitulé : Une machine peut-elle penser ? La réponse est que tout ce qui est exprimable est mécanisable.
(d) C’est une traduction de ce mot malheureux, biocomputer, inventé par l’Américain John C. Lilly, personnage peu ordinaire venu à la célébrité sur un malentendu « l’homme des dauphins »9 est bien plus que cela. L’homme ne fonctionne pas du tout comme un ordinateur. Je reviendrai sur cette question.
Chronique n° 397 parue dans France Catholique − N° 1990 −8 février 1985
[||]
Notes de Jean-Pierre ROSPARS du 6 mars 2017
Dans une chronique publiée huit ans auparavant, en 1977, Aimé Michel écrivait : « l’ordinateur capable de converser comme un homme et même comme un homme omniscient et battant tous les records de quotient intellectuel, existera vers l990 » (n° 278, Vers la médecine automatisée – Capacités et limites des futures machines intelligentes, 07.12.2015). C’est probablement ce que pensaient les informaticiens de l’époque mais ils ont dû déchanter, la tâche s’étant révélée plus difficile à résoudre qu’ils ne le croyaient. Les choses ont tout de même progressé et certaines applications permettant de dialoguer en langage naturel avec son smartphone en donnent une première idée.
Dans le titre de la présente chronique, « apocalypse » doit être compris au sens étymologique de « révélation (de choses à venir) ». Le sous-titre est également d’Aimé Michel.
Christian P. Enlart, l’auteur du petit livre qui inspire cette chronique, donne une grande importance à ces « basic beliefs » (croyances de base ou certitudes fondamentales). On peut traduire ces mots par « préjugés » comme Aimé Michel mais à condition de l’entendre comme « prévoir au moyen des indices dont on dispose » et non comme « jugement prématuré porté sur quelque chose ». Cette notion s’introduit lors de l’informatisation d’un problème, c’est-à-dire de sa résolution sous forme d’un algorithme. On peut tenter de résoudre n’importe quel problème de cette façon, ce qui ne préjuge pas du succès de l’opération, lequel dépend du niveau de connaissances scientifiques disponibles. Certains problèmes, mathématiques par exemple, sont faciles à traiter par un algorithme, d’autres beaucoup plus difficiles, comme la traduction d’une langue dans une autre.
Le premier exemple que prend Enlart pour illustrer les « basic beliefs » – comment se bien conduire en société ? – relève de cette deuxième catégorie. Nous disposons d’un vaste ensemble de petits programmes pour répondre à cette question en fonction des circonstances, programmes qui reposent eux-mêmes sur ces « certitudes fondamentales », telles que « Les Autres Méritent des Égards ». Cette certitude est elle-même construite « en conformité avec un basic belief encore plus général, du genre “Aime Ton Prochain Comme Toi-Mêmeˮ. (…) [C]ependant, (…) il m’arrive d’être franchement grossier avec les autres, et je soupçonne qu’il existe dans mes mémoires, une certitude au moins aussi fondamentale qui s’énonce pudiquement : “MOI d’Abord, les Autres Ensuiteˮ » (exemple tout à fait théorique note l’auteur en raison d’un autre basic belief fondamental : « N’Avouez Jamais ! »). Une certitude fondamentale ne se discute pas mais ne s’applique que dans un domaine restreint. « Si l’on franchit les limites de ce domaine, vers un plus vaste, on aura besoin d’une politique encore plus générale pour s’orienter dans ce nouvel espace, d’où nouveau basic belief plus englobant ».
Le second exemple d’Enlart, celui de l’informatisation d’une entreprise, plus concret et sans doute issu de son expérience professionnelle, illustre ce dernier point. On commence par un domaine précis, disons la comptabilité. L’injonction est alors « Valoriser ce qui a été livré au prix du tarif », ce qui suppose de décider s’il s’agit du tarif en vigueur lors de la commande ou à la date de livraison ; cette décision dépend de la politique commerciale de l’entreprise, domaine plus vaste que celui de la facturation. Ensuite, il y a le domaine des stocks et son injonction « Être toujours capable de livrer ». Mais l’ampleur du stock doit être financée ce qui implique la Direction financière, dont le basic belief est « Minimiser les coûts » d’où stocks réduits mais risque de rupture. Toute rupture entraîne un conflit de la Direction financière avec la Direction commerciale, conflit qui ne peut être résolu que par la Direction générale, seule à pouvoir fixer les priorités : soit « satisfaire les actionnaires avant les clients » soit « le client est roi, l’actionnaire peut attendre ». « Pour le responsable du stock, ou le chef comptable ; la situation peut sembler illogique compte tenu de ce qu’il peut en comprendre à son niveau. Ce qu’il ne sait pas est que sa Vérité est relative, vue d’un niveau plus élevé. » (p. 49).
La transposition de ces idées du gouvernement de l’entreprise à celui de l’État donne à réfléchir. Comment les vérités multiples et relatives du citoyen de base peuvent-elles remonter jusqu’au niveau le plus élevé et y être arbitrées ? Le problème est-il aussi bien posé qu’il ne l’est dans l’entreprise bien gérée décrite par Enlart ? Le serait-il, ce qui ne semble guère le cas si on en juge d’après les récentes campagnes électorales d’ici et d’ailleurs, qu’il faut de toute façon se résoudre à arbitrer, c’est-à-dire à prendre les décisions que l’algorithme ne peut prendre (que la connaissance scientifique n’éclaire pas ou pas encore) mais dont il a besoin pour tourner. Survient alors le « poids de la liberté » dont Aimé Michel et Jean Fourastié ont souligné à la fois les lointaines origines évolutives et les relations avec la morale et les croyances religieuses (voir par exemple la chronique n° 276, Le cœur et la raison – Retour sur le choc de la drogue : le poids de la trahison et le prix de la fidélité, 29.06.2015, en particulier la note 5).
Le père Bruckberger (1907-1998), né en France d’un père autrichien, dominicain, auteur et réalisateur de films, journaliste, fut auteur à succès d’essais de morale et de politique et membre de l’Académie des Sciences morales et politiques où il succéda à Raymond Aron. Amoureux d’une Barbara avec laquelle il vécut dix ans, cet amateur de luxe, de bons vins et de jolies femmes, « respirait la bonne santé, physique et mentale, la joie de vivre, et aussi la foi la plus chevillée – tour à tour ronchonnant et vociférant, comme Bernanos, contre la veulerie et l’abandon » (François Broche, http://www.magistro.fr/index.php/template/lorem-ipsum/devant-l-histoire/item/1914-le-pere-bruckberger). Polémiste, il combattit les prêtres marxistes, « apôtres à la manque, ayant tout encanaillé, l’Évangile et eux-mêmes » et les dérives politiques dans l’Église : « Les chrétiens en ont assez, véritablement plein le dos de la politisation de leurs églises et de leurs clergés » (L’Aurore, 1976). Souvent en butte aux critiques de sa hiérarchie et de la gauche catholique, il refusera toujours d’être rendu à l’état laïc et demandera miséricorde en disant : « S’il y a des chrétiens qui sont scandalisés par moi, qu’ils prient pour moi ! »
La traduction automatique illustre bien cette imbrication de niveaux différents en contradiction partielle les uns avec les autres. C’est une application extrêmement exigeante parce que, comme l’explique Aimé Michel, sa résolution exige la mécanisation (la mise en algorithme) de la culture entière ! La communication en langage humain dépend toujours de son contexte. Il faut donc lever les ambiguïtés du texte source pour le traduire correctement dans la langue cible, ce qui suppose un monceau de connaissances qui ne sont pas dans le texte source.
Les logiciels de traduction automatique ont fait beaucoup de progrès comme on peut le vérifier avec le traducteur de Google en ligne. Bien que fondé, paraît-il, sur un « capital linguistique » de plusieurs milliards de phrases, il demeure malgré tout souvent loin du compte. Une des caractéristiques de ce traducteur est qu’il utilise l’anglais comme langue pivot. Autrement dit si vous l’utilisez pour traduire un texte français en italien, il sera d’abord traduit du français en anglais puis de l’anglais en italien, faisant ainsi perdre tout le bénéfice de la proximité des deux langues latines. On peut donc s’attendre à ce que les traductions de ou vers l’anglais seront meilleures que toute autre. On comprend bien l’avantage d’une langue pivot puisque chaque nouvelle langue n’exige la mise au point que d’un seul traducteur, celui vers la langue pivot, au lieu d’autant de traducteurs qu’il y a de langues. Toutefois, le pivot aurait pu être une langue artificielle, sur-ensemble des langues humaines, riche de la multiplicité de leurs points de vue et de leurs inventions.
À propos de la langue pivot de Google, Frédéric Kaplan de l’École Polytechnique fédérale de Lausanne parle de « l’impérialisme linguistique de l’anglais ». Il note que cet impérialisme a « des effets beaucoup plus subtils que ne le laisseraient penser les approches qui n’étudient que la “guerre des langues”. Le fait de pivoter par une langue conduit à introduire dans les autres langues des logiques linguistiques propres et donc insensiblement des modes de pensée spécifiques. » Les exemples qu’il donne des dérives qui en résultent donnent à réfléchir sur la « pollution mentale » en cours (http://www.monde-diplomatique.fr/2015/01/KAPLAN/51968).
Aimé Michel ne donne pas en entier ce troisième aphorisme car à « … ce que nous savons de notre biocomputer » Enlart ajoute « Pas grand-chose, mais ça vient » ! Cet aphorisme résume une bonne partie du livre.
Primo, Enlart insiste beaucoup sur la notion de système informatique qui est la combinaison d’un ordinateur et d’un (ou plusieurs) logiciel(s). Les constituants du système (l’ordinateur d’un côté, les logiciels de l’autre) sont inutilisables pris isolément.
Secundo, l’interaction de ces constituants qui sont de natures différentes produit quelque chose de nouveau par rapport aux parties ; ce qui se passe réellement dans le système n’a pas de sens matériellement. En effet, l’information que traite le système informatique est un signal matériel en apparence « mais ce signal a un sens, il est plus que sa simple quantité d’énergie mécanique, électrique ou chimique ». « Prenons un exemple. Imaginons que nous soyons en train de vider nuitamment les coffres du Crédit lyonnais. Vous concevez facilement que le peu de bruit que je ferai avec la bouche et que votre oreille percevra, pour dire : “Nous sommes cuitsˮ, contient une énergie sans commune mesure avec celle de toutes les actions urgentes et complexes qui seront déclenchées pour essayer de nous sauver. Par contre, si j’ai dit : “On cuit dans ce trouˮ, message plus coûteux en énergie mécanique que le précédent (5 syllabes au lieu de 3), il ne déclenchera, au mieux, qu’un haussement d’épaules. » (p. 16)
Tertio, « l’informatique est, en dernier ressort, une simulation de nous-mêmes en tant que système complexe apte à traiter l’information. Appelons cela un miroir, une prothèse, une projection, une extériorisation, et disons-nous simplement qu’après avoir extériorisé, simulé, projeté sous forme d’outils et de machines tout ce que nous savions bien faire avec nos ongles, nos doigts, nos membres, nos organes sensoriels et moteurs, nous venons de commencer à extérioriser nos facultés logiques et informatiques qui étaient, bien entendu, en nous avant la construction du premier système. » (p. 32) Cette notion a été développée par Aimé Michel, bien avant sa lecture de Enlart, sous le nom d’« extériorisations de fonction » (voir la chronique n° 237, L’homme dénudé par la machine – Tout ce qui n’est pas son âme sensible et contemplative sera bientôt évacué dans la machine, 08.12.2014, et quelques compléments en note 5 de la chronique n° 273, Le choc de la drogue – L’âme endormie se réveille mais se découvre en enfer, 22.06.2014).
En résumé : le système informatique « est révolutionnaire en ce sens que son activité réelle – le traitement de l’information – est sans relation directe avec son activité matérielle (à comparer avec un métier à tisser) » ; « il modélise assez bien la question “âme-corpsˮ ou “esprit-matièreˮ avec ses deux composantes matériel-logiciel » ; enfin, « il ne fait rien que nous ne sachions faire » (p. 20).
Selon Enlart, c’est John Lilly, surtout connu en France comme « l’homme des dauphins », qui dans son ouvrage Programming and Metaprogramming of the Bio-Computer (The Julian Press, New York, 1972), aurait le premier compris que, de même qu’un système informatique comprend un ordinateur et un logiciel, nous les hommes disposons d’un ordinateur qui est notre cerveau et que Lilly nomme « Bio-ordinateur ». L’analogie n’est pas dépourvue de toute valeur mais ne doit pas être prise au pied de la lettre car le cerveau humain est très mal modélisé par les ordinateurs actuels que la moindre altération peut mettre en panne complète. Une meilleure analogie est celle des « réseaux de neurones artificiels » (que l’on simule sur ordinateur) mais là aussi on est loin du compte… Sur ces réseaux de neurones, voir la note 8 de la chronique n° 390, Les performances de l’ordinateur et le mystère de l’esprit – Au-delà du cerveau, 12.12.2016.
Enlart raconte une variante de la fameuse tarte aux fraises : « Un grand savant aux prises avec un journaliste scientifique qui ne partageait pas son enthousiasme pour l’informatique naissante, à la question : “Mais alors, qu’est-ce qu’un système informatique ne pourra jamais faire ?ˮ a répondu, après réflexion “Éprouver du plaisir à manger une tartine de confitureˮ » (p. 21) Ce « grand savant » avait-il lu Turing ou était-il Turing lui-même ? On se souvient qu’Aimé Michel a longuement commenté cette conclusion de Turing pour mettre en valeur non pas seulement le goût de la tartine de confiture (ou de la tarte aux fraises) mais de façon générale toutes les sensations, pensées et sentiments qui font de nous des êtres conscients, conscience dont l’ordinateur (au moins actuel) est dépourvu (chronique n° 181, Des machines intelligentes – Ordinateurs intelligents de Turing et machines autoreproductrices de von Neumann, 19.08.2013). C’est un autre versant de la « sortie de l’algorithme » évoquée en note 2.
On apprend bien d’autres choses dans le petit livre d’Enlart. Par exemple que si « l’avènement pratique de l’informatique dans notre civilisation a été retardé » ce n’est pas seulement à cause de la difficulté de réalisation de systèmes purement mécaniques, mais en raison d’une erreur commise par Charles Babbage, l’inventeur de l’ancêtre (mécanique) de l’ordinateur, et de Lady Lovelace, jeune mathématicienne qui la programma. « Babbage et Lady Lovelace étaient des turfistes impénitents. Après avoir recueilli des fonds officiels pour réaliser l’engin, ils ont lâché “ce qu’ils savaient bien faireˮ c’est-à-d. des programmes de calcul numérique, pour s’attaquer aux courses de chevaux. Ils se sont, ce faisant, ruinés et ridiculisés, discréditant du même coup l’idée. » (p. 35 ; je n’ai pas trouvé confirmation de cette anecdote mais j’ai sans doute mal cherché).
Pour Enlart, les informaticiens sont « des esprits concrets qui utilisent des trucs et dont la principale motivation est la loi du moindre effort, elle-même seule force motrice du progrès technologique » (p. 37).
Pour Aimé Michel savoir rime avec ignorer, les deux mots étant indissociables dans son esprit (voir la chronique n° 388, La science et l’ultime secret des choses – Avouer son ignorance est le premier pas de toute vraie science, 08.02.2016). Une analogie classique aide à le comprendre. Imaginons un cercle séparant son intérieur, qui représente le domaine du connu, de son extérieur, ce qu’on ignore encore. Plus la surface du cercle augmente, c’est-à-dire plus nous savons de choses, plus sa circonférence grandit et avec elle notre prise de conscience de ce que nous ignorons. Toute question résolue suscite d’autres questions à résoudre. Cela est vrai tant à l’échelle individuelle que collective, et suggère que la science ne risque guère de tomber de sitôt en panne de questions à résoudre et s’arrêter.
Le texte imprimé est simplement « l’homme des ». Je suppose qu’une erreur typographique a fait tomber le mot « dauphins ». Je doute que Lily était suffisamment connu du grand public pour qu’Aimé Michel ait laissé le soin à ses lecteurs de compléter sa phrase.
|]
|]
