Machinerie ou machination ? — extrait

Préface — Luc Julia, co-créateur de Siri

Dans Machinerie ou machination ?, Vincent Bouillon nous fait comprendre la complexité et la profondeur des enjeux que soulève l’intelligence artificielle. Cette technologie, aussi prometteuse que controversée, se trouve au cœur d’un débat où se mêlent espoirs, craintes, valeurs et enjeux cruciaux pour l’avenir de l’humanité.

L’intelligence artificielle, par sa polyvalence, transcende les frontières entre les « bonnes » et les « mauvaises » applications, rappelant ainsi la dualité intrinsèque à de nombreuses technologies. Vincent nous rappelle que, comme l’a démontré l’histoire, de la poudre à canon aux avions, en passant par les radars et les plastiques, une invention peut servir des desseins pacifiques aussi bien que des objectifs belliqueux.

La compréhension de l’IA reste partielle. Cet ouvrage se propose donc d’explorer les différentes facettes de l’IA, en tenant compte de ses implications philosophiques, éthiques et sociétales. Il s’inspire des recommandations de Descartes, qui préconisait de diviser les difficultés en parcelles plus faciles à gérer, et de Francis Bacon, qui enjoignait de se libérer des idoles qui obscurcissent notre jugement. En abordant l’IA comme une extension de la pensée technique, il est impératif de reconnaître les responsabilités qui accompagnent sa maîtrise et son application.

L’IA, dans sa quête de modélisation et de prédiction, se heurte à la nature parfois irrationnelle ou non rationalisable de certaines réalités, notamment dans le domaine métaphysique. Descartes lui-même, dans ses méditations sur la nature de l’existence et de la perception, nous a légué une réflexion sur la distinction entre l’observation et le jugement, soulignant la complexité de la reconnaissance et de la compréhension de ce qui nous entoure.

En tant que société, nous sommes appelés à naviguer dans ce labyrinthe de questions et de défis que pose l’IA. Ce livre invite le lecteur à une introspection collective, à embrasser la complexité de l’IA sans céder à la tentation de simplifications réductrices. Il nous rappelle que, tout comme la sagesse antique et le siècle des Lumières nous ont enseigné à questionner la nature des choses, nous devons aujourd’hui questionner la nature de l’intelligence, qu’elle soit artificielle ou humaine. Exercer notre esprit critique.

Machinerie ou machination ? est une invitation à un dialogue interdisciplinaire, où la philosophie, la science et la technologie se rencontrent pour éclairer les zones d’ombre de l’intelligence artificielle. C’est un appel à la vigilance, à l’humilité et à la responsabilité, alors que nous façonnons ensemble le futur de cette technologie qui, sans aucun doute, est en train de redéfinir les contours de notre humanité.

Aux origines de l’IA, la guerre des machines

Alan Turing et la guerre des machines

Chercher à définir l’intelligence artificielle nous plonge immédiatement dans une difficulté fondamentale. Comprendre ce qu’est l’intelligence, puis en quoi elle pourrait être artificielle ou non, ouvre la voie à une exploration qui traverse de multiples disciplines et perspectives. Il n’est pas question d’éviter cette difficulté, évidemment, mais de s’assurer un point de départ assez solide. Alors, on pourrait par exemple dire que l’intelligence est une capacité cognitive, une capacité à s’adapter, ou encore, qu’elle dépend de qualités créatives, d’une compréhension émotionnelle ou d’une certaine sociabilité. Les différentes disciplines comme la psychologie cognitive, les neurosciences, la biologie, la sociologie, l’anthropologie, la philosophie — et il en manque certainement — auront toutes quelque chose à dire d’intéressant et d’utile sur l’intelligence, et à n’en pas douter, cela ne devrait pas cesser.

Mais au lieu d’imiter le baron de Münchhausen¹ sautant d’un boulet de canon à l’autre ou se tirant par les cheveux pour s’extraire, avec son cheval, d’un marécage, cherchons un point de départ beaucoup plus simple et moins marécageux.

Reportons-nous pour cela au projet initial afin d’en comprendre les premières intentions. C’est d’abord à Alan Mathison Turing² qu’il faut se référer. Il est mathématicien, logicien, cryptanalyste et informaticien britannique de génie et l’un des principaux initiateurs de l’intelligence artificielle et des premiers ordinateurs. Il travaillait à Bletchley Park, le centre britannique de décryptage pendant la Seconde Guerre mondiale, et fut à l’initiative de la « bombe » anglaise, une machine électromécanique qui a permis de déchiffrer les messages codés par la machine allemande Enigma. Cette machine de cryptage était très compliquée, la plus difficile de toutes. Casser le mystère de cette machine inventée dans les années 1920 en Allemagne, et initialement destinée au secteur privé puis militaire, fait l’objet d’un véritable défi que seuls les Polonais avaient décidé de relever dans les années 1930. Les mathématiciens polonais Marian Rejewski, Jerzy Różycki, et Henryk Zygalski, travaillant pour le bureau de chiffrement (Biuro Szyfrów) en Pologne, réalisèrent des avancées majeures dans le décryptage d’Enigma. En 1938, Marian Rejewski conçut une machine qu’il appela la « bomba kryptologiczna » (bombe cryptologique). En 1939, peu avant l’invasion de la Pologne par l’Allemagne, les Polonais partagèrent leurs découvertes avec les services secrets britanniques et français.

À son arrivée à Bletchley Park, en 1939, Alan Turing ne s’inspire pas seulement de la « bombe » polonaise mise au point par les cryptanalystes de Varsovie. Il bénéficiera par la suite d’éléments décisifs saisis sur les sous-marins allemands U-110 (mai 1941), puis U-559³ (octobre 1942), notamment des carnets de codes et des réglages de la machine Enigma.

La bombe contre Enigma : la machine contre la machine

Alan Turing décide, dès son arrivée, de créer une nouvelle machine avec pour idée première que seule une machine peut battre une machine de la complexité d’Enigma. C’est l’une des idées de départ fondamentales d’Alan Turing. Une intelligence humaine ne peut pas rivaliser. À un problème technique, la solution est technique. Il faut créer une machine pour en battre une autre. Avec Enigma, le volume de combinaisons est tel qu’aucun être humain, seul ou à plusieurs, ne pourra en venir à bout. En 1939, à l’arrivée de Turing, l’équipe était composée de 150 personnes avec des linguistes, des mathématiciens, des cruciverbistes, des joueurs d’échecs, des spécialistes de la communication et des services secrets. L’équipe sera composée de 8 995 personnes à la fin de la guerre.

Inspirée de la machine polonaise, la machine de décryptage d’Alan Turing peut tester des combinaisons en grand nombre et beaucoup plus vite que les précédentes. Le temps ici est aussi un facteur essentiel, car l’Enigma allemande était réinitialisée tous les jours à minuit, ce qui obligeait les équipes à repartir de zéro chaque jour. La vitesse de calcul était donc essentielle à la réussite du décryptage. La machine d’Alan Turing était de grande taille : 2 mètres de long, 2 mètres de haut et 1 mètre de large. Elle simulait les codes d’une Enigma classique (cryptage de l’aérien et du terrestre) et était composée de 36 tambours rotatifs constitués eux-mêmes de 3 rotors sur la façade. Chacune des « bombes » pouvait simuler des milliers de combinaisons par seconde selon des paramètres préalables, les cribs⁴, qui étaient entrés comme hypothèses de départ. Pour faire tourner une telle machine, il fallait beaucoup de personnel. La « bombe » était fragile et tombait régulièrement en panne. Il fallait aussi, pour l’initialiser, brancher des centaines de prises de courant pour tester les combinaisons de chiffres et de lettres. Elle était également très bruyante.

Le raisonnement ou « intelligence » de cette machine est considéré essentiellement sur le plan de la puissance, de la vitesse, du calcul et de la combinatoire.

Notes

1. Rudolf Erich Raspe, Les aventures merveilleuses du baron de Münchhausen, 1785.

2. Alan Mathison Turing est né en 1912 à Londres et mort en 1954 à Wilmslow. En 1952, Turing a été poursuivi en justice pour homosexualité, alors illégale au Royaume-Uni, puis condamné à une castration chimique, ce qui a gravement affecté sa santé et son bien-être. Il est mort à l’âge de 41 ans, vraisemblablement par suicide (empoisonnement au cyanure), bien que certaines théories suggèrent un accident. En 2009, le Premier ministre britannique Gordon Brown a présenté des excuses publiques pour le traitement infligé à Turing et en 2013, la reine Élisabeth II lui a accordé une grâce royale. Avant Turing, nous devons aussi mentionner le nom d’Ada Lovelace. Elle a travaillé en étroite collaboration avec le mathématicien britannique Charles Babbage sur la machine analytique. Cette machine, ancêtre de l’ordinateur, avait pour objectif de calculer les nombres de Bernoulli. C’est elle qui effectue un premier pas vers la programmation informatique. Elle décède en 1852, bien avant la naissance d’Alan Turing, né en 1912. C’était aussi la fille de Lord Byron, célèbre poète romantique anglais qu’elle n’a pas connu.

3. Le U-559 endommagé par les attaques alliées a été contraint de faire surface en Méditerranée, au nord-est de Port-Saïd (Égypte). Son équipage a tenté de le saborder pour éviter la capture d’informations confidentielles. Le lieutenant Tony Fasson, le marin Colin Grazier de la Navy, réussirent à pénétrer à bord et à voler les précieuses informations au prix de leur vie. C’est le jeune Tommy Brown de 16 ans (canonnier) qui, resté à l’extérieur du sous-marin, a pu transporter les documents à bord du navire britannique HMS Petard.

4. En cryptanalyse, un crib désigne un passage supposé du texte en clair qui aide à casser un chiffre, une méthode de chiffrement.

Vincent Bouillon, Machinerie ou machination ?, chapitre I « Origines et illusions de l’intelligence artificielle », p. 15–18. © FYP éditions, 2025.

Le Turc mécanique n’a pas disparu

En 1770, un automate vêtu à l’orientale bat Napoléon aux échecs. Il n’y a pas de machine : un maître d’échecs est caché à l’intérieur. Vincent Bouillon montre que l’intelligence artificielle repose sur la même illusion — et que les hommes dissimulés dans la boîte s’appellent désormais « travailleurs du clic ».

Le Turc mécanique fit sensation en 1770. Conçu par Wolfgang von Kempelen, cet automate vêtu à l’orientale était présenté comme une machine capable de jouer aux échecs contre n’importe quel adversaire humain. Il était même ouvert avant les parties pour dévoiler ses rouages internes, renforçant l’illusion d’un automate parfaitement autonome. Une légende raconte qu’en 1809, le Turc aurait affronté Napoléon Bonaparte. L’Empereur aurait joué un coup irrégulier, l’automate l’aurait corrigé avant de finalement remporter la partie.

Mais ce chef-d’œuvre de mécanique n’était en réalité qu’un habile canular. Derrière l’illusion se cachait un maître d’échecs bien réel, dissimulé à l’intérieur de l’appareil et manipulant les mouvements du « joueur ». Cette duperie, qui resta longtemps secrète, ne fut entièrement révélée qu’après 1854.

L’intelligence artificielle est aujourd’hui capable de remplacer intégralement notre automate : ce qui n’était qu’un artifice chez Mälzel est devenu réalité. Mais peut-être vivons-nous une nouvelle forme de fascination — celle d’une IA générale pleine de promesses. Et, bientôt, verrons-nous émerger de nouveaux maîtres du récit — figures charismatiques, experts médiatiques, idoles technologiques — capables d’orienter nos perceptions à leur tour.

Car lorsqu’on apprend à une IA en mode supervisé, on lui donne une image de chat, par exemple, et on attend la réponse du système. On corrige si cette dernière est fausse. C’est ce que l’on fait sur les captchas pour l’entraînement — c’est aussi ici que réapparaissent ce que Vincent Bouillon nomme « les travailleurs du clic ». Si un chat est présent dans une image, il faut délimiter la zone qu’il occupe. Ce mode supervisé se fait pour partie par un humain. Il faut pour cela un très grand nombre d’images analysées : quelques dizaines de milliers, dans différents environnements, sous différents angles, avec différentes espèces. Chaque image est étiquetée : chat ou autre.

C’est le même principe qu’en 1770. La machine impressionne. L’humain est dedans. Il est seulement moins bien payé.

Aux échecs, une situation tactique bien connue résume parfaitement le moment que nous traversons : le zugzwang. Il faut jouer, il faut avancer, mais chaque coup semble empirer la position. Rien n’est encore perdu, mais l’espace de manœuvre se réduit. Cette tension stratégique décrit avec justesse notre rapport contemporain à l’intelligence artificielle.

Vincent Bouillon, Machinerie ou machination ? — La fabrique du mythe de l’intelligence artificielle, préface de Luc Julia (co-créateur de Siri), FYP éditions, 2025.