Un concepteur de l’IA alerte depuis l’intérieur : nous sommes en train de céder notre intelligence à la machine — et nous y prenons goût.
23,50 €
Ce réflexe, devenu aussi naturel que la respiration, n’est pas anodin. Ce n’est pas un détail de confort quotidien. C’est le symptôme visible d’une mutation silencieuse et profonde : nous avons renoncé à chercher par nous-mêmes. Nous avons commencé à demander. Nous avons délégué à l’algorithme notre jugement, à la machine notre mémoire, à l’oracle numérique notre faculté de douter.
Mastafa Foufa appelle ce phénomène la colonisation par le probable. Et il est singulièrement bien placé pour en parler : Senior Applied Scientist chez Microsoft à Redmond, spécialiste de l’apprentissage automatique et du traitement du langage naturel, titulaire de six brevets industriels, il construit chaque jour les systèmes qu’il décrit. Ce n’est pas un technophobe de salon ni un philosophe observant la vague numérique depuis la plage. C’est un homme de la technique qui lance une alerte depuis la salle des machines.
Son diagnostic est chirurgicalement précis. Les grands modèles de langage ne pensent pas — ils modélisent statistiquement la plausibilité. Ils ne comprennent pas — ils prédisent le mot suivant avec une précision mathématique vertigineuse. Mais leur syntaxe est si fluide, leur assurance si confondante, que nous avons cessé de distinguer la réponse probable de la réponse vraie. Nous sommes devenus, selon sa formule saisissante, des îles de langage biologiques — capables de valider sans vérifier, de répéter sans comprendre, de répondre sans penser.
La paresse de penser retrace la généalogie de cette abdication intellectuelle — de l’effet gourou à la fabrique de la certitude, de la dictature de la décimale à l’atrophie de l’intention — et propose huit cas de terrain concrets pour en sortir. Non pas en rejetant la technologie, mais en refusant la délégation aveugle : en redevenant les chefs d’orchestre d’outils qui, sans pilotage humain exigeant, ne sont que la mise en forme lissée du bruit statistique du monde.
Préfacé par Luc Julia, co-créateur de Siri, qui écrit : « Lire La paresse de penser, c’est refuser de s’agenouiller devant un oracle numérique. »
Préface — Luc Julia, co-créateur de Siri
Luc Julia est co-créateur de Siri et auteur de référence sur l’intelligence artificielle. Il a accepté de préfacer La paresse de penser de Mastafa Foufa — chercheur chez Microsoft à Redmond, spécialiste du machine learning et du traitement du langage naturel.
« Le véritable danger n’a donc jamais été que la machine devienne soudainement intelligente ou qu’elle décide de prendre le pouvoir. Le péril, c’est que, fascinés par l’illusion de cette force brute, ce soit nous qui cessions d’être intelligents. »
« Quand Mastafa Foufa dénonce le risque de nous voir transformés en simples îles de langage biologiques, il frappe chirurgicalement juste. Lire La paresse de penser, c’est refuser de s’agenouiller devant un oracle numérique. »
Extrait — Introduction
Mastafa Foufa est Senior Applied Scientist chez Microsoft à Redmond. Il a enseigné l’intelligence artificielle à l’EPITA avant de rejoindre l’industrie aux États-Unis. Ses travaux ont abouti à six brevets déposés. Dans La paresse de penser, il pose son diagnostic depuis l’intérieur même de la salle des machines.
Quelle a été la dernière fois que vous avez eu un doute — et que vous n’avez pas sorti votre téléphone ?
Cette simple question contient tout le drame de ce livre. Ce réflexe, devenu aussi naturel que la respiration, n’est pas anodin. C’est le symptôme d’une mutation profonde de notre esprit. Nous avons arrêté de chercher. Nous avons commencé à demander. Nous avons cessé de débattre avec nous-mêmes pour accepter la première réponse venue, pour peu qu’elle soit instantanée et bien formulée.
Nous sommes devenus accros au confort. Et ce confort a un nom : la paresse de penser. Nous avons tous en poche un oracle capable de répondre à tout. Et nous avons commencé à le prendre pour un dieu.
Je suis bien placé pour le savoir : mon métier consiste précisément à évaluer et façonner notre interaction avec cet oracle. Mon parcours m’a placé dans les coulisses de cette révolution. En France, j’ai d’abord enseigné les rouages de l’intelligence artificielle aux futurs ingénieurs de l’EPITA, mû par la conviction qu’il était déjà vital de démystifier ces systèmes. Aujourd’hui, mon métier d’évaluation et d’audit des architectures de pointe aux États-Unis m’offre un poste d’observation inédit.
Loin du mythe de la boîte noire magique, mon quotidien d’ingénieur consiste à traquer les limites de l’algorithme. En concevant les modèles qui évaluent et mesurent la véritable intelligence de ces systèmes, j’analyse intimement la manière dont nous les interrogeons. Je décortique nos requêtes pour isoler ce point de rupture fascinant où la machine cesse de comprendre et s’effondre. C’est depuis cette ligne de faille, à la frontière exacte entre l’humain et l’artificiel, que je pose ce diagnostic.
Depuis les États-Unis, j’assiste à une accélération dont l’Europe n’imagine pas encore la brutalité. Les habitudes mutent, l’effort mental est délégué et l’esprit critique s’émousse. Je vois cette lame de fond se former au loin, et je sais qu’elle finira par déferler sur les rues de Nîmes où j’ai grandi.
L’intelligence artificielle nous pousse à céder notre bien le plus précieux : notre jugement. Nous confions nos doutes à des systèmes dont la prose, si fluide et séduisante, désarme notre vigilance. Nous endormons notre pensée dans une nouvelle forme de servitude volontaire. Ainsi s’ouvre l’ère de la certitude fabriquée et de l’erreur confortable.
Ne vous y trompez pas : ces pages ne sont pas un réquisitoire contre le progrès. Je ne cherche pas à briser la machine, mais à éveiller l’homme.
Mastafa Foufa, La paresse de penser — Pourquoi nous laissons l’IA décider à notre place, préface de Luc Julia, FYP éditions, 23,50 €.
Mastafa Foufa — préface de Luc Julia — FYP éditions — 23,50 €. Prix de lancement exclusif : 20 € au lieu de 23,50 € · sur fypeditions.com uniquement · livraison immédiate.