«Si l’intelligence artificielle continue de se développer à son rythme actuel, une singularité technologique pourrait se produire au milieu du siècle, avec le risque que nous soyons éclipsés par des entités dotées de capacités intellectuelles largement supérieures aux nôtres. À compter de cet événement, notre croissance technologique changera brusquement d’échelle, fruit d’une accélération inédite, et le progrès sera généré par ces entités non humaines ou posthumaines.
Cette idée à la fois inquiétante et fascinante fédère des ressources économiques considérables et alimente utopies, fantasmes et controverses.
Que nous croyions que la singularité est proche ou lointaine, probable ou impossible, qu’elle préfigure l’apocalypse ou l’avenir de l’humanité, cette idée qui soulève des questions cruciales nous oblige à réfléchir sérieusement au futur de l’humanité.
La singularité surviendra-t-elle un jour ? Si oui, en sommes-nous loin, ou tout proche ? Nos machines vont-elles devenir plus intelligentes et plus puissantes que nous ? Accéderons-nous à une forme d’immortalité en téléchargeant nos esprits sur des ordinateurs ?
 S’agit-il d’une prophétie autoréalisatrice ou d’un nouveau discours marketing du progrès ?
Murray Shanahan nous offre dans cet essai impartial un tour d’horizon complet et accessible pour comprendre la singularité technologique et découvrir tous les concepts qui s’y rattachent. Il décrit les progrès de l’IA et explique pourquoi la transition vers la superintelligence pourrait être très rapide. Il explore toutes les pistes technologiques qui peuvent y conduire, ainsi que les théories de Nick Bostrom, Eric Drexler, Ray Kurzweil, la théorie du grand filtre, etc. Et il analyse en profondeur toutes les questions technologiques, économiques, éthiques et sociétales qui en découlent.
Murray Shanahan montre que la singularité peut constituer à la fois une menace existentielle, mais aussi une opportunité pour l’humanité.
Ce livre n’est pas une œuvre de science-fiction. Ce n’est pas non plus un prétendu texte de futurologie. Il étudie tous les scenarii futurs possibles qui nous obligent à réfléchir à ce que nous voulons en tant qu’espèce. Car la délégation aux machines pilotées par l’intelligence artificielle de véritables tâches décisionnelles (conduire, élaborer un diagnostic médical, gérer un réseau de distribution d’énergie ou des forces de police, noter des copies d’examen, etc.) a déjà commencé. Et les progrès de l’IA sont fulgurants.
Sommaire :
Chapitre 1     Sur le chemin de l’intelligence artificielle
Chapitre 2    L’émulation du cerveau entier
Chapitre 3    Le génie de l’IA
Chapitre 4    Super-intelligence 
Chapitre 5     IA et conscience
Chapitre 6     Les incidences de l’IA
Chapitre 7     Enfer ou paradis