Nicolas Spatola

Ce que l’IA fait de nous — extrait

Et si l’IA était parfaite ?

Plus d’erreurs, plus de biais, plus d’intérêts commerciaux. Nicolas Spatola imagine cette machine idéale et pose la question de ce qu’elle ferait de nous.

Dans l’introduction, Nicolas Spatola propose une expérience de pensée qui donne au livre son point de départ.

Ce livre part d’une hypothèse simple, mais qui change tout. Imaginons un système d’IA techniquement irréprochable. Aucun biais, aucune erreur, accessible à tous, sans agenda commercial ni propriétaire particulier, fonctionnant avec l’énergie magique de Poudlard. Un outil qui fait exactement ce qu’on lui demande, parfaitement, à chaque fois. Dans ce scénario, aurait-on résolu nos questions sur l’IA ?

Vous sentez bien que quelque chose cloche. Cette perfection technique laisserait intact un vide immense. Les questions de délégation cognitive : que fait-on de notre capacité à penser, mémoriser, juger, créer, quand une machine peut le faire mieux que nous ? Les questions collectives : que devient un groupe, une organisation, une culture, quand un même système d’IA est intégré dans les processus de décision de millions de personnes ? Les questions politiques : qui décide de ce que cette machine optimise, au profit de qui, selon quelles valeurs, avec quelles possibilités de contestation ? Ces questions ne disparaissent pas avec une meilleure IA. Elles apparaissent plus clairement.

Toutes ces questions peuvent être posées, mais elles le sont rarement, voire jamais, dans un cadre systémique et holistique qui relie le niveau des individus à celui des sociétés en un même ensemble réflexif.

Les débats dominants regardent dans une direction : la machine. Ses biais, sa transparence, sa régulation. Mais corriger un biais suppose qu’il existe une version neutre ou adaptable : une représentation du monde que le calcul n’aurait qu’à retrouver. Or un algorithme, aussi parfait soit-il, cristallise dans son code et dans ses usages une vision du monde culturellement située dès sa conception. Et lorsqu’on parle de « performance » face à laquelle il faudrait trouver du « sens », on a déjà accepté le cadre. On parle ainsi de révolution, de tsunami, de train en marche, où nous ne sommes plus des actants, mais des accompagnateurs d’un mouvement, dont les conséquences deviennent impensables depuis l’intérieur même de ce cadre. Quant à l’humain qu’on prétend remettre au centre, on se trouve devant une abstraction idéaliste d’une entité unifiée qui piloterait ses machines depuis un poste de commande universel. C’est peut-être le concept le plus étrange à penser, car ce que l’on nomme « humain » dans ce cadre est en réalité une multiplicité de sujets inégalement situés, inégalement exposés, inégalement capables de nommer ce qui leur arrive. Ces trois présupposés, que je retiens parce qu’ils reviennent sans cesse dans les discours, partagent une même limite : maintenir la machine comme sujet, et nous comme simples gestionnaires. Or ces prismes de lecture nous en apprennent peut-être moins sur les outils que sur notre rapport à nous-mêmes. Cet apprentissage est d’autant plus profond que des contradictions traversent la manière même dont nous pensons collectivement ces outils. Ces contradictions nourrissent des visions qui vont de la dystopie eschatologique à la félicité d’un bond civilisationnel progressiste, sans jamais s’interroger sur ce que ces deux postures partagent.

Nicolas Spatola, Ce que l’IA fait de nous, extrait de l’introduction, FYP Éditions.