A propos de AI and the future of human judgement de David Holford

L’intelligence artificielle constitue un phénomène ancien qui connaît un regain d’intérêt depuis quelques années à la faveur de plusieurs évolutions techniques, économiques et sociales.

Une partie de la littérature spécialisée présente des possibilités de traitement de l’information de manière souvent très désincarnée et se présente sous des traits supposés immatériels, ce qui constitue un abus de langage puisque l’information traitée avec des machines et transmise via Internet utilise justement de puissantes machines (serveurs informatiques, bases de données, câbles et fibres optiques, …) qui sont bien matérielles.

La réflexion de David Holford s’inscrit dans une perspective critique (ouvrir la « boîte noire » de ces algorithmes, explorer le choix de la représentation rationnelle), mais aussi selon un aspect plus incarné : la matière vivante. On rencontre finalement rarement des analyses portant sur les sens, le corps, l’expérience et sa part de tâtonnement. Le séminaire précédent animé par Myrtille PICAUD (https://3t.hypotheses.org/99) nous montrait les limites de la mise en œuvre des dispositifs numériques de surveillance et de prévention de la délinquance au sein de grandes villes françaises. Dans chacun des séminaires, on vient rappeler qu’un système technique est avant tout un système sociotechnique, ce qui est une manière de sortir du débat très binaire et finalement stérile opposant techno-optimistes et techno-pessimistes. Ce qu’Andrew Feenberg a résumé avec une phrase : « une fois introduite, la technique offre une validation matérielle de l’ordre social qui l’a préalablement formée » (Pour une théorie critique de la technique, Ed Lux, 2014, p. 63).

Il est toujours opportun de faire référence au mystère de la chambre chinoise imaginé par John Searle pour mettre en perspective les capacités de l’intelligence artificielle. Le philosophe avait conçu une chambre équipée d’un système très simple de mise en relation de différents idéogrammes chinois. A l’intérieur un individu pouvait consulter le système de correspondance de ces idéogrammes afin de saisir des questions en entrée et de proposer des réponses en sortie. Etant donné que les personnes situées à l’extérieur de la chambre ne pouvaient observer les manipulations à l’intérieur, elles étaient portées à penser que l’opérateur maîtrisait le mandarin, ce qui n’était pas le cas. Cette expérience peut nous alerter sur la différence essentielle entre signe et symbole. A l’intérieur de la chambre chinoise, l’opérateur manipule des signes et non des symboles, il réalise des correspondances entre des questions et des réponses à partir d’un grand catalogue de signes. Partant, on peut avancer que l’intelligence artificielle, en tout cas dans sa version « traitement algorithmique »[1], ne fait que cela avec des volumes d’informations très importants à des vitesses insoupçonnées pour les humains : alors que l’information circule dans les nerfs humains à la vitesse de 50 mètres par seconde, elle le fait à l’allure de 200 millions de mètres par seconde au travers des fibres optiques des machines les plus rapides.

Ce traitement algorithmique est devenu possible à partir de signes qui présentent une variété d’interprétation très réduite. La même chose n’est pas possible avec des symboles. La raison a été présentée par de nombreux auteurs dont le sociologue Harry Collins. Les machines créées par les humains ont essentiellement pour but de réaliser des comportements, autrement dit des suites parfois complexes d’opérations ou de tâches selon des suites logiques. Ce qui caractérise ces comportements réside dans l’absence d’intentionnalité au contraire de l’action humaine qui prend naissance avec une intention. C’est, par exemple, la différence entre un clin d’œil, qui est au service de l’intention de signifier un accord ou des avances sexuellement suggestives, et le clignement des yeux qui est un simple élément de comportement sans action sous-jacente. L’action humaine se développe avec des signes mais aussi à l’aide de symboles, et selon Collins, « ce ne sont pas les symboles en eux-mêmes qui préservent et transportent du sens. Dès que nous prêtons attention à la manière dont nous interagissons avec des symboles, ils apparaissent bien plus ambigus et bien moins stables. Leur stabilité ressortit tout au plus à la manière dont nous les traitons » (Harry Collins, Experts artificiels. Machines intelligentes et savoir social, 1992, Editions du Seuil, p. 43).

David Holford insiste sur la nécessité de préserver le contrôle humain dans toutes les activités qui associent des machines. Il s’agit de préserver l’autorité et les capacités des au sein des systèmes techniques. La question des capacités est particulièrement fertile.

On comprend bien les manquements de la capacité artificielle et la richesse de la capacité humaine faite d’expérience, d’intuition et de création potentielle. Mais comment associer capacités humaines et capacités des machines au sein de missions qui demeurent efficaces, compatibles et finalement désirables ? Humains et machines relèvent de deux mouvements liés (ce qui nous renvoie au 3ème séminaire animé par Anne Alombert) mais aussi de deux paradigmes différents. La question est particulièrement sensible, elle est présentée, de manière très maladroite, sous la forme de l’incapacité humaine face aux machines. De manière à notre sens davantage pertinente nous énoncerons : comment disposer d’une prise émotionnelle et d’un savoir vis-à-vis d’une compétence artificielle particulièrement rapide et machinale que nous ne comprenons pas ?

On peut citer à cet égard le cas de Facebook files devenu tellement complexe qu’il échappe à la maîtrise des ingénieurs mêmes qui l’ont développé. Le contrôle humain est-il encore possible ? Ne lui échappe-t-il pas dès lors qu’une machine intervient (compile des données au-delà de la capacité du cerveau humain) ?

L’humain permet de recontextualiser la technique qu’il a créée, l’engagement au monde de l’homme lui provient d’une immersion dans un contexte à portée de main, mais précisément, ce contexte ne semble plus à portée de main. Les émotions paraissent mises hors-jeu, l’immersion incarnée impossible, y compris pourleurs concepteurs. Nous demandons ainsi à David Holford que signifie adopter un design centré sur l’humain ? Comment l’humain peut-il décider, comment la non-représentation (N.Thrift) / la phénoménologie peut-elle être programmée dans une machine ? Ou permise par des collaborations ?

Dans cette perspective, nous proposons d’orienter le regard vers ce que font les artistes avec l’IA. Cela consiste à explorer les modes de pénétration de l’IA dans l’art.

Les institutions se sont largement ouvertes aux travaux d’artistes travaillant avec l’IA : le Grand Palais avec « Artistes et robots » en 2018, le Centre Pompidou avec « Neurones, les intelligences simulées » en 2020. Nous ne faisons pas référence au deep learning, non plus au robot qui va reproduire les gestes de Pablo Picasso.

Nous souhaitons plutôt envisager ce que l’esthétique et la sensibilité artistique peuvent ici apporter. L’an dernier le britannique Ed Atkins a créé un ensemble complexe d’œuvres qui examinent la relation entre le corporel et le numérique, l’ordinaire et l’étrange, par le biais d’animations haute définition générées par ordinateur, d’environnements théâtraux et de montages sonores. Atkins traque les formes de sentiment, de vie et de communication cachées ou limitées par la représentation technologique, et déploie tout ceci en récits sensibles et souvent sombres. Son dernier projet se concentre sur la manière dont les corps et les technologies sont entrelacés, notamment dans le domaine de la communication numérique.

N’y aurait-il pas des éléments à aller chercher en réponse aux questions posées ?

Atkins s’intéresse à l’éthique de la vie humaine, à l’évolution de la notion d’identité, à la nécessité de réaliser l’importance de la vie, au fait aussi que nous sommes tous uniques et, en même temps, liés les uns aux autres.

Sans doute faut-il nous interroger à propos de nos encastrements et de manière générique sur l’encastrement. Sans doute aussi faudrait-il faire un pas de côté pour s’éloigner des systèmes industriels qui sont des terrains souvent assez « froids » de la littérature sur l’IA.

En complément, citons l’œuvre de l’artiste français Pierre Huyghe qui capture l’activité cérébrale de personnes et a nourri une intelligence artificielle de ces pensées humaines et les met en scène visuellement. Une voix de synthèse lit des rêves générés à partir d’une base de données de 15.000 songes. En dehors de ce langage esthétique la machine peut être un partenaire pour l’artiste qui voudrait mettre en lumière, voire dénoncer, des dérives sociétales. On peut ainsi déconstruire l’illusion de machines qui prennent le pouvoir, mais on donne à voir les pouvoirs qui s’emparent des machines.

Enfin il faut envisager la question des enjeux politiques et sociaux.

Avec l’IA, se devinent des rapports de force plus ou moins aigus à l’ancienneté également plus ou moins affirmée. Les forces organisationnelles, les pouvoirs d’influence façonnent l’application de la technologie. Si le travail ne disparaît pas à l’ère de l’IA, loin du fantasme selon lequel les robots en viendraient à remplacer les machines, les emplois les plus mal rémunérés vont très certainement proliférer. Il est alors important de comprendre les jeux organisationnels que les géants de l’intelligence artificielle suscitent.

Comment pourrions-nous faire confiance à des systèmes à qui nous allons confier nos vies, par exemple pour la conduite de nos véhicules ou le diagnostic d’une maladie grave, si nous ne les comprenons pas ? Et, plus largement, le devenir de nos sociétés par les informations qui circulent, les idées politiques qui se propagent, les discriminations qui s’y cachent ?

Alors que le rôle du réseau social dans la propagation de contenus dangereux et de fake news inquiète, l’incapacité de ses ingénieurs, parmi les meilleurs au monde dans leur domaine, à comprendre le fonctionnement de leur création interpelle.

Alors il faut sans doute aucun, inciter fortement la communauté scientifique à s’engager dans des préoccupations amples et précises de justice sociale autour de l’intelligence artificielle.

Documents visionnés en séance

Vidéo « The truth about relativity »

The comparison with the context is essential

VidéoL’expérience d’Elliott-Damasio (1994/2010)

Margot Leclair

Claude Paraponaris

Aix Marseille Université, LEST CNRS, séminaire 3t.


[1] – « Ce qu’on nomme machine learning est une partie du champ d’étude qu’on appelle de manière généraliste et souvent galvaudée l’Intelligence Artificielle : l’idée générale est de distinguer algorithme et machine learning. Dans le cas de l’algorithme, il s’agit d’une suite d’instructions données à la machine pour qu’elle exécute des tâches. Cela suppose que le programmeur connaît toutes les étapes du processus et s’en tient à une méthode unique et préconçue de résolution de problème. Le machine learning est un apprentissage autonome de la machine par lequel elle va apprendre des processus pour résoudre des problèmes, y compris des problèmes nouveaux. Il s’agit d’apprentissage automatique ou d’apprentissage statistique : les comportements de la machine deviennent complexes à traduire et même à recenser. On confie alors à des algorithme le traitement (probabiliste) des tâches pour les rendre opérationnelles. Au sens strict on ne parle donc pas d’Intelligence Artificielle lorsqu’on parle d’une machine comme si elle avait une capacité d’initiative et disposerait donc d’une forme d’intelligence (sauf dans les films de science-fiction). On parle d’apprentissage automatique » (Masutti, Christophe (2020) Affaires privées. Aux sources du capitalisme de surveillance, C&F éditions, p. 36).


Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.