GRINBAUM, Alexei, Les robots et le mal, Paris, Desclée de Brouwer, coll. Essais-Documents, 2019.

Alors que les programmeurs s’acharnent à créer une machine angélique qui ne répandrait que le bien au sein de la « cité numérique », Alexei Grinbaum se demande comment extirper les individus numériques des griffes du bien et du mal, afin qu’ils ne deviennent pas les nouveaux « agents moraux ». En effet, la morale est propre à l’humain, le fruit de son intelligence et de son discernement ce dont n’est pas (encore) capable l’intelligence artificielle.

Selon ce physicien et philosophe, l’éthique de l’intelligence artificielle réside dans le hasard, un concept auquel l’humain accorde une confiance aveugle. En effet le hasard est un concept auquel nous nous référons lorsque la prise d’une décision nous met dans une situation d’injustice. Nous lui accordons donc notre confiance afin d’effectuer un choix en toute objectivité.

Une fois quelques cas concrets relatés — l’accident mortel provoqué par une voiture autonome en 2017 dans l’Arizona, l’intervention salvatrice de l’assistant domestique Google Home dans une dispute conjugale en 2017 au États-Unis¹ …— Alexei Grinbaum utilise l’homologie pour établir des corrélations entre : éthique, mythe et religion — la fonction de Satan et celle des individus numériques, l’intemporalité du mythe et de l’éthique, la fonction du secret dans la technique et la religion² …— L’auteur interroge notre sacralisation de la technique pour définir la nature même de l’individu numérique et sa relation aux humains de la « cité numérique ». Après avoir défendu l’importance paradoxale du fonctionnement opaque des machines dans la mesure où il est nécessaire que l’utilisateur ne sache pas tout du fonctionnement des machines pour leur accorder sa confiance³, le philosophe fait l’apologie du hasard dans les situations où l’IA est confrontée à un problème éthique et interroge la responsabilité juridique de l’individu numérique dans ses choix. C’est ainsi qu’il montre qu’une part d’obscurité subsiste dans la considération de l’individu numérique par les lois⁴. En réponse, il termine son argumentation par la méthode « métanumérique » qui détermine les valeurs intrinsèques à la machine, libérée de tout anthropomorphisme. Nous comprenons alors que pour s’extirper de toutes ces impasses entre éthique et individu numérique, il faut établir des concepts du bien et du mal propre à l’IA⁵.

Pour arriver à ses fins, Alexei Grinbaum s’appuie sur les concepts : d’homologie ; d’éthique ; de hasard ; de secret ; de bien et de mal ; de mimétisme ; de délation qui consiste à dénoncer des actes méprisables ; de métanumérique ; de responsabilité noxale qui consiste à être responsable des actes des personnes, objets ou êtres vivants sur lesquels on a le pouvoir dans la Rome antique.

Alexei Grinbaum semble interroger la responsabilité du designer dans la relation de confiance entre l’individu numérique et l’utilisateur, car le concepteur a indirectement la main sur le degré d’opacité du fonctionnement des machines lorsqu’il conçoit leurs interfaces. Par exemple le design est responsable de l’import du vocabulaire, des usages et de la compréhension du bureau réel dans l’ordinateur. Ces éléments fonctionnent comme des dispositifs au sens de Giorgio Agamben⁶, ils contraignent notre perception des individus numériques et inhibent notre libre arbitre vis à vis de leur utilisation. Étant donné qu’il n’y a pas d’extériorité possible à la technique comme l’affirme Bernard Stiegler⁷, il revient notamment au designer la responsabilité d’éclairer l’utilisateur sur le fonctionnement réel de ces dispositifs afin de les transformer en appareils comme le propose Anthony Masure⁸.

Karim ALLAIN, Master 2 « Design, Arts et Médias » Paris 1 Panthéon-Sorbonne, 2021-2022.