Le 27 novembre 2020, le scientifique Mohsen Fakhrizadeh, est assassiné à l’aide d’un robot piloté par satellite. Selon un article du New York Times, il s’agirait d’un robot tueur doté d’une IA capable de reconnaître le visage de la cible et d’assister le tir avec précision de façon autonome. Si le Ministère des Affaires étrangères iranien a toutefois contredit les affirmations du NYT, il paraît légitime de se demander si un jour des robots menaçants pourraient prendre le contrôle pour dépasser l’humanité.
Le mythe du Golem : un mythe fécond qui perdure encore
La légende hébraïque raconte qu’un homme, le rabbi Loew de Prague, aurait fabriqué de ses mains un golem à partir d’argile. Il pensait ainsi pouvoir permettre à sa communauté de se défendre contre ses ennemis. La créature prit des allures humanoïdes et le rabbi écrivit sur son front emet, « vérité » en hébreu. Au début, le golem se montra bon et serviable. Il aida son créateur en exécutant ses ordres. Puis, fort de son libre-arbitre, le golem commença par ne plus répondre à toutes les demandes de son créateur, jusqu’à agir à l’encontre de sa volonté. Le rabbi fût effrayé et trouva un moyen de le supprimer. Il effaça la première lettre de son front et Emet devint met qui signifie « mort ». Le golem s’évanouit pour redevenir l’argile informe qu’il était au départ.
Ce mythe inspire encore aujourd’hui de nombreuses œuvres mettant en scène des créatures artificielles qui échappent au contrôle de l’homme dans le but de dévaster l’humanité. A l’image du rabbi, l’humain finit toujours par gagner en détruisant ces êtres devenus destructeurs.
En quoi ce mythe peut nous aider à mieux comprendre les rapports de l’homme à la cybernétique ?
Il y a environ 3 millions d’années, nos ancêtres ont commencé à utiliser des outils. Homo sapiens est devenu au fil de l’évolution homo faber, un animal fabricateur, triomphant de la matière grâce à son intelligence en se faisant assister par des outils. Il les utilise comme des moyens de parvenir à des fins inaccessibles à la simple condition humaine. L’exemple de la fusée permettant d’aller dans l’espace est tout à fait parlant.
Selon Bergson, « l’intelligence […] est la faculté de fabriquer les objets artificiels, en particulier des outils à faire des outils, et d’en varier indéfiniment la fabrication ». Cela signifie que l’homme se sert de supplétifs pour pallier les limites de sa condition, en acceptant par-là même la potentialité qu’il se fasse en réalité dépasser par ses propres créations. En fabriquant des « outils à faire des outils », ses créations pourraient être capables d’arriver à leurs fins en utilisant leurs propres moyens. En cela, des machines automatisées pourraient, avec les nouvelles avancées cybernétiques, être suffisamment autonomes pour dépasser à leur tour leur propre condition matérielle et donc leurs créateurs.
La peur des robots est-elle justifiée en ce sens qu’ils sont capables de dépasser l’homme ?
Norbert Wiener, généralement considéré comme le père de la cybernétique, fait un rapprochement intéressant entre le golem et l’ordinateur. A l’instar du géant d’argile, l’ordinateur est inachevé, possède une capacité de décision, est dénué de parole, son but est d’assister ou défendre son créateur et pour finir, on essaye de lui attribuer un côté humanoïde.
La peur envers la robotique serait ainsi en partie due à la menace d’un dépassement incontrôlé, conditionné par l’incertitude liée aux facultés des robots. Il est impossible d’imaginer une limite dans les progrès réalisés quant à leur fabrication. Or, l’humain a horreur de l’incertitude. Cela peut se traduire par un sentiment d’angoisse, alors même que l’objet de ses craintes ne s’est pas encore produit.
Dans le domaine de la transformation digitale, et plus particulièrement de l’automatisation robotisée des processus (RPA : Robotic process automation), il existe un certain degré de différence technique entre robots cybernétiques et robots logiciels, malgré l’identité terminologique. Néanmoins, avec l’intégration de plus en plus avancée d’algorithmes d’intelligence artificielle (cf. le concept d’hyperautomatisation), les robots logiciels sont amenés à prendre de plus en plus de décisions de façon autonome. D’un ordinateur peuvent naître des « comportements » appropriés ou inappropriés. Pourtant, contrairement au golem, rien n’indique que ceux-ci soient motivés par une volonté ou des choix effectués en conscience. Les décisions prises par les ordinateurs résultent de calculs précis entre diverses possibilités. Il serait donc sûrement plus judicieux de parler de danger lié à des dysfonctionnements engendrant des comportements inappropriés plutôt que de robots qui se retourneraient volontairement contre leurs créateurs pour décimer l’humanité.
La peur des robots présente ainsi de multiples origines ; la crainte est notamment générée par l’incertitude des utilisateurs, mais parfois aussi des créateurs, quant aux capacités réelles de ces créatures logicielles. Il serait donc intéressant de repenser nos rapports aux robots, non pas sous le signe de la menace et donc d’un rapport vertical de domination de l’un sur l’autre, mais plutôt sous celui de la coopération.
A propos de StoryShaper :
StoryShaper est une start-up innovante qui accompagne ses clients dans la définition de leur stratégie digitale et le développement de solutions d’automatisation sur-mesure.
Sources : StoryShaper, New York Times, Wikipedia, Bergson (L’évolution créatrice), Norbert Wiener (God & Golem Inc.), Nature
