Domin. Attendez. On dirait que les canons de l’Ultimus sont braqués sur nous.
Dr Gall. Qui a fait ça ?
Domin. Les robots sur l’Ultimus.
Fabry. Dans ce cas-là… dans ce cas-là, c’est fini. Ces robots ont été entraînés pour la guerre.
[…]
Dr Gall. Tout ça à cause de la vieille Europe qui a utilisé les robots pour la guerre. Comme s’ils ne pouvaient pas nous ficher la paix avec leur politique ! C’est un crime d’avoir transformé nos robots en soldats.
Alquist. Le vrai crime, c’est d’avoir fabriqué des robots.
Karel ČAPEK, R.U.R Rossum’s Universal Robots [1]
Nous sommes en 1921, Karel Čapek présente pour la première fois R.U.R Rossum Universal Robots à Prague. Le succès est immense et la presse salue, à l’unanimité, un drame utopiste. L’auteur est en réalité un visionnaire qui, sous couvert de contes divertissants, avertit l’humanité sur « la poursuite aveugle de progrès techniques et de performances économiques au détriment de valeurs humaines[2] ». Un avertissement dont l’écho résonne aujourd’hui, à travers l’avènement des killer robots, des systèmes robotisés militaires autonomes. L’impression d’actualité suscitée par la pièce explique que nous ayons choisi un extrait de celle-ci pour introduire et illustrer nos propos. Un choix d’autant plus justifié que c’est cette même pièce qui, rappelons-le, a proposé un mot à l’époustouflante postérité : robot.
Que révèle donc cette scène ?
Tout d’abord que la littérature s’impose comme un formidable outil de réflexion. Elle identifie les problèmes, anticipe leurs évolutions, propose des solutions et inspire des réflexions juridiques. L’exemple le plus parlant est sans doute constitué par les célèbres lois d’Asimov, reprises systématiquement pour évoquer la modélisation du raisonnement juridique chez le robot ainsi que l’élaboration d’un code éthique et déontologique de la robotique. Ces supports littéraires (mais aussi artistiques) conditionnent en outre l’acceptation et l’intégration du robot dans notre société́. Wall-E et Terminator sont des personnages qui conditionnent inconsciemment notre perception de la robotique.
Cette scène révèle également que la grande versatilité et la polyvalence de la robotique exigent d’en mesurer les conséquences dans une approche globale. L’engouement suscité par la robotique civile doit être pondéré par les risques liés à la robotique militaire. La robotique est une technologie duale : les développements dans le domaine civil enrichissent également le domaine militaire. Et vice-versa.
Ensuite, elle rappelle aux industriels comme aux politiques le mythe prométhéen, alors même que nos sociétés s’engagent dans une autonomisation qui semble incoercible. En effet, la scène dévoile paradoxalement la prévalence et la place de l’homme et non, comme nous pourrions le penser, celle du robot. Cette scène témoigne du jugement que porte l’homme sur la créature qu’il avait pourtant pensée à son image. Le robot se présente comme le miroir d’une humanité, seule responsable de la programmation et de l’usage de cette machine. Nous avons besoin, maintenant, de rétablir une réflexion éthique, seule capable de redéfinir une ligne de conduite en nous questionnant sur nos finalités.
Enfin, cette scène nous oblige à penser la manière dont le droit doit et peut réguler cette technologie a priori afin de déterminer son rôle et sa place au sein d’un espace anthropologique. Le droit renoue ainsi avec sa nature essentiellement sociale et intervient, en l’espèce, comme un mécanisme de prévision des comportements et de prévention des différends dans sa pleine fonction régulatrice.
Tout le livre de Čapek vise au fond à nous faire réfléchir sur la nature du risque que nous souhaitons prendre en développant cette technologie. Sa bonne gestion suppose ainsi que le processus d’autonomisation de la robotique réponde à un double objectif : l’augmentation des capacités de l’être humain mais aussi – indissociablement – la préservation de l’espèce humaine. Concrètement, cela suppose de faire converger les raisonnements éthiques (pour déterminer la ligne de conduite), juridiques (pour déterminer le rôle et la place de cette technologie) et industriels (pour traduire ces différentes réflexions en éléments testables). Nous le percevons, cette idée de gestion de risque est omniprésente dans les débats sur la robotique à travers des notions de prédiction, de confiance, de contrôle et de responsabilité. En effet, comment garantir la confiance des utilisateurs, qui conditionne le bon fonctionnement du système ? La réussite de la robotique dépend de la réponse à cette question.
Avec les avancées en intelligence artificielle, nous participons à l’ancrage dans le réel de cette mise en scène. Cent ans plus tard… où en est-on ?
Les personnages de science-fiction sortent peu à peu des livres pour prendre vie dans notre quotidien : les drones téléopérés ont pris place dans les conflits armés, les systèmes robotisés terrestres automatisés surveillent nos territoires, les machines téléguidées évoluent sur des terrains de football, les voitures autonomes circulent sur nos routes… L’actualité démontre que l’autonomisation est en cours dans tous les domaines. Chacun de ces objets s’anime devant nous grâce aux progrès réalisés en IA et en mécanique.
La matérialité facilite la compréhension des enjeux liés à l’émergence de l’IA. Moins médiatisés que leur composant IA, ils ont pourtant des qualités pédagogiques certaines pour saisir les trois grands enjeux du développement et de l’incarnation de l’IA : société artificielle, homme augmenté, transhumanité. Chaque nouveau déplacement réalisé par une machine symbolise une étape franchie dans l’ère numérique. La figure robotique permet de saisir les enjeux de l’évolution technologique et participerait ainsi à l’émergence d’une société éclairée que les experts et les politiques appellent de leurs vœux.
En réalité, nous cohabitons avec les robots depuis des années puisque nous abusons de ce terme pour nommer tout objet qui fonctionne indépendamment d’une action humaine. Cette cohabitation permet d’éclairer la façon dont l’homme interagit avec les machines aujourd’hui, les mécanismes de dépendance mis en place et les limites du discours sur l’homme vigilant. La familiarité avec le robot favorise l’appréhension des impacts de l’IA.
Enfin, leur intelligence éclaire la vision que l’on souhaite porter pour l’avenir. Nous nous laissons séduire par leurs promesses de réactivité, d’agilité et d’adaptabilité, ce qui doit nous faire réagir sur nos propres capacités d’adaptation dans un environnement technologique. À travers sa proposition de satisfaire nos besoins et de surpasser nos limites physiques et cognitives, l’intelligence artificielle convoque les raisons d’être et de faire de notre propre intelligence humaine. Le développement d’une IA voué à s’incarner dans une machine questionne ainsi les limites de la fusion homme-machine. Où s’arrête la séduction des machines ? Doivent-elles prendre possession de notre corps et de notre esprit ? À quel moment, leur forme, leur présence et leurs capacités d’autonomie finissent-elles par rendre la relation homme-machines toxique pour l’homme ?
Au contact de la robotique, l’outil juridique a permis de structurer les premières réponses à cette question fondamentale. La réflexion autour de la robotique a permis de nourrir celle sur les problématiques propres à l’IA. Les notions de contrôle humain et de réglementation sur le risque viennent tout droit des premières réflexions sur les systèmes d’armes létales autonomes (SALA), la robotique civile et les drones. Il en va de même pour les notions d’autonomie et d’intelligence qui divisent en leur sens. La définition de l’autonomie comme un mode que l’homme active ou non en fonction des circonstances est inspirée de la robotique. L’obligation d’interopérabilité fut centrale dans le cadre des débats sur les essaims de drones. L’utilisation des premiers drones a rapidement mis en avant les limites au principe de transparence alors même que ces nouvelles technologies d’IA nous permettent d’avancer masqués et à couvert.
Cent ans après l’apparition du terme robot, la « vieille Europe » repart à la conquête de l’enjeu robotique. La Commission européenne travaille en ce moment à la future réglementation applicable aux robots collaboratifs et à l’évolution du régime de responsabilité pour les produits défectueux. Le vrai crime n’est pas de fabriquer les robots, le vrai crime serait de mal identifier les contours et les composants de la famille robotique. « Mal nommer, c’est ajouter au malheur du monde », disait Albert Camus. Pour éviter que les robots se transforment en soldat , il est donc essentiel de savoir :
- Les identifier. Un drone est-il un robot ? Quels sont les points communs entre Spot le chien et Terminator ? Est-il intelligent ou autonome ? Ces questions nous invitent à aller rechercher les critères communs aux qualifications déjà existantes dans les différents secteurs d’application. Ce travail comparatif permettra non pas de faire émerger un droit des robots mais un droit de la robotique. Comme le rappelait le professeur Nevejans, « tout comme le droit de l’aviation n’est pas le droit des avions ou le droit spatial le droit des fusées, le droit de la robotique n’est pas le droit des robots[3]».
- Les nommer. La notion de système robotisé a notre préférence car elle met l’homme au cœur du fonctionnement d’une part et de ses perspectives d’évolution d’autre part.
- Les structurer. La création d’une agence européenne de la robotique & de l’IA doit permettre d’affirmer l’ambition de l’UE sur ce sujet et sa capacité à mettre en œuvre une stratégie à long terme.
Ysens de France ( article également disponible sur le site d’Aivancity dont l’auteur est professeur associé)
[1] Karel CAPEK, R.U.R Rossum’s Universal Robots, Paris, Minos Éditions de la Différence, 2016, p. 142-143.
[2] Béatrice MUNIER, préface du livre de K.CAPEK, R.U.R Rossum’s Universal Robots, op.cit, p.7.
[3] Nathalie Nevejans, Traité de droit et d’éthique de la robotique civile, Bordeaux, LEH éd. Coll. Science, éthique et société, 2017, p. 78.
