Véhicules autonomes et morale des hommes

Moral Machines

Au delà des motivations financières ou industrielles, l’introduction de voitures sans conducteurs est désirée du plus grand nombre car elle est synonyme d’une réduction significative du nombre d’accidents de la route : L’intelligence artificielle partagée permet d’anticiper un maximum de situations et d’agir sur les flux routiers comme s’il s’agissait de mécanismes horlogers de précision, c’est un fait.

La question éthique (cf. Moral Machine , MIT) rappelle que certains accidents restent inévitables et qu’en l’absence d’un conducteur embarqué dans le véhicule, c’est encore et toujours la morale humaine qui fixe les règles. A défaut d’une morale universelle, unique et acceptée de tous, les discussions sur les comportements des véhicules restent ouvertes.

 

Les conclusions du Rapport de la commission d’éthique allemand

Des premiers éléments de réponse sont apportés par le Rapport de la commission d’éthique allemande (PDF), rendu public le 23 aout par le ministre allemand des transports et réseaux numériques – heureuse et bien inspirée initiative que ce ministère unique.

Parmi les positions adoptées :

  • La généralisation des véhicules sans conducteurs est un impératif moral : on ne peut pas se priver d’une solution qui améliore substantiellement la sécurité routière.
  • Aucune décision ne doit être prise selon les caractéristiques particulières des personnes impliquées dans les accidents. Si un accident est inévitable, le système ne doit prendre aucune décision en se basant sur ces caractéristiques personnelles  (âge, sexe, constitution physique ou mentale).
    Bébé, cadre dynamique, jeune fille dans la fleur de l’âge ou vieillard appuyé sur une canne, une vie vaut une autre vie.
  • La protection de la vie humaine est une priorité absolue sur toutes les autres vies ou richesses.
  • Il est indispensable de savoir chaque instant qui du conducteur ou du système de bord est responsable de la conduite
  • Les propriétaires doivent avoir le plein contrôle des données générées par le véhicule autonome (comme la géolocalisation) et doivent pouvoir décider si et dans quelles proportions ces informations peuvent être partagées (avec le fabricant du système et de bord et le constructeur si ce ne sont pas les mêmes).

Histoires pas drones

drone militaire

Drones par ci, drones par là… Pas un jour qui passe sans qu’on ne retrouve dans les pages Économie ou Technologies une évolution dans l’histoire toute récente mais déjà riche de ce qui est présenté comme l’innovation principale de cette décade, au même titre que l’Internet des objets, le Big Data ou les imprimantes 3D.

Les dangers liés à une généralisation de ces armes sont pourtant sérieux et méritent un examen approfondi. En fait, c’est l’annonce des Etats-Unis le 22 février du déploiement de 100 soldats au Niger pour installer et opérer une base de drones de surveillance et de drones armés, utilisés dans la détection et la destruction de bases terroristes au Mali, qui a déplacé une discussion à-priori essentiellement militaire vers un débat plus global, plus ouvert…

Sur le terrain militaire

Cela tient d’abord à la généralisation des drones et à leur redoutable efficacité : ils ont été utilisés plus de 400 fois en quatre ans, avec un taux de « réussite » – fondé sur le nombre de cibles tuées – estimé entre 80 % et 95 %. L’armée de l’air américaine possédait une cinquantaine de drones en 2001 sous la présidence Bush et en dénombre aujourd’hui plus de 8 000 sous la présidence d’Obama ; leur nombre devrait dépasser les 10 000 en 2020. L’armée de l’air US forme aujourd’hui plus d’opérateurs de drones que de pilotes de chasse !

L’administration US a beau assurer qu’elles sont « ordonnées, réfléchies et prudentes« , les dérives éthiques ont pourtant vite fait d’être pointées du doigt. Et ni le droit US, ni le droit international, ne fournissent le cadre juridique nécessaire pour interpréter les abus qui viendront inévitablement à naître. Pas plus qu’ils ne fournissent une réponse satisfaisante à une simple question : quels sont les procédures et critères légaux pouvant autoriser et justifier les attaques de drones armés contre des civils en territoire distant, comme c’est le cas aujourd’hui ?

Sur le terrain civil

Mais son utilisation ne s’arrête pas au terrain militaire. Les drones sont aujourd’hui déjà utilisés dans des domaines civils comme la santé, la sécurité, l’environnement ou le journalisme. Les policiers US adorent, les associations écologistes s’en servent pour inspecter les oléoducs, survoler la calotte glacière ou surveiller les baleiniers, un réseau de drones humanitaires veut se déployer à l’échelle internationale, les usages agricoles vont en se multipliant et les formations fleurissent chaque jour, comme celle-ci spécialement destinée à l’usage des journalistes.

On le voit, le drone se banalise sous l’aspect d’un progrès technologique généralisé mis à la portée de tous pour une efficacité redoutable et à un prix record.
Qui dit mieux ?

Déjà, l’on se pose moins de questions qu’aux premieres opérations au Pakistan ou en Libye où l’on pouvait encore objecter que l’opérateur, loin du théâtre des opérations, pouvait perdre le sens de la réalité du conflit, armé d’un joystick tout-puissant et des interrogations liées au statut du pousse-bouton : technicien, combattant ou vidéo-gamer du type cool tranquillement retranché derrière son écran, pouvant donner la mort sans jamais être en danger ?

La guerre déshumanisée

La guerre devient clinique, propre. Une guerre qui se livre et se gagne sans combats face à un ennemi pauvre, pas capable de se mettre à niveau, condamné à soulever des armes et à mettre en danger sa vie et celle de son armée. Un guerrier qu’on qualifierait vite de terroriste, au visage menaçant surgi des terreurs des boucheries passées. On le voit, le drone sera aussi une arme redoutable lorsqu’il s’agira d’influencer une opinion publique de moins en moins encline à tolérer quelques dommages collatéraux.

L’espoir d’un retour à une éthique de la guerre, dont on peut par ailleurs discuter, viendrait-il de gens influents tel Larry Schmidt, qui avouait redouter le 13 avril dernier dans les colonnes du Guardian que les drones ne tombent dans des mains d’irresponsables et avait aussitôt appelé à ce que les traités internationaux en bannissent l’usage, purement et simplement ?
Pas vraiment. A peine 1 mois plus tard, la branche venture de Google a annoncé investir un capital de 10.7 millions de dollars dans une compagnie nommée Airware.
Celle-ci est spécialisée dans la fabrication de technologies de pilotage automatique pour les drones.