À la recherche du meilleur algorithme pour les crimes de guerre éthiques

OSAKA, JAPON – 26 SEPTEMBRE 2016 : Modèle d'endosquelette T-800 à taille humaine de Terminator 3D à Universal Studios Japon © Sarunyu L / Shutterstock.com

En temps de guerre, tout citoyen concerné devrait se demander ce que les politiciens et les militaires eux-mêmes considèrent comme des contraintes acceptables à leur action. Ce sont eux qui prennent les décisions grâce sans doute à leur sérieuse compréhension des enjeux et à leur engagement pour le bien commun.

L'IA apporte une nouvelle dimension. Parce que la plupart des gens pensent que l’IA a été conçue pour prendre des décisions rationnelles suite à une compréhension algorithmique des priorités, lorsque ces décisions ressemblent à un crime de guerre, aucun humain ne peut être blâmé pour le résultat. La notion même de responsabilité, qui est au cœur de tout système éthique, disparaît. Vous ne pouvez pas blâmer la personne qui a créé l’algorithme parce que son intention n’était pas criminelle. Vous ne pouvez blâmer que l’agent qui a créé les conditions qui ont conduit au crime de guerre. Mais l’agent dans le cas de l’IA est une abstraction.

Alors, comment concilier trois forces disparates et potentiellement contradictoires : la notion extrêmement pragmatique d’efficacité militaire, l’idée bien plus abstraite de normes éthiques et la prétendue rationalité de l’IA ?

Selon le Washington Post, un officier supérieur estime qu'il n'y a pas grand-chose à débattre aux États-Unis car il s'agit d'une « société judéo-chrétienne ».

Interrogé sur les vues du Pentagone sur la guerre autonome, le général 3 étoiles Richard G. Moore Jr., chef d'état-major adjoint de l'Air Force pour les plans et programmes, a proposé cette explication lors d'un événement organisé par l'Hudson Institute en juillet. « Quelles que soient vos croyances, notre société est une société judéo-chrétienne et nous avons une boussole morale. Ce n’est pas le cas de tout le monde. Et il y a ceux qui sont prêts à aller au bout, quels que soient les moyens à utiliser.

Aujourd'huiDictionnaire hebdomadaire du diabledéfinition:

La rhétorique de Moore est révélatrice. Il commence son affirmation par ce qui est devenu un clin d’œil obligatoire à l’inclusivité, « quelles que soient vos convictions ». Cela lui permet de reconnaître toute la gamme des pensées religieuses, voire antireligieuses, permises par la Déclaration américaine des droits avant d’affirmer ce qu’il considère comme une vérité fondamentale : « notre société est une société judéo-chrétienne, et nous avons une boussole morale ».

Tout comme la Cour suprême a déclaré que les entreprises sont des personnes, en s’appuyant sur l’idée du XIXe siècle selon laquelle les sociétés commerciales devraient être considérées comme des « personnes morales », Moore estime que même une société démocratique et multiculturelle a une identité morale. Cela signifie vraisemblablement qu’il est responsable de ses actes, comme tout être moral doit l’être.

Mais la réflexion de Moore va encore plus loin. Non seulement les États-Unis ont une identité morale et peuvent être considérés comme une unité morale au sein de laquelle chacun partage la responsabilité de ses actes. Il possède également une « boussole morale ». Dictionary.com définit cela comme « un ensemble intériorisé de valeurs et d'objectifs qui guident une personne en matière de comportement éthique et de prise de décision : » Divers commentateurs le comparent à l'idée augustinienne de « conscience ». Mais la conscience, tout comme la conscience, est un concept qui défie toute définition philosophique claire, même lorsqu’il est axé sur la prise de décision personnelle. Les deux font référence au système de perception d’un individu et impliquent une subjectivité. Ni l’une ni l’autre ne peuvent s’appliquer aux entités collectives. Pour cette raison, personne n’a théorisé avec succès l’idée d’une entreprise, d’une nation ou de toute autre entité collective ayant une boussole morale au-delà de l’idée d’un code de conduite ou d’un énoncé de mission.

Lorsqu’ils décrivent le partage collectif ou l’harmonisation de tout ce qui empiète sur la perception, les anthropologues et les sociologues préfèrent décrire ce qu’ils appellent les « valeurs fondamentales » des cultures. Mais ces valeurs ne doivent pas être confondues avec des principes moraux ou éthiques. L’idée plutôt contestable d’une culture « judéo-chrétienne » n’a pas grand-chose à voir avec un cadre éthique mais plutôt avec des hypothèses politiques et économiques vaguement formulées.