Éthique, quesako ?

Par Hélène Dos Santos

Au LICA on parle d’IA éthique. Mais finalement qu’est-ce que l’éthique ?

L’éthique est l’une des branches fondamentales du questionnement philosophique. La philosophie, étymologiquement amour de la sagesse, est une quête de vérité. Faire de l’éthique en philosophie, c’est fondamentalement se demander la voie du bien vivre, en trouver une, fondée en raison, et chercher les méthodes de son application. C’est donc la tentative de résolution de ce qui nous traverse tous. Qu’est-ce que le bien ?  Qu'est-ce qui justifie le mal ? Comment vivre décemment avec autrui ? Comment composer avec mes émotions ?...

L’éthique détient un grand champ d’application : 

• Médical : euthanasie, confidentialité, justice dans l’accès aux soins ?

• Environnement : Quelles obligations morales envers la nature ?

• Justice : Sur quel cadre fonder les lois ?

Différents courants éthiques

Prenons un exemple : 

Un mystérieux inconnu, les poches pleines de billets, me repose un million pour aller poignarder mon voisin. En prime, il m’assure qu’il couvrira la scène. Aucune conséquence sociale en perspective.

Ce qui relie cette illustration à tout scénario imaginable, c’est la structure suivante : un individu auquel se présente une batterie de choix doit en faire un. Ou plus schématiquement : 

Situation de départ > batterie de choix > sélection d’un choix > Situation finale

La situation de départ et la batterie de choix sont tout simplement les données du problème : il n’y a rien a dire dessus. Reste l’individu, un choix à faire et une conséquence.

Cette modélisation nous permettra d’explorer 3 grands courants éthiques, mettant en valeur préférentiellement chacun de ces points : 

• 
  

Proposée pendant l’antiquité par des auteurs tels qu’Aristote. La voie bonne est celle de la réalisation de ses vertus. Celles-ci sont essentiellement les caractéristiques qui demandent une compétence innée développée, un effort sur soi ou un dépassement pour autrui : courage, prudence, sagacité, honnêteté…

Dans notre exemple, on peut imaginer que la plupart des gens s’accorderaient à dire que l’exercice de sa vertu consiste ici à refuser la récompense, à prendre sur soi, dans le souci de l’autre.

• 
  

Proposé par Emmanuel Kant, philosophe allemand du 18ème siècle, l’action se juge dans son degré d’accord à des règles fixées en amont. Ces règles sont choisies pour leur universalité. En d’autres termes, est-ce que mon action, généralisée à d’autres, voir à tous, serait supportable ? 

Ce courant pourrait se traduire par cette citation : “Agis comme si la maxime de ton action devait être érigée par ta volonté en loi universelle de la nature”

Or si tout le monde est prêt à tuer son voisin pour un certain montant, c’est le règne de la terreur, de l’imprévisible, du chacun pour soi, la société se disloque. Par conséquent, je n'accepte pas l’offre de l’inconnu.

• 
  

Développé au XVIIIe et XIXe siècle par les anglais Jeremy Bentham puis John Stuart Mill, une action est jugée pour ses conséquences sur le bonheur global. Le mot d’ordre de l’utilitarisme, dit aussi conséquentialisme : “Le plus grand bonheur au plus grand nombre”. L’utilitarisme se fonde sur une approche comptable et mathématique du monde. Je soustrait ce qu’implique de négatif mon action sur le monde à ce qu’elle implique de positif. Le bilan est positif ? Si oui, fonçons ! Il n’y a pas de grands principes ou de chevaliers valeureux, seulement des conséquences plus ou moins favorables sur le monde.

Dans notre exemple, je vais me demander ce que vaut la vie de mon voisin. Quel est son âge, qui est-il ? Est-ce un vieillard grincheux qui n’apportera plus grand chose avant sa mort ? Un million bien investi et décuplé ou donné à une association humanitaire pourrait apporter un bien plus grand bonheur au monde. Il faudrait dans ce cas songer à s’en débarrasser.

Une question difficile

Tous ces courants s’appuient sur un certain absolutisme. Ils font tous le pari d’un cadre moral privilégié. Qu’est-ce que la vertu ? Quelle action non universalisable en théorie détruirait véritablement toute perspective de vie humaine ? Qu’est-ce que le bonheur pour le plus grand nombre ?

Derrière la vérité éthique politique d’une zone géographique à un moment donné, les sociologues et les anthropologues ont essayé de débusquer les fondements incontestables d’une éthique première et universelle. La pénalisation du meurtre nous semble aujourd’hui une fondation élémentaire et pourtant certains incas furent honorés d’être sacrifiés au nom de divinités. Le problème est qu’un cadre moral se subordonne toujours à un autre. Comment évaluer une pratique ou une norme si ce n’est par rapport à un référentiel ? Et comment évaluer ce référentiel si ce n’est par rapport à un autre référentiel ? …

Et nous n’avons mentionné ici que quelques courants purement philosophiques. La discipline s’ouvre cependant à des contributions variées et transverses. Des théories psychologiques ou biologiques peuvent notamment enrichir le questionnement éthique.

Le philosophe contemporain Français, Ruwen Ogien propose une éthique dite minimale. Son principe repose sur la notion de non-nuisance : “tant que je ne nuis pas à autrui, je peux entreprendre ce qui m’intéresse”

De manière plus détaillée, il invoque 3 piliers : 

• La neutralité à l’égard des conceptions du bien

• Éviter de causer des dommages à autrui

• Accorder la même valeur aux voix ou aux intérêts de chacun

• 
  

La question de l’éthique en informatique

En informatique, la machine est au centre de la réflexion. Cependant elle ne possède pas de conscience propre, son comportement est régi par des notions imposées consciemment ou non lors de sa conception. C’est donc aux concepteur·ice·s de prévoir, à priori, les dommages, atteintes, biais potentiels au déploiement d’un système. En effet, si la machine ne peut être accusée ou condamnée par la justice, l’humain·e concepteur·ice le peut car iel en porte la responsabilité.

On peut notamment prendre les voitures autonomes, comme exemple de réflexion éthique. En plus de respecter les règles du code de la route (qui peuvent dépendre d’un pays à un autre), il faut réfléchir à :

• La représentativité dans les données : que le système reconnaisse toutes les personnes (peu importe leurs habits ou leur couleur de peau) ou tous les panneaux (même avec des stickers)...

• L’impact sociétal et environnemental : le déclin de certains métiers comme chauffeur, la possible perte de compétences associées à la conduite, la consommation de ressources…  

• Des dilemmes éthiques : Les freins ont lâché, la voiture remplie roule à pleine vitesse sur un groupe de personnes. Doit-on continuer sur le trajet et écraser le groupe, ou bien foncer sur un mur afin d’épargner le groupe mais porter atteinte aux utilisateur·ice·s de la voiture ?

Au LICA, nous proposons des formations sur l’éthique de l’intelligence artificielle, et un accompagnement sur vos projets de conception d'IA. On en parle ?!

Merci à Florentin Koch, philosophe, écrivain, ingénieur informaticien qui m’a aidée pour l’approche philosophique de l’éthique.