Getting your Trinity Audio player ready...

Quelles questions d’éthique nous posent l’I. A ?

( In extenso dans Bulletin du SJPP n°73)

www.sjpp.frD’emblée, nous constatons que la définitionde l’Intelligence Artificielle est imprécise, variant au gré des avancéestechniques, à chaque année qui passe.Tentons de cerner cette notion contemporaine,employée sans distinction finepar les médias.A l’origine, une I.A est un algorithmedont le but est de pouvoir prendre desdécisions relevant d’une certaine formede compréhension du monde grâce à untraitement de données. En pratique, leterme « intelligence » est impropre car ils’agit d’un terme générique qui englobeen réalité deux formes principales d’I.A.On distingue en effet :a) l’I.A symbolique : l’algorithme danscette version est à base de règles. L’ordinateurexécute des ordres qu’on luidonne ;b) l’I.A connexionniste : dans cette versionplus poussée de machine pensante,les algorithmes apprennent, à partird’exemples, à exécuter des tâches pourlesquelles ils n’ont pas été spécifiquementété programmés. Cet apprentissagevirtuel, aux conséquences réelles, apris pour modèles les neurones de notrecerveau d’humain. Les algorithmesd’apprentissage profond, ou « deep learning», sont fondés sur des réseaux deneurones artificiels, par analogie avecles nôtres.Le terme d’analogie ne peut qu’éveillerle doute chez tout être humain rationnel,chez tout scientifique digne de ce nom.D’où la question soulevée par l’actualitéet ma réflexion, mon questionnementpersonnel : peut-on se fier àl’I.A connexionniste ? N’est-ce pas jouerà l’apprenti sorcier que de continuer à ladévelopper ?1/ Le chercheur Idrisse Aberkane, experten neurosciences notamment, dans sondernier essai sur l’I.A, Le Triomphe devotre intelligence – Pourquoi vous ne serezjamais remplacé par des machines ?,nous livre un discours optimiste. Pourlui, l’I.A , c’est un peu comme l’histoiredes métaux. C’est l’homo sapiens qui afaçonné le cuivre, puis est passé à l’âgedu bronze, avant de créer l’acier. Notreépoque, dans la pratique de l’I.A, estcelle de l’âge du cuivre. Celui du bronze,qui verra poindre l’âge de la conscience,surviendra quand sera trouvé l’algorithmede la conscience artificielle.Pour ce chercheur, l’I.A. est une opportunitémajeure pour se libérer des tâches répétitives et du travail humainfastidieux.

L’étymologie de travail ne
vient-elle pas de « tripalium », supplice ?
Toutefois il ne cache pas que l’I.A
va s’amplifier crescendo et va nous
contraindre à faire des choix. En ce premier
quart du XXIème siècle, l’humain
et la machine cohabitent de façon relativement
équilibrée, l’homme tolérant
que des ordinateurs hyperpuissants
parviennent à battre les champions du
monde d’échecs. N’est-il pas symbolique
– et lacanien ? – que le premier
échec majeur de l’homme face à la machine
vienne des échecs, roi des jeux et
jeu des rois ?
2/ Or, cette cohabitation pose scientifiquement
problème. Si l’on veut donner des responsabilités
à un algorithme, il faut pouvoir déterminer
ce qui l’a mené à prendre telle ou
telle décision. C’est ce qui s’appelle faire
preuve d’explicabilité.
Actuellement, l’explicabilité est le talon
d’Achille des réseaux de neurones artificiels.
La communauté scientifique s’est
rendue compte que l’on pouvait leurrer
un réseau de neurones capable de
reconnaître des animaux en modifiant
un seul pixel de l’image, de manière à
induire en erreur l‘algorithme.
Cela pose un dilemme : les algorithmes
complexes ont tendance à être plus
puissants, mais moins explicables.
Feriez-vous confiance à un médecin qui
semble ne pas se tromper dans ses diagnostics,
mais qui ne sait pas les justifier ?
Les programmes ont beau être mus
par une logique froide, ils ne sont pas
neutres car ils peuvent véhiculer les préjugés
de leurs créateurs. Leur objectivité
est une idée fausse.
(…)

 

Golden Bridge in Ba Na Hills,Bana hills french village in Da nang , Vietnam