Quelles questions d’éthique nous posent l’i.A ?

Getting your Trinity Audio player ready...

Quelles questions d’éthique nous posent l’I. A ?

( In extenso dans Bulletin du SJPP n°73)

www.sjpp.fr

D’emblée, nous constatons que la définition
de l’Intelligence Artificielle est imprécise, variant au gré des avancées
techniques, à chaque année qui passe.
Tentons de cerner cette notion contemporaine,
employée sans distinction fine
par les médias.
A l’origine, une I.A est un algorithme
dont le but est de pouvoir prendre des
décisions relevant d’une certaine forme
de compréhension du monde grâce à un
traitement de données. En pratique, le
terme « intelligence » est impropre car il
s’agit d’un terme générique qui englobe
en réalité deux formes principales d’I.A.
On distingue en effet :
a) l’I.A symbolique : l’algorithme dans
cette version est à base de règles. L’ordinateur
exécute des ordres qu’on lui
donne ;
b) l’I.A connexionniste : dans cette version
plus poussée de machine pensante,
les algorithmes apprennent, à partir
d’exemples, à exécuter des tâches pour
lesquelles ils n’ont pas été spécifiquement
été programmés. Cet apprentissage
virtuel, aux conséquences réelles, a
pris pour modèles les neurones de notre
cerveau d’humain. Les algorithmes
d’apprentissage profond, ou « deep learning
», sont fondés sur des réseaux de
neurones artificiels, par analogie avec
les nôtres.
Le terme d’analogie ne peut qu’éveiller
le doute chez tout être humain rationnel,
chez tout scientifique digne de ce nom.
D’où la question soulevée par l’actualité
et ma réflexion, mon questionnement
personnel : peut-on se fier à
l’I.A connexionniste ? N’est-ce pas jouer
à l’apprenti sorcier que de continuer à la
développer ?
1/ Le chercheur Idrisse Aberkane, expert
en neurosciences notamment, dans son
dernier essai sur l’I.A, Le Triomphe de
votre intelligence – Pourquoi vous ne serez
jamais remplacé par des machines ?,
nous livre un discours optimiste. Pour
lui, l’I.A , c’est un peu comme l’histoire
des métaux. C’est l’homo sapiens qui a
façonné le cuivre, puis est passé à l’âge
du bronze, avant de créer l’acier. Notre
époque, dans la pratique de l’I.A, est
celle de l’âge du cuivre. Celui du bronze,
qui verra poindre l’âge de la conscience,
surviendra quand sera trouvé l’algorithme
de la conscience artificielle.
Pour ce chercheur, l’I.A. est une opportunité
majeure pour se libérer des tâches répétitives et du travail humain
fastidieux. 

L’étymologie de travail ne
vient-elle pas de « tripalium », supplice ?
Toutefois il ne cache pas que l’I.A
va s’amplifier crescendo et va nous
contraindre à faire des choix. En ce premier
quart du XXIème siècle, l’humain
et la machine cohabitent de façon relativement
équilibrée, l’homme tolérant
que des ordinateurs hyperpuissants
parviennent à battre les champions du
monde d’échecs. N’est-il pas symbolique
– et lacanien ? – que le premier
échec majeur de l’homme face à la machine
vienne des échecs, roi des jeux et
jeu des rois ?
2/ Or, cette cohabitation pose scientifiquement
problème. Si l’on veut donner des responsabilités
à un algorithme, il faut pouvoir déterminer
ce qui l’a mené à prendre telle ou
telle décision. C’est ce qui s’appelle faire
preuve d’explicabilité.
Actuellement, l’explicabilité est le talon
d’Achille des réseaux de neurones artificiels.
La communauté scientifique s’est
rendue compte que l’on pouvait leurrer
un réseau de neurones capable de
reconnaître des animaux en modifiant
un seul pixel de l’image, de manière à
induire en erreur l‘algorithme.
Cela pose un dilemme : les algorithmes
complexes ont tendance à être plus
puissants, mais moins explicables.
Feriez-vous confiance à un médecin qui
semble ne pas se tromper dans ses diagnostics,
mais qui ne sait pas les justifier ?
Les programmes ont beau être mus
par une logique froide, ils ne sont pas
neutres car ils peuvent véhiculer les préjugés
de leurs créateurs. Leur objectivité
est une idée fausse.
(…)

• 
  …