Lexmag Numéro 6 spécial été - Magazine - Page 70
Les plus grosses
galères de l'IA
selon l'IA elle-même
Le syndrome du
perroquet stochastique
L’IA génère des réponses plausibles, mais parfois…
totalement fausses. Elle « prédit » le mot suivant sans
réellement « comprendre » ce qu’elle dit.
Résultat : des hallucinations crédibles, mais trompeuses.
Le casse-tête des biais
Si les données sont biaisées (et elles le sont), l’IA
reproduit — voire ampli昀椀é — ces biais : sexisme,
racisme, discrimination sociale, etc. L’algorithme
apprend ce qu’on lui donne, pas ce qui est juste.
Les fuites de données
Certaines IA peuvent recracher des données
con昀椀dentielles si elles ont été mal entraînées. Dans le
monde du droit, de la santé ou de la 昀椀nance, ça devient
un cauchemar juridique.
La confusion entre vrai et faux
L’IA permet de générer des contenus faux (deepfakes,
fake news, faux documents) très crédibles. De quoi
brouiller la frontière entre réalité et illusion — et
fragiliser la con昀椀ance.
70
