Les biais des IA leurs implications - Épisode 12 - Prof Express

[0:09]En fait, comme il y a un côté très scientifique ingénierie assez fort avec les IA, on a tendance à penser qu'elles sont parfaites entre guillemets, c'est-à-dire qu'elles sont neutres, mais elles ne sont pas neutres du tout. En fait, elles ont par définition un truc qui s'appelle des biais. En fait, un biais, c'est une manière de penser qui n'est pas correcte. Euh, c'est un peu comme un préjugé. Par exemple, la plupart des gens pensent que quand on dit un médecin, on parle d'un homme. Alors que ça pourrait être un homme ou une femme. Et ça, c'est un biais, ce n'est pas vrai. En fait, ce qui est important de comprendre, c'est que les IA, elles ont des biais, mais pas parce qu'elles sont racistes ou sexistes. En fait, les IA, elles ont des biais parce que, comme on l'a vu avant, elles sont entraînées avec des données humaines. Donc en fait, comme nous dans nos livres, nos écrits, nos vidéos, tout ce qui a servi à entraîner l'IA, il y a des biais humains comme, par exemple, bah, le fait de penser qu'un médecin est forcément un homme alors que ça peut être une femme. Le fait d'avoir certains préjugés sur qui peut faire quoi, sur des gens qui sont valides ou pas valides, sur la couleur de peau, etc. Malgré tous les efforts des scientifiques qui ont créé les IA, ils utilisent quand même ces données-là. Donc, comme ces données-là, elles ont des biais, bah, les IA se retrouvent à avoir des biais aussi. Pour éviter de subir les biais des IA, en fait, il faut se souvenir que justement, l'IA n'est pas neutre, elle n'est pas parfaite. Même si ce qu'elle dit est vrai, ce n'est pas forcément présenté de la bonne manière, et il peut y avoir des préjugés dedans, un peu comme un humain. En fait, quand on discute avec une IA, il faut imaginer qu'on discute un peu avec plein d'humains très qualifiés. Et plein d'humains très qualifiés, ce n'est pas parce qu'ils sont qualifiés qu'ils n'ont pas justement ces préjugés-là. Donc, il faut toujours avoir un regard critique sur ce que nous dit l'IA. Ce qui sort de l'IA, ce n'est pas une sorte d'encyclopédie, ce n'est pas une sorte de dictionnaire. C'est un peu l'avis de quelqu'un de très qualifié sur le sujet, ça ne nous empêche pas de vérifier, de nous assurer que ce qui est dit est correct.