EN

L’intelligence artificielle et ses biais

Publié le 28.03.2022. Mis à jour le 28.03.2022.

Avez-vous entendu parler des inégalités que l’IA peut engendrer ?

Par Tina Jutzeler, ambassadrice du domaine Ingénierie et Architecture et étudiante en génie civil

IA. Ce ne sont que deux lettres, présentes partout et à tout niveau. L’intelligence artificielle – ou IA – fait partie intégrante du monde d’aujourd’hui, sans parler de la place qu’elle prend un peu plus chaque jour dans les médias.

L’IA est une série d’algorithmes – plus concrètement une série d’instructions sous forme de code informatique – permettant à différentes machines et programmes d’effectuer des tâches plus ou moins simples. Tout ceci dans le but d’aider lors d’un processus de décision, comme par exemple pour la sélection de candidat·es ou l‘attribution d’un prêt bancaire. Mais ces algorithmes peuvent aller encore plus loin en prenant seuls des décisions, substituant ainsi en quelques sorte la réflexion humaine, comme c’est le cas dans les systèmes de voitures autonomes par exemple. L’intelligence artificielle est donc un genre de simulation de l’intelligence.

Dans cet article, je propose de vous parler des biais de l’IA et par conséquent d’un aspect plus éthique. Dans ce sens, il est normal de penser que les algorithmes composant les IA soient seulement factuels, n’étant en effet que du code informatique basé notamment sur des bases de données. Pourtant, plus les systèmes d’IA sont utilisés à grande échelle, plus il en ressort des inégalités que ce soit en termes de genre, d’origine ou niveau social. Mais, pourquoi? Comment?

Dans un premier temps, il peut être important de rappeler que malgré le fait qu’il soit question de machines ou programmes, ce sont bien des humains qui choisissent les bases de données et écrivent ces algorithmes. L’intelligence dont nous parlons est donc bien artificielle, mais elle est surtout basée sur la société humaine.

La mise en évidence d’inégalités par le biais d’IA est un fait aujourd’hui avéré et l’une des raisons à ceci est la présence de déséquilibres dans les bases de données utilisées. En effet, ces montagnes d’informations en soit ne font que relever des faits et nombres, mais finalement en traitant ces données il n’en ressort que plus distinctement les inégalités présentes dans notre société, parfois depuis longtemps déjà.

Par exemple, prenons l'algorithme de reconnaissance faciale utilisé notamment dans beaucoup de smartphones aujourd'hui. Ce dernier est basé sur de nombreux traits et caractéristiques propres à la définition et distinction de chaque visage. Pour permettre de distinguer ces traits, les algorithmes sont entraînés en utilisant un grand nombre de photos. Il a été découvert que la plupart de ces photos étaient celles d'hommes blancs, ce qui fait que la reconnaissance faciale fonctionnera plus efficacement sur cette partie de la population que sur le reste.

Il est important de constater cependant que les inégalités relevées ou amplifiées par les systèmes d’IA ne sont pas irréversibles. Il est simplement temps d’apporter l’égalité dans le monde réel, en commençant par l’éducation, afin d’arriver ensuite à des intelligences artificielles égales.

Pour ne rien manquer des domaines de l’ingénierie et innovation, suis-nous sur les réseaux sociaux Instagram d’ingénieuse.ch !