Une récente conférence sur l’intelligence artificielle, ainsi qu’une étude menée par Capgemini révèlent que le manque de diversité parmi les ingénieurs informatiques génère des « technologies discriminatoires ».
L’Intelligence artificielle est un homme de 40 ans
L’intelligence artificielle aurait-elle un sexe et un âge ? Eh bien oui. Elle serait masculine et elle aurait environ 40 ans. Pourquoi ? Les algorithmes, créés et entraînés par des humains, héritent des mêmes biais que leur concepteur. Et lorsque les concepteurs sont majoritairement des hommes de quarante ans – comme c’est le cas parmi les équipes informatiques des entreprises – la majorité des algorithmes « pensent » comme des hommes de quarante ans.
C’est ce que révèle la passionnante conférence d’Alsace Tech sur le thème de l’intelligence artificielle, animée par Vincent Le Cerf, docteur en intelligence artificielle, fondateur de la société Mategenia (édition de logiciels), connu pour ses collaborations avec de grandes entreprises et pour ses interventions en écoles d’ingénieur.
Pour voir la conférence en replay
L’urgence de l’inclusion dans la tech’
Comme nous le rappelle Vincent Le Cerf, les algorithmes sont partout : dans nos réseaux sociaux, nos requêtes Internet, dans nos outils digitaux et objets connectés. Ils font de la reconnaissance d’image et vocale. Ils font de la recherche, du tri, de l’analyse de données. Ces outils fondent notre économie et notre vie de tous les jours. Il est donc urgent qu’ils aient un maximum d’ouverture sur le monde avec un maximum d’objectivité. De fait, il est urgent de générer de l’inclusion parmi les équipes qui les conçoivent.
Les consommateurs n’ont pas accès aux mêmes informations selon leur sexe et leur origine ethnique
(Capgemini)
Il se trouve que les conséquences du manque d’inclusion dans la Tech’ ont été chiffrées dans le cadre d’une étude menée à l’international par Capgemini Research Institute. L’étude est intitulée « The key to designing inclusive tech: creating diverse and inclusive tech teams ». Elle est datée de juillet 2021.
On y découvre que sur les marchés des technologies de la santé, par exemple, 43 % des femmes et des consommateurs issus de communautés ethniques minoritaires ne reçoivent pas d’informations en ligne issues d’établissements à haut niveau de services ou offrant des services spécialisés, contrairement aux consommateurs masculins ou d’origine non diverse (terme employé dans l’étude).
De même, dans les technologies de la finance, 50 % des consommateurs issus de minorités ethniques ont reçu en 2021 une proposition automatique de crédit plus faible pour certains produits en ligne. Seulement 28 % des consommateurs d’origine non diverse ont reçu le même niveau de proposition. L’étude parle de « technologie discriminatoire » générée par le manque de diversité dans le milieu tech’.
Seul 1 collaborateur sur 5 est une femme dans les équipes technologiques et informatiques
Et les objectifs d’inclusion sont loin d’être atteints. Selon le même rapport Capgemini, 90 % des entreprises à l’international peinent à mettre en place l’inclusion et la diversité dans leurs équipes technologiques et informatiques.
Le rapport mentionne que le problème ne sera pas résolu à court terme, au regard de la différence de perception entre les équipes dirigeantes et les collaborateurs. En effet, 75 % des dirigeants interrogés par Capgemini estiment que l’inclusion est menée de front dans leur entreprise, mais seulement 25 % des collaborateurs exerçant une fonction technologique ont le même ressenti.
Concrètement à l’heure actuelle, on trouve les équipes technologiques suivantes au sein des entreprises (enquête à échelle mondiale) :
– un collaborateur sur cinq est une femme
– un collaborateur sur six provient d’une communauté ethnique minoritaire. 22 % de ces collaborateurs pensent avoir les mêmes chances d’évoluer que leurs collègues d’origine non diverse. Parmi les équipes technologiques et informatiques, seulement 16 % des femmes et des collaborateurs issus de minorités ethniques estiment être bien représentés au sein de leur équipe.
D’après les conclusions de Capgemini, « Les organisations qui réussiront à (…) faire [de l’inclusion] pour leurs équipes technologiques seront à même de saisir les opportunités qui en découlent, aussi bien en matière d’innovation que d’augmentation de revenus et de valorisation de leurs marques ».
Sources https://www.capgemini.com/fr-fr/news/seules-10-des-entreprises-ont-reussi-a-mettre-en-place-des-pratiques-dinclusion-et-de-diversite-avancees-pour-leurs-equipes-technologiques/
https://em-strasbourg.zoom.us/rec/play/MTQasuEplLQ6HG0r9TEDHxpKAkigfkrPYR0TuRjaBQaVcoN8RVXgb4Fb5Lrct3bp2D7IovLCiQI4JiOn.04xPfhTYx5U5uC98?continueMode=true&_x_zm_rtaid=rPHDwFAoRIuA7tB5hiN8jA.1641291451170.494b7bb4f6083ec5910cb8dc66fc9cc3&_x_zm_rhtaid=180