L'intelligence artificielle sous contrôle

Les algorithmes ont beau dos. À force d'automatiser les processus et de se reposer de plus en plus sur l'intelligence artificielle, on en oublierait presque de faire attention à ce que les machines ne reproduisent pas nos préjugés et les discriminations qui dominent dans nos sociétés. Si une personne racisée est écartée d'un processus de recrutement par un·e recruteur·euse raciste, la machine peut-elle faire mieux ? En théorie oui, mais cela dépend des paramètres et des données qu'on lui a fournis au préalable. Des enjeux de société qui préoccupent les professionnel·le·s du secteur ainsi que des activistes qui militent pour plus de contrôle. Oyidiya Oji est l'une d'entre eux·elles. Elle était récemment à Luxembourg pour donner une conférence (en anglais) organisée par Lëtz Rise Up intitulée "Discrimination fondée sur l'intelligence artificielle : que devons-nous faire ?"

Cette dernière n'est pas issue du monde de la tech, mais elle s'est vite intéressée au sujet : "En janvier 2020, j'ai quitté mon emploi et, à ce moment-là, j'écoutais un podcast sur la technologie qui disait qu'il fallait plus de personnes de couleur dans ce secteur. Je me suis alors dit que je devrais peut-être faire quelque chose de différent parce que j'ai une formation en commerce." Elle a alors suivi un bootcamp en data science (programme intensif de développement de logiciels, ndlr) afin d’apprendre les bases de la programmation. Et de s'informer sur ce qui se passait dans le secteur. "J'ai commencé à lire qu'aux États-Unis, par exemple, des voitures sans conducteur s'écrasaient ou avaient plus de chances de s'écraser contre des femmes, surtout s'il s'agissait de femmes de couleur ou de personnes souffrant d'un handicap quelconque, car la voiture ne voit pas les peaux plus foncées. Dans ce cas, comme les ingénieurs sont souvent des hommes, ils se disent que, bien sûr, ça marche. Mais ça marche pour eux. Certaines personnes. J'ai également vu une vidéo d'un homme qui se trouvait dans un hôtel et qui essayait juste de tendre sa main sous le distributeur de savon. Cela ne fonctionnait pas. Il a alors pris un morceau de papier blanc. Et là, ça a marché."