Künstliche Intelligenz unter Kontrolle

Algorithmen haben es schwer. Vor lauter Automatisierung von Prozessen und dem zunehmenden Verlassen auf künstliche Intelligenz könnte man fast vergessen, darauf zu achten, dass die Maschinen nicht unsere Vorurteile und die in unseren Gesellschaften vorherrschende Diskriminierung reproduzieren. Wenn eine rassistische Person von einer*einem rassistischen Personalvermittler*in aus einem Einstellungsverfahren ausgeschlossen wird, kann die Maschine es dann besser machen? Theoretisch ja, aber das hängt von den Parametern und Daten ab, die man ihr vorher zur Verfügung gestellt hat. Es sind gesellschaftliche Herausforderungen, die sowohl die Fachleute in diesem Bereich als auch Aktivisten, die sich für mehr Kontrolle einsetzen, beschäftigen. Oyidiya Oji ist eine von ihnen. Sie war kürzlich in Luxemburg, um einen von Lëtz Rise Up organisierten Vortrag (auf Englisch) mit dem Titel "Discrimination based on Artificial Intelligence: What should we do?" zu halten.

Oji kommt zwar nicht aus der Tech-Branche, hat sich aber schnell für das Thema interessiert: "Im Januar 2020 habe ich meinen Job gekündigt und zu diesem Zeitpunkt hörte ich einen Podcast über Technologie, in dem es darum ging, dass wir mehr farbige Menschen in der Branche brauchen. Da dachte ich mir, dass ich vielleicht etwas anderes machen sollte, weil ich eine Ausbildung im Bereich Wirtschaft habe" Daraufhin nahm sie an einem Bootcamp für Data Science (Intensivprogramm für Softwareentwicklung, Anm. d. Red.) teil, um die Grundlagen des Programmierens zu erlernen. Außerdem informierte sie sich darüber, was in der Branche vor sich ging. "Ich begann zu lesen, dass zum Beispiel in den USA fahrerlose Autos in Frauen krachen oder mit größerer Wahrscheinlichkeit krachen würden, vor allem wenn es sich um farbige Frauen oder Menschen mit irgendeiner Behinderung handelte, da das Auto dunklere Haut nicht sieht. Da die Ingenieure in diesem Fall oft Männer sind, sagen sie sich, dass es natürlich funktioniert. Aber es funktioniert für sie. Für bestimmte Menschen. Ich habe auch ein Video von einem Mann gesehen, der sich in einem Hotel befand und gerade versuchte, seine Hand unter den Seifenspender zu strecken. Das funktionierte nicht. Dann hat er ein Stück weißes Papier genommen und es hat funktioniert."