Chancengerechtigkeit & KI Wie biased ist KI? Die Chef:innensache diskutiert
Künstliche Intelligenzen verändern unsere Arbeitswelt und unsere Gesellschaft. Sie übernehmen Aufgaben, optimieren Prozesse, geben Denkanstöße und treffen Entscheidungen. Aber macht die KI alles besser?
Auf dem Chef:innensache-Event im Juli bei IBM in München ging es insbesondere um diese Frage. Denn wenn wir die KI um Hilfe bitten und ihr erlauben, so viel zu steuern, dann sollte sie das auch im Sinne aller Menschen tun. Denn darin liegt die Gefahr: die Algorithmen beruhen auf Daten, sie sind geschult auf Basis von Entscheidungen und Ereignissen aus der Vergangenheit. Wenn diese Entscheidungen aber biased sind, also von Vorurteilen und Ungerechtigkeiten geprägt, dann kopiert der Algorithmus diesen Bias und führt ihn fort.
KI – Oh so biased?
Fragt man die KI beispielsweise, ob sie ein Bild eines CEOs im Büro generieren kann, so entstehen fast ausschließlich Bilder von Männern. Denn die Wahrscheinlichkeit, dass es sich um einen Mann handelt, war und ist aktuell immer noch größer. Mit solchen Resultaten festigt die KI diese Wahrnehmung aber weiter.
Und für wen entscheidet sich der Algorithmus wohl, wenn er Bewerbungsunterlagen von Männern und Frauen für eine Führungsposition bewerten soll?
Auf dem Chef:innensache-Treffen wurde deshalb über Möglichkeiten diskutiert, wie wir moderne Technologien besser einsetzen können – sodass auch wirklich jede/r davon profitiert. Es braucht Datensätze, die divers sind, aber auch ein gut trainiertes Modell – und das ist die Aufgaben des Menschen. Auch Regularien, die frühzeitig etabliert werden, sind wichtig, um die Grundvoraussetzungen festzulegen. Wie KI in HR funktionieren kann, erklärte Rolf Löwisch in seinem Vortrag. Wichtig ist es, die Prozesse genau zu definieren und ständig zu monitoren.
Involviert mehr Frauen!
Auf der anderen Seite merkten viele der Teilnehmenden an, dass es für Frauen auch schwieriger ist, sich im Bereich der KI-Forschung und -Entwicklung zu positionieren. Auch hier besteht Nachholbedarf. Denn damit KI chancengerecht arbeitet, sollten auch Frauen in der Entwicklung involviert sein.
Das Treffen bot neben den Vorträgen und Diskussionsrunden sowie einer Führung durch das IBM Innovation Studio auch noch Zeit zum Austausch der FFMP-Teilnehmerinnen untereinander sowie mit den Mentor:innen.
Wir freuen uns schon auf die nächste Runde mit neuem Input!