Passend zum Ideenwettbewerb "Digitalisierung, Mitbestimmung, gute Arbeit" hat sich das Projekt "DiKI - Diskriminiert durch Künstliche Intelligenz" damit beschäftigt, wie die Diskriminierung nach Geschlecht, Alter oder Herkunft durch Künstliche Intelligenz verhindert werden kann. Ergänzend sollte betrachtet werden, wie gerade Künstliche Intelligenz durch vorurteilsfreie Vorschläge Diskriminierung reduzieren kann. Dabei ist darauf zu achten, dass nicht eine Form der Diskriminierung, die durch den bereits bestehenden (menschlichen) Auswahlprozess beeinflusst wird, durch eine weitere Art der Diskriminierung ersetzt oder ergänzt wird. Die Diskriminierung durch Daten ist dabei mit deutlich höheren Risiken verbunden, weil sie nicht erwartet wird.

Im Rahmen des Projektes sollte analysiert werden, welche typischen Ansätze zur Mustererkennung für Talent Analytics bereits genutzt werden. Unter Talent Analytics verstehen wir die Analyse von personen- und prozessbezogenen Daten mit dem Ziel Beschäftigte auszuwählen, einzuarbeiten, zu bewerten, weiterzuentwickeln beziehungsweise in Teams zusammenzustellen und zu halten. Im Projekt „DiKI“ sollen reale Daten mit typischen Algorithmen analysiert werden, dabei soll untersucht werden inwiefern die Algorithmen anfällig für Diskriminierung sind.

Als Ergebnis soll Best-Practice Handlungswissen erstellt werden, mit welchem Mitarbeiter-Vertretende, Personalverantwortliche und/oder, Politiker_innen die Nutzung von Methoden der Künstlichen Intelligenz im Rahmen von Talent Analytics verstehen, potentielle Diskriminierung erkennen und damit im Idealfall vermeiden können.

• Prof. Dr. phil. Jürgen Radel (Projektleitung)
• Prof. Dr. Katharina Simbeck (Projektleitung)

• Tina Arens (Projektmitarbeiter_in)
• Finn Folkerts (Projektmitarbeiter_in)
• Vanessa Schreck (Projektmitarbeiter_in)

Hans-Böckler-Stiftung

Forschungsförderung

https://iug.htw-berlin.de/?page_id=92