Wenn der Algorithmus dich nicht für fähig hält – Ein Einblick in diskriminierende Algorithmen und fair AI

»Wenn der Algorithmus dich nicht für fähig hält – Ein Einblick in diskriminierende Algorithmen und fair AI

Maschinelle Lernverfahren haben mittlerweile einen festen Platz in unserer Gesellschaft eingenommen: Ob bei der Bewerber*innenauswahl, medizinischen Behandlungsempfehlung oder Kreditwürdigkeitsprüfung – oft unterstützen oder ersetzen sie gar menschliche Entscheidungsträger*innen. Während die Vorteile solcher Automatisierung unbestreitbar sind, wird vermehrt über Algorithmen berichtet, die bestimmte Personengruppen wegen sogenannter sensibler Merkmale, wie z.B. Geschlecht oder Hautfarbe, diskriminieren. Besonders als Frauen sind wir oft davon betroffen. Können Algorithmen lernen „fair“ zu entscheiden? Kann man „Fairness“ überhaupt messen? Wir geben euch einen Einblick in das Forschungsfeld des fairen maschinellen Lernens, das sich mit diesen Fragen befasst. Diskutiert mit uns, vor welche Herausforderungen uns automatisierte Entscheidungssysteme stellen und was wir dagegen tun können!

MIRIAM RATEIKE

Miriam Rateike ist Doktorandin am Max-Planck-Institut für Intelligente Systeme in Tübingen und wissenschaftliche Mitarbeiterin am Lehrstuhl für Maschinelles Lernen der Universität des Saarlandes in Saarbrücken. Ihr primäres Forschungsinteresse gilt Fairness im Maschinellen Lernen. Dabei konzentriert sie sich auf die Entwicklung von Entscheidungsalgorithmen, die eine Diskriminierung bestimmter Personengruppen anhand sensibler Merkmale, wie z.B. Geschlecht oder Hautfarbe, verhindern. Darüber hinaus interessiert sie sich für den Schnittpunkt von Causality, Regulation und Ethical AI. Als aktives Mitglied der NGO TReND unterstützt Miriam den Ausbau wissenschaftlicher Kapazitäten auf dem afrikanischen Kontinent.

KLARA KRIEG

Klara Krieg hat, ebenso wie Miriam, im Bachelor Wirtschaftsingenieurwesen studiert. Direkt danach hat sie zwei Jahre lang bei Airbus im IT-Projektmanagement gearbeitet und sich dann dazu entschieden, ihrer Leidenschaft für die Informatik nachzugehen. Das führte sie nach Innsbruck, wo sie aktuell Wirtschaftsinformatik im Master studiert. Sie brennt für die Themen der biased neural networks und fair AI – über Femtec Alumnae wurde sie glücklicherweise mit Miriam zusammengebracht. Klara setzt sich darüber hinaus in verschiedenen Netzwerken wie PANDA oder net4tec für die Förderung von Frauen in Tech & IT ein.

Empfohlenes Erfahrungslevel: Alle

Teilnahmebeschränkung: ohne

Anmeldung ohne 

>> Zurück zur Programmübersicht <<