Inhalt

StereOFF ‒ Automatisierte Identifikation und Analyse von Geschlechterstereotypen - Civic Innovation Platform

StereOFF ‒ Automatisierte Identifikation und Analyse von Geschlechterstereotypen

Geschlechterstereotype sind eine der Hauptursachen für Geschlechterungleichheiten. Diese Herausforderung möchten das Deutschen Forschungszentrums für Künstliche Intelligenz GmbH (DFKI) und die Didactic Innovations GmbH mit ihrer Idee angehen: Geschlechterstereotype und einhergehende implizite Diskriminierung in Lernmaterialien des Aus- und Weiterbildungsbereichs sollen automatisiert identifiziert werden. Dies soll zu einer inklusiven Aus- und Weiterbildung beitragen und damit aus Geschlechterungleichheiten resultierenden Herausforderungen, wie dem Gender Pay Gap oder dem Fachkräftemangel, entgegenwirken. Langfristig können wir diese Analysen aufgrund ihrer technologischen Grundlage auf vielfältige Domänen übertragen und so langfristig Ungerechtigkeiten verschiedener Gesellschaftsebenen bekämpfen.

Weswegen seid ihr ein starkes Team?

Wir sind ein starkes Team, da unsere Kompetenzen sich ergänzen: Didaktisches Know-how trifft auf KI-Expertise für innovative Bildungslösungen. Gemeinsame Ziele, schnelle Umsetzung von Forschung in Praxis und erweiterte Partnerschaften ermöglichen effiziente, nachhaltige Lösungen. Diese Zusammenarbeit stärkt unsere Möglichkeiten und ermöglicht es uns, anspruchsvolle Projekte erfolgreich umzusetzen und einen positiven Beitrag zur Gesellschaft zu leisten.

Eure Idee in drei Sätzen erklärt. 

Unser Tool StereOFF identifiziert und automatisiert Geschlechterstereotype in Aus- und Weiterbildungsmaterialien und sensibilisiert Nutzer*innen für implizite Diskriminierung. Grundlage der Analysen sind öffentlich verfügbare Textkorpora (z.B. Filmtranskripte), die einen natürlichen Gender-Bias aufweisen und unsere Geschlechtersozialisation geprägt haben. Ziel von StereOFF ist der Abbau von Geschlechterstereotypen, insbesondere von solchen, die die Berufswahl von Frauen und Männern einschränken.

Was macht eure Idee besonders? 

Durch die Verwendung von Daten aus populärkulturellen Medien, die einen natürlichen Gender-Bias aufweisen (z.B. Filme, Social Media), haben unsere Analysen ein hohes Transferpotenzial. Während sich bisherige Ansätze häufig auf die Analyse von Stellenanzeigen und damit auf wenige Wörter beschränken, ist StereOFF durch die Nutzung öffentlich verfügbarer Textkorpora und bereits trainierter Sprachmodelle langfristig auf eine unerschöpfliche Menge von Anwendungsdomänen adaptierbar.

Wie geht’s jetzt weiter? 

Im Folgenden werden zunächst erste Analysen mit den Filmdaten durchgeführt, um die Machbarkeit des Vorhabens aufzuzeigen. Dazu wird ein reduzierter Datensatz extrahiert und verwendet, um diverse KI-Modelle zu evaluieren und an den spezifischen Use-Case zu adaptieren. Im Anschluss daran erfolgt eine erste Evaluation, um den Nutzen der Projektidee aufzuzeigen. Mit diesen Vorarbeiten gilt es schließlich, die Projektidee in ein vollwertiges Projekt zu überführen, um eine Gesamtumsetzung zu ermöglichen.

Kontakt zum Projektteam