disparate impact
Bemerkungen
Ein Handbuch zum Umgang mit dieser Art von statistischer Ungleichbehandlung gibt ein interessantes Beispiel für einen ungewollt schlechterstellenden Prozess: An einer Schule müssen alle Schüler und Schülerinnen, die zu spät kommen, zum Gespräch zur Schulleiterin. Damit verpassen sie natürlich noch mehr Unterricht als durch das Zuspätkommen allein. Es stellt sich nun heraus, dass eine Gruppe, die asiatisch-amerikanischen Kinder, viel öfter zur Schulleiterin muss als andere Kinder. Eine genauere Untersuchung ergibt, dass diese Kinder weiter weg von der Schule wohnen und selbst der früheste Schulbus oft zu spät zur Schule kommt. Da es ja eigentlich um einen Schutz des Unterrichts geht, der durch Disziplinlosigkeit entsteht, die Schüler und Schülerinnen für ihre Verspätung aber nichts können, gilt das als disparate impact. Daher muss der Prozess laut amerikanischem Recht hier geändert werden: Zum Beispiel könnte die Regel für Kinder, die aufgrund einer Verspätung des Schulbusses zu spät kommen, nicht gelten, oder die Schule sorgt dafür, dass die Schulbusse früher losfahren.
Von Katharina A. Zweig im Buch Die KI war's! (2023) im Text Apples Pay Card: Sexismus pur? Verwandte Objeke
Verwandte Begriffe (co-word occurance) | Word embedding(0.03) |
Häufig co-zitierte Personen
Judea
Pearl
Pearl
Vitaly
Shmatikov
Shmatikov
Andrew D.
Selbst
Selbst
Kate
Crawford
Crawford
Katharina A.
Zweig
Zweig
Virginia
Eubanks
Eubanks
Arvind
Narayanan
Narayanan
Solon
Barocas
Barocas
Safiya Umoja
Noble
Noble
Frank
Pasquale
Pasquale
Joy
Buolamwini
Buolamwini
Statistisches Begriffsnetz
Zitationsgraph
Zitationsgraph (Beta-Test mit vis.js)
Zeitleiste
12 Erwähnungen
- The Testing and Learning Revolution - The Future of Assessment in Education (Edmund W. Gordon, Kavitha Rajagopalan)
- Higher Education - Handbook of Theory and Research (John C. Smart) (2010)
- The Math Myth - And Other STEM Delusions (Andrew Hacker) (2016)
- Total berechenbar - Wenn Algorithmen für uns entscheiden (Christoph Dröser) (2016)
- Big Data’s Disparate Impact (Solon Barocas, Andrew D. Selbst) (2016)
- Diskriminierungsrisiken durch Verwendung von Algorithmen - Eine Studie, erstellt mit einer Zuwendung der Antidiskriminierungsstelle des Bundes. (Carsten Orwat) (2019)
- New Perspectives in Critical Data Studies - The Ambivalences of Data Power (Andreas Hepp, Juliane Jarke, Leif Kramp) (2022)
- Indigenous Peoples, Data, and the Coloniality of Surveillance (Donna Cormack, Tahu Kukutai)
- Algorithmen und Autonomie - Interdisziplinäre Perspektiven auf das Verhältnis von Selbstbestimmung und Datenpraktiken (Dan Verständig, Christina Kast, Janne Stricker, Andreas Nürnberger) (2022)
- Künstliche Intelligenz und Fairness im Bildungskontext (Katharina Simbeck)
- Die KI war's! - Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz (Katharina A. Zweig) (2023)
- Fairness and Machine Learning - Limitations and Opportunities (Solon Barocas, Moritz Hardt, Arvind Narayanan) (2023)