Diskriminierungsrisiken durch Verwendung von Algorithmen

Eine Studie, erstellt mit einer Zuwendung der Antidiskriminierungsstelle des Bundes.

Carsten Orwat , 16.09.2019

Dieses Buch erwähnt ...

Ajay Agrawal , Solon Barocas , Kate Crawford , Virginia Eubanks , Sarah Fischer , Luciano Floridi , Joshua Gans , Avi Goldfarb , Carter Jernigan , Jannis Kallinikos , Michal Kosinski , Konrad Lischka , Behram Mistree , Frank Pasquale , Jon Penney , Andrew D. Selbst , Yilun Wang , Meredith Whittaker , Xiaolin Wu , Xi Zhang , Katharina A. Zweig

Aussagen
KB IB clear

Algorithmen können Diskriminierung fördern algorithms can promote discrimination.
Machine Learning kann bestehende Vorurteile/Ungerechtigkeiten verstärken/weitertragen
Spracherkennung funktioniert bei weiblichen Stimmen oft schlechter als bei männlichen

Begriffe
KB IB clear

algorithmic bias ,

Algorithmus

algorithm , automation bias ,

big data

big data , chilling effect ,

datafication ,

Daten

data ,

Datenbank

database , disparate impact , explainable AI ,

society ,

machine , Mimikerkennung , Predictive Policing Predictive Policing ,

Staat ,

Suchmaschine

search engine , Technikfolgenabschätzung Technology Assessment , Word embedding

Bücher

Jahr	Titel	Abrufe	IB	OB	KB	LB
	The Cambridge Handbook of Information and Computer Ethics (Luciano Floridi)		1	7	0	0
2011	Governing Through Technology (Jannis Kallinikos)	3, 1, 7, 6, 2, 3, 4, 2, 1, 5, 2, 2	1	7	2	295
2015	The Black Box Society (Frank Pasquale)	4, 6, 3, 2, 1, 1, 7, 4, 4, 9, 2, 2	45	22	2	174
2018	Automating Inequality (Virginia Eubanks)	5, 4, 3, 1, 1, 2, 14, 3, 6, 6, 4, 1	33	9	1	457
2018	Wo Maschinen irren können (Katharina A. Zweig, Sarah Fischer, Konrad Lischka)	3, 7, 5, 1, 1, 1, 7, 3, 5, 5, 5, 3	3	16	3	408
2022	Prediction Machines (Ajay Agrawal, Joshua Gans, Avi Goldfarb)		9	33	0	0

Texte

Jahr	Titel	Abrufe	IB	OB	KB	LB
	Deep neural networks are more accurate than humans at detecting sexual orientation from facial images (Michal Kosinski, Yilun Wang)	2, 9, 14, 8, 1, 2, 8, 6, 6, 10, 3, 6	10	11	6	463
2009	Gaydar: Facebook friendships expose sexual orientation (Carter Jernigan, Behram Mistree)	5, 9, 11, 3, 3, 2, 7, 1, 2, 7, 2, 3	6	8	3	631
2016	Automated Inference on Criminality using Face Images (Xiaolin Wu, Xi Zhang)	1, 3, 3, 6, 5, 5, 1, 2, 3, 1, 2, 2	7	3	2	137
2016	Chilling Effects (Jon Penney)	1, 3, 4, 6, 9, 4, 2, 3, 1, 2, 2, 1	3	8	1	151
2016	Big Data’s Disparate Impact (Solon Barocas, Andrew D. Selbst)		9	9	0	0
2016	The AI Now Report (Kate Crawford, Meredith Whittaker)	6, 5, 13, 3, 1, 4, 6, 2, 4, 6, 4, 1	2	10	1	263

Dieses Buch erwähnt vermutlich nicht ...

Nicht erwähnte Begriffe

datafication in education

Zitationsgraph

Diese SVG-Grafik fensterfüllend anzeigen

Zitationsgraph (Beta-Test mit vis.js)

Zeitleiste

10 Erwähnungen

Diskriminiert vom Computerprogramm (Max Muth) (2019)
Learning Analytics und Big Data in der Bildung - Zur notwendigen Entwicklung eines datenpolitischen Alternativprogramms (Sigrid Hartong) (2019)
Big Data, Datafizierung und digitale Artefakte (Stefan Iske, Johannes Fromme, Dan Verständig, Katrin Wilde) (2020)
- Digitalisierung und Datafizierung - Big Data als Herausforderung für die Schulbildung (Regine Buschauer, Christian Wadephul)
Algorithmen für faire Bildungschancen (Florian Wüstholz) (2020)
Das Patriarchat der Dinge - Warum die Welt Frauen nicht passt (Rebekka Endler) (2021)
Sachunterricht in der Informationsgesellschaft (Andrea Becher, Eva Blumberg, Thomas Goll, Kerstin Michalik, Claudia Tenberge) (2022)
- Sachunterricht in der Informationsgesellschaft (Friedrich Gervé) (2022)
Kompetenzmodelle für den Digitalen Wandel - Orientierungshilfen und Anwendungsbeispiele (Ralf Knackstedt, Jürgen Sander, Jennifer Kolomitchouk) (2022)
- 5. Künstliche Intelligenz und ihre Anforderungen an den Kompetenzerwerb (Katharina Teuber, Azadeh Dindarian, Naz Cilo-van Norel Ekaterina)
Mensch, Maschine, Identität - Ethik der Künstlichen Intelligenz (Orlando Budelacci) (2022)
Populismus und Protest - Demokratische Öffentlichkeiten und Medienbildung in Zeiten von Rechtsextremismus und Digitalisierung (Sabrina Schenk) (2024)
- Algorithmische Sozialtechnologien als neue Bildungsherausforderungen - Eine systemtheoretische Betrachtung zu Big Data Analytics und Social Scoring (Harald Gapski)
Generative KI – jenseits von Euphorie und einfachen Lösungen (Judith Simon, Indra Spiecker gen. Döhmann, Ulrike von Luxburg) (2024)

Co-zitierte Bücher

Automating Inequality

(Virginia Eubanks) (2018) local

Volltext dieses Dokuments

Diskriminierungsrisiken durch Verwendung von Algorithmen: Gesamtes Buch als Volltext ( lokal

, 1401 kByte; WWW

Link unterbrochen? Letzte Überprüfung: 2021-03-21 Letzte erfolgreiche Überprüfung: 2019-10-17)

Anderswo suchen

Beat und dieses Buch

Beat hat dieses Buch während seiner Zeit am Institut für Medien und Schule (IMS) ins Biblionetz aufgenommen. Beat besitzt kein physisches, aber ein digitales Exemplar. Eine digitale Version ist auf dem Internet verfügbar (s.o.).

Beats Biblionetz - Bücher