Skip to main content
SpringerLink
Log in

Toys are us: KI, Diversität und soziale Ungleichheit. Oder: KI für Alle?

  • Chapter
  • First Online:
Künstliche Intelligenz, Mensch und Gesellschaft

  • 1076 Accesses

Zusammenfassung

In diesem Artikel werden KI-gestützte Entwicklungen im Kontext gesellschaftlicher Differenzverhältnisse diskutiert. Im Rahmen dessen sind relevante Aussagen zu marginalisierten Personengruppen erfasst. Ziel ist ein differenziertes Verständnis von KI-Verfahren, in ihrer komplexen Einbettung in gesellschaftliche und kulturelle Wirklichkeiten. Dies geschieht auf zweifache Weise: Geschlecht, Behinderung, Alter, „race“ und Herkunft werden als Zielgruppen ins Visier genommen. Außerdem werden technologische Logiken als Querschnittsthema verhandelt. Ausgangspunkt bildet die These, dass sich diskriminierende Muster und Machtverhältnisse durch KI modernisieren, aber nicht auflösen. Anders formuliert: Technik verändert sich, Ungleichheit bleibt bestehen. Überdies entsteht durch KI die Gefahr neuer Formen von Ungleichheit entlang von Kriterien der technologischen Verwertbarkeit von Vielfalt und Differenz. Mittels KI-Technologien entstehen zudem neue Zugriffspunkte für verschiedene Ökonomisierungs-, Regierungs- und Herrschaftspraktiken. Gleichwohl wird KI-Technik als nicht determiniert verstanden. Viel eher entsteht ein neues Spannungsverhältnis zwischen neuen (kapitalistischen) Regierungs- und Herrschaftspraktiken sowie (politischem) Gestaltungspotential.

This is a preview of subscription content, log in via an institution to check access.

Access this chapter

Log in via an institution
Chapter
USD 29.95
Price excludes VAT (USA)
  • Available as PDF
  • Read on any device
  • Instant download
  • Own it forever
eBook
USD 49.99
Price excludes VAT (USA)
  • Available as EPUB and PDF
  • Read on any device
  • Instant download
  • Own it forever

Tax calculation will be finalised at checkout

Purchases are for personal use only

Institutional subscriptions

Notes

  1. 1.

    „Race“ steht in Anführungszeichen, da es keine menschlichen „Rassen“ gibt. Die Beschäftigung mit „race“ in den Sozial- und Kulturwissenschaften bedeutet stattdessen eine Auseinandersetzung mit verschiedenen Formen des Rassismus. In diesem Sinne geht es in diesem Artikel u. a. um eine rassismuskritische Auseinandersetzung mit Künstlicher Intelligenz (KI). Gefragt wird nach Prozessen der Rassifizierung durch die KI-Entwicklung.

  2. 2.

    Mit dem Begriff sozialer Zugehörigkeit wird auf sozial-ökonomisch benachteiligte Personen rekurriert. Ein anderer Begriff ist „Klasse“.

  3. 3.

    Gesellschaftliche Differenzverhältnisse: In diesem Artikel wird von Differenz, bzw. von Differenzkategorien gesprochen, um Differenz als das ‚Andere‘, bzw. Nicht-Identische zu kennzeichnen. Zum einen meint Differenz hier Alterität (Andersheit) oder Alienität (Fremdheit). In poststrukturalistischen Debatten ist Differenz das Nicht-Identische, bzw. Andere. Es geht um eine Kritik am dualistischen Denken in der Aufklärung und den diesen begründenden Begriffsapparat der Sozial-/Kulturwissenschaften.

  4. 4.

    In einer inklusiven Gesellschaft gibt es keine definierte Normalität, welche die Mitglieder einer Gesellschaft anstreben oder erfüllen müssen. Normal ist die Tatsache, dass Unterschiede zwischen den Individuen vorhanden sind. Unterschiede werden als Bereicherung interpretiert. Inklusion beschreibt die Gleichwertigkeit eines Individuums, ohne dass Normalität vorausgesetzt wird. Normal ist vielmehr die Vielfalt.

  5. 5.

    Eng mit der Kritik am Kolonialismus verbunden, ist die radikale Analyse von Modernität und der gewaltsamen Eroberung weiter Teile der Welt durch europäische und andere Mächte. Die mit dieser Eroberung einhergehende Ideologie kultureller und technischer Überlegenheit sowie ihre verwendeten Dichotomien, in der Beschreibung der Welt, werden in der postkolonialen Theorie radikal infrage gestellt. Aus diesem Grund gibt es eine gesellschaftswissenschaftliche Diskussion über den Begriff der Moderne. Im Mittelpunkt steht die Kolonialität der Moderne. Deswegen wird inzwischen von einer pluralen, vielfältigen Moderne gesprochen, die nicht allein eine westliche Perspektive einbezieht (vgl. Kerner 2021). Aufgrund ihrer engen Verknüpfung mit militärischer und patriarchaler Gewalt, kapitalistischer Ausbeutung und Zerstörung der Natur, ist die Geschichte der „modernen“ Technologie weder „unschuldig“ noch neutral. Technik wurde als Mittel der Kolonisierung eingesetzt und heutige Innovationen basieren nicht selten auf Rohstoffen, die unter postkolonialen Ausbeutungsverhältnissen gewonnen werden. Die hegemoniale Vorstellung von technischem Fortschritt und die ihr zugrunde liegenden Ideen von Aufklärung und Rationalismus sind eng mit den Herrschaftsansprüchen des globalen Nordens verflochten. Zwar tritt die technologische Entwicklung mit dem Anspruch auf, universalistisch dem Wohl aller Menschen zu dienen, tatsächlich bleibt sie aber den partikularen Interessen postkolonialer Metropolen verpflichtet. Damit stellt sich die Frage, wie die Verzahnung des technologische Fortschrittsversprechens mit der europäischen Moderne gelöst werden kann (Jour Fixe Initiative, Berlin & Frankfurt 2022).

  6. 6.

    Universal Design, deutsch Universelles Design, ist ein internationales Design-Konzept, welches Produkte, Geräte, Umgebungen und Systeme derart gestaltet, dass sie für so viele Menschen wie möglich, ohne weitere Anpassung oder Spezialisierung, nutzbar sind. Der Begriff „Universelles Design“ wird häufig mit anderen Begriffen, wie z. B. „Design für Alle“ oder Barrierefreiheit, gleichgesetzt und synonym gebraucht. Doch auch wenn sich die Begriffe sehr ähneln, unterscheiden sie sich in ihren Grundgedanken. Design für Alle als europäische Strategie meint aus diesem Grund, verschiedene Gruppen von Menschen zu integrieren, ohne eine Einheitlichkeit zu erzwingen.

  7. 7.

    Vgl. International Research Network on Design (and) Activism. Siehe den Link: https://desactivism.wordpress.com/. Siehe außerdem: Design Activist Institute. http://designactivistinstitute.org/. The Design Activist Institute is a Philadelphia-based, intersectional, feminist, autonomous, grassroots collective of designers working for radical, utopian resistance and building a better world.

  8. 8.

    Siehe beispielsweise, Link: https://www.uni-kassel.de/eecs/gedis/forschung/recoding und https://tupviskom.net/category/re-search/. Homepage Prof. Johanna Schaffer, Universität Kassel. (abgerufen 31.3.2023).

  9. 9.

    Ein Beispiel: https://ride4all.nrw/sofia-inklusiv. Abgerufen am 7.8.2022.

  10. 10.

    Siehe: Institut für digitale Teilhabe. Link: https://www.hs-bremen.de/die-hsb/fakultaeten/elektrotechnik-und-informatik/forschung-und-transfer/institut-fuer-digitale-teilhabe/#c18998. Abgerufen am 25.07.2022.

  11. 11.

    Siehe die Homepage – Link: https://www.interaktive-technologien.de/projekte/dof-adaptiv.

    Abgerufen am 25.07.2022.

Literatur

  • Barad, Karen. 2012. Agentieller Realismus: Über die Bedeutung materiell-diskursiver Praktiken. Berlin: edition unseld.

    Google Scholar 

  • Bath, Corinna und Yvonne, Bauer, u.a. (Hrsg.). 2005. Materialität denken. Expertisen zur technologischen Verkörperung – Hybride Artefakte, posthumane Körper. Bielefeld: transcript Verlag.

    Google Scholar 

  • Bauer, Susanne, Thorsten Heinemann und Thomas Lemke (Hrsg.). 2017. Science and Technology Studies. Klassische Positionen und aktuelle Perspektiven. Berlin: Suhrkamp Verlag.

    Google Scholar 

  • Beck, Ulrich. 2015a. Moderne. In Lexikon der Soziologie und Sozialtheorie. Hundert Grundbegriffe, hrsg. von Sina Farzin und Stefan Jordan, 198–201. Ditzingen: reclam.

    Google Scholar 

  • Beck, Ulrich. 2015b. Risikogesellschaft, Berlin: suhrkamp Verlag.

    Google Scholar 

  • Bergt, Svenja. 2023. Moratorium über Umgang mit KI: Pause mit Problemen Hilft ein temporärer Entwicklungsstopp, KI in Bahnen zu lenken? Expert:innen finden, die Forderung gehe an den echten Gefahren vorbei. März 31. https://taz.de/Moratorium-ueber-Umgang-mit-KI/!5925502&s=KI/ (abgerufen am 31.03.2023).

  • Bieling, Tom. 2019. DESIGN (&) ACTIVISM – Perspectives on Design as Activism and Activism as Design. Mimesis International (Design Meanings).

    Google Scholar 

  • Bieling, Tom. 2021. Inklusion als Entwurf. Birkhäuser: DeGruyter.

    Google Scholar 

  • Biniok, Peter, und Eric Lettkemann. 2017. Assistive Gesellschaft. Multidisziplinäre Erkundungen zur Sozialform „Assistenz“. Wiesbaden: Springer Verlag.

    Google Scholar 

  • Blanc, Berit, und Susan Beudt. 2022. Monitoring KI-gestützter Assistenztechnologien für Menschen mit Behinderungen. Stand der Entwicklungen und Trends. Ergebnisbericht des Projekts KI.ASSIST. Bundesverband Deutscher Berufsförderungswerke e. V.

    Google Scholar 

  • Butollo, Florian, und Sabine Nuss. 2019. Marx und die Roboter. Vernetzte Produktion, Künstliche Intelligenz und lebendige Arbeit. Berlin: Dietz Verlag.

    Google Scholar 

  • Daum, Timo. 2019: Künstliche Intelligenz als vorerst letzte Maschine des digitalen Kapitals. In: Marx und die Roboter. Vernetzte Produktion, Künstliche Intelligenz und lebendige Arbeit, hrsg. Florian Butollo und Sabine Nuss, 311–327. Berlin: Dietz Verlag.

    Google Scholar 

  • Endter, Cordula. 2020. Assistiert Altern. Die Entwicklung digitaler Technologien für und mit älteren Menschen. Wiesbaden: Springer Verlag.

    Google Scholar 

  • Engel, Antke. 2007. Gefeierte Vielfalt. Umstrittene Heterogenität. Befriedete Provokation. Sexuelle Lebensformen in spätmodernen Gesellschaften. In Heteronormativität und Homosexualitäten, hrsg. Rainer Bartel, Waltraud Finster, Meinrad Ziegler, 43–64. Innsbruck, Wien, Bozen: Studien Verlag.

    Google Scholar 

  • Feministische Studien. 2019. Cyborgs Revisited: Zur Verbindung von Geschlecht, Technologien und Maschinen. 37/2. https://blog.feministische-studien.de/aktuell/.

  • Fink, Dagmar. 2021. Cyborg werden. Möglichkeitshorizonte in feministischen Theorien und Science Fictions. Bielefeld: transcript

    Google Scholar 

  • Fraser, Nancy. 2003. Umverteilung oder Anerkennung? Eine politisch-philosophische Kontroverse. Frankfurt: suhrkamp Verlag.

    Google Scholar 

  • GENDER. 2019. Zeitschrift für Geschlecht, Kultur und Gesellschaft. Schwerpunkt: Gender, Technik und Politik 4.0. 11/3. Leverkusen: Budrich Verlag.

    Google Scholar 

  • Hamraie, Aimi, und Kelly Fritsch, 2019. Crip technoscience manifesto. Catalyst: Feminism, Theory. Technoscience, 5/1: 1–34. https://catalystjournal.org/index.php/catalyst.

  • Haraway, Donna. 1995a. Die Neuerfindung der Natur. Frankfurt/New York.

    Google Scholar 

  • Haraway, Donna. 1995b. Ein Manifest für Cyborgs. Feminismus im Streit mit den Technowissenschaften. Frankfurt, New York.

    Google Scholar 

  • Henwood, Flis, und Sally Wyatt. 2019. Technology and In/Equality, Questioning the Information Society (Almost) 20 Years Later. In DCS. Digital Culture and Society. 5/1. 183–194. Bielefeld: transcript Verlag.

    Google Scholar 

  • Heiler, Hannes. 2020. Frankfurter Behindertenarbeitsgemeinschaft (FBAG). Fachausschuss Verkehr und Beförderungsdienst. Sprecher: Hannes Heiler. Stellungnahme zum neuen Nahverkehrsplan (NVP) der Stadt Frankfurt am Main.

    Google Scholar 

  • Holert, Tom, und Mark Terkessidis. 1997. Mainstream der Minderheiten. Berlin: Edition ID-Archiv.

    Google Scholar 

  • Houben, Daniel, und Bianca Prietl. 2018. Datengesellschaft. Einsichten in die Datafizierung des Sozialen. Bielefeld: transcript Verlag.

    Google Scholar 

  • Imbusch, Peter. 1998. Macht und Herrschaft in der wissenschaftlichen Kontroverse. In Peter Imbusch, Macht und Herrschaft. Sozialwissenschaftliche Theorien und Konzeptionen. 275–299.

    Google Scholar 

  • Jour Fixe Initiative Berlin/Frankfurt. 2022. Vortragsreihe: Dialektik der Technik. Sommer 2022. https://www.jourfixe.net/index.php/veranstaltungsreihe/dialektik-der-technik.

  • Kalender, Ute. 2011. Körper von Wert: Eine kritische Analyse der bioethischen Diskurse über die Stammzellforschung. Bielefeld: transcript Verlag.

    Google Scholar 

  • Kerner, Ina. 2021. Postkoloniale Theorien zur Einführung. Hamburg: Junius Verlag.

    Google Scholar 

  • Klein, Barbara. 2020. Hilfsmittel, Assistive Technologien und Robotik. Selbständigkeit und Lebensqualität im Alter erhalten. Stuttgart. Wiesbaden: Springer Verlag.

    Google Scholar 

  • Latour, Bruno. 2010: Eine neue Soziologie für eine neue Gesellschaft: Einführung in die Akteur-Netzwerk-Theorie. Berlin: Suhrkamp-Verlag.

    Google Scholar 

  • Lemke, Thomas. 2000. Neoliberalismus, Staat und Selbsttechnologien. Ein kritischer Überblick über die gouvernmentality studies. http://www.thomaslemkeweb.de/engl.%20texte/Neoliberalismus%20ii.pdf.

  • Lorey, Isabell, Roberto Nigro, und Gerald Raunig. 2011. Inventions. Actualizing Poststructuralist Theory. Transversal.at. https://www.transversal.at/transversal/0811/raunig-lorey-nigro/en?hl=Assemblage.

  • Netznova*. 2020. Wenn KI dann feministisch. Impulse aus Wissenschaft und Aktivismus. Berlin: Netznova.

    Google Scholar 

  • Pfeiffer, Sabine. 2021. Digitalisierung als Distributivkraft. Über das Neue am digitalen Kapitalismus. Bielefeld: transcript Verlag.

    Google Scholar 

  • Raab, Heike. 2011. Sexuelle Politiken. Die Diskurse zum Lebenspartnerschaftsgesetz. Frankfurt/ New York: Campus Verlag.

    Google Scholar 

  • Ravneberg, Bodil, und Sylvia Söderström. 2018. Disability, Society and Assistive Technology. London/New York. Routledge.

    Google Scholar 

  • Schaupp, Simon. 2021. Technopolitik von unten: Algorithmische Arbeitssteuerung und kybernetische Proletarisierung. Berlin: Matthes & Seitz.

    Google Scholar 

  • Schmid, Florian. 2023. Künstliche Intelligenz: Angst-Gegner oder Verbündete? In der Science-Fiction treten künstliche Intelligenzen schon seit Jahrzehnten auf. Erst allmählich nicht mehr nur als Bösewichte. Neues Deutschland. März 24. https://www.nd-aktuell.de/artikel/1171963.science-fiction-kuenstliche-intelligenz-angst-gegner-oder-verbuendete.html.

  • Schmitz, Sigrid. 2021. TechnoBrainBodies-in-Cultures: An Intersectional Case. In Frontiers in Sociology. https://www.frontiersin.org/articles/https://doi.org/10.3389/fsoc.2021.651486/full.

  • Staab, Philipp. 2020. Digitaler Kapitalismus. Berlin: suhrkamp Verlag.

    Google Scholar 

  • Suchmann, Lucy. 2019. Feministische Science & Technology Studies (STS) und die Wissenschaften vom Künstlichen. GENDER. Zeitschrift für Geschlecht, Kultur und Gesellschaft. Schwerpunkt: Gender, Technik und Politik 4.0.,11/3: 56–84. Leverkusen: Budrich Verlag.

    Google Scholar 

  • Waldschmidt, Anne. 2014. Macht der Differenz: Perspektiven der Disability Studies auf Diversität, Intersektionalität und soziale Ungleichheit. In Soziale Probleme. Zeitschrift für soziale Probleme und soziale Kontrolle, 25/2: 173–193. Herbolzheim: BELTZ/ Juventa.

    Google Scholar 

  • Weber, Jutta. 2002. Technoscience als Epoche? Ontologische, epistemologische und narrative Grundlagen der Techno/Wissenschaften. In Techniken der Reproduktion. Medien – Leben – Diskurse. hrsg. Bergermann, Ulrike. Helmer Verlag, Königstein, S. 51–66.

    Google Scholar 

  • Weber, Jutta. 2003. Umkämpfte Bedeutungen: Natur im Zeitalter der Technoscience. Frankfurt am Main. Campus Verlag.

    Google Scholar 

  • Weber, Jutta, und Bianca Prietl. 2021. On the Rise of Data Driven AI and its Epistem-Ontological Foundations. In The Routledge Social Science Handbook of Ai., eds. Anthony Elliott, 58 – 74. Routledge.

    Google Scholar 

  • Wentz, Daniela. 2022. “You make me feel like a natural woman‹.(Neuro)queerness und Affective Computing”. Unveröff. Vortrag. Internationale Tagung – DIGITAL GENDER: ETHIK, MACHT UND (GESCHLECHTER-)WISSEN IN SYSTEMEN KÜNSTLICHER INTELLIGENZ. APRIL.

    Google Scholar 

  • Whittaker, Meredith, Meryl Alper und Cynthia L Bennett. 2019. Disability, Bias, and AI. AI Now – Institute at New York University (NYU). New York. chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://ainowinstitute.org/disabilitybiasai-2019.pdf.

Download references

Author information

Authors and Affiliations

  1. Langenselbold, Deutschland

    Heike Raab

Authors
  1. Heike Raab
    View author publications

    You can also search for this author in PubMed Google Scholar

Corresponding author

Correspondence to Heike Raab .

Editor information

Editors and Affiliations

  1. Institut für Sozialwissenschaftliche Forschung e.V. – ISF München, München, Deutschland

    Michael Heinlein

  2. Institut für Sozialwissenschaftliche Forschung e.V. – ISF München, München, Deutschland

    Norbert Huchler

Rights and permissions

Reprints and permissions

Copyright information

© 2024 Der/die Autor(en), exklusiv lizenziert an Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature

About this chapter

Check for updates. Verify currency and authenticity via CrossMark

Cite this chapter

Raab, H. (2024). Toys are us: KI, Diversität und soziale Ungleichheit. Oder: KI für Alle?. In: Heinlein, M., Huchler, N. (eds) Künstliche Intelligenz, Mensch und Gesellschaft. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-43521-9_11

Download citation

  • DOI: https://doi.org/10.1007/978-3-658-43521-9_11

  • Published:

  • Publisher Name: Springer VS, Wiesbaden

  • Print ISBN: 978-3-658-43520-2

  • Online ISBN: 978-3-658-43521-9

  • eBook Packages: Social Science and Law (German Language)

Publish with us

Policies and ethics

Search

Navigation