Zusammenfassung
Der Erfolg einer KI-Anwendung wird essenziell durch die Verfügbarkeit der erforderlichen Daten beeinflusst. Abhängig von der verwendeten KI-Methode müssen die Daten gelabelt, das heißt, mit Informationen gekennzeichnet werden, damit diese von Machine-Learning-Algorithmen besser interpretiert werden können und vorverarbeitet werden. Die Daten können aus einer Vielzahl von Quellen stammen. Die Datenvorverarbeitung sollte transparent und nachvollziehbar dokumentiert werden. Das sogenannte Federated Learning ist eine spezielle Technik des verteilten maschinellen Lernens, die es ermöglicht, sensible oder personenbezogene Daten zu nutzen, die Modellgüte entscheidend zu verbessern und gleichzeitig die Datenschutzbestimmungen einzuhalten. Beim Federated Learning wird aus einer Vielzahl einzelner Analysemodelle unterschiedlicher Teilnehmer ein zentrales Modell gebildet. Dieses nimmt wiederum iterativ Einfluss auf die Einzelmodelle. Da KI-Systeme häufig komplex vernetzt sind, besteht die Gefahr unautorisierter Zugriffe und Angriffe auf das System. Durch den Aufbau interner Kompetenzen in IT- und Cybersicherheitskompetenz, die Einhaltung entsprechender Standards, Normen und Frameworks sowie regelmäßige Sicherheitstests kann diesen Risiken aktiv vorgebeugt werden. Bei Technologiesprüngen wie der KI sollten zudem ethische Anforderungen im Sinne der gesellschaftlich verantwortungsvollen und fairen Technologie im Fokus stehen.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Literatur
Abraham R, Schneider J, Vom Brocke J (2019) Data governance: a conceptual framework, structured review, and research agenda. Int J Inf Manage 49:424–438
Algorithm Watch (2019) Atlas der Automatisierung. Algorithm Watch. https://atlas.algorithmwatch.org/. Zugegriffen: 14. Juni 2023
Al-Ruithe M, Benkhelifa E, Hameed K (2019) A systematic literature review of data governance and cloud data governance. Pers Ubiquit Comput 23(5): 839–859
Blind K, Jungmittag A, Mangelsdorf A (2011) der gesamtwirtschaftliche Nutzen der Normung. Eine Aktualisierung der DIN-Studie aus dem Jahr 2000. DIN Deutsches Institut für Normung e. V. https://www.din.de/resource/blob/79542/946e70a818ebdaacce9705652a052b25/gesamtwirtschaftlicher-nutzen-der-normung-data.pdf. Zugegriffen: 14. Juni 2023
Braun S, Follwarczny D (2021) KI-Projekte–diese Rolle spielt die Datenqualität. https://www.elektronikpraxis.de/ki-projekte-diese-rolle-spielt-die-datenqualitaet-a-ffd96eb5acb371952b7c827c46e86a43/. Zugegriffen: 14. Juni 2023
DGUV (Hrsg) (2021) allgemeine Grundsätze für die sicherheitstechnische Bewertung von künstlicher Intelligenz (KI). Deutsche gesetzliche Unfallversicherung. https://publikationen.dguv.de/widgets/pdf/download/article/4348. Zugegriffen: 14. Juni 2023
European Commission (2021) Proposal for a regulation of the European parliament and of the council: Laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts. European Comission. https://eur-lex.europa.eu/legal-content/E N/TXT/HTML/?uri=CELEX:52021PC0206&from=EN. Zugegriffen: 14. Juni 2023
Heesen J, Müller-Quade J, & Wrobel S (2020) Zertifizierung von KI-Systemen: Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme. Whitepaper aus der Plattform Lernende Systeme, München 2020. https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG1_3_Whitepaper_Zertifizierung_KI_Systemen.pdf. Zugegriffen: 14. Juni 2023
Janssen M, Brous P, Estevez E, Barbosa L S, Janowski T (2020) Data governance: organizing data for trustworthy artificial intelligence. Gov Inf Q 37(3):101493
Kazim E, Koshiyama A (2021) The interrelation between data and AI ethics in the context of impact assessments. AI and Ethics 1:219–225
Kirste M, Schürholz M (2019) Einleitung: Entwicklungswege zur KI. In: Wittpahl V (Hrsg) künstliche Intelligenz. Springer Vieweg, Berlin, S 21–35
Lenhard TH (2017) Datensicherheit. Springer Fachmedien, Wiesbaden
Lindemann G, Fritz-Hoffmann C, Matsuzaki H, Barth J (2020) Zwischen Technikentwicklung und Techniknutzung. In: Gransche B, Manzeschke A (Hrsg) Das geteilte Ganze. Springer VS, Wiesbaden
Maack S et al (2020) Deutsche Normungsroadmap künstliche Intelligenz Ausgabe 2. https://www.din.de/resource/blob/916792/20bf33d405710a703aa26f81362493bb/nrm-ki-deutsch-2022-final-web-250-data.pdf. Zugegriffen: 14. Juni 2023
Mangelsdorf A (2019) Normen und Standards in der KI. In: Wittpahl V (Hrsg) künstliche Intelligenz. Springer Vieweg, Berlin, S 48–57
Manzeschke A, Weber K, Rother E, Fangerau H (2013) ethische Fragen im Bereich altersgerechter Assistenzsysteme Ergebnisse der Studie. https://www.feag-elkb.de/system/files/dateien/ethik-broschure.pdf. Zugegriffen: 14. Juni 2023
Mittelstand Digital- Arbeitsgruppe IT-Sicherheit und Arbeitsgruppe künstliche Intelligenz (2021) Schnittstelle KI und IT-Sicherheit: Potenziale und Herausforderungen. Working Paper. Mittelstand 4.0-Kompetenzzentrum Stuttgart c/o FZI Forschungszentrum Informatik. https://www.mittelstand-digital.de/MD/Redaktion/DE/Publikationen/ag-it-sicherheit-publikation-ki-und-it-sicherheit.pdf?__blob=publicationFile&v=3. Zugegriffen: 14. Juni 2023
Norbert Huchler et al (Hrsg) Kriterien für die menschengerechte Gestaltung der Mensch-Maschine-Interaktion bei Lernenden Systemen. Whitepaper aus der Plattform Lernende Systeme. https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG2_Whitepaper2_220620.pdf. Zugegriffen: 14. Juni 2023
Open Data Institute (2021) Data ethics canvas. Open Data Institute. https://theodi2022.wpengine.com/wp-content/uploads/2021/07/Data-Ethics-Canvas-German-Colour.pdf. Zugegriffen: 14. Juni 2023
Pieper A (2017) Einführung in die Ethik. Utb, Stuttgart
Schröter L, Höfers P (2022) Praxishandbuch Künstliche Intelligenz: Handlungsanleitungen, Praxistipps, Prüffragen, Checklisten. Bund-Verlag, Frankfurt a. M.
Steimers A, Bömer T (2019) Auswirkungen künstlicher Intelligenz auf Normung und Arbeitsschutz. In: GfA (Hrsg) GfA-Frühjahrskongress 2019: Arbeit interdisziplinär analysieren – bewerten – gestalten. GfA-Press, Dortmund
Strasser K, Niedermayer B (2021) Unvoreingenommenheit von Künstliche-Intelligenz-Systemen. Die Rolle von Datenqualität und Bias für den verantwortungsvollen Einsatz von künstlicher Intelligenz. In: CSR und künstliche Intelligenz. Springer Gabler, Berlin, S 121–135
Susanne Beck et al. (2019) künstliche Intelligenz und Diskriminierung. Whitepaper aus der Plattform Lernende Systeme, München 2019. https://www.plattform-lernende-systeme.de/publikationen-details/kuenstliche-intelligenz-und-diskriminierung-herausforderungen-und-loesungsansaetze.html. Zugegriffen: 14. Juni 2023
Rosen PH, Heinold E, Fries-Tersch E, Moore O, Wischnewski S (2022) Advanced robotics, artificial intelligence and the automation of tasks: definitions, uses, policies and strategies and Occupational Safety and Health. Report. EU-OSHA. https://osha.europa.eu/en/publications/advanced-robotics-artificial-intelligence-and-automation-tasks-definitions-uses-policies-and-strategies-and-occupational-safety-and-health. Zugegriffen: 14. Juni 2023
UNESCO (Hrsg) (2021) Recommendation on the ethics of artificial intelligence. United Nations Educational, Scientific and Cultural Organization. https://unesdoc.unesco.org/ark:/48223/pf0000380455. Zugegriffen: 14. Juni 2023
Weber K (2019) Methoden der ethischen Evaluation von IT. In: Draude C, lange M, Sick B (Hrsg) INFORMATIK 2019: 50 Jahre Gesellschaft für Informatik–Informatik für Gesellschaft (Workshop-Beiträge). Gesellschaft für Informatik, Bonn
Kairouz P et al (2021) Advances and Open Problems in Federated Learning. Foundations and Trends in Machine Learning 14(1–2):1–210. http://dx.doi.org/10.1561/2200000083
Stock J, Petersen T, Behrendt C-A, Federrath H, Kreutzburg T (2022) Privatsphärefreundliches maschinelles Lernen. Informatik Spektrum 45:137–145. https://doi.org/10.1007/s00287-022-01440-9
Mohassel P, Zhang Y (2017) SecureML: A System for Scalable Privacy-Preserving Machine Learning. IEEE Symposium on Security and Privacy, San Jose, CA, USA, S 19-38. DOI: 10.1109/SP.2017.12
McMahan B, Moore E, Ramage D, Hampson S, y Arcas BA (2017) Communication-efficient learning of deep networks from decentralized data. Artificial Intelligence and Statistics (2017):1273–1282
Zhao J, Feng Y, Chang X, Liu CH (2022) Energy-efficient client selection in federated learning with heterogeneous data on edge. Peer-to-Peer Networking and Applications (15):1139–1151. https://doi.org/10.1007/s12083-021-01254-8
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2023 ifaa - Institut für angewandte Arbeitswissenschaft. e.V.
About this chapter
Cite this chapter
Ottersböck, N., Urban, I., Shahinfar, F., Terstegen, S., Schüth, N.J. (2023). Daten und KI-Ethik. In: Stowasser, S. (eds) Künstliche Intelligenz (KI) und Arbeit . ifaa-Edition. Springer Vieweg, Berlin, Heidelberg. https://doi.org/10.1007/978-3-662-67912-8_8
Download citation
DOI: https://doi.org/10.1007/978-3-662-67912-8_8
Published:
Publisher Name: Springer Vieweg, Berlin, Heidelberg
Print ISBN: 978-3-662-67911-1
Online ISBN: 978-3-662-67912-8
eBook Packages: Computer Science and Engineering (German Language)