Ethik und künstliche Intelligenz

Zusammenfassung

Die Einführung von Systemen mit künstlicher Intelligenz (KI) in die Radiologie verspricht, die Effizienz zu steigern sowie die Diagnosegenauigkeit zu verbessern, ist jedoch gleichzeitig mit ethischen Fragestellungen verbunden. Diese umfassen u. a. den Umgang mit Datenschutz, die zukünftige Rolle von Radiologen, die Verantwortlichkeit im Umgang mit KI-Systemen, sowie die Vermeidung von Bias in KI-Systemen. Zur Vermeidung von Datenbias ist es nötig, die zum Training verwendeten Datensätze sehr sorgfältig und repräsentativ zusammenzustellen. Entsprechend stellt der bald in Kraft tretende Europäische AI Act hier besonders hohe Anforderungen an die zum Training von medizinischer KI verwendeten Datensätze. Kognitives Bias tritt auf, wenn Radiologen bei der Verwendung von KI-Systemen ein zu hohes Vertrauen in die von der KI gelieferten Ergebnisse setzen („overreliance“). Bislang werden diagnostische KI-Systeme fast ausschließlich als Second-look-Systeme eingesetzt. Falls diagnostische KI-Systeme in der Radiologie zukünftig im Sinne einer Effizienzsteigerung als First-look-Systeme oder sogar als autonome Systeme eingesetzt werden, stellt sich die Frage nach der Verantwortlichkeit, vergleichbar mit dem autonomen Fahren. Auch würde ein solcher Einsatz von KI die Rolle der Radiologen stark verändern.

Abstract

The introduction of artificial intelligence (AI) into radiology promises to enhance efficiency and improve diagnostic accuracy, yet it also raises manifold ethical questions. These include data protection issues, the future role of radiologists, liability when using AI systems, and the avoidance of bias. To prevent data bias, the datasets need to be compiled carefully and to be representative of the target population. Accordingly, the upcoming European Union AI act sets particularly high requirements for the datasets used in training medical AI systems. Cognitive bias occurs when radiologists place too much trust in the results provided by AI systems (overreliance). So far, diagnostic AI systems are used almost exclusively as “second look” systems. If diagnostic AI systems are to be used in the future as “first look” systems or even as autonomous AI systems in order to enhance efficiency in radiology, the question of liability needs to be addressed, comparable to liability for autonomous driving. Such use of AI would also significantly change the role of radiologists.