Teilprojekt eines Verbundes

TP Umfragen, Interviews und ethische Analysen

Förderkennzeichen: 01GP1910A
Fördersumme: 652.346 EUR
Förderzeitraum: 2020 - 2023
Projektleitung: Univ.-Prof. Dr. Saskia Nagel
Adresse: Rheinisch-Westfälische Technische Hochschule Aachen, Philosophische Fakultät, Lehr- und Forschungsgebiet Angewandte Ethik mit dem Schwerpunkt Technik- und Umweltethik
Theaterplatz 14
52062 Aachen

Künstliche Intelligenz (KI) verspricht signifikante Verbesserungen im Gesundheitswesen und gilt als Wegbereiter der Präzisionsmedizin. Besonders in der Diagnostik, wo KI eingesetzt werden kann, um Daten automatisiert zu erheben, auszuwerten und zusammenzuführen, kann der Nutzen für Patienten enorm sein. Zugleich werden die Herausforderungen einer durch KI unterstützten Diagnostik deutlich: Medizinische Disziplinen müssen stärker kooperieren und lernfähige KI in Routineabläufe integrieren. Es resultieren neuartige Beziehungen im medizinischen Umfeld durch Einflechtung von KI a) in Arzt-Arzt und b) in Arzt-Patienten Beziehungen, welche u.a. neue Fragen zu Verantwortung aufwerfen und c) Vertrauen in Diagnostik neu definieren. Trotz großer Fortschritte in der KI-unterstützten Diagnostik wurden soziale und ethische Konsequenzen – obwohl essentiell für die Implementierung in der Klinik - kaum untersucht. Dieses Teilprojekt wird die Zusammenhänge mit empirischen und normativen Methoden untersuchen. In WP 1 sollen über Umfragen und Interviews die Herausforderungen hinsichtlich der Aufnahme von KI in die klinische Routinearbeit identifiziert werden. In WP2 werden über konzeptuelle und normative Untersuchungen neue Verantwortlichkeiten und das Vertrauen in Mensch-KI-Systeme analysiert. In WP3 wird evaluiert, wie Mensch-Maschine-Schnittstellen für die Diagnostik ideal konzipiert werden können. Dazu sollen beim Verbundpartner Demonstratoren entwickelt werden, als Basis für vertiefte Diskussionen zu Transparenz selbstlernender medizinischer Entscheidungsunterstützungssysteme, für die Kommunikation möglicher Implementierungsszenarien und für einen Beitrag zur Klärung der Rolle KI-gestützter Diagnostik innerhalb der digitalen Medizin. ELSA-AID ist ein Verbundprojekt, in dem die drei Partner dieses Vorhaben gemeinsam erarbeiten.