Teilprojekt eines Verbundes

TP3 Mock-Up-Szenarien

Förderkennzeichen: 01GP1903C
Fördersumme: 172.442 EUR
Förderzeitraum: 2019 - 2022
Projektleitung: Prof. Dr.-Ing. Sebastian Möller
Adresse: Deutsches Forschungszentrum für Künstliche Intelligenz GmbH, Sprachtechnologie
Alt-Moabit 91 c
10559 Berlin

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind KI-Anwendungen im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. vALID besteht aus vier Teilprojekten. Im ethischen Teilprojekt wird auf Basis einer eingehenden Analyse bestehender normativer Arbeiten zur KI in der Klinik untersucht, welche Aspekte das Ideal der Souveränität von Ärztinnen und Ärzten sowie Patientinnen und Patienten umfasst. Das rechtliche Teilprojekt wird auf Basis einer De Lege Lata Analyse verschiedene Regulierungsoptionen im nationalen/internationalen Kontext analysieren und bewerten. Beide Teilprojekte untersuchen, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst werden, sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Im technischen Teilprojekt werden vor dem Hintergrund einer eingehenden Analyse technisch möglicher sowie in der Klinik bereits eingesetzter Anwendungen Mock-Up-Simulationen von konventionellen, automatisierten sowie integrativen Entscheidungsunterstützungssystemen entworfen. Im empirischen Teilprojekt wird anhand dieser Mock-Ups mittels quantitativer und qualitativer Erhebungsmethoden die Perspektiven von Ärztinnen und Ärzten sowie Patientinnen und Patienten zu einer Bandbreite von Designs und Implementierungen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch erfasst. Auf Basis dieser Arbeiten werden die vier Teilprojekte schließlich gemeinsam eine ethisch, rechtlich, technisch, und empirisch informierte Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Kontext eines shared decision making erarbeiten.