Verbund

vALID - Klinische Entscheidungsfindung durch Künstliche Intelligenz. Ethische, rechtliche und gesellschaftliche Herausforderungen

Die Digitalisierung wird in absehbarer Zeit weite Teile der Gesundheitsforschung und Gesundheitsversorgung nachhaltig verändern. Eine wichtige Voraussetzung für eine sachgerechte Information und reflektierte Auseinandersetzung der Gesellschaft mit der Digitalisierung, Big Data-Anwendungen, Künstlicher Intelligenz und der Medizininformatik in Forschung und Versorgung ist die sorgfältige Analyse von Chancen und Risiken für den weiteren Umgang.

Das Verbundprojekt vALID ist Teil der BMBF-Fördermaßnahme „Forschung zu ethischen, rechtlichen und sozialen Aspekten (ELSA) der Digitalisierung, von Big Data und Künstlicher Intelligenz in der Gesundheitsforschung und -versorgung“. Ziel dieser Maßnahme ist es, die Auswirkungen der neuen Technologien auf Wissenschaft und Gesellschaft zu untersuchen und auf einen gesellschaftlich akzeptierten und verantworteten Rahmen für ihren Einsatz hinzuwirken. Der Verbund führt eine normative, rechtliche und technische Analyse der Frage durch, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. Es werden u.a. Fragen zu normativen Kernkonzepten untersucht: Wie ist die Vertrauenswürdigkeit solcher Systeme zu beurteilen? Wie transparent sind solche komplexen Systeme? Welche Akteure sind an der Entscheidungsfindung beteiligt, in welcher Weise und aus welchen Gründen? Und wer ist in welcher Weise moralisch und rechtlich für Entscheidungen und Resultate solcher klinischen Entscheidungsunterstützungssysteme verantwortlich? Grundlage der Untersuchungen ist eine empirische Fallstudie, bei der Ärzte und Patienten mit Mock-up-Simulationen von KI-gesteuerten klinischen Entscheidungsunterstützungssystemen konfrontiert werden. Die Einstellungen beider Zielgruppen werden hinsichtlich Design und Steuerungsoptionen systematisch erfasst und analysiert. Ein wesentliches Ergebnis von vALID wird die Formulierung einer Governance-Perspektive sein, die politischen und klinischen Entscheidungsträgern Leitlinien zum souveränen Umgang mit KI-gesteuerten klinischen Systemen an die Hand gibt.

Teilprojekte

TP1 Ethik

Förderkennzeichen: 01GP1903A
Gesamte Fördersumme: 250.932 EUR
Förderzeitraum: 2019 - 2022
Projektleitung: Prof. Dr. Peter Dabrock
Adresse: Friedrich-Alexander-Universität Erlangen-Nürnberg, Philosophische Fakultät und Fachbereich Theologie, Institut für Systematische Theologie, Lehrstuhl für Systematische Theologie II (Ethik)
Kochstr. 6
91054 Erlangen

TP1 Ethik

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind KI-Anwendungen im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. vALID besteht aus vier Teilprojekten. Im ethischen Teilprojekt wird auf Basis einer eingehenden Analyse bestehender normativer Arbeiten zur KI in der Klinik untersucht, welche Aspekte das Ideal der Souveränität von Ärztinnen und Ärzten sowie Patientinnen und Patienten umfasst. Das rechtliche Teilprojekt wird auf Basis einer De Lege Lata Analyse verschiedene Regulierungsoptionen im nationalen/internationalen Kontext analysieren und bewerten. Beide Teilprojekte untersuchen, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst werden, sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Im technischen Teilprojekt werden vor dem Hintergrund einer eingehenden Analyse technisch möglicher sowie in der Klinik bereits eingesetzter Anwendungen Mock-Up-Simulationen von konventionellen, automatisierten sowie integrativen Entscheidungsunterstützungssystemen entworfen. Im empirischen Teilprojekt wird anhand dieser Mock-Ups mittels quantitativer und qualitativer Erhebungsmethoden die Perspektiven von Ärztinnen und Ärzten sowie Patientinnen und Patienten zu einer Bandbreite von Designs und Implementierungen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch erfasst. Auf Basis dieser Arbeiten werden die vier Teilprojekte schließlich gemeinsam eine ethisch, rechtlich, technisch, und empirisch informierte Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Kontext eines shared decision making erarbeiten.

TP2 Recht

Förderkennzeichen: 01GP1903B
Gesamte Fördersumme: 234.304 EUR
Förderzeitraum: 2019 - 2022
Projektleitung: Prof. Dr. Susanne Beck
Adresse: Leibniz Universität Hannover, Juristische Fakultät
Königsworther Platz 1
30167 Hannover

TP2 Recht

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind KI-Anwendungen im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. vALID besteht aus vier Teilprojekten. Im ethischen Teilprojekt wird auf Basis einer eingehenden Analyse bestehender normativer Arbeiten zur KI in der Klinik untersucht, welche Aspekte das Ideal der Souveränität von Ärztinnen und Ärzten sowie Patientinnen und Patienten umfasst. Das rechtliche Teilprojekt wird auf Basis einer De Lege Lata Analyse verschiedene Regulierungsoptionen im nationalen/internationalen Kontext analysieren und bewerten. Beide Teilprojekte untersuchen, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst werden, sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Im technischen Teilprojekt werden vor dem Hintergrund einer eingehenden Analyse technisch möglicher sowie in der Klinik bereits eingesetzter Anwendungen Mock-Up-Simulationen von konventionellen, automatisierten sowie integrativen Entscheidungsunterstützungssystemen entworfen. Im empirischen Teilprojekt wird anhand dieser Mock-Ups mittels quantitativer und qualitativer Erhebungsmethoden die Perspektiven von Ärztinnen und Ärzten sowie Patientinnen und Patienten zu einer Bandbreite von Designs und Implementierungen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch erfasst. Auf Basis dieser Arbeiten werden die vier Teilprojekte schließlich gemeinsam eine ethisch, rechtlich, technisch, und empirisch informierte Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Kontext eines shared decision making erarbeiten.

TP3 Mock-Up-Szenarien

Förderkennzeichen: 01GP1903C
Gesamte Fördersumme: 172.442 EUR
Förderzeitraum: 2019 - 2022
Projektleitung: Prof. Dr.-Ing. Sebastian Möller
Adresse: Deutsches Forschungszentrum für Künstliche Intelligenz GmbH, Sprachtechnologie
Alt-Moabit 91 c
10559 Berlin

TP3 Mock-Up-Szenarien

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind KI-Anwendungen im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. vALID besteht aus vier Teilprojekten. Im ethischen Teilprojekt wird auf Basis einer eingehenden Analyse bestehender normativer Arbeiten zur KI in der Klinik untersucht, welche Aspekte das Ideal der Souveränität von Ärztinnen und Ärzten sowie Patientinnen und Patienten umfasst. Das rechtliche Teilprojekt wird auf Basis einer De Lege Lata Analyse verschiedene Regulierungsoptionen im nationalen/internationalen Kontext analysieren und bewerten. Beide Teilprojekte untersuchen, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst werden, sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Im technischen Teilprojekt werden vor dem Hintergrund einer eingehenden Analyse technisch möglicher sowie in der Klinik bereits eingesetzter Anwendungen Mock-Up-Simulationen von konventionellen, automatisierten sowie integrativen Entscheidungsunterstützungssystemen entworfen. Im empirischen Teilprojekt wird anhand dieser Mock-Ups mittels quantitativer und qualitativer Erhebungsmethoden die Perspektiven von Ärztinnen und Ärzten sowie Patientinnen und Patienten zu einer Bandbreite von Designs und Implementierungen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch erfasst. Auf Basis dieser Arbeiten werden die vier Teilprojekte schließlich gemeinsam eine ethisch, rechtlich, technisch, und empirisch informierte Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Kontext eines shared decision making erarbeiten.

TP4 Empirische Forschung

Förderkennzeichen: 01GP1903D
Gesamte Fördersumme: 116.578 EUR
Förderzeitraum: 2019 - 2022
Projektleitung: Prof. Dr. Klemens Budde
Adresse: Charité - Universitätsmedizin Berlin, Medizinische Klinik mit Schwerpunkt Nephrologie und Internistische Intensivmedizin
Charité-Platz 1 - Campus Charité Mitte
10117 Berlin

TP4 Empirische Forschung

Künstliche Intelligenz (KI) scheint in aller Munde. Von zunehmender Bedeutung sind KI-Anwendungen im Bereich klinischer Entscheidungsfindung. Liegen einige der denkbaren Anwendungen klinischer KI noch in der Zukunft, verändern andere bereits die Praxis. vALID unternimmt eine normative, rechtliche und technische Analyse der Frage, wie KI-gesteuerte klinische Entscheidungsunterstützungssysteme mit dem Ideal der Arzt- und Patientensouveränität in Einklang gebracht werden können. vALID besteht aus vier Teilprojekten. Im ethischen Teilprojekt wird auf Basis einer eingehenden Analyse bestehender normativer Arbeiten zur KI in der Klinik untersucht, welche Aspekte das Ideal der Souveränität von Ärztinnen und Ärzten sowie Patientinnen und Patienten umfasst. Das rechtliche Teilprojekt wird auf Basis einer De Lege Lata Analyse verschiedene Regulierungsoptionen im nationalen/internationalen Kontext analysieren und bewerten. Beide Teilprojekte untersuchen, wie Konzepte von Vertrauenswürdigkeit, Transparenz, Akteurschaft und Verantwortung durch klinische KI beeinflusst werden, sowohl auf theoretischer Ebene als auch im Hinblick auf konkrete moralische und rechtliche Konsequenzen. Im technischen Teilprojekt werden vor dem Hintergrund einer eingehenden Analyse technisch möglicher sowie in der Klinik bereits eingesetzter Anwendungen Mock-Up-Simulationen von konventionellen, automatisierten sowie integrativen Entscheidungsunterstützungssystemen entworfen. Im empirischen Teilprojekt wird anhand dieser Mock-Ups mittels quantitativer und qualitativer Erhebungsmethoden die Perspektiven von Ärztinnen und Ärzten sowie Patientinnen und Patienten zu einer Bandbreite von Designs und Implementierungen KI-getriebener, klinischer Entscheidungsunterstützungssysteme systematisch erfasst. Auf Basis dieser Arbeiten werden die vier Teilprojekte schließlich gemeinsam eine ethisch, rechtlich, technisch, und empirisch informierte Governance-Perspektive für KI-getriebene Entscheidungsunterstützungssysteme im Kontext eines shared decision making erarbeiten.