Verbund

FRAIM – Jenseits reiner Performanz: ein ethischer Rahmen für die Nutzung von KI in der Neuromedizin

Die Digitalisierung wird in absehbarer Zeit weite Teile der Gesundheitsforschung und Gesundheitsversorgung nachhaltig verändern. Eine wesentliche Voraussetzung für eine sachgerechte Information und reflektierte Auseinandersetzung der Gesellschaft mit der Digitalisierung, Big Data-Anwendungen, Künstlicher Intelligenz (KI) und der Medizininformatik in Forschung und Versorgung ist die sorgfältige Analyse von Chancen und Risiken für den weiteren Umgang.

Das Verbundprojekt FRAIM ist Teil der BMBF-Fördermaßnahme „Forschung zu ethischen, rechtlichen und sozialen Aspekten (ELSA) der Digitalisierung, von Big Data und Künstlicher Intelligenz in der Gesundheitsforschung und -versorgung“. Ziel dieser Maßnahme ist es, die Auswirkungen der neuen Technologien auf Wissenschaft und Gesellschaft zu untersuchen und auf einen gesellschaftlich akzeptierten und verantworteten Rahmen für ihren Einsatz hinzuwirken. Ziel des Verbundes FRAIM ist, einen Bewertungsrahmen für die Bewertung von KI-Verfahren bereitzustellen, die in der medizinischen Diagnostik und Entscheidungsfindung angewendet werden. Hierfür werden detaillierte ethische und rechtliche Analysen durchgeführt zur Akzeptanz von und Vertrauen in KI-basierte Verfahren im Bereich der Neuromedizin.

Die Forschenden gehen dabei folgenden Fragen nach: Was ist für Patienten und Ärzte relevant für die Bewertung der Vertrauenswürdigkeit und Nützlichkeit von KI-Technologie? Wie wirkt sich der Einsatz von KI zur Diagnose und Entscheidungsfindung auf die Arzt-Patienten-Beziehung aus? Wie können die Schwächen des geltenden Rechts gelöst werden?

Die Ergebnisse des Projekts bilden die Grundlage für einen Bewertungsrahmen für medizinische KI, der ethisch und rechtlich fundiert ist und die Erwartungen derjenigen berücksichtigt, die die Verwendung dieser neuartigen Technik direkt betrifft.

Teilprojekte

TP1 Empirische Analysen und Koordination

Förderkennzeichen: 01GP2113A
Gesamte Fördersumme: 260.326 EUR
Förderzeitraum: 2021 - 2024
Projektleitung: Prof. Dr. Bert Heinrichs
Adresse: Forschungszentrum Jülich GmbH, Institut für Neurowissenschaften und Medizin, Ethik in den Neurowissenschaften (INM-8)
Wilhelm-Johnen-Str.
52428 Jülich

TP1 Empirische Analysen und Koordination

Das übergeordnete Ziel dieses Projekts besteht darin, einen theoretisch fundierten und empirisch abgesicherten Rahmen für die Bewertung des Einsatzes von KI-basierten Verfahren in der medizinischen Diagnostik und Entscheidungsfindung bereitzustellen. Die Neuromedizin dient hierbei als einschlägiger Anwendungsfall. Detaillierte ethische und rechtliche Analysen werden durchgeführt, um notwendige konzeptionelle Revisionen zu ermitteln. Qualitative empirische Methoden werden genutzt, um zunächst Faktoren für Akzeptanz und Vertrauen im Zusammenhang mit KI-basierten Verfahren in der Neuromedizin zu ergründen. Dann werden zwei große standardisierte Umfragen zur quantitativen Bewertung der Auswirkung verschiedener Einflussfaktoren auf die Akzeptanz von KI-Innovationen in der Neuromedizin durchgeführt. Die Ergebnisse dieser Untersuchungen bilden die Grundlage für die Entwicklung eines Bewertungsrahmens für medizinische KI, der ethisch und rechtlich fundiert ist und die Erwartungen derjenigen berücksichtigt, die die Verwendung dieser neuartigen Technik direkt betrifft. Ziel des Teilprojekts sind die ethischen Analysen, die Entwicklung des Rahmenwerks sowie die Durchführung eines Teils der empirischen Studie.

TP2 Rechtliche Analysen

Förderkennzeichen: 01GP2113B
Gesamte Fördersumme: 138.479 EUR
Förderzeitraum: 2021 - 2024
Projektleitung: Prof. Dr. Dr. Tade M. Spranger
Adresse: Rheinische Friedrich-Wilhelms-Universität Bonn, Rechts- und Staatswissenschaftliche Fakultät, Fachbereich Rechtswissenschaft, Institut für Öffentliches Recht
Adenauerallee 24-42
53113 Bonn

TP2 Rechtliche Analysen

Wissenschaft und Politik sind sich einig, dass künstliche Intelligenz (KI) eine der transformativsten Kräfte unserer Zeit ist. Es ist allgemein anerkannt, dass dringend geeignete Mittel zur Aufsicht und Regulierung dieser transformativen Kräfte erforderlich sind. Ein besonders wichtiger Bereich ist die Medizin, da die Verwendung von KI hier das Leben eines jeden von uns unmittelbar beeinflussen wird. Das übergeordnete Ziel dieses Projekts besteht darin, einen theoretisch fundierten und empirisch abgesicherten Rahmen für die Bewertung des Einsatzes von KI-basierten Verfahren in der medizinischen Diagnostik und Entscheidungsfindung bereitzustellen. Die Neuromedizin dient hierbei als einschlägiger Anwendungsfall. Detaillierte ethische und rechtliche Analysen werden durchgeführt, um notwendige konzeptionelle Revisionen zu ermitteln. Qualitative empirische Methoden werden genutzt, um zunächst Faktoren für Akzeptanz und Vertrauen im Zusammenhang mit KI-basierten Verfahren in der Neuromedizin zu ergründen. Dann werden zwei große standardisierte Umfragen zur quantitativen Bewertung der Auswirkung verschiedener Einflussfaktoren auf die Akzeptanz von KI-Innovationen in der Neuromedizin durchgeführt. Die Ergebnisse dieser Untersuchungen bilden die Grundlage für die Entwicklung eines Bewertungsrahmens für medizinische KI, der ethisch und rechtlich fundiert ist und die Erwartungen derjenigen berücksichtigt, die die Verwendung dieser neuartigen Technik direkt betrifft. Ziel dieses rechtlichen Teilprojekts wird in einer ersten Phase das bestehende Recht identifizieren und analysieren. In enger Zusammenarbeit mit den Projektpartnern wird in der zweiten Phase des juristischen Teilprojekts der Frage nachgegangen, wie mit den identifizierten Schwächen des geltenden Rechts umgegangen werden kann.

TP3 Akzeptanzstudie Neurowissenschaft und Radiologie

Förderkennzeichen: 01GP2113C
Gesamte Fördersumme: 226.012 EUR
Förderzeitraum: 2021 - 2024
Projektleitung: Dr. Robert Langner
Adresse: Heinrich-Heine-Universität Düsseldorf, Universitätsklinikum und Medizinische Fakultät, Institut für Systemische Neurowissenschaften
Moorenstr. 5
40225 Düsseldorf

TP3 Akzeptanzstudie Neurowissenschaft und Radiologie

Das Verständnis der Faktoren, die die Technologieakzeptanz bestimmen, ist der Schlüssel zur effektiven Förderung der Akzeptanz von Innovationen sowohl bei Experten als auch in der breiten Öffentlichkeit. In einem sensiblen Bereich wie der Neuromedizin müssen sowohl Ärzte als auch Patienten technologische Fortschritte wie neuartige KI-Anwendungen akzeptieren, damit deren großflächige Implementierung ein Erfolg wird. Dieses Arbeitspaket wird daher eine empirische Bewertung der Faktoren liefern, die die Akzeptanz von KI-basierten Verfahren für die Diagnose und Entscheidungsfindung bestimmen, wobei der Schwerpunkt auf dem Anwendungsfall der medizinischen Neurobildgebung liegt. Das Arbeitspaket (WP2) besteht aus zwei Teilen, die jeweils die Determinanten der Akzeptanz von KI-Technologien in einer zentralen Gruppe untersuchen: der allgemeinen Öffentlichkeit (einschließlich Patienten; WP2.1) und Fachärzten (d. h. Neuroradiologen; WP2.2). Unter Verwendung eines Multi-Methoden-Ansatzes werden beide Teile von WP2 in zwei Schritten durchgeführt. Das erwartete Hauptergebnis von WP2.2 ist ein Erklärungsmodell gewichteter Determinanten der KI-Technologie-Akzeptanz bei Experten der medizinischen Bildgebung, das es erlaubt, Merkmale von KI-Innovationen zu bestimmen, die für die Übernahme neuartiger KI-Anwendungen in der Neuromedizin wesentlich oder wünschenswert sind. Ziel dieses Teilprojekts ist die Durchführung eines Teils der empirischen Studie des Forschungsvorhabens, unter Einbeziehung von Erkenntnissen aus den ethischen und rechtlichen Analysen der anderen Teilprojekte. Die Schlussfolgerungen aus den empirischen Untersuchungen werden wichtigen Input für die Entwicklung des Rahmenwerks liefern.

TP4 Ethik

Förderkennzeichen: 01GP2113D
Gesamte Fördersumme: 133.673 EUR
Förderzeitraum: 2021 - 2024
Projektleitung: Prof. Dr. Dirk Lanzerath
Adresse: Rheinische Friedrich-Wilhelms-Universität Bonn, Deutsches Referenzzentrum für Ethik in den Biowissenschaften
Bonner Talweg 57
53113 Bonn

TP4 Ethik

Wissenschaft und Politik sind sich einig, dass künstliche Intelligenz (KI) "eine der transformativsten Kräfte unserer Zeit ist" (AI HLEG 2018, 1). Es ist allgemein anerkannt, dass dringend geeignete Mittel zur Aufsicht und Regulierung dieser transformativen Kräfte erforderlich sind. Ein besonders wichtiger Bereich ist die Medizin, da die Verwendung von KI hier das Leben eines jeden von uns unmittelbar beeinflussen wird. Das übergeordnete Ziel dieses Projekts besteht darin, einen theoretisch fundierten und empirisch abgesicherten Rahmen für die Bewertung des Einsatzes von KI-basierten Verfahren in der medizinischen Diagnostik und Entscheidungsfindung bereitzustellen. Die Neuromedizin dient hierbei als einschlägiger Anwendungsfall. Detaillierte ethische und rechtliche Analysen werden durchgeführt, um notwendige konzeptionelle Revisionen zu ermitteln. Ziel des Teilprojekts sind die ethischen Analysen, die eine Grundlage zur Entwicklung des Rahmenwerks bilden. Qualitative empirische Methoden werden genutzt, um zunächst Faktoren für Akzeptanz und Vertrauen im Zusammenhang mit KI-basierten Verfahren in der Neuromedizin zu ergründen. Dann werden zwei große standardisierte Umfragen zur quantitativen Bewertung der Auswirkung verschiedener Einflussfaktoren auf die Akzeptanz von KI-Innovationen in der Neuromedizin durchgeführt. Die Ergebnisse dieser Untersuchungen bilden die Grundlage für die Entwicklung eines Bewertungsrahmens für medizinische KI, der ethisch und rechtlich fundiert ist und die Erwartungen derjenigen berücksichtigt, die die Verwendung dieser neuartigen Technik direkt betrifft.