Verbund

CwiC - Coping with Certainty. Prädiktion im Zeitalter Künstlicher Intelligenz

Die Digitalisierung wird in absehbarer Zeit weite Teile der Gesundheitsforschung und Gesundheitsversorgung nachhaltig verändern. Eine wesentliche Voraussetzung für eine sachgerechte Information und reflektierte Auseinandersetzung der Gesellschaft mit der Digitalisierung, Big Data-Anwendungen, Künstlicher Intelligenz und der Medizininformatik in Forschung und Versorgung ist die sorgfältige Analyse von Chancen und Risiken für den weiteren Umgang.

Das Verbundprojekt CwiC ist Teil der BMBF-Fördermaßnahme „Forschung zu ethischen, rechtlichen und sozialen Aspekten (ELSA) der Digitalisierung, von Big Data und Künstlicher Intelligenz in der Gesundheitsforschung und -versorgung“. Ziel dieser Maßnahme ist es, die Auswirkungen der neuen Technologien auf Wissenschaft und Gesellschaft zu untersuchen und auf einen gesellschaftlich akzeptierten und verantworteten Rahmen für ihren Einsatz hinzuwirken. Ziel des Verbundes CwiC ist, zu betrachten wie wir in einer Zeit, in der Künstliche Intelligenz (KI) immer bessere Vorhersagegenauigkeiten erreicht, mit dieser (Un-) Sicherheit im Gesundheitssystem umgehen sollten. Die Forschenden untersuchen dabei besonders den Begriff der Solidarität: Wie gehen wir mit dem grundlegenden Solidaritätsprinzip unseres Gesundheitssystems um, wenn die Vorhersage von Krankheiten immer verlässlicher wird? Wie gehen wir mit dem Recht auf Nichtwissen jedes Einzelnen in Gegenüberstellung mit dem Gemeinwohl um? Kann das Bedürfnis nach Unwissenheit durch wirtschaftliche Anreize oder „Nudging“ manipuliert werden?

Die Ergebnisse des Verbundvorhabens liefern die Grundlage für Handlungsempfehlungen für Aufsichts- und Kontrollmechanismen KI-basierter klinischer Systeme.

Teilprojekte

Abgeschlossen

Teilprojekt Recht

Förderkennzeichen: 01GP1905A
Gesamte Fördersumme: 288.530 EUR
Förderzeitraum: 2020 - 2023
Projektleitung: Prof. Dr. Steffen Augsberg
Adresse: Justus-Liebig-Universität Gießen, FB 01 - Rechtswissenschaft, Öffentliches Recht
Hein-Heckroth-Str. 5
35390 Gießen

Teilprojekt Recht

CwiC verfolgt das Ziel, die normativen Herausforderungen im Umgang mit den neuen Möglichkeiten zur Prädiktion in und mit KI an der Schnittstelle von Wissenschaft, Gesellschaft und Technologie zu bearbeiten. Das Projekt basiert auf einem allgemeinen anthropologischen und soziologischen Grundgedanken: Die gegenseitige Anerkennung, die für uns als Gesellschaft und als Individuen wesentlich ist, ist eng mit unserer gemeinsamen Unsicherheit über die Zukunft verbunden. Die Prozesse der Digitalisierung und Datafizierung prägen und verändern sowohl die Gesundheitsforschung als auch die medizinische Praxis. Die Geschwindigkeit und Eingriffstiefe dieser Entwicklungen erfordert Überlegungen zu einer verantwortungsvollen, effektiven und ethisch einwandfreien Governance. Aus diesem Grund müssen die Analysen von einer eingehenden Analyse der damit verbundenen ethischen Grundwerte begleitet werden. Gleichzeitig lassen sich die im Projekt aufgeworfenen Fragen nicht ohne weiteres in ein bestimmtes klinisches Umfeld übertragen. Aus diesem Grund ist es enorm wichtig, dass durch die Einbindung zukunftsträchtiger Experten der Verhaltensökonomie sichergestellt wird, dass wir die normativen Erkenntnisse und Hypothesen gleichzeitig unter sicheren Bedingungen im Labor testen können. Die rechtliche Analyse untersucht, wie im Rechtssystem nicht nur mit notwendig begrenztem Wissen umgegangen wird, sondern auch spezifische Wissensbegrenzungen vorgenommen werden. Sodann werden diese theoretischen Aspekte auf die grundrechtliche und die einfachgesetzliche Ebene gespiegelt, wobei für letztere das Gesundheitsrecht als Referenzgebiet dient. Die Ergebnisse der normativen Analysen werden abschließend in eine gemeinsame Governance-Perspektive überführt.

Abgeschlossen

Teilprojekt Ethik

Förderkennzeichen: 01GP1905B
Gesamte Fördersumme: 222.164 EUR
Förderzeitraum: 2020 - 2023
Projektleitung: Dr. Matthias Braun
Adresse: Friedrich-Alexander-Universität Erlangen-Nürnberg, Philosophische Fakultät und Fachbereich Theologie, Institut für Systematische Theologie, Lehrstuhl für Systematische Theologie II (Ethik)
Kochstr. 6
91054 Erlangen

Teilprojekt Ethik

CwiC verfolgt das Ziel, die normativen Herausforderungen im Umgang mit den neuen Möglichkeiten zur Prädiktion in und mit KI an der Schnittstelle von Wissenschaft, Gesellschaft und Technologie zu bearbeiten. Das Projekt basiert auf einem allgemeinen anthropologischen und soziologischen Grundgedanken: Die gegenseitige Anerkennung, die für uns als Gesellschaft und als Individuen wesentlich ist, ist eng mit unserer gemeinsamen Unsicherheit über die Zukunft verbunden. Die Prozesse der Digitalisierung und Datafizierung prägen und verändern sowohl die Gesundheitsforschung als auch die medizinische Praxis. Die Geschwindigkeit und Eingriffstiefe dieser Entwicklungen erfordert Überlegungen zu einer verantwortungsvollen, effektiven und ethisch einwandfreien Governance. Aus diesem Grund müssen die Analysen von einer eingehenden Analyse der damit verbundenen ethischen Grundwerte begleitet werden. Gleichzeitig lassen sich die im Projekt aufgeworfenen Fragen nicht ohne weiteres in ein bestimmtes klinisches Umfeld übertragen. Aus diesem Grund ist es enorm wichtig, dass durch die Einbindung zukunftsträchtiger Experten der Verhaltensökonomie sichergestellt wird, dass wir die normativen Erkenntnisse und Hypothesen gleichzeitig unter sicheren Bedingungen im Labor testen können. Die ethische Analyse konzentriert sich auf die Frage, wie neue Möglichkeiten von Prädiktion durch KI unsere Konzepte von Solidarität, Individualität und Verletzlichkeit verschieben und herausfordern. Die Ergebnisse der normativen Analyse werden dann in eine gemeinsame Governance-Perspektive überführt.

Abgeschlossen

Teilprojekt Ökonomie

Förderkennzeichen: 01GP1905C
Gesamte Fördersumme: 249.179 EUR
Förderzeitraum: 2020 - 2023
Projektleitung: Prof. Dr. Nora Szech
Adresse: Karlsruher Institut für Technologie (KIT), Institut für Volkswirtschaftslehre (ECON), Lehrstuhl für Politische Ökonomie
Fritz-Erler-Str. 1-3
76133 Karlsruhe

Teilprojekt Ökonomie

CwiC untersucht die normativen und verhaltenswissenschaftlichen Herausforderungen im Umgang mit den neuen Möglichkeiten zur Prädiktion in und mit KI an der Schnittstelle von Wissenschaft, Gesellschaft und Technologie. Die Fähigkeit, zukünftige Entwicklungen mit beispielloser Genauigkeit vorauszusehen, betrifft viele, wenn nicht sogar alle Bereiche der Gesellschaft. Von besonderer Bedeutung ist sie für den Gesundheitssektor. Die neue Art der Prognose ermöglicht eine wesentlich präzisere Planung, z. B. im Hinblick auf den demografischen Wandel, die Entwicklung der Morbidität und die jeweils damit befassten Einrichtungen. Der Umgang mit KI muss daher verhaltenswissenschaftlich genauer untersucht werden. Wie gehen Individuen mit den neuen Möglichkeiten um? Sind bessere Prognosemöglichkeiten willkommen? Werden Konzepte von Versicherung in Frage gestellt oder verändert? Wie beeinflusst soziale Information, insbesondere normativer Art, das Verhältnis zu KI beeinflusst. Um verhaltenswissenschaftliche Effekte zu untersuchen, ist es wichtig, dass Individuen incentiviert entscheiden. In den geplanten ökonomischen Studien am KD2-Lab des KIT treffen sie Entscheidungen, die reale Konsequenzen haben, z. B. monetärer Natur. Die Geschwindigkeit und Eingriffstiefe von KI erfordert Überlegungen zu einer verantwortungsvollen, effektiven und ethisch einwandfreien Governance. Aus diesem Grund ist es von fundamentaler Wichtigkeit, gemeinsam mit Experten aus Ethik und Recht an der Thematik zu arbeiten. Die wirtschaftswissenschaftliche Analyse am KIT konzentriert sich auf die Frage, wie die individuelle und gesellschaftliche Nachfrage nach Prädiktion durch KI, insbesondere auf Gesundheitsmärkten, gestaltet ist, und untersucht den Einfluss von Interventionen und Nudges, insbesondere normativer Art, auf diese Nachfrage. Die Ergebnisse der verhaltenswissenschaftlichen Analysen werden dann in eine gemeinsame Governance-Perspektive überführt.