Verbund

Check-App: Symptom-Checker auf Basis künstlicher Intelligenz

Die Digitalisierung wird in absehbarer Zeit weite Teile der Gesundheitsforschung und Gesundheitsversorgung nachhaltig verändern. Eine wichtige Voraussetzung für eine sachgerechte Information und reflektierte Auseinandersetzung der Gesellschaft mit der Digitalisierung, Big Data-Anwendungen, Künstlicher Intelligenz und der Medizininformatik in Forschung und Versorgung ist die sorgfältige Analyse von Chancen und Risiken für den weiteren Umgang.

Das Verbundprojekt Check-App ist Teil der BMBF-Fördermaßnahme „Forschung zu ethischen, rechtlichen und sozialen Aspekten (ELSA) der Digitalisierung, von Big Data und Künstlicher Intelligenz in der Gesundheitsforschung und -versorgung“. Ziel dieser Maßnahme ist es, die Auswirkungen der neuen Technologien auf Wissenschaft und Gesellschaft zu untersuchen und auf einen gesellschaftlich akzeptierten und verantworteten Rahmen für ihren Einsatz hinzuwirken.

Das Projekt Check-App befasst sich mit den Auswirkungen der Digitalisierung am Beispiel einer Symptom-Checker-App. Wie beeinflusst sie die Gesundheitskompetenz der Menschen, das Selbstbild der Patientinnen und Patienten und deren Beziehung zu den behandelnden Ärztinnen und Ärzten? Und welchen Einfluss hat sie auf die Behandelnden und deren berufliches Rollenverständnis? Dazu werden alle Nutzergruppen der App sowie Expertinnen und Experten des Gesundheitssystems multimethodisch befragt. Auf dieser Basis wollen die Forschenden vielfältige Themen aus den verschiedenen wissenschaftlichen Perspektiven der Verbundpartner analysieren. Dazu zählen etwa Datensouveränität und Weitergabe von Daten, das Recht auf Nichtwissen, die Verwendung von Versorgungsdaten für die Forschung, z. B. für die Entwicklung selbstlernender KI-basierter IT-Lösungen zur Unterstützung medizinischer Entscheidungen, aber auch Zulassungs- und Haftungsfragen. Aus den gewonnenen Erkenntnissen sollen differenzierte Handlungsempfehlungen für Betroffene, Entwickler und Entscheidungsträger abgeleitet werden.

Teilprojekte

Abgeschlossen

Teilprojekt Medizin

Förderkennzeichen: 01GP1907A
Gesamte Fördersumme: 934.851 EUR
Förderzeitraum: 2020 - 2023
Projektleitung: Prof. Dr. Stefanie Joos
Adresse: Eberhard Karls Universität Tübingen, Universitätsklinikum, Institut für Allgemeine und Interprofessionelle Versorgung
VITA Gebäude, Osianderstr. 5
72076 Tübingen

Teilprojekt Medizin

Das Verbundprojekt CHECK.APP untersucht ethische, soziale und systembezogene Aspekte der Digitalisierung empirisch am Beispiel der "ADA" Symptom-Checker-App (SCA). Im Teilprojekt Medizin wird das Ziel verfolgt, mögliche Auswirkungen der Digitalisierung auf drei Ebenen (Nutzer und Nutzerinnen, Akteure und Akteurinnen des Gesundheitssystems und das Gesundheitssystem) aufzuarbeiten. Die Vielschichtigkeit der Thematik wird empirisch im Rahmen eines interdisziplinären Forschungsansatzes erarbeitet. Als normativer Hintergrund wird eine prinzipienorientierte Ethik angewandt, die neben den etablierten medizinethischen Kategorien (z. B. Patientenautonomie) ebenso Prinzipien aus der Digitalethik berücksichtigt (z.B. Datensouveränität). Dies ermöglicht es, Empfehlungen abzuleiten, welche Werte und Normen die Entwicklung von Software anleiten sollten ("ethics by design"), an welchen Kriterien sich die Akkreditierung orientieren kann und wie eine verantwortbare Nutzung entsprechender Systeme zu gestalten wäre. Es soll exploriert werden, wie sich ethische und soziale Aspekte der Digitalisierung aus verschiedenen wissenschaftlichen Perspektiven, aber auch aus der Perspektive verschiedener betroffener Akteure auf die Systemebene (z. B. Organisation), auf die Akteure selbst (z. B. Selbstbild, Professionelle Rolle) und auf die Beziehungen zwischen Akteuren der Ebenen (z. B. Nutzer – Ärzte-Interaktion) auswirken. Ein weiteres Ziel des Vorhabens ist die Ableitung differenzierter und nachhaltiger Handlungsempfehlungen für Betroffene, Entwickler und Entscheidungsträger auf Basis der Erkenntnisse. Ferner soll ein Beitrag zu einer breiten, fundierten gesellschaftlichen Auseinandersetzung mit der Thematik geliefert werden.

Abgeschlossen

Teilprojekt Recht

Förderkennzeichen: 01GP1907B
Gesamte Fördersumme: 99.187 EUR
Förderzeitraum: 2020 - 2023
Projektleitung: Prof. Dr. Tanja Henking
Adresse: Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt, Fakultät Angewandte Sozialwissenschaften
Münzstr. 12
97070 Würzburg

Teilprojekt Recht

Am Beispiel der Symptom-Checker-App (SCA) sollen die Auswirkungen der Digitalisierung auf die Interaktion zwischen Ärzten und Ärztinnen und Patienten und Patientinnen sowie auf das Patientenverhalten und seine/ihre Wahrnehmung als Patient aufgearbeitet werden. Dabei werden mögliche Grenzverschiebungen in der Wahrnehmung von Krankheit und Gesundheit untersucht. Sie kann nicht nur Auswirkungen auf die Patientensteuerung und -versorgung, sondern auch auf das Verhältnis von Arzt und Patient haben. Dies berührt rechtliche Fragestellungen aus den Bereichen Patientenrechtegesetz, Haftungsrecht (sowohl im Verhältnis zwischen Arzt und Patient als auch zwischen Produkthersteller/-anbieter und Nutzer), Verbraucherschutz- sowie das Datenschutzrecht. Patientenautonomie einschließlich einer Datenautonomie stehen dabei im Vordergrund. Diese können durch SCA gefördert werden, sie können aber auch in Gefahr geraten, wenn hierdurch Körperbewusstsein, Vertrauen ins medizinische Versorgungssystem oder in den einzelnen Arzt geschwächt werden. Ebenso ist zu bedenken, dass die Nutzung von SCA Verantwortungszuschreibungen bedingen kann, weil bspw. der SCA-Anwendende seinen veränderten Status von "Nutzer" zu "Patient" hätte erkennen oder der professionelle Akteur hätte reagieren müssen. Damit arbeitet das Teilprojekt Recht vor allem mit dem ethischen und sozialen Arbeitsbereich des Teilprojekts Medizin eng zusammen, da dort ähnliche Fragestellungen zu identifizieren sein werden, die aber zugleich in rechtliche Kategorien und ggf. rechtliche Lösungsansätze überführt werden müssen. So muss exemplarisch die ethische Frage nach der Fürsorge des Arztes in die rechtliche Frage übersetzt werden, nämlich was der Arzt dem Patienten gegenüber verpflichtet ist. Datenschutz- und Datensicherheit spielen zudem vor dem Hintergrund des Vertrauens in das Gesundheitssystem eine bedeutende Rolle und werden Fragen nach einem regulatorischen Handlungsbedarf auslösen.