Gesundheitsversorgung durchläuft einen Wandel, weg von einem paternalistischen hin zu einem stärker patienten-orientierten Ansatz. Medizinische Entscheidungsfindung ist demnach ein kooperativer Prozess zwischen Patieninnen und Patienten, ihren Angehörigen und Ärztinnen und Ärzten. Die Einbeziehung der Patienten in ihre Behandlungsentscheidungen kann jedoch schwierig sein, da sich die Wünsche und Bedürfnisse von Patienten und Ärzten mitunter unterscheiden und im Laufe der Zeit ändern können. Die Umsetzung partizipativer Entscheidungsfindung ("Shared Decision Making", kurz SDM) in der klinischen Praxis ist mit dem Aufkommen Künstlicher Intelligenz (KI) noch schwieriger geworden, da diese einen weiteren potenziellen Akteur in das kommunikative Netzwerk einbringt. KI kann die Arzt-Patienten-Interaktion verändern und Bedingungen für Vertrauenswürdigkeit, Transparenz und Verantwortung verschieben. Trotzdem wissen wir nur sehr wenig darüber, wie sich KI auf die Arzt-Patienten-Interaktion auswirkt und ob sie Patientenbeteiligung fördern und/oder behindern kann. Ziel von PRIMA-AI ist, diese Lücke zu schließen. Es ist die erste systematische empirische Studie, die prospektiv die Ansichten von Nierentransplantationspatientinnen und -Patienten, ihren Angehörigen und Ärzten darüber untersucht, wie sich KI auf SDM auswirkt und welche normativen Grundlagen für den Einsatz von KI in der Routineversorgung bestehen. Mit einem interdisziplinären und innovativen Ansatz wird dieses Projekt erforschen, wie KI in SDM eingebettet werden kann, um Vertrauen zwischen den Beteiligten zu fördern. Die Ergebnisse helfen künftiger Forschung, Gesundheitspolitik und Praxis, den Weg für die routinemäßige Nutzung von KI zu ebnen, ohne die Autorität der Menschen zu gefährden, die die Informationen der KI nutzen oder von ihnen betroffen sind. Das Sozialwissenschaftliche Teilprojekt wird hierbei die empirischen Untersuchungen leiten und die Verbundkoordination übernehmen.

Das Ethische Teilprojekt hat zum Ziel, eine fundierte normative Analyse von Künstlicher Intelligenz (KI)-gestützter gemeinsamer Entscheidungsfindung (englisch: Shared Decision Making, SDM) zu erarbeiten und neue philosophische Perspektiven dafür bereitzustellen. Als Grundlage dient eine Analyse normativer Konzepte von Handlungsfähigkeit, Transparenz, Vertrauen und Verantwortung in Verbindung mit Herausforderungen, die sich durch SDM für diese Konzepte ergeben. Klassische Vorstellungen dieser Konzepte werden durch den partizipativen Charakter von SDM in Frage gestellt. Dadurch trägt das Ethische Teilprojekt wesentlich zum Verständnis des Veränderungsprozesses bei, der sich durch SDM in der Medizin vollzieht. Mit der Einführung von KI-basierten Systemen in klinische Entscheidungsprozesse wird der Interaktion zwischen den Akteuren zudem eine weitere Entität zwischengeschaltet, mit der wiederum in Interaktion getreten werden kann. Dadurch stellt sich im nächsten Schritt die Frage, welchen Einfluss diese weitere Interaktionsmöglichkeit auf den Prozess des SDM und die damit verbundenen normativen Konzepte hat. Um die gewonnenen Perspektiven im Kontext von KI-gestütztem SDM zu erweitern, wird das Ethische Teilprojekt die erarbeiteten Ergebnisse mit einer Reihe von Konzepten in Zusammenhang bringen. Dabei handelt es sich um eine Theorie, die darauf ausgelegt ist, die Dynamik zwischen menschlichen und nichtmenschlichen Entitäten zu verstehen und so angewendet auf den Einsatz von KI-basierten Systemen in der Medizin neue Erkenntnisse verspricht. Die Ergebnisse des Ethischen Teilprojektes werden in enger Zusammenarbeit mit dem Sozialwissenschaftlichen Teilprojekt in die Konzipierung der empirischen Studie einfließen und normative Empfehlungen für eine interdisziplinäre Governance- Perspektive liefern.

Mit Hilfe eines interdisziplinären und innovativen Ansatzes wird dieses Projekt bisher fehlende empirische Erkenntnisse darüber liefern, wie KI in die gemeinsame Entscheidungsfindung eingebettet werden kann, um das Vertrauen zwischen den Beteiligten zu stärken und zu verbessern. Das DFKI befasst sich mit der technischen Umsetzung des Entscheidungsunterstützungssystems und dessen Integration in ein prospektives Setup im Nierentransplantationszentrum der Charité Berlin. Ein Ziel des technischen Teilprojektes ist es, die Mensch-Maschine-Interaktion anhand der im Ethischen Teilprojekt identifizierten Anforderungen an Shared Decision Making zu untersuchen und zu optimieren. Hierzu sollen für das Dashboard Konfigurationsmöglichkeiten für die Ärztinnen und Ärzte und eine Erklärkomponente erforscht und erprobt werden. Dabei bringt das Teilprojekt Expertise im Bereich der Natürlichen Sprach- und Wissensverarbeitung, speziell in medizinischen Anwendungen, ein.

Das Ziel dieses Teilprojekts ist die Konzeption, Durchführung und Auswertung einer prospektiven, klinischen Studie, welche den Einfluss eines realen KI-Systems auf die partizipative Entscheidungsfindung, sowie den klinischen Nutzen, Sicherheit und Benutzerfreundlichkeit eines KI-Systems in einem ambulanten Setting untersuchen soll. Die Medizinische Klinik mit Schwerpunkt Nephrologie und internistische Intensivmedizin der Charité ist eines der größten Transplantationszentren Deutschlands mit jährlich ca. 200 Nierentransplantationen und ca. 1.500 nierentransplantierten Patientinnen und Patienten in der ambulanten Nachsorge und hat eine etablierte Infrastruktur zur Durchführung von klinischen Studien. Darüber hinaus wurde in Vorarbeiten mit dem DFKI und der FAU Erlangen bereits der Einfluss fingierter KI-Systeme auf die gemeinsame Entscheidungsfindung von Ärztinnen und Ärzten sowie von Patientinnen und Patienten untersucht, sodass auch Expertise in der Durchführung und Koordination qualitativer sozialwissenschaftlicher Forschung besteht. Zudem wurden bereits potenzielle Implementierungsstrategien für KI-basierte Modelle in der Transplantationsmedizin untersucht, die als Basis für die Planung einer prospektiven klinischen Studie dienen.