Verbund

TESIComP - Theoretische, ethische und soziale Implikationen von KI für neuropsychiatrische Forschung und Praxis

Die neurowissenschaftliche Forschung liefert kontinuierlich neue Erkenntnisse zur Struktur und Funktion des menschlichen Gehirns. Dies trägt dazu bei, menschliche Entscheidungen, Verhaltensweisen, Emotionen und soziale Interaktionen besser zu verstehen. Innovationen in diesem Bereich haben ein hohes Nutzungspotenzial für Diagnose und Therapie verschiedener neurologischer oder psychiatrischer Erkrankungen. Diese sind jedoch auch mit Risiken verbunden, da ihre Anwendung das menschliche Wesen und unsere Entscheidungen beeinflussen können. Es ist daher wichtig, Chancen und Risiken, die sich aus dem technischen und methodischen Fortschritt ergeben, zu identifizieren und zu bewerten.

Das Verbundvorhaben TESIComP ist Teil der BMBF-Fördermaßnahme „Forschung zu ethischen, rechtlichen und sozialen Aspekten der Neurowissenschaften“. Ziel dieser Maßnahme ist es, die ethischen, rechtlichen und gesellschaftlichen Implikationen in den Neurowissenschaften zu identifizieren, den Stand des Wissens zu erweitern und somit wissenschaftliche Grundlagen für einen informierten gesellschaftlichen und wissenschaftlichen Diskurs zu legen. Inzwischen sind die virtuellen Technologien soweit fortgeschritten, dass sie in der Neurowissenschaft genutzt werden können.

Ziel des Verbundprojektes TESIComP ist die Identifikation, ethische Bewertung und wissenschaftliche Beurteilung theoretischer und praktischer Implikationen und Konsequenzen computergestützter Psychiatrie auf den Ebenen der neuropsychiatrischen Forschung und klinischen Praxis. Die Forschenden gehen dabei Fragen nach wie: Wie verändern KI-basierte Expertensysteme unser Verständnis der Psychiatrie und neuropsychiatrischer Erkrankungen? Welche Auswirkungen haben sie auf die Rolle des Arztes bzw. der Ärztin, die Identität von Patientinnen bzw. Patienten und das Verhältnis zwischen beiden?

Die Erkenntnisse sollen in zielgruppenspezifische Empfehlungen für die ärztlichen Praxis, Patientinnen und Patienten sowie Angehörige resultieren.

Teilprojekte

Ethische und wissenschaftstheoretische Analyse

Förderkennzeichen: 01GP2216A
Gesamte Fördersumme: 282.572 EUR
Förderzeitraum: 2023 - 2026
Projektleitung: Prof. Dr. Mark Schweda
Adresse: Carl von Ossietzky Universität Oldenburg, Fakultät VI, Medizin und Gesundheitswissenschaften, Department für Versorgungsforschung, Abteilung Ethik in der Medizin
Ammerländer Heerstr. 114-118
26129 Oldenburg

Ethische und wissenschaftstheoretische Analyse

Auf künstlicher Intelligenz (KI) basierte Ansätze wie maschinelles Lernen mittels neuronaler Netze finden zunehmend Einsatz in der Neuropsychiatrie. Die Grundlagen der mithilfe dieser Systeme erzielten Ergebnisse sind hierbei oft nicht mehr nachvollziehbar. Diese Opazität, also die "Undurchsichtigkeit" KI-basierter Ansätze, wirft grundlegende theoretische, ethische und soziale Fragen für die neuropsychiatrische Forschung und Praxis auf: Wie verändert sie unser Verständnis der Psychiatrie und neuropsychiatrischer Erkrankungen? Welche Auswirkungen hat sie auf die Rolle von Ärzteschaft, die Identität von Patientinnen und Patienten und das Verhältnis zwischen beiden? Ziel des interdisziplinären Verbundprojekts TESIComP ist die empirische Identifikation, Bewertung und Beurteilung der Implikationen und Konsequenzen der computationalen Psychiatrie auf den Ebenen der neuropsychiatrischen Forschung und der klinischen Praxis. Der Fokus liegt auf zwei prominenten Anwendungsfeldern: Alzheimer-Krankheit und depressive Störungen. Dieses Vorhaben (TP 1) ist für die inhaltliche und administrative Koordination des Gesamtverbundes verantwortlich und untersucht übergreifend die ethischen und wissenschaftstheoretischen Implikationen des KI-Einsatzes. In einer ersten Phase wird durch Literaturanalysen und fünf Experteninterviews eine Übersicht des Forschungsstands sowie eine heuristische Matrix für die ethische Analyse erarbeitet. In der explorativen Projektphase unterstützt TP1 die Entwicklung der Leitfäden der empirischen Studien und die Einholung der Ethikvoten. Parallel wird die theoretische Matrix erweitert. Die dritte Phase ist der vergleichenden wissenschaftstheoretischen und ethischen Reflexion der empirischen Ergebnisse gewidmet. Dabei ist TP1 für die Organisation und Durchführung eines Delphi-Verfahren mit Expertinnen und Experten verantwortlich. Die Ergebnisse werden in wissenschaftlichen Fachzeitschriften veröffentlicht und fließen in empirisch informierte ethische Empfehlungen ein.

Empirische Exploration in der Praxis bei Demenz

Förderkennzeichen: 01GP2216B
Gesamte Fördersumme: 233.246 EUR
Förderzeitraum: 2023 - 2026
Projektleitung: Prof. Dr. Stefan Teipel
Adresse: Deutsches Zentrum für Neurodegenerative Erkrankungen e.V. (DZNE) in der Helmholtz-Gemeinschaft- Standort Rostock/Greifswald
Gehlsheimer Str. 20
18147 Rostock

Empirische Exploration in der Praxis bei Demenz

Auf künstlicher Intelligenz (KI) basierte Ansätze finden zunehmend Einsatz in der Neuropsychiatrie. Die Grundlagen der mithilfe dieser Systeme erzielten Ergebnisse sind hierbei oft nicht mehr nachvollziehbar. Diese Undurchsichtigkeit KI-basierter Ansätze wirft grundlegende theoretische, ethische und soziale Fragen für die neuropsychiatrische Forschung und Praxis auf: Wie verändert sie unser Verständnis der Psychiatrie und neuropsychiatrischer Erkrankungen? Welche Auswirkungen hat sie auf die Rolle von Ärzten, die Identität von Patienten das Verhältnis zwischen beiden? Ziel des interdisziplinären TESIComP Verbundprojekts ist die empirische Identifikation, Bewertung und Beurteilung der Implikationen und Konsequenzen der komputationalen Psychiatrie auf den Ebenen der neuropsychiatrischen Forschung und der klinischen Praxis. Der Fokus liegt auf zwei Anwendungsfeldern: Alzheimer-Krankheit und depressive Störungen. Das Vorhaben (TP 2) untersucht ein digitales Expertensystem für Demenz mit Patienten und in einer Expertenbefragung. Hierfür wird in einer ersten Phase durch Literaturanalysen, fünf Interviews mit Experten aus der Forschung und Praxis im Bereich dementieller Erkrankungen sowie durch Fokusgruppen eine Übersicht des Forschungsstands erarbeitet. In der anschließenden explorativen Projektphase werden qualitative Interviews mit Forschenden sowie mit klinisch arbeitenden Personen und Patienten im Bereich dementieller Erkrankungen geführt und Beobachtungen von KI-Arzt-Patienten Interaktionen durchgeführt, um potenzielle Auswirkungen des Einsatzes KI-gestützter Ansätze zu untersuchen. Die dritte Phase ist der wissenschaftstheoretischen und ethischen Reflexion der empirischen Ergebnisse der jeweiligen Teilprojekte gewidmet und schließt ein Delphi-Verfahren mit führenden Experten und Expertinnen ein. Die Ergebnisse werden in wissenschaftlichen Fachzeitschriften veröffentlicht und fließen in empirisch informierte ethische Empfehlungen ein.

Empirische Exploration in der Praxis bei Depressionen

Förderkennzeichen: 01GP2216C
Gesamte Fördersumme: 195.582 EUR
Förderzeitraum: 2023 - 2026
Projektleitung: Prof. Dr. Oliver Gruber
Adresse: Universität Heidelberg, Medizinische Fakultät und Universitätsklinikum Heidelberg, Klinik für Allgemeine Psychiatrie, Sektion Experimentelle Psychopathologie und Bildgebung
Voßstr. 4
69115 Heidelberg

Empirische Exploration in der Praxis bei Depressionen

Auf künstlicher Intelligenz (KI) basierte Ansätze finden zunehmend Einsatz in der Neuropsychiatrie. Die Grundlagen der mithilfe dieser Systeme erzielten Ergebnisse sind hierbei oft nicht mehr nachvollziehbar. Diese Undurchsichtigkeit KI-basierter Ansätze wirft grundlegende theoretische, ethische und soziale Fragen für die neuropsychiatrische Forschung und Praxis auf: Wie verändert sie unser Verständnis der Psychiatrie und neuropsychiatrischer Erkrankungen? Welche Auswirkungen hat sie auf die Rolle von Ärzten, die Identität von Patienten das Verhältnis zwischen beiden? Ziel des interdisziplinären TESIComP Verbundprojekts ist die empirische Identifikation, Bewertung und Beurteilung der Implikationen und Konsequenzen der komputationalen Psychiatrie auf den Ebenen der neuropsychiatrischen Forschung und der klinischen Praxis. Der Fokus liegt auf zwei Anwendungsfeldern: Alzheimer-Krankheit und depressive Störungen. Das hier beantragte Vorhaben (TP 3) untersucht ein digitales Expertensystem für depressive Störungen mit Patienten und in einer Expertenbefragung. Hierfür wird in einer ersten Phase durch Literaturanalysen, fünf Interviews mit Experten aus der Forschung und Praxis im Bereich depressiver Störungen sowie durch Fokusgruppen eine Übersicht des Forschungsstands erarbeitet. In der anschließenden explorativen Projektphase werden qualitative Interviews mit Forschenden sowie mit klinisch arbeitenden Personen und Patienten im Bereich depressiver Störungen geführt und Beobachtungen von KI-Arzt-Patienten Interaktionen durchgeführt, um potentielle Auswirkungen des Einsatzes KI-gestützter Ansätze zu untersuchen. Die dritte Phase ist der wissenschaftstheoretischen und ethischen Reflexion der empirischen Ergebnisse der jeweiligen Teilprojekte gewidmet und schließt ein Delphi-Verfahren mit führenden Experten und Expertinnen ein. Die Ergebnisse werden in wissenschaftlichen Fachzeitschriften veröffentlicht und fließen in empirisch informierte ethische Empfehlungen ein.