Von der KI-Ethik zur Bewusstseinsethik: Ethische Aspekte der Computational Psychiatry

Zusammenfassung

Ziel Ermittlung ethischer Probleme, die sich aus KI-Forschung und Computational Psychiatry für die psychiatrische Forschung und Praxis ergeben.

Methode Begriffliche Analyse und Diskussion ethisch relevanter Projekte innerhalb der Computational Psychiatry.

Ergebnisse Die Computational Psychiatry verspricht v. a. einen Beitrag zur Verbesserung von Diagnostik und Therapie(-prognosen). Ethische Probleme betreffen u. a. den Umgang mit Datenschutz, Folgen für unser Selbstverständnis sowie das Risiko der Biologisierung und der Vernachlässigung des bewussten Erlebens.

Schlussfolgerung Es ist erforderlich, sich jetzt mit möglichen Anwendungen der KI und Computational Psychiatry zu befassen, um die Voraussetzungen für einen verantwortungsvollen Umgang in der Zukunft zu schaffen. Dies setzt Grundkenntnisse der Funktionsweise von KI-Anwendungen und der damit zusammenhängenden ethischen Probleme voraus.

Abstract

Objective Identifying ethical problems arising from AI research and Computational Psychiatry for psychiatric research and practice.

Methods Conceptual analysis and discussion of ethically relevant projects within Computational Psychiatry.

Results Computational Psychiatry promises a contribution to improving diagnostics and therapy (prediction). Ethical problems include dealing with data protection, consequences for our self-image, as well as the risk of biologization and the neglect of conscious experience.

Conclusion It is necessary to consider possible applications of AI and Computational Psychiatry now in order to create the conditions for responsible use in the future. This requires a basic understanding of how AI applications work and of the associated ethical problems.

Schlüsselwörter

Computational Psychiatry - KI-Ethik - Neuroethik

Keywords

Computational Psychiatry - ethics of AI - neuroethics

• Literatur

• 1 Friston KJ, Redish AD, Gordon JA. Computational Nosology and Precision Psychiatry. Computational Psychiatry 2017; 1: 2-23
• 2 Stephan KE, Mathys C. Computational approaches to psychiatry. Current Opinion in Neurobiology 2014; 25: 85-92
• 3 Browning M, Carter CS, Chatham C. Realizing the Clinical Potential of Computational Psychiatry: Report from the Banbury Center Meeting, February 2019. Biol Psychiatry 2020; 88: e5-e10
• 4 Bennett D, Silverstein SM, Niv Y. The two cultures of computational psychiatry. JAMA Psychiatry 2019; 76: 563-564
• 5 Kaminski J, Katthagen T, Schlagenhauf F. Computationale Psychiatrie: Datengetriebene vs. mechanistische Ansätze. Nervenarzt 2019; 90: 1117-1124
• 6 Moran RJ, Symmonds M, Stephan KE. et al. An In Vivo Assay of Synaptic Function Mediating Human Cognition. Current Biology 2011; 21: 1320-1325
• 7 Drysdale AT, Grosenick L, Downar J. et al. Resting-state connectivity biomarkers define neurophysiological subtypes of depression. Nat Med 2017; 23: 28-38
• 8 Brodersen KH, Schofield TM, Leff AP. et al. Generative embedding for model-based classification of fMRI data. PLoS Comput Biol 2011; 7: e1002079
• 9 Stephan KE, Siemerkus J, Bischof M. et al. Hat Computational Psychiatry Relevanz für die klinische Praxis der Psychiatrie?. Zeitschrift für Psychiatrie, Psychologie und Psychotherapie 2017; 65: 9-19
• 10 Beauchamp TL, Childress JF. Principles of biomedical ethics. New York: Oxford University Press; 2013
• 11 Hagendorff T. The ethics of AI ethics: An evaluation of guidelines. Minds Mach 2020; 30: 99-120
• 12 Held V. The Ethics of Care. In: Copp D. ed. The Oxford Handbook of Ethical Theory. New York: Oxford University Press; 2009: 537-566
• 13 Illes J, Racine E. Imaging or imagining? A neuroethics challenge informed by genetics. Am J Bioeth 2005; 5: 5-18
• 14 Starke G, De Clercq E, Borgwardt S. et al. Computing schizophrenia: ethical challenges for machine learning in psychiatry. Psychol Med 2020;
• 15 Read J, Haslam N, Sayce L. et al. Prejudice and schizophrenia: a review of the 'mental illness is an illness like any other' approach. Acta Psychiatr Scand 2006; 114: 303-318
• 16 Fuchs T. Ethical issues in neuroscience. Curr Opin Psychiatry 2006; 19: 600-607
• 17 Lebowitz MS, Ahn WK. Combining biomedical accounts of mental disorders with treatability information to reduce mental illness stigma. Psychiatr Serv 2012; 63: 496-499
• 18 Moutoussis M, Shahar N, Hauser TU. et al. Computation in Psychotherapy, or How Computational Psychiatry Can Aid Learning-Based Psychological Therapies. Comput Psychiatr 2018; 2: 50-73
• 19 Guloksuz S, van Os J. The slow death of the concept of schizophrenia and the painful birth of the psychosis spectrum. Psychol Med 2018; 48: 229-244
• 20 Caspi A, Houts RM, Belsky DW. et al. The p Factor: One General Psychopathology Factor in the Structure of Psychiatric Disorders?. Clin Psychol Sci 2014; 2: 119-137
• 21 Cole C, Petree LE, Phillips JP. et al. „Ethical responsibility“ or „a whole can of worms“: differences in opinion on incidental finding review and disclosure in neuroimaging research from focus group discussions with participants, parents, IRB members, investigators, physicians and community members. J Med Ethics 2015; 41: 841-847
• 22 Christen M, Domingo-Ferrer J, Draganski B. et al. On the Compatibility of Big Data Driven Research and Informed Consent: The Example of the Human Brain Project. In: Mittelstadt BD, Floridi L. eds. The Ethics of Biomedical Big Data. Cham: Springer International Publishing; 2016: 199-218
• 23 Guntuku SC, Yaden DB, Kern ML. et al. Detecting depression and mental illness on social media: an integrative review. Curr Opin Behav Sci 2017; 18: 43-49
• 24 Pawelzik MR. Commentary on Henrik Walter’s "The third wave of biological psychiatry". Front Psychol 2013; 4: 832
• 25 Fuchs T. Zwischen Psyche und Gehirn: Zur Standortbestimmung der Psychiatrie. Der Nervenarzt 2017; 88: 520-528
• 26 Metzinger T. Der Ego-Tunnel: Eine neue Philosophie des Selbst: Von der Hirnforschung zur Bewusstseinsethik. Berlin: Piper; 2014
• 27 Wiesemann C. Vertrauen als moralische Praxis – Bedeutung für Medizin und Ethik. In: Steinfath H, Wiesemann C, Anselm R, Duttge G, Lipp V, Nauck F, Schicktanz S. Hrsg. Autonomie und Vertrauen. Schlüsselbegriffe der modernen Medizin. Wiesbaden: Springer VS; 2016
• 28 Adadi A, Berrada M. Peeking inside the black-box: A survey on Explainable Artificial Intelligence (XAI). IEEE Access 2018; 6: 52138-52160
• 29 Korth C, Fangerau H. Blood tests to diagnose schizophrenia: self-imposed limits in Psychiatry. Lancet Psychiatry 2020; 7: 911-914
• 30 McCoy LG, Nagaraj S, Morgado F. et al. What do medical students actually need to know about artificial intelligence?. NPJ Digit Med 2020; 3: 86
• 31 Gather J, Kaufmann S, Otte I. et al. Entwicklungsstand von klinischer Ethikberatung in der Psychiatrie. Psychiat Prax 2019; 46: 90-96
• 32 Wollenburg LM, Claus S, Kieser C. et al. Zum Stand der Anwendung klinischer Ethikberatung in deutschen Kliniken für Psychiatrie und Psychotherapie. Psychiat Prax 2020; 47: 446-451