Zusammenfassung
Ziel der Studie Dieser Beitrag bietet eine Zusammenschau ethischer Aspekte, die beim Einsatz einer
autonomen, virtuellen oder verkörperten Künstlichen Intelligenz (KI) in der Gesundheitsversorgung
psychisch Erkrankter tangiert sind.
Methodik Die Zusammenschau basiert auf einer thematischen Literaturrecherche. Sie orientiert
sich an der Prinzipienethik und wird durch das Konzept der epistemischen (Un-)Gerechtigkeit
erweitert.
Ergebnis Neben der Chancen-Risiken-Abwägung sind die (digitale) Gesundheitskompetenz, Zugangsgerechtigkeit,
Fragen der Unter- oder Fehlversorgung sowie eine Anpassung der informierten Einwilligung
in den Blick zu nehmen.
Schlussfolgerung Die ethische Beurteilung autonomer KI in der Psychotherapie ist weiterhin ergebnisoffen;
zu viele klinische, ethische, rechtliche und praktische Fragen sind noch zu klären.
Vor der Implementierung müssen Gütekriterien für die KI-Anwendung sowie Leitlinien
für ihren klinischen Einsatz entwickelt werden.
Abstract
Objective This paper provides an overview of a range of ethical aspects involved in the use
of autonomous, virtual or embodied artificial intelligence (AI) in the care of people
with mental health issues.
Methodology The overview is based on a thematic literature review. It is guided by the principles
of biomedical ethics together with the concept of epistemic (in)justice.
Results In addition to a risk-benefit analysis, (digital) health literacy, equity of access,
issues of under- or misuse of care, and an adaptation of informed consent need to
be considered.
Conclusion The ethical assessment of autonomous AI in psychotherapy remains open; too many clinical,
ethical, legal, and practical questions remain to be addressed. Quality criteria for
AI application as well as guidelines for its clinical use need to be developed before
wider clinical implementation.
Schlüsselwörter
kognitive Verhaltenstherapie - Robotik - Medizinethik - Risiko-Nutzen-Abwägung - Patientenautonomie
Keywords
cognitive behavioural therapy - robotics - medical ethics - risk-benefit assessment
- patient autonomy
