Fault–Based Liability for Medical Malpractice in the Age of Artificial Intelligence: Α Comparative Analysis of German and Greek Medical Liability Law in View of the Challenges Posed by AI Systems
Vasileios P. Maroudas
Law Schoolf of the Aristotle University of Thessaloniki , Greecehttps://orcid.org/0009-0007-4039-8083
Abstract
The rapid developments in the field of AI pose intractable problems for the law of civil liability. The main question that arises in this context is whether a fault-based liability regime can provide sufficient protection to victims of harm caused by the use of ΑΙ. This article addresses this question specifically in relation to medical malpractice liability. Its main purpose is to outline the problems that autonomous systems pose for medical liability law, but more importantly, to determine whether and to what extent a fault-based system of medical liability can adequately address them. In order to approach this issue, a comparative examination of German and Greek law will be undertaken. These two systems, while similar in substantive terms, differ significantly at the level of the burden of proof. In this sense, their comparison serves as a good example to “test” the adequacy of the fault principle in relation to AI systems in the field of medicine, but also to illustrate the practical importance that rules on the allocation of the burden of proof can have in cases of damage caused by the use of AI. As will eventually become apparent, the main problem appears to lie not in the fault principle itself, which, for the time being, at least in the form of objectified negligence, seems to protect the patient adequately, but mainly in the general rule for the allocation of the burden of proof, which is precisely why the fault principle ends up working to the detriment of the patient.
Keywords:
Medical Liability, Autonomous Systems, Fault Principle, Burden of Proof, Liability for Presumed FaultReferences
Deutscher Juristentag. Beschlüsse. Bonn 2022. Accessed February 23, 2024. https://djt.de/wp-content/uploads/2022/09/Beschluesse.pdf.
Ahrens, Hans-Jürgen. Der Beweis im Zivilprozess, 1st ed. Köln: Otto Schmidt Verlag, 2014.
von Bar, Christian. Verkehrspflichten: richterliche Gefahrsteuerungsgebote im deutschen Deliktsrecht. Köln: Carl Heymanns Verlag, 1980.
Baumgärtel, Gottfried. “Die beweisrechtlichen Auswirkungen der vorgeschlagenen EG-Richtlinie zur Dienstleistungshaftung.” Juristen Zeitung 47, no. 7 (April 1992): 321–5.
Beck, Susanne, Michelle Faber, Simon and Gerndt. “Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege.” Ethik in der Medizin 35, no. 2 (April 2023): 247–63.
Borges, Georg. “Haftung für KI-Systeme — Konzepte und Adressaten der Haftung.” Computer und Recht 12, no. 9 (September 2022): 553–61.
Brand, Oliver. “Haftung und Versicherung beim Einsatz von Robotik in Medizin und Pflege.” Medizinrecht 37, no. 12 (December 2019): 943–50.
Burchardi, Sophie. “Risikotragung für KI-Systeme – Zur Zweckmäßigkeit einer europäischen Betreiberhaftung.” Europäische Zeitschrift für Wirtschaftsrecht 33, no. 15 (August 2022): 685–92.
Caspers, Georg. J. von Staudingers Kommentar zum Bürgerlichen Gesetzbuch mit Einführungsgesetz und Nebengesetzen, §§ 255-304–Leistungsstörungsrecht 1, edited by Georg Caspers, Cornelia Feldmann, Sebastian Kolbe, and Roland Schwarze, § 276. Otto Schmidt/De Gruyter - de gruyter, 2019.
Contreras, Brian. “What AI Will Bring In 2024: 4 Predictions.” Los Angeles Times, January 2, 2024. Accessed February 16, 2024. https://www.latimes.com/business/technology/story/2024-01-02/ai-predictions-2024-competency-tests-election-ads-bankruptcies.
Dacoronia, Eugenia. “Tort Law in Greece. The State of Art.” In Studia in Honorem Pelayia Yessiou–Faltsi, edited by Nikolaos Th. Nikas et al., 57–77. Athens: Sakkoulas Publications, 2007.
Dettling, Heinz–Uwe. “Künstliche Intelligenz und digitale Unterstützung ärztlicher Entscheidungen in Diagnostik und Therapie.” PharmaRecht 41, no. 12 (December 2019): 633–43.
Deutsch, Erwin. Allgemeines Haftungsrecht, 2nd ed. Köln: Carl Heymanns Verlag, 1996.
Deutsch, Erwin, and Andreas Spickhoff. Medizinrecht. Arztrecht, Arzneimittelrecht, Medizinprodukterecht und Transfusionsrecht. Berlin: Springer Verlag, 2014.
“Digitaler Neustart”, Arbeitsgruppe. Haftungsfragen der Künstlichen Intelligenz – Europäische Rechtsetzung. Bericht vom 1. März 2023. https://www.justiz.nrw/JM/justizpol_themen/digitaler_neustart/zt_fortsetzung_arbeitsgruppe_teil_5/Bericht-Digitaler-Neustart_Haftung-bei-KI.pdf.
Eichelberger, Jan. “Arzthaftung”. In Künstliche Intelligenz – Recht und Praxis automatisierter und autonomer Systeme, edited by Kuuya J. Chibagunza, Christian Kuß, and Hans Steege, 655–74. Baden–Baden: Nomos, 2022.
Emmerich, Volker. BGB–Schuldrecht Besonderer Teil, 16th ed. Heidelberg: C.F. Müller, 2022.
Ernst, Anna Maria. Rechtsfragen der Systemmedizin. Berlin: Springer Verlag, 2020.
Försch, Sebastian, Frederick Klauschen, Peter Hufnagl, and Roth Wilfried. “Künstliche Intelligenz in der Pathologie.” Deutsches Ärzteblatt 118, no. 12 (March 2021): 199–204.
Fountedaki, Katerina. Civil Medical Liability [Φουντεδάκη, Κατερίνα. Αστική Ιατρική Ευθύνη]. Athens: Sakkoulas Publications, 2003.
Fountedaki, Katerina. Lessons of Civil Medical Liability [Φουντεδάκη, Kατερίνα. Παραδόσεις Αστικής Ιατρικής Ευθύνης]. Athens: Nomiki Bibliothiki, 2018.
Fountedaki, Katerina, Maria Gerasopoulou, and Vasileios Maroudas. Civil Medical Liability [Φουντεδάκη, Κατερίνα, Μαρία Γερασοπούλου, and Bασίλειος Μαρούδας. Αστική Ιατρική Ευθύνη]. Athens: Nomiki Bibliothiki, 2023.
Geiß, Karlmann, and Hans-Peter Greiner, ed. Arzthaftpflichtrecht, 8th ed. München: C.H. Beck, 2022.
Geistfeld, Mark A., Ernst Karner, Bernhard A. Koch, and Christiane Wendehorst, eds. Civil Liability for Artificial Intelligence and Software. Berlin, Boston: De Grutyer, 2023.
Giesen, Ivo. “The Burden of Proof and other Procedural Devices in Tort Law.” In European Tort Law 2008, edited by Helmut Koziol and Barbara C. Steininger, 49–67. Vienna: Springer Wien New York, 2009.
Gutmann, Thomas, ed. J. von Staudingers Kommentar zum Bürgerlichen Gesetzbuch: Staudinger BGB - Buch 2: Recht der Schuldverhältnisse: §§ 630a-630h (Behandlungsvertrag), rev. ed., § 630a. Otto Schmidt/De Gruyter - de gruyter, 2021.
Hart, Diter. “Haftungsrecht und Standardbildung in der modernen Medizin: e–med und Probleme der Definition des Standards.” Medizinrecht 34, no. 9 (October 2016): 669–75.
Helle, Katrin. “Intelligente Medizinprodukte: Ist der geltende Rechtsrahmen noch aktuell?.” Medizinrecht 38, no. 12 (December 2020): 993–1000.
Jaeger, Lothar. Patientenrechtegesetz. Karlsruhe: VVW, 2013.
Jansen, Christoph. Der Medizinische Standard. Begriff und Bestimmung ärztlicher Behandlungsstandards an der Schnittstelle von Medizin, Haftungsrecht und Sozialrecht. Berlin, Heidelberg: Springer Verlag, 2019.
Jansen, Christoph, and Christian Katzenmeier. “Beweismass, Beweislast und Haftung für den Verlust von Heilungschancen–Kausalitätsfragen im Arzthaftungsprozess in der Schweiz und in Deutschland.” In Das Zivilrecht und seine Durchsetzung. Festschrift für Professor Thomas Sutter-Somm, edited by Roland Fankhauser, Corinne Widmer Lüchinger, Rafael Klingler, and Benedikt Seiler, 285–301. Zürich: Schulthess, 2016.
Karner, Ernst. “The Function of the Burden of Proof in Tort Law.” In European Tort Law 2008, edited by Helmut Koziol and Barbara C. Steininger, 68–78. Vienna: Springer Wien New York, 2009.
Katzenmeier, Christian. “Big Data, E-Health, M-Health, KI und Robotik in der Medizin. Digitalisierung des Gesundheitswesens – Herausforderung des Rechts,” Medizinrecht 37, no. 4 (April 2019): 259–271.
Katzenmeier, Christian. “Haftung für Schäden durch KI in der Medizin.” In Die Macht der Algorithmen, edited by Thomas Grundmann, Johanna Hey, Stephan Hobe, Christian Katzenmeier, Torsten Körber, Claes Neuefeind, Markus Ogorek, Frauke Rostalski, and Martin Paul Waßmer, 73–101. Baden–Baden: Nomos, 2023.
Katzenmeier, Christian. “KI in der Medizin – Haftungsfragen.” Medizinrecht 39, no. 10 (October 2021): 859–67.
Kornilakis, Panagiotis. Special Part of the Law of Obligations, 3rd ed. [Κορνηλάκης, Παναγιώτης. Ειδικό Ενοχικό Δίκαιο]. Athens: Sakkoulas Publications, 2023.
Larenz, Karl. Lehrbuch des Schuldrechts, Band I, Allgemeiner Teil, 14th ed. München: C.H. Beck, 1987.
Laufs, Adolf. “Deliktische Haftung ohne Verschulden? – Eine Skizze.” In Festschrift für Joachim Gernhuber zum 70. Geburtstag, edited by Hermann Lange, Knut Wolfgang Nörr, and Harm Peter Westermann, 245–58. Tübingen: J.C.B. Mohr P. Siebeck, 1993.
Laufs, Adolf, Bernd-Rüdige Kern, and Martin Rehborn, eds. Handbuch des Arztrechts. München: C.H. Beck, 2019.
Laufs, Adolf, Christian Katzenmeier, and Volker Lipp, eds. Arztrecht. München: C.H. Beck, 2021.
Lohmann, Anna, and Annika Schömig. “‘Digitale Transformation’ im Krankenhaus. Gesellschaftliche und rechtliche Herausforderungen durch das Nebeneinander von Ärzten und Künstlicher Intelligenz.” In Digitalisierung, Automatisierung, KI und Recht – Festgabe zum 10-jährigen Bestehen der Forschungsstelle RobotRecht, edited by Susanne Beck, Carsten Kuche and Brian Valerius, 345–64. Baden–Baden: Nomos 2020.
Medicus, Dieter, and Stephan Lorenz. Schuldrecht Besonderer Teil. München: C.H. Beck, 2018.
Mühlböck Luisa, and Jochen Taupitz. “Haftung für Schäden durch KI in der Medizin.” Archiv für die civilistische Praxis 221, no. 1–2 (February 2021): 179–218.
Oechsler, Jürgen. “Die Haftungsverantwortung für selbstlernende KI-Systeme.” Neue Juristische Wochenschrift 75, no. 38 (September 2022): 2713–6.
Prütting, Hans. Münchener Kommentar zur Zivilprozessordnung: ZPO, Band 1: §§ 1-354, 6th ed., edited by Wolfgang Krüger and Thomas Rauscher. München: C.H. Beck, 2020.
Reichwald, Julian, and Dennis Pfisterer. “Autonomie und Intelligenz im Internet der Dinge Möglichkeiten und Grenzen autonomer Handlungen.” Computer und Recht 32, no. 3 (March 2016): 208–12.
Schmidt, Jan–Robert. “Die Auswirkungen der Nutzung von KI-Software auf die ärztliche Haftung.” Gesundheitsrecht 22, no. 6 (June 2023): 341–53.
Schneider, Lena. Neue Behandlungsmethoden im Arzthaftungsrecht. Behandlungsfehler-Aufklärungsfehler-Versicherung. Heidelberg: Springer, 2010.
Spindler, Gerlad. “Medizin und IT, insbesondere Arzthaftungs- und IT-Sicherheitsrecht.” In Festschrift für Dieter Hart. Medizin – Recht – Wissenschaft, edited by Christian Katzenmeier, 581–602. Berlin: Springer Verlag, 2020.
Stathopoulos, Michail P. General Law of Obligations, 5th ed. [Σταθόπουλος, Μιχαήλ Π. Γενικό Ενοχικό Δίκαιο, 5th ed.]. Athens: Sakkoulas Publications, 2018.
Stoll, Hans. “Haftungsverlagerung durch beweisrechtliche Mittel.” Archiv für die civilistische Praxis 176, no. 2/3 (1976): 145–96.
Ströbel, Lukas, and Robert Grau. “KI-gestützte Medizin-Apps.” Zeitschrift für Datenschutz 12, no. 11 (November 2022): 599–604.
Teubner, Gunther. “Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten.” Archiv für die civilistische Praxis 218, no. 2–4 (August 2018): 155–205.
Ulber, Daniel. Erman BGB, 17th ed., edited by Harm Peter Westermann, Barbara Grunewald, and Georg Maier-Reimer, § 280. Köln: Otto Schmidt Verlag, 2023.
Wagner, Gerhard. “Verantwortlichkeit im Zeichen digitaler Techniken.” Versicherungsrecht 71, no. 12 (December 2020): 717–41.
Waldkirch, Conrad. Zufall und Zurechnung im Haftungsrecht. Tübingen: Mohr Siebeck, 2018.
Wendehorst, Christiane, and Yannic Duller. “Safety- and Liability-Related Aspects of Software.” In Civil Liability for Artificial Intelligence and Software, edited by Mark. A. Geistfeld, Ernst Karner, Bernhard A. Koch, and Christiane Wendehorst, 189–318. Berlin, Boston: De Grutyer, 2023.
Yessiou–Faltsi, Pelayia. Civil Procedure in Hellas, 2nd rev. ed. Athens: Sakkoulas Publications, 2022.
Zech, Herbert. “Entscheidungen digitaler autonomer Systeme: Empfehlen sich Regelungen zu Verantwortung und Haftung.” In Verhandlungen des 73. Deutschen Juristentags, 1: 1–112. Leipzig: C.H. Beck, 2020.
Zech, Herbert. “Risiken Digitaler Systeme: Robotik, Lernfähigkeit und Vernetzung als aktuelle Herausforderungen für das Recht.” Weizenbaum Series 2, no. 1 (January 2020): 1–53. https://doi.org/10.34669/wi.ws/2.
Zech, Herbert, and Isabelle Céline Hünefeld. “Einsatz von KI in der Medizin: Haftung und Versicherung.” MedizinRecht 41, no. 1 (January 2023): 1–8.
Law Schoolf of the Aristotle University of Thessaloniki https://orcid.org/0009-0007-4039-8083
