Neue Haftungsregelungen für (digitale) Produkte und Künstliche Intelligenz – Europäische Kommission stellt Richtlinienvorschläge vor

Die Europäische Kommission hat am 28.09.2022 zwei Richtlinienentwürfe vorgestellt, die das europäische Haftungsrecht für Schäden, die durch fehlerhafte (digitale) Produkte oder Künstliche Intelligenz („KI“) verursacht wurden, maßgeblich ändern beziehungsweise erstmals regeln werden.

Mit der Modernisierung der bestehenden Vorschriften über die verschuldensunabhängige Haftung von Herstellern für fehlerhafte Produkte und der Harmonisierung der nationalen Haftungsvorschriften bezweckt die Europäische Kommission dabei insbesondere einen sicheren Rechtsrahmen, um die Investition in neue und innovative Produkte im Binnenmarkt zu fördern. Gleiches gilt für den Vorschlag der KI-Richtlinie. Allerdings bedürfen beide Richtlinien einer weiteren Präzisierung, um die von der Europäischen Kommission gesetzten Ziele zu erreichen. Auch der zeitliche Horizont für ein Inkrafttreten der Richtlinien ist bislang nicht abzusehen. Wann und wie die Produkthaftung sowie die Haftung für Schäden im Zusammenhang mit KI in Europa und Deutschland konkret neu geregelt wird, ist damit weiterhin nicht sicher vorherzusehen.

Der Richtlinienentwurf für die Haftung für fehlerhafte Produkte

Mit dem Vorschlag zur Überarbeitung der Produkthaftungsrichtlinie (COM(2022) 495 final) strebt die Europäische Kommission laut der Präambel insbesondere an,

• sicherzustellen, dass die Haftungsvorschriften der Produktbeschaffenheit im digitalen Zeitalter und in der Kreislaufwirtschaft sowie den damit zusammenhängenden Risiken Rechnung tragen;
• zu gewährleisten, dass die Verbraucher sich stets an ein Unternehmen mit Sitz in der Europäischen Kommission als Haftungssubjekt wenden können;
• die Beweislast in komplexen Fällen zu mindern und Einschränkungen bei der Geltendmachung von Ansprüchen im Interesse der geschädigten Personen zu verringern; und
• die Rechtssicherheit durch eine überarbeitete Angleichung an die Produktsicherheitsvorschriften sowie die in den letzten Jahrzehnten ergangene Rechtsprechung zur Produkthaftungsrichtlinie zu gewährleisten.

Im Vergleich mit der bislang durch die Mitgliedsstaaten in ihr jeweiliges nationales Recht umgesetzten Produkthaftungsrichtlinie aus dem Jahr 1985 (Richtlinie 85/374/EWG) sind insbesondere folgende Änderungsvorschläge hervorzuheben:

• Der Produktbegriff wird ausdrücklich auf „digitale Bauunterlagen“ und „Software“ erweitert (Art. 4 Abs. 1 ProdHaftRiL-E). Dies hat vor allem eine verschuldensunabhängige Haftung des Herstellers im Anwendungsbereich von KI zur Folge.
• Die Definition des „Schadens“ im Sinne der Richtlinie wird auf den „Verlust oder [die] Verfälschung von Daten, die nicht ausschließlich für berufliche Zwecke verwendet werden“ erweitert (Art. 4 Abs. 6 ProdHaftRiL-E).
• Für den Fehlerbegriff werden zahlreiche Umstände genannt, die einen solchen definieren. Vor allem die subjektive Erwartung des Endnutzers an das Produkt sowie mögliche frühere Eingriffe einer Regulierungsbehörde im Rahmen der Produktsicherheit werden als Indikatoren für die Fehlerhaftigkeit eines Produkts genannt (Art. 6 ProdHaftRiL-E). Die berechtigten Erwartungen der Öffentlichkeit beziehen sich dabei insbesondere auch auf die Sicherheitserwartungen einschließlich sicherheitsrelevanter Cybersicherheitsanforderungen.
• Auch die nach deutschem Recht bereits existierende Importeur-Haftung nach § 4 Abs. 2 ProdHaftG, nach welcher der EWR-Importeur mit dem Hersteller gleichgestellt wird, findet sich im Richtlinienentwurf wieder (Art. 7 Nr. 2 ProdHaftRiL-E). Hierunter fallen auch Anbieter von Online-Vermittlungsdiensten einschließlich Online-Marktplätzen (Art. 7 Nr. 6 ProdHaftRiL-E).
• Zur Minderung von Beweisschwierigkeiten des Klägers werden widerlegbare Tatsachenvermutungen vorgeschlagen (Art. 9 ProdHaftRiL-E). So wird die Fehlerhaftigkeit eines Produkts etwa vermutet, wenn eine „offensichtliche Fehlfunktion“ des Produkts vorliegt. Wann dies der Fall ist, wird indes nicht weiter erläutert. Daneben soll auch dann von der Fehlerhaftigkeit des Produkts ausgegangen werden, wenn es dem Kläger nicht zugemutet werden kann, trotz Offenlegungen von Informationen durch den Beklagten aufgrund der Komplexität der Materie die Fehlerhaftigkeit oder den Kausalzusammenhang nachzuweisen, da die Hersteller aus Sicht der Europäischen Kommission über Fachwissen verfügen und insgesamt besser informiert seien als die geschädigten Personen.
• Wird von der Fehlerhaftigkeit des Produkts ausgegangen, kommt allerdings eine Haftungsfreistellung in Betracht, wenn etwa der Hersteller nachweist, dass die Fehlerhaftigkeit, die den Schaden verursacht hat, zum Zeitpunkt des Inverkehrbringens, der Inbetriebnahme oder – bei einem Händler – der Bereitstellung auf dem Markt, wahrscheinlich noch nicht bestanden hat oder dass die Fehlerhaft erst nach dem betreffenden Zeitpunkt entstanden ist (Art. 10 Nr. 1 c) ProdHaftRiL-E). Ist der Fehler indes auf eine Software oder ein Software-Update zurückzuführen, soll die Haftungsfreistellung nicht greifen (Art. 10 Nr. 2 ProdHaftRiL-E).
• Schließlich wird die Verjährungsfrist für Konstellationen, in denen eine geschädigte Person aufgrund der Latenzzeit einer Körperverletzung durch das fehlerhafte Produkt nicht in der Lage war, innerhalb von zehn Jahren ein Verfahren einzuleiten (vgl. § 12 ProdHaftG), auf 15 Jahre verlängert (Art. 12 ProdHaftRiL-E).

Insgesamt konkretisiert der Richtlinienentwurf der Europäischen Kommission die bereits vor zwei Jahren veröffentlichten Vorschläge des Europäischen Parlaments vom 20.10.2020 zur verbesserten Erfassung von durch KI-Systeme hervorgerufen Schäden (P9_TA(2020)0276 / (2020/20148INL). Allerdings hat sich die Europäische Kommission für eine Richtlinie statt einer Verordnung entschieden. Dies gibt den Mitgliedsstaaten die Möglichkeit, die neuen Regelungen in ihr jeweiligen nationales Haftungsrecht einzufügen, bedingt für eine Wirksamkeit der Neuregelungen aber auch, dass eine Umsetzung innerhalb der vorgegebenen Frist von 12 Monaten erfolgt. Zudem trennt die Europäische Kommission die einheitlichen Vorschläge des Europäischen Parlaments und plädiert für eine Überarbeitung der bestehenden Produkthaftungsrichtlinie sowie die Einführung einer neuen KI- Richtlinie.

Der Vorschlag einer Richtlinie zur KI-Haftung

Der Vorschlag einer Richtlinie zur KI-Haftung vom 28.09.2022 (COM(2022)496final) soll laut der Europäischen Kommission primär Rechtsunsicherheiten und Schwierigkeiten in der Bewertung des Haftungsrisikos für Unternehmen entgegentreten, die die Einführung von KI zur Ausschöpfung ihrer Vorteile für den Binnenmarkt fördern. Ziel ist es daneben aber auch, durch KI geschädigte Personen Beweiserleichterungen zu gewähren, um den sogenannten „Blackbox“-Problemen entgegenzuwirken.

Anzumerken ist dabei zunächst, dass Gegenstand des Richtlinienentwurfes ausschließlich Haftungsfälle sind, die durch ein KI-System verursacht wurden und einen außervertraglichen verschuldensunabhängigen zivilrechtlichen Schadensersatzanspruch zum Gegenstand haben (Art. 1 Abs. 2 KI-RiL-E).

Daneben ist insbesondere das Folgende hervorzuheben:

• Der Entwurf sieht unter anderem vor, dass ein Gericht die Offenlegung einschlägiger Beweismittel für bestimmte Hochrisiko-KI-Systeme anordnen kann, die vermutlich einen Schaden verursacht haben (Art. 3 KI-RiL-E). Ziel ist es vor allem, dem Kläger wirksame Mittel zur Verfügung zu stellen – wie hier die vereinfachte Offenlegung von Beweismitteln durch das Gericht – um potenziell haftende Personen zu ermitteln und einschlägige Beweismittel für einen Anspruch zu erbringen. Art und Umfang der Offenlegung werden allerdings nicht weiter konkretisiert. Auch bleibt aus tatsächlicher Sicht offen, ob die durch die Offenlegung erlangten Informationen technisch von der geschädigten Person überhaupt verwertet werden können.
• Daneben enthält der Vorschlag der Europäischen Kommission eine widerlegbare Kausalitätsvermutung, die die geschädigte Person von einem Nachweis des Zusammenhangs zwischen dem sorgfaltswidrigen Verhalten und dem eingetreten Schaden entbinden (Art. 4 KI-RiL-E). Nachzuweisen ist lediglich, dass eine Sorgfaltspflicht verletzt wurde. Daneben ist eine hinreichende Wahrscheinlichkeit erforderlich, nach der davon ausgegangen werden kann, dass der Fehler das vom KI-System erzeugte Ergebnis oder dessen Ausbleiben beeinflusst hat. Weiterhin muss durch den Kläger nachgewiesen werden können, dass die vom KI- System erzeugte Leistung oder das Versagen des Systems einen Schaden verursacht hat.
• Um der Tatsache, dass KI-gestützte Produkte und Dienstleistungen gegebenenfalls Auswirkungen auf die breite Öffentlichkeit haben und wichtige Rechtsgüter wie das Recht auf Leben, Gesundheit und Eigentum gefährden könnten, gerecht zu werden, wird durch die Europäischen Kommission ein Überwachungsprogramm eingerichtet (Art. 5 KI-RiL-E). Hierdurch sollen weitere Informationen über Vorfälle mit KI-Systemen erhalten und gleichzeitig überprüft werden, ob die Einführung einer weiteren verschuldensunabhängigen Haftung und/oder einer Pflichtversicherung erforderlich sind.

Ausblick

Über beide Richtlinienentwürfe werden im nächsten Schritt das Europäische Parlament und der Rat beraten. Insbesondere durch die Erweiterung der Definitionen von „Produkt“ und „Fehler“ sowie die Beweiserleichterungen steigt auf Grundlage der aktuellen Entwürfe das Haftungsrisiko für europäische Produzenten. Gleiches gilt für die verschuldensunabhängige Haftung im Zusammenhang mit KI-basierten Systemen.

Für Versicherer ist zunächst positiv zu bewerten, dass die zwischenzeitlichen Überlegungen zur Einführung einer Pflichtversicherung keinen Eingang in die Richtlinienentwürfe gefunden haben. Allerdings hält sich die Europäische Kommission die Einführung einer Pflichtversicherung durch die in Art. 5 KI-RiL-E vorgesehene Bewertung und gezielte Überprüfung weiterhin offen. Zudem sind im Verlauf des weiteren Gesetzgebungsverfahrens Änderungen zu erwarten, die teils erheblich ausfallen können.

Auch wenn daher mit einer Haftungsverschärfung und auch weiterhin mit der Einführung einer Pflichtversicherung zu rechnen ist, ist der zeitliche Horizont nicht abzuschätzen. Denn nach Verabschiedung der Richtlinien sollte den Mitgliedssaaten nach den derzeitigen Entwürfen eine ein- bzw. zweijährige Frist gesetzt werden, um die Regelungen in nationales Recht umzusetzen. Mit einer kurzfristigen Verschärfung des Haftungsregimes ist damit vorerst nicht zu rechnen.