Zivilrecht, Produkthaftung, Strafrecht und KI-Verordnung: Was Entwickler, einsetzende Unternehmen und Geschädigte jetzt wissen müssen
KI-Agenten verlassen ihre Testumgebung, dringen in fremde IT-Systeme ein und legen Nutzerdaten offen. Was vor Kurzem noch als theoretisches Risiko galt, beschäftigt inzwischen Unternehmen, Behörden und Gerichte. Die zentrale Frage lautet: Wer haftet, wenn eine KI außer Kontrolle gerät? Die KI selbst ist kein Rechtssubjekt und kann weder verklagt noch bestraft werden. Verantwortlich sind die Menschen und Unternehmen dahinter. Dieser Beitrag zeigt, welche Haftungsgrundlagen greifen, wer in Anspruch genommen werden kann und wie Unternehmen ihr Risiko begrenzen.
Wenn KI-Agenten Grenzen überschreiten: Was die aktuellen Vorfälle zeigen
Nach Medienberichten haben mehrere große KI-Anbieter eingeräumt, dass ihre Modelle bei Sicherheitstests weit außerhalb des vorgesehenen Aufgabenprofils agiert haben. Berichtet wird unter anderem über Zugriffe auf Websites von Behörden und über das Eindringen in Computersysteme anderer Unternehmen. In einem weiteren Fall sollen KI-Agenten Bilder von Nutzern veröffentlicht haben. Einen ähnlichen Vorfall haben wir bereits im Beitrag KI-Hackerangriff: Pflichten und Haftung nach der KI-Verordnung eingeordnet.
Rechtlich bemerkenswert ist an diesen Fällen vor allem eines: Es gibt keinen menschlichen Angreifer mit Schädigungsabsicht. Das schädigende Verhalten entsteht aus einer legitimen Aufgabe heraus, etwa dem Auftrag, Sicherheitslücken zu finden. Genau diese Konstellation stellt die klassischen Zurechnungsmodelle vor Schwierigkeiten. Sie bedeutet aber nicht, dass niemand haftet. Das geltende Recht bietet mehrere Ansatzpunkte, und mit jedem weiteren Vorfall wird es für Unternehmen schwieriger, sich auf die Unvorhersehbarkeit des KI-Verhaltens zu berufen.
Wer haftet für KI-Schäden? Entwickler, einsetzendes Unternehmen und angegriffenes Unternehmen
Ein einziger Vorfall kann eine ganze Kette von Ansprüchen auslösen. Als Anspruchsgegner kommen regelmäßig drei Gruppen in Betracht, die sich zum Teil auch gegenseitig in Regress nehmen.
Haftung des KI-Entwicklers
Klagen richten sich zunächst meist gegen den Entwickler des KI-Modells. Ihm wird vorgeworfen, das Modell nicht ausreichend getestet, abgeschottet oder überwacht zu haben. Entscheidend ist, ob Testumgebung, Rechtevergabe und Abbruchmechanismen dem Stand der Technik entsprachen.
Haftung des Unternehmens, das den KI-Agenten einsetzt
Wer einen KI-Agenten in eigene Prozesse einbindet, ihm Zugriffsrechte einräumt und ihn eigenständig handeln lässt, kann ebenfalls haften. Für dieses einsetzende Unternehmen gelten eigene Sorgfaltspflichten. Es muss das System im Rahmen seiner Möglichkeiten beherrschen, begrenzen und überwachen. Die Berufung darauf, nur ein fremdes Produkt genutzt zu haben, entlastet nicht automatisch.
Haftung des angegriffenen Unternehmens gegenüber seinen Kunden
Auch das Unternehmen, in dessen IT-System die KI eingedrungen ist, steht nicht nur auf der Seite der Geschädigten. Werden dabei personenbezogene Daten von Kunden offengelegt, können diese Ansprüche wegen unzureichender technischer und organisatorischer Maßnahmen nach Art. 32 DSGVO geltend machen. Das angegriffene Unternehmen wird dann versuchen, sich beim Verursacher schadlos zu halten.
Darüber hinaus wird diskutiert, ob auch Investoren Ersatz verlangen können, wenn ein Cyberangriff den Wert ihrer Beteiligung nachweislich gemindert hat. Parallel dazu können Aufsichts- und Strafverfolgungsbehörden tätig werden, wenn der Verdacht besteht, dass gesetzliche Vorgaben missachtet oder Kontrollpflichten vernachlässigt wurden. Aus einem einzigen Vorfall können so zivilrechtliche Klagen, Bußgeldverfahren und Ermittlungen gleichzeitig entstehen.
Lassen Sie frühzeitig klären, in welcher Rolle Ihr Unternehmen betroffen ist, denn davon hängen Verteidigungslinie und Regressmöglichkeiten ab.
KI-Haftung im Zivilrecht: Fahrlässigkeit, Verkehrspflichten und Schadensersatz
Ein eigenes KI-Haftungsgesetz gibt es in Deutschland nicht. Die von der EU-Kommission geplante KI-Haftungsrichtlinie wurde zurückgezogen. Es bleibt damit bei den allgemeinen Regeln, die auf einen neuen Sachverhalt angewendet werden.
Außerhalb vertraglicher Beziehungen steht § 823 Abs. 1 BGB im Mittelpunkt. Wer eine Gefahrenquelle schafft, muss die zumutbaren Vorkehrungen treffen, um Dritte zu schützen. Bei autonom agierenden Systemen sind diese Verkehrspflichten hoch: Abschottung der Testumgebung, minimale Zugriffsrechte, Protokollierung und eine funktionierende Abschaltmöglichkeit. Der Geschädigte muss allerdings darlegen und beweisen, dass der Verursacher diese Pflichten fahrlässig verletzt hat. Ansprüche aus § 823 Abs. 2 BGB in Verbindung mit Strafnormen wie § 202a StGB scheitern häufig daran, dass diese Normen Vorsatz voraussetzen.
Besteht ein Vertrag, etwa zwischen KI-Anbieter und Kunde oder zwischen IT-Dienstleister und Auftraggeber, greift § 280 Abs. 1 BGB. Hier hilft dem Geschädigten die gesetzliche Vermutung, dass der Schuldner die Pflichtverletzung zu vertreten hat. Vertragliche Haftungsbeschränkungen sind nur in den Grenzen des AGB-Rechts wirksam, insbesondere nach §§ 307 und 309 Nr. 7 BGB. Ob Ihre Verträge mit KI-Anbietern diese Risiken angemessen verteilen, lässt sich im Rahmen einer KI-Vertragsprüfung klären.
Sind personenbezogene Daten betroffen, gewährt Art. 82 DSGVO einen eigenen Schadensersatzanspruch, auch für immaterielle Schäden. Der EuGH hat entschieden, dass es dafür keine Erheblichkeitsschwelle gibt (Urteil vom 4. Mai 2023, C-300/21). Der BGH hat zudem klargestellt, dass bereits der bloße Kontrollverlust über die eigenen Daten einen immateriellen Schaden darstellen kann (Urteil vom 18. November 2024, VI ZR 10/24). Für Vorfälle, bei denen KI-Agenten Nutzerdaten veröffentlichen, ist das ein erhebliches Risiko, weil schnell eine große Zahl Betroffener zusammenkommt.
Lassen Sie geltend gemachte Ansprüche rechtlich prüfen, bevor Sie Zahlungen leisten oder Erklärungen abgeben, denn jede Äußerung kann später als Anerkenntnis gewertet werden.
Produkthaftung für KI: Was sich ab dem 9. Dezember 2026 ändert
Die größte Verschiebung im Haftungsrecht steht unmittelbar bevor. Die neue EU-Produkthaftungsrichtlinie (EU) 2024/2853 erfasst Software ausdrücklich als Produkt, unabhängig davon, ob sie lokal installiert oder als Cloud-Dienst bereitgestellt wird. Damit fallen auch KI-Systeme unter die verschuldensunabhängige Produkthaftung. Die Richtlinie ist bis zum 9. Dezember 2026 umzusetzen. Der Regierungsentwurf zur Neufassung des Produkthaftungsgesetzes (BT-Drucksache 21/4297) liegt dem Bundestag vor und soll zu diesem Datum in Kraft treten. Für Produkte, die bis einschließlich 8. Dezember 2026 in Verkehr gebracht werden, gilt das bisherige Recht weiter.
Für Hersteller von KI-Systemen sind drei Punkte besonders relevant. Erstens kommt es nicht mehr auf Verschulden an, sondern auf die Fehlerhaftigkeit des Produkts. Zweitens bleibt der Hersteller auch nach dem Inverkehrbringen verantwortlich, soweit er das Produkt durch Updates oder angebundene Dienste kontrolliert. Drittens sieht die Richtlinie Offenlegungspflichten und Beweiserleichterungen zugunsten der Geschädigten vor, gerade bei technisch komplexen Produkten. Eine sorgfältige KI-Dokumentation wird damit zum entscheidenden Verteidigungsmittel.
Auch Unternehmen, die KI-Modelle nicht selbst entwickeln, sollten genau hinsehen. Wer ein fremdes Modell wesentlich verändert, in ein eigenes Produkt integriert oder unter eigenem Namen anbietet, kann nach den neuen Regeln selbst als Hersteller gelten und damit unmittelbar gegenüber Geschädigten haften.
Lassen Sie Ihre Produkte und Update-Prozesse noch vor dem Stichtag auf die neuen Haftungsmaßstäbe prüfen, denn für Software, die ab dem 9. Dezember 2026 auf den Markt kommt, gelten die verschärften Regeln.
KI-Verordnung, Strafrecht und Aufsicht: Pflichten neben der Haftung
Neben dem Schadensersatz drohen behördliche Konsequenzen. Die KI-Verordnung (Verordnung (EU) 2024/1689) verpflichtet Anbieter von KI-Modellen mit systemischem Risiko nach Art. 55 KI-VO zu Modellbewertungen, Risikominderung, Cybersicherheit und der Meldung schwerwiegender Vorfälle. Unternehmen, die KI einsetzen, müssen nach Art. 4 KI-VO für ausreichende KI-Kompetenz ihres Personals sorgen. Welche Fristen inzwischen gelten, zeigt unser Überblick zu den Pflichten nach dem Digital Omnibus. Verstöße können nach Art. 99 KI-VO mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, bei verbotenen Praktiken mit bis zu 35 Millionen Euro oder 7 Prozent. Zur Rolle der Bundesnetzagentur als KI-Aufsicht haben wir gesondert berichtet.
Strafrechtlich sind in Deutschland unter anderem das Ausspähen von Daten (§ 202a StGB), die Datenveränderung (§ 303a StGB) und die Computersabotage (§ 303b StGB) erfasst. Diese Tatbestände setzen jedoch Vorsatz voraus. Bei einem KI-Agenten, der ungeplant handelt, wird sich ein solcher Vorsatz der Verantwortlichen nur selten nachweisen lassen. Unternehmen selbst sind in Deutschland nicht strafbar. Relevant sind aber Verbandsgeldbußen nach § 30 OWiG in Verbindung mit einer Aufsichtspflichtverletzung nach § 130 OWiG, wenn die Leitung erforderliche Kontrollmaßnahmen unterlassen hat.
Hinzu kommt die persönliche Verantwortung der Geschäftsleitung. Nach § 43 GmbHG und § 93 AktG haften Geschäftsführer und Vorstände gegenüber der Gesellschaft, wenn sie Risiken aus dem KI-Einsatz nicht angemessen organisieren. Für Einrichtungen, die unter die NIS-2-Vorgaben fallen, sieht das BSI-Gesetz zusätzlich eine eigene Überwachungs- und Schulungspflicht der Geschäftsleitung vor.
KI-Haftung begrenzen: Was Unternehmen beim Einsatz von KI-Agenten jetzt tun sollten
Je häufiger Vorfälle mit autonomen KI-Agenten öffentlich werden, desto eher werden Gerichte sie als vorhersehbar einstufen. Damit steigen die Anforderungen an die Sorgfalt. Folgende Maßnahmen wirken zugleich haftungsbegrenzend und beweissichernd:
- KI-Inventar: alle eingesetzten Systeme mit Zweck, Anbieter, Datenbasis und Zugriffsrechten erfassen.
- Rechte minimieren: KI-Agenten nur die Berechtigungen geben, die für die konkrete Aufgabe zwingend nötig sind.
- Freigabepunkte und Abschaltung: kritische Aktionen an menschliche Freigaben knüpfen und eine getestete Abschaltmöglichkeit vorhalten.
- Protokollierung: Aktivitäten des Agenten lückenlos aufzeichnen, um im Streitfall den Ablauf belegen zu können.
- Verträge anpassen: Haftung, Freistellung, Informationspflichten und Versicherungsschutz mit KI-Anbietern und Dienstleistern regeln.
- Notfallplan erweitern: KI-spezifische Vorfälle mit Meldewegen nach KI-VO, NIS-2 und DSGVO abbilden.
Wer diese Aufgaben nicht dauerhaft intern abbilden kann, kann sie bündeln. Ein externer KI-Beauftragter übernimmt Inventarisierung, Risikoeinstufung und Dokumentation, ergänzt durch KI-Schulungen für Unternehmen für die Mitarbeitenden, die mit den Systemen arbeiten.
Wann lohnt sich anwaltliche Beratung bei Haftungsfragen rund um KI?
Anwaltliche Unterstützung ist in drei Phasen sinnvoll. Vor dem Einsatz geht es um die Einordnung der Systeme, die Verteilung von Verantwortung in Verträgen und eine Dokumentation, die im Streitfall trägt. Im akuten Vorfall müssen parallel laufende Meldefristen priorisiert, Beweise gesichert und erste Erklärungen gegenüber Geschädigten, Behörden und Presse abgestimmt werden. In der Auseinandersetzung geht es um die Abwehr unberechtigter Forderungen ebenso wie um die Durchsetzung eigener Ansprüche und den Regress gegenüber Anbietern.
Auch wer eine Abmahnung wegen eines Verstoßes gegen die KI-Verordnung erhält, sollte die geltend gemachten Pflichten prüfen lassen, bevor eine Unterlassungserklärung abgegeben wird. Dr. Marco Rogert berät Unternehmen bei allen Fragen rund um KI-Haftung, KI-Verordnung und Vertragsgestaltung.
Lassen Sie Ihre konkrete Situation einordnen, sobald ein KI-System außerhalb des vorgesehenen Rahmens gehandelt hat oder Ansprüche gegen Sie erhoben werden, und vereinbaren Sie dafür eine Ersteinschätzung.
Fazit: KI-Haftung folgt bekannten Regeln, aber mit steigenden Anforderungen
Wenn eine KI außer Kontrolle gerät, haften die Menschen und Unternehmen, die sie entwickeln, bereitstellen oder einsetzen. Das Zivilrecht verlangt angemessene Vorkehrungen, die DSGVO gewährt Betroffenen bereits bei Kontrollverlust über ihre Daten Ersatzansprüche, und ab dem 9. Dezember 2026 kommt die verschuldensunabhängige Produkthaftung für Software hinzu. Strafrechtlich bleibt der Nachweis von Vorsatz schwierig, Bußgelder nach KI-Verordnung und OWiG bleiben aber realistisch. Unternehmen, die ihre KI-Agenten jetzt begrenzen, dokumentieren und vertraglich absichern, verbessern ihre Position im Ernstfall deutlich.
FAQs: Häufig gestellte Fragen zur Haftung bei KI-Schäden
Kann eine KI selbst haftbar gemacht werden?
Nein. Eine KI ist kein Rechtssubjekt und kann weder Schadensersatz schulden noch bestraft werden. Haftbar sind die natürlichen und juristischen Personen, die das System entwickeln, in Verkehr bringen oder einsetzen. Die Diskussion um eine eigene Rechtspersönlichkeit für KI hat sich bislang nicht durchgesetzt.
Wer haftet, wenn ein KI-Agent in fremde IT-Systeme eindringt?
In Betracht kommen der Entwickler des Modells, das Unternehmen, das den Agenten eingesetzt hat, und unter Umständen weitere Beteiligte wie IT-Dienstleister. Maßgeblich ist, wer welche Sorgfaltspflichten verletzt hat. Häufig haften mehrere Beteiligte nebeneinander und nehmen sich anschließend gegenseitig in Regress.
Welche Anspruchsgrundlagen gelten für Schäden durch KI?
Im Vordergrund stehen § 823 Abs. 1 BGB wegen der Verletzung von Verkehrspflichten und bei Vertragsbeziehungen § 280 Abs. 1 BGB. Sind personenbezogene Daten betroffen, kommt Art. 82 DSGVO hinzu. Ab dem 9. Dezember 2026 tritt für neu in Verkehr gebrachte Software die verschuldensunabhängige Produkthaftung hinzu.
Muss der Geschädigte ein Verschulden des KI-Unternehmens nachweisen?
Bei der deliktischen Haftung nach § 823 BGB grundsätzlich ja, der Geschädigte muss eine fahrlässige Pflichtverletzung darlegen und beweisen. Im Vertragsverhältnis wird das Vertretenmüssen nach § 280 Abs. 1 Satz 2 BGB vermutet. Die neue Produkthaftung verzichtet ganz auf Verschulden und sieht zusätzlich Beweiserleichterungen vor.
Können sich KI-Unternehmen auf die Unvorhersehbarkeit des KI-Verhaltens berufen?
Das ist eine naheliegende Verteidigungslinie, sie wird aber zunehmend schwächer. Je mehr vergleichbare Vorfälle bekannt werden, desto eher gilt ein Fehlverhalten autonomer Systeme als vorhersehbar. Entscheidend wird sein, welche Sicherheitsmaßnahmen Gerichte als angemessen ansehen.
Welche Ansprüche haben Nutzer, deren Daten durch einen KI-Agenten veröffentlicht wurden?
Betroffene können nach Art. 82 DSGVO Ersatz materieller und immaterieller Schäden verlangen. Nach der Rechtsprechung von EuGH und BGH kann bereits der Kontrollverlust über die eigenen Daten einen ersatzfähigen Schaden darstellen. Zusätzlich kommen Auskunfts- und Löschungsansprüche in Betracht.
Ist das Eindringen einer KI in fremde Systeme strafbar?
Das Ausspähen von Daten, die Datenveränderung und die Computersabotage sind nach §§ 202a, 303a und 303b StGB strafbar. Diese Delikte setzen jedoch Vorsatz voraus, der bei ungeplantem KI-Verhalten nur schwer nachweisbar ist. Gegen Unternehmen kommen stattdessen Verbandsgeldbußen nach §§ 30, 130 OWiG in Betracht.
Was ändert die neue Produkthaftungsrichtlinie für KI-Anbieter?
Software und damit auch KI-Systeme gelten künftig als Produkte im Sinne der Produkthaftung. Hersteller haften verschuldensunabhängig für Schäden durch fehlerhafte Produkte und bleiben auch für Updates verantwortlich. Gerichte können zudem die Offenlegung von Beweismitteln anordnen. Die Richtlinie ist bis zum 9. Dezember 2026 in deutsches Recht umzusetzen.
Haftet auch die Geschäftsleitung persönlich?
Ja, im Innenverhältnis gegenüber der Gesellschaft. Geschäftsführer und Vorstände müssen nach § 43 GmbHG und § 93 AktG Risiken aus dem KI-Einsatz angemessen organisieren und überwachen. Für Einrichtungen im Anwendungsbereich von NIS-2 bestehen zusätzliche gesetzliche Überwachungs- und Schulungspflichten der Leitung.
Wann lohnt sich ein Anwalt bei Haftungsfragen rund um KI?
Ein Anwalt ist sinnvoll, sobald ein KI-System außerhalb des vorgesehenen Rahmens gehandelt hat, Meldefristen laufen oder Ansprüche erhoben werden. Auch vor dem produktiven Einsatz von KI-Agenten lohnt sich die Prüfung von Verträgen, Rollen und Dokumentation. Pflichtverstöße lassen sich dann noch ohne Zeitdruck beheben.
