Rechtliche Verantwortung und Haftungsrisiken bei der Nutzung von Künstlicher Intelligenz

Die Integration Künstlicher Intelligenz (KI) in Geschäftsprozesse schreitet exponentiell voran. Von der Kundenberatung über die Produktentwicklung bis hin zur Automatisierung komplexer Arbeitsabläufe – KI-Systeme sind allgegenwärtig. Doch mit den Chancen, die diese Technologien bieten, wachsen auch die rechtlichen Herausforderungen, insbesondere im Hinblick auf die Haftung für Fehler. Diese Thematik ist für Unternehmen von zentraler Bedeutung, da sie direkte Auswirkungen auf die Geschäftsstrategie, Compliance-Anforderungen und letztlich den wirtschaftlichen Erfolg hat.

Die vielschichtige Haftungslandschaft für KI-Fehler

Wenn ein KI-System fehlerhafte Informationen generiert, falsche Empfehlungen ausspricht oder gar Schäden verursacht, stellt sich die Frage: Wer trägt die rechtliche Verantwortung? Die Antwort darauf ist komplex und involviert verschiedene Rechtsgebiete sowie eine sich dynamisch entwickelnde Gesetzgebung auf nationaler und europäischer Ebene.

KI als Werkzeug: Die primäre Verantwortung des Anwenders

Ein grundlegendes Prinzip der aktuellen Rechtsauffassung ist, dass eine KI keine eigene Rechtspersönlichkeit besitzt. Sie kann weder verklagt noch zur Verantwortung gezogen werden. Folglich liegt die primäre Haftung für Fehler, die durch den Einsatz von KI entstehen, bei dem Unternehmen, das die KI anwendet oder bereitstellt. Dies betrifft sowohl vertragliche Pflichten gegenüber Kunden als auch deliktische Haftung gegenüber Dritten.

• Vertragliche Haftung: Erbringt ein Unternehmen eine Leistung unter Zuhilfenahme von KI und kommt es dabei zu einem Fehler, haftet das Unternehmen gegenüber dem Vertragspartner. Dies kann beispielsweise der Fall sein, wenn ein KI-gestützter Chatbot falsche Vertragsauskünfte gibt, an die das Unternehmen gebunden ist.
• Deliktische Haftung: Verursacht ein KI-System einen Schaden bei einem unbeteiligten Dritten, kann das betreibende Unternehmen deliktisch haften, insbesondere wenn es keine angemessenen Kontrollmaßnahmen implementiert hat.
• Störerhaftung: Unternehmen können als "Störer" haftbar gemacht werden, wenn sie durch den Einsatz von KI-Systemen rechtswidrige Inhalte verbreiten oder Rechtsverletzungen ermöglichen. Ein Urteil des Landgerichts Kiel (Az. 6 O 151/23) vom 29. Februar 2024 verdeutlicht dies: Ein Unternehmen wurde für falsche Wirtschaftsinformationen haftbar gemacht, die seine KI generiert und verbreitet hatte, selbst wenn ein Disclaimer vorhanden war. Das Gericht betonte, dass der Betreiber sich den Output der KI zu eigen macht, wenn er ihn ungeprüft veröffentlicht.

"KI-Halluzinationen" und ihre Konsequenzen

Ein spezifisches Problemfeld sind sogenannte "KI-Halluzinationen", bei denen KI-Systeme überzeugend klingende, aber faktisch falsche oder irreführende Aussagen generieren. Dies kann weitreichende Konsequenzen haben:

• Wettbewerbsrecht: Falsche Werbeaussagen oder irreführende Produktinformationen, die durch KI generiert werden, können als unlauterer Wettbewerb nach dem Gesetz gegen den unlauteren Wettbewerb (UWG) gewertet werden. Unternehmen haften hier für die von ihren Systemen verbreiteten Falschinformationen.
• Reputationsschäden: Über die rechtliche Haftung hinaus können falsche KI-Inhalte zu erheblichen Reputationsschäden und Vertrauensverlust bei Kunden führen.

Der regulatorische Rahmen: EU-Gesetzgebung schafft neue Klarheit

Die Europäische Union reagiert auf die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz mit umfassenden Regulierungsinitiativen, die die Haftungslandschaft maßgeblich prägen.

Die neue EU-Produkthaftungsrichtlinie (RL 2024/2853)

Seit dem 8. Dezember 2024 ist die neue EU-Produkthaftungsrichtlinie in Kraft getreten, die bis spätestens 9. Dezember 2026 in nationales Recht umgesetzt werden muss. Diese Richtlinie ersetzt die fast 40 Jahre alte Vorgängerregelung und bringt eine entscheidende Neuerung mit sich:

• Software als Produkt: Software, einschließlich KI-Systeme, wird erstmals explizit als "Produkt" im Sinne des Produkthaftungsrechts eingestuft. Dies bedeutet, dass Hersteller von KI-Software verschuldensunabhängig für Schäden haften, die durch fehlerhafte KI verursacht werden.
• Erweiterte Haftung: Die Haftung erstreckt sich auch auf Software-Updates, die als eigenständige Produkte gelten können. Zudem entfällt die bisherige Haftungsobergrenze von 85 Millionen Euro für Personenschäden.
• Beweiserleichterungen: Bei "übermäßiger Komplexität" des Produkts, wie sie oft bei KI-Blackbox-Modellen vorliegt, kann das Gericht einen Produktfehler vermuten. Der Hersteller muss dann beweisen, dass sein Produkt fehlerfrei war.

Der EU AI Act: Risikobasierte Regulierung und Compliance-Pflichten

Der EU AI Act, dessen zentrale Vorschriften ab dem 2. August 2026 gelten, schafft zwar keine eigene Haftungsgrundlage, definiert jedoch umfassende Pflichten, deren Verletzung die Haftung erheblich verschärft und hohe Bußgelder nach sich ziehen kann.

• Risikoklassifizierung: Der AI Act unterscheidet KI-Systeme nach Risikostufen (unannehmbar, hoch, begrenzt, minimal). Für Hochrisiko-KI-Systeme, beispielsweise im Personalwesen oder bei Kreditwürdigkeitsprüfungen, gelten besonders strenge Anforderungen.
• Pflichten für Anbieter und Betreiber: Dazu gehören die Implementierung von Risikomanagementsystemen, die Sicherstellung von Datenqualität, Transparenzpflichten, menschliche Aufsicht und die Gewährleistung von Genauigkeit und Robustheit.
• Bußgelder: Verstöße gegen die Vorschriften für Hochrisiko-KI können mit bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden.

Es ist wichtig zu beachten, dass eine ursprünglich geplante EU-KI-Haftungsrichtlinie (AI Liability Directive, AILD) im Februar 2025 zurückgezogen wurde, da keine Einigung erzielbar war. Dies bedeutet, dass Geschädigte bei außervertraglichen Ansprüchen weiterhin nach den allgemeinen nationalen Haftungsregeln die Verursachung des Schadens durch die KI beweisen müssen.

Urheberrecht bei KI-generierten Inhalten

Der Einsatz von KI zur Generierung von Texten, Bildern oder anderen Inhalten wirft zudem urheberrechtliche Fragen auf:

• Schutzfähigkeit: Nach deutschem Recht sind rein KI-generierte Inhalte ohne wesentliche menschliche kreative Leistung grundsätzlich nicht urheberrechtlich geschützt.
• Rechtsverletzungen: KI-generierte Inhalte können jedoch fremde Urheberrechte verletzen, wenn die KI geschützte Werke reproduziert. Das LG München I hat am 11. November 2025 (Az. 42 O 14139/24) entschieden, dass KI-Betreiber für solche Verletzungen haften können.

Geschäftsführerhaftung: Das persönliche Risiko

Geschäftsführer tragen eine persönliche Verantwortung für die ordnungsgemäße Organisation ihres Unternehmens, was auch den sicheren Einsatz von KI-Systemen umfasst. Ein Organisationsverschulden kann zu persönlicher Haftung führen, wenn beispielsweise keine KI-Richtlinien existieren, Risiken nicht überwacht oder Mitarbeiter unzureichend geschult werden.

Maßnahmen zur Risikominimierung im Unternehmen

Angesichts der komplexen und sich entwickelnden Rechtslage sind proaktive Maßnahmen zur Minimierung von Haftungsrisiken unerlässlich. Unternehmen sollten eine umfassende KI-Compliance-Strategie entwickeln.

1. Etablierung von "Human-in-the-Loop"

Die effektivste Maßnahme ist die menschliche Kontrolle sensibler KI-Entscheidungen. Dies betrifft insbesondere Bereiche mit rechtlichen, finanziellen oder gesundheitlichen Auswirkungen. Klare Definitionen, welche Prozesse vollautomatisch ablaufen dürfen und welche eine menschliche Freigabe erfordern, sind essenziell.

2. Entwicklung einer internen KI-Richtlinie

Eine unternehmensweite KI-Richtlinie, die den Einsatz von KI-Systemen, Verantwortlichkeiten, Datenhandhabung, Prüfprozesse und Fehlerdokumentation regelt, ist für Hochrisiko-KI-Systeme unter dem EU AI Act sogar verpflichtend.

3. Durchführung von Bias-Audits

Besonders bei KI-Anwendungen im Personalbereich sind regelmäßige Bias-Audits notwendig, um Diskriminierung durch algorithmische Verzerrungen zu vermeiden. Der EU AI Act stuft solche Systeme als Hochrisiko-KI ein und erfordert verschärfte Anforderungen an Dokumentation und Transparenz.

4. Vertragliche Absicherung mit KI-Anbietern

Unternehmen sollten Verträge mit KI-Anbietern sorgfältig prüfen und angemessene Haftungsklauseln, Datenschutzregelungen (inklusive Auftragsverarbeitungsverträge nach DSGVO) sowie Transparenz über die Funktionsweise und Limitierungen der KI-Systeme fordern.

5. Systematische Dokumentation und Risikoanalyse

Eine lückenlose Dokumentation des KI-Einsatzes, der identifizierten Risiken, der ergriffenen Maßnahmen und der Vorfälle ist nicht nur im Haftungsfall entscheidend, sondern auch eine Pflicht unter dem EU AI Act für Hochrisiko-Systeme. Eine systematische Risikoanalyse sollte bereits in der Entwicklungsphase beginnen.

6. Schulung und Kompetenzaufbau

Mitarbeiter müssen im Umgang mit KI-Tools geschult werden, nicht nur in der Bedienung, sondern auch im Erkennen von Fehlern und Grenzen der KI. Der EU AI Act normiert die Pflicht zur KI-Kompetenz explizit.

7. Überprüfung des Versicherungsschutzes

Bestehende Betriebs- und Berufshaftpflichtversicherungen sollten auf ihre Deckung von KI-bedingten Schäden überprüft werden. Gegebenenfalls sind spezielle KI-Haftpflichtversicherungen in Betracht zu ziehen.

Fazit

Die Haftung für Fehler von Künstlicher Intelligenz ist kein Zukunftsthema, sondern eine gegenwärtige Herausforderung für Unternehmen. Die Rechtslage ist klar: Die Verantwortung liegt primär beim Anwender der KI. Mit der neuen EU-Produkthaftungsrichtlinie und dem EU AI Act verdichtet sich der regulatorische Rahmen erheblich. Unternehmen, die KI als Partner nutzen möchten, müssen eine stringente KI-Compliance implementieren, die technische, organisatorische und rechtliche Maßnahmen umfasst. Wer proaktiv handelt und Risikomanagement als integralen Bestandteil der KI-Strategie versteht, kann nicht nur Haftungsrisiken minimieren, sondern auch Vertrauen schaffen und Wettbewerbsvorteile erzielen.

Die Zeit, die Komplexität dieser Rechtsfragen zu ignorieren, ist vorbei. Eine sorgfältige juristische Expertise und die Entwicklung maßgeschneiderter Compliance-Strategien sind unerlässlich, um das volle Potenzial der KI sicher und verantwortungsvoll zu nutzen.

Bibliography: - t3n.de: "KI empfiehlt dir das falsche Produkt – und jetzt? Die Haftungsfrage hat es in sich" (17.05.2026) - datenschutzticker.de: "Wenn der KI-Chatbot falsche Werbeaussagen trifft: Haftung & Compliance bei Halluzinationen" (11.11.2025) - skill-sprinters.de: "KI und Haftung: Wer haftet wenn die KI einen Fehler macht?" (25.03.2026) - haendlerbund.de: "7 rechtliche Probleme, an denen KI scheitert" (01.09.2025) - faz.net: "KI erzählt Quatsch? Betreiber haften für Falschbehauptungen" (11.03.2026) - verbrauchersschutz.de: "Produkthaftung 2.0: Neue EU-Regeln für Software und KI-Produkte ab 2026" (03.03.2026) - zeit.de: "Fehler durch künstliche Intelligenz: Wer haftet, wenn man mit KI Fehler macht?" (05.03.2026) - skill-sprinters.de: "KI-Haftung: Wer zahlt, wenn die kuenstliche Intelligenz einen Fehler macht?" (12.04.2026) - getlaw.de: "Störerhaftung bei der Nutzung von KI: Was Unternehmen beachten sollten" (15.11.2024) - onlinehaendler-news.de: "Trotz Disclaimer: Unternehmen haften für falsch generierte KI-Inhalte" (18.11.2024)