Die EU führt neue Regeln für KI und Produkthaftung ein. Was bedeutet das für Unternehmen, Haftung und Versicherungsschutz? Ein Überblick zu den wichtigsten Änderungen.

Mit dem EU AI Act und der reformierten Produkthaftungsrichtlinie treten in Europa ab 2025 weitreichende Änderungen in Kraft. Erstmals wird klar geregelt, wie Unternehmen mit künstlicher Intelligenz, Software und datengetriebenen Produkten rechtlich umgehen müssen. Diese neuen Vorgaben betreffen nicht nur Technologieunternehmen, sondern nahezu jedes Unternehmen, das digitale Werkzeuge einsetzt. Für Geschäftsführer und Entscheidungsträger steigt damit die Verantwortung – und das Risikoprofil verändert sich grundlegend.

Warum diese Reform für Unternehmen relevant ist

Die neuen EU-Regeln verfolgen ein Ziel: Die Sicherheit digitaler Produkte erhöhen und klare Haftungsstrukturen schaffen. Da Software und KI heute zentrale Bestandteile vieler Geschäftsprozesse sind, wird ihre rechtliche Behandlung an die Bedeutung moderner Technologien angepasst. Damit entstehen neue Pflichten, aber auch neue Haftungsszenarien, die Unternehmen frühzeitig berücksichtigen müssen.

1. KI gilt künftig als Produkt

Die wohl wichtigste Änderung betrifft die Einordnung: Künstliche Intelligenz und Software gelten künftig als Produkt im Sinne der Produkthaftung. Damit wird Software ähnlich behandelt wie physische Maschinen oder Geräte. Führt ein KI-System zu fehlerhaften Entscheidungen oder schädlichen Ergebnissen, kann dies einen Produktfehler darstellen. Die Haftung greift ohne Verschulden, was das Risiko für Unternehmen deutlich erhöht.

Betroffen sind insbesondere:

• Softwareentwickler und IT-Dienstleister
• Agenturen, die automatisierte Tools einsetzen
• Unternehmen, die KI in ihre Produkte integrieren
• Betriebe, die KI-generierte Ergebnisse verwenden oder weitergeben

2. Erweiterte Dokumentations- und Organisationspflichten

Der EU AI Act sieht für den Einsatz bestimmter KI-Formen strenge Vorgaben vor: Risikoanalysen, Transparenzpflichten, Qualitätskontrollen und laufende Dokumentation. Unternehmen müssen künftig nachweisen, dass KI-Systeme sicher eingesetzt und überwacht werden. Fehlende oder unvollständige Dokumentation kann im Streitfall ausreichen, um einen Produktfehler zu vermuten.

Damit entstehen neue organisatorische Anforderungen:

• Definition von Verantwortlichkeiten
• Dokumentation von Datenquellen und Trainingsprozessen
• Monitoring von Modellen und Updates
• Sicherheits- und Prüfprozesse

3. Neue Haftungsrisiken für Unternehmen

Mit der Reform verlagert sich die Haftungslandschaft deutlich. Unternehmen haften künftig auch für:

• Fehlerhafte KI-Outputs und algorithmische Fehlentscheidungen
• Mängel in Trainingsdaten oder Datenfeeds
• fehlerhafte Implementierung oder mangelnde Kontrolle eingesetzter KI
• mangelhafte Dokumentation oder fehlende Transparenz

Besonders für Geschäftsführer entsteht eine neue Verantwortungsebene. Unzureichende organisatorische Maßnahmen können zu persönlicher Haftung führen, wenn KI-Systeme im Betrieb eingesetzt werden, ohne die regulatorischen Anforderungen zu erfüllen.

4. Wie Versicherer auf diese Veränderungen reagieren

Der Versicherungsmarkt befindet sich in einer Übergangsphase. Viele bestehende Bedingungen – insbesondere in der klassischen IT-Haftpflicht und Betriebshaftpflicht – spiegeln die neuen EU-Anforderungen noch nicht wider. Software wurde bisher häufig nicht als Produkt betrachtet, wodurch es in vielen Polizzen zu Deckungslücken kommen kann.

Erste Versicherer haben jedoch begonnen, ihre Produkte anzupassen. Moderne Anbieter wie Hiscox und Beazley berücksichtigen KI- und digitale Produkthaftungsrisiken bereits in erweiterten Vermögensschaden- und Produkthaftungsdeckungen. Dennoch besteht für viele Unternehmen die Gefahr, dass bestehende Versicherungen wesentliche Elemente der neuen Rechtslage nicht abdecken.

5. Welche Versicherungen künftig unverzichtbar werden

Durch die neue Regulierung müssen Unternehmen ihre Risikostruktur neu ordnen und ihren Versicherungsschutz aktualisieren. Relevant sind insbesondere:

• Vermögensschadenhaftpflicht für Fehler in KI-gestützten Dienstleistungen
• Produkthaftpflicht für Software, wenn digitale Produkte oder KI-Komponenten bereitgestellt werden
• Cyberversicherung für Datenrisiken, Modellmanipulation und Systemausfälle
• D&O-Versicherung zum Schutz der Geschäftsführung bei Organisationsverschulden

Die Reform schafft damit einen klaren Auftrag: Unternehmen müssen die eigene digitale Wertschöpfung und den Einsatz von KI kritisch prüfen und den Versicherungsschutz an die neuen rechtlichen Bedingungen anpassen.

6. Was Unternehmen jetzt tun sollten

Ein frühzeitiges Vorgehen ist entscheidend, um regulatorische und haftungsrechtliche Risiken zu minimieren. Unternehmen sollten:

• eine strukturierte Risikoanalyse ihres KI-Einsatzes durchführen
• interne Dokumentations- und Prüfprozesse etablieren
• bestehende Verträge und AGB auf KI-relevante Klauseln prüfen
• Versicherungsverträge auf Deckungslücken analysieren lassen