Verbot unzulässiger KI-Praktiken seit 2. Februar 2025 – was bedeutet das für Unternehmen?
Seit dem 2. Februar 2025 gilt in der EU der neue AI Act in Teilen verbindlich. Besonders relevant: das Verbot bestimmter KI-Anwendungen, die als ethisch oder gesellschaftlich unvertretbar gelten. Für viele klingt das wie ein utopischer Eingriff in Gedankenfreiheit – für die EU ist es ein Schutzmechanismus. Wir zeigen Ihnen, was tatsächlich verboten ist, wie es kontrolliert wird und wohin diese Entwicklung führen kann.
1. Welche KI-Praktiken sind verboten?
Laut Artikel 5 des AI Act sind folgende Systeme untersagt:
- Manipulative oder unterschwellige KI, die menschliches Verhalten wesentlich beeinflusst
- Ausnutzung von Schwächen – etwa bei Kindern, älteren oder besonders verletzlichen Personen
- Soziales Scoring, also Einstufung von Menschen anhand von Verhalten oder Eigenschaften
- Ungesteuertes Erstellen von Gesichtsdatenbanken durch automatisches Sammeln aus dem Internet
- Emotionserkennung am Arbeitsplatz oder in Schulen (außer in engen Ausnahmefällen)
- Biometrische Kategorisierung nach Ethnie, Religion, politischer Haltung, Sexualität
- Echtzeit-Gesichtserkennung im öffentlichen Raum – mit wenigen Ausnahmen bei schwersten Straftaten
2. Wie wird das exekutiert?
- Jedes EU-Land richtet eine Aufsichtsbehörde ein (in Österreich voraussichtlich RTR oder eine neue Digitalagentur)
- KI-Anbieter müssen eine Konformitätsprüfung durchlaufen, bevor ihre Systeme auf den Markt kommen
- NGOs, Mitbewerber oder Behörden können Verstöße melden
- Sanktionen: Geldstrafen bis zu 35 Mio. € oder 7 % des weltweiten Umsatzes
Das größte Problem: Die Beweisbarkeit. Ob eine KI tatsächlich „manipulativ“ war, lässt sich oft schwer objektiv nachweisen.
3. Chancen und Risiken für KMU
Chancen:
- Verbraucher sollen mehr Vertrauen in „saubere“ KI-Systeme gewinnen
- EU-Unternehmen können mit konformen Lösungen leichter weltweit Standards setzen
Risiken:
- Hohe Bürokratie- und Compliance-Kosten treffen vor allem kleinere Anbieter
- Innovation könnte aus der EU abwandern, wenn Start-ups sich den Aufwand nicht leisten können
- Zweiklassenmarkt: EU-konforme KI vs. weniger regulierte Systeme außerhalb Europas
4. Kritik: Utopisch oder notwendig?
Viele Unternehmer empfinden die Regeln als übergriffig – fast wie ein Eingriff in Gedankenfreiheit. Denn Ethik und Moral lassen sich schwer verordnen.
Die EU setzt dennoch auf präventive Verbote, um Manipulation, Missbrauch und Kontrollverlust zu verhindern.
Am Ende bleibt es ein Balanceakt zwischen Eigenverantwortung und Marktlogik einerseits und gesetzlichen Leitplanken andererseits.
Fazit: Zwischen Schutz und Überregulierung
Ob das Verbot unzulässiger KI langfristig Vertrauen schafft oder eher Innovation bremst, hängt davon ab, wie streng die Regeln durchgesetzt werden.
Für KMU gilt: eigene KI-Strategie entwickeln, interne Richtlinien einführen und bewusst auf sichere Anbieter setzen.
Jetzt Risiko- und Chancencheck anfordern
Sie möchten wissen, wie sich die neuen KI-Regeln auf Ihr Unternehmen auswirken und welche Absicherungen sinnvoll sind?
