Verbotene KI-Praktiken

Die Verbote des ursprünglichen Textes

Seit dem 2. Februar 2025 (Art. 113 Buchst. a) ist es verboten, Systeme in Verkehr zu bringen, in Betrieb zu nehmen oder zu verwenden, die mit unterschwelligen oder täuschenden Techniken manipulieren, Schwächen aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage ausnutzen oder Menschen mit nachteiligen oder unverhältnismäßigen Folgen sozial bewerten.

Verboten sind ebenso die Vorhersage des Risikos, eine Straftat zu begehen, allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen, der Aufbau von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Bildern aus dem Internet oder aus Videoüberwachung, die biometrische Kategorisierung zur Ableitung von Rasse, politischer Meinung, Gewerkschaftszugehörigkeit, Überzeugungen oder sexueller Orientierung sowie die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, abgesehen von eng umrissenen Ausnahmen.

Das Verbot, das Unternehmen am stärksten betrifft

Buchstabe f verbietet, Emotionen einer Person am Arbeitsplatz und in Bildungseinrichtungen abzuleiten, außer aus medizinischen oder Sicherheitsgründen. Ein System, das die Stimmlage von Callcenter-Mitarbeitenden auswertet, um ihre Stimmung einzuschätzen, oder eine Kamera, die das Engagement eines Teams misst, fallen voll darunter.

Außerhalb der Arbeitswelt ist Emotionserkennung nicht verboten, gilt aber als hochriskant (Anhang III Nummer 1) und verlangt, die betroffenen Personen zu informieren (Art. 50 Abs. 3).

Was der digitale Omnibus ergänzt

Die Verordnung (EU) 2026/1744 fügt zwei neue Buchstaben ein: Buchstabe ba verbietet Systeme, die realistische Bilder, Videos oder Audioinhalte der intimen Körperteile einer identifizierbaren Person oder dieser Person bei sexuell expliziten Handlungen ohne deren ausdrückliche Einwilligung erzeugen oder manipulieren; Buchstabe bb betrifft Darstellungen sexuellen Missbrauchs von Kindern.

Für den Anbieter des Systems greift das Verbot, wenn ein solches Ergebnis sein Zweck oder vernünftigerweise vorhersehbar ist und keine verlässlichen Schutzvorkehrungen bestehen, um es zu verhindern (Art. 5 Abs. 1a). Beide Buchstaben gelten ab dem 2. Dezember 2026.

Folgen

Verstöße gegen Artikel 5 werden mit Geldbußen von bis zu 35 Millionen Euro geahndet oder, bei Unternehmen, von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 3). Für KMU gilt der niedrigere der beiden Beträge (Art. 99 Abs. 6).

Was Auditoren typischerweise sehen wollen

• Verzeichnis gegen jeden Buchstaben von Artikel 5 geprüft
• Kein System leitet Emotionen der Belegschaft ab, außer aus dokumentierten medizinischen oder Sicherheitsgründen
• Werkzeuge zur Bild- oder Videoerzeugung mit überprüften Schutzvorkehrungen
• Erneute Prüfung bei Beschaffung oder Erweiterung eines Werkzeugs

So gehen Sie in der Praxis vor

1. 1Gehen Sie das Systemverzeichnis durch und halten Sie Buchstabe für Buchstabe fest, warum keines eine verbotene Praxis darstellt.
2. 2Fragen Sie Anbieter von Sprach-, Video- oder Produktivitätsanalysen ausdrücklich, ob ihre Funktionen Emotionen ableiten.
3. 3Nehmen Sie die Prüfung nach Artikel 5 in das Freigabeverfahren für jedes neue Werkzeug auf.

Woher jede Angabe stammt

Verweise auf den geltenden amtlichen Text. Wird eine Norm überarbeitet, wird diese Seite aktualisiert und das Revisionsdatum entsprechend angepasst.

1. Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Verordnung) EUR-Lex · ABl. L 2024/1689 · 12. Juli 2024
2. Verordnung (EU) 2026/1744 (digitaler KI-Omnibus) zur Änderung der Verordnung (EU) 2024/1689 EUR-Lex · ABl. L 2026/1744 · 24. Juli 2026
3. Verordnung (EU) 2024/1689, konsolidierte Fassung EUR-Lex · CELEX 02024R1689-20260727 · Fassung vom 27. Juli 2026