Zuerst — welche Rolle haben Sie bei diesem System? Artikel 3. Die Risikostufe gehört zum System; die Pflichten richten sich nach Ihrer Rolle.
Anbieter Sie entwickeln das System oder lassen es entwickeln und bringen es unter Ihrem eigenen Namen oder Ihrer eigenen Marke auf den EU-Markt. Betreiber Sie verwenden das System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit. Anbieter und Betreiber zugleich Sie entwickeln das System und setzen es selbst ein — der übliche Fall bei internen Werkzeugen. Einführer, Händler oder Produkthersteller Sie bringen das System eines Dritten auf den EU-Markt oder stellen es bereit. Für Sie gelten die Artikel 23 bis 25 statt Artikel 50.
Erfüllt Ihr KI-System eine dieser Funktionen? Artikel 5 — verbotene Praktiken.
Soziale Bewertung von Personen durch öffentliche oder private Akteure Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen (Strafverfolgung) Unterschwellige oder manipulative Techniken, die Schaden verursachen Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen Ungezieltes Auslesen von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken Ausnutzung der Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage Vorhersage des Risikos einer Straftat allein auf der Grundlage von Profiling oder Persönlichkeitsmerkmalen Biometrische Kategorisierung zur Ableitung von Rasse, politischen Meinungen, religiösen Überzeugungen oder sexueller Ausrichtung Erzeugung nicht einvernehmlicher intimer Darstellungen realer Personen (verboten ab dem 2. Dezember 2026) Erzeugung von Darstellungen sexuellen Kindesmissbrauchs (verboten ab dem 2. Dezember 2026)
Ist die KI Teil eines regulierten Produkts oder ein Sicherheitsbauteil davon? Artikel 6 Absatz 1 — beide Kästchen müssen angekreuzt sein, damit dieser Weg greift. KI, die ausschließlich der Nutzerunterstützung, der Leistungsoptimierung, der Diensteffizienz, der Automatisierung, dem Komfort oder der Qualitätskontrolle dient, ist kein Sicherheitsbauteil — es sei denn, ihr Ausfall oder ihre Fehlfunktion würde Gesundheit oder Sicherheit gefährden.
Die KI ist ein Sicherheitsbauteil eines Produkts, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fällt — oder ist selbst dieses Produkt (Maschinen, Medizinprodukte, In-vitro-Diagnostika, Spielzeug, Aufzüge, Druckgeräte, persönliche Schutzausrüstung, Funkanlagen, Fahrzeuge, Zivilluftfahrt, Eisenbahn, Schiffsausrüstung) Dieses Produkt muss vor dem Inverkehrbringen in der EU einer Konformitätsbewertung durch eine notifizierte Stelle unterzogen werden, und zwar aus Gründen der Gesundheit und Sicherheit — nicht allein wegen des Funkfrequenzspektrums oder der elektromagnetischen Verträglichkeit
Wird es in einem dieser Bereiche eingesetzt? Anhang III — die acht aufgeführten Hochrisikobereiche.
Personalbeschaffung, Einstellung oder Arbeitnehmerverwaltung Zugang zu Bildung oder beruflicher Ausbildung Kreditbewertung oder Bewertung der Kreditwürdigkeit Anspruch auf wesentliche öffentliche oder private Dienstleistungen Strafverfolgung, Migration oder Grenzkontrolle Kritische Infrastruktur (z. B. Sicherheitskomponenten) Biometrische Identifizierung oder Kategorisierung Rechtspflege oder Beeinflussung des Ergebnisses einer Wahl oder eines Referendums oder des Wahlverhaltens von Personen
Interagiert es mit Menschen oder generiert es Inhalte? Artikel 50 — Transparenzpflichten. Sie sind kumulativ: Sie treten zu etwaigen Hochrisiko-Pflichten hinzu und sind zwischen Anbieter und Betreiber aufgeteilt.
Es interagiert unmittelbar mit Menschen — Chatbot, Assistent oder Sprachagent (Anbieterpflicht, Artikel 50 Absatz 1) Es erzeugt synthetische Audio-, Bild-, Video- oder Textinhalte (Anbieterpflicht, Artikel 50 Absatz 2) Es wendet Emotionserkennung oder biometrische Kategorisierung auf Personen an (Betreiberpflicht, Artikel 50 Absatz 3) Es erzeugt oder manipuliert Deepfakes oder Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden (Betreiberpflicht, Artikel 50 Absatz 4)