EU AI Act 2026: Wenn Grundrechtsschutz warten muss

Ein Algorithmus lehnt keine Bewerbung mit zitternder Stimme ab.

Er kürzt keine Sozialleistung mit sichtbarem Zögern.

Und doch können seine Berechnungen entscheiden, ob ein Mensch Arbeit, Unterstützung, Schutz oder Zugang zu seinem Recht erhält.

Europa wollte genau solche Systeme früh und streng kontrollieren. Nun wurden zentrale Pflichten für Hochrisiko-KI verschoben.

Nach der endgültigen Zustimmung des Rates vom 29. Juni 2026 sollen die Hochrisikoregeln für eigenständige Systeme erst am 2. Dezember 2027 anwendbar werden. Für KI, die in regulierte Produkte eingebettet ist, gilt der 2. August 2028 als neuer Termin. Wichtige Bestimmungen sollten ursprünglich bereits ab August 2026 greifen.

Die EU begründet diesen Schritt mit fehlenden technischen Standards, größerer Rechtssicherheit und einer praktikableren Umsetzung.

Das ist nachvollziehbar.

Doch es bleibt eine unbequeme Frage:

Was geschieht mit Menschen, über die Hochrisiko-KI schon heute mitentscheidet?

EU AI Act 2026: Das Wichtigste zuerst

Der EU AI Act ist nicht aufgehoben. Auch der Schutz vor künstlicher Intelligenz wird nicht vollständig ausgesetzt.

Bereits geltende Verbote besonders gefährlicher KI-Praktiken und Pflichten für Modelle mit allgemeinem Verwendungszweck bleiben bestehen. Neu verschoben wurden vor allem umfangreiche Anforderungen an sogenannte Hochrisiko-KI-Systeme.

Dazu gehören Systeme, die in besonders sensiblen Lebensbereichen eingesetzt werden können:

• Bildung und Prüfungen,
• Personalauswahl und Beschäftigung,
• Sozialleistungen und wichtige öffentliche Dienste,
• Strafverfolgung,
• Migration, Asyl und Grenzkontrolle,
• Justiz und demokratische Prozesse,
• bestimmte biometrische Anwendungen.

Der beschlossene Zeitplan sieht für diese eigenständigen Hochrisiko-Anwendungen den 2. Dezember 2027 vor. Für sicherheitsrelevante KI in bestimmten Produkten ist der 2. August 2028 vorgesehen.

Die Verschiebung bedeutet keinen rechtsfreien Raum.

Datenschutzrecht, Antidiskriminierungsrecht, die EU-Grundrechtecharta, Verwaltungsrecht und weitere nationale sowie europäische Schutzregeln gelten weiterhin. Aber spezifische, auf Hochrisiko-KI zugeschnittene Pflichten greifen später.

Genau darin liegt das Problem.

Allgemeines Recht existiert. Spezifische Kontrolle wartet.

Was ist Hochrisiko-KI?

Nicht jede KI ist Hochrisiko-KI.

Ein System, das Rechtschreibfehler korrigiert, wird anders behandelt als ein System, das Bewerbungen vorsortiert oder die Anspruchsberechtigung für eine öffentliche Leistung bewertet.

Entscheidend ist nicht allein, wie technisch komplex ein System ist.

Entscheidend ist, wofür es verwendet wird und welche Folgen seine Ergebnisse haben können.

Der AI Act unterscheidet im Kern zwei Gruppen:

1. KI, die selbst ein reguliertes Produkt oder dessen sicherheitsrelevanter Bestandteil ist – etwa bestimmte medizinische Anwendungen.
2. KI für sensible Anwendungsfälle, die im Anhang III der Verordnung aufgeführt sind.

Dazu gehören etwa Systeme, die Bewerber bewerten, Bildungszugänge beeinflussen, über wichtige Leistungen mitentscheiden oder Behörden bei Asyl-, Polizei- und Justizaufgaben unterstützen.

Ein solches System muss nicht die endgültige Entscheidung treffen, um erheblichen Einfluss auszuüben.

Schon eine Rangliste kann entscheiden, welche Bewerbung ein Mensch überhaupt sieht.

Schon eine Risikomarkierung kann bestimmen, welcher Fall besonders misstrauisch geprüft wird.

Schon eine automatisierte Empfehlung kann den gedanklichen Ausgangspunkt einer behördlichen Entscheidung verschieben.

Wer die erste Bewertung liefert, prägt häufig auch die letzte.

Eine Zahl kennt keine Lebensgeschichte

Stellen wir uns eine beispielhafte Situation vor.

Eine Person beantragt eine existenzsichernde Leistung.

Sie hat in den vergangenen Monaten mehrfach ihre Anschrift gewechselt. Ein Formular wurde verspätet eingereicht. In den Daten fehlen Zeiträume. Frühere Angaben erscheinen widersprüchlich.

Ein digitales System verarbeitet diese Informationen.

Das Ergebnis lautet:

Erhöhtes Risiko. Zusätzliche Prüfung empfohlen.

Für das System ist dies eine statistische Einordnung.

Für die betroffene Person beginnt eine Kette von Folgen.

Die Bearbeitung dauert länger. Weitere Dokumente werden verlangt. Eine Sachbearbeitung begegnet dem Fall bereits mit einem Warnhinweis. Jede Unklarheit scheint den ersten Verdacht zu bestätigen.

Was das System nicht kennt:

Die Person musste kurzfristig eine gewaltbelastete Wohnung verlassen.

Briefe gingen verloren.

Gesundheitliche Probleme erschwerten die Kommunikation.

Ein fehlender Datensatz wird zum Risikomerkmal.

Eine Krise wird zum Muster.

Ein Mensch wird zum Score.

Diese Situation ist kein konkreter Fall. Sie beschreibt ein strukturelles Risiko algorithmischer Systeme:

Sie können Zusammenhänge erkennen, ohne deren menschliche Bedeutung zu verstehen.

Warum die EU die Regeln verschoben hat

Die Verschiebung ist nicht allein Ausdruck politischer Gleichgültigkeit gegenüber Grundrechten.

Die Europäische Kommission verweist auf technische und praktische Schwierigkeiten. Harmonisierte Standards, die Unternehmen und Behörden bei der Umsetzung der Hochrisikopflichten helfen sollen, waren nicht rechtzeitig verfügbar.

Solche Standards sollen unter anderem klären:

• wie Risiken dokumentiert werden,
• welche Datenqualität erforderlich ist,
• wie menschliche Aufsicht gestaltet werden muss,
• welche technischen Prüfungen nötig sind,
• wie Robustheit und Cybersicherheit nachgewiesen werden.

Ohne klare Standards drohen widersprüchliche Anforderungen, Rechtsunsicherheit und eine uneinheitliche Kontrolle in den Mitgliedstaaten. Die Kommission argumentiert deshalb, ein fester späterer Zeitplan ermögliche eine wirksamere und besser vorbereitete Anwendung.

Das ist ein ernst zu nehmendes Argument.

Schlecht vorbereitete Regulierung kann Schutz nur vortäuschen.

Doch daraus folgt nicht, dass öffentliche Stellen und Unternehmen bis 2027 abwarten sollten.

Fehlende Standards bedeuten nicht fehlende Risiken.

Wenn der Schutz später kommt als die Technologie

Technologie wartet nicht auf den Gesetzgeber.

Organisationen beschaffen Systeme, führen Pilotprojekte durch und integrieren automatisierte Empfehlungen in bestehende Abläufe. Einmal eingeführte Technologien erzeugen eigene Routinen.

Mitarbeitende gewöhnen sich an Bewertungen.

Institutionen investieren Geld.

Prozesse werden um das System herum aufgebaut.

Fehlerhafte Annahmen können sich verfestigen.

Wenn die strengeren Pflichten später greifen, muss nicht nur ein technisches Produkt überprüft werden. Es muss möglicherweise eine bereits etablierte Entscheidungskultur verändert werden.

Das ist schwieriger.

Denn die gefährlichste Wirkung algorithmischer Systeme liegt nicht immer in einer offen falschen Entscheidung.

Sie liegt häufig darin, dass ihre Ergebnisse selbstverständlich werden.

Aus einer Empfehlung wird eine Erwartung.

Aus einem Risikowert wird ein Verdacht.

Aus technischer Unterstützung wird faktische Autorität.

Die Maschine unterschreibt nicht. Aber sie kann bestimmen, was der Mensch für plausibel hält.

Welche Pflichten für Hochrisiko-KI vorgesehen sind

Der AI Act verlangt für Hochrisiko-Systeme mehr als eine allgemeine Zusicherung, die Technik sei verantwortungsvoll.

Zu den zentralen Anforderungen gehören:

• ein dokumentiertes Risikomanagement,
• geeignete und hinreichend repräsentative Daten,
• technische Dokumentation,
• Protokollierung und Nachvollziehbarkeit,
• verständliche Informationen für die Anwender,
• wirksame menschliche Aufsicht,
• ausreichende Genauigkeit,
• Robustheit und Cybersicherheit,
• Beobachtung des Systems während seines gesamten Lebenszyklus.

Anbieter müssen vor der Markteinführung grundsätzlich eine Konformitätsbewertung durchführen. Bestimmte öffentliche Stellen und Anbieter öffentlicher Dienste müssen vor der erstmaligen Nutzung eine Grundrechte-Folgenabschätzung vornehmen. Hochrisiko-Systeme sind zudem grundsätzlich in einer EU-Datenbank zu registrieren, wobei für bestimmte Sicherheits- und Migrationsanwendungen eingeschränkte Zugänglichkeit vorgesehen ist.

Diese Pflichten sind keine bürokratische Nebensache.

Sie sollen Antworten auf fundamentale Fragen erzwingen:

Wer kann geschädigt werden?

Welche Personengruppen sind besonders gefährdet?

Welche Daten fehlen?

Wie werden Fehler erkannt?

Wer darf ein Ergebnis überstimmen?

Was geschieht, wenn ein System diskriminiert?

Wer übernimmt Verantwortung?

Menschliche Aufsicht ist mehr als ein Mensch neben dem Computer

Viele Institutionen beruhigen mit einem einfachen Satz:

„Am Ende entscheidet immer ein Mensch.“

Doch dieser Satz beweist noch keine wirksame Kontrolle.

Ein Mensch kann eine Empfehlung nur kritisch prüfen, wenn er:

• weiß, wie das System verwendet wird,
• seine Grenzen versteht,
• Zugriff auf relevante Informationen besitzt,
• ausreichend Zeit zur Prüfung hat,
• das Ergebnis tatsächlich verwerfen darf,
• keinen institutionellen Nachteil befürchten muss,
• eine eigene Begründung formuliert.

Wird ein Warnhinweis routinemäßig übernommen, bleibt die Entscheidung nur formal menschlich.

Auch Zeitdruck spielt eine Rolle.

Wenn ein System hundert Fälle sortiert und eine Mitarbeiterin nur wenige Minuten pro Vorgang besitzt, wird die technische Bewertung schnell zur faktischen Vorgabe.

Menschliche Aufsicht ist deshalb keine Personalfrage allein.

Sie ist eine Machtfrage.

Kann der Mensch der Maschine widersprechen – oder darf er nur bestätigen, was sie vorgeschlagen hat?

Welche Grundrechte betroffen sein können

Hochrisiko-KI kann je nach Einsatzbereich sehr unterschiedliche Rechte berühren.

Dazu gehören insbesondere:

• Menschenwürde,
• Gleichbehandlung und Nichtdiskriminierung,
• Privatsphäre und Datenschutz,
• Zugang zu Bildung,
• Arbeitnehmerrechte,
• soziale Sicherheit,
• Recht auf gute Verwaltung,
• effektiver Rechtsschutz,
• faires Verfahren,
• Verteidigungsrechte,
• Schutz von Kindern und Menschen mit Behinderungen.

Der AI Act erkennt ausdrücklich an, dass Systeme zur Gewährung, Kürzung oder Rückforderung öffentlicher Leistungen erhebliche Auswirkungen auf den Lebensunterhalt haben können. Auch in Justiz und Strafverfolgung können mangelnde Transparenz, Fehler und Verzerrungen den Zugang zu einem wirksamen Rechtsbehelf oder einem fairen Verfahren beeinträchtigen.

Das zeigt:

Es geht nicht nur um technische Qualität.

Ein System kann technisch zuverlässig funktionieren und trotzdem menschenrechtlich problematisch sein.

Es kann genau das berechnen, wofür es entwickelt wurde – und dennoch die falsche Frage stellen.

Diskriminierung kann mathematisch aussehen

Algorithmen lernen häufig aus historischen Daten.

Diese Daten spiegeln keine neutrale Welt.

Sie spiegeln frühere Entscheidungen, ungleiche Chancen, institutionelle Vorurteile und gesellschaftliche Machtverhältnisse.

Wenn bestimmte Gruppen in der Vergangenheit seltener eingestellt wurden, können Bewerbungsdaten diese Ungleichheit enthalten.

Wenn einzelne Stadtteile besonders intensiv kontrolliert wurden, können Polizeidaten dort mehr registrierte Vorfälle ausweisen.

Wenn Menschen mit bestimmten Namen häufiger zusätzlichen Prüfungen ausgesetzt waren, kann ein System diese Praxis als relevantes Muster übernehmen.

Diskriminierung erscheint dann nicht mehr als Vorurteil.

Sie erscheint als Wahrscheinlichkeit.

Gerade deshalb verlangt verantwortungsvolle KI mehr als das Entfernen einzelner sensibler Merkmale. Auch Wohnort, Erwerbsbiografie, Sprache oder Bildungsweg können mittelbar geschützte Eigenschaften abbilden.

Eine mathematische Form macht eine Ungleichbehandlung nicht automatisch objektiv.

Die Grundrechteagentur warnt vor praktischen Lücken

Die Agentur der Europäischen Union für Grundrechte untersuchte Hochrisiko-KI unter anderem in Asylverfahren, Bildung, Beschäftigung, Strafverfolgung und bei öffentlichen Leistungen.

Ihr Ergebnis ist ernüchternd:

Viele Entwickler und Anwender wissen noch nicht, wie sie Grundrechtsrisiken systematisch erkennen und mindern sollen. Die Agentur warnt außerdem vor einer zu weiten Auslegung von Ausnahmen, durch die Systeme trotz ihres Einsatzes in sensiblen Bereichen möglicherweise nicht als hochriskant behandelt werden.

Besonders problematisch sind vermeintlich „vorbereitende“ Systeme.

Ein Werkzeug kann offiziell nur Informationen sortieren oder kategorisieren. Dennoch kann seine Auswahl die spätere Entscheidung erheblich prägen. Die Grundrechteagentur nennt als Beispiel sprachbezogene Bewertungen in Asylverfahren: Wird ein Ergebnis nicht kritisch korrigiert, kann ein Fehler den Zugang zum Schutz gefährden.

Die entscheidende Lehre lautet:

Auch assistierende KI kann Macht ausüben.

Der Mensch ist mehr als die Summe seiner Daten

Der hochgeladene Text zum Naturrecht stellt die Einzigartigkeit jedes Menschen in den Mittelpunkt.

Menschen sind dem Recht und der Würde nach gleich. Gleichheit bedeutet jedoch keine Gleichmacherei. Jeder Mensch bleibt individuell, unverwechselbar und darf nicht auf eine abstrakte Kategorie reduziert werden.

Der Text erinnert außerdem an den kantischen Gedanken, dass der Mensch niemals bloß als Mittel für fremde Zwecke behandelt werden darf.

Für den Einsatz künstlicher Intelligenz folgt daraus ein klarer Maßstab:

Ein Mensch darf nicht zum bloßen Datenobjekt einer effizienteren Verwaltung werden.

Er darf nicht nur als Risiko, Kostenfaktor, Eignungswert oder statistische Abweichung erscheinen.

KI arbeitet mit Ähnlichkeiten.

Menschenrechte schützen das Recht, nicht vollständig in diesen Ähnlichkeiten aufzugehen.

Ein Algorithmus darf Muster erkennen. Ein Rechtsstaat darf den Menschen deshalb noch lange nicht auf ein Muster reduzieren.

Gibt es bis 2027 eine rechtliche Schutzlücke?

Ja und nein.

Nein, weil bestehende Gesetze weitergelten. Eine Behörde darf eine diskriminierende, unverhältnismäßige oder sachlich falsche Entscheidung nicht allein deshalb treffen, weil die spezifischen Hochrisikopflichten des AI Act noch nicht anwendbar sind.

Auch Datenschutz-, Gleichbehandlungs-, Arbeits-, Sozial-, Verwaltungs- und Verfahrensrecht können Schutz bieten.

Ja, weil der AI Act zusätzliche, speziell auf KI zugeschnittene Sicherheitsstrukturen vorsieht.

Dazu gehören standardisiertes Risikomanagement, detaillierte Dokumentation, Registrierung, laufende Überwachung und besondere Grundrechte-Folgenabschätzungen.

Wenn diese Pflichten später greifen, fehlt vorübergehend ein Teil des vorgesehenen präventiven Schutzsystems.

Bestehendes Recht reagiert häufig auf eine konkrete Entscheidung oder einen eingetretenen Schaden.

Der AI Act soll Risiken bereits vor der Nutzung systematisch sichtbar machen.

Das ist der Unterschied zwischen Reparatur und Prävention.

Recht auf Information und Erklärung

Der AI Act sieht für bestimmte Hochrisiko-Anwendungen Informationspflichten vor.

Wenn ein solches System Entscheidungen über natürliche Personen trifft oder dabei unterstützt, muss die betroffene Person grundsätzlich über den Einsatz informiert werden.

Unter bestimmten Voraussetzungen besteht außerdem ein Recht auf eine klare und aussagekräftige Erklärung, wenn der Output eines Hochrisiko-Systems einer Entscheidung zugrunde liegt, die rechtliche oder vergleichbar erhebliche Auswirkungen hat. Die Erklärung soll die Rolle der KI und die wesentlichen Elemente der Entscheidung nachvollziehbar machen.

Doch auch hier gilt:

Eine Erklärung darf keine technische Nebelwand sein.

„Das Modell hat ein erhöhtes Risiko festgestellt“ erklärt nichts.

Eine sinnvolle Erklärung müsste erkennen lassen:

• welche Rolle das System spielte,
• welche Informationen entscheidend waren,
• ob Daten korrigiert werden können,
• wie die menschliche Prüfung erfolgte,
• welcher Rechtsbehelf besteht.

Rechtsschutz beginnt mit dem Wissen, wogegen man sich wehren muss.

Was Betroffene grundsätzlich fragen können

Dieser Beitrag ersetzt keine individuelle Rechtsberatung. Welche Rechte bestehen, hängt vom konkreten Verfahren und vom eingesetzten System ab.

Hilfreiche Fragen können jedoch sein:

1. Wurde bei der Entscheidung ein KI- oder Bewertungssystem eingesetzt?
2. Welche Rolle spielte sein Ergebnis?
3. Welche Daten wurden verarbeitet?
4. Waren diese Daten vollständig und richtig?
5. Wer hat das Ergebnis menschlich überprüft?
6. Konnte die zuständige Person von der Empfehlung abweichen?
7. Welche Begründung trägt die endgültige Entscheidung?
8. Wie können Daten berichtigt oder Einwände vorgebracht werden?
9. Welche Beschwerde- oder Rechtsbehelfsmöglichkeiten bestehen?

Nicht jede Software ist ein KI-System.

Nicht jede automatisierte Unterstützung macht eine Entscheidung rechtswidrig.

Aber jeder Mensch muss eine belastende Entscheidung verstehen und überprüfen lassen können.

Sieben Warnzeichen algorithmischen Unrechts

1. Niemand kann erklären, wie das Ergebnis entstand

Die Institution verlässt sich auf das System, versteht es aber selbst nicht.

2. Der Mensch darf formal prüfen, praktisch aber nicht widersprechen

Technische Empfehlungen werden routinemäßig übernommen.

3. Fehlerhafte Daten bleiben unsichtbar

Betroffene erfahren nicht, welche Informationen verwendet wurden.

4. Bestimmte Gruppen sind auffällig häufig negativ betroffen

Niemand untersucht, ob mittelbare Diskriminierung vorliegt.

5. Das System gilt als objektiver als menschliche Erfahrung

Persönliche Erklärungen werden gegenüber einem Score abgewertet.

6. Verantwortung wird zwischen Anbieter und Institution verschoben

Der Anbieter verweist auf die Anwendung. Die Behörde verweist auf die Technik.

7. Rechtsschutz beginnt erst nach dem Schaden

Es gibt keine wirksame Prüfung vor dem Einsatz.

Ein einzelnes Warnzeichen beweist noch keine Menschenrechtsverletzung.

Treten mehrere Muster wiederholt auf, kann daraus jedoch ein strukturelles Problem entstehen.

Was Behörden und Unternehmen jetzt tun sollten

Der spätere Anwendungszeitpunkt darf nicht als Einladung zum Abwarten verstanden werden.

Verantwortliche Institutionen sollten bereits jetzt:

• ein Verzeichnis eingesetzter KI-Systeme erstellen,
• sensible Anwendungsbereiche identifizieren,
• mögliche Betroffenengruppen einbeziehen,
• Datenqualität und Diskriminierungsrisiken prüfen,
• menschliche Kontrollbefugnisse eindeutig festlegen,
• Entscheidungen nachvollziehbar dokumentieren,
• leicht erreichbare Beschwerdewege schaffen,
• Mitarbeitende zu Grundrechten und Automatisierungsbias schulen,
• unabhängige Kontrolle ermöglichen,
• bei unvertretbaren Risiken auf einen Einsatz verzichten.

Die Grundrechteagentur empfiehlt ausdrücklich, nicht bis zum formalen Anwendungsbeginn zu warten. Frühzeitige Vorbereitung schützt nicht nur Menschen. Sie verbessert auch die Qualität der Systeme und stärkt das Vertrauen in verantwortliche Innovation.

Innovation braucht Grenzen, um Vertrauen zu verdienen

Künstliche Intelligenz kann helfen.

Sie kann große Datenmengen analysieren, wiederkehrende Aufgaben übernehmen und Mitarbeitende entlasten.

Sie kann Fehler erkennen.

Sie kann Zugänge vereinfachen.

Sie kann bestehende Ungleichbehandlung möglicherweise sichtbar machen.

Doch technischer Nutzen hebt menschenrechtliche Grenzen nicht auf.

Innovation wird nicht dadurch verantwortungsvoll, dass sie schnell ist.

Sie wird verantwortungsvoll, wenn Menschen nachvollziehen können, wie sie betroffen sind.

Wenn Fehler korrigiert werden.

Wenn Diskriminierung erkannt wird.

Wenn ein Mensch widersprechen kann.

Wenn Verantwortung nicht an ein System delegiert wird.

Grundrechte sind keine Bremse der Innovation.

Sie verhindern, dass Fortschritt auf Kosten jener entsteht, die sich gegen seine Folgen am wenigsten wehren können.

Wenn Grundrechtsschutz warten muss, darf Verantwortung nicht warten

Die Verschiebung der Hochrisikoregeln kann technisch begründbar sein.

Sie darf jedoch nicht zu institutioneller Passivität führen.

Eine Verwaltung weiß auch heute, dass eine Sozialleistung über die Existenz eines Menschen entscheiden kann.

Ein Arbeitgeber weiß auch heute, dass ein automatisierter Filter Chancen ungleich verteilen kann.

Ein Gericht weiß auch heute, dass eine technische Empfehlung niemals richterliche Verantwortung ersetzen darf.

Ein Staat weiß auch heute, dass Menschenwürde nicht erst am 2. Dezember 2027 beginnt.

Der EU AI Act ist wichtig.

Aber kein Gesetz schützt Menschen allein durch seine Existenz.

Schutz entsteht dort, wo Institutionen bereit sind, die eigene Macht zu erklären, zu begrenzen und kontrollieren zu lassen.

Europa verschiebt einen Teil seiner KI-Regeln.

Die Würde des Menschen lässt sich nicht verschieben.

Ein würdevoller nächster Schritt

Wer vermutet, dass eine wichtige Entscheidung algorithmisch beeinflusst wurde, sollte Abläufe und Schreiben sorgfältig dokumentieren.

Fragen Sie nach der Entscheidungsgrundlage.

Verlangen Sie eine verständliche Begründung.

Lassen Sie falsche Daten berichtigen.

Suchen Sie bei erheblichen Auswirkungen frühzeitig unabhängige fachliche oder rechtliche Beratung.

Systemic Human Rights macht sichtbar, wo technische Prozesse, institutionelle Macht und fehlender Rechtsschutz zu strukturellem Unrecht werden können.

Ruhig im Ton.

Präzise in der Analyse.

Klar im Maßstab.

Denn ein Mensch ist kein Datenpunkt.

Und Menschenwürde ist kein technischer Parameter.

Häufige Fragen zum EU AI Act 2026

Was wurde beim EU AI Act 2026 verschoben?

Die Anwendung zentraler Pflichten für eigenständige Hochrisiko-KI-Systeme wurde auf den 2. Dezember 2027 verschoben. Für Hochrisiko-KI in bestimmten regulierten Produkten ist der 2. August 2028 vorgesehen.

Warum wurden die Hochrisikoregeln verschoben?

Die EU verweist insbesondere auf noch fehlende harmonisierte Standards, Umsetzungsprobleme und den Bedarf an größerer Rechtssicherheit. Der spätere Termin soll sicherstellen, dass Unternehmen und Behörden über geeignete Hilfsmittel verfügen.

Was gilt als Hochrisiko-KI?

Dazu gehören bestimmte KI-Systeme in sensiblen Bereichen wie Bildung, Beschäftigung, öffentlichen Leistungen, Strafverfolgung, Migration, Asyl, Justiz und Biometrie. Maßgeblich sind der konkrete Zweck und die möglichen Auswirkungen.

Darf eine Behörde KI einsetzen, bevor die neuen Regeln gelten?

Ein Einsatz ist nicht automatisch verboten. Behörden müssen aber bereits geltendes Datenschutz-, Gleichbehandlungs-, Verwaltungs- und Grundrecht beachten. Ob ein bestimmter Einsatz rechtmäßig ist, hängt vom Einzelfall ab.

Habe ich ein Recht zu erfahren, ob KI eingesetzt wurde?

Der AI Act sieht für bestimmte Hochrisiko-Anwendungen Informationspflichten vor. Bei rechtlich oder ähnlich erheblich wirkenden Entscheidungen kann unter bestimmten Voraussetzungen außerdem ein Recht auf eine verständliche Erklärung bestehen.

Darf KI allein über Sozialleistungen entscheiden?

Systeme zur Bewertung, Gewährung, Kürzung oder Rückforderung wichtiger öffentlicher Leistungen gelten grundsätzlich als besonders sensibel. Unabhängig vom AI Act müssen konkrete Entscheidungen den jeweils geltenden sozial-, verwaltungs- und datenschutzrechtlichen Anforderungen entsprechen.

Was bedeutet menschliche Aufsicht?

Eine qualifizierte Person muss das System verstehen, seine Ergebnisse kritisch prüfen und bei Bedarf überstimmen können. Eine bloße formale Bestätigung einer technischen Empfehlung genügt dem menschenrechtlichen Anspruch nicht.

Wie kann man sich gegen eine fehlerhafte KI-Entscheidung wehren?

Je nach Fall können Berichtigung falscher Daten, eine Begründungsanforderung, interne Beschwerden, Datenschutzrechte, Widerspruch oder gerichtlicher Rechtsschutz infrage kommen. Der konkrete Weg sollte fachlich geprüft werden.