Eine Maschine bewertet Ihr Risiko. Ein Mensch übernimmt das Ergebnis. Und Sie erhalten ein Nein, das niemand verständlich erklärt.
Seit August 2026 gibt es einen neuen Weg, mutmaßliche Verstöße gegen den EU AI Act zu melden. Doch wer seine Rechte schützen will, muss einen entscheidenden Unterschied kennen: Eine KI-Beschwerde kann Aufsicht auslösen. Sie ersetzt nicht den Widerspruch, die Klage oder einen anderen Rechtsbehelf gegen die konkrete Entscheidung.
Genau an dieser Trennlinie entscheidet sich, ob neues Recht tatsächlich schützt – oder ob ein Beschwerdeformular nur eine weitere Station in einem undurchsichtigen Verfahren wird.
Das Wichtigste in Kürze
-
Artikel 85 des EU AI Act eröffnet natürlichen und juristischen Personen bei begründetem Verdacht auf einen Verstoß einen Beschwerdeweg zur zuständigen Marktüberwachungsbehörde.
-
In Deutschland ist die Bundesnetzagentur seit dem 29. Juli 2026 zentrale Anlauf- und Beschwerdestelle. Sie nimmt Beschwerden über ein Onlineformular entgegen und leitet sie bei anderer Zuständigkeit weiter.
-
Die Beschwerde ist nach Angaben der Bundesnetzagentur kostenfrei und nicht an eine eigene Ausschlussfrist gebunden.
-
Das bedeutet nicht, dass eine laufende Widerspruchs-, Klage-, Beschwerde- oder sonstige Rechtsbehelfsfrist stillsteht.
-
Nicht jede Software ist KI. Nicht jede fehlerhafte Entscheidung verstößt gegen den AI Act. Und nicht jede Pflicht der KI-Verordnung gilt bereits vollständig.
-
Je nach Fall können parallel Datenschutzrecht, Antidiskriminierungsrecht, Verwaltungs- oder Sozialrecht, Arbeits- oder Verbraucherrecht und gerichtlicher Rechtsschutz relevant sein.
Seit dem 2. August 2026 hat KI-Aufsicht eine Adresse
Der EU AI Act gilt stufenweise. Seit dem 2. August 2026 werden unter anderem die Transparenzregeln des Artikels 50 angewandt; zugleich hat die Durchsetzung weiterer bereits geltender Vorschriften auf europäischer und nationaler Ebene begonnen. Die Europäische Kommission verweist dafür ausdrücklich auf neue Beschwerde- und Hinweisgeberkanäle.
Deutschland hat kurz zuvor das KI-Marktüberwachungs- und Innovationsförderungsgesetz, kurz KI-MIG, in Kraft gesetzt. § 8 KI-MIG bestimmt die Bundesnetzagentur zur zentralen Beschwerdestelle. Das Gesetz verlangt ein leicht zugängliches, barrierefreies und benutzerfreundliches Beschwerdemanagementsystem.
Das ist mehr als Verwaltungstechnik.
Ein Recht wird erst praktisch, wenn ein Mensch weiß, wohin er sich wenden kann. Und wenn die angerufene Stelle entweder selbst prüft oder die Eingabe nachvollziehbar an die zuständige Behörde weitergibt.
Doch die neue Ordnung bleibt komplex. Für bestimmte Finanzanwendungen, Produkte, Medienangebote, öffentliche Stellen oder europäische Plattform- und KI-Konstellationen können besondere Zuständigkeiten gelten. Die Bundesnetzagentur erklärt deshalb: Wer unsicher ist, kann die Beschwerde bei der zentralen Stelle einreichen; die Zuständigkeit wird geprüft und die Eingabe nach Möglichkeit weitergeleitet.
Eine Situation, die längst keine Zukunftsmusik mehr ist
Stellen wir uns eine Person vor, die eine existenziell wichtige Leistung beantragt.
Wochenlang reicht sie Nachweise ein. Dann kommt die Ablehnung. Der Text wirkt standardisiert. Einzelne Angaben aus den Unterlagen tauchen nicht auf. Auf Nachfrage heißt es nur, die Bewertung sei „systemseitig“ erfolgt und anschließend von einem Menschen geprüft worden.
Die Person weiß nicht:
-
ob tatsächlich ein KI-System eingesetzt wurde,
-
welche Daten in die Bewertung eingeflossen sind,
-
ob falsche oder veraltete Informationen verwendet wurden,
-
welches Gewicht ein Score oder eine Empfehlung hatte,
-
wer das Ergebnis eigenständig geprüft hat,
-
und ob dieser Mensch es überhaupt ändern durfte.
Die Ablehnung trägt einen Namen. Die Entscheidungskette bleibt namenlos.
Genau hier kann Digitalisierung in strukturelles Unrecht kippen: nicht allein durch einen technischen Fehler, sondern durch Verantwortungsdiffusion. Der Anbieter verweist auf den Betreiber. Der Betreiber auf die menschliche Schlussentscheidung. Die zuständige Person auf das System. Und der betroffene Mensch soll eine Entscheidung angreifen, deren Entstehung er nicht erkennen kann.
Der erste Prüfpunkt: War überhaupt KI beteiligt?
Ein schnelles Ergebnis ist noch kein Beweis für KI. Ein Textbaustein ebenso wenig. Viele Verwaltungen und Unternehmen arbeiten mit klassischen Regelwerken, Formularlogik, Datenbanken oder automatisierten Workflows, die nicht zwingend unter die Definition eines KI-Systems fallen.
Deshalb beginnt eine seriöse AI-Act-Beschwerde nicht mit dem Satz „Die KI hat entschieden“.
Sie beginnt mit einer belegbaren Beobachtung:
Nach Eingabe der Daten am [Datum] erschien die Bewertung [Ergebnis]. Die Stelle teilte am [Datum] mit, das Ergebnis sei „systemseitig“ erstellt oder vorbereitet worden. Welche Technologie eingesetzt wurde und welches Gewicht ihr zukam, ist bislang nicht dokumentiert.
Diese Sprache ist ruhig. Und stark.
Sie trennt das, was geschehen ist, von dem, was noch aufgeklärt werden muss. Sie vermeidet eine unbelegte Behauptung und benennt zugleich präzise den Untersuchungsbedarf.
Eine AI-Act-Beschwerde ist nicht dasselbe wie ein Rechtsmittel
Artikel 85 des AI Act lässt andere verwaltungsrechtliche und gerichtliche Rechtsbehelfe ausdrücklich unberührt. Das ist der wichtigste Satz für Betroffene.
Eine Marktüberwachungsbehörde prüft, ob Vorschriften der KI-Verordnung verletzt sein könnten. Sie überwacht Systeme, Anbieter und Betreiber im Rahmen ihrer Zuständigkeit. Ihr Verfahren kann Risiken sichtbar machen, Informationen beschaffen und aufsichtsrechtliche Maßnahmen auslösen.
Aber die Beschwerde hebt Ihre persönliche Ablehnung nicht automatisch auf. Sie verlängert nicht automatisch eine Frist. Sie stoppt nicht automatisch eine Vollstreckung. Und sie ersetzt nicht automatisch den Rechtsweg, der für den zugrunde liegenden Lebensbereich vorgesehen ist.
Vier Wege müssen deshalb getrennt betrachtet werden:
Wer nur die KI-Aufsicht einschaltet, kann daher trotz berechtigter Kritik den unmittelbaren Rechtsschutz gegen die Entscheidung verlieren.
Welche Rechte können neben dem AI Act wichtig sein?
Der AI Act ist nicht das einzige Schutzinstrument.
Wenn personenbezogene Daten verarbeitet wurden, können Auskunfts- und Berichtigungsrechte der Datenschutz-Grundverordnung relevant sein. Artikel 22 DSGVO enthält besondere Regeln für bestimmte ausschließlich automatisierte Entscheidungen, die rechtliche Wirkung entfalten oder Menschen ähnlich erheblich beeinträchtigen. Ob diese Voraussetzungen erfüllt sind, hängt vom konkreten Automatisierungsgrad und von der Wirkung im Einzelfall ab.
Der Europäische Gerichtshof hat 2025 im Fall Dun & Bradstreet Austria klargestellt: Bei einer erfassten automatisierten Entscheidung muss die Erklärung es der betroffenen Person ermöglichen, nachzuvollziehen, welche personenbezogenen Daten wie verwendet wurden, und die Entscheidung anzufechten. Die bloße Übermittlung eines Algorithmus genügt nicht als verständliche Erklärung.
Daneben können Begründungs-, Anhörungs-, Akteneinsichts-, Gleichbehandlungs- und Rechtsschutzgarantien aus dem jeweiligen Fach- und Verfahrensrecht greifen. Eine automatische Antwort darf diese Rechte nicht unsichtbar machen.
Gleichzeitig ist Vorsicht vor Übertreibung geboten: Die besonderen Pflichten für viele Hochrisiko-Systeme nach Anhang III gelten nach der aktuellen EU-Zeitplanung erst ab dem 2. Dezember 2027; für bestimmte in regulierte Produkte eingebettete Systeme ist der 2. August 2028 vorgesehen. Eine Beschwerde kann keine Pflicht durchsetzen, die am Tag des Geschehens noch nicht anwendbar war.
Der maßgebliche Rechtsstand muss deshalb immer auf den konkreten Vorfall bezogen werden.
Menschliche Kontrolle: Unterschrift oder echte Entscheidung?
Viele Institutionen antworten auf Kritik mit einem beruhigenden Satz: „Am Ende entscheidet ein Mensch.“ Doch menschliche Kontrolle, die nur auf dem Papier besteht, schützt niemanden zuverlässig.
Doch ein letzter Klick beweist keine eigenständige Prüfung.
Wirksame menschliche Kontrolle verlangt mindestens:
-
Verstehen: Die Person kennt Zweck, Grenzen und Fehlerquellen des Systems.
-
Zeit: Sie kann Originalunterlagen tatsächlich lesen und Widersprüche prüfen.
-
Kompetenz: Sie erkennt unplausible Daten, Verzerrungen und Grundrechtsrisiken.
-
Autorität: Sie darf den Systemoutput verwerfen oder verändern.
-
Unabhängigkeit: Abweichungen führen nicht zu organisatorischen Nachteilen.
-
Dokumentation: Es bleibt nachvollziehbar, wer was auf welcher Grundlage geprüft hat.
-
Anfechtbarkeit: Betroffene erreichen eine ergebnisoffene menschliche Neubewertung.
Fehlt diese Substanz, kann menschliche Beteiligung zur Fassade werden. Der Mensch ist dann sichtbar, seine Entscheidungsmacht aber nicht.
So bereiten Sie eine belastbare AI-Act-Beschwerde vor
1. Die angegriffene Entscheidung sichern
Bewahren Sie das vollständige Schreiben, die E-Mail, den Portalbescheid oder die sonstige Mitteilung auf. Dokumentieren Sie Zugang, Datum, Uhrzeit, Absender, Akten- oder Vorgangsnummer und mögliche Rechtsbehelfsbelehrungen.
2. Den digitalen Ablauf dokumentieren
Sichern Sie Screenshots, Eingaben, hochgeladene Unterlagen, sichtbare Scores, Warnhinweise, Fehlermeldungen, Systemnamen, Anbieterangaben, Links und Zeitstempel. Verändern Sie Originaldateien möglichst nicht. Notieren Sie getrennt, was Sie selbst beobachtet haben und was eine Stelle Ihnen mitgeteilt hat.
3. Neun präzise Fragen stellen
-
Wurde ein KI-, Profiling- oder automatisiertes Bewertungssystem eingesetzt?
-
Welche konkrete Funktion hatte es?
-
Welche Daten wurden verarbeitet?
-
Aus welchen Quellen stammten diese Daten?
-
Welche Faktoren beeinflussten das Ergebnis wesentlich?
-
Welche Rolle spielte die Systemausgabe für die endgültige Entscheidung?
-
Wer prüfte das Ergebnis eigenständig?
-
Durfte diese Person die Empfehlung verwerfen?
-
Wie kann eine neue menschliche Prüfung erreicht werden?
4. Den richtigen Beschwerdeweg wählen
In Deutschland stellt die Bundesnetzagentur die zentrale AI-Act-Beschwerdestelle bereit. Nach ihren aktuellen Informationen sind Beschwerden kostenfrei, unterliegen keinen eigenen Frist- oder Formerfordernissen und werden über das Onlineformular eingereicht, nicht per E-Mail.
Für bestimmte Systeme in ausschließlicher Zuständigkeit des europäischen AI Office existiert ein eigener EU-Beschwerdekanal. Die EU-Kommission weist darauf hin, dass dieser Kanal nicht anonym ist. Personen mit einer beruflichen Verbindung zu einem Anbieter oder Betreiber können für bestimmte Hinweise stattdessen den anonymen Whistleblower-Kanal prüfen.
5. Parallel alle Rechtsbehelfsfristen prüfen
Lesen Sie jede Rechtsbehelfsbelehrung. Halten Sie den Zugangstag fest. Prüfen Sie unverzüglich, ob Widerspruch, Einspruch, Beschwerde, Klage, einstweiliger Rechtsschutz oder ein vertraglicher Einwand notwendig ist.
Im Zweifel gilt als organisatorischer Grundsatz:
Erst die konkrete Frist sichern. Dann die technische Verantwortungsfrage vertiefen.
6. Beobachtung, Verdacht und Rechtsfrage trennen
Eine überzeugende Beschwerde braucht keine großen Worte. Sie braucht eine klare Kette:
Ereignis → Beleg → vermutete Systemrolle → konkrete Auswirkung → möglicherweise verletzte Pflicht → gewünschte Aufklärung.
So entsteht aus Ohnmacht ein prüfbarer Vorgang.
Kompakter Formulierungsvorschlag
Am [Datum] erhielt ich die Entscheidung [Bezeichnung/Aktenzeichen]. Nach den vorliegenden Informationen könnte ein automatisiertes oder KI-gestütztes System die Entscheidung vorbereitet, priorisiert oder wesentlich beeinflusst haben. Art, Gewicht, Datenbasis und menschliche Kontrolltiefe sind bislang nicht nachvollziehbar dokumentiert. Ich bitte um Prüfung, ob ein Verstoß gegen anwendbare Vorschriften der Verordnung (EU) 2024/1689 vorliegt, sowie um Mitteilung der zuständigen Stelle. Als Belege füge ich [Unterlagen] bei. Einen möglichen fachrechtlichen Rechtsbehelf gegen die konkrete Entscheidung wahre ich gesondert.
Dieser Baustein ist eine allgemeine Orientierung. Er ersetzt keine Prüfung des Einzelfalls.
Was der neue Beschwerdeweg nicht verspricht
Nicht jede Benachteiligung durch ein digitales Verfahren ist eine Menschenrechtsverletzung. Nicht jede fehlerhafte Datenverarbeitung ist ein Verstoß gegen den AI Act. Nicht jede maschinelle Unterstützung macht eine Entscheidung automatisch unwirksam.
Der neue Beschwerdeweg garantiert auch kein bestimmtes Ergebnis.
Er schafft etwas anderes: eine institutionelle Adresse für einen begründeten Verdacht. Er zwingt die Frage in ein Verfahren, statt sie im Satz „Das System hat es so berechnet“ verschwinden zu lassen.
Das ist rechtsstaatlich bedeutsam. Denn Menschenrechte brauchen nicht nur wohlklingende Prinzipien. Sie brauchen Pflichtträger, Zuständigkeiten, Beweise, Begründungen und eine reale Möglichkeit zur Korrektur.
Menschenwürde beginnt dort, wo ein Mensch mehr bleibt als sein Score
KI kann helfen. Sie kann Akten strukturieren, Muster erkennen, Abläufe beschleunigen und Menschen von Routinen entlasten.
Doch Effizienz ist kein Ersatz für Verantwortung.
Ein Mensch ist mehr als eine Risikokategorie. Mehr als eine Wahrscheinlichkeit. Mehr als die Ähnlichkeit zu früheren Fällen. Menschenwürde verlangt, dass ein konkretes Leben nicht in einer statistischen Abkürzung verschwindet, die niemand erklärt und niemand wirksam überprüft.
Die entscheidende Frage lautet deshalb nicht nur: Hat das System richtig gerechnet?
Sie lautet auch:
Wer hat entschieden? Wer konnte widersprechen? Wer trägt Verantwortung? Und welchen Weg hat der betroffene Mensch zur wirksamen Korrektur?
Wo diese Fragen unbeantwortet bleiben, beginnt die Aufgabe von Menschenrechtsverteidigern, Journalisten, Juristen und einer wachen Zivilgesellschaft: ruhig dokumentieren, präzise fragen, Zuständigkeiten sichtbar machen und wiederkehrende Muster belegen.
Nicht gegen Technologie.
Sondern für eine Technik, die dem Menschen dient.
Häufige Fragen zur AI Act Beschwerde
Wer kann eine AI-Act-Beschwerde einreichen?
Artikel 85 AI Act erlaubt natürlichen und juristischen Personen eine Beschwerde, wenn sie Grund zu der Annahme haben, dass gegen die KI-Verordnung verstoßen wurde. Ob der behauptete Verstoß tatsächlich vorliegt, prüft die zuständige Stelle.
Wo reiche ich in Deutschland eine KI-Beschwerde ein?
Die Bundesnetzagentur betreibt nach § 8 KI-MIG die zentrale Beschwerdestelle. Sie nimmt die Eingabe über ihr Onlineformular entgegen und kann sie an die fachlich zuständige Marktüberwachungsbehörde oder öffentliche Stelle weiterleiten.
Kostet die Beschwerde bei der Bundesnetzagentur etwas?
Nach den veröffentlichten Informationen der Bundesnetzagentur ist die Einreichung kostenfrei. Die Prüfungsdauer hängt von Komplexität und Auslastung ab.
Stoppt eine AI-Act-Beschwerde meine Widerspruchs- oder Klagefrist?
Nein, davon darf nicht ausgegangen werden. Die Aufsichtsbeschwerde ersetzt keinen fachrechtlichen Rechtsbehelf und hemmt dessen Frist nicht automatisch. Fristen müssen gesondert geprüft und gewahrt werden.
Kann ich verlangen, dass ein Mensch neu entscheidet?
Je nach Automatisierungsgrad, Auswirkung und anwendbarem Datenschutz-, Fach- oder Verfahrensrecht kann eine echte menschliche Überprüfung in Betracht kommen. Ein universeller Anspruch besteht nicht für jede digitale Entscheidung. Entscheidend ist der konkrete Fall.
Muss mir eine Stelle den vollständigen Algorithmus offenlegen?
Ein allgemeines Recht auf vollständigen Quellcode besteht nicht. Erforderlich sein können jedoch verständliche, einzelfallbezogene Informationen über verwendete Daten, wesentliche Faktoren, die Rolle des Systems und die menschliche Prüfung. Geschäftsgeheimnisse beenden das Informationsinteresse nicht automatisch, können aber Art und Umfang der Offenlegung beeinflussen.
Gilt der EU AI Act seit August 2026 vollständig?
Nein. Die Verordnung wird stufenweise angewandt. Seit dem 2. August 2026 gelten unter anderem neue Transparenz- und Durchsetzungsregeln. Zentrale Pflichten für viele Hochrisiko-Systeme greifen nach der aktuellen EU-Zeitplanung später.
Machen Sie die Entscheidung wieder überprüfbar
Wenn Sie vermuten, dass ein automatisiertes oder KI-gestütztes System eine wichtige Entscheidung beeinflusst hat, bleiben Sie bei den Tatsachen.
Sichern Sie die Unterlagen. Halten Sie Fristen fest. Fragen Sie nach Daten, Systemrolle, menschlicher Prüfung und Verantwortlichkeit. Trennen Sie Aufsichtsbeschwerde und individuellen Rechtsbehelf.
Und wenn sich ähnliche Abläufe wiederholen, dokumentieren Sie nicht nur den Einzelfall. Dokumentieren Sie das Muster.
Denn strukturelles Unrecht beginnt häufig dort, wo Verantwortung verteilt, Begründung standardisiert und wirksame Korrektur praktisch unerreichbar wird.
Menschenwürde braucht keine lautere Maschine.
Sie braucht einen erreichbaren Menschen, eine nachvollziehbare Entscheidung und einen offenen Weg zum Recht.
Hinweis:
Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung. Rechtsstand und behördliche Zuständigkeiten können sich ändern; bei laufenden Fristen ist eine individuelle Prüfung erforderlich. Rechtsstand dieses Beitrags: 28. August 2026.
Kommentar hinzufügen
Kommentare