KI in der Justiz: Muss am Ende ein Mensch entscheiden?

Ein Mensch reicht einen Antrag ein. Eine Maschine ordnet die Akte, gewichtet Informationen und formuliert einen Entscheidungsvorschlag. Am Ende setzt ein Richter seinen Namen darunter.

War das noch eine menschliche Entscheidung?

Diese Frage ist keine Zukunftsmusik mehr. Künstliche Intelligenz wird in der deutschen Justiz bereits für standardisierte Arbeitsschritte, Anonymisierung, Datenextraktion und Aktenstrukturierung erprobt oder eingesetzt. Baden-Württemberg entwickelt mit „StruKI“ eine Assistenzanwendung, die umfangreiche Verfahrensakten zusammenfassen und strukturieren soll. Zugleich erklären Bundesregierung und Spitzen der ordentlichen Gerichtsbarkeit: KI darf vorbereiten, aber die rechtliche Entscheidung nicht ersetzen.

Genau an dieser Grenze entscheidet sich, ob Digitalisierung den Rechtsstaat stärkt – oder ob Verantwortung langsam unsichtbar wird.

2026 wird zum Prüfjahr für KI und Rechtsstaatlichkeit

Der europäische AI Act ist bereits in Kraft. Am 2. August 2026 werden weitere Teile des Regelwerks anwendbar, insbesondere neue Transparenzpflichten. KI-Systeme, die bei der Rechtspflege oder bei der Vorbereitung gerichtlicher Entscheidungen eingesetzt werden, behandelt der europäische Gesetzgeber grundsätzlich als besonders grundrechtssensibel und als Hochrisiko-Anwendungen.

Das konkrete Fristenregime für Hochrisiko-KI wird allerdings durch die politische Einigung zum sogenannten AI Omnibus neu geordnet. Welche Pflichten ab welchem Zeitpunkt gelten, muss deshalb für das jeweilige System und seinen Verwendungszweck genau geprüft werden.

Parallel dazu hat die Europäische Union im Mai 2026 das Rahmenübereinkommen des Europarates über Künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit ratifiziert. Der politische Maßstab ist damit deutlich:

Technischer Fortschritt soll möglich sein.

Aber nicht auf Kosten der Menschenwürde, des fairen Verfahrens und wirksamer Kontrolle.

Auch Deutschland beschleunigt den praktischen Einsatz. Projekte wie ALeKS, JANO, MAKI und StruKI sollen Urteile anonymisieren, Akten strukturieren und gleichförmige Arbeitsschritte erleichtern. Das kann Verfahren beschleunigen. Es kann Transparenz schaffen. Es kann überlastete Gerichte entlasten.

Doch Geschwindigkeit ist kein Grundrecht.

Ein faires Verfahren schon.

Eine Akte, ein Satz – und eine unsichtbare Vorentscheidung

Stellen wir uns eine Person vor, die gegen eine belastende Behördenentscheidung vorgeht.

Die Akte umfasst mehrere hundert Seiten. Darin befinden sich medizinische Unterlagen, frühere Bescheide, widersprüchliche Vermerke und ein kurzer handschriftlicher Hinweis, der den gesamten Sachverhalt in ein anderes Licht rückt.

Ein KI-System erstellt eine Zusammenfassung.

Der handschriftliche Hinweis wird nicht erkannt.

Ein Widerspruch wird sprachlich geglättet.

Ein ungewöhnlicher Lebensumstand erscheint im maschinellen Überblick nur als statistische Abweichung.

Die zuständige Richterin liest die Zusammenfassung, prüft einzelne Fundstellen und übernimmt einen vorgeschlagenen Aufbau. Sie entscheidet selbst – formal.

Aber hat sie den Fall wirklich selbst erfasst?

Diese Situation ist ein Beispiel, kein dokumentierter Einzelfall. Doch sie zeigt das eigentliche Risiko. Eine KI muss kein Urteil verkünden, um den Ausgang eines Verfahrens zu beeinflussen. Es genügt, wenn sie festlegt, was sichtbar wird, was wichtig erscheint und was im Hintergrund verschwindet.

Die tiefste Macht liegt nicht immer in der letzten Entscheidung.

Manchmal liegt sie in der Auswahl dessen, worüber überhaupt noch entschieden wird.

Was bedeutet ein „Menschenvorbehalt“?

Der Begriff Menschenvorbehalt beschreibt die Forderung, dass bestimmte Entscheidungen wegen ihrer Bedeutung für Freiheit, Würde und Rechte nicht vollständig an technische Systeme delegiert werden dürfen.

Im Zentrum steht nicht die romantische Vorstellung, Menschen seien fehlerfrei.

Das sind sie nicht.

Im Zentrum steht Verantwortung.

Ein Mensch kann angehört, befragt, abgelehnt, korrigiert und zur Begründung verpflichtet werden. Seine Entscheidung ist einer Institution, einem Amt und einem Rechtsmittelweg zugeordnet.

Bei einer Maschine entsteht dagegen leicht eine Verantwortungsdiffusion:

Der Hersteller verweist auf den Betreiber.

Der Betreiber verweist auf das Modell.

Die Behörde verweist auf die menschliche Freigabe.

Der entscheidende Mensch verweist auf die technische Empfehlung.

Am Ende war jeder beteiligt – und niemand verantwortlich.

Art. 6 EMRK: Muss ein Gericht zwingend menschlich sein?

Art. 6 der Europäischen Menschenrechtskonvention garantiert in Zivil- und Strafsachen ein faires und öffentliches Verfahren vor einem unabhängigen, unparteiischen und auf Gesetz beruhenden Gericht.

Der verfassungsrechtliche Preprint „Muss es ein Mensch sein?“ von Alexandra Kunesch arbeitet eine wichtige Spannung heraus: Die EMRK ist historisch vom Bild einer menschlichen Richterin geprägt, nennt die natürliche Person im Wortlaut aber nicht ausdrücklich.

Weil der Europäische Gerichtshof für Menschenrechte die Konvention als entwicklungsfähiges „living instrument“ versteht, lässt sich ein zukünftiges KI-Tribunal nach der Analyse nicht allein mit einem historischen Argument ausschließen.

Die Hürden wären dennoch außerordentlich hoch. Ein Gericht muss nicht nur fachlich funktionieren. Es muss unabhängig, unparteiisch und gesetzlich legitimiert sein. Nach der im Preprint ausgewerteten EGMR-Rechtsprechung spielen zudem fachliche Kompetenz und moralische Integrität der Richter eine Rolle.

Ob ein technisches System moralische Integrität überhaupt besitzen kann, bleibt eine offene Grundfrage.

Für die österreichische Verfassungsordnung kommt der Preprint zu einem strengeren Ergebnis: Das dortige verfassungsrechtliche Richterbild ist auf einen Menschen ausgerichtet. KI kann unterstützen und Entwürfe erstellen. Die zuständige Richterin muss das Ergebnis jedoch eigenständig prüfen, freigeben und verantworten.

Die aktuelle deutsche Linie ist klarer

Für Deutschland erklärte die Bundesregierung im Mai 2026, rechtliche Bewertungen und Entscheidungen müssten in menschlicher Verantwortung bleiben.

Die endgültige Entscheidung müsse von einem Menschen getroffen und verantwortet werden.

Auch die Präsidentinnen und Präsidenten der Oberlandesgerichte, des Kammergerichts, des Bayerischen Obersten Landesgerichts und des Bundesgerichtshofs formulierten 2026 eine klare Grenze:

KI soll vorbereiten, strukturieren und standardisieren.

Sie ersetzt keine richterliche Entscheidung.

Das ist wichtig.

Aber es reicht noch nicht.

Eine menschliche Unterschrift ist noch keine menschliche Entscheidung

„Human in the loop“ klingt beruhigend. Doch menschliche Beteiligung kann zur bloßen Formalie werden.

Wenn ein System tausend Seiten auf zehn Seiten verdichtet, prägt es den Wahrnehmungsraum.

Wenn es einen Entscheidungsvorschlag erstellt, setzt es einen gedanklichen Anker.

Wenn Richterinnen und Richter unter Zeitdruck arbeiten, wächst die Gefahr, dass maschinelle Ergebnisse nicht wirklich neu geprüft, sondern nur plausibilisiert werden.

Der untersuchte Preprint verweist insbesondere auf die Blackbox-Problematik, die statistische Arbeitsweise von KI-Systemen und die Gefahr verzerrter Ergebnisse. Zugleich betont er, dass die verantwortliche Richterin die Funktionsweise und Grenzen eines eingesetzten Systems kennen und dessen Ergebnisse eigenständig überprüfen muss.

Eine menschliche Freigabe schützt deshalb nur dann, wenn der Mensch tatsächlich:

• die entscheidungserheblichen Originalinformationen erreichen kann,
• die Grenzen und Fehlerquellen des Systems kennt,
• den Vorschlag ohne institutionellen Druck verwerfen darf,
• ausreichend Zeit für eine eigene Prüfung besitzt,
• und die volle fachliche Verantwortung übernimmt.

Wo diese Voraussetzungen fehlen, bleibt der Mensch sichtbar – aber seine Entscheidungsmacht wird ausgehöhlt.

Das wäre kein offener Roboter-Richter.

Es wäre etwas schwerer Erkennbares:

eine algorithmisch vorgeprägte Justiz mit menschlicher Unterschrift.

Fünf rote Linien für eine menschenwürdige KI-Justiz

Die folgenden Maßstäbe sind keine Behauptung, dass jedes Detail bereits überall als geltendes Recht kodifiziert wäre.

Sie sind menschenrechtliche Mindestforderungen für eine Justiz, die digitale Werkzeuge nutzt, ohne ihre Verantwortung abzugeben.

1. Die letzte rechtliche Entscheidung braucht einen identifizierbaren Menschen

Es muss erkennbar sein, wer den Fall geprüft, gewürdigt und entschieden hat.

Nicht nur organisatorisch.

Auch inhaltlich.

Die verantwortliche Person darf nicht lediglich bestätigen, dass ein System technisch korrekt gearbeitet hat. Sie muss die rechtliche und tatsächliche Würdigung selbst tragen.

2. Betroffene müssen vom entscheidungsrelevanten KI-Einsatz erfahren

Wer von einer Entscheidung betroffen ist, sollte wissen können, ob KI bei der Aktenauswertung, Beweisbewertung, Risikoeinschätzung oder Formulierung eingesetzt wurde.

Ohne Kenntnis des Systems kann niemand gezielt prüfen, ob Daten fehlten, Gewichtungen verzerrt waren oder relevante Umstände ausgeblendet wurden.

Unsichtbare Automatisierung schwächt die Waffengleichheit.

Der AI Act sieht für Hochrisiko-Systeme unter anderem Dokumentation, Protokollierung, Informationen für die Anwender und geeignete menschliche Aufsichtsmaßnahmen vor.

3. Die Begründung muss den Einzelfall erklären – nicht nur das Ergebnis

Ein rechtsstaatlicher Text darf nicht deshalb überzeugend wirken, weil er sprachlich glatt formuliert ist.

Entscheidend ist, ob er die Argumente der Beteiligten erkennbar verarbeitet, widersprüchliche Tatsachen würdigt und den Weg zum Ergebnis nachvollziehbar macht.

Eine perfekte Formulierung kann eine unzureichende Prüfung verdecken.

Gerade generative KI erhöht dieses Risiko: Sie kann sprachliche Gewissheit erzeugen, obwohl die tatsächliche Grundlage unsicher ist.

4. Menschliche Kontrolle muss praktisch wirksam sein

Kontrolle braucht Zeit, Kompetenz und Zugriff.

Richterinnen, Richter und Justizbedienstete müssen wissen:

• Welche Daten wurden verwendet?
• Welche Aufgaben hat das System übernommen?
• Welche typischen Fehlermuster besitzt es?
• Welche Eingaben und Versionen waren entscheidend?
• Wie kann das Ergebnis korrigiert oder verworfen werden?

Ein Ergebnis darf nicht deshalb faktisch unangreifbar werden, weil technische Details als unzugänglich behandelt werden.

Eine Kontrolle, die das System nicht verstehen, prüfen oder stoppen kann, ist keine Kontrolle.

Der Europarat nennt für den Einsatz von KI in Justizsystemen insbesondere Grundrechtsachtung, Nichtdiskriminierung, Qualität, Sicherheit, Transparenz, Fairness und eine wirksame Kontrolle durch informierte Nutzer.

5. Effizienz darf den Zugang zum Recht nicht verschlechtern

KI kann Verfahren beschleunigen.

Sie kann aber auch neue Hürden schaffen:

• automatisierte Eingangsfilter
• starre Formulare
• fehlerhafte Priorisierungen
• unverständliche Standardschreiben
• Zusammenfassungen ohne entscheidende Ausnahmeinformationen
• digitale Zugänge, die vulnerable Personen ausschließen

Digitalisierung ist nur dann rechtsstaatlicher Fortschritt, wenn sie den Zugang zum Recht erweitert.

Nicht, wenn sie Menschen schneller abweist.

Wo KI den Rechtsstaat tatsächlich stärken kann

Eine menschenrechtliche Kritik an KI ist keine Technikfeindlichkeit.

Richtig eingesetzt, können Systeme die Justiz verbessern. Sie können große Aktenbestände erschließen, personenbezogene Daten für Veröffentlichungen markieren, barrierearme Zugänge unterstützen, Texte übersetzen, wiederkehrende Verfahrensschritte ordnen und bislang schwer zugängliche Rechtsprechung auffindbar machen.

Baden-Württemberg beschreibt StruKI ausdrücklich als Assistenzanwendung zur Strukturierung und Zusammenfassung von Akten. Die obersten Vertreter der ordentlichen Gerichtsbarkeit sehen die größten kurzfristigen Vorteile bei repetitiven und vorbereitenden Aufgaben.

Die Bundesregierung nennt unter anderem Anwendungen zur Anonymisierung von Urteilen, Strukturierung von Verfahrensunterlagen sowie zur Auswertung und Extraktion von Daten.

Die entscheidende Trennlinie lautet deshalb nicht:

Mensch oder Maschine.

Sondern:

Werkzeug oder verdeckte Herrschaft.

Welche Fragen Betroffene stellen können

Wer vermutet, dass eine behördliche oder gerichtliche Bearbeitung algorithmisch beeinflusst wurde, braucht zunächst Klarheit.

Je nach Verfahren können insbesondere folgende Fragen relevant sein:

• Wurde ein KI- oder algorithmisches System eingesetzt?
• Für welche konkrete Aufgabe wurde es verwendet?
• Welche Dokumente oder Daten wurden verarbeitet?
• Hat das System Inhalte zusammengefasst, priorisiert oder bewertet?
• Wer hat das Ergebnis eigenständig überprüft?
• Ist die Nutzung dokumentiert und nachträglich nachvollziehbar?
• Kann eine vollständige menschliche Neubewertung verlangt werden?
• Welche Rechtsbehelfe und Auskunftsrechte bestehen im konkreten Verfahren?

Welche Ansprüche tatsächlich bestehen, hängt vom Einzelfall, der Verfahrensart und dem eingesetzten System ab.

Der Fragenkatalog ersetzt keine Rechtsberatung.

Er hilft jedoch, eine unsichtbare technische Mitwirkung überhaupt erst benennbar zu machen.

Menschenwürde beginnt dort, wo der Einzelfall nicht verschwindet

Menschenwürde bedeutet nicht, dass jede Entscheidung zugunsten des Betroffenen ausfallen muss.

Sie bedeutet, dass der Mensch nicht zum bloßen Datenpunkt wird.

Dass seine Stimme nicht in einer Zusammenfassung verschwindet.

Dass ungewöhnliche Lebensumstände nicht als störende Abweichung behandelt werden.

Dass eine Entscheidung einen verantwortlichen Urheber hat.

Und dass Rechtsschutz mehr ist als die Möglichkeit, gegen ein technisch erzeugtes Ergebnis ein weiteres Formular auszufüllen.

Das Deutsche Institut für Menschenrechte weist darauf hin, dass KI die Menschenwürde, die Privatsphäre, die Meinungsfreiheit und das Diskriminierungsverbot berühren kann. Besonders grundrechtssensibel seien unter anderem die Bereiche Justiz, Strafverfolgung, Bildung, Asyl und Migration.

Der Rechtsstaat lebt nicht nur von korrekten Normen.

Er lebt von der nachvollziehbaren Übernahme von Verantwortung.

Die entscheidende Frage lautet nicht, was KI kann

KI wird immer leistungsfähiger werden. Sie wird schneller lesen, besser strukturieren und überzeugender formulieren.

Doch technische Fähigkeit beantwortet keine verfassungsrechtliche und keine menschenrechtliche Frage.

Nicht alles, was automatisiert werden kann, darf automatisiert werden.

Wo über Freiheit, Existenz, Familie, Schutz, Schuld oder staatliche Macht entschieden wird, muss der Mensch mehr bleiben als ein Kontrollkästchen im Prozess.

KI darf der Justiz dienen.

Sie darf ihre Verantwortung nicht übernehmen.

Häufige Fragen zu KI in der Justiz

Darf künstliche Intelligenz in deutschen Gerichten eingesetzt werden?

Ja. KI kann als unterstützendes Werkzeug eingesetzt und erprobt werden, etwa zur Anonymisierung, Aktenstrukturierung oder Datenextraktion.

Nach der aktuell von der Bundesregierung und den Präsidentinnen und Präsidenten der obersten ordentlichen Gerichte vertretenen Linie darf sie die richterliche Entscheidung jedoch nicht ersetzen.

Darf KI ein Urteil formulieren?

Ein KI-System kann technisch einen Entwurf erstellen.

Rechtlich und menschenrechtlich entscheidend ist, dass die zuständige Richterin oder der zuständige Richter den Sachverhalt und die Rechtsfragen eigenständig prüft, den Entwurf kritisch kontrolliert und die Entscheidung vollständig verantwortet.

Der vorliegende Preprint hält einen unterstützenden Einsatz für grundsätzlich denkbar, verlangt aber eine eigenständige Prüfung, Freigabe und Verantwortungsübernahme durch die Richterin.

Was bedeutet „Human Oversight“?

Human Oversight bedeutet menschliche Aufsicht über ein KI-System.

Wirksam ist sie nur, wenn die aufsichtführende Person das Ergebnis verstehen, hinterfragen, korrigieren und stoppen kann. Der AI Act verlangt bei Hochrisiko-KI eine Gestaltung, die eine effektive Aufsicht durch natürliche Personen ermöglicht.

Gilt KI in der Justiz nach dem EU AI Act als Hochrisiko-KI?

KI-Anwendungen, die Justizbehörden bei der Recherche und Auslegung von Tatsachen und Recht oder bei der Anwendung des Rechts auf einen konkreten Sachverhalt unterstützen sollen, werden grundsätzlich dem Hochrisikobereich zugeordnet.

Für die genaue Anwendbarkeit einzelner Pflichten sind der Systemzweck, mögliche Ausnahmen und das jeweils geltende Übergangsrecht zu prüfen.

Warum kann eine KI-Zusammenfassung problematisch sein?

Jede Zusammenfassung wählt aus.

Sie entscheidet, welche Informationen hervorgehoben, verkürzt oder ausgelassen werden. Bei Gerichtsakten kann bereits diese Auswahl die spätere Bewertung prägen.

Deshalb müssen Originalunterlagen erreichbar und maschinelle Zusammenfassungen überprüfbar bleiben.

Was können Betroffene bei Verdacht auf eine algorithmische Entscheidung tun?

Sinnvoll kann sein:

• den Einsatz technischer Systeme schriftlich zu erfragen,
• Akteneinsicht oder Auskunftsmöglichkeiten zu prüfen,
• die Begründung auf eine individuelle Würdigung zu untersuchen,
• verwendete Daten und Zusammenfassungen zu hinterfragen,
• und fachkundigen Rat einzuholen.

Welche Schritte rechtlich möglich oder zweckmäßig sind, hängt vom jeweiligen Verfahren ab.

Verantwortung bleibt menschlich

Eine moderne Justiz darf digitale Werkzeuge nutzen.

Sie darf schneller werden.

Sie darf verständlicher werden.

Aber sie darf den Menschen nicht aus der Verantwortung rechnen.

Wo KI eingesetzt wird, muss sichtbar bleiben, wer geprüft hat, wer entschieden hat und wer für Fehler einsteht.

Nur dann dient Technologie dem Recht – und nicht das Recht der Technologie.

Wer diese Debatte für wichtig hält, kann diesen Artikel weitergeben, fachlich diskutieren und dort nachfragen, wo algorithmische Systeme staatliche Entscheidungen beeinflussen.

Menschenwürde braucht keine Technikangst.

Sie braucht Wachsamkeit, Transparenz und Verantwortung.