Wenn digitale Systeme Ungleichheit verstärken

Eine Entscheidung kann heute fallen, ohne dass jemand sie wirklich erklärt.
Ein Mensch wird aussortiert, abgelehnt, niedriger bewertet oder als Risiko markiert.
Und am Ende bleibt nur ein Satz: „Das System hat es so berechnet.“

Genau hier beginnt die neue Unsichtbarkeit von Ungleichheit.

Algorithmische Diskriminierung ist keine ferne Zukunftsfrage. Sie ist eine Gegenwartsfrage. Sie betrifft Behörden, Unternehmen, Plattformen, Banken, Bildungseinrichtungen, Personalabteilungen, Sicherheitsbehörden und digitale Verwaltungsprozesse.

Sie betrifft Menschen, die ohnehin oft kämpfen müssen, um gehört zu werden.

Menschen mit wenig Geld. Menschen mit Migrationsgeschichte. Menschen mit Behinderung. Ältere Menschen. Junge Menschen ohne stabile Aktenlage. Menschen, deren Lebensläufe nicht in standardisierte Datenfelder passen.

Die entscheidende Frage lautet nicht: Ist Technik gut oder schlecht?
Die entscheidende Frage lautet: Wer wird durch Technik gesehen — und wer wird durch sie unsichtbar gemacht?

Was ist algorithmische Diskriminierung?

Algorithmische Diskriminierung bedeutet: Ein digitales System benachteiligt Menschen oder Gruppen, direkt oder indirekt, durch automatisierte Bewertungen, Empfehlungen, Sortierungen oder Entscheidungen.

Das kann offen geschehen.
Es kann aber auch verborgen bleiben.

Ein System kann Bewerbungen vorsortieren.
Ein System kann Risiken berechnen.
Ein System kann Leistungsanträge markieren.
Ein System kann Kreditwürdigkeit bewerten.
Ein System kann Hinweise für Prüfungen, Kontrollen oder Ablehnungen liefern.

Auf den ersten Blick wirkt das neutral. Daten hinein, Ergebnis heraus.

Doch digitale Systeme sind nicht neutral, nur weil sie technisch sind. Sie entstehen in sozialen Wirklichkeiten. Sie werden mit Daten trainiert, die aus der Vergangenheit stammen. Sie übernehmen Muster, die bereits existieren. Und sie werden in Institutionen eingesetzt, die selbst Macht, Routinen und blinde Flecken haben.

Wenn eine Gesellschaft ungleich ist, können ihre Daten diese Ungleichheit spiegeln.

Wenn diese Daten dann automatisiert ausgewertet werden, kann aus alter Ungleichheit neue digitale Benachteiligung entstehen.

Warum Algorithmen nicht automatisch gerecht sind

Ein Algorithmus kennt keine Menschenwürde. Er kennt Muster.

Er kann erkennen, dass bestimmte Gruppen häufiger mit bestimmten Ergebnissen verbunden waren. Aber er versteht nicht, warum. Er versteht nicht, ob diese Vergangenheit gerecht war. Er erkennt nicht automatisch, ob frühere Entscheidungen von Vorurteilen, Armut, institutionellem Versagen oder struktureller Ausgrenzung geprägt waren.

Das ist der Kern des Problems.

Ein System kann aus historischen Daten lernen — und dabei historische Ungerechtigkeit fortschreiben.

Alte Ungleichheit wird digital verstärkt

Wenn in der Vergangenheit bestimmte Menschen seltener eingestellt wurden, können Bewerbungsalgorithmen lernen, ähnliche Profile geringer zu bewerten.

Wenn bestimmte Stadtteile häufiger kontrolliert wurden, können Risikomodelle diese Stadtteile erneut als auffällig markieren.

Wenn Menschen mit brüchigen Erwerbsbiografien häufiger als „unsicher“ eingestuft wurden, können digitale Systeme sie erneut benachteiligen.

So entsteht ein Kreislauf.

Nicht, weil eine einzelne Person bewusst diskriminiert. Sondern weil ein System bestehende Muster übernimmt, verstärkt und als objektive Auswertung zurückgibt.

Das ist besonders gefährlich.

Denn Diskriminierung, die aus einem Menschen kommt, kann man benennen.
Diskriminierung, die aus einem System kommt, wirkt oft wie Sachlichkeit.

Objektivität kann täuschen

Digitale Entscheidungen haben eine Aura der Präzision.

Ein Score wirkt exakt.
Eine Risikokategorie wirkt professionell.
Eine automatisierte Empfehlung wirkt sachlich.
Ein Datenabgleich wirkt unbestechlich.

Doch Präzision ist nicht dasselbe wie Gerechtigkeit.

Ein fehlerhafter Maßstab kann sehr genau messen — und trotzdem das Falsche messen.

Ein System kann technisch funktionieren und menschenrechtlich problematisch sein. Es kann Daten korrekt verarbeiten und trotzdem Menschen unfair behandeln. Es kann formal sauber wirken und in der Wirkung Gruppen benachteiligen.

Gerade deshalb braucht algorithmische Diskriminierung eine menschenrechtliche Sprache.

Nicht jedes digitale Problem ist ein Menschenrechtsproblem. Aber dort, wo Technik über Zugang, Chancen, Schutz, Freiheit, Existenz oder Würde mitentscheidet, wird sie zur Grundrechtsfrage.

Wo algorithmische Diskriminierung besonders gefährlich wird

Algorithmische Diskriminierung ist besonders sensibel, wenn digitale Systeme in Bereichen eingesetzt werden, in denen Menschen von Entscheidungen existenziell abhängig sind.

Behörden und digitale Verwaltung

Wenn Behörden digitale Systeme nutzen, geht es nicht nur um Effizienz. Es geht um Macht.

Eine Behörde kann Leistungen bewilligen oder verweigern. Sie kann Verfahren beschleunigen oder verzögern. Sie kann Menschen prüfen, markieren, einordnen oder weiterleiten.

Wenn dabei algorithmische Systeme mitwirken, müssen Betroffene wissen können, was geschieht.

Wurde ein Antrag automatisiert vorsortiert?
Gab es einen Datenabgleich?
Wurde ein Risiko berechnet?
Welche Daten wurden verwendet?
Wer hat das Ergebnis geprüft?
Wer trägt Verantwortung?

Ein Rechtsstaat darf nicht unverständlich werden.

Sozialleistungen

Bei Sozialleistungen geht es oft um die Grundlage eines würdigen Lebens.

Miete. Nahrung. Medizin. Familie. Teilhabe. Sicherheit.

Wenn ein digitales System hier fehlerhaft markiert, falsch priorisiert oder bestimmte Lebenslagen schlechter erkennt, kann das gravierende Folgen haben.

Menschen in Armut haben oft kompliziertere Akten. Häufigere Umzüge. Lückenhafte Nachweise. Unregelmäßige Einkommen. Mehr Kontakte mit Behörden.

Ein Algorithmus kann solche Merkmale als Risiko lesen, obwohl sie Ausdruck sozialer Not sind.

Dann wird Armut nicht verstanden.
Sie wird verdächtig gemacht.

Migration, Asyl und Aufenthalt

In Migrations- und Asylkontexten treffen digitale Systeme auf besonders verletzliche Situationen.

Menschen haben möglicherweise keine vollständigen Dokumente. Sie sprechen die Sprache nicht sicher. Ihre Lebensgeschichte ist schwer beweisbar. Ihre Situation ist durch Flucht, Gewalt, Behördenabhängigkeit oder Unsicherheit geprägt.

Wenn digitale Systeme in solchen Verfahren eingesetzt werden, muss Transparenz besonders hoch sein. Denn die Folgen können tief in Freiheit, Familie, Sicherheit und Zukunft eingreifen.

Ein System darf nicht über Glaubwürdigkeit, Risiko oder Priorität mitwirken, ohne dass nachvollziehbar ist, wie es zu seiner Bewertung kommt.

Arbeit und Bewerbung

Viele Menschen erleben algorithmische Diskriminierung nicht zuerst beim Staat, sondern im Arbeitsmarkt.

Bewerbungen werden gefiltert. Lebensläufe werden bewertet. Profile werden verglichen. Online-Verhalten wird analysiert. Plattformen steuern Sichtbarkeit.

Wer nicht in das Muster erfolgreicher Bewerberinnen und Bewerber passt, kann aussortiert werden, bevor ein Mensch die Bewerbung liest.

Das betrifft besonders Menschen mit nicht-linearen Lebensläufen, Betreuungspflichten, Behinderungen, ausländischen Abschlüssen, Altersdiskriminierungserfahrungen oder Namen, die Vorurteile auslösen können.

Dann wird nicht nur eine Bewerbung abgelehnt.

Eine Chance verschwindet, bevor sie überhaupt sichtbar wurde.

Bildung

Auch Bildung kann durch digitale Bewertungssysteme ungleicher werden.

Wenn Lernplattformen, Prüfungssoftware oder Prognosesysteme Leistungen bewerten, können sie soziale Unterschiede verstärken. Wer zu Hause schlechtere technische Ausstattung hat, wer weniger Unterstützung erhält, wer sprachlich benachteiligt ist oder anders lernt, kann durch standardisierte Systeme schlechter erscheinen.

Ein Kind ist aber kein Datenprofil.
Ein Lernweg ist keine reine Statistik.
Ein Mensch entwickelt sich nicht immer entlang vorhersehbarer Muster.

Bildung braucht Förderung, nicht digitale Vorverurteilung.

Polizei, Sicherheit und Risikobewertung

Besonders grundrechtssensibel sind Systeme im Bereich Sicherheit.

Wenn Orte, Gruppen oder Personen als riskant markiert werden, kann das zu mehr Kontrollen führen. Mehr Kontrollen erzeugen mehr Daten. Mehr Daten bestätigen scheinbar das Risiko.

So entsteht eine gefährliche Rückkopplung.

Ein System sagt: Dort ist Risiko.
Die Institution kontrolliert dort häufiger.
Dadurch entstehen mehr Einträge.
Das System sagt: Das Risiko war richtig.

Doch vielleicht wurde nicht mehr Kriminalität gefunden. Vielleicht wurde nur mehr gesucht.

Der Mensch hinter dem Risikowert

Stellen wir uns eine Person vor.

Sie bewirbt sich auf eine Stelle, für die sie gut qualifiziert ist. Die Unterlagen sind vollständig. Die Erfahrung passt. Die Motivation ist hoch.

Trotzdem kommt eine Absage. Schnell. Formell. Ohne Gespräch.

Auf Nachfrage erfährt die Person nur, dass ein digitales Vorauswahlsystem genutzt wurde. Die endgültige Entscheidung sei selbstverständlich menschlich getroffen worden. Welche Kriterien im System relevant waren, wird nicht erklärt. Welche Daten berücksichtigt wurden, bleibt unklar. Ob bestimmte Merkmale indirekt negativ gewirkt haben, weiß niemand.

War es die Lücke im Lebenslauf?
War es die Adresse?
War es ein ausländischer Abschluss?
War es ein bestimmtes Wort im Lebenslauf?
War es ein Muster, das niemand offenlegt?

Die Person hat keine Antwort.

Sie wurde nicht beleidigt.
Sie wurde nicht offen ausgeschlossen.
Sie wurde einfach nicht gesehen.

Das ist die stille Härte algorithmischer Diskriminierung.

Sie verletzt oft nicht laut.
Sie verschiebt Chancen leise.

Warnzeichen: So erkennt man mögliche algorithmische Diskriminierung

Algorithmische Diskriminierung ist schwer zu erkennen, weil sie selten offen benannt wird. Trotzdem gibt es Hinweise, die ernst genommen werden sollten.

1. Die Begründung bleibt formelhaft

Wenn Entscheidungen nur mit allgemeinen Textbausteinen begründet werden, aber nicht erklären, warum gerade diese Person betroffen ist, entsteht ein Problem.

Formelhafte Sprache kann ein Hinweis darauf sein, dass ein standardisiertes Verfahren im Hintergrund stärker wirkt als der Einzelfall.

2. Niemand kann die Entscheidung erklären

Ein besonders starkes Warnzeichen ist institutionelles Ausweichen.

Die Fachabteilung verweist auf die IT.
Die IT verweist auf das System.
Das System verweist auf den Anbieter.
Der Anbieter verweist auf Geschäftsgeheimnisse.
Und der Mensch bleibt ohne Antwort.

So entsteht ein Verantwortungsloch.

3. Es gibt Hinweise auf Scoring oder Risikobewertung

Begriffe wie Score, Risikowert, Ampelsystem, automatisierte Vorprüfung, Datenabgleich, Profiling, Priorisierung oder Trefferquote können darauf hinweisen, dass algorithmische Logiken beteiligt sind.

Nicht jeder solche Begriff ist problematisch. Aber jeder kann relevant sein, wenn daraus Nachteile entstehen.

4. Bestimmte Gruppen sind auffällig häufig betroffen

Algorithmische Diskriminierung zeigt sich oft nicht im Einzelfall, sondern im Muster.

Werden bestimmte Menschen häufiger abgelehnt?
Werden bestimmte Gruppen häufiger kontrolliert?
Werden bestimmte Lebensläufe systematisch schlechter bewertet?
Werden Menschen aus bestimmten Regionen, Altersgruppen oder sozialen Lagen häufiger markiert?

Dann lohnt sich eine menschenrechtliche Analyse.

5. Der Einzelfall verschwindet

Ein Rechtsstaat muss den konkreten Menschen sehen.

Wenn eine Entscheidung nur noch auf Kategorien, Wahrscheinlichkeiten und Standardwerten beruht, kann der Einzelfall untergehen.

Menschenwürde verlangt aber mehr als statistische Einordnung.

Sie verlangt Betrachtung.
Sie verlangt Begründung.
Sie verlangt die Möglichkeit, gehört zu werden.

6. Korrekturen sind kaum möglich

Ein weiteres Warnzeichen ist fehlende Korrigierbarkeit.

Wenn falsche Daten nicht berichtigt werden können, wenn ein Score nicht überprüfbar ist oder wenn ein System keine wirksame Beschwerdemöglichkeit vorsieht, wird Rechtsschutz geschwächt.

Ein Fehler ohne Korrekturweg ist kein kleiner Fehler.

Er kann zur Struktur werden.

Warum algorithmische Diskriminierung ein Menschenrechtsthema ist

Algorithmische Diskriminierung betrifft mehrere menschenrechtliche Grundfragen zugleich.

Menschenwürde

Menschenwürde bedeutet: Der Mensch darf nicht zum bloßen Objekt eines Verfahrens gemacht werden.

Wenn ein digitales System Menschen bewertet, ohne dass sie verstehen, wie diese Bewertung entsteht, droht genau das. Der Mensch wird zum Datensatz. Zum Risikoprofil. Zur Wahrscheinlichkeit.

Aber Würde ist nicht berechenbar.

Gleichbehandlung

Diskriminierung kann direkt oder indirekt entstehen.

Direkt, wenn geschützte Merkmale offen verwendet werden.
Indirekt, wenn scheinbar neutrale Kriterien bestimmte Gruppen besonders benachteiligen.

Ein Wohnort kann soziale Lage spiegeln.
Ein Erwerbsverlauf kann Betreuungspflichten spiegeln.
Eine Sprachform kann Herkunft spiegeln.
Ein technisches Nutzungsverhalten kann Alter, Behinderung oder Armut spiegeln.

KI kann solche indirekten Muster aufnehmen, ohne sie moralisch zu verstehen.

Datenschutz und informationelle Selbstbestimmung

Wer nicht weiß, welche Daten über ihn verwendet werden, verliert Kontrolle.

Daten sind nicht nur Informationen. Sie können zu Macht werden.

Besonders problematisch wird es, wenn Daten aus verschiedenen Quellen zusammengeführt werden, wenn falsche Daten weiterwirken oder wenn Menschen keine klare Möglichkeit haben, ihre digitale Darstellung zu korrigieren.

Wirksamer Rechtsschutz

Rechtsschutz setzt Wissen voraus.

Wer nicht weiß, warum er benachteiligt wurde, kann sich kaum wehren.
Wer nicht weiß, welche Daten genutzt wurden, kann Fehler kaum benennen.
Wer nicht weiß, wer verantwortlich ist, findet keinen Adressaten.

Ein Verfahren kann formal einen Rechtsweg haben und praktisch trotzdem undurchdringlich sein.

Genau hier beginnt verweigerter Rechtsschutz im digitalen Gewand.

Rechtsstaatlichkeit

Ein Rechtsstaat braucht nachvollziehbare Entscheidungen. Macht muss begründet werden. Eingriffe müssen überprüfbar sein. Verantwortung muss sichtbar bleiben.

Wenn algorithmische Systeme staatliche Entscheidungen beeinflussen, darf daraus kein Blackbox-Staat entstehen.

Der digitale Staat muss rechtsstaatlicher werden, nicht undurchsichtiger.

Was der EU AI Act daran ändert

Der EU AI Act ist kein vollständiger Schutz vor algorithmischer Diskriminierung. Aber er macht deutlich, dass bestimmte KI-Systeme besondere Risiken für Grundrechte auslösen können.

Besonders relevant ist die Idee der Hochrisiko-KI. In sensiblen Bereichen müssen Einsatz, Risiken, betroffene Gruppen, menschliche Aufsicht und Schutzmaßnahmen sorgfältig geprüft werden. Für bestimmte Stellen und Anwendungsfälle sieht Artikel 27 eine Grundrechte-Folgenabschätzung vor.

Das ist wichtig.

Denn Grundrechtsschutz darf nicht erst beginnen, wenn Betroffene bereits geschädigt sind.

Er muss vorher beginnen.

Vor dem Einsatz.
Vor der Automatisierung.
Vor der Skalierung.
Vor dem Schaden.

Die entscheidende Frage lautet: Wurde geprüft, was dieses System mit Menschen macht?

Nicht nur technisch.
Nicht nur wirtschaftlich.
Sondern menschenrechtlich.

Systemisches Unrecht im digitalen Gewand

Algorithmische Diskriminierung ist selten nur ein technisches Problem.

Sie entsteht dort, wo Technik auf Macht trifft. Dort, wo Daten auf Vorurteile treffen. Dort, wo Institutionen schneller entscheiden wollen, ohne ihre Verantwortung klarer zu machen.

Das Ergebnis kann systemisches Unrecht sein.

Ein einzelner Mensch erlebt eine unverständliche Ablehnung.
Ein anderer erlebt eine digitale Markierung.
Eine dritte Person erhält keine Erklärung.
Eine vierte findet keinen Verantwortlichen.

Jeder Fall wirkt isoliert.

Doch zusammen entsteht ein Muster.

Systemic Human Rights steht genau für diese Perspektive: Einzelne Erfahrungen werden nicht vorschnell abgetan. Sie werden eingeordnet. Auf Muster geprüft. In menschenrechtliche Sprache übersetzt.

Denn was isoliert wie ein Verwaltungsproblem wirkt, kann strukturell ein Grundrechtsproblem sein.

Was Betroffene sachlich dokumentieren sollten

Dieser Artikel ersetzt keine Rechtsberatung. Bei konkreten Fristen, Rechtsmitteln oder laufenden Verfahren sollte fachkundiger rechtlicher Rat eingeholt werden.

Aber wer den Verdacht hat, von algorithmischer Diskriminierung betroffen zu sein, kann beginnen, sachlich zu dokumentieren.

Dokumentieren Sie Hinweise auf digitale Verfahren

Notieren Sie Begriffe wie:

Scoring.
Risikobewertung.
automatisierte Vorprüfung.
Datenabgleich.
Profiling.
Algorithmus.
Systementscheidung.
Priorisierung.
Treffer.
Ampelbewertung.

Diese Begriffe können wichtig sein.

Sichern Sie Bescheide, E-Mails und Gesprächsnotizen

Bewahren Sie Unterlagen vollständig auf. Notieren Sie Datum, Ansprechpartner, Wortlaut und Reaktionen.

Gerade bei unklaren Verfahren kann die Chronologie entscheidend sein.

Fragen Sie nach Verantwortung

Wer hat entschieden?
Welche Daten wurden verwendet?
Wurde ein automatisiertes System eingesetzt?
Gab es eine menschliche Prüfung?
Kann das Ergebnis überprüft werden?
Gibt es eine Beschwerdemöglichkeit?

Ruhige, präzise Fragen schaffen Klarheit.

Achten Sie auf Muster

Sprechen andere Betroffene von ähnlichen Erfahrungen? Wiederholen sich bestimmte Formulierungen? Sind bestimmte Gruppen auffällig oft betroffen?

Muster sind der Schlüssel zur Sichtbarmachung systemischer Probleme.

Beschreiben Sie die Folgen

Algorithmische Diskriminierung ist nicht nur eine technische Abweichung. Sie hat reale Folgen.

Verlust einer Chance.
Verzögerung einer Leistung.
Eingriff in Familie.
Gesundheitliche Belastung.
Berufliche Nachteile.
Stigmatisierung.
Ohnmacht.

Diese Folgen sollten nicht dramatisiert, aber klar benannt werden.

Warum Menschenrechtsverteidiger jetzt gebraucht werden

Die digitale Welt braucht neue Formen der menschenrechtlichen Wachsamkeit.

Nicht jede Ungerechtigkeit wird sofort sichtbar. Nicht jede Diskriminierung steht in einem Aktenvermerk. Nicht jeder Fehler lässt sich allein lösen.

Menschenrechtsverteidiger, NGOs, Journalisten, Juristen, Wissenschaftler und Betroffene können helfen, Muster sichtbar zu machen.

Sie können Fragen stellen, die Institutionen nicht gern hören.

Welche Gruppen sind betroffen?
Welche Daten werden genutzt?
Welche Korrekturwege gibt es?
Wer kontrolliert die Systeme?
Wer schützt die Menschen, die falsch bewertet wurden?

Das ist kein Angriff auf Fortschritt.

Es ist die Bedingung für würdigen Fortschritt.

Technik kann dem Menschen dienen. Aber sie muss kontrolliert werden. Sie muss erklärt werden. Sie muss begrenzt werden, wo sie Würde, Gleichheit und Rechtsschutz gefährdet.

Der Mensch darf nicht zum Datenpunkt werden

Algorithmische Diskriminierung ist gefährlich, weil sie leise ist.

Sie kommt selten mit offenem Unrecht.
Sie kommt mit Formularen.
Mit Scores.
Mit Standardtexten.
Mit Systemlogiken.
Mit scheinbar neutralen Wahrscheinlichkeiten.

Doch hinter jeder digitalen Bewertung steht ein Mensch.

Ein Mensch mit Geschichte.
Mit Würde.
Mit Rechten.
Mit Kontext.
Mit Anspruch auf Gehör.

Digitale Systeme dürfen unterstützen. Aber sie dürfen nicht verdecken. Sie dürfen sortieren, aber nicht entwürdigen. Sie dürfen Hinweise geben, aber nicht Verantwortung ersetzen.

Eine gerechte digitale Zukunft entsteht nicht durch blindes Vertrauen in Systeme.

Sie entsteht durch Transparenz.
Durch Kontrolle.
Durch Rechtsschutz.
Durch menschenrechtliche Sprache.
Durch den Mut, auch dort hinzusehen, wo Unrecht technisch klingt.

Denn Ungleichheit wird nicht harmlos, nur weil sie berechnet wurde.

Und Menschenwürde endet nicht an der Schnittstelle eines Algorithmus.

Wenn Sie erleben, dass eine digitale Entscheidung nicht nachvollziehbar ist, dass Verantwortung verschoben wird oder dass eine Bewertung Ihr Leben spürbar beeinflusst, bleiben Sie nicht allein mit diesem Gefühl.

Dokumentieren Sie ruhig.
Fragen Sie präzise.
Suchen Sie fachkundige Unterstützung.
Und bestehen Sie darauf, als Mensch gesehen zu werden.

Systemisches Unrecht beginnt oft im Verborgenen.

Menschenrechte beginnen dort, wo jemand hinsieht.

Häufige Fragen

Was ist algorithmische Diskriminierung?

Algorithmische Diskriminierung liegt vor, wenn ein digitales System Menschen oder Gruppen durch automatisierte Bewertungen, Sortierungen oder Entscheidungen benachteiligt. Das kann durch verzerrte Daten, fehlerhafte Kriterien, unklare Modelle oder problematische Einsatzkontexte entstehen.

Wie entsteht Diskriminierung durch KI?

Diskriminierung durch KI entsteht häufig, wenn Systeme aus historischen Daten lernen, die bereits gesellschaftliche Ungleichheit enthalten. Dadurch können alte Vorurteile, institutionelle Routinen oder soziale Benachteiligungen digital verstärkt werden.

Warum sind Algorithmen nicht neutral?

Algorithmen sind nicht automatisch neutral, weil sie von Menschen entwickelt, mit ausgewählten Daten trainiert und in konkreten Institutionen eingesetzt werden. Sie spiegeln Annahmen, Datenqualität und Machtstrukturen ihres Umfelds.

Welche Grundrechte kann algorithmische Diskriminierung betreffen?

Betroffen sein können unter anderem Menschenwürde, Gleichbehandlung, Datenschutz, informationelle Selbstbestimmung, Berufsfreiheit, Zugang zu Sozialleistungen, wirksamer Rechtsschutz und faire Verfahren.

Wie erkennt man mögliche algorithmische Diskriminierung?

Warnzeichen sind formelhafte Begründungen, unklare Datenquellen, Hinweise auf Scoring oder Risikobewertung, fehlende menschliche Erklärung, wiederkehrende Muster bei bestimmten Gruppen und fehlende Korrekturmöglichkeiten.

Was kann man bei Verdacht auf algorithmische Diskriminierung tun?

Betroffene sollten Unterlagen sichern, Hinweise auf automatisierte Verfahren dokumentieren, nach Datenquellen und Verantwortlichen fragen, Muster festhalten und bei konkreten Verfahren fachkundigen rechtlichen Rat einholen.