Ein Mann wurde wegen eines Fehlers im Gesichtserkennungssystem festgenommen und inhaftiert

Künstliche Intelligenz, die der Polizei eigentlich dabei helfen soll, Verbrechen schneller und genauer aufzuklären, wird immer häufiger zur Ursache zerstörter Leben. Ein weiterer aufsehenerregender Fall aus den USA hat die Frage erneut aufgeworfen: Kann man Gesichtserkennungssystemen vertrauen, wenn die Freiheit eines Menschen auf dem Spiel steht?

50 Tage im Gefängnis wegen eines „ähnlichen Gesichts“

Der Einwohner von North Carolina, Jalil Richardson, verbrachte mehr als 50 Tage im Gefängnis, nachdem ein Gesichtserkennungssystem ihn fälschlicherweise mit einem Verdächtigen in einem Autodiebstahl in Florida in Verbindung gebracht hatte.

Der Algorithmus lieferte bei dem Bild von einer Überwachungskamera eine Übereinstimmung von etwa 85 Prozent. Das reichte aus, damit die Polizei die Festnahme veranlasste. Das zentrale Problem bestand darin, dass sich die Ermittlungen faktisch auf das Ergebnis der KI als Hauptbeweis stützten, statt zunächst sein Alibi zu überprüfen.

Später stellte sich heraus, dass sich der Mann zum Zeitpunkt der Tat Hunderte Kilometer vom Tatort entfernt befand und bei der Arbeit war. Doch bis dahin hatte er bereits fast zwei Monate in Haft verbracht.

Kein Einzelfall, sondern ein System

Richardsons Geschichte ist keine Ausnahme. Journalisten und Menschenrechtsaktivisten weisen darauf hin, dass dies mindestens einer von 14 bis 15 bekannten Fällen in den USA ist, in denen Menschen wegen einer falschen Übereinstimmung in Gesichtserkennungssystemen festgenommen oder angeklagt wurden.

In ähnlichen Fällen lieferten die Algorithmen eine „hohe Übereinstimmung“ — 85 Prozent, 90 Prozent und sogar „fast 100 Prozent“ —, woraufhin die Polizei diese Daten als Grundlage für eine Festnahme nutzte.

In vielen Fällen prüften die Ermittler grundlegende Fakten nicht: den Aufenthaltsort der Person, ihren Arbeitsplan oder andere objektive Beweise.

Wie der Fehler funktioniert, der Schicksale zerstört.

Das Problem liegt nicht nur in der Technologie, sondern auch darin, wie sie eingesetzt wird.

Experten nennen mehrere Schlüsselfaktoren:

geringe Qualität der Ausgangsbilder von Überwachungskameras

Algorithmen, die auf unvollständigen oder voreingenommenen Daten trainiert wurden

hohe Fehlerwahrscheinlichkeit beim Unterscheiden von Gesichtern verschiedener ethnischer Gruppen

übermäßiges Vertrauen der Polizei in den „Übereinstimmungsprozentsatz“

Studien zeigen, dass solche Systeme bei der Arbeit mit bestimmten Bevölkerungsgruppen deutlich häufiger Fehler machen können, was das Risiko ungerechter Festnahmen erhöht.

Folgen: zerstörte Leben

Selbst nach dem Fall der Anklage bleiben die Folgen für die Betroffenen schwerwiegend:

— Verlust von Arbeit und Einkommen

— Zerstörung des Rufs

— psychisches Trauma

— langwieriger Verbleib im Strafverfolgungssystem

In einigen Fällen verbrachten Menschen Wochen und Monate hinter Gittern, bevor sie ihre Unschuld beweisen konnten.

Menschenrechtsgruppen fordern Einschränkungen

Die American Civil Liberties Union (ACLU) und andere Organisationen haben bereits mehrere Klagen gegen Polizei und Behörden eingereicht und argumentieren, dass der Einsatz von KI ohne strenge Beschränkungen grundlegende Rechte der Bürger verletzt.

Juristen betonen: Die Technologie kann nur als Hilfsmittel eingesetzt werden, nicht aber als Grundlage für eine Festnahme.

Einige US-Bundesstaaten haben bereits begonnen, Beschränkungen oder Verbote für den Einsatz von Gesichtserkennung zu Strafverfolgungszwecken ohne zusätzliche Beweise einzuführen.

Die Hauptfrage ist nicht die Technologie, sondern das Vertrauen

Die Geschichte von Jalil Richardson wurde zu einem weiteren Warnsignal: Selbst die modernsten Algorithmen können eine gründliche Ermittlungsarbeit nicht ersetzen.

Und solange die Strafverfolgungsbehörden KI weiterhin als „fast einen Beweis“ betrachten, bleibt das Risiko neuer Fehler hoch — und der Preis dieser Fehler wird in Menschenleben gemessen.