Ki-fehler kostet frau über 5 monate freiheit – ein albtraum wird realität
Ein verheerender Fall aus den USA hat erneut die Schattenseiten der vermeintlichen Präzision künstlicher Intelligenz beleuchtet: Angela Lipps, eine alleinerziehende Mutter aus Tennessee, verbrachte über fünf Monate im Gefängnis, fälschlicherweise als Betrügerin identifiziert – aufgrund einer fehlerhaften Gesichtserkennung.
Die maschinerie versagt: wie algorithmen leben zerstören
Die Geschichte ist erschreckend einfach: Die Polizei von Fargo, North Dakota, suchte nach einer Betrügerin, die über Videoüberwachungsaufnahmen identifiziert werden sollte. Ein Software zur Gesichtserkennung spuckte den Namen Angela Lipps aus. Ohne weitere Prüfung, ohne die Unmöglichkeit zu hinterfragen, wurde Lipps festgenommen und in Tennessee inhaftiert, während die Behörden in North Dakota sie abholen wollten. Ein doppelter Fehler, der durch blinden Vertrauen in Algorithmen ermöglicht wurde.
Was niemand öffentlich thematisiert: Dies ist bereits der neunte Fall in den USA, in dem eine Person aufgrund einer Fehlidentifizierung durch künstliche Intelligenz fälschlicherweise inhaftiert wurde. Die Frage ist nicht, ob KI Fehler macht – das tut sie regelmäßig. Das eigentliche Problem ist die Sorglosigkeit, mit der Menschen die Ergebnisse dieser Systeme hinnehmen, ohne sie kritisch zu hinterfragen. Ein fataler Vertrauensbruch.
Lipps betonte vehement, noch nie in North Dakota gewesen zu sein, geschweige denn jemals geflogen zu sein. Doch die Algorithmen, in Kombination mit der Bestätigung eines Detektivs, der Lipps' Führerschein und Social-Media-Profile mit den Überwachungsbildern verglich, führten zu ihrer Inhaftierung. Die Polizei handelte, als hätte sie eine unanfechtbare Wahrheit vorliegen. Das Ergebnis: Ein Leben in Trümmern.
Die Polizei von Fargo stellte schließlich fest, dass Lipps zum Zeitpunkt der Betrugsfälle in Tennessee war – sie hatte dort Zigaretten gekauft und Gehaltscheine bei einer Bank eingereicht. Ein paar Minuten Arbeit hätten gereicht, um die Wahrheit ans Licht zu bringen, bevor eine unschuldige Frau ihr Leben verlor. Stattdessen verlor sie ihren Job, ihr Zuhause und sogar ihren Hund.
Ein erschreckendes Beispiel für die Gefahren unkontrollierter KI-Anwendungen. Es ist nicht nur die Gefahr von Fehlern, sondern die blinde Akzeptanz dieser Fehler durch Menschen, die für die Kontrolle zuständig sind. Ob bei Banktransaktionen, der Erstellung von Code oder der Entscheidungsfindung bei Bewerbungen – der Vertrauensbruch ist real.
Die Tragödie von Angela Lipps ist ein Weckruf. Die Technologie darf nicht über den Menschen gestellt werden. Sonst werden wir nicht nur unsere Freiheit, sondern auch unsere Menschlichkeit verlieren.