Όταν ο αλγόριθμος καταστρέφει ζωές

Σύνοψη

• Δύο νέες περιπτώσεις άδικων συλλήψεων στη Φλόριντα φέρνουν στο προσκήνιο τους κινδύνους της τεχνολογίας αναγνώρισης προσώπου από την αστυνομία.
• Στην πρώτη περίπτωση, ένας 52χρονος συνελήφθη για απόπειρα απαγωγής ανηλίκου με βάση ποσοστό ταύτισης 93% από το σύστημα FACESNXT, παρότι βρισκόταν 300 μίλια μακριά.
• Στη δεύτερη περίπτωση, ένας πατέρας δέκα παιδιών πέρασε συνολικά 83 ημέρες στη φυλακή και έχασε τη δουλειά και το σπίτι του, καθώς το λογισμικό τον ταυτοποίησε λανθασμένα για κλοπή αυτοκινήτου.
• Η Αμερικανική Ένωση Πολιτικών Ελευθεριών (ACLU) προχωρά σε μηνύσεις, καταγγέλλοντας ότι οι αρχές αντιμετωπίζουν τις “προτάσεις” του αλγορίθμου ως ακλόνητα στοιχεία ενοχής, παραβλέποντας ατράνταχτα άλλοθι.

Η ενσωμάτωση της Τεχνητής Νοημοσύνης (AI) στις αστυνομικές έρευνες μεταβάλλει ραγδαία τον τρόπο με τον οποίο οι αρχές αναζητούν και ταυτοποιούν υπόπτους, με την τεχνολογία αναγνώρισης προσώπου να παρουσιάζεται συχνά ως το απόλυτο εργαλείο επιτάχυνσης της απονομής δικαιοσύνης. Ωστόσο, η εφαρμογή της στο πεδίο αναδεικνύει εξαιρετικά σοβαρές δυσλειτουργίες. Δύο πρόσφατες υποθέσεις στη Φλόριντα των ΗΠΑ φέρνουν στο φως τις καταστροφικές συνέπειες που προκύπτουν όταν οι αστυνομικές αρχές δείχνουν τυφλή εμπιστοσύνη στα αλγοριθμικά δεδομένα, εγκαταλείποντας τις βασικές αρχές της συμβατικής έρευνας.

Η υπόθεση του Robert Dillon και η αποτυχία του FACESNXT

Η πρώτη υπόθεση, η οποία οδήγησε σε επίσημη μήνυση με την υποστήριξη της Αμερικανικής Ένωσης Πολιτικών Ελευθεριών (ACLU), αφορά τον 52χρονο Robert Dillon. Τον Νοέμβριο του 2023, στο Jacksonville Beach, ένας άγνωστος άνδρας προσπάθησε να απομακρύνει ένα 12χρονο παιδί από την οικογένειά του έξω από ένα υποκατάστημα McDonald’s και το τοπικό αστυνομικό τμήμα, στερούμενο επαρκών στοιχείων, αξιοποίησε το σύστημα FACESNXT (Face Analysis Comparison and Examination System).

Ο τρόπος με τον οποίο χρησιμοποιήθηκε το λογισμικό εγείρει τεράστια ερωτήματα σχετικά με την τεχνική κατάρτιση των αρχών. Σύμφωνα με τα δικαστικά έγγραφα, ένας αστυνομικός τράβηξε φωτογραφίες του υπόπτου με το κινητό του τηλέφωνο απευθείας από την οθόνη του υπολογιστή που αναπαρήγαγε το βίντεο της κάμερας ασφαλείας. Αυτή η πρακτική προσθέτει αντανακλάσεις, αλλοιώσεις και σφάλματα γωνίας λήψης στα δεδομένα. Παρόλα αυτά, οι υποβαθμισμένες εικόνες εισήχθησαν στο σύστημα, το οποίο επέστρεψε ποσοστό ταύτισης 93% με το πρόσωπο του Dillon.

Η πραγματικότητα, όμως, ήταν εντελώς διαφορετική. Ο Dillon βρισκόταν περισσότερο από 300 μίλια μακριά τη στιγμή του εγκλήματος και όταν δέχθηκε την πρώτη κλήση από την αστυνομία, εξήγησε απελπισμένος ότι φέρει πολύ χαρακτηριστικές ουλές στο πρόσωπο από παλαιότερη χειρουργική επέμβαση για καρκίνο του δέρματος, ουλές που ο δράστης δεν διέθετε. Παρά τα προφανή άλλοθι και τα στοιχεία (όπως τα δεδομένα από τις κάμερες ελέγχου πινακίδων που απέδειξαν ότι το όχημά του δεν βρισκόταν στην περιοχή), οκτώ μήνες αργότερα συνελήφθη μέσα στο σπίτι του. Ο Dillon αναγκάστηκε να περάσει τη νύχτα στο κρατητήριο και να βάλει ενέχυρο τον τίτλο ιδιοκτησίας του φορτηγού του για να καλύψει την εγγύηση. Οι κατηγορίες αποσύρθηκαν, αλλά η ψυχολογική βλάβη παραμένει ανυπολόγιστη.

Ο εφιάλτης του Jalil Richardson: 83 ημέρες στη φυλακή

Η δεύτερη περίπτωση αποδεικνύει πώς το αρχικό αλγοριθμικό σφάλμα μπορεί να μολύνει ολόκληρη την αλυσίδα της δικαιοσύνης και αφορά τον Jalil Richardson, έναν πατέρα δέκα παιδιών από τη Βόρεια Καρολίνα. Η περιπέτεια του ξεκίνησε τον Απρίλιο του 2025, όταν το γραφείο του Σερίφη του Jacksonville (JSO) ερευνούσε την αγοραπωλησία ενός κλεμμένου οχήματος. Μέσω του συστήματος Automated Facial Recognition (AFR), οι αρχές ανέλυσαν τα πλάνα ασφαλείας και βρήκαν ταύτιση 85% με τον Richardson.

Ο Richardson δεν είχε επισκεφθεί ποτέ στη ζωή του την πολιτεία της Φλόριντα, ενώ την επίμαχη ημέρα και ώρα βρισκόταν στη δουλειά του, 400 μίλια μακριά, γεγονός που αποδεικνυόταν από τις κάρτες παρουσίας του εργοδότη του. Ωστόσο, η αστυνομία εξέδωσε ένταλμα σύλληψης, ο Richardson συνελήφθη, παρέμεινε 33 ημέρες σε κρατητήριο της Βόρειας Καρολίνας και έπειτα εκδόθηκε στη Φλόριντα, όπου φυλακίστηκε για άλλες 50 ημέρες.

Όταν τελικά οι εισαγγελείς εξέτασαν τα στοιχεία και απέσυραν τις κατηγορίες, το κακό είχε ήδη γίνει. Ο Richardson είχε χάσει τη δουλειά του, το αυτοκίνητό του και το σπίτι του, αφήνοντας την οικογένειά του άστεγη. Το τοπικό τμήμα προσπάθησε να δικαιολογηθεί υποστηρίζοντας ότι η αναγνώριση προσώπου ήταν “απλώς ένα εργαλείο” και ότι οι μάρτυρες τον είχαν επιβεβαιώσει από φωτογραφίες. Εδώ ακριβώς εντοπίζεται η ανθρώπινη προκατάληψη επιβεβαίωσης, διότι όταν η αστυνομία δείχνει σε έναν μάρτυρα τη φωτογραφία που έχει επιλέξει η AI, καθοδηγεί υποσυνείδητα την απάντηση του, δημιουργώντας μια ψευδή ταυτοποίηση.

Η δομική αδυναμία των συστημάτων Facial Recognition

Το τεχνικό υπόβαθρο αυτών των αστοχιών είναι γνωστό στους προγραμματιστές αλλά συχνά αγνοείται από τους αστυνομικούς. Τα συστήματα βιομετρικής ανάλυσης δημιουργούν έναν τοπογραφικό χάρτη του προσώπου υπολογίζοντας τις αποστάσεις μεταξύ συγκεκριμένων κομβικών σημείων (όπως η απόσταση μεταξύ των ματιών ή το σχήμα της γνάθου). Όταν η εικόνα προέρχεται από κάμερες χαμηλής ανάλυσης ή κακού φωτισμού, ο αλγόριθμος αναγκάζεται να συμπληρώσει τα κενά. Το αποτέλεσμα δεν είναι ποτέ μια απόλυτη “ταυτοποίηση”, αλλά μια στατιστική προσέγγιση για τη δημιουργία μιας λίστας υποψηφίων. Οι διωκτικές αρχές οφείλουν να αντιμετωπίζουν αυτά τα συστήματα αποκλειστικά ως αφετηρίες ελέγχου και όχι ως δικαστικά τεκμήρια.

Σύμφωνα με τα στοιχεία της ACLU, υπάρχουν τουλάχιστον 14 γνωστές περιπτώσεις πολιτών στις ΗΠΑ που έχουν υποστεί το ίδιο μαρτύριο, ενώ εκτιμάται πως ο πραγματικός αριθμός είναι δραματικά μεγαλύτερος. Ως αντίδραση, περισσότερες από 20 αμερικανικές πόλεις έχουν ήδη προχωρήσει στην πλήρη απαγόρευση χρήσης τέτοιων λογισμικών από τις τοπικές αρχές.