Οι αλγόριθμοι που συσχετίζουν την εμφάνιση με την εγκληματικότητα – Το σκοτεινό παρελθόν τους

* Το άρθρο της μεταδιδακτορικής υποτρόφου στη φιλοσοφία και την ηθική της τεχνικής νοημοσύνης στο πανεπιστήμιο της Βόννης και στο πανεπιστήμιο του Κέιμπριτζ, Catherine Stinsonis δημοσιεύτηκε στο Aeon. Τo Αeon, είναι διαδικτυακό περιοδικό, που θέτει μεγάλα ερωτήματα, αναζητώντας φρέσκες απαντήσεις και μια νέα οπτική στην κοινωνική πραγματικότητα, την επιστήμη, τη φιλοσοφία και τον πολιτισμό. Το NEWS 24/7 αναδημοσιεύει κάθε εβδομάδα μια ιστορία για όσους λατρεύουν την πρωτότυπη σκέψη πάνω σε παλιά και νέα ζητήματα.

Η “φρενολογία” έχει ένα παλιομοδίτικο γνώρισμα. Ακούγεται σαν να ανήκει σε ένα βιβλίο ιστορίας, αρχειοθετημένο κάπου ανάμεσα σε φλεβοτομές και ποδήλατα. Θα θέλαμε να πιστεύουμε ότι το να κρίνουμε την αξία των ανθρώπων με βάση το μέγεθος και το σχήμα του κρανίου τους είναι μια πρακτική που είναι πολύ πίσω μας. Ωστόσο, η φρενολογία σηκώνει για άλλη μια φορά το ογκώδες κεφάλι της.

Τα τελευταία χρόνια, οι αλγόριθμοι μηχανικής μάθησης έχουν υποσχεθεί σε κυβερνήσεις και ιδιωτικές εταιρείες δύναμη να συλλέγουν κάθε είδους πληροφορίες από την εμφάνιση των ανθρώπων. Αρκετές νεοφυείς επιχειρήσεις ισχυρίζονται τώρα ότι μπορούν να χρησιμοποιούν τεχνητή νοημοσύνη (AI) για να βοηθήσουν τους εργοδότες να εντοπίσουν τα χαρακτηριστικά της προσωπικότητας των υποψηφίων για δουλειά, με βάση τις εκφράσεις του προσώπου τους. Στην Κίνα, η κυβέρνηση έχει πρωτοπορήσει στη χρήση καμερών παρακολούθησης που εντοπίζουν και παρακολουθούν εθνοτικές μειονότητες. Εν τω μεταξύ, έχουν προκύψει αναφορές για σχολεία που εγκαθιστούν συστήματα κάμερας, τιμωρώντας τιμωρούν αυτόματα τα παιδιά επειδή δεν δίνουν προσοχή, με βάση τις κινήσεις του προσώπου και τις μικροεκφράσεις, όπως συσπάσεις φρυδιών.

Ίσως το πιο αξιοσημείωτο, πριν από μερικά χρόνια, οι ερευνητές τεχνητής νοημοσύνης Σιαολίν Γου και Σι Ζανγκ ισχυρίστηκαν ότι εκπαίδευσαν έναν αλγόριθμο για την αναγνώριση εγκληματιών με βάση το σχήμα του προσώπου τους, με ακρίβεια 89,5%. Δεν έφτασαν τόσο μακριά ώστε να υποστηρίξουν ορισμένες από τις ιδέες για τη φυσιογνωμία και τον χαρακτήρα που κυκλοφόρησαν τον 19ο αιώνα, κυρίως από το έργο του Ιταλού ποινικολόγου Τσέζαρε Λομπρόζο: ότι οι εγκληματίες είναι υπανάπτυκτα, υπανθρώπινα θηρία, αναγνωρίσιμα από το κεκλιμένο μέτωπό τους και τις γερακίσιες μύτες. Ωστόσο, η φαινομενικά υψηλής τεχνολογίας προσπάθεια της πρόσφατης μελέτης να διακρίνει τα χαρακτηριστικά του προσώπου που σχετίζονται με την εγκληματικότητα είναι δανεισμένη απευθείας από τη “φωτογραφική σύνθετη μέθοδο” που αναπτύχθηκε από τον βικτωριανό πολυμαθή Φράνσις Γκάλτον – η οποία περιελάμβανε την τοποθέτηση των προσώπων πολλών ανθρώπων σε μια συγκεκριμένη κατηγορία για να βρεθούν τα χαρακτηριστικά ενδεικτικών ιδιοτήτων όπως η υγεία, η ασθένεια, η ομορφιά και η εγκληματικότητα.

Οι σχολιαστές τεχνολογίας έχουν χαρακτηρίσει αυτές τις τεχνολογίες αναγνώρισης προσώπου ως “εμπεριστατωμένη φρενολογία”. Την έχουν συνδέσει επίσης με την ευγονική, την ψευδοεπιστήμη της βελτίωσης της ανθρώπινης φυλής με ενθάρρυνση των ανθρώπων που θεωρούνται οι καταλληλότεροι να αναπαραχθούν. (Ο ίδιος ο Γκάλτον επινόησε τον όρο “ευγονική”, περιγράφοντάς τον το 1883 ως “όλες οι επιρροές που τείνουν σε κάποιο βαθμό να δίνουν στις καταλληλότερες φυλές ή στελέχη αίματος καλύτερες πιθανότητες να επικρατήσουν γρήγορα έναντι των λιγότερο κατάλληλων απ’ ό,τι θα γινόταν διαφορετικά).

Σε ορισμένες περιπτώσεις, ο ρητός στόχος αυτών των τεχνολογιών είναι να αρνηθούν ευκαιρίες σε όσους κρίνονται ακατάλληλοι. Σε άλλες, μπορεί να μην είναι ο στόχος, αλλά είναι ένα προβλέψιμο αποτέλεσμα. Ωστόσο, όταν απορρίπτουμε τους αλγόριθμους χαρακτηρίζοντάς τους ως φρενολογικούς, ποιο ακριβώς είναι το πρόβλημα που προσπαθούμε να επισημάνουμε; Λέμε ότι αυτές οι μέθοδοι είναι επιστημονικά λανθασμένες και ότι πραγματικά δεν λειτουργούν – ή λέμε ότι παρ’ όλα αυτά είναι ηθικά λάθος να χρησιμοποιούνται;

Υπάρχει μια μακρά και μπερδεμένη ιστορία του τρόπου με τον οποίο η “φρενολογία” έχει χρησιμοποιηθεί ως προσβολή. Οι φιλοσοφικές και επιστημονικές κριτικές του εγχειρήματος ήταν πάντα αλληλένδετες, αν και η ανάμιξή τους άλλαξε με την πάροδο του χρόνου. Τον 19ο αιώνα, οι επικριτές της φρενολογίας αντιτάχθηκαν στο γεγονός ότι η φρενολογία προσπάθησε να εντοπίσει με ακρίβεια τη θέση διαφορετικών νοητικών λειτουργιών σε διαφορετικά μέρη του εγκεφάλου – μια κίνηση που θεωρήθηκε αιρετική, καθώς έθεσε υπό αμφισβήτηση τις χριστιανικές ιδέες για την ενότητα της ψυχής. Ωστόσο, είναι ενδιαφέρον ότι η προσπάθεια να ανακαλύψει κανείς τον χαρακτήρα και τη διάνοια ενός ατόμου με βάση το μέγεθος και το σχήμα του κεφαλιού του δεν θεωρήθηκε σοβαρό ηθικό ζήτημα. Σήμερα, αντιθέτως, η ιδέα του εντοπισμού των νοητικών λειτουργιών είναι δικαίως αδιαμφισβήτητη. Οι επιστήμονες μπορεί να μην πιστεύουν πλέον ότι η καταστροφικότητα βρίσκεται πάνω από το δεξί αυτί, αλλά η αντίληψη ότι οι γνωστικές λειτουργίες μπορούν να εντοπιστούν σε συγκεκριμένα κυκλώματα του εγκεφάλου είναι μια τυπική υπόθεση στο κυρίαρχο ρεύμα της νευροεπιστήμης.

Η φρενολογία είχε επίσης το μερίδιό της στην εμπειρική ανάλυση τον 19ο αιώνα. Οι συζητήσεις μαίνονταν σχετικά με το ποιες λειτουργίες βρίσκονταν πού και αν οι μετρήσεις του κρανίου ήταν ένας αξιόπιστος τρόπος προσδιορισμού του τι συμβαίνει στον εγκέφαλο. Η πιο σημαντική εμπειρική ανάλυση της παλιάς φρενολογίας, ωστόσο, προήλθε από τις μελέτες του Γάλλου ιατρού Ζαν Πιέρ Φλουρένς οι οποίες βασίστηκαν στην καταστροφή του εγκεφάλου κουνελιών και περιστεριών – από τις οποίες συμπέρανε ότι οι νοητικές λειτουργίες διανέμονται, αντί να τοπικοποιούνται. (Αυτά τα αποτελέσματα αργότερα απαξιώθηκαν.) Το γεγονός ότι η φρενολογία απορρίφθηκε για λόγους που οι περισσότεροι σύγχρονοι παρατηρητές δεν θα δέχονταν πλέον, καθιστά πιο δύσκολο να καταλάβουμε τι στοχεύουμε όταν χρησιμοποιούμε τη “φρενολογία” ως προσβολή σήμερα.

Τόσο η “παλιά” όσο και η “νέα” φρενολογία έχουν επικριθεί για τις πρόχειρες μεθόδους τους. Στην πρόσφατη μελέτη τεχνητής νοημοσύνης για την εγκληματικότητα, τα δεδομένα ελήφθησαν από δύο πολύ διαφορετικές πηγές: φωτογραφίες καταδίκων έναντι φωτογραφιών από ιστότοπους εργασίας για μη κατάδικους. Αυτό το γεγονός από μόνο του θα μπορούσε να εξηγήσει την ικανότητα του αλγορίθμου να ανιχνεύει διαφορά μεταξύ των ομάδων. Σε μια νέα εισαγωγή της δημοσίευσης, οι ερευνητές παραδέχτηκαν επίσης ότι η λήψη καταδικαστικών αποφάσεων δικαστηρίων ως συνώνυμων με την εγκληματικότητα ήταν μια “σοβαρή παράβλεψη”. Ωστόσο, η εξίσωση των καταδικαστικών αποφάσεων με την εγκληματικότητα φαίνεται να καταγράφεται στους συγγραφείς κυρίως ως εμπειρικό ελάττωμα: η χρήση φωτογραφιών καταδικασμένων εγκληματιών, αλλά όχι εκείνων που την γλίτωσαν εισάγει μια στατιστική προκατάληψη. Είπαν ότι ήταν “βαθιά μπερδεμένοι” με την οργή του κοινού ως αντίδραση σε ένα έγγραφο που προοριζόταν “για καθαρά ακαδημαϊκές συζητήσεις”.

Συγκεκριμένα, οι ερευνητές δεν σχολίασαν το γεγονός ότι η ίδια η καταδίκη εξαρτάται από τις εντυπώσεις που σχηματίζουν οι αστυνομικοί, οι δικαστές και οι ένορκοι για τον ύποπτο – κάνοντας την “εγκληματική” εμφάνιση ενός ατόμου μια μπερδεμένη μεταβλητή. Παραλείπουν επίσης να αναφέρουν πώς η έντονη αστυνόμευση συγκεκριμένων κοινοτήτων και η ανισότητα πρόσβασης στη νομική εκπροσώπηση παραμορφώνουν το σύνολο δεδομένων. Στην απάντησή τους στην κριτική, οι συγγραφείς δεν υποχωρούν στην υπόθεση ότι “το να είσαι εγκληματίας απαιτεί μια σειρά από ασυνήθιστα (διαφορετικά) προσωπικά χαρακτηριστικά”. Πράγματι, η πλαισίωση τους υποδηλώνει ότι η εγκληματικότητα είναι ένα έμφυτο χαρακτηριστικό, παρά μια απάντηση σε κοινωνικές συνθήκες όπως η φτώχεια ή η κακοποίηση. Μέρος αυτού που κάνει το σύνολο δεδομένων τους αμφισβητήσιμο για εμπειρικούς λόγους είναι ότι όποιος χαρακτηρίζεται ως “εγκληματίας” είναι σχεδόν ουδέτερος.

Μία από τις ισχυρότερες ηθικές αντιρρήσεις για τη χρήση της αναγνώρισης προσώπου για τον εντοπισμό της εγκληματικότητας είναι ότι στιγματίζει τους ανθρώπους που είναι ήδη υπέρ-αστυνομούμενοι. Οι συγγραφείς λένε ότι η μελέτη τους δεν πρέπει να χρησιμοποιείται στην επιβολή του νόμου, αλλά αναφέρουν μόνο στατιστικά επιχειρήματα σχετικά με το γιατί δεν θα έπρεπε να αναπτυχθεί. Σημειώνουν ότι το ποσοστό σφάλματος (50%) μπορεί να είναι πολύ υψηλό, αλλά δεν προσέχουν τι σημαίνει αυτό με ανθρώπινους όρους. Αυτά τα σφάλματα θα ήταν άτομα των οποίων τα πρόσωπα μοιάζουν με ατόμων που έχουν καταδικαστεί στο παρελθόν. Δεδομένων των φυλετικών και άλλων προκαταλήψεων που υπάρχουν στο σύστημα ποινικής δικαιοσύνης, τέτοιοι αλγόριθμοι θα κατέληγαν να υπερεκτιμούν την εγκληματικότητα μεταξύ των περιθωριοποιημένων κοινοτήτων.

Το πιο επίμαχο ερώτημα φαίνεται να είναι αν η επαναδημιουργία της φυσιογνωμίας είναι δίκαιο παιχνίδι για τους σκοπούς της “καθαρής ακαδημαϊκής συζήτησης”. Θα μπορούσε κανείς να αντιταχθεί σε εμπειρική βάση: ευγονιστές του παρελθόντος, όπως ο Γκάλτον και ο Λομπρόζο, τελικά δεν κατάφεραν να βρουν χαρακτηριστικά του προσώπου που προδιαθέτουν ένα άτομο στην εγκληματικότητα. Αυτό συμβαίνει επειδή δεν υπάρχουν τέτοιες συνδέσεις. Ομοίως, οι ψυχολόγοι που μελετούσαν την κληρονομικότητα της νοημοσύνης, όπως ο Σίριλ Μπαρτ και ο Φίλιπ Ράστον, έπρεπε να κινηθούν γρήγορα και γενικά με τα δεδομένα τους για να δημιουργήσουν συσχετίσεις μεταξύ του μεγέθους του κρανίου, της φυλής και του IQ. Αν υπήρχε κάτι να ανακαλυφθεί, πιθανώς οι πολλοί άνθρωποι που έχουν δοκιμάσει όλα αυτά τα χρόνια δεν θα είχαν αποτύχει.

Το πρόβλημα με την αναδημιουργία της φυσιογνωμίας δεν είναι απλώς ότι έχει δοκιμαστεί χωρίς επιτυχία στο παρελθόν. Οι ερευνητές που επιμένουν να αναζητούν ψυχρή σύντηξη μετά την επιστημονική ομοφωνία να αφήσουν το θέμα και να προχωρήσουν, αντιμετωπίζουν επίσης επικρίσεις ότι κυνηγούν έναν ανέφικτο στόχο – αλλά η αποδοκιμασία της ψυχρής σύντηξης υπολείπεται πολύ από το να καταδικαστεί. Στη χειρότερη, θεωρείται ότι χάνουν τον χρόνο τους. Η διαφορά είναι ότι οι πιθανές βλάβες της έρευνας ψυχρής σύντηξης είναι πολύ πιο περιορισμένες. Αντίθετα, ορισμένοι σχολιαστές υποστηρίζουν ότι η αναγνώριση προσώπου θα πρέπει να ρυθμίζεται τόσο αυστηρά όσο το πλουτώνιο, επειδή έχει τόσο λίγες μη επιβλαβείς χρήσεις. Όταν το αδιέξοδο έργο που θέλετε να “αναστήσετε” επινοήθηκε με σκοπό να στηρίξει τις αποικιακές και ταξικές δομές – και όταν το μόνο πράγμα που μπορεί να μετρηθεί είναι ο ρατσισμός που είναι εγγενής σε αυτές τις δομές – είναι δύσκολο να δικαιολογηθεί η προσπάθεια για άλλη μια φορά, απλώς για λόγους περιέργειας.

Ωστόσο, το να αποκαλούμε την έρευνα αναγνώρισης προσώπου “φρενολογία” χωρίς να εξηγούμε τι διακυβεύεται, μάλλον δεν είναι η πιο αποτελεσματική στρατηγική για την επικοινωνία της ισχύος της διαμαρτυρίας. Για να λάβουν σοβαρά υπόψη οι επιστήμονες τις ηθικές τους ευθύνες, πρέπει να γνωρίζουν τις βλάβες που μπορεί να προκύψουν από την έρευνά τους. Η εξήγηση των λεπτομερειών με μεγαλύτερη σαφήνεια του τι δεν πάει καλά με το έργο με την ένδειξη “φρενολογία” θα έχει, ελπίζουμε, μεγαλύτερο αντίκτυπο από το να “πετάγετε” το όνομα απλώς ως προσβολή.