ΝΙΚΟΣ ΠΑΡΑΣΚΕΥΟΠΟΥΛΟΣ: Η ΕΠΙΕΙΚΕΙΑ ΕΙΝΑΙ ΕΝΑ ΑΡΙΣΤΟΥΡΓΗΜΑ ΤΗΣ ΑΡΧΑΙΟΕΛΛΗΝΙΚΗΣ ΣΚΕΨΗΣ

Στο νέο του βιβλίο ο Νίκος Παρασκευόπουλος θέτει ένα βασικό ερώτημα: αντέχει η επιείκια στη δικαιοσύνη απέναντι στην πιθανή επίθεση της Τεχνητής Νοημοσύνης; Για να φτάσει όμως μέχρι εκεί, μας πάει πρώτα μία βόλτα από την αρχαία Ελλάδα και τον Αριστοτέλη, τον “πατέρα” της επιείκιας στη δικαιοσύνη, μας εξηγεί τις βασικές διακρίσεις μορφών της τεχνητής νοημοσύνης, τις δυνατότητές της, τα οφέλη και τους κινδύνους της.

Και όλα αυτά με έναν απλό -αλλά όχι απλοϊκό τρόπο- και κυρίως κατανοητό, ακόμη και για ανθρώπους που δεν έχουν καμία σχέση με τη νομική επιστήμη.

Μιλήσαμε με τον ομότιμο καθηγητή της Νομικής Σχολής του Αριστοτελείου Πανεπιστημίου Θεσσαλονίκης και του θέσαμε μία σειρά από ερωτήματα που μας γέννησε η ανάγνωση του βιβλίου του, “Ο επιεικής αλγόριθμος”.

Η ιδέα που σας κινητοποίησε για να γράψετε αυτό το βιβλίο ποια ήταν; Ή ποια ανησυχία;
Η ανησυχία που με κινητοποίησε ήταν η αδικία που συχνά προκύπτει όταν ο νόμος είναι άκαμπτος. Η πασίγνωστη αίσθηση ενός ανθρώπου που ενώ οι χειροπιαστές περιστάσεις δείχνουν ότι έχει δίκιο, ο κριτής ή ο διοικητικός υπάλληλος απέναντί του του λέει «τί να σου κάνω άνθρωπέ μου, καταλαβαίνω δίκιο σου αλλά ο νόμος είναι νόμος και λέει άλλα».

Κάποτε είχα βρει το αυτοκίνητό μου στη θέση που ήταν παρκαρισμένο χωρίς τη μια πινακίδα κυκλοφορίας. Πήγα να το δηλώσω στην Αστυνομία και με ρώτησαν αν πρόκειται για κλοπή ή απώλεια. Απάντησα «δεν ξέρω, έτσι το βρήκα το πρωί». Ο αστυνομικός μου έλεγε ότι η απάντηση δεν είναι δεκτή, γιατί προβλέπονται μόνο δυο έντυπα, ή κλοπής ή απώλειας, χωρίς τρίτη επιλογή. Του εξήγησα ότι πιέζοντάς με να πω το ένα ή το άλλο μπορεί να γίνει ηθικός αυτουργός ψευδορκίας.

Ανάλογο θέμα προκύπτει με το πρόγραμμα του υπολογιστή. Μπορεί στη φυσιογνωμία σου να βλέπει έναν επικίνδυνο τύπο, ή κάποιον αναξιόχρεο, ενώ το βιογραφικό και η πραγματικότητα δείχνουν πως είσαι ο πιο φιλήσυχος του κόσμου και πως εξοφλείς τα χρέη σου. Νάτην πάλι η αδικία!

Προσθέτω και κάτι πιο προσωπικό: Συνειδητοποίησα αναδρομικά ότι στη ζωή μου ήμουν πάντοτε αντίπαλος του πανίσχυρου, του ξερόλα δασκάλου ή συμμαθητή, του νταή που χτυπά το χέρι στο τραπέζι και λέει «αυτό είναι πάει τελείωσε», της απόλυτα σωστής άποψης. Επόμενο να δυσκολεύομαι με τη διχοτομική σκέψη του υπολογιστή, που σε κάθε κλικ ζητά να ισχύει το 0 ή το 1, ενώ υπάρχουν σημαντικές ενδιάμεσες μικροαποκλίσεις που δεν έχουν εισαχθεί στο σύστημα. Αναζητώ και τώρα με το βιβλίο μου την επιείκεια, αν αυτή είναι συμβατή με τον αλγοριθμικό λογισμό.

Ως επιείκεια στη δικαιοσύνη, τι εννοεί ο Αριστοτέλης; Και πώς αυτή συνδέεται σήμερα με την τεχνητή νοημοσύνη;
Ο Αριστοτέλης ως επιείκεια εννοούσε το αντίθετο από αυτό που συνήθως καταλαβαίνει ένας νεοέλληνας πολίτης ή ακόμη και ένας δικαστής χωρίς κλασική παιδεία.

Σήμερα οι περισσότεροι θεωρούν σαν επιεική μια αντιμετώπιση χαριστική, ή δυσανάλογα ελαφριά ή προνομιακή. Δηλαδή βλέπουν την επιείκεια ως απόκλιση από το δίκαιο. Ο Αριστοτέλης την έβλεπε ως είδος του δικαίου και μάλιστα ως κορύφωσή του, «βέλτιον δίκαιον» στην αρχαιοελληνική γλώσσα. Παρατηρούσε ότι ο νομοθέτης δημιουργώντας τον νόμο κάνει μια γενίκευση, πλάθει ένα «πρέπει», με βάση όσα γνωρίζει. Όμως συχνά συμβαίνει να αγνοεί κάποιες καταστάσεις ιδιόμορφες, ή άγνωστες ή ανύπαρκτες στο χρόνο της νομοπαρασκευής. Σε αυτές τις περιπτώσεις ο Σταγειρίτης δίδασκε πως ο δικαστής ενώπιον ιδιόμορφων περιστάσεων πρέπει να κρίνει όπως θα έκρινε και ο νομοθέτης, αν τις γνώριζε.

Η επιείκεια είναι ένα αριστούργημα της δημοκρατικής αρχαιοελληνικής σκέψης. Ανταγωνίζεται μέσα στους αιώνες την άκαμπτη αυστηρότητα. Οι τυπολάτρες Λατίνοι ασπάζονταν την αρχή dura lex sed lex, «σκληρός νόμος αλλά νόμος». Είχαν όμως επηρεαστεί και από τις αρχαιοελληνικές αντιλήψεις για την επιείκεια, έτσι αργότερα διαμορφώθηκε η ανταγωνιστική ρήση summum jus summa injuria, «απόλυτο δίκαιο απόλυτη αδικία».

Τώρα ανάλογο ζήτημα προκύπτει με την τεχνητή νοημοσύνη, και μάλιστα όχι μόνο στο πεδίο της δικαιοσύνης αλλά σε κάθε σκέψη και απόφαση: Αντίστοιχο στη θέση του νόμου είναι το μοντέλο (pattern) της τεχνητής νοημοσύνης, το οποίο βοηθά την παραγωγή νοήματος και στη συνέχεια την κατανόηση και μάθηση νέων γνώσεων. Όπως ο νόμος έτσι και το μοντέλο αποτελεί προϊόν γενίκευσης, μαζί μάλιστα με άλλα δεδομένα έχει «αλέσει» προκαταλήψεις, λάθη, fake news. Θα πρέπει να υπάρχουν ανθρώπινα διορθωτικά -ανάλογα με την επιείκεια- εργαλεία που να διορθώνουν τα προϊόντα της τεχνητής νοημοσύνης όταν αυτά προσκρούουν εμπειρικά στο φυσικό και στο κοινωνικό περιβάλλον.

“Για κάποιους ο δρόμος προς την κόλαση είναι στρωμένος με αλγόριθμους καλών προθέσεων”. Βρήκα πολύ ενδιαφέρουσα αυτήν την πρότασή σας. 
Καταρχήν η τεχνητή νοημοσύνη είναι εξαιρετικά ωφέλιμη. Αρκεί να αναλογιστούμε ως παράδειγμα την πρόοδο της ιατρικής και της φαρμακολογίας. Επίσης επιτρέπει πολύπλοκες εκτιμήσεις, πχ για την εξέλιξη του κλίματος της γης, που μπορεί να αποβούν ζωτικές για την ανθρωπότητα. Επομένως η ανάπτυξή της θα συνεχιστεί, με καλές προθέσεις, και γι΄αυτό πρέπει να προσεχθούν επίσης οι εξίσου ζωτικοί κίνδυνοι που συνδέονται με τη λειτουργία της.

Στους κινδύνους κρύβεται η «κόλαση»: Σκεφθείτε τα αυτόματα οπλικά συστήματα, που προγραμματίζονται να σκοτώνουν.

Φανταστείτε επίσης, ότι κάποιος μπορεί να φορτωθεί με ένα προφίλ, προϊόν αλγοριθμικής επεξεργασίας, το οποίο θα τον εμποδίζει στις συναλλαγές του ή θα τον χαρακτηρίζει μη επιλέξιμο σε ένα διαγωνισμό, ή θα τον «θάβει» επικοινωνιακά, εξαιτίας στοιχείων που είχαν συλλεγεί επειδή πρόσκαιρα πήρε κάποια ψυχοφάρμακα ή αυτά συλλέχθηκαν κατά την εκπαίδευσή του (ήταν αντιρρησίας) ή κατά το σερφάρισμά του. Ένα προφίλ, ως καρπός στατιστικής πρόβλεψης, εξ ορισμού κάπου θα έχει τις αστοχίες του. Θα αποτελούν την παράπλευρη ζημία, παρά τις αγαθές προθέσεις του προγραμματισμού.

Τί είναι η υπερνοημοσύνη που αναφέρετε και τί κινδύνους εγκυμονεί;
Η υπερνοημοσύνη προς το παρόν δεν υπάρχει. Αρχικά εμφανίστηκε ως πλάσμα της επιστημονικής φαντασίας, στη συνέχεια ως τεκμηριωμένη θεωρητική σύλληψη (ανεπτυγμένη στο ομώνυμο βιβλίο του Σουηδού Nick Bostrom) ενός ενδεχομένου: Να κατασκευαστούν μηχανές εξυπνότερες από τον άνθρωπο. Αφορά την περίπτωση όπου ένα ρομπότ υπερβαίνοντας την ανθρώπινη ευφυία θα μπορεί πλέον να αποκρούει ή να διαστρέφει ανθρώπινες εντολές, να αναπαράγεται μόνο του, να καταστρέφει κλπ.

Αν συμβεί αυτό μεταξύ άλλων θα μπορεί να υποδουλώσει τον άνθρωπο, αφήνοντάς τον χωρίς καμιά ελευθερία ή ευθύνη, ή στο χειρότερο σενάριο να τον εξαφανίσει.

Η τεχνολογική πρόοδος, ιδιαίτερα η παραγωγική τεχνολογία, αν αφεθεί ανεξέλεγκτη φαίνεται πως μπορεί να φθάσει στην υπερνοημοσύνη. Γι΄αυτό πρέπει έγκαιρα να τεθούν όρια, πρακτικά και θεσμικά. Κατά τη γνώμη πολλών, η υπερθέρμανση της ατμόσφαιρας αλλά και η κατασκευή της υπερνοημοσύνης αποτελούν τους δυο μεγάλους κινδύνους για την επιβίωση της γης.

“Το πρόβλημα της αναγνώρισης νομικής προσωπικότητας στα ρομπότ”. Πότε άρχισε αυτή η συζήτηση; Και τι σημαίνει πρακτικά;
Αναγνώριση νομικής προσωπικότητας σημαίνει ότι ένα ρομπότ ή ένας λογαριασμός (bot) θα μπορεί να αναγνωρίζεται ως υποκείμενο με δικαιώματα και ευθύνες. Η συζήτηση άρχισε ως παραδοξολογία, αλλά ήδη εμφανίστηκαν κάποιες μεμονωμένες ακραίες περιπτώσεις (αναγνώρισή νομικής προσωπικότητας στο ρομπότ Σοφία από τη Σαουδική Αραβία).

Κατά τη γνώμη μου αυτά τα βήματα είναι σε λάθος κατεύθυνση, αφού τα μηχανήματα ακόμη δεν έχουν αυτοπροσδιορισμό, αισθήσεις ή ενσυναίσθηση και είναι καλύτερο να μην αποκτήσουν.

Γενικά στο βιβλίο σας συναντούμε πολλούς όρους με τους οποίους δεν είμαστε εξοικειωμένοι, μη σας πω τους ακούμε για πρώτη φορά. Αυτό δείχνει πόσο γρήγορα εξελίσσονται τα πράγματα κάτω απ’ τα ραντάρ μας;
Σωστά. Όποιος πρώτος ανακαλύπτει κάποιο πράγμα είναι λογικό και να το ονοματίζει πρώτος. Οι σχετικές ανακαλύψεις γίνονται σωρηδόν σε αγγλόφωνα εργαστήρια, επομένως πλείστοι νέοι όροι είναι στα αγγλικά. Προς το παρόν υπάρχει μια μεταφραστική αμηχανία: Πώς θα μεταφραστούν τα pattern, generative, subliminal;

Στο βιβλίο προσπαθώ να τους εξηγώ στα ελληνικά και χαίρομαι που ανάμεσά στις αγγλικές λέξεις επανεμφανίζονται κάποιες αρχαιοελληνικές.

Θα μπορούσε μια μέρα να βγάζει η τεχνητή νοημοσύνη δικαστικές αποφάσεις μέσα σε πολύ σύντομο χρονικό διάστημα; Κι αν ναι, θα ήταν αποδεκτό κάτι τέτοιο;
Ως ένα βαθμό ναι. Η ηλεκτρονική καταγραφή των πρακτικών (με τροπή της φωνής σε γραφή) και η κυκλοφορία στερεότυπων διαδικαστικών εγγράφων μπορεί να επιταχύνει την αργή σήμερα λειτουργία της δικαιοσύνης. Όμως η ουσιαστική κρίση επιβάλλεται να παραμείνει ανθρώπινο έργο.

Τα επιχειρήματα στο βιβλίο είναι αρκετά, εδώ αρκούμαι σε ένα: Ποιος θα αποδεχόταν να μπει στη φυλακή ή να μείνει ελεύθερος ένας κρινόμενος, επειδή αυτό προέκυψε αυτόματα και αναιτιολόγητα από μια μηχανή; Η αιτιολόγηση της δικαστικής κρίσης αποτελεί (ευτυχώς) κατοχυρωμένη σε ανώτατους θεσμικούς χάρτες εγγύηση. Ίσως -ως ένα βαθμό- θα μπορούσε να προγραμματιστεί ή εμφάνιση και αναδρομική έκθεση μιας αιτιολογίας, όμως τότε το προσόν της ταχύτητας θα χανόταν.

Η ταχύτητα στη δικαιοσύνη συνήθως είναι αντίστροφη προς την ποιότητα. Καταλήγουμε λοιπόν αρνητικά.