Η τεχνητή νοημοσύνη πάει στον πόλεμο

Στο γενικό ηθικό ερώτημα σχετικά με την τεχνητή νοημοσύνη ως τώρα οι απαντήσεις συνήθως διχάζονται. Οι ωφέλειες που απορρέουν για τον άνθρωπο ή τη φύση από τη χρήση της μπορεί να είναι τεράστιες σε βαθμό υπαρξιακό ή σωτήριο, αλλά αντίστοιχα τεράστιοι μπορεί να είναι και οι κίνδυνοι.

Στην περίπτωση των πολέμων τα ζητήματα που τίθενται από τους εμπόλεμους δεν είναι ηθικά αλλά στρατιωτικά: Θα τους βοηθήσει η τεχνητή νοημοσύνη να νικήσουν τον κακό εχθρό; Αντίθετα, τότε το ηθικό ερώτημα (πχ θα είναι συνολικά λιγότερα ή περισσότερα τα θύματα και οι καταστροφές;) αφήνεται στην άκρη. Ο ανταγωνισμός των εμπολέμων δεν σηκώνει διχασμένες απαντήσεις, είναι σε κάθε περίπτωση μονόδρομα καταστροφικός για τη φύση και τον άνθρωπο. Όπως άλλωστε καταστροφικός είναι ο ανταγωνισμός -ύψιστη νεοφιλελεύθερη κερδοφόρα αξία- που οδηγεί σε αδυναμία αναχαίτισης των κινδύνων του γήινου περιβάλλοντος. Είναι καιρός όμως η παγκόσμια κοινότητα να θέσει το ηθικό ζήτημα και να επιβάλλει θεσμικά όρια στους ανταγωνισμούς.

Αυτή τη στιγμή βρίσκονται σε εξέλιξη δυο κεντρικής σημασίας και δραματικές πολύνεκρες ένοπλες συγκρούσεις, στην Ουκρανία και στην Παλαιστίνη. Παρά το γεωγραφικό τους εντοπισμό, οι ανακλαστικές συνέπειές τους είναι ευρύτερες και μπορούν να μπλέξουν και άλλες περιοχές και πληθυσμούς της γης. Η τεχνητή νοημοσύνη είναι ικανή είτε να πολλαπλασιάσει τους κινδύνους.

Η εικόνα σήμερα έχει ως εξής: Η Ουκρανία εξαρχής φάνηκε να αποτελεί πεδίο επιχειρήσεων αλλά και δοκιμής νέων «έξυπνων» όπλων. Στα ιπτάμενα drones προστέθηκαν σχεδόν νομοτελειακά τα επίγεια όπλα, καθώς και τα πλωτά, επιφανείας ή υποβρύχια. Κάποια από αυτά, «υπάκουα», έχουν απολύτως προκαθορισμένο στόχο και δράση, άλλα πάλι – ακόμη πιο επικίνδυνα – μπορούν να κάνουν και σχετικές επιλογές, έστω εντός προκαθορισμένου πλαισίου. Οι ειδικοί έσπευσαν να τα βαφτίσουν με το οξύμωρο αγγλικό αρκτικόλεξο LAWS: Lethal Autonomous Weapon Systems, δηλαδή «θανάσιμα αυτόνομα οπλικά συστήματα»*. Τα συνηθίζουν τα οξύμωρα εσχάτως οι αγγλόφωνοι: Το αρκτικόλεξο παραπέμπει αντιφατικά στους νόμους και στις θανατηφόρες καταστροφές. Όσο για τα δεδομένα που μαζικά συλλέγουν αμφότεροι οι αντίπαλοι για χάρη των επιχειρήσεών τους, χωρίς άλλο θα παραμείνουν και μετά τον πόλεμο, δια πάσαν χρήσιν.

Στη Γάζα η χρήση εργαλείων τεχνητής νοημοσύνης είναι φανερό ότι αφορά τόσο τα επιθετικά όσο και τα αμυντικά οπλικά συστήματα, τουλάχιστον από την πλευρά του τεχνολογικά προηγμένου Ισραήλ. Σε μεγάλη έκταση όμως πλέον απασχολούν και άλλα ψηφιακά εργαλεία: Στα ήδη γνωστά χακαρίσματα, στις παραδοσιακές παραποιημένες ειδήσεις και στις κυβερνοεπιθέσεις έχουν προστεθεί πλέον πιο προηγμένα προϊόντα, «έξυπνα» ή μάλλον ύπουλα: Τα deep fakes, εικόνες ή βίντεο με φτιαχτό, αληθοφανές πλην ψευδές περιεχόμενο σχετικό στη συγκεκριμένη περίπτωση με συρράξεις και αγριότητες. Αυτά κυκλοφορούν σε παγκόσμια δίκτυα και με εκατομμύρια θεατές. Αποκεφάλισαν όντως παιδιά οι της Χαμάς, όπως φάνηκε σε φωτογραφίες που κυκλοφόρησαν ευρύτατα αλλά διαψεύστηκαν αργότερα; Προκύπτει κάτι ασφαλές από τα βίντεο για το θανατηφόρο πλήγμα στο νοσοκομείο της Γάζας;

Η διάγνωση των πραγματικών δεδομένων και γεγονότων συνήθως έχει καίριες συνέπειες. Μπορεί να πυροδοτήσει αντιδράσεις αγανάκτησης, να επηρεάσει πολιτικές και διπλωματικές κινήσεις, να κινητοποιήσει ή να αποτρέψει διερευνήσεις ευθυνών ή λογοδοσίες. Η επικοινωνία περνά από την εμπιστοσύνη στη δυσπιστία στο λεπτό. Όμως η παγκόσμια κοινότητα χωρίς εμπιστοσύνη δεν θα κατορθώσει να έχει καμιά συνοχή.

Η δημιουργία θεσμικών εργαλείων για τη ρύθμιση πραγματικών προβλημάτων είναι φυσικό να είναι δευτερογενής και να καθυστερεί. Ωστόσο στις συγκεκριμένες περιπτώσεις η ρυθμιστική παρέμβαση υπό την αιγίδα του ΟΗΕ επείγει. Στην εποχή της επιτάχυνσης, είναι αναγκαία και η χρονική προσαρμογή της θέσμισης. Θα σκεφτεί κανείς, τί μπορεί να προσφέρει δα ένας θεσμός σε έργα καταστολής και πρόληψης απέναντι σε φανατικούς; Μα, δεν είναι όλοι φανατικοί, υπάρχουν και ειρηνόφιλοι ή έστω σκεπτόμενοι δύσπιστα, η στάση τους μπορεί να βαραίνει.** Έστω και κάτι ελάχιστο να προσφερθεί, μπορεί να είναι ζωτικό για την αντιμετώπιση των απειλών και των πληγμάτων κατά των αμάχων.

ΣΗΜΕΙΩΣΕΙΣ

*Βλ. Στο διαδίκτυο Neil Davison, A legal perspective: Autonomous weapon systems under international humanitarian law.

** Διακρίνει τις τρεις κατηγορίες ο Jeffrey D. Sachs (16 October 2023), Saving Israel and Palestine through the United Nations, https://www.other-news.info/saving-israel-and-palestine-through-the-united-nations/

Ο Νίκος Παρασκευόπουλος είναι ομότιμος καθηγητής του ΑΠΘ και πρώην υπουργός Δικαιοσύνης.