Διαφάνεια στους αλγορίθμους, Broligarchy και η οικονομία της προσοχής

Αν η τεχνολογία ανήκει σε όλους, τότε και οι αλγόριθμοι που διαμορφώνουν την πληροφορία που λαμβάνουμε θα έπρεπε να είναι διαφανείς και προσβάσιμοι. Σήμερα, οι Big Techs διατηρούν αδιαφανείς τους αλγορίθμους τους, ελέγχοντας τον τρόπο με τον οποίο φιλτράρεται, προβάλλεται και διανέμεται η πληροφορία. Αυτό δημιουργεί ένα κλειστό οικοσύστημα, όπου οι αποφάσεις για το τι βλέπουμε, τι προωθείται και τι καταστέλλεται λαμβάνονται από «μαύρα κουτιά», χωρίς ουσιαστική δημόσια λογοδοσία.

Η πρωτοβουλία της DeepSeek να δημοσιοποιήσει τον αλγόριθμό της και να ανοίξει τις διαδικασίες που καθορίζουν την ταξινόμηση της πληροφορίας αποτελεί μια ιστορική κίνηση. Για πρώτη φορά, ένας σημαντικός παίκτης στο AI οικοσύστημα θέτει ένα ανοιχτό πρότυπο διαφάνειας, δημιουργώντας πίεση στις Big Techs να ακολουθήσουν. Το διακύβευμα είναι τεράστιο: εάν η DeepSeek καταφέρει να αποδείξει ότι ένα σύστημα μπορεί να λειτουργήσει αποτελεσματικά και δίκαια χωρίς αλγοριθμική αδιαφάνεια, τότε οι εταιρείες όπως η Google, το Meta και η OpenAI θα βρεθούν στη δύσκολη θέση να εξηγήσουν γιατί εξακολουθούν να κρατούν τις δικές τους τεχνολογίες κλειστές.

Αυτή η κίνηση είναι ένας πραγματικός πόλεμος για τον έλεγχο της πληροφορίας. Οι Big Techs έχουν επενδύσει δισεκατομμύρια στη μυστικότητα των αλγορίθμων τους, προκειμένου να προστατεύσουν τα επιχειρηματικά τους μοντέλα. Από την άλλη, η DeepSeek έρχεται να αλλάξει το αφήγημα, φέρνοντας στο προσκήνιο τη διαφάνεια ως ανταγωνιστικό πλεονέκτημα. Αυτό δημιουργεί πίεση όχι μόνο σε επίπεδο αγοράς αλλά και σε πολιτικό και ρυθμιστικό επίπεδο, όπου ήδη υπάρχουν φωνές που ζητούν τη λογοδοσία των μεγάλων πλατφορμών.

Το ερώτημα, λοιπόν, δεν είναι απλώς ηθικό, αλλά και πολιτικό: θα συνεχίσουμε να δεχόμαστε την αδιαφάνεια ως δεδομένο, ή η τεχνολογία μπορεί να γίνει πραγματικά ένα κοινό αγαθό; Η DeepSeek έκανε την πρώτη κίνηση, και τώρα η μπάλα είναι στο γήπεδο των Big Tech. Αντιμετωπίζουν πλέον ένα υπαρξιακό δίλημμα: ή θα προσαρμοστούν στο νέο πρότυπο διαφάνειας ή θα ρισκάρουν να χάσουν την εμπιστοσύνη των χρηστών και των ρυθμιστικών αρχών.

Η εξέλιξη αυτή αγγίζει και ακόμα ένα καίριο ζήτημα: τους αλγόριθμους των social media. Το Facebook, το Instagram, το TikTok και το X διαμορφώνουν τη δημόσια σφαίρα, φιλτράρουν τι βλέπουμε και επηρεάζουν ακόμα και τις πολιτικές μας απόψεις. Και το κάνουν μέσα από αλγόριθμους που κανείς δεν γνωρίζει πώς λειτουργούν πραγματικά.

Η πληροφορία είναι δύναμη – και χειραγωγείται

Το Facebook έχει παραδεχτεί ότι ο αλγόριθμός του ευνοεί τα διχαστικά και ακραία posts, επειδή αυτά φέρνουν περισσότερη αλληλεπίδραση (The Wall Street Journal, 2021). Παράλληλα, έρευνα του MIT Technology Review έδειξε ότι η παραπληροφόρηση εξαπλώνεται έξι φορές γρηγορότερα από την αλήθεια (Vosoughi, Roy & Aral, 2018).
Στο Twitter, μετά την εξαγορά από τον Elon Musk, φαίνεται ότι ο αλγόριθμος δίνει προτεραιότητα στις αναρτήσεις του ίδιου (Platformer, 2023), επιβεβαιώνοντας πως οι ιδιοκτήτες των social media έχουν προσωπική επιρροή στο τι εμφανίζεται στο feed των χρηστών.

Η λογοκρισία και το shadowbanning γίνονται αόρατα

Οι Big Techs ελέγχουν τι φτάνει στο κοινό χωρίς καμία δημόσια λογοδοσία. Πρόσφατες αποκαλύψεις μέσω των Twitter Files έδειξαν ότι πλατφόρμες όπως το Twitter έχουν εφαρμόσει shadowbanning σε λογαριασμούς δημοσιογράφων και πολιτικών προσώπων, χωρίς να το δηλώνουν δημόσια (The Intercept, 2022).

Οι θεσμοί πρέπει να επιβλέπουν, όχι οι CEOs

Οι αλγόριθμοι που επηρεάζουν δισεκατομμύρια χρήστες ανήκουν σε εταιρείες που λειτουργούν με γνώμονα τα κέρδη τους. Το 2022, η Meta κέρδισε πάνω από 113 δισεκατομμύρια δολάρια από διαφημίσεις βασισμένες στην εκμετάλλευση των δεδομένων των χρηστών της (Meta Q4 Report, 2023). Αυτή η οικονομική εξάρτηση από την προσοχή των χρηστών δημιουργεί αντικρουόμενα συμφέροντα που πρέπει να τεθούν υπό θεσμικό έλεγχο.

Τι πρέπει να γίνει;

1. Να υποχρεωθούν οι Big Techs να ανοίξουν τους αλγόριθμους τους

Το DeepSeek έδειξε ότι η τεχνολογία μπορεί να είναι ανοικτή και προσβάσιμη. Το ίδιο πρέπει να ισχύει για τις πλατφόρμες κοινωνικής δικτύωσης. Οι αλγόριθμοι δεν πρέπει να είναι κλειστά “μαύρα κουτιά”, αλλά διαθέσιμοι στο κοινό και υπό έλεγχο.

2. Δημιουργία θεσμικού φορέα ελέγχου αλγορίθμων

Στα πρότυπα του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR), είναι μονόδρομος να συσταθεί ανεξάρτητη διεθνής αρχή που να αξιολογεί τις αλλαγές των αλγορίθμων και να αποτρέπει μονοπωλιακές ή πολιτικά επικίνδυνες πρακτικές.

Το τοξικό Status Quo και η οικονομία της προσοχής

Η οικονομία της προσοχής έχει μετατρέψει την ανθρώπινη προσοχή σε ένα από τα πιο πολύτιμα αγαθά, ισάξιο με τα χρήματα ή τους φυσικούς πόρους. Κάθε κλικ, κάθε scroll και κάθε like δεν είναι απλώς μια ενέργεια – είναι μια συναλλαγή με το πολυτιμότερο νόμισμα: τον χρόνο και την εστίασή μας. Οι εταιρείες τεχνολογίας αξιοποιούν αυτή την προσοχή για να αυξήσουν την αξία τους, μετατρέποντας την σε διαφημιστικά έσοδα που ξεπερνούν τα 850 δισεκατομμύρια δολάρια ετησίως.
«Η συγκέντρωση της προσοχής είναι η συγκέντρωση ενός είδους μόνιμου πλούτου, μιας μορφής πλούτου που σας φέρνει σε μια προνομιακή θέση για να αποκτήσετε οτιδήποτε προσφέρει αυτή η νέα οικονομία» (Michael Goldhaber)

Στην πράξη, η οικονομία της προσοχής καθορίζει την καθημερινότητα μας: από το πώς ξοδεύουμε τον χρόνο μας μέχρι το ποιες πληροφορίες λαμβάνουμε και πώς διαμορφώνουμε τις αντιλήψεις μας. Αντί να έχουμε τον έλεγχο των επιλογών μας, οι αλγόριθμοι των Big Techs χειραγωγούν την προσοχή μας, ενισχύοντας την παραπληροφόρηση, την πολωμένη σκέψη και τη συναισθηματική εξάρτηση από τις πλατφόρμες σε ένα μόνιμα τοξικό περιβάλλον.

Παρότι το μοντέλο αυτό μπορεί να παράγει προσωποποιημένες εμπειρίες και να ευθυγραμμίζεται με τις καταναλωτικές μας επιθυμίες, υποκρύπτει μια μορφή εκμετάλλευσης. Οι Big Techs δεν λειτουργούν προς όφελος των χρηστών, αλλά με σκοπό τη μεγιστοποίηση των κερδών τους, ρυθμίζοντας την πληροφορία με τρόπους που εξυπηρετούν τα επιχειρηματικά ή πολιτικά τους συμφέροντα.

Το πραγματικό πρόβλημα είναι ότι οι αλγόριθμοι που ελέγχουν την προσοχή μας είναι αδιαφανείς και μη προσβάσιμοι. Για να αποτραπεί η χειραγώγηση και να επανακτήσουμε τον έλεγχο της πληροφορίας, πρέπει να απαιτήσουμε διαφάνεια. Οι αλγόριθμοι των social media και των πλατφορμών τεχνητής νοημοσύνης πρέπει να ανοίξουν στο κοινό και να υπόκεινται σε έλεγχο από θεσμικούς φορείς.

Η ΕΕ ως ρυθμιστής

Η Ευρωπαϊκή Ένωση ήδη προχωρά σε ρυθμίσεις μέσω του Digital Services Act (DSA) και του AI Act και μένει να φανεί στην πράξη η αποτελεσματικότητα τους.

Για να υπάρξει ουσιαστική αλλαγή, χρειάζεται υποχρεωτική διαφάνεια στους αλγόριθμους social media, να θεσπιστούν αυστηρότεροι κανονισμοί για τις πλατφόρμες που ελέγχουν την πληροφορία, αλλά και μηχανισμοί που επιτρέπουν στους πολίτες να αμφισβητούν αλγοριθμικές αποφάσεις.

Αν οι Big Techs θέλουν να διαμορφώνουν τη δημόσια σφαίρα, τότε πρέπει να δώσουν λόγο στο κοινό και αφού οι Broligarchs, διατυμπανίζουν ότι θέλουν την ελευθερία του λόγου και είναι κατά της λογοκρισίας, δεν θα έχουν πρόβλημα να διαθέσουν ελεύθερα τους αλγορίθμους τους. Τι όχι;