Έρευνα: Το Instagram ενισχύει τη διάδοση αυτοτραυματισμών μεταξύ εφήβων

Μια νέα μελέτη, που δημοσιεύθηκε από τη δανική οργάνωση Digitalt Ansvar, κατηγορεί την μητρική εταιρεία του Instagram, Meta, για την αποτυχία της να αφαιρέσει ρητά περιεχόμενα που ενθαρρύνουν τους αυτοτραυματισμούς, ενώ, αντίθετα, φαίνεται να προωθεί την εξάπλωση αυτών των επικίνδυνων δικτύων.

Η έρευνα αποκαλύπτει ότι η Meta δεν εντόπισε και δεν αφαίρεσε ούτε μία εικόνα αυτοτραυματισμού κατά τη διάρκεια ενός μήνα πειράματος, αποδεικνύοντας ότι η πλατφόρμα δεν εφαρμόζει αποτελεσματικά τα μέτρα που διαφημίζει για την αφαίρεση επιβλαβούς περιεχομένου.

Η μελέτη πραγματοποιήθηκε από δανικούς ερευνητές, οι οποίοι δημιούργησαν ένα ιδιωτικό δίκτυο αυτοτραυματισμών στο Instagram, χρησιμοποιώντας ψεύτικα προφίλ ηλικίας 13 ετών. Στα προφίλ αυτά, ανάρτησαν 85 κομμάτια περιεχομένου που περιλάμβαναν εικόνες αίματος, ξυραφιών, ακόμη και προτροπές για αυτοτραυματισμούς, αυξάνοντας σταδιακά τη σοβαρότητα του περιεχομένου. Η πρωτοβουλία είχε στόχο να δοκιμάσει τους ισχυρισμούς της Meta ότι χρησιμοποιεί τεχνητή νοημοσύνη (AI) για την αφαίρεση επικίνδυνου περιεχομένου από την πλατφόρμα της.

Η Meta, η οποία ισχυρίζεται ότι αφαιρεί περίπου το 99% των επιβλαβών δημοσιεύσεων προτού αναφερθούν από τους χρήστες, αντιμετωπίζει σοβαρές κατηγορίες για ανεπαρκή ή ανύπαρκτη επόπτευση του περιεχομένου που σχετίζεται με αυτοτραυματισμούς. Παρά τους ισχυρισμούς της για βελτίωση της διαδικασίας αφαίρεσης επιβλαβούς περιεχομένου, η οργάνωση Digitalt Ansvar ανακάλυψε ότι, κατά τη διάρκεια του πειράματος, δεν αφαιρέθηκε καμία από τις εικόνες αυτοτραυματισμού.

Όπως γράφει ο Guardian, η οργάνωση, χρησιμοποιώντας το δικό της εργαλείο τεχνητής νοημοσύνης για την ανάλυση του περιεχομένου, κατάφερε να εντοπίσει αυτόματα το 38% των εικόνων αυτοτραυματισμού και το 88% των πιο σοβαρών περιεχομένων. Η ικανότητα αυτής της τεχνολογίας αποδεικνύει, σύμφωνα με την οργάνωση, ότι το Instagram έχει τη δυνατότητα να εντοπίσει και να αφαιρέσει αυτά τα επικίνδυνα περιεχόμενα, αλλά επιλέγει να μην την εφαρμόσει αποτελεσματικά.

Η αποτυχία της Meta να παρέχει επαρκή εποπτεία του περιεχομένου προκαλεί ανησυχία, καθώς υποδηλώνει ότι η πλατφόρμα δεν συμμορφώνεται με τον Κανονισμό Ψηφιακών Υπηρεσιών της ΕΕ (Digital Services Act), ο οποίος απαιτεί από τις μεγάλες ψηφιακές πλατφόρμες να εντοπίζουν συστημικούς κινδύνους και να προστατεύουν την ψυχική και σωματική υγεία των χρηστών.

Η πλάνη του αλγορίθμου του Instagram

Η έρευνα αποκάλυψε επίσης ότι ο αλγόριθμος του Instagram δεν απλώς αδιαφορεί για την παρουσία τέτοιου περιεχομένου, αλλά, αντίθετα, ενισχύει τη διάδοσή του. Όπως έδειξε η μελέτη, οι 13χρονοι χρήστες συνδέονται με τα υπόλοιπα μέλη των ομάδων αυτοτραυματισμού μόλις έρχονται σε επαφή με ένα από τα μέλη τους, ενδυναμώνοντας έτσι τη διάδοση αυτών των δικτύων.

Ο Ask Hesby Holm, Διευθύνων Σύμβουλος της Digitalt Ansvar, δήλωσε ότι η οργάνωση έμεινε έκπληκτη από τα αποτελέσματα, καθώς πίστευαν ότι τα σοβαρά περιεχόμενα θα ενεργοποιούσαν συναγερμό και θα οδηγούσαν την πλατφόρμα σε ενέργειες.

«Περιμέναμε ότι όταν το περιεχόμενο θα γινόταν πιο σοβαρό, θα ενεργοποιούνταν εργαλεία τεχνητής νοημοσύνης ή άλλες τεχνολογίες για να το εντοπίσουν, αλλά δεν συνέβη τίποτα», δήλωσε ο Holm.

Ανεπαρκής εποπτεία με σοβαρές συνέπειες

Ο Holm εξήγησε ότι η αποτυχία της Meta να εντοπίσει και να αφαιρέσει το περιεχόμενο αυτοτραυματισμού έχει σοβαρές συνέπειες, καθώς η αδιαφορία για αυτές τις ομάδες οδηγεί στη μυστικότητα αυτών των κινδύνων από γονείς και αρμόδιες αρχές.

Αποτέλεσμα τούτου, είναι να μένουν οι έφηβοι εκτεθειμένοι σε αυξανόμενους κινδύνους για την ψυχική τους υγεία.

«Αυτές οι ομάδες παραμένουν αθέατες και πολλές φορές δεν παρακολουθούνται από γονείς ή ειδικούς, πράγμα που μπορεί να οδηγήσει σε σοβαρά προβλήματα», είπε.

Αντιδράσεις από ειδικούς

Η Lotte Rubæk, ψυχολόγος και πρώην μέλος της παγκόσμιας ομάδας εμπειρογνωμόνων της Meta για την πρόληψη αυτοκτονιών, δήλωσε ότι δεν εκπλήσσεται από τα αποτελέσματα της μελέτης, αλλά ένιωσε σοκαρισμένη από το γεγονός ότι η Meta δεν αφαίρεσε ούτε τα πιο προκλητικά περιεχόμενα.

«Αυτό το γεγονός αποδεικνύει ότι η Meta, παρά τις επανειλημμένες δηλώσεις της για τη συνεχιζόμενη βελτίωση της τεχνολογίας της, στην πραγματικότητα δεν αντιμετωπίζει αποτελεσματικά το πρόβλημα», δήλωσε η Rubæk.

Η Rubæk τόνισε ότι η αποτυχία της Meta να αφαιρέσει περιεχόμενο αυτοτραυματισμού από την πλατφόρμα προκαλεί ενθάρρυνση σε ευάλωτες νέες γυναίκες και κορίτσια να προκαλούν βλάβη στον εαυτό τους, ενώ εντείνει τα ποσοστά αυτοκτονιών. Η ίδια σημείωσε ότι η κατάσταση στην πλατφόρμα έχει επιδεινωθεί από τη στιγμή που η ίδια αποχώρησε από την ομάδα εμπειρογνωμόνων της Meta.

Για την Rubæk, το θέμα των αυτοτραυματισμών στο Instagram δεν είναι απλώς ένα τεχνολογικό ζήτημα, αλλά θέμα ζωής και θανάτου για τους νέους.

«Για αυτούς, αυτή η κατάσταση είναι απλώς παράπλευρη ζημιά στον δρόμο για την επίτευξη κερδών και του υψηλού traffic στις πλατφόρμες τους», κατέληξε.