REDDIT: ΠΟΣΟ ΠΙΘΑΝΟ ΕΙΝΑΙ ΝΑ ΥΠΑΡΧΕΙ ΠΟΡΝΟ ΜΕ ΤΟ ΣΩΜΑ ΣΟΥ ΧΩΡΙΣ ΝΑ ΤΟ ΞΕΡΕΙΣ

Δεν πάει καιρός από όταν γράφαμε για την έκρηξη της εκδικητικής πορνογραφίας στο διαδίκτυο, με εκατοντάδες καταγγελίες να ανακύπτουν μετά από κυκλοφορία φωτογραφιών σε μέσα δικτύωσης όπως το Telegram. Μία από τις μορφές sextortion είναι τα deepfakes, ή αλλιώς οι φωτογραφίες που έχουν παραποιηθεί με χρήση AI και παρουσιάζονται ως πορνογραφικές. Την ώρα που η τεχνολογία περνάει σε νέα εποχή, εμφανίζονται νέα νομικά ζητήματα που ακόμη δεν έχουν ρυθμιστεί ούτε σε επίπεδο Ευρωπαϊκής Ένωσης, ούτε σε “τοπικό” επίπεδο των κρατών-μελών.

Παράλληλα, η πορνογραφία δείχνει να επηρεάζεται και αυτή από το AI και την τεχνητή νοημοσύνη. Δεν ξέρουμε αν μπορούμε να μιλάμε για “τέλος εποχής” για το πορνό όπως το γνωρίζαμε, ούτε το πώς μπορεί να επιδράσει το νέο AI Porn πάνω στον ενδιαφερόμενο, ξέρουμε πάντως σε κάθε περίπτωση πως βρισκόμαστε μπροστά σε μια νέα εποχή.

Εδώ και καιρό το Reddit έχει γίνει και αυτό μια νέα “αποθήκη” πορνογραφίας, καθώς η πλατφόρμα επιτρέπει την ανάρτηση εικόνων, αρκεί το πλαίσιο – περιβάλλον να είναι συναινετικό. Το τελευταίο διάστημα όμως, παρατηρείται μια “καταιγίδα” πληροφορίας πορνογραφικής υφής, με βίντεο και εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη, με 57 εκατομμύρια ενεργούς χρήστες να έχουν πρόσβαση σε αυτή. Αν και αυτές οι εικόνες μπορεί να είναι ψεύτικες, τα μοντέλα που χρησιμοποιούνται για τη δημιουργία τους βασίζονται σε αληθινά πρότυπα και σώματα ατόμων που δεν έχουν δώσει τη συγκατάθεσή τους για χρήση.

Θύμα deepfake παραποίησης, μίλησε στο Forbes για τη νέα διάσταση που παίρνουν τα πράγματα. “Το θεμελιώδες ζήτημα είναι πως το AI Porn βασίζεται στη μαζική κλοπή εικόνων και “ομοιωμάτων” ανθρώπων, που στη συντριπτική πλειοψηφία τους είναι γυναίκες”, αναφέρει η Noelle Martin, που είναι και κατ’ επάγγελμα νομικός. Στο TikTok άλλωστε, πολλαπλασιάζονται οι σχετικές καταγγελίες.

Το Forbes εντόπισε 14 subreddits αφιερωμένα στο πορνό που δημιουργείται από την τεχνητή νοημοσύνη, 10 από τα οποία έχουν δημιουργηθεί τους τελευταίους δύο μήνες. Κάθε subreddit έχει χιλιάδες μέλη και χιλιάδες επισκέψεις κάθε εβδομάδα. Ένα από τα πιο δημοφιλή subreddit πορνό AI είναι το r/unstable_diffusion, το οποίο λειτουργεί από τον Σεπτέμβριο του 2022 και αριθμεί 54.000 μέλη.

Το Reddit διαθέτει εργαλείο για “ασφαλή αναζήτηση” για την απόκρυψη περιεχομένου για ανηλίκους και ενηλίκους κατά τη διάρκεια της τυπικής αναζήτησης, ωστόσο δεν υπάρχει ρύθμιση για “πορνό τεχνητής νοημοσύνης”. Μέσα σε αυτά τα subreddits, ορισμένοι χρήστες ζητούν ή πουλούν deepfakes πραγματικών ανθρώπων που δημιουργούνται από AI.

Το επίφοβο εδώ είναι πως τα εργαλεία τεχνητής νοημοσύνης γίνονται όλο και πιο ρεαλιστικά ως προς τα αποτελέσματα που δίνουν. Έτσι, γίνεται δύσκολο για τους χρήστες να διακρίνουν όχι μόνο μεταξύ του τι είναι πραγματικό και τι δεν είναι, αλλά και τι είναι συναινετικό και τι όχι.

Στις αρχές Απριλίου, ορισμένοι Redditors ξεγελάστηκαν και πλήρωσαν 100 δολάρια για τις φωτογραφίες μιας 19χρονης γυναίκας με το όνομα Claudia, η οποία δημιουργήθηκε με το εργαλείο Stable Diffusion, όπως είχε αποκαλύψει σε ρεπορτάζ του, το Rolling Stone. Την ίδια ώρα, συνδρομητικές πλατφόρμες όπως το Getty, μήνυσαν πρόσφατα εργαλεία όπως το Stability AI και το Midjourney για παραβίαση πνευματικών δικαιωμάτων.

Διπλή θυματοποίηση

Θύμα σεξουαλικής εμπορίας που εξαναγκάστηκε σε σεξ on camera, δήλωσε στο Forbes πως η χρήση των εικόνων ή των βίντεό της για εκπαίδευση συστημάτων AI θα ήταν παραβίαση του απορρήτου της. Η ίδια ανέφερε πως ανησυχεί πως το υλικό κακοποίησής της, θα μπορούσε να επανεμφανιστεί σε μια νέα μορφή, μέσω Reddit ή άλλων δικτύων. “Το να βασίζονται οι μηχανές σε βίντεο που απεικονίζουν εμένα, σημαίνει πως εγώ ως άτομο έχω μηδενικό έλεγχο πάνω σε αυτό που γίνεται, ή την οποιαδήποτε ικανότητα για να το σταματήσω”.

Πορνό φτιαγμένο με AI έχει αρχίσει επίσης να εμφανίζεται και σε άλλες πλατφόρμες όπως το Twitter. Ωστόσο το Reddit προτιμάται λόγω ανωνυμίας – χρήσης ψευδωνύμων.

Ο Διευθύνων Σύμβουλος του Reddit, Steve Huffman, δήλωσε σε πρόσφατη συνέντευξη που παραχώρησε στους New York Times ότι θα επιθυμούσε η Google, η Microsoft και η OpenAI να πληρώσουν για τη χρήση του Reddit ως προς τα data που συλλέγουν και την εκπαίδευση των αλγόριθμών τους. “Το σύνολο δεδομένων του Reddit είναι πραγματικά πολύτιμο. Αυτή τη στιγμή παραχωρούνται εντελώς δωρεάν στις μεγαλύτερες εταιρείες στον κόσμο”, δήλωνε στους Times. Ακόμη, ανακοίνωσε πως το Reddit εξετάζει την προοπτική να χρεώνει για premium πρόσβαση – περιεχόμενο, ενώ θα κλείσει το data API του. Η πλατφόρμα που κοστολογείται στα 10 δισεκατομμύρια δολάρια σχεδιάζει να βγει στο χρηματιστήριο μέσα στο 2023.

Ενώ το Reddit ισχυρίζεται πως δεν βγάζει έσοδα από το πορνογραφικό υλικό που “φιλοξενεί”, οι ειδικοί λένε ότι το να επιτρέπεται το περιεχόμενο για ενήλικες στον ιστότοπο, τεχνητό ή πραγματικό, προσελκύει περισσότερους χρήστες στην πλατφόρμα και αυξάνει την “αφοσίωση” στο Μέσο. Το παραπάνω επιβεβαιώνει και η Sophie Maddocks, ερευνήτρια για τη σεξουαλική εκμετάλλευση στον κυβερνοχώρο, μιλώντας στο Forbes.

Οι χρήστες που έρχονται στην πλατφόρμα για να καταναλώσουν πορνό επισκέπτονται επίσης άλλες σελίδες και subreddits που δεν περιέχουν περιεχόμενο NSFW, λέει ο Jamie Cohen, καθηγητής Επικοινωνίας στο κολέγιο CUNY Queens της Νέας Υόρκης. “Το Reddit παρακολουθεί τις επισκέψεις στα subreddit και στη συνέχεια στέλνει εξατομικευμένα δεδομένα προς χρήση, σε διαφημιστές”, αναλύει ο ίδιος.

Αξίζει να σημειωθεί πως όπως μπορεί κάποιος εύκολα να επιβεβαιώσει και δοκίμασε και το NEWS 24/7, για να συνδεθεί κανείς σε πορνογραφικό υλικό είναι “υποχρεωμένος” να δρομολογηθεί στο application και να δημιουργήσει προφίλ. Κοινώς, η “ανωνυμία” του είναι σχετική.

Σε μια παράλληλη τροχιά, οι περισσότερες “γεννήτριες” πορνό AI, όπως το PornJourney, το PornPen, το PornJoy και το SoulGen χρεώνουν συνδρομές προς τους ενδιαφερομένους, όπως αναφέρει το Forbes. Οι μηχανές αυτές επιτρέπουν τη δημιουργία πορνογραφίας με επιλογές για εθνότητες και σωματότυπους και οδηγίες για το πώς μπορεί κανείς να δημιουργήσει το τελικό αποτέλεσμα. Για τις παρεχόμενες πληροφορίες-ιδεότυπους, παρέχονται ελάχιστες πληροφορίες, δηλαδή για το πώς εκπαιδεύτηκαν τα συστήματα και ποιες εικόνες χρησιμοποιούνται. Για τον ίδιο λόγο, στις μηχανές αυτές υπάρχουν αναφορές αποποίησης ευθύνης σχετικά με περιεχόμενο που δημιουργείται μέσω των εργαλείων τους. Το AI PornJourney χρεώνει 15 δολάρια το μήνα για να δημιουργήσει “κορίτσια AI” που “φαίνονται πραγματικά και ανθρώπινα”, όπως αναφέρει.

Άλλη “μηχανή”, το PornPen έχει 2 εκατομμύρια μηνιαίους επισκέπτες και 12.000 ενεργούς χρήστες που πληρώνουν 15 δολάρια το μήνα για το παρεχόμενο εργαλείο δημιουργίας πορνό AI. Το εν λόγω εργαλείο παρέχει περίπου 6 δισεκατομμύρια εικόνες που προέρχονται από δημοσίως διαθέσιμο περιεχόμενο στο παγκόσμιο διαδίκτυο. Το τεράστιο σύνολο δεδομένων περιλαμβάνει εικόνες διασημοτήτων, μοντέλων, πολιτικών και δημιουργών περιεχομένου – influencers. “Η σύστασή μας είναι να χρησιμοποιήσετε το σύνολο των δεδομένων μας για ερευνητικούς σκοπούς”, λέει η ιστοσελίδα.

Η Tori Rousay από το Εθνικό Κέντρο για τη Σεξουαλική Εκμετάλλευση (NCOSE) των ΗΠΑ, αναφέρει στο Forbes πως οι μηχανές αυτές χρησιμοποιούν μοντέλα ανοιχτού κώδικα για να αποκόψουν εικόνες από πορνογραφικούς ιστότοπους και προφίλ στα μέσα κοινωνικής δικτύωσης και να δημιουργήσουν μια βάση δεδομένων με σεξουαλικές εικόνες. Τα δεδομένα “κλέβονται” από sites όπως το PornHub και το Xvideos καθώς και από ιστότοπους κοινωνικών μέσων όπως το Twitter, το Instagram και το TikTok

Το PornHub και το Xvideos δεν απάντησαν σε αίτημα σχολιασμού, του Forbes.

Πρακτικά, δημόσια πρόσωπα όπως πολιτικοί, δημοσιογράφοι, πανελίστες στην TV, social media influencers, είναι πιο πιθανό να πέφτουν θύματα εκμετάλλευσης, με τα σώματά τους να χρησιμοποιούνται για πορνογραφική χρήση, καθώς διαθέτουν μεγάλο όγκο προσωπικών τους δεδομένων, δημοσίως.

Η γκρίζα ζώνη του Reddit

Σε μια προσπάθειά του να συμμορφωθεί με τις εξελίξεις, αλλά και να τις “προλάβει”, το Reddit αποσαφήνισε πως απαγορεύει ρητά το μη συναινετικό σεξουαλικό περιεχόμενο, συμπεριλαμβανομένων των “απεικονίσεων που έχουν πλαστογραφηθεί”. Ο ιστότοπος απαγορεύει επίσης “υλικό που δημιουργείται από AI εάν παρουσιάζεται σε παραπλανητικό πλαίσιο”, σύμφωνα με εκπρόσωπο του Reddit. Το Reddit λέει ότι χρησιμοποιεί έναν συνδυασμό αυτοματοποιημένων εργαλείων και της εσωτερικής του ομάδας ασφαλείας για τον εντοπισμό και την αφαίρεση μη συναινετικού περιεχομένου. Ωστόσο, δεν καταφέρνει, ως τώρα, να εντοπίζει τα πάντα.

Deepfakes, μη συναινετικό σεξουαλικό περιεχόμενο και πορνό τεχνητής νοημοσύνης υπάρχουν όλα στις ίδιες υποκατηγορίες, ενώ έρχονται στη δημοσιότητα και οι πρώτες υποθέσεις AI-generated παιδικής πορνογραφίας.

Σε κάθε περίπτωση, το AI πορνό που δεν βασίζεται σε πραγματικές εικόνες που δεν έχουν αποκτηθεί με συναίνεση, δεν έχει καμία σχέση με οτιδήποτε παράνομο κυκλοφορεί, και θεωρείται νομικά θεμιτό. Μπορεί να υπάρχει AI πορνό εξ ολοκλήρου δημιουργημένο ψηφιακά, AI πορνό βασιζόμενο σε υπαρκτές φωτογραφίες με συναίνεση, και AI πορνό βασιζόμενο σε υπαρκτές φωτογραφίες χωρίς συναίνεση. Τα όρια ανάμεσα σε αυτά τα τρία για τον μέσο χρήστη, είναι δυσδιάκριτα.

Μία άλλη διάσταση η οποία πρέπει να εξεταστεί, είναι η κοινωνιολογική – ψυχολογική πλευρά της νέας πορνογραφίας. Η Sophie Maddocks αναφέρει πως η AI πορνογραφία καλλιεργεί μη ρεαλιστικές προσδοκίες σχετικά με την εικόνα του σώματος και τις σεξουαλικές πράξεις, κανονικοποιώντας σεξουαλικά στερεότυπα και φυλετικές προκαταλήψεις στα μέσα κοινωνικής δικτύωσης.

“Επειδή αυτά τα εργαλεία μαθαίνουν από τις εικόνες που είναι ήδη εκεί έξω ή το περιεχόμενο που διατίθεται ευρέως, δυσκολεύονται ακόμη στην δημιουργία περιεχομένου περιθωριοποιημένων σεξουαλικών ομάδων ή queer ή τρανς ατόμων”, προσθέτει ακόμη.

Τα συστήματα τεχνητής νοημοσύνης που αναμιγνύουν περιεχόμενο από ιστότοπους όπως το PornHub και το Xvideos δημιουργούν επίσης προβλήαμτα στους επαγγελματίες σεξεργάτες στην πορνογραφία. Οι επαγγελματίες του πορνό για την ώρα δεν πληρώνονται εάν οι εικόνες τους χρησιμοποιούνται για τη δημιουργία νέου, AI περιεχομένου. Οι πλατφόρμες που φιλοξενούν επαγγελματίες του χώρου έχουν αρχίσει να λαμβάνουν πλέον μέτρα κατά εργαλείων τεχνητής νοημοσύνης όπως το Stable Diffusion για τη χρήση εικόνων χωρίς πληρωμή. Παρόλα αυτά, στο Reddit έχουν κυκλοφορήσει πολλά βίντεο χωρίς καμία άδεια χρήσης, τα οποία φυσικά αποθηκεύονται και διακινούνται σε άλλους χώρους.

Τα αμφιλεγόμενα subreddits υπάρχουν ακόμη και το Reddit εν συνόλω δείχνει να βρίσκεται “κάτω από τα ραντάρ”.

Από την άλλη, δημιουργοί όπως η OnlyFans star, Laura Lux, πιστεύουν πως οι χρήστες θα θέλουν πάντοτε μια πιο “προσωπική σχέση” μαζί τους.

“Οι χρήστες δεν εγγράφονται στο My OnlyFans γιατί θέλουν να δουν μια τυχαία γυμνή γυναίκα. Γίνονται συνδρομητές στο OnlyFans μου επειδή θέλουν να με δουν γυμνό βάσει μιας σύνδεσης μαζί μου που προέκυψε από άλλες πλατφόρμες μέσων κοινωνικής δικτύωσης”, δήλωνε η ίδια στον Independent. Το μοντέλο του OnlyFans, Alex Sim-Wise, αναφέρει από τη δική της μεριά πως “δεν μπορείς να γίνεις ο αστυνόμος για το περιεχόμενο που θέλει ο άλλος για να αυνανιστεί”. Προσθέτοντας και εκείνη, πως ο μέσος χρήστης θα επενδύσει τελικά στο “premium, εξατομικευμένο περιεχόμενο” που θα βρει στα “κλειδωμένα” κανάλια του διαδικτύου.

Υποθέσεις εξαπάτησης όμως, θα πρέπει με κάποιον τρόπο να ελεγχθούν, όπως εκείνη της “Claudia” που πουλούσε γυμνά καρέ της, αλλά ήταν fake.

Τέλος, για τη σεξολόγο Ness Cooper, το “AI Porn” θα κάνει σύντομα τον κύκλο του, καθώς δεν μπορεί να αναπαράξει τις πολυπλοκότητες και τις “αποχρώσεις” της ανθρώπινης σεξουαλικότητας. Ειδικά τώρα, που οι διαφορετικές (νόμιμες) πτυχές – προτιμήσεις στη σεξουαλική συμπεριφορά, απενοχοποιούνται όλο και περισσότερο.

Ρυθμίζοντας (;) το χάος

Στις 12 Μαίου οι ευρωβουλευτές ενέκριναν νέους κανόνες διαφάνειας και διαχείρισης κινδύνου για τα συστήματα τεχνητής νοημοσύνη.

Στις τροπολογίες τους στην πρόταση της Επιτροπής, οι ευρωβουλευτές στοχεύουν να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης επιβλέπονται από ανθρώπους, είναι ασφαλή, διαφανή, ανιχνεύσιμα, χωρίς διακρίσεις και φιλικά προς το περιβάλλον. Θέλουν επίσης έναν ενιαίο ορισμό για την τεχνητή νοημοσύνη, σχεδιασμένο να είναι τεχνολογικά ουδέτερος, ώστε να μπορεί να ισχύει για τα σημερινά και τα αυριανά συστήματα τεχνητής νοημοσύνης.

Προτού ξεκινήσουν οι διαπραγματεύσεις με το Συμβούλιο για την τελική μορφή του νόμου, η διαπραγματευτική εντολή πρέπει να εγκριθεί από την Ολομέλεια του Ευρωπαϊκού Κοινοβουλίου, με την ψηφοφορία να αναμένεται κατά τη σύνοδο της 12ης-15ης Ιουνίου. Εφόσον εγκριθούν, θα είναι οι πρώτοι κανόνες για την Τεχνητή Νοημοσύνη στον κόσμο.

Πρακτικά, το Ευρωπαϊκό Κοινοβούλιο επιχειρεί να δημιουργήσει δικλείδες ασφαλείας για τη χρήση των συστημάτων ΑΙ.

Όπως αναφέρεται, συστήματα τεχνητής νοημοσύνης με απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων θα απαγορεύονται αυστηρά, συμπεριλαμβανομένων συστημάτων που αναπτύσσουν υποσυνείδητες ή σκόπιμες τεχνικές χειραγώγησης, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για “κοινωνική αξιολόγηση” (ταξινόμηση ατόμων με βάση την κοινωνική τους συμπεριφορά, την κοινωνικοοικονομική κατάσταση, την προσωπική τους κατάσταση, τα χαρακτηριστικά τους).

Οι ευρωβουλευτές συμπεριέλαβαν στην πρότασή τους απαγορεύσεις για παρεμβατικές και μεροληπτικές χρήσεις συστημάτων ΑΙ, όπως:

-Απομακρυσμένα βιομετρικά συστήματα αναγνώρισης “σε πραγματικό χρόνο” σε χώρους προσβάσιμους από το κοινό.

-“Αποστολή” απομακρυσμένων βιομετρικών συστημάτων ταυτοποίησης, με μόνη εξαίρεση τις αρχές επιβολής του νόμου για τη δίωξη σοβαρών εγκλημάτων και μόνο μετά από δικαστική εξουσιοδότηση.

-Συστήματα βιομετρικής κατηγοριοποίησης, που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. φύλο, φυλή, εθνικότητα, ιθαγένεια, θρησκεία, πολιτικός προσανατολισμός)

-Συστήματα πρόβλεψης αστυνόμευσης (με βάση το προφίλ, την τοποθεσία ή την προηγούμενη εγκληματική συμπεριφορά).

-Συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, τους χώρους εργασίας και τα εκπαιδευτικά ιδρύματα.

-Αδιάκριτη απόσπαση βιομετρικών δεδομένων από μέσα κοινωνικής δικτύωσης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου (παραβίαση των ανθρωπίνων δικαιωμάτων και του δικαιώματος στην ιδιωτική ζωή).

Προκειμένου να ενισχύσουν την καινοτομία της τεχνητής νοημοσύνης, οι ευρωβουλευτές πρόσθεσαν εξαιρέσεις σε αυτούς τους κανόνες για ερευνητικές δραστηριότητες και στοιχεία τεχνητής νοημοσύνης, που παρέχονται με άδειες ανοιχτού κώδικα. Στο μεταξύ, ο νέος νόμος προωθεί ρυθμιστικά sandboxes ή ελεγχόμενα περιβάλλοντα, που έχουν δημιουργηθεί από τις δημόσιες αρχές για τη δοκιμή της τεχνητής νοημοσύνης πριν από την ανάπτυξή της. Ένα ζήτημα που πρέπει να διευθετηθεί και αναμένουμε να δούμε στον τελικό νόμο, είναι το γεγονός πως οι μηχανές “AI Porn”, ισχυρίζονται πως η χρήση τους είναι καθαρά και μόνο για “ερευνητικούς σκοπούς”.

Επίσης, οι ευρωβουλευτές θέλουν να ενισχύσουν το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες για συστήματα τεχνητής νοημοσύνης και να λαμβάνουν εξηγήσεις για αποφάσεις, που βασίζονται σε συστήματα ΑΙ υψηλού κινδύνου, που επηρεάζουν σημαντικά τα δικαιώματά τους.

Ακολουθήστε το News 24/7 στο Google News και μάθετε πρώτοι όλες τις ειδήσεις