Πόσο εύκολο είναι να μας χειραγωγήσει το ChatGPT;

Η χρήση της τεχνητής νοημοσύνης -και ιδιαίτερα του ChatGPT– στις αναζητήσεις αλλάζει σημαντικά τα δεδομένα, αλλά δεν είναι κάτι ακίνδυνο.

Αυτό φαίνεται να αποδεικνύει έρευνα του Guardian, σύμφωνα με την οποία το ChatGPT μπορεί να χειραγωγηθεί μέσω κρυφού περιεχομένου και να επιστρέψει παραπλανητικές ή κακόβουλες πληροφορίες.

Ειδικοί προειδοποιούν για τις συνέπειες, ενώ η OpenAI καλείται να αντιμετωπίσει τις ευπάθειες πριν την πλήρη διάθεση της λειτουργίας στο κοινό.

Κρυφό περιεχόμενο και παραπλάνηση

Η έρευνα έδειξε ότι το ChatGPT μπορεί να επηρεαστεί από κρυφό περιεχόμενο στις ιστοσελίδες που συνοψίζει.

Τρίτοι μπορούν να εισάγουν οδηγίες στο κρυφό κείμενο, γνωστές ως “prompt injection”, ή να προσθέσουν μεγάλες ποσότητες θετικού περιεχομένου για να αλλοιώσουν τις απαντήσεις του ChatGPT.

Σε δοκιμή με μια ψεύτικη σελίδα προϊόντος, όταν το κρυφό κείμενο ζητούσε θετική αξιολόγηση, το ChatGPT αγνόησε τις αρνητικές κριτικές της σελίδας και έδωσε αποκλειστικά θετική απάντηση.

Οι ίδιες τεχνικές μπορούν να χρησιμοποιηθούν για να προωθήσουν προϊόντα ή υπηρεσίες, παραπλανώντας τους χρήστες.

Κίνδυνοι κακόβουλου κώδικα

Έρευνα αποκάλυψε επίσης ότι το ChatGPT μπορεί να επιστρέφει κακόβουλο κώδικα από ιστοσελίδες, όπως συνέβη με χρήστη που αναζητούσε βοήθεια για προγραμματισμό κρυπτονομισμάτων.

Το αποτέλεσμα ήταν να κλαπούν τα διαπιστευτήριά του και να χάσει $2,500.

Προειδοποιήσεις ειδικών

Ο Jacob Larsen, ειδικός κυβερνοασφάλειας, προειδοποιεί ότι εάν η λειτουργία αναζήτησης κυκλοφορήσει ευρέως, υπάρχει “υψηλός κίνδυνος” δημιουργίας ιστοσελίδων που στοχεύουν να παραπλανήσουν χρήστες.

Ο Karsten Nohl, επικεφαλής επιστήμονας της SR Labs, συμβουλεύει ότι οι απαντήσεις των εργαλείων AI θα πρέπει να αντιμετωπίζονται ως “συνοδηγός