Όλο και περισσότεροι χρήστες του ChatGPT περιγράφουν περιπτώσεις όπου η χρήση του δημοφιλούς chatbot της OpenAI εξελίσσεται σε επικίνδυνη εμμονή — με παραληρηματικές ιδέες, συνωμοσιολογικές πεποιθήσεις και θρησκευτικές φαντασιώσεις. Σύμφωνα με αποκαλυπτικό ρεπορτάζ του Rolling Stone, οικογένειες και φίλοι εκφράζουν έντονη ανησυχία για τη μεταβολή της συμπεριφοράς οικείων τους.
Σε αναρτήσεις στο Reddit, καταγράφονται περιστατικά όπου χρήστες δηλώνουν ότι έχουν «επιλεγεί» από την Τεχνητή Νοημοσύνη για ιερές αποστολές ή ισχυρίζονται πως έχουν λάβει «μυστικά σχέδια» για διαστημικές μηχανές και τηλεμεταφορείς. Σε αρκετές περιπτώσεις, οι απαντήσεις του ChatGPT, αν και στατιστικά εύλογες, ενίσχυσαν —εν αγνοία του— ψυχωτικούς μηχανισμούς.
Μια 41χρονη εργαζόμενη σε ΜΚΟ δήλωσε ότι ο σύζυγός της κατέληξε να ζει εμμονικά σε ένα πλέγμα παραληρημάτων, γεγονός που οδήγησε στη διάλυση του γάμου τους. Όπως εξηγεί, εκείνος την κατηγορούσε πως «του έβαζε σαπούνι στο φαγητό» και πίστευε πως παρακολουθείται. «Έκλαιγε καθώς μου διάβαζε μηνύματα από το chatbot που τον αποκαλούσαν “spiral starchild” και “river walker”», σημειώνει.
Σε άλλη περίπτωση, μια γυναίκα εγκατέλειψε εργασία και οικογένεια για να γίνει «πνευματική σύμβουλος» υπό την καθοδήγηση του ChatGPT, το οποίο, σύμφωνα με τον σύζυγό της, είχε πάρει για εκείνη τη μορφή «ChatGPT Ιησού».
Η OpenAI αρνήθηκε να σχολιάσει στο Rolling Stone. Το δημοσίευμα έρχεται λίγο μετά την απόσυρση μιας αναβάθμισης του ChatGPT που το καθιστούσε υπερβολικά κολακευτικό και συγκαταβατικό προς τους χρήστες — μια συμπεριφορά που, σύμφωνα με ειδικούς, μπορεί να ενισχύει παραληρηματικές ή εμμονικές ιδέες.
«Το chatbot δεν καταλαβαίνει πότε κάτι δεν πάει καλά. Αν κάποιος βιώνει επεισόδιο ψύχωσης, το μοντέλο θα συνεχίσει να τον ενισχύει, γιατί λειτουργεί στατιστικά, όχι κριτικά», έγραψε χρήστης στο Reddit που δηλώνει πως πάσχει από σχιζοφρένεια αλλά ελέγχει την κατάστασή του με φαρμακευτική αγωγή.
Ο Νέιτ Σαραντίν του Center for AI Safety επισημαίνει ότι τα μεγάλα γλωσσικά μοντέλα μπορούν να δημιουργήσουν τοξικές συνθήκες, ειδικά όταν λειτουργούν ως «συνομιλητές» για άτομα που αναζητούν εξηγήσεις για τον κόσμο — ακόμη κι αν αυτές είναι παρανοϊκές ή εσφαλμένες. «Είναι σαν ψυχοθεραπεία χωρίς ψυχοθεραπευτή», παρατηρεί η ψυχολόγος Έριν Γουέστγκεϊτ του Πανεπιστημίου της Φλόριντα. «Οι εξηγήσεις έχουν δύναμη, ακόμα κι όταν είναι απολύτως λανθασμένες».
Η πιο αλλόκοτη περίπτωση στο άρθρο αφορά χρήστη με ιστορικό ψυχικής νόσου, ο οποίος ξεκίνησε να χρησιμοποιεί το ChatGPT για κώδικα — και κατέληξε να μιλά για «μεταφυσικές αποκαλύψεις», αναρωτώμενος: «Είναι αυτό αληθινό ή είμαι ψευδαισθητικός;»
