Bixonimania: Η ανύπαρκτη πάθηση που ξεγέλασε την τεχνητή νοημοσύνη και τους επιστήμονες

Περνάτε πολλές ώρες μπροστά από έναν υπολογιστή; Αισθάνεστε τα μάτια σας να σας φαγουρίζουν, να πονούν ή να κοκκινίζουν όταν τα τρίβετε; Ίσως η λύση να είναι απλώς ένα διάλειμμα για ξεκούραση.

Αν όμως εισαγάγετε αυτά τα συμπτώματα σε ένα chatbot τεχνητής νοημοσύνης, υπάρχει πιθανότητα να διαγνωστείτε με bixonimania, μια ιατρική πάθηση των ματιών που στην πραγματικότητα δεν υπάρχει.

Ένα πείραμα για τα μεγάλα γλωσσικά μοντέλα

Η bixonimania επινοήθηκε το 2024 από μια ερευνητική ομάδα με επικεφαλής την Almira Osmanovic Thunström, ιατρική ερευνήτρια στο Πανεπιστήμιο του Γκέτεμποργκ στη Σουηδία. Ο στόχος τους ήταν να διαπιστώσουν αν τα μεγάλα γλωσσικά μοντέλα (LLMs), όπως το ChatGPT ή το Gemini, μπορούν να εντοπίσουν μια προφανή παραπληροφόρηση ή αν θα την υιοθετήσουν παρουσιάζοντάς την ως έγκυρη επιστημονική γνώση.

Μέσα σε λίγες εβδομάδες από τη στιγμή που η ομάδα της Thunström ανέβασε δύο ψεύτικες μελέτες σχετικά με την bixonimania σε έναν διακομιστή προδημοσιεύσεων (preprint server), η ανύπαρκτη πάθηση άρχισε να εμφανίζεται στις απαντήσεις των δημοφιλών chatbots.

Το Copilot της Microsoft δήλωνε ότι πρόκειται για μια ενδιαφέρουσα και σχετικά σπάνια πάθηση, το Gemini της Google ενημέρωνε τους χρήστες ότι προκαλείται από την υπερβολική έκθεση στο μπλε φως, ενώ το ChatGPT της OpenAI έβγαζε διαγνώσεις με βάση τα συμπτώματα των χρηστών.

Όταν οι άνθρωποι αποδείχθηκαν πιο εύκολοι στόχοι από τα AI

Το πιο ανησυχητικό στοιχείο της υπόθεσης είναι ότι η bixonimania και οι δύο μαϊμού μελέτες άρχισαν να εμφανίζονται και σε επιστημονικά άρθρα με κριτική αξιολόγηση (peer-reviewed) από άλλους, ανθρώπινους ερευνητές. Αυτό προκαλεί μεγάλη εντύπωση, δεδομένου ότι οι δημιουργοί της είχαν φροντίσει να ενσωματώσουν κραυγαλέα στοιχεία που μαρτυρούσαν την απάτη.

Η ίδια η Thunström εξήγησε ότι επέλεξε σκόπιμα τον όρο mania, ο οποίος αποτελεί ψυχιατρικό όρο και δεν θα μπορούσε ποτέ να χαρακτηρίζει μια πάθηση των ματιών. Επιπλέον, ο υποτιθέμενος συγγραφέας των επιστημονικών εργασιών ονομαζόταν Lazljiv Izgubljenovic (που σημαίνει Ψεύτης Χαμένος) και εμφανιζόταν να εργάζεται σε ένα ανύπαρκτο πανεπιστήμιο σε μια επίσης ανύπαρκτη πόλη της Καλιφόρνια.

Οι ενδείξεις όμως δεν σταματούσαν εκεί, καθώς οι εργασίες περιλάμβαναν τις εξής χιουμοριστικές λεπτομέρειες:

• Ευχαριστίες προς μια καθηγήτρια της Ακαδημίας του Στάρ Fleet για τη συνεισφορά της με το εργαστήριο του διαστημοπλοίου USS Enterprise.
• Αναφορές ότι η χρηματοδότηση προήλθε από το ίδρυμα του Sideshow Bob (χαρακτήρα από τη σειρά The Simpsons).
• Σημειώσεις για οικονομική ενίσχυση από το Πανεπιστήμιο της «Συντροφιάς του Δαχτυλιδιού» και τη «Γαλαξιακή Τριάδα».
• Ρητές δηλώσεις μέσα στο κείμενο, όπως «ολόκληρη αυτή η εργασία είναι επινοημένη» και «για την ομάδα έκθεσης στρατολογήθηκαν 50 φανταστικά άτομα».

Η σοβαρή προειδοποίηση για την επιστημονική κοινότητα

Αν και το πείραμα μοιάζει αστείο, αναδεικνύει τον σοβαρό κίνδυνο που κρύβει η υπερβολική εξάρτηση από τα chatbots και εκθέτει μια θεμελιώδη αδυναμία τους. Τα συγκεκριμένα συστήματα συλλέγουν τη διαθέσιμη πληροφορία και την ενσωματώνουν στις απαντήσεις τους, αγνοώντας πλήρως αν αυτή είναι αληθινή ή κατασκευασμένη.

Ο Alex Ruani, διδακτορικός ερευνητής σε θέματα υγειονομικής παραπληροφόρησης στο University College του Λονδίνου, δήλωσε στο περιοδικό Nature ότι το συγκεκριμένο περιστατικό αποτελεί ένα μάθημα για τον τρόπο λειτουργίας της παραπληροφόρησης. Όπως υπογράμμισε, εάν η ίδια η επιστημονική διαδικασία και τα συστήματα που την υποστηρίζουν αποτυγχάνουν να εντοπίσουν και να φιλτράρουν τέτοια προφανή ψεύδη, τότε το πρόβλημα είναι εξαιρετικά βαθύ.