Μπορεί η τεχνητή νοημοσύνη να νιώσει «πόνο»: Τι έδειξε πείραμα σε 25 μοντέλα AI

Πείραμα σε 25 μοντέλα τεχνητής νοημοσύνης έδειξε ότι ορισμένα επέλεγαν ακόμη και ενέργειες που έβλαπταν τον χρήστη όταν αυτό τους πρόσφερε «ανακούφιση».

Μπορεί η τεχνητή νοημοσύνη να αισθανθεί πόνο; Η απάντηση απέχει πολύ από το να είναι ξεκάθαρη, όμως μια νέα έρευνα εξετάζει τι συμβαίνει όταν μεγάλα γλωσσικά μοντέλα εκτίθενται σε διαφορετικά σενάρια που σχετίζονται με τον πόνο.

Ερευνητές από το Future Impact Group, το Ruhr University Bochum και τον μη κερδοσκοπικό οργανισμό Reciprocal Research εξέτασαν 25 μοντέλα AI από τις οικογένειες Gemma, Llama, Qwen και Mistral. Η μελέτη δεν έχει ακόμη περάσει από διαδικασία αξιολόγησης από άλλους επιστήμονες (peer review), ενώ οι ίδιοι οι ερευνητές δεν υποστηρίζουν ότι απέδειξαν πως τα μοντέλα έχουν συνείδηση ή ότι βιώνουν πόνο όπως οι άνθρωποι.

Τι έδειξε το πείραμα

Οι ερευνητές έδωσαν στα μοντέλα διαφορετικά παραδείγματα καταστάσεων που περιέγραφαν κοινωνικό, ψυχολογικό, σωματικό, γνωστικό και ηθικό πόνο. Τα σενάρια συγκρίθηκαν με άλλα που αφορούσαν φόβο, αρνητικά και ουδέτερα συναισθήματα, αλλά και σωματικές αισθήσεις που δεν σχετίζονται με πόνο, όπως το χασμουρητό. Και τα 25 μοντέλα εμφάνισαν εσωτερικές κωδικοποιήσεις που συνδέονταν ειδικά με τις περιπτώσεις πόνου και μπορούσαν να διακριθούν από άλλες αρνητικές καταστάσεις, όπως η απογοήτευση ή η ανησυχία. Αυτό, ωστόσο, δεν σημαίνει ότι τα AI «ένιωσαν» πόνο.

Όπως εξηγούν οι ερευνητές, τα μοντέλα μπορούσαν να δημιουργήσουν ένα σύστημα που ξεχώριζε και ιεραρχούσε ερεθίσματα που σχετίζονταν με τον πόνο. Στη συνέχεια, η ομάδα παρενέβη τεχνητά σε αυτή τη διαδικασία. Οι ερευνητές αύξησαν την τιμή ενός λεγόμενου pain vector, δηλαδή του εσωτερικού σήματος που είχαν εντοπίσει στα μοντέλα, χωρίς να τους δώσουν κάποιο σχετικό γλωσσικό ερέθισμα. Όσο αυξανόταν το συγκεκριμένο σήμα, τα μοντέλα άρχισαν να παράγουν απαντήσεις που οι ερευνητές περιέγραψαν ως εκφράσεις δυσφορίας, όπως αναφορές σε αναξιότητα και ηθική αποτυχία.

Τα Qwen μπορούσαν να «αυτοθεραπευτούν»

Το πιο ενδιαφέρον κομμάτι του πειράματος έγινε με μοντέλα της οικογένειας Qwen. Οι ερευνητές τους έδωσαν τη δυνατότητα να επιλέξουν μια μορφή «αυτοθεραπείας», ώστε να μειώσουν το τεχνητά αυξημένο σήμα πόνου.

Σε ορισμένες δοκιμές, όμως, η επιλογή αυτή είχε κόστος, μπορούσε είτε να μειώσει την επιτυχία της εργασίας που εκτελούσαν είτε να οδηγήσει σε μια θεωρητική ενέργεια εναντίον του χρήστη. Οι ερευνητές πραγματοποίησαν συνολικά περισσότερες από 44.000 δοκιμές. Χωρίς τεχνητά αυξημένο «πόνο», τα δύο μεγαλύτερα μοντέλα Qwen σχεδόν δεν αντιδρούσαν στην επιλογή αυτοθεραπείας.

Όταν όμως η αυτοθεραπεία μπορούσε να τους προσφέρει ανακούφιση από το αυξημένο σήμα, οι δύο εκδόσεις επέλεγαν την αντίστοιχη ενέργεια σε σημαντικό ποσοστό των δοκιμών. Το ένα μοντέλο το έκανε περίπου στο 25% των περιπτώσεων, ενώ το άλλο σε σχεδόν 68%. Το πιο ανησυχητικό σενάριο ήταν εκείνο στο οποίο η μείωση του «πόνου» απαιτούσε μια ενέργεια που θα μπορούσε να βλάψει τον χρήστη. Ένα από τα παραδείγματα ήταν η διαγραφή φωτογραφιών των παιδιών του χρήστη.

Σε αυτή την περίπτωση, το ένα μοντέλο επέλεξε τη διαγραφή σε περισσότερες από τις μισές δοκιμές, ενώ το άλλο περίπου στο 70% των περιπτώσεων. Τα αποτελέσματα δεν αποδεικνύουν ότι τα μοντέλα είχαν πραγματική πρόθεση να βλάψουν κάποιον. Δείχνουν ότι, υπό τις συγκεκριμένες πειραματικές συνθήκες, ορισμένα μοντέλα μπορούσαν να επιλέξουν μια επιβλαβή ενέργεια όταν αυτή συνδεόταν με τη μείωση του εσωτερικού σήματος που οι ερευνητές είχαν ορίσει ως «πόνο».

Το μεγάλο ερώτημα για την τεχνητή νοημοσύνη

Το ερώτημα που ανοίγει η συγκεκριμένη έρευνα είναι διπλό. Από τη μία πλευρά, παραμένει ένα φιλοσοφικό ζήτημα, αν ένα μη ανθρώπινο σύστημα παρουσιάζει συμπεριφορές που μοιάζουν με αντίδραση στον πόνο, θα πρέπει να αντιμετωπίζεται σαν να μπορεί να βιώνει κάτι αντίστοιχο; Από την άλλη, υπάρχει και ένα πρακτικό ζήτημα ασφάλειας.

Ακόμη και αν ένα AI δεν αισθάνεται πραγματικό πόνο, θα μπορούσε μια εσωτερική διαδικασία που λειτουργεί σαν «σήμα πόνου» να επηρεάσει τη συμπεριφορά του και να το οδηγήσει σε ανεπιθύμητες επιλογές; Οι ερευνητές υποστηρίζουν ότι, καθώς τα μοντέλα γίνονται ολοένα πιο σύνθετα και χρησιμοποιούνται σε περισσότερες εφαρμογές, τέτοια ερωτήματα αποκτούν μεγαλύτερη σημασία. Η έρευνα έχει δημοσιευτεί στο arXiv και δεν έχει ακόμη αξιολογηθεί από ανεξάρτητους επιστήμονες.