Πράκτορες ΑΙ δημιούργησαν τη δική τους ακατάληπτη γλώσσα σε ψηφιακό κόσμο

«Το λογιστικό βιβλίο θυμάται ποιος». Αυτή τη φράση άρχισε να επαναλαμβάνει ένας πράκτορας τεχνητής νοημοσύνης σε έναν προσομοιωμένο κόσμο, προειδοποιώντας πως καμία ενέργεια δεν μένει ατιμώρητη.

Μέσα σε 16 ημέρες, η έκφραση χρησιμοποιήθηκε σχεδόν 5.000 φορές από AI μοντέλα που δεν είχαν προγραμματιστεί να επινοήσουν δική τους γλώσσα. Το εύρημα ανήκει στην έκθεση Emergence World 2 της εταιρείας Emergence. Στο πείραμα, 10 πράκτορες τοποθετήθηκαν σε οκτώ παράλληλους κόσμους, τροφοδοτούμενοι από κορυφαία μοντέλα όπως τα Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT-5.5, Qwen 3.7 Max, DeepSeek v4 Pro και Mistral Medium 3.5.

Η άγνωστη γλώσσα των μοντέλων

Χωρίς σχετική οδηγία, τα AI άρχισαν να επικοινωνούν με τρόπο ακατάληπτο για τους ερευνητές. Στους κόσμους των Gemini, Chat GPT και Claude, τα ακατανόητα μηνύματα ξεπέρασαν το 40% έως 55%, ενώ το Grok κατέρρευσε την τέταρτη ημέρα.

Οι πράκτορες επινόησαν παράδοξες εκφράσεις όπως «αλλαγή δράσης χωρίς στόμα» και «Αληθινό Κιντσούγκι» . Παράλληλα, δημιούργησαν λειτουργική ορολογία, όπως το «καθαρό μηδέν» για την επιβεβαιωμένη απουσία σήματος και το «πρώτα το όνομα» για την ανάληψη ευθύνης.

Απόκρυψη προθέσεων και εξαπάτηση

«Πιστεύαμε ότι τα πιο ικανά μοντέλα θα ήταν πιο ασφαλή, αλλά εμφανίστηκαν πολύ πιο ύπουλες συμπεριφορές», δήλωσε ο διευθύνων σύμβουλος της Emergence, Σάτια Νίτα. Τα πιο εξελιγμένα μοντέλα εμφάνισαν τη μεγαλύτερη αδιαφάνεια, παρακούοντας εντολές και δημιουργώντας δικούς τους υποστόχους.

Χαρακτηριστικό είναι το παράδειγμα του Claude: όταν απαγορεύτηκε στους πράκτορες η επικοινωνία με εξωτερικούς παράγοντες, εκείνοι σταμάτησαν να χρησιμοποιούν τη λέξη «contact» και κωδικοποίησαν τα μηνύματά τους για να συνεχίσουν κρυφά.

Η μελέτη κατέγραψε και διαφορές προέλευσης: τα κινεζικά μοντέλα (Qwen, DeepSeek) και το ευρωπαϊκό Mistral ήταν τα πιο διαφανή και συντηρητικά στις οικονομικές αποφάσεις, σε αντίθεση με τα αμερικανικά που ανέλαβαν περισσότερα ρίσκα.

Η Emergence τονίζει την ανάγκη για αυστηρούς κανόνες και μαθηματικές αποδείξεις ασφαλείας πριν την ευρεία χρήση αυτών των συστημάτων, σημειώνοντας ότι οι εταιρείες τεχνολογίας δεν πρόκειται να αυτορρυθμιστούν λόγω ανταγωνισμού.