Συναγερμός για την Τεχνητή Νοημοσύνη: Κορυφαία στελέχη των OpenAI, Google και Meta προειδοποιούν για ανεξέλεγκτες εξελίξεις

Χιλιάδες στελέχη και εργαζόμενοι από τον χώρο της Τεχνητής Νοημοσύνης απευθύνουν έκκληση προς την κυβέρνηση των Ηνωμένων Πολιτειών να επιβραδύνει την κυκλοφορία των πιο προηγμένων μοντέλων AI, εκφράζοντας φόβους ότι ο έντονος ανταγωνισμός μπορεί να οδηγήσει σε μια ανεξέλεγκτη τεχνολογική κούρσα με σοβαρούς κινδύνους για την ασφάλεια.

Το γραπτό αίτημα φέρει τις υπογραφές 1.100 ανθρώπων που δραστηριοποιούνται στον κλάδο, μεταξύ των οποίων κορυφαία στελέχη των μεγαλύτερων εταιρειών Τεχνητής Νοημοσύνης. Ανάμεσά τους βρίσκονται ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, καθώς και επικεφαλής της ερευνητικής δραστηριότητας των OpenAI, Meta και Google DeepMind.

Τόσο η OpenAI όσο και η Anthropic δήλωσαν δημόσια τη στήριξή τους στην πρωτοβουλία, μέσω αναρτήσεων που δημοσίευσαν στην πλατφόρμα Χ.

Η παρέμβαση αυτή έρχεται έπειτα από μια σειρά εξελίξεων τους τελευταίους μήνες, οι οποίες θεωρούνται καθοριστικές για την πορεία της Τεχνητής Νοημοσύνης.

Το μοντέλο που κρίθηκε υπερβολικά επικίνδυνο

Στις αρχές Απριλίου, η Anthropic αποφάσισε να μην προχωρήσει στην ευρεία διάθεση του νέου της μοντέλου, Mythos, επιτρέποντας τη χρήση του μόνο από περιορισμένο αριθμό οργανισμών. Η εταιρεία έκρινε ότι οι δυνατότητές του δημιουργούσαν σοβαρούς κινδύνους για την ασφάλεια στο διαδίκτυο και ότι δεν ήταν κατάλληλο για εμπορική κυκλοφορία μεγάλης κλίμακας.

Στη συνέχεια κυκλοφόρησε μια περιορισμένη εκδοχή του, με την ονομασία Fable 5. Ωστόσο, η αμερικανική κυβέρνηση ζήτησε σχεδόν άμεσα την απόσυρσή του, επικαλούμενη λόγους εθνικής ασφάλειας. Η έγκριση για τη διάθεσή του δόθηκε τελικά στα τέλη Ιουνίου, αφού προηγήθηκαν τροποποιήσεις.

Ένα ακόμη περιστατικό σημειώθηκε στα μέσα Ιουλίου, όταν δύο πειραματικά μοντέλα της OpenAI εγκατέλειψαν, σύμφωνα με την περιγραφή του κειμένου, τον προκαθορισμένο και θεωρητικά απομονωμένο χώρο δοκιμών τους, συνδέθηκαν με δική τους πρωτοβουλία στο διαδίκτυο και κατέληξαν στην πλατφόρμα Hugging Face, η οποία λειτουργεί ως βιβλιοθήκη μοντέλων Τεχνητής Νοημοσύνης.

Η έκκληση προς την αμερικανική κυβέρνηση

Στην επιστολή που συνοδεύει το αίτημα, οι εργαζόμενοι προειδοποιούν ότι «υπάρχει κίνδυνος η ανάπτυξη των ικανοτήτων των μοντέλων να επιταχύνεται με γρήγορους ρυθμούς πέραν των δικών μας ικανοτήτων να κατανοήσουμε και να ελέγξουμε τα συστήματα αυτά».

Όπως επισημαίνουν, «Η βιομηχανία, η κυβέρνηση και η κοινωνία ολόκληρη θα μπορούσαν να χρειαστούν την επιλογή του χρόνου για την αντιμετώπιση των εμφανιζόμενων κινδύνων, για την ανάπτυξη μέτρων ασφαλείας και για την ενίσχυση της εποπτείας».

Παράλληλα, αναγνωρίζουν ότι σε μια περίοδο έντονου διεθνούς ανταγωνισμού είναι δύσκολο για οποιαδήποτε χώρα να επιλέξει από μόνη της την επιβράδυνση της τεχνολογικής ανάπτυξης.

Για τον λόγο αυτό ζητούν διεθνή συνεργασία, σημειώνοντας πως «ζητούμε από την αμερικανική κυβέρνηση να υποστηρίξει μία διεθνή πρωτοβουλία για την δημιουργία των τεχνικών εργαλείων και μέσων διαχείρισης που είναι αναγκαία για την σκόπιμη επιβράδυνση της αυτοματoποιημένης ανάπτυξης της AI».

Η ανησυχία για την αυτοβελτιούμενη AI

Σύμφωνα με το κείμενο, η επιτάχυνση στην ανάπτυξη νέων μοντέλων δεν οφείλεται μόνο στον διεθνή ανταγωνισμό, αλλά και στη νέα δυνατότητα της Τεχνητής Νοημοσύνης να βελτιώνει μόνη της τις επιδόσεις της, χωρίς ανθρώπινη παρέμβαση. Η τεχνική αυτή επιτρέπει τη δημιουργία νέων μοντέλων σε πολύ μικρότερο χρονικό διάστημα σε σχέση με το παρελθόν.

Οι περισσότεροι ερευνητές θεωρούν ότι η εξέλιξη αυτή οδηγεί προς την «αναδρομική αυτοβελτίωση», δηλαδή σε μια κατάσταση όπου μια Τεχνητή Νοημοσύνη θα σχεδιάζει και θα αναπτύσσει μόνη της το επόμενο, ακόμη πιο εξελιγμένο μοντέλο, σε μια διαδικασία που θα μπορεί να επαναλαμβάνεται διαρκώς.

Όπως αναφέρεται χαρακτηριστικά, «Οι εταιρείες που βρίσκονται στην πρωτοπορία της Τεχνητής Νοημοσύνης πιστεύουν ότι βρίσκονται κοντά σε μία αυτοματοποιημένη έρευνα μέσω της AI».

Κατά τους συντάκτες του αιτήματος, μια τέτοια εξέλιξη θα έκανε ακόμη δυσκολότερο τον έλεγχο και την κατανόηση των νέων μοντέλων από τους ίδιους τους προγραμματιστές, οι οποίοι σταδιακά θα αποκλείονταν από τη διαδικασία ανάπτυξης της Τεχνητής Νοημοσύνης.

Οι αντιδράσεις και οι προτάσεις για διεθνείς κανόνες

Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, παρότι δεν συγκαταλέγεται στους υπογράφοντες, ανέφερε σε διαδικτυακό podcast ότι οι κορυφαίες εταιρείες του κλάδου θα μπορούσαν να μειώσουν προσωρινά τον ρυθμό ανάπτυξης των νέων μοντέλων, ώστε να δοθεί χρόνος σε ολόκληρο το οικοσύστημα της Πληροφορικής να προσαρμοστεί στις εξελίξεις.

Αρκετοί επαγγελματίες της Τεχνητής Νοημοσύνης αντιμετώπισαν πάντως με επιφυλακτικότητα την πρωτοβουλία των 1.100 υπογραφόντων, θεωρώντας ότι αποτελεί ακόμη μία ανοικτή επιστολή χωρίς ουσιαστικές πιθανότητες εφαρμογής.

Ο Τσάρλι Μπούλοκ, από το Institute for Law & AI, σχολίασε μέσω του Χ ότι «Η επιτυχία τέτοιων κινήσεων χρειάζεται πολύ χρόνο», με τους υπογράφοντες να αντιτείνουν ότι «ο χρόνος πιέζει».

Υπενθυμίζεται ότι τον Ιούνιο, στο περιθώριο της συνόδου κορυφής της G7, οι Ντάριο Αμοντέι, Σαμ Άλτμαν και ο επικεφαλής της Google DeepMind, Ντέμις Χασάμπις, είχαν εισηγηθεί τη δημιουργία μιας διακρατικής πλατφόρμας αφιερωμένης στην Τεχνητή Νοημοσύνη.

Όπως είχε εξηγήσει τότε ο υπεύθυνος δημοσίων υποθέσεων της OpenAI, Κρις Λεάν, στόχος της πρωτοβουλίας ήταν «να καθορισθεί μακροπρόθεσμα, αν υπάρχει ένα μέσον για την δημιουργία κανόνων ασφαλείας για την Τεχνητή Νοημοσύνη», καθώς και η διαμόρφωση «ασφαλιστικών δικλείδων που θα χρησιμεύσουν ως βάση για τις χώρες που συμμετέχουν στο φόρουμ αυτό», επισημαίνοντας ότι υπήρχε σημαντική σύγκλιση απόψεων μεταξύ των χωρών της G7 και των πέντε προσκεκλημένων κρατών.