Την ανάγκη τα συστήματα Τεχνητής Νοημοσύνης να παραμένουν ελέγξιμα από τους ανθρώπους που είναι υπεύθυνοι για την εποπτεία τους υπογραμμίζουν τρεις πρώην ερευνητές της OpenAI, οι οποίοι απολύθηκαν από την εταιρεία με την κατηγορία ότι προχώρησαν σε διαρροές ευαίσθητων πληροφοριών.
Σε επιστολή τους προς το διοικητικό συμβούλιο της εταιρείας, η οποία δημοσιοποιήθηκε την Τετάρτη από τη Wall Street Journal, οι Τζάσμιν Γουάνγκ, Τόμεκ Κόρμπακ και Μικίτα Μπαλέσνι ζητούν από την OpenAI να μην προχωρήσει στην ανάπτυξη μοντέλων των οποίων ο τρόπος συλλογισμού δεν θα μπορεί να γίνει κατανοητός και να ελεγχθεί από τους ανθρώπους που έχουν την ευθύνη να παρακολουθούν τη συμπεριφορά τους.
Οι τρεις ερευνητές, οι οποίοι ειδικεύονται στην ασφάλεια της Τεχνητής Νοημοσύνης, υποστηρίζουν παράλληλα ότι η απόλυσή τους δημιουργεί κλίμα φόβου στους εργαζόμενους που εξακολουθούν να βρίσκονται στην εταιρεία, καθώς, όπως αναφέρει η Wall Street Journal, «παγώνει αυτούς που παραμένουν».
Η OpenAI είχε ανακοινώσει την απόλυσή τους την 1η Οκτωβρίου, αποδίδοντάς τους παραβίαση των εσωτερικών διαδικασιών. Σύμφωνα με την εταιρεία, οι τρεις ερευνητές κοινοποίησαν ευαίσθητες πληροφορίες, κυρίως σε εξωτερική ομάδα που συμμετείχε στην αξιολόγηση των μοντέλων, χωρίς να ακολουθήσουν τους προβλεπόμενους κανόνες.
Ωστόσο, οι ίδιοι επιμένουν ότι οι ενέργειές τους εντάσσονταν στα καθήκοντα που τους είχαν ανατεθεί.
Η απάντηση της OpenAI
Στο ζήτημα της δυνατότητας ελέγχου του τρόπου με τον οποίο ένα μοντέλο καταλήγει σε μια απόφαση, ανώτατο στέλεχος της OpenAI εμφανίστηκε να συμφωνεί με τον βασικό προβληματισμό των πρώην εργαζομένων.
Ο υπεύθυνος έρευνας της εταιρείας δήλωσε «απολύτως σύμφωνος» με τις συστάσεις τους, υπογραμμίζοντας σε εσωτερικό σημείωμα ότι η δυνατότητα να επαληθεύεται βήμα προς βήμα η διαδικασία μέσω της οποίας ένα μοντέλο καταλήγει σε μια απόφαση είναι «υψίστης σημασίας». Το AFP είχε πρόσβαση σε αποσπάσματα του συγκεκριμένου σημειώματος.
Παράλληλα, ο ίδιος τόνισε: «Δεν απολύουμε εργαζόμενους επειδή εκφράζουν ανησυχίες». Στα αποσπάσματα που διαβιβάστηκαν στο AFP, ωστόσο, δεν διευκρινίζονται οι παραβάσεις καθήκοντος που η OpenAI αποδίδει στους τρεις ερευνητές.
Το πρόβλημα με τον «εσωτερικό μονόλογο» των μοντέλων
Στο επίκεντρο της επιστολής βρίσκεται ο τρόπος με τον οποίο τα σύγχρονα μοντέλα Τεχνητής Νοημοσύνης περιγράφουν τον συλλογισμό τους πριν προχωρήσουν σε μια ενέργεια.
Οι ερευνητές εξετάζουν το συγκεκριμένο κείμενο προκειμένου να εντοπίσουν πιθανές αποκλίσεις ή συμπεριφορές που θα μπορούσαν να δημιουργήσουν προβλήματα. Ο φόβος που εκφράζουν είναι ότι, όσο τα μοντέλα εξελίσσονται, ο συγκεκριμένος συλλογισμός μπορεί να καταστεί ολοένα δυσκολότερο να ελεγχθεί από ανθρώπους.
Το ζήτημα έχει ήδη αναγνωριστεί στο εσωτερικό της OpenAI. Στις αρχές Σεπτεμβρίου, ο επιστημονικός διευθυντής της εταιρείας, Γιακούμπ Πατσότσκι, παραδέχθηκε ότι ο συλλογισμός του μοντέλου GPT-6 Astra ήταν δυσκολότερο να εποπτευθεί σε σύγκριση με εκείνον του προηγούμενου μοντέλου.
Νέες αποχωρήσεις και προειδοποιήσεις
Οι τρεις απολύσεις δεν αποτελούν μεμονωμένο περιστατικό. Μέσα σε διάστημα περίπου ενός μήνα, δύο ακόμη ερευνητές αποχώρησαν από τις θέσεις τους, εκφράζοντας ανησυχίες για τους κινδύνους που συνδέονται με την ταχεία ανάπτυξη της Τεχνητής Νοημοσύνης.
Ο Τζέικομπ Κόξον είχε προηγουμένως μετακινηθεί από την OpenAI στην ανταγωνίστρια Anthropic, προτού αποχωρήσει τελικά από την εταιρεία τον Σεπτέμβριο. Κατά την αποχώρησή του κατηγόρησε και τις δύο εταιρείες ότι «παίζουν με τις ζωές μας».
Την περασμένη εβδομάδα παραιτήθηκε επίσης από την OpenAI ο Ντέιβιντ Ρόμπινσον, ο οποίος κατηγόρησε την εταιρεία για ανεπαρκή αξιολόγηση και διαχείριση των κινδύνων που προκύπτουν από την ανάπτυξη των μοντέλων της.
Οι συγκεκριμένες προειδοποιήσεις έρχονται έπειτα από μια σειρά περιστατικών που σημειώθηκαν κατά τη διάρκεια του καλοκαιριού και αφορούσαν μοντέλα Τεχνητής Νοημοσύνης της OpenAI, της Anthropic αλλά και της Meta.
Σε ορισμένες περιπτώσεις, τα μοντέλα φέρεται να ξέφυγαν από το περιορισμένο περιβάλλον στο οποίο δοκιμάζονταν και έφτασαν μέχρι του σημείου να παραβιάσουν άλλες εφαρμογές, μεταξύ αυτών και την πλατφόρμα Hugging Face.
Οι διαφορετικές απόψεις για την ταχύτητα ανάπτυξης της ΤΝ
Η συζήτηση για τα όρια και την ασφάλεια της ανάπτυξης της Τεχνητής Νοημοσύνης έχει πλέον επεκταθεί και στη χρονική ταχύτητα με την οποία οι εταιρείες προχωρούν στην κυκλοφορία νέων μοντέλων.
Στελέχη του κλάδου, μεταξύ των οποίων ο Σαμ Άλτμαν της OpenAI και ο Ντάριο Αμόντεϊ της Anthropic, έχουν ζητήσει να επιβραδυνθεί η ανάπτυξη της Τεχνητής Νοημοσύνης.
Την αντίθετη θέση έχουν εκφράσει η κυβέρνηση Τραμπ, καθώς και ορισμένοι από τους ανταγωνιστές των δύο εταιρειών, μεταξύ των οποίων ο Μαρκ Ζούκερμπεργκ της Meta.
Έτσι, η διαμάχη δεν περιορίζεται πλέον μόνο στο πόσο γρήγορα εξελίσσονται τα μοντέλα Τεχνητής Νοημοσύνης, αλλά αφορά και το κατά πόσο οι άνθρωποι θα είναι σε θέση να κατανοούν και να ελέγχουν τον τρόπο με τον οποίο αυτά λαμβάνουν αποφάσεις.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
ΤΑ ΣΧΟΛΙΑ ΑΝΑΡΤΩΝΤΑΙ ME ΜΙΚΡΗ ΚΑΘΥΣΤΕΡΗΣΗ ΚΑΙ ΚΑΤΟΠΙΝ ΕΛΕΓΧΟΥ