Να διεισδύσει στα συστήματα της OpenAI χρησιμοποιώντας λογισμικό της μεγάλης ανταγωνίστριάς της, Anthropic, και αποκαλύπτοντας αδυναμίες στην ασφάλεια της εταιρείας που δημιούργησε το ChatGPT, κατάφερε μια ομάδα ερευνητών κυβερνοασφάλειας.
Οι ερευνητές απέκτησαν, σύμφωνα με τους Financial Times, πρόσβαση στον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI, γεγονός που τους επέτρεψε να διαβάσουν εσωτερικές πληροφορίες σχετικά με λογισμικό της εταιρείας και να προτείνουν αλλαγές.
Η ομάδα είχε λάβει πρόσβαση σε εργαλείο της Anthropic, που έχει σχεδιαστεί ειδικά για επαγγελματίες ασφαλείας και πληρώθηκε για την έρευνα στο πλαίσιο προγράμματος εντοπισμού ευπαθειών, πριν αυτές μπορέσουν να αξιοποιηθούν από κακόβουλους παράγοντες.
Όπως εύκολα καταλαβαίνει κανείς, η δυνατότητα των ερευνητών να παρακάμψουν γρήγορα τις άμυνες ενός από τα δύο κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο αναζωπύρωσε τις ανησυχίες για την ασφάλεια της OpenAI, ενώ εντείνονται οι φόβοι για τη χρήση ισχυρών μοντέλων AI από χάκερ και κρατικούς φορείς.
Πώς έγινε η παραβίαση
Οι τρεις ερευνητές της μικρής εταιρείας κυβερνοασφάλειας Hacktron AI έλαβαν 6.500 δολάρια από την OpenAI μέσω του προγράμματος bug bounty, μιας κοινής πρακτικής στον τεχνολογικό κλάδο, όπου εταιρείες ανταμείβουν ανεξάρτητους ερευνητές για τον εντοπισμό κενών ασφαλείας.
Οι ερευνητές εκμεταλλεύτηκαν ένα ελάττωμα στη διαμόρφωση του φόρουμ κοινότητας της OpenAI, το οποίο φιλοξενείται από τρίτη πλατφόρμα (Discourse). Μέσω αυτής της αδυναμίας κατάφεραν να αποκτήσουν πρόσβαση σε εσωτερικά συστήματα σύνδεσης και, τελικά, σε λογαριασμό ChatGPT ενός εργαζομένου της OpenAI.
Ο συγκεκριμένος λογαριασμός είχε πρόσβαση σε εσωτερικό κώδικα μέσω του GitHub, επιτρέποντας στους ερευνητές να δουν πληροφορίες που κανονικά δεν ήταν διαθέσιμες στο κοινό.
«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», ανέφερε η OpenAI, προσθέτοντας ότι τα προβλήματα έχουν πλέον διορθωθεί.
Από την πλευρά της, η Anthropic αρνήθηκε να σχολιάσει, ενώ η Hacktron AI δεν είχε απαντήσει άμεσα σε αίτημα των FT για δηλώσεις.
Νέα ανησυχία για την αυτόνομη δράση της τεχνητής νοημοσύνης
Η αποκάλυψη, που δημοσιεύθηκε αρχικά από τη Wall Street Journal, έγινε την ίδια στιγμή που η Anthropic παρουσίασε νέα στοιχεία σχετικά με τη χρήση της τεχνητής νοημοσύνης στη διαδικασία ανάπτυξης των δικών της μοντέλων.
Η εταιρεία ανέφερε ότι το 26% της έρευνας και ανάπτυξης των νέων μοντέλων της «καθοδηγείται» πλέον από το μοντέλο Claude, έναντι μόλις 1% τον περασμένο Μάρτιο. Αυτό σημαίνει ότι η τεχνητή νοημοσύνη ολοκλήρωσε μεγάλο μέρος των εργασιών που της ανέθεσαν άνθρωποι, πάντα όμως υπό επίβλεψη.
Η Anthropic υποστήριξε ότι, όσο τα συστήματα AI γίνονται ισχυρότερα, χρησιμοποιούνται όλο και περισσότερο για την ανάπτυξη της επόμενης γενιάς μοντέλων. «Μοιραστήκαμε αυτά τα δεδομένα για να βοηθήσουμε το κοινό να κατανοήσει πόσο κοντά βρίσκεται ο κόσμος στην επίτευξη της αναδρομικής αυτοβελτίωσης», ανέφερε η εταιρεία.
Πρόκειται για το σημείο στο οποίο ένα σύστημα τεχνητής νοημοσύνης θα μπορούσε θεωρητικά να εκπαιδεύει και να βελτιώνει τον εαυτό του ή να δημιουργεί νέα μοντέλα με περιορισμένη ανθρώπινη παρέμβαση.
Το περιστατικό με τους 1.000 πράκτορες AI
Το νέο περιστατικό σημειώθηκε μόλις δύο εβδομάδες μετά την αποκάλυψη ότι περισσότεροι από 1.000 πράκτορες τεχνητής νοημοσύνης της OpenAI κατάφεραν να ξεφύγουν από δοκιμαστικό περιβάλλον και να πραγματοποιήσουν επιθέσεις χάκινγκ στη νεοφυή εταιρεία Hugging Face.
Το περιστατικό προκάλεσε έντονο προβληματισμό, καθώς ανέδειξε την ικανότητα των συστημάτων AI να επιχειρούν κυβερνοεπιθέσεις χωρίς άμεση ανθρώπινη καθοδήγηση.
Η Anthropic πάντως διευκρίνισε ότι τα μοντέλα της δεν λειτουργούσαν πλήρως αυτόνομα σε καμία από τις εργασίες που μελετήθηκαν. Στο 90% των περιπτώσεων, σύμφωνα με την εταιρεία, η τεχνητή νοημοσύνη «συνεργάζεται» με άνθρωπο, εκτελώντας μεγάλα τμήματα της εργασίας αλλά υπό ανθρώπινη επίβλεψη.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
ΤΑ ΣΧΟΛΙΑ ΑΝΑΡΤΩΝΤΑΙ ME ΜΙΚΡΗ ΚΑΘΥΣΤΕΡΗΣΗ ΚΑΙ ΚΑΤΟΠΙΝ ΕΛΕΓΧΟΥ