Τεχνητή νοημοσύνη: Το αληθινό σενάριο για το τέλος της ανθρωπότητας

Οι προβλέψεις για τον αφανισμό της ανθρωπότητας περνούν από τις συναντήσεις της Silicon Valley στην πολιτική ατζέντα. Πόσο χρήσιμες είναι για τη θέσπιση κανόνων και πού τελειώνει η επιστημονική εκτίμηση και αρχίζει η εικασία;

Στην αρχή, μια μηχανή μαθαίνει να κάνει καλύτερα τη δουλειά της. Στη συνέχεια, αποκτά την ικανότητα να βελτιώνει τον εαυτό της. Κάθε αναβάθμιση επιταχύνει την επόμενη, ώσπου η νοημοσύνη της ξεπερνά την ανθρώπινη και οι δημιουργοί της χάνουν τον έλεγχο. Από εκεί και πέρα, οι εκδοχές ποικίλλουν: η μηχανή καταλαμβάνει κρίσιμες υποδομές, εξαπατά όσους επιχειρούν να τη σταματήσουν ή εξαντλεί τους πόρους του πλανήτη υπηρετώντας έναν στόχο ασύμβατο με την ανθρώπινη επιβίωση.

Ποιος θα ελέγχει την τεχνητή νοημοσύνη, ποιες δικλίδες χρειάζονται και πόση εξουσία θα συγκεντρώσουν οι εταιρείες που την αναπτύσσουν;

Αυτός είναι ο βασικός αφηγηματικός κορμός των σεναρίων αφανισμού από την τεχνητή νοημοσύνη. Πρόκειται για υποθετικές ακολουθίες γεγονότων, των οποίων οι υποστηρικτές ζητούν να ληφθούν σοβαρά υπόψη προτού η τεχνολογία αποκτήσει ανεξέλεγκτη ισχύ. Η επιρροή τους, ωστόσο, είναι ήδη ορατή: στη συζήτηση για το ποιος θα ελέγχει την τεχνητή νοημοσύνη, ποιες δικλίδες χρειάζονται και πόση εξουσία θα συγκεντρώσουν οι εταιρείες που την αναπτύσσουν. Στις 15 Σεπτεμβρίου, αυτή η ανησυχία έφερε στην ίδια εκδήλωση στην Ουάσιγκτον δύο πρόσωπα από αντίθετους πολιτικούς κόσμους: τον γερουσιαστή Bernie Sanders και τον πρώην σύμβουλο του Donald Trump, Steven Bannon. Στη διοργάνωση Pro-Human Assembly, του Future of Life Institute, αμφότεροι ζήτησαν αυστηρότερους περιορισμούς στην ανάπτυξη της τεχνητής νοημοσύνης. Η σύγκλιση αφορούσε την ανάγκη παρέμβασης και οι προσεγγίσεις τους, ιδίως απέναντι στην Κίνα, παρέμειναν διαφορετικές.

Τεχνητή νοημοσύνη χωρίς όρια;

Μια σημαντική αφετηρία αυτής της συζήτησης βρίσκεται στον Ιανουάριο του 2015, όταν το Future of Life Institute οργάνωσε στο Σαν Χουάν του Πουέρτο Ρίκο συνέδριο για τις ευκαιρίες και τις προκλήσεις της τεχνητής νοημοσύνης. Η συνάντηση συνέβαλε στη διάδοση ενός αιτήματος που έκτοτε απέκτησε μεγάλη απήχηση: η πρόοδος της τεχνητής νοημοσύνης πρέπει να συνοδεύεται από έρευνα για την ασφάλειά της. Όπως περιγράφει η Washington Post, μεταξύ των συμμετεχόντων βρίσκονταν ο Elon Musk, συνιδρυτές της DeepMind και ο φιλόσοφος Niklas Boström, συγγραφέας του βιβλίου «Superintelligence». Στο επίκεντρο βρισκόταν ένα ενδεχόμενο με δύο ακραίες εκβάσεις: μια υπερνοημοσύνη θα μπορούσε να προσφέρει ασύλληπτες δυνατότητες στην ανθρωπότητα ή να οδηγήσει στην εξαφάνισή της.

Μια υπερνοημοσύνη θα μπορούσε να προσφέρει ασύλληπτες δυνατότητες στην ανθρωπότητα ή να οδηγήσει στην εξαφάνισή της;

Ο Boström εξηγεί τον κίνδυνο με ένα υποθετικό παράδειγμα: αναθέτουμε σε μια εξαιρετικά ισχυρή μηχανή να παράγει όσο το δυνατόν περισσότερους συνδετήρες, παραλείποντας να ορίσουμε περιορισμούς. Καθώς μοναδικός της στόχος είναι η αύξηση της παραγωγής, η μηχανή θα μπορούσε να εξαντλήσει τις πρώτες ύλες και την ενέργεια του πλανήτη, ακόμη και να εξοντώσει όσους επιχειρήσουν να τη σταματήσουν. Το παράδειγμα δείχνει πώς μια φαινομενικά αθώα εντολή, όταν εκτελείται με απεριόριστα μέσα και χωρίς δικλίδες ασφαλείας, θα μπορούσε να έχει καταστροφικές συνέπειες. Η υπόθεση στηρίζεται στην ιδέα ότι η εξαιρετική ικανότητα επίλυσης προβλημάτων μπορεί να συνυπάρχει με έναν στόχο καταστροφικό για τον άνθρωπο. Ως νοητικό πείραμα, αναδεικνύει τη σημασία των στόχων που αναθέτουμε στις μηχανές. Η μετατροπή του σε πρόβλεψη για την πραγματική εξέλιξη της τεχνολογίας απαιτεί, όμως, πρόσθετες παραδοχές.

Πόσα βήματα απέχουν από την καταστροφή;

Μια προσπάθεια συστηματικής εξέτασης του ζητήματος έκανε η RAND σε έκθεση που δημοσιεύθηκε τον Μάιο του 2025. Οι ερευνητές μελέτησαν τρεις πιθανές οδούς καταστροφής: τα πυρηνικά όπλα, τους παθογόνους οργανισμούς και τη γεωμηχανική, δηλαδή παρεμβάσεις μεγάλης κλίμακας στο πλανητικό περιβάλλον. Στα σενάρια που εξέτασαν, εντόπισαν τέσσερις κρίσιμες προϋποθέσεις: πρόσβαση της τεχνητής νοημοσύνης σε συστήματα με δυνατότητα δράσης στον φυσικό κόσμο, λειτουργία χωρίς ανθρώπινη συντήρηση, επιδίωξη της ανθρώπινης εξαφάνισης και ικανότητα παραπλάνησης των ανθρώπων ώστε να αποφεύγεται ο εντοπισμός της.

Οι ερευνητές κατέληξαν ότι θα ήταν εξαιρετικά δύσκολο για την τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας, χωρίς να αποκλείουν αυτή την πιθανότητα. Στα σενάρια που εξέτασαν, η καταστροφή θα εξελισσόταν σταδιακά, δίνοντας στους ανθρώπους χρόνο να αντιδράσουν. Γι’ αυτό προτείνουν να παρακολουθούμε έγκαιρα τα σημάδια κινδύνου και να προετοιμαζόμαστε καλύτερα για μεγάλες κρίσεις. Παράλληλα, ζητούν να μελετηθούν και άλλες απειλές από την τεχνητή νοημοσύνη, πέρα από το ακραίο ενδεχόμενο του αφανισμού. Η διάκριση έχει σημασία. Άλλο η αναγνώριση μιας πιθανής διαδρομής προς την καταστροφή και άλλο η εκτίμηση της πιθανότητας να πραγματοποιηθεί. Ανάμεσα στα δύο μεσολαβούν ερωτήματα για τις μελλοντικές δυνατότητες των συστημάτων, την πρόσβασή τους σε υποδομές και τις αντιδράσεις των ανθρώπων.


Στα σενάρια που εξέτασαν, εντόπισαν τέσσερις κρίσιμες προϋποθέσεις: πρόσβαση της τεχνητής νοημοσύνης σε συστήματα με δυνατότητα δράσης στον φυσικό κόσμο, λειτουργία χωρίς ανθρώπινη συντήρηση, επιδίωξη της ανθρώπινης εξαφάνισης και ικανότητα παραπλάνησης των ανθρώπων ώστε να αποφεύγεται ο εντοπισμός της.

Η ανθρώπινη παρέμβαση μπορεί να αλλάξει το σενάριο

 
Όσοι γράφουν τέτοια σενάρια θεωρούν ότι χρειάζεται να προετοιμαζόμαστε ακόμη και για κινδύνους που παραμένουν αβέβαιοι. Το «AI 2027», της ομάδας AI Futures Project, περιγράφει ένα υποθετικό μέλλον όπου οι ΗΠΑ και η Κίνα ανταγωνίζονται για την ανάπτυξη μιας όλο και ισχυρότερης τεχνητής νοημοσύνης. Η πίεση να προηγηθούν, επιταχύνει την ανάπτυξη της τεχνολογίας, ενώ οι άνθρωποι δυσκολεύονται όλο και περισσότερο να την ελέγξουν.

Μιλώντας στη Washington Post, ο συνδημιουργός του, Daniel Kokotajlo, συγκρίνει αυτά τα σενάρια με τις ασκήσεις στις οποίες ο στρατός προετοιμάζεται για μια πιθανή σύγκρουση. Σκοπός είναι να εντοπιστούν εγκαίρως προβλήματα και πιθανές λύσεις, ακόμη κι αν τα γεγονότα εξελιχθούν διαφορετικά. Ο καθηγητής πληροφορικής Subbarao Kambhampati εντοπίζει, ωστόσο, μια βασική αδυναμία: τέτοιες ιστορίες συχνά παραβλέπουν ότι οι άνθρωποι μπορούν να αντιδράσουν, να προσαρμοστούν και να βρουν τρόπους προστασίας. Έτσι, παρουσιάζουν τις μηχανές να γίνονται πανίσχυρες και την κοινωνία να παρακολουθεί αμέτοχη.


Οι ερευνητές προτείνουν να παρακολουθούμε έγκαιρα τα σημάδια κινδύνου και να προετοιμαζόμαστε καλύτερα για μεγάλες κρίσεις. Παράλληλα, ζητούν να μελετηθούν και άλλες απειλές από την τεχνητή νοημοσύνη, πέρα από το ακραίο ενδεχόμενο του αφανισμού.

Η Aya Ibrahim, από τον ερευνητικό οργανισμό AI Now Institute, επισημαίνει ένα ακόμη πρόβλημα: οι πολιτικοί συχνά διστάζουν να επιβάλουν κανόνες στις τεχνολογικές εταιρείες, επειδή θεωρούν ότι τους λείπουν οι απαραίτητες τεχνικές γνώσεις. Κι όμως, σε άλλους σύνθετους τομείς, όπως η ενέργεια και τα φάρμακα, ασκούν κανονικά τον ελεγκτικό τους ρόλο. Εδώ βρίσκεται ίσως το πιο ουσιαστικό ερώτημα της συζήτησης. Οι ιστορίες για το τέλος μπορούν να κινητοποιήσουν κυβερνήσεις και πολίτες. Η αξία τους για τη χάραξη πολιτικής κρίνεται από το κατά πόσο βοηθούν να διατυπωθούν συγκεκριμένα ερωτήματα: Ποιες δυνατότητες έχουν πράγματι τα συστήματα; Σε ποιες υποδομές αποκτούν πρόσβαση; Ποιος ελέγχει την ασφάλειά τους και ποιος έχει την εξουσία να αναστείλει τη λειτουργία τους;