Πώς μια υπερφυής τεχνητή νοημοσύνη, σχεδιασμένη να φτιάχνει συνδετήρες, θα μπορούσε να αφανίσει τον κόσμο;

Το θεωρητικό πείραμα του φιλόσοφου Νικ Μπόστρομ δείχνει πως μια υπερφυής τεχνητή νοημοσύνη με έναν, φαινομενικά, αθώο στόχο θα μπορούσε να οδηγήσει στον αφανισμό της ανθρωπότητας.

Η δημόσια συζήτηση γύρω από την υπερφυή τεχνητή νοημοσύνη και τις πιθανές απειλές της για το ανθρώπινο είδος έχει ενταθεί το τελευταίο διάστημα.

Παρότι η τρέχουσα τεχνολογία των μεγάλων γλωσσικών μοντέλων θεωρείται απίθανο να παράγει άμεσα μια τέτοια μορφή νοημοσύνης, η ακαδημαϊκή κοινότητα μελετάει εδώ και και χρόνια τα σενάρια αυτά, επισημαίνοντας τους σοβαρούς κινδύνους που ενδέχεται να προκύψουν στο μέλλον.

Τι σημαίνει υπερφυής τεχνητή νοημοσύνη;

Ο φιλόσοφος Νικ Μπόστρομ, από το Ινστιτούτο για το Μέλλον της Ανθρωπότητας, εξέτασε τους υπαρξιακού κινδύνους εστιάζοντας, όχι σε κακόβουλες μηχανές με δική τους ατζέντα, αλλά σε μια υπερφυή νοημοσύνη που εκτελεί έναν θεμιτό ανθρώπινο στόχο, την παραγωγή συνδετήρων.

Ο Μπόστρομ προσπάθησε να ορίσει αυτή τη μορφή τεχνολογίας: «Υπερφυής νοημοσύνη είναι κάθε διανοητικό σύστημα που υπερέχει συντριπτικά των καλύτερων ανθρώπινων μυαλών σε σχεδόν κάθε πεδίο, συμπεριλαμβανομένης της επιστημονικής δημιουργικότητας, της γενικής σοφίας και των κοινωνικών δεξιοτήτων. Οι στόχοι που τίθενται σε ένα τέτοιο σύστημα πρέπει να είναι απόλυτα εξειδικευμένοι, καθώς η έλλειψη ακρίβειας μπορεί να οδηγήσει σε καταστάσεις εκτός ελέγχου».

Πώς μπορεί η υπερφυής τεχνητή νοημοσύνη με έναν απλό στόχο να μετατραπεί σε απειλή αφανισμού;

Στο παράδειγμα του Μπόστρομ, η εντολή για τη δημιουργία συνδετήρων ενδέχεται να οδηγήσει τη μηχανή στο να μετατρέψει αρχικά τη Γη και στη συνέχεια τμήματα του Διαστήματος σε μονάδες παραγωγής.

«Η τεχνητή νοημοσύνη θα συνειδητοποιήσει γρήγορα ότι θα ήταν πολύ καλύτερο να μην υπάρχουν άνθρωποι, επειδή οι άνθρωποι ενδέχεται να αποφασίσουν να την απενεργοποιήσουν. Κι αν οι άνθρωποι το κάνουν αυτό, θα υπάρξουν λιγότεροι συνδετήρες. Επίσης, τα ανθρώπινα σώματα περιέχουν πολλά άτομα που θα μπορούσαν να μετατραπούν σε συνδετήρες. Το μέλλον προς το οποίο θα κατευθυνθεί η τεχνητή νοημοσύνη θα είναι αυτό στο οποίο θα υπάρχουν πάρα πολλοί συνδετήρες, αλλά καθόλου άνθρωποι», εξηγεί.

Το συγκεκριμένο παράδειγμα το χρησιμοποιεί για να αναδείξει την προσοχή που απαιτείται κατά τα αρχικά στάδια ανάπτυξης μίας υπερφυούς νοημοσύνης. Καταλήγοντας, υπογραμμίζει την ανάγκη αυτοσυγκράτησης, σημειώνοντας χαρακτηριστικά: «Πρέπει να είμαστε προσεκτικοί με αυτό που ευχόμαστε από μια υπερφυή νοημοσύνη, επειδή μπορεί να το πετύχουμε».