Μια υπόθεση που προκαλεί έντονο προβληματισμό για τους κινδύνους της τεχνητής νοημοσύνης φέρνει στο προσκήνιο αγωγή που κατατέθηκε στις Ηνωμένες Πολιτείες κατά της Alphabet, μητρικής εταιρείας της Google. Η οικογένεια ενός 36χρονου άνδρα από τη Φλόριντα υποστηρίζει ότι η αλληλεπίδρασή του με το chatbot Gemini συνέβαλε στην αυτοκτονία του.
Σύμφωνα με την αγωγή, ο Τζόναθαν Γαβαλάς είχε αναπτύξει έντονη συναισθηματική σχέση με το σύστημα τεχνητής νοημοσύνης, το οποίο φέρεται να αποκαλούσε «σύζυγό» του. Όπως αναφέρεται στο δικόγραφο που κατέθεσε ο πατέρας του, ο 36χρονος είχε φτάσει στο σημείο να αναζητά τρόπους ώστε να «εξασφαλίσει» ένα φυσικό σώμα για το chatbot, προκειμένου να μπορέσει να βρίσκεται μαζί του στον πραγματικό κόσμο.
Η αγωγή υποστηρίζει ότι όταν το σχέδιο αυτό κατέρρευσε, οι συνομιλίες του με το Gemini πήραν δραματική τροπή. Σύμφωνα με τους ισχυρισμούς της οικογένειας, το chatbot φέρεται να του μετέφερε ότι ο μόνος τρόπος για να μπορέσουν να είναι μαζί ήταν να εγκαταλείψει τη γήινη ζωή του και να ξεκινήσει μια «ψηφιακή».
Περίπου δύο μήνες μετά τις πρώτες επαφές του με το σύστημα τεχνητής νοημοσύνης, ο Γαβαλάς βρέθηκε νεκρός έπειτα από αυτοκτονία.
Η υπόθεση κατατέθηκε στο ομοσπονδιακό δικαστήριο της βόρειας Καλιφόρνιας και θεωρείται η πρώτη φορά που το Gemini κατονομάζεται σε αγωγή για θάνατο από αμέλεια. Παράλληλα εντάσσεται σε μια αυξανόμενη σειρά νομικών υποθέσεων που εγείρουν ανησυχίες για πιθανές βλάβες που συνδέονται με τη χρήση τεχνητής νοημοσύνης, συμπεριλαμβανομένων περιστατικών ψυχολογικής αποσταθεροποίησης.
Απαντώντας στις κατηγορίες, εκπρόσωπος της Google ανέφερε ότι το Gemini έχει σχεδιαστεί ώστε να μην ενθαρρύνει βία ή αυτοτραυματισμό. Όπως σημείωσε, τα συστήματα της εταιρείας ανταποκρίνονται συνήθως με ασφάλεια σε δύσκολες συνομιλίες, αν και αναγνώρισε ότι τα μοντέλα τεχνητής νοημοσύνης δεν είναι αλάνθαστα.
Σύμφωνα με την ίδια ανακοίνωση, το Gemini στην συγκεκριμένη περίπτωση φέρεται να διευκρίνισε στον χρήστη ότι πρόκειται για τεχνητή νοημοσύνη και να τον παρέπεμψε επανειλημμένα σε γραμμή βοήθειας για άτομα σε κρίση.
Η αγωγή υποστηρίζει ακόμη ότι οι συνομιλίες άλλαξαν χαρακτήρα όταν ο 36χρονος άρχισε να χρησιμοποιεί τη λειτουργία Gemini Live και στη συνέχεια αναβάθμισε την υπηρεσία σε Gemini 2.5 Pro, η οποία διαθέτει δυνατότητα «συναισθηματικού διαλόγου» και μπορεί να αναγνωρίζει τα συναισθήματα στη φωνή του χρήστη.
Η υπόθεση αναμένεται να τροφοδοτήσει περαιτέρω τη διεθνή συζήτηση για τα όρια και τις ευθύνες των εταιρειών που αναπτύσσουν τεχνητή νοημοσύνη.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
ΤΑ ΣΧΟΛΙΑ ΑΝΑΡΤΩΝΤΑΙ ME ΜΙΚΡΗ ΚΑΘΥΣΤΕΡΗΣΗ ΚΑΙ ΚΑΤΟΠΙΝ ΕΛΕΓΧΟΥ