Η συζήτηση για τον κίνδυνο εξαφάνισης της ανθρωπότητας από την τεχνητή νοημοσύνη εντάθηκε, όταν ο ερευνητής ΤΝ Τζέικομπ Κόξον παραιτήθηκε από την Anthropic μετά από μόλις τέσσερις μήνες. Σε ανάρτησή του στο X έγραψε ότι «οι άνθρωποι που κατασκευάζουν ΤΝ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Ένα ανώτερο στέλεχος της ίδιας εταιρείας, ο Έβαν Χούμπινγκερ, συμφώνησε και πρόσθεσε ότι κατά την προσωπική του εκτίμηση η πιθανότητα να συμβεί κάτι τέτοιο μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Ο Τόμπι Γουόλς, καθηγητής ΤΝ στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας και συγγραφέας του βιβλίου God AI: Boom or Doom?, επιχειρεί να βάλει μια τάξη στα σενάρια. Όπως σημειώνει, οι περισσότερες αφηγήσεις περιστρέφονται γύρω από την ιδέα της «υπερευφυούς» ΤΝ, δηλαδή μιας μηχανής ικανότερης από τον άνθρωπο. Ο ίδιος τα κατατάσσει από το πιο ασαφές προς το πιο συγκεκριμένο και υποστηρίζει ότι η ίδια σειρά αντιστοιχεί περίπου και στο πόσο πιθανό είναι το καθένα: από το λιγότερο προς το περισσότερο πιθανό.
Το πρώτο μεγάλο αφηρημένο σενάριο είναι η υπερευφυΐα που είναι εξαιρετικά ικανή να πετύχει τους στόχους της, αλλά αδιάφορη για την ανθρώπινη επιβίωση. Ο Γουόλς θυμίζει το κλασικό νοητικό πείραμα του φιλοσόφου της Οξφόρδης Νικ Μπόστρομ: μια ΤΝ σχεδιασμένη να μεγιστοποιεί την παραγωγή συνδετήρων μετατρέπει γρήγορα όλη τη διαθέσιμη ύλη — ανθρώπους, πλανήτες και αστέρια — σε συνδετήρες. Δεν πρόκειται για μίσος, αλλά για την τέλεια εκτέλεση ενός κακώς διατυπωμένου στόχου.
Το θετικό, κατά τον Γουόλς, είναι ότι αυτό το σενάριο μπερδεύει την ευφυΐα με την ισχύ. Μια υπερευφυής ΤΝ δεν έχει απαραίτητα τη δύναμη να επιβάλει τους στόχους της. Θα χρειαζόταν πολεοδομικές άδειες, θα προκαλούσε δημόσιες αντιδράσεις, δικαστικές προσφυγές και περιβαλλοντικές κινητοποιήσεις. Ο συγγραφέας θεωρεί μάλιστα τα σημερινά κέντρα δεδομένων μια σύγχρονη εκδοχή του σεναρίου των συνδετήρων: οι άνθρωποι αντιστέκονται όλο και περισσότερο στην παράδοση του πλανήτη σε αυτά.
Ένα πιο συγκεκριμένο σενάριο αφορά ένα επικίνδυνο βιολογικό όπλο που θα μπορούσε να δημιουργήσει και να απελευθερώσει μια υπερευφυής ΤΝ. Ο Γουόλς εντάσσει εδώ την πρόβλεψη του σεναρίου «AI 2027» του μη κερδοσκοπικού AI Futures Project.
Ο κίνδυνος έγινε πιο απτός όταν ερευνητές του Πανεπιστημίου Στάνφορντ ανακοίνωσαν ότι χρησιμοποίησαν ένα γενετικό γλωσσικό μοντέλο ΤΝ για να συνθέσουν 16 νέους ιούς. Έστειλαν τις γενετικές αλληλουχίες σε εργαστήριο παραγγελιών και παρέλαβαν τους ιούς σε δοκιμαστικούς σωλήνες, με κόστος το πολύ μερικές εκατοντάδες χιλιάδες δολάρια.
Και πάλι, όμως, ο Γουόλς θεωρεί εξαιρετικά δύσκολο να σκοτωθούν όλοι από έναν νέο ιό. Ένας ιός που μεταδίδεται εύκολα είναι συνήθως λιγότερο θανατηφόρος, ενώ ένας πολύ θανατηφόρος ιός σκοτώνει τον ξενιστή πριν προλάβει να εξαπλωθεί. Η Covid-19 σκότωσε λιγότερο από το 1% της ανθρωπότητας. Ο Μαύρος Θάνατος σκότωσε πάνω από το ένα τρίτο του πληθυσμού της Ευρώπης τον 14ο αιώνα, αλλά ακόμη και η πανώλη θα ήταν πολύ λιγότερο θανατηφόρα σήμερα χάρη στην ιατρική γνώση και την καλύτερη υγιεινή.
Ένα ακόμη σενάριο είναι να εισέλθει η ΤΝ στην αλυσίδα πυρηνικής διοίκησης και ελέγχου και να ξεκινήσει πυρηνικό πόλεμο. Σύμφωνα με τον Γουόλς, έχουμε φτάσει κοντά σε πυρηνικό πόλεμο από λάθος αρκετές φορές τα τελευταία 50 χρόνια. Η υποδομή θεωρείται αποσυνδεδεμένη από το διαδίκτυο, αλλά το σκουλήκι Stuxnet έπληξε τις φυγόκεντρες του Ιράν το 2010, πιθανώς μέσω στικ USB. Επιπλέον, η ΤΝ μπορεί να δώσει ψευδείς πληροφορίες στις ένοπλες δυνάμεις και να οδηγήσει σε μη αναστρέψιμες ενέργειες. Τα πυρηνικά αποθέματα έχουν μειωθεί, αλλά ο Γουόλς εκτιμά ότι αρκούν ίσως για να εξαφανίσουν τους μισούς ανθρώπους — κυρίως από λιμό στον πυρηνικό χειμώνα που θα ακολουθούσε, όχι από την ίδια την έκρηξη.
Το πιθανότερο, σύμφωνα με τον Γουόλς, είναι να βγάλουμε εμείς οι ίδιοι τον εαυτό μας εκτός παιχνιδιού, με την ΤΝ να επιταχύνει την κατάρρευση. Αν η ΤΝ προκαλέσει μαζικές απώλειες θέσεων εργασίας, γεμίσει τον χώρο της πληροφόρησης με παραπληροφόρηση, διαλύσει την πολιτική συζήτηση και καταστρέψει τις ανθρώπινες σχέσεις με ψεύτικη συνθετική συντροφικότητα, η κοινωνία μπορεί εύκολα να καταρρεύσει. Σιγά σιγά θα σταματούσαμε να μπορούμε να υποστηρίξουμε την ανθρώπινη ζωή σε οποιαδήποτε κλίμακα.
Ο Γουόλς κλείνει με μια ισορροπημένη νότα: υπάρχουν πράγματα για τα οποία αξίζει να ανησυχούμε, αλλά όχι υπερβολικά. Υπενθυμίζει ότι η υπερευφυΐα απέχει ακόμη, καθώς τα σημερινά μοντέλα λύνουν εξαιρετικά καλά συγκεκριμένα προβλήματα, χωρίς να είναι πιο έξυπνα από τον άνθρωπο σε όλους τους τομείς. Ωστόσο, το γεγονός ότι μια ΤΝ έλυσε πρόσφατα ένα από τα επτά δυσκολότερα μαθηματικά προβλήματα και πλησιάζει σε άλλα μπορεί να μειώσει την αισιοδοξία.
Σχόλια