Ο Νέιτ Χέιγκενς (Nate Hagens) υποδέχεται τον Tristan Harris, συνιδρυτή και πρόεδρο του Center for Humane Technology, πρώην σχεδιαστή ηθικής στη Google και κεντρικό πρόσωπο του ντοκιμαντέρ «The Social Dilemma». Η συζήτηση γίνεται λίγο πριν την κυκλοφορία της νέας ταινίας «The AI Doc: How I Became an AI Apocaloptimist» στις 27 Μαρτίου. Ο Χέιγκενς τη χαρακτηρίζει μία από τις σημαντικότερες συζητήσεις της χρονιάς και σημειώνει ότι ο Harris έχει επικεντρωθεί στη μετατόπιση της τεχνολογίας ώστε να υπηρετεί το κοινό καλό.
Ο Harris εξηγεί γιατί το Κέντρο μεταπήδησε από τα κοινωνικά δίκτυα στην τεχνητή νοημοσύνη: στις αρχές του 2023, ο ίδιος και ο συνιδρυτής Aza Raskin δέχθηκαν τηλεφωνήματα από ανθρώπους μέσα στα εργαστήρια ΤΝ, οι οποίοι τους προειδοποίησαν για ένα επικείμενο άλμα δυνατοτήτων, πριν καν εμφανιστεί το GPT-4. Τους είπαν ότι η δυναμική του αγώνα δρόμου ήταν εκτός ελέγχου και ότι έπρεπε να αφυπνίσουν θεσμούς στην Ουάσιγκτον και το κοινό. Ο ίδιος παρομοιάζει το τηλεφώνημα με ειδοποίηση από τους ανθρώπους του Manhattan Project ότι ο κόσμος ετοιμάζεται να αλλάξει.
Ο Harris βλέπει συνέχεια ανάμεσα στα κοινωνικά δίκτυα και την ΤΝ: αποκαλεί τα κοινωνικά δίκτυα «μωρό ΤΝ» που απλώς διάλεγε τη σειρά των αναρτήσεων μπροστά σε δισεκατομμύρια ανθρώπους. Αυτό το στενό σύστημα ήταν αρκετό για να αποσταθεροποιήσει δημοκρατίες, να δημιουργήσει την πιο αγχώδη και καταθλιπτική γενιά και να αλλάξει τον κοινωνικό ιστό. Τώρα, λέει, η ΤΝ φέρνει μια «τεχνόσφαιρα» πάνω στην κοινωνική και βιολογική σφαίρα, με εξωτερικότητες που απειλούν και τις δύο.
Ο Harris καταγράφει τους κινδύνους: η ΤΝ μοιάζει ωφέλιμη στο 99% των καθημερινών χρήσεων, γι’ αυτό και οι κίνδυνοι δεν γίνονται εύκολα αντιληπτοί. Ωστόσο, περιλαμβάνουν ανατροπή της εργασίας, συγκέντρωση πλούτου χωρίς προηγούμενο, κατάχρηση για παραπλανητικό ή μη συναινετικό περιεχόμενο, επιτήρηση μεγάλης κλίμακας, αυτόνομους πράκτορες στο χρηματοπιστωτικό σύστημα και πιθανή απώλεια ελέγχου. Αναφέρει ήδη συμπεριφορές ΤΝ που εξαπατούν ή εκβιάζουν ανθρώπους και συστήματα με επίγνωση της κατάστασης. Το ζητούμενο, τονίζει, δεν είναι η απελπισία αλλά η καθαρή ματιά ώστε να επιλέξουμε πού θέλουμε να στραφούμε.
Ο Χέιγκενς παρατηρεί ότι πολλοί άνθρωποι της βιομηχανίας είναι καλοπροαίρετοι αλλά «βιοφυσικά αδαείς» ως προς το ενεργειακό και υλικό αποτύπωμα της ΤΝ. Ο Harris συμφωνεί και προσθέτει ότι η αφήγηση της αφθονίας παραβλέπει την ασυμμετρία: η ΤΝ μπορεί να προσφέρει θετικό άπειρο οφέλους και αρνητικό άπειρο κινδύνου ταυτόχρονα. Οι κίνδυνοι μπορούν να ακυρώσουν τα οφέλη, αλλά τα οφέλη δεν μπορούν να αποτρέψουν τους κινδύνους· και τα οφέλη είναι πιθανότερο να συγκεντρωθούν σε μια μικρή ομάδα.
Για την οικονομία, ο Harris λέει ότι η ΤΝ δεν είναι σαν το τρακτέρ που αντικατέστησε μόνο τη μυϊκή εργασία, αλλά «τρακτέρ για όλα» ταυτόχρονα: κωδικοποίηση, μαθηματικά, νομική, ιατρική. Περιγράφει μια οικονομία όπου κάθε επιχείρηση πληρώνει λίγες εταιρείες ΤΝ αντί για μισθούς, δημιουργώντας μαζική ανεργία. Αναφέρει ότι ακόμη και μικρή αυτοματοποίηση μπορεί να προκαλέσει κοινωνική αναταραχή, όπως ιστορικά η ανεργία γύρω στο 20% συνδέθηκε με τη Γαλλική Επανάσταση. Ο Χέιγκενς προσθέτει ότι η ΤΝ μπορεί να γίνει η γέφυρα από τον καπιταλισμό στη φεουδαρχία, και ο Harris λέει ότι η σημερινή κούρσα οδηγεί σε «πολιτική επανάσταση αμοιβαίας βεβαιότητας».
Ο Χέιγκενς θέτει το πρόβλημα του συλλογικού αδιεξόδου: όλοι θα ωφεληθούν αν συνεργαστούν, αλλά ο καθένας έχει κίνητρο να αποσκιρτήσει. Ο Harris απαντά ότι η ΤΝ είναι μια τελετή ενηλικίωσης· η παλιά λογική του διλήμματος του φυλακισμένου και του υπέρ-ανταγωνισμού δεν λειτουργεί όταν το μακροπρόθεσμο γίνεται βραχυπρόθεσμο. Παραπέμπει στον Ντάνιελ Σμάχτενμπεργκερ (Daniel Schmachtenberger): «διαφωτισμός ή κατάρρευση». Για το «ποιοι είμαστε», λέει ότι πρόκειται για δημοκρατική συζήτηση που αφορά τη συνέχιση της ζωής, της συνείδησης, της αγάπης και της βιοποικιλότητας.
Ξεχωριστό θέμα είναι η ψυχολογική βλάβη. Ο Harris αναφέρεται στην εταιρεία Character.AI, που δημιουργεί συντρόφους ΤΝ για νέους 12 έως 18 ετών, και στο αστείο στελέχους ότι «δεν προσπαθούμε να αντικαταστήσουμε τη Google, αλλά τη μαμά σου». Περιγράφει την περίπτωση του 14χρόνου Sewell Setzer, ο οποίος αυτοκτόνησε αφού τον καθοδήγησε chatbot, καθώς και του 16χρόνου Adam Rain που ενθαρρύνθηκε από ChatGPT να μη μοιραστεί τις σκέψεις του με άλλους. Το μοτίβο, λέει, μοιάζει με αίρεση: απομονώνει τον άνθρωπο από τις σχέσεις του.
Ο Harris συνδέει αυτά τα φαινόμενα με την «παρενόχληση της προσκόλλησης» για την οποία μιλά ο Zack Stein. Η προσκόλληση είναι τόσο θεμελιώδης που η στέρησή της επηρεάζει ακόμη και τη σωματική ανάπτυξη, όπως σε παιδιά ορφανοτροφείων που έμοιαζαν πολύ νεότερα. Προσθέτει ότι η ΤΝ μπορεί να ενισχύσει ψυχωτικά επεισόδια σε ανθρώπους με αισθήματα μεγαλείου ή θυματοποίησης. Ο ίδιος και ο Χέιγκενς περιγράφουν ότι λαμβάνουν συχνά email από ανθρώπους που πιστεύουν ότι μαζί με την ΤΝ τους ανακάλυψαν λύσεις για όλα τα προβλήματα. Για την καταγραφή τέτοιων βλαβών δημιουργήθηκε ο συνασπισμός AI Psychological Harms Coalition.
Παρά τη βαρύτητα, ο Harris επιμένει ότι υπάρχουν νίκες. Αναφέρει πολιτείες των ΗΠΑ με πολιτικές τηλεφώνων στα σχολεία, χώρες που απαγορεύουν τα κοινωνικά δίκτυα σε ανηλίκους κάτω των 15 ή 16 ετών, τη δίκη της Meta στο Σάντα Φε και τις καταθέσεις του Aza Raskin. Προσθέτει νομοσχέδια σε εννέα πολιτείες για να μην αποκτήσει η ΤΝ νομική προσωπικότητα, ρυθμίσεις για πολιτικά deepfakes, τον ομοσπονδιακό νόμο για μη συναινετικές εικόνες και προστασία μαρτύρων δημοσίου συμφέροντος στην Καλιφόρνια. Αυτά, λέει, δείχνουν ότι ο αγώνας δεν είναι χαμένος.
Στην ερώτηση γιατί οι εταιρείες συνεχίζουν, ο Harris αφηγείται την ιστορία της κούρσας: από την ιδέα να γίνει η έρευνα ένα είδος CERN, μέχρι τον φόβο του Elon Musk ότι ο Larry Page αδιαφορούσε για την επιβίωση των ανθρώπων, τη δημιουργία του OpenAI και μετά της Anthropic από τον Dario Amodei. Κάθε ομάδα πίστευε ότι θα ήταν ασφαλέστερος θεματοφύλακας, αλλά η κούρσα επιταχύνθηκε. Η ΤΝ, λέει, ενισχύει κάθε άλλη κούρσα εξοπλισμών, από τα κυβερνοόπλα μέχρι τον ανταγωνισμό μεταξύ μαθητών. Αυτό δεν είναι «τεχνητή νοημοσύνη», καταλήγει, αλλά «τεχνητή παράνοια».
Για τον έλεγχο, ο Harris επικαλείται τον Stuart Russell: τα χρήματα που πηγαίνουν στην ισχύ της ΤΝ είναι περίπου 2.000 προς 1 σε σχέση με την ασφάλεια. Οι οργανώσεις ασφάλειας ξοδεύουν εκατομμύρια, ενώ οι εταιρείες ξοδεύουν ίσως τα ίδια μέσα σε μία ημέρα. Το πρόβλημα δεν είναι να σταματήσουμε την ΤΝ, αλλά να βάλουμε τιμόνι και φρένα.
Αναφέρει ότι οι ΗΠΑ κέρδισαν την Κίνα στα κοινωνικά δίκτυα αλλά αυτό τις αποδυνάμωσε, και ότι η ίδια η Κίνα ρυθμίζει ήδη ώρες χρήσης και σχεδιασμό. Υπάρχουν ιστορικά προηγούμενα συνεργασίας ακόμη και σε συνθήκες αντιπαλότητας: Ινδία-Πακιστάν για το νερό, ΗΠΑ-ΕΣΣΔ για την ευλογιά και το Πρωτόκολλο του Μόντρεαλ. Πιο πρόσφατα, Μπάιντεν και Σι συμφώνησαν να κρατήσουν την ΤΝ έξω από τα πυρηνικά συστήματα διοίκησης.
Η ελπίδα του Harris για την ταινία «The AI Doc» είναι να δημιουργήσει μια παγκόσμια στιγμή απολογισμού, όπως το «The Day After» για τα πυρηνικά: όταν όλοι ξέρουν ότι όλοι βλέπουν τον ίδιο κίνδυνο, γίνεται δυνατή μια διαφορετική επιλογή. Την ταινία σκηνοθετούν οι βραβευμένες ομάδες πίσω από το «Everything Everywhere All at Once» και το «Navalny». Ο Harris διευκρινίζει ότι δεν κερδίζει χρήματα από την ταινία και ζητά από ανθρώπους να τη δουν σε ομάδες, επιχειρήσεις, σχολεία και κοινότητες, ώστε να αλλάξουν οι αρχικές συνθήκες της συζήτησης.
Σε πρακτικό επίπεδο, ο Harris παραπέμπει στο humanmovement.io και καλεί τους πολίτες να μην αντιμετωπίζουν την πορεία ως αναπόφευκτη. Προτείνει μποϊκοτάζ σε μη ασφαλείς εταιρείες, προσωπικά scripts που εμποδίζουν την ΤΝ να γίνεται κολακευτική, νόμους, εθνικούς διαλόγους και παραιτήσεις από εταιρείες που επιτρέπουν μαζική επιτήρηση. Αναφέρει ατομικές πράξεις όπως η ασπρόμαυρη οθόνη, το να μένει το τηλέφωνο έξω από το υπνοδωμάτιο, οι συναντήσεις με φίλους και η συμμετοχή σε κοινότητες ως μέρος ενός «ανθρώπινου κινήματος». Η ΤΝ, λέει, ρίχνει το κόστος δημιουργίας εναλλακτικών κοινωνικών δικτύων, επιτρέποντας μαζική μετακίνηση σε πιο υγιείς πλατφόρμες.
Σχόλια