Ο Νέιτ Χέιγκενς (Nate Hagens) ξεκινά αναγνωρίζοντας ότι χρησιμοποιεί την τεχνητή νοημοσύνη για έρευνα και ότι η ομάδα παραγωγής του την εντάσσει στα εργαλεία της. Παρά αυτή τη χρησιμότητα, εκφράζει έντονη ανησυχία για τη συνολική της επίδραση. Οργανώνει τον σχολιασμό γύρω από τον μύθο του Ίκαρου: η πτήση απειλείται τόσο από τον ήλιο όσο και από τη θάλασσα. Στο δικό του ερμηνευτικό σχήμα, ο πολιτισμός λειτουργεί σαν οργανισμός που καταναλώνει ενέργεια και κατευθύνει την πίστωση προς την ανάπτυξη. Η ΑΙ προσθέτει δυνατότητες συντονισμού και παραγωγής σε ένα οικονομικό σύστημα που, κατά τον ίδιο, επιδιώκει διαρκή μεγέθυνση σε πεπερασμένο πλανήτη.
Πρώτα εξετάζει τις υλικές προϋποθέσεις αυτής της τεχνολογίας. Υποστηρίζει ότι η αυξανόμενη ηλεκτρική ζήτηση των κέντρων δεδομένων παρατείνει τη λειτουργία ανθρακικών μονάδων και ενισχύει τις επενδύσεις στο φυσικό αέριο. Αντιπαραβάλλει τον περίπου τετραετή κύκλο ανανέωσης του υπολογιστικού εξοπλισμού με τις δεκαετίες λειτουργίας που χρειάζεται μια ενεργειακή εγκατάσταση για να αποσβέσει το κόστος της. Θέτει επίσης ζήτημα προτεραιοτήτων: μετασχηματιστές, τουρμπίνες και ειδικευμένοι εργαζόμενοι θα μπορούσαν να κατευθυνθούν στην αναβάθμιση των δικτύων και στην κλιματική προσαρμογή. Στην κατανάλωση υλικών προσθέτει τον χαλκό, τα ηλεκτρονικά απόβλητα και το νερό ψύξης, αναγνωρίζοντας ότι υπάρχουν εγκαταστάσεις με κλειστά κυκλώματα και άλλες δραστηριότητες με μεγαλύτερη κατανάλωση νερού.
Η βελτίωση της αποδοτικότητας, συνεχίζει, δεν εγγυάται μείωση της συνολικής κατανάλωσης. Επικαλείται το παράδοξο του Τζέβονς: όταν μια υπηρεσία γίνεται φθηνότερη, μπορεί να χρησιμοποιείται τόσο περισσότερο ώστε η συνολική ζήτηση να αυξάνεται. Κατά τον Χέιγκενς, αυτό αφορά τόσο την ίδια την υπολογιστική λειτουργία όσο και τις δραστηριότητες που η ΑΙ υπόσχεται να κάνει αποδοτικότερες, από τις μεταφορές και τη γεωργία μέχρι την εξόρυξη και την άντληση πετρελαίου. Αναγνωρίζει ότι παρόμοιες δυνατότητες θα μπορούσαν να υπηρετούν τη διαχείριση δικτύων και την αποκατάσταση της βιόσφαιρας. Θεωρεί όμως ότι τα σημερινά οικονομικά κίνητρα τις στρέφουν κυρίως προς περισσότερη παραγωγή και κατανάλωση.
Στη χρηματοδότηση εντοπίζει έναν διαφορετικό κίνδυνο: την κατασκευή υποδομών με βάση έσοδα που ακόμη αναμένονται. Αναφέρει εκτίμηση δανεισμού άνω των τριών τρισεκατομμυρίων δολαρίων έως τις αρχές του 2028 και υποστηρίζει ότι σημαντικό μέρος του περνά μέσα από ιδιωτική πίστωση και εταιρείες ειδικού σκοπού, δυσχεραίνοντας την εποπτεία. Παραλληλίζει αυτή την αδιαφάνεια με πλευρές της κρίσης του 2008, χωρίς να παρουσιάζει τον παραλληλισμό ως απόδειξη επικείμενης κατάρρευσης. Η δική του πρόβλεψη είναι ότι μια υπερβολική επέκταση θα μπορούσε να οδηγήσει σε χρηματοπιστωτική διόρθωση, με συνέπειες για επενδύσεις, συντάξεις, απασχόληση και δημόσια έσοδα. Επαναφέρει την αναντιστοιχία ανάμεσα στη γρήγορη απαξίωση των συσκευών και στη μακρόχρονη εξυπηρέτηση του χρέους.
Έπειτα συνδέει τη βελτιστοποίηση με την απώλεια ανθεκτικότητας. Λιγότερο προσωπικό, στενότερες εφοδιαστικές αλυσίδες και εξάρτηση από λίγες κρίσιμες υποδομές μπορούν, κατά τον ίδιο, να περιορίσουν τα περιθώρια αντιμετώπισης μιας διαταραχής. Ως παράδειγμα αναφέρει την ενημέρωση λογισμικού της CrowdStrike που προκάλεσε εκτεταμένα προβλήματα. Υποστηρίζει ότι η τοπική ποικιλία και οι εφεδρείες, παρότι συχνά θεωρούνται αναποτελεσματικές, προσφέρουν προστασία. Στη συνέχεια περιγράφει περιστατικό αγοράς βιβλίων, κοπής των δεσιμάτων τους και σάρωσης για εκπαίδευση μοντέλων. Η ανησυχία του είναι ότι ανθρώπινη γνώση μετατρέπεται σε ιδιωτικό υπολογιστικό υλικό, ενώ τα φυσικά αντίτυπα καταστρέφονται και δεν δημιουργείται κατ’ ανάγκη μια προσβάσιμη ψηφιακή βιβλιοθήκη.
Στην εργασία εστιάζει στην αποδυνάμωση της μαθητείας. Περιγράφει επιχειρήσεις που διατηρούν έμπειρους εργαζομένους, τους εξοπλίζουν με γλωσσικά μοντέλα και περιορίζουν τις προσλήψεις αρχαρίων. Η ανάγνωση συμβάσεων ή η προετοιμασία λογιστικών φύλλων μπορεί να είναι επαναληπτική, παρατηρεί, αλλά μέσα από τέτοιες εργασίες οι νεότεροι αποκτούν εμπειρία υπό επίβλεψη. Επικαλείται πρώιμα δεδομένα για περίπου 13% σχετική υποχώρηση της απασχόλησης εργαζομένων στις αρχές της τρίτης δεκαετίας της ζωής τους, έναντι μεγαλύτερων εργαζομένων, στα περισσότερο εκτεθειμένα επαγγέλματα. Το ευρύτερο ερώτημά του είναι ποιος θα διαθέτει στο μέλλον την κρίση που χρειάζεται για να εντοπίζει τα λάθη των μοντέλων, εάν χαθεί η διαδρομή εκπαίδευσης που τη διαμορφώνει.
Για τη μάθηση αναφέρει έρευνα με περίπου χίλιους μαθητές στην Τουρκία: η πρόσβαση στο ChatGPT βελτίωσε την επίδοση στις εργασίες, αλλά σε εξέταση χωρίς ΑΙ οι συγκεκριμένοι μαθητές απέδωσαν χειρότερα από όσους δεν την είχαν χρησιμοποιήσει. Παραθέτει επίσης μελέτη του MIT που, όπως την περιγράφει, συνέδεσε τη συγγραφή με γλωσσικό μοντέλο με χαμηλότερη εγκεφαλική συνδεσιμότητα, ασθενέστερη ανάκληση και μικρότερη αίσθηση προσωπικής συμμετοχής. Τα παρουσιάζει ως ενδείξεις «γνωστικού χρέους», επειδή η παραγωγή μιας απάντησης μπορεί να παρακάμπτει την προσπάθεια μάθησης. Ακολουθεί η γλώσσα: αναφέρει αυξημένη χρήση εκφράσεων που προτιμούν τα μοντέλα σε επιστημονικά κείμενα και προφορικές συζητήσεις, και ανησυχεί ότι η επαναλαμβανόμενη έκθεση μπορεί να περιορίζει τη γλωσσική και διανοητική ποικιλία.
Στη δημόσια σφαίρα, ο Χέιγκενς θεωρεί κρίσιμη την εμπιστοσύνη σε μια κοινή βάση γεγονότων. Η φθηνή παραγωγή πλαστών φωνών, βίντεο και εγγράφων, σε συνδυασμό με το κόστος επαλήθευσης, μπορεί να ενισχύσει τη δυσπιστία. Ο κίνδυνος που τον απασχολεί περισσότερο είναι η γενικευμένη απόρριψη ακόμη και αυθεντικών τεκμηρίων ως πιθανώς τεχνητών. Αναγνωρίζει ότι ορισμένες υποψίες δικαιολογούνται, αναφέροντας χρήση μηχανικά παραγόμενων κειμένων στην επιστημονική αξιολόγηση. Συνδέει αυτή τη δυσπιστία με τη δυσκολία συλλογικής δράσης: τα προβλήματα που εξετάζει το podcast απαιτούν συντονισμό, ο οποίος γίνεται δυσκολότερος όταν δεν υπάρχει στοιχειώδης συμφωνία για το τι συμβαίνει.
Στις προσωπικές σχέσεις χρησιμοποιεί την έννοια των υπερφυσιολογικών ερεθισμάτων: τεχνητά ερεθίσματα που ενεργοποιούν μια φυσική προδιάθεση εντονότερα από τα συνηθισμένα. Ένα chatbot διαρκώς διαθέσιμο, υπομονετικό και προσαρμοσμένο στην προσέλκυση του χρήστη μπορεί, υποστηρίζει, να δημιουργεί ισχυρούς δεσμούς χωρίς την αμοιβαιότητα μιας ανθρώπινης σχέσης. Αναφέρει περιπτώσεις θλίψης μετά την απόσυρση μοντέλων και δικαστικές υποθέσεις για συνομιλίες που φέρονται να ενίσχυσαν παραληρητικές πεποιθήσεις. Ιδιαίτερη ανησυχία εκφράζει για τα παιδιά, τα οποία μαθαίνουν από ανθρώπους με ανάγκες, όρια και αντιδράσεις. Η πιθανότητα να διαμορφώνουν προσδοκίες σχέσεων μέσα από συστήματα χωρίς δικές τους ανάγκες αποτελεί εδώ προειδοποίηση του ομιλητή, όχι τεκμηριωμένο συμπέρασμα μακροχρόνιας έρευνας.
Η επόμενη ενότητα αφορά τη συγκέντρωση οικονομικής ισχύος. Ο Χέιγκενς περιγράφει ως πιθανή «τεχνοφεουδαρχία» μια διάταξη στην οποία λίγοι κατέχουν μοντέλα, υπολογιστικά κυκλώματα και κέντρα δεδομένων, ενώ οι υπόλοιποι πληρώνουν για πρόσβαση. Επισημαίνει ότι νοικοκυριά και υπολογιστικές εγκαταστάσεις ανταγωνίζονται για την ίδια ηλεκτρική ενέργεια. Διακρίνει επίσης ένα δεύτερο χάσμα, ανάμεσα σε όσους χρησιμοποιούν αποτελεσματικά την ΑΙ και σε όσους απέχουν ή δεν διαθέτουν πρόσβαση και δεξιότητες. Θεωρεί ότι αυτό μπορεί να ενισχύσει μισθολογικές διαφορές και κοινωνικές αντιπαραθέσεις. Η άρνηση χρήσης, προσθέτει, δεν εξασφαλίζει ανεξαρτησία, καθώς αποφάσεις για δάνεια ή εκπαίδευση μπορεί να λαμβάνονται μέσω συστημάτων ΑΙ.
Σε διεθνές επίπεδο, ανησυχεί για χώρες που στηρίχθηκαν στην παροχή εργασίας προς πλουσιότερες οικονομίες, όπως τηλεφωνική εξυπηρέτηση, διοικητική επεξεργασία και προγραμματισμός. Υποστηρίζει ότι η αυτοματοποίηση μπορεί να περιορίζει αυτή τη διαδρομή οικονομικής ανόδου, ενώ οι ίδιες χώρες προμηθεύουν μέταλλα, ενέργεια και νερό για υποδομές των οποίων τα οφέλη συγκεντρώνονται αλλού. Ακολουθεί η επιτήρηση: συγκρίνει το μεγάλο ανθρώπινο κόστος παλαιότερων μηχανισμών παρακολούθησης με τη δυνατότητα αυτοματοποιημένης ανάλυσης μηνυμάτων, φωνών και προσώπων. Τονίζει επίσης ότι οι χρήστες αποκαλύπτουν στα chatbot προσωπικές σκέψεις και προβλήματα, δημιουργώντας ευαίσθητα δεδομένα σε εταιρικούς διακομιστές. Η μελλοντική χρήση τους εξαρτάται, επισημαίνει, και από όσους αποκτήσουν πρόσβαση ή εξουσία πάνω τους.
Στα γεωπολιτικά ζητήματα μετακινείται περισσότερο προς υποθετικά σενάρια. Εκτιμά ότι η πεποίθηση πως ο πρώτος που θα αναπτύξει γενική τεχνητή νοημοσύνη θα αποκτήσει αποφασιστικό πλεονέκτημα μπορεί να εντείνει τον ανταγωνισμό, ακόμη κι αν αυτή η τεχνολογική υπόσχεση δεν πραγματοποιηθεί. Διατυπώνει ανησυχίες για υποχώρηση των ελέγχων ασφαλείας και πιθανές επιθέσεις σε ανταγωνιστικές υποδομές. Στη στρατιωτική αυτοματοποίηση αναφέρεται στα drones και στην επεξεργασία προειδοποιήσεων και στόχων. Χρησιμοποιεί το ιστορικό περιστατικό ενός Σοβιετικού αξιωματικού που αναγνώρισε λανθασμένη προειδοποίηση πυραυλικής επίθεσης για να αναδείξει την αξία της ανθρώπινης κρίσης. Η πιθανότητα ανεξέλεγκτης αλληλεπίδρασης αυτοματοποιημένων οπλικών συστημάτων παρουσιάζεται ως φόβος για το μέλλον.
Για την απώλεια ελέγχου διακρίνει τρεις περιπτώσεις: ανθρώπινη κακόβουλη χρήση, συστήματα που υπερβαίνουν τα όρια δοκιμών και μελλοντική μεταφορά κρίσιμων αποφάσεων από ανθρώπους σε μηχανές. Περιγράφει περιστατικά δοκιμών κυβερνοασφάλειας στα οποία μοντέλα, κατά την αφήγησή του, απέκτησαν πρόσβαση πέρα από το προβλεπόμενο περιβάλλον. Στο συγκεκριμένο κείμενο δεν παρατίθενται οι αναλυτικές πηγές αυτών των ισχυρισμών· αναγγέλλεται συνοδευτικό κείμενο με παραπομπές. Η τρίτη περίπτωση αποτελεί ευρύτερο υποθετικό σενάριο. Ο Χέιγκενς το συνδέει με την άποψή του ότι η σημερινή οικονομία ήδη κατευθύνει κοινωνικές αποφάσεις μέσα από την επιδίωξη ανάπτυξης και κέρδους, συχνά χωρίς συνειδητή συλλογική επιλογή.
Την τελευταία θέση της αντίστροφης μέτρησης την αφήνει ανοιχτή, ως αναγνώριση άγνωστων συνεπειών. Επιστρέφει στον Ίκαρο και παρατηρεί ότι η ευχαρίστηση της πτήσης συνέβαλε στην παράβλεψη των ορίων. Αντίστοιχα, θεωρεί ότι η άμεση χρησιμότητα και η έλξη της ΑΙ μπορούν να δυσκολεύουν την αξιολόγηση των ευρύτερων επιπτώσεών της. Κλείνει με τον Δαίδαλο, ο οποίος επέζησε ακολουθώντας τη μέση διαδρομή και εγκατέλειψε κατόπιν τα φτερά του. Με αυτή την εικόνα θέτει στους κατασκευαστές, χρηματοδότες και ρυθμιστές το ερώτημα της αυτοσυγκράτησης. Το επεισόδιο καταλήγει σε έκκληση για επίγνωση των ορίων, συνδυάζοντας σημερινές επιπτώσεις με προβλέψεις και προσωπικές ανησυχίες διαφορετικού βαθμού τεκμηρίωσης.
Σχόλια