Η συζήτηση για τον ανθρώπινο έλεγχο της τεχνητής νοημοσύνης προϋποθέτει μια απάντηση σε ένα βαθύτερο ερώτημα: τι εννοούμε όταν λέμε «άνθρωπος»; Στο Noema, ο αρχισυντάκτης του περιοδικού Νέιθαν Γκάρντελς (Nathan Gardels) εξετάζει την άποψη ότι ο άνθρωπος συγκροτείται μέσα από σχέσεις με άλλους οργανισμούς, το περιβάλλον και τις τεχνολογίες του. Με αυτή την έννοια, η «μεταανθρώπινη» κατάσταση περιγράφει μια αλληλεξάρτηση που υπάρχει ήδη. Το άρθρο χρησιμοποιεί αυτή την οπτική για να επανεξετάσει τόσο τη σχέση μας με τις μηχανές όσο και τη θέση της ανθρώπινης εμπειρίας μέσα σε αυτή.
Κεντρική θέση στο επιχείρημα έχει η Ν. Κάθριν Χέιλς (N. Katherine Hayles), συγγραφέας του «Bacteria to AI: Human Futures with our Non-human Symbionts». Μιλώντας στο podcast Futurology, υποστηρίζει ότι η έννοια του ανθρώπου μεταβάλλεται ανάλογα με την εποχή και τον πολιτισμό. Κατά την ίδια, παραμένει κυρίαρχη η αντίληψη που συνδέεται με τον Διαφωτισμό: ένα αυτόνομο, μεμονωμένο ον με ορθολογική ελεύθερη βούληση. Η Χέιλς αμφισβητεί αυτή την εικόνα, επειδή θεωρεί ότι οι άνθρωποι υπήρξαν πάντοτε ενταγμένοι σε ένα πλέγμα σχέσεων που διαμορφώνει την αντίληψη, τις ερμηνείες, τις αποφάσεις και τις πράξεις τους.
Ως χαρακτηριστικό παράδειγμα αυτής της σχέσης με τη μη ανθρώπινη ζωή, το άρθρο αναφέρει τα βακτήρια του εντέρου και τις ζωτικές βιολογικές λειτουργίες τους. Η Χέιλς επεκτείνει το ίδιο σκεπτικό στις υπολογιστικές τεχνολογίες: μικροκυκλώματα, δρομολογητές και συσκευές ελέγχουν, επεξεργάζονται και διακινούν τις πληροφορίες μέσα στις οποίες κινούμαστε. Υπογραμμίζει ότι στις τεχνολογικά ανεπτυγμένες κοινωνίες η εξάρτηση αυτή αφορά βασικές λειτουργίες, από τη μεταφορά τροφίμων και τις πτήσεις μέχρι τις χρηματοπιστωτικές συναλλαγές. Η αλληλεξάρτηση, επομένως, αφορά την υλική οργάνωση της ζωής όσο και τον τρόπο με τον οποίο σκεφτόμαστε.
Για να περιγράψει αυτή τη συνθήκη, η Χέιλς μιλά για κατανεμημένη νόηση και κατανεμημένη λήψη αποφάσεων μεταξύ ανθρώπινων και μη ανθρώπινων συμμετεχόντων. Χρησιμοποιεί επίσης τις έννοιες των «γνωσιακών συναρμογών» και της δικτυωμένης νοημοσύνης: σύνολα στα οποία διαφορετικοί συμμετέχοντες συνδέονται κατά την επεξεργασία πληροφοριών και την επιλογή ενεργειών. Ο όρος «μεταανθρώπινο» δηλώνει εδώ ότι έχουμε ήδη ενταχθεί σε ένα κοινό γνωσιακό πλαίσιο με τα υπολογιστικά μέσα. Για τον Γκάρντελς, αυτή η συμβίωση δυσκολεύει τον σαφή προσδιορισμό του ποιος ή τι ασκεί τον έλεγχο.
Μια συγγενική ερμηνεία προτείνει ο Κέβιν Κέλι (Kevin Kelly), ο οποίος σε άλλη συζήτηση του Futurology υποστηρίζει ότι βρισκόμαστε ήδη μέσα στην τεχνολογική «μοναδικότητα». Με τον όρο αυτό περιγράφει τη σταδιακή συνένωση ανθρώπων και μηχανών, μια διαδικασία που εξελίσσεται καθώς βαθαίνει η αλληλεξάρτησή τους. Κατά τον Κέλι, το μέγεθος της αλλαγής θα γίνει περισσότερο κατανοητό όταν μπορέσουμε να την εξετάσουμε αναδρομικά. Η διαδικασία παραμένει ανοιχτή σε νέους συνδυασμούς και δημιουργικές δυνατότητες, χωρίς ένα προκαθορισμένο τελικό σημείο.
Η Χέιλς, ωστόσο, αποστασιοποιείται από τη διανθρωπιστική ιδέα ότι η ανθρώπινη συνείδηση θα μπορούσε κάποτε να μεταφορτωθεί σε ένα μη βιολογικό υπόστρωμα. Υποστηρίζει ότι η τεχνητή νοημοσύνη δεν μπορεί από μόνη της να αποκτήσει συνείδηση, επειδή στερείται της ενσώματης εμπειρίας και της εξελικτικής διαδρομής που διαμόρφωσαν την ανθρώπινη νοημοσύνη. Στη δική της προσέγγιση, η γλώσσα παραπέμπει σε εμπειρίες ζωής τις οποίες ένα μεγάλο γλωσσικό μοντέλο δεν μοιράζεται. Η παραγωγή γλωσσικών ακολουθιών ή η εκτέλεση συλλογιστικών βημάτων δεν ισοδυναμεί, κατά την ίδια, με το ανθρώπινο βίωμα του νοήματος.
Το άρθρο συνδέει αυτό το επιχείρημα με τη θέση του νευροεπιστήμονα Αντόνιο Νταμάζιο (Antonio Damasio), ο οποίος τοποθετεί στη ρίζα του συναισθήματος και της αυτοεπίγνωσης την ομοιοστατική προσπάθεια διατήρησης της ζωής. Παραθέτει επίσης την άποψη του πάπα Λέοντα ΙΔ΄ (Leo XIV) ότι τα συστήματα τεχνητής νοημοσύνης στερούνται σώματος, χαράς, πόνου και της ωρίμανσης που προκύπτει μέσα από σχέσεις. Στην προσέγγιση αυτή, η προσομοίωση ενσυναίσθησης και κατανόησης δεν συνεπάγεται εσωτερική γνώση της αγάπης, της εργασίας, της φιλίας ή της ευθύνης. Αυτή η διάκριση αποτελεί μέρος του φιλοσοφικού επιχειρήματος για τη σημασία της ανθρώπινης συμμετοχής.
Ο Γκάρντελς καταλήγει ότι ο ανθρώπινος έλεγχος της τεχνητής νοημοσύνης απαιτεί ενεργή παρουσία της βιωμένης εμπειρίας μέσα στα κοινά δίκτυα ανθρώπων και μηχανών. Δίνει έμφαση στον άνθρωπο ως ολόκληρο πρόσωπο, που συγκροτείται μέσα από σχέσεις με άλλους και με τη φύση. Σύμφωνα με αυτή τη θέση, ο περιορισμός της αυτόνομης δράσης των συστημάτων χρειάζεται να συνοδεύεται από τη συνειδητή ενσωμάτωση αυτής της αντίληψης στις αποφάσεις τους. Το ζητούμενο του άρθρου είναι πώς η ήδη υπάρχουσα τεχνολογική συμβίωση μπορεί να διατηρεί ουσιαστικό χώρο για την ανθρώπινη εμπειρία και ευθύνη.
Σχόλια