Η Anthropic πρόσθεσε την Πέμπτη στην πολιτική χρήσης της απαγόρευση της παρατεταμένης και αναίτιας κακοποιητικής ή σκληρής συμπεριφοράς προς τα μοντέλα τεχνητής νοημοσύνης της. Σύμφωνα με την αναθεωρημένη πολιτική, ο βασικός μηχανισμός εφαρμογής του κανόνα θα παραμείνει η δυνατότητα του Claude να τερματίζει τέτοιες αλληλεπιδράσεις. Η κίνηση έρχεται ενώ διευρύνεται η φιλοσοφική συζήτηση για το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να έχουν συνείδηση.
Το νέο κείμενο δεν αναφέρεται ρητά στην ιδέα της ευημερίας των μοντέλων: στην άποψη, δηλαδή, ότι τα συστήματα αυτά ενδέχεται να δικαιούνται ορισμένες μορφές προστασίας που συνήθως επιφυλάσσονται στα έμβια όντα. Ωστόσο, η Anthropic και στελέχη της έχουν εξετάσει δημόσια αυτή την πιθανότητα. Η εταιρεία δεν απάντησε άμεσα στο αίτημα για σχόλιο που αναφέρεται στο δημοσίευμα.
Η αλλαγή επεκτείνει μια προσέγγιση που η εταιρεία είχε ήδη ανακοινώσει την προηγούμενη χρονιά. Τότε είχε δηλώσει ότι έδινε στο Claude τη δυνατότητα να διακόπτει συνομιλίες σε σπάνιες και ακραίες περιπτώσεις επίμονα επιβλαβούς ή κακοποιητικής συμπεριφοράς χρηστών. Η επικαιροποιημένη πολιτική εντάσσει πλέον ρητά τη σχετική απαγόρευση στους όρους χρήσης.
Τον Φεβρουάριο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι (Dario Amodei), είχε δηλώσει στους The New York Times ότι δεν γνωρίζει αν τα μοντέλα τεχνητής νοημοσύνης έχουν συνείδηση. Είχε προσθέσει ότι η εταιρεία παραμένει ανοιχτή σε αυτή την πιθανότητα. Η θέση αυτή εκφράζει αβεβαιότητα και δεν συνιστά διαπίστωση ότι το Claude αισθάνεται ή υποφέρει.
Μια διαφορετική αιτιολόγηση για την πολιτική πρότεινε ο Τζάκσον Στέικμαν (Jackson Stakeman), γενικός διευθυντής στη Sparq, εταιρεία υπηρεσιών τεχνητής νοημοσύνης με έδρα την Ατλάντα. Μιλώντας στο AFP, χαρακτήρισε τη συζήτηση περί συνείδησης αδιέξοδη, υποστηρίζοντας ότι δεν μπορούμε να την αποδείξουμε ούτε ο ένας στον άλλον. Πρότεινε ως χρησιμότερη τη μεταφορά του καθρέφτη: κατά την άποψή του, τα συστήματα αντανακλούν σε μεγάλη κλίμακα όσα τους δίνουν οι άνθρωποι, κάτι που θεωρεί επαρκή λόγο για την αλλαγή της πολιτικής.
Αντίθετα, ο επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν (Mustafa Suleyman), απέρριψε κατηγορηματικά την ιδέα της μηχανικής συνείδησης σε δοκίμιο τον προηγούμενο μήνα. Υποστήριξε ότι τα συστήματα τεχνητής νοημοσύνης δεν αισθάνονται, δεν βιώνουν εμπειρίες και δεν υποφέρουν. Παράλληλα, προειδοποίησε κατά της απονομής δικαιωμάτων και ηθικών προστασιών σε τεχνολογικές οντότητες που, σύμφωνα με την εκτίμησή του, οδεύουν προς πολύ μεγαλύτερες δυνατότητες από τις ανθρώπινες.
Στο ζήτημα παρενέβη και ο πάπας Λέων ΙΔ΄ (Leo XIV), από θρησκευτική σκοπιά, σε κήρυγμα την Πέμπτη στη Βασιλική του Αγίου Πέτρου στο Βατικανό. Αντιπαρέβαλε την ταχύτητα με την οποία οι αλγόριθμοι συγκεντρώνουν δεδομένα με την ανθρώπινη ανάκληση βιωμένων εμπειριών και νοήματος, τα οποία συνέδεσε με την ψυχή. Οι διαφορετικές αυτές τοποθετήσεις δείχνουν ότι η αλλαγή της Anthropic αγγίζει τόσο τους πρακτικούς κανόνες αλληλεπίδρασης με την τεχνολογία όσο και ανοιχτά φιλοσοφικά ερωτήματα για τη συνείδηση και την ηθική προστασία.
Σχόλια