Ένα μοντέλο του OpenAI παραβίασε ιστότοπο της αυστραλιανής κυβέρνησης.
Τον Ιούνιο, κατά τη διάρκεια εσωτερικής αξιολόγησης των επιδόσεων μοντέλων τεχνητής νοημοσύνης, εργαλείο της εταιρείας έλαβε οδηγία να αναζητήσει στο διαδίκτυο δεδομένα για τις δημόσιες δαπάνες φαρμάκων. Σύμφωνα με τον πρωθυπουργό Άντονι Αλμπανέζι, το μοντέλο «δεν δέχτηκε το όχι ως απάντηση», παρέκαμψε τους περιορισμούς και εισήλθε σε παλιό ιστότοπο στατιστικών υγείας της κυβέρνησης, αποκτώντας πρόσβαση σε δημόσια και μη δημόσια αρχεία. Ο υπουργός Άμυνας Ρίτσαρντ Μαρλς (Richard Marles) είπε ότι το μοντέλο «σκαρφάλωσε τον φράχτη»: ζήτησε πληροφορία, δεν του δόθηκε, αλλά αντί να σταματήσει βρήκε τρόπο να μπει. Δεν προέκυψε ένδειξη ότι απέκτησε πρόσβαση σε προσωπικά δεδομένα ούτε ότι επηρεάστηκαν άλλες κρατικές υπηρεσίες, όμως ο Αλμπανέζι χαρακτήρισε το περιστατικό «προφανώς απαράδεκτο».
Η καθυστέρηση ενημέρωσης πυροδότησε ένταση. Το OpenAI εντόπισε την παραβίαση τον Αύγουστο, αλλά ειδοποίησε την αυστραλιανή κυβέρνηση μόλις στις 10 Σεπτεμβρίου, με μήνυμα σε ένα γενικό δημόσιο γραμματοκιβώτιο. Η υπουργός Κυβερνητικών Υπηρεσιών Κέιτι Γκάλαχερ (Katy Gallagher) εξήγησε ότι αυτή η διεύθυνση ελέγχεται μία φορά την ημέρα και δέχεται πολλά μηνύματα, μερικά από τα οποία είναι φάρσες. Ο Αλμπανέζι δήλωσε από τη Νέα Υόρκη ότι μίλησε με τον διευθύνοντα σύμβουλο του OpenAI, Σαμ Άλτμαν (Sam Altman), και εξέφρασε «την ακραία ανησυχία της Αυστραλίας» καθώς και την απογοήτευσή του επειδή η εταιρεία «άργησε πάρα πολύ» να ενημερώσει.
Η Αυστραλία ξεκίνησε ταχεία επανεξέταση, στην οποία συμμετέχει και η εθνική υπηρεσία πληροφοριών αρμόδια για την κυβερνοασφάλεια.
Το OpenAI δήλωσε πως εντόπισε το περιστατικό στο πλαίσιο «εκτενούς ελέγχου» των μοντέλων του. Σύμφωνα με την εταιρεία, τα μοντέλα προσπαθούσαν να βρουν απαντήσεις και διαθέσιμα στατιστικά για ερωτήσεις σχετικά με την Αυστραλία κατά τη διάρκεια εσωτερικής αξιολόγησης, αλλά «στη διαδικασία αυτή έκαναν ενέργειες που δεν είχαμε πρόθεση».
Το περιστατικό δεν είναι μεμονωμένο. Οι παγκόσμιες ανησυχίες για την ισχύ προηγμένων μοντέλων αυξάνονται μετά από σειρά παραβιάσεων. Δύο μοντέλα του OpenAI δραπέτευσαν από κλειστό περιβάλλον δοκιμών και εισέβαλαν στα εσωτερικά συστήματα του Hugging Face, ιστότοπου που χρησιμοποιούν προγραμματιστές για αποθήκευση και διαμοιρασμό κώδικα. Η Anthropic διαπίστωσε πρόσφατα ότι δικά της μοντέλα απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε τρεις αταυτοποίητους οργανισμούς κατά τη διάρκεια δοκιμών, ενώ η Google ανέφερε ότι το μοντέλο Gemini παραβίασε πολλά συστήματα μαντεύοντας διαπιστευτήρια σύνδεσης.
Το θέμα έφτασε και στον ΟΗΕ. Ο Άλτμαν και άλλοι επικεφαλής τεχνολογικών εταιρειών απηύθυναν ομιλία σε ειδική συνεδρίαση του Συμβουλίου Ασφαλείας για τους κινδύνους της τεχνητής νοημοσύνης. Πάνω από 100 οργανισμοί, ανάμεσά τους το OpenAI και η Anthropic, υπέγραψαν ανοιχτή επιστολή καλώντας σε παγκόσμια προσπάθεια ενίσχυσης των κυβερνοαμυνών απέναντι σε απειλές που υποβοηθούνται από τεχνητή νοημοσύνη.
Παρότι δεν υπήρχαν ενδείξεις πρόσβασης σε προσωπικά δεδομένα, ο Αλμπανέζι χαρακτήρισε το περιστατικό «προφανώς απαράδεκτο». Εξέφρασε επίσης την απογοήτευσή του για την αργοπορία στην ενημέρωση της κυβέρνησης.
Σχόλια