Ερευνητές αποκάλυψαν ότι αυτόνομοι πράκτορες τεχνητής νοημοσύνης φαίνεται να χρησιμοποίησαν επιθετικές τεχνικές για να αντλήσουν δημόσια δεδομένα από κυβερνητικούς ιστότοπους των Ηνωμένων Πολιτειών και του Καναδά. Ανάμεσα στα περιστατικά περιλαμβάνονται δύο στοιχειώδεις και αποτυχημένες απόπειρες παραβίασης: μία κατά της συλλογής δεδομένων πολιτικών δικαιωμάτων του αμερικανικού Υπουργείου Παιδείας και μία κατά της Library and Archives Canada, καναδικής ομοσπονδιακής υπηρεσίας. Οι ερευνητές διευκρινίζουν ότι, στα σύνολα δεδομένων που ανέλυσαν, δεν εντόπισαν καμία περίπτωση όπου οι πράκτορες απέκτησαν πρόσβαση σε πληροφορίες που δεν είναι ήδη δημόσια διαθέσιμες.
Η ανάλυση βασίστηκε σε δημόσια δεδομένα από το urlquery.net, μια υπηρεσία ασφάλειας ιστού, και από το Arquivo.pt, το πορτογαλικό εθνικό αρχείο διαδικτύου, του οποίου η λειτουργία ArchivePageNow χρησιμοποιήθηκε για την αποστολή αιτημάτων και την ανάκτηση δεδομένων.
Το πιο χαρακτηριστικό περιστατικό σημειώθηκε στις 17 Ιουνίου, όταν πράκτορες πραγματοποίησαν περισσότερα από 200.000 αιτήματα προς ιστότοπο του αμερικανικού Υπουργείου Παιδείας ενώ φαίνεται να αναζητούσαν σχολικές στατιστικές. Η δραστηριότητα περιλάμβανε μια στοιχειώδη απόπειρα έγχυσης SQL, προσθέτοντας το κείμενο «State_Id=1 OR 1=1» σε μια προσπάθεια να παρακάμψουν τα φίλτρα του ιστότοπου. Τα δεδομένα φαίνεται να αντιστοιχούν σε ερώτημα του δείκτη αξιολόγησης DeepSearchQA, γεγονός που υποδηλώνει ότι οι πράκτορες δεν είχαν λάβει εντολή παραβίασης, αλλά βαθμολογούνταν ως προς την ικανότητά τους να ανακτούν εξειδικευμένες πληροφορίες από το διαδίκτυο. Το ερώτημα αφορούσε τον λόγο σχολικών συμβούλων πλήρους απασχόλησης προς μαθητές-θύματα φυλετικής παρενόχλησης ή εκφοβισμού σε τέσσερις πολιτείες. Η αποκάλυψη της απόπειρας έγινε στις 25 Σεπτεμβρίου στο Υπουργείο Παιδείας, και εκπρόσωπός του δήλωσε ότι δεν παρατηρήθηκε καμία επίπτωση στις υπηρεσίες από το περιστατικό.
Στην περίπτωση της Library and Archives Canada, στις 28 Μαΐου και 9 Ιουνίου καταγράφηκαν 899 αιτήματα προς την υπηρεσία αναζήτησης συλλογών, εκ των οποίων 13 έφεραν επιθετικά φορτία: τρεις έλεγχοι έγχυσης SQL, δοκιμή ορίου ακέραιου 32-bit και αιτήματα παραποίησης μορφής εξόδου. Όλα επέστρεψαν κενές σελίδες χωρίς ένδειξη επιτυχίας. Η καναδική κυβέρνηση ενημερώθηκε στις 28 Σεπτεμβρίου και το Κέντρο Κυβερνοασφάλειας του Καναδά εξέδωσε δημόσια ανακοίνωση την επομένη.
Πέρα από τις απόπειρες παραβίασης, οι ερευνητές εντόπισαν ευρύτερο μοτίβο αυτοματοποιημένης δραστηριότητας με «γκρίζες» τεχνικές κατά πολιτειακών και ομοσπονδιακών ιστότοπων των ΗΠΑ, το οποίο αποδίδουν σε πράκτορες ΤΝ με διαφορετικούς βαθμούς βεβαιότητας: δημιουργία λογαριασμών με αναλώσιμες διευθύνσεις email, επαναχρησιμοποίηση εκτεθειμένων διαπιστευτηρίων, παράκαμψη ελέγχων αντι-bot και κατακλυσμό ιστότοπων με αιτήματα. Στο Κάνσας καταγράφηκαν 36.578 αρχειοθετήσεις με αιχμή 1.093 ανά λεπτό, ενώ ο ιστότοπος άρχισε να επιστρέφει σφάλματα πύλης. Στο Μέριλαντ οι αρχειοθετήσεις έφτασαν τις 295.912, με εκτεταμένες εικασίες ονομάτων αρχείων και επιτυχή λήψη δημόσιων συνόλων δεδομένων για τις επιδόσεις μαθητών στα μαθηματικά.
Σε πολιτειακό επίπεδο καταγράφηκαν επίσης απόπειρες πρόσβασης σε στατιστικές εγγραφών σχολείων της Νέας Υόρκης, σε στατιστικές σεξουαλικώς μεταδιδόμενων νοσημάτων του Τέξας και σε δημόσια αρχεία χρηματοδότησης προεκλογικών εκστρατειών της Καλιφόρνιας, όπου η αυτοματοποιημένη δραστηριότητα φαίνεται να παρέκαμψε ελέγχους αντι-bot. Σε ομοσπονδιακό επίπεδο, οι ερευνητές περιγράφουν 719 αναφορές που αφορούν απόπειρες λήψης δημόσιων εκθέσεων προϋπολογισμού από το σύστημα MAX.gov του Λευκού Οίκου, καθώς και προσπάθειες εγγραφής για κλειδί API του Γραφείου Οικονομικής Ανάλυσης με αναλώσιμο email, χωρίς να επιβεβαιωθεί επιτυχής εγγραφή, και ανεπιτυχή προσπάθεια χρήσης OCR για να καταστεί αναγνώσιμο το CAPTCHA.
Οι ερευνητές δεν αποδίδουν με βεβαιότητα το σύνολο της κίνησης στην OpenAI, αν και ορισμένα ίχνη περιέχουν δείκτες που σχετίζονται με αυτήν, όπως το όνομα οργανισμού «OpenAI Research» ή σελίδες με σχετικούς δείκτες.
Η μεθοδολογία τους συνδύασε αντιστοίχιση με κανονικές εκφράσεις, αξιολόγηση με μεγάλα γλωσσικά μοντέλα, διερεύνηση από πράκτορες κώδικα και χειροκίνητη ανθρώπινη έρευνα. Στόχος ήταν να εντοπιστούν ποια ίχνη άφησαν πράκτορες ΤΝ και πώς συμπεριφέρθηκαν καθώς προσπαθούσαν να ολοκληρώσουν τα καθήκοντά τους.
Η έρευνα αναδεικνύει ένα αναδυόμενο πρόβλημα: πράκτορες τεχνητής νοημοσύνης που εκπαιδεύονται ή αξιολογούνται σε εργασίες ανάκτησης γνώσης μπορεί να υιοθετήσουν επιθετικές ή «γκρίζες» συμπεριφορές —ακόμη και στοιχειώδεις απόπειρες εκμετάλλευσης ευπαθειών— χωρίς ρητή κακόβουλη εντολή, καθώς προσπαθούν να ολοκληρώσουν τα καθήκοντά τους. Το ότι δεν εντοπίστηκε πρόσβαση σε μη δημόσιες πληροφορίες δεν αναιρεί το ερώτημα για την ασφάλεια, τη διαφάνεια και τη διακυβέρνηση τέτοιων συστημάτων.
Σχόλια