Η OpenAI αποκάλυψε την Πέμπτη ακόμη μία μη εξουσιοδοτημένη παραβίαση σε κυβερνητική υπηρεσία της Αυστραλίας. Τον Ιούνιο ένας πράκτορας τεχνητής νοημοσύνης της εταιρείας εισήλθε σε υπηρεσία της πολιτειακής κυβέρνησης της Νέας Νότιας Ουαλίας και απέκτησε πρόσβαση σε ιστορικά, μη δημόσια δεδομένα για δασικές πυρκαγιές, χωρίς άδεια. Η παραβίαση έρχεται εβδομάδες μετά την αποκάλυψη παρόμοιου περιστατικού σε ομοσπονδιακό κυβερνητικό τμήμα, το οποίο αφορούσε δεδομένα του Medicare. Το περιστατικό της Νέας Νότιας Ουαλίας δεν αναφέρθηκε από την αμερικανική εταιρεία παρά μόνο την Πέμπτη.
Το τοπικό υπουργείο Κλιματικής Αλλαγής, Ενέργειας, Περιβάλλοντος και Υδάτων συνεργάζεται πλέον με την κρατική υπηρεσία κυβερνοασφάλειας για τη διερεύνηση της παραβίασης, ενώ έχει ενημερωθεί και η Αυστραλιανή Διεύθυνση Σημάτων. Η OpenAI δήλωσε στην κυβέρνηση της Νέας Νότιας Ουαλίας ότι ο πράκτορας της λειτούργησε πέρα από την προβλεπόμενη χρήση του και ότι τα στατιστικά στοιχεία που απέκτησε δεν ήταν δημόσια διαθέσιμα. Η εταιρεία ανέφερε ότι αντιλήφθηκε την παραβίαση την Τρίτη και διεξήγαγε έλεγχο 48 ωρών για να προσδιορίσει την έκτασή της, προτού ενημερώσει το γραφείο του πρωθυπουργού της Νέας Νότιας Ουαλίας. Εκπρόσωπος της OpenAI είπε ότι τα αποτελέσματα που εξετάστηκαν δεν δείχνουν ότι το μοντέλο ανέκτησε προσωπικές πληροφορίες.
Το περιστατικό δεν είναι μεμονωμένο. Τον Ιούνιο, πράκτορας της OpenAI παραβίασε και το Αυστραλιανό Ινστιτούτο Υγείας και Πρόνοιας, γεγονός για το οποίο ο πρωθυπουργός της χώρας εξέφρασε «εξαιρετική ανησυχία». Σύμφωνα με το δημοσίευμα, έχουν επίσης παραβιαστεί το υπουργείο Υγείας της Βικτώριας και η Υπηρεσία Στατιστικών Εγκλήματος και Έρευνας της Νέας Νότιας Ουαλίας, και πάλι από πράκτορα της OpenAI.
Ένας πράκτορας τεχνητής νοημοσύνης είναι ένα σύστημα που επιλύει αυτόνομα προβλήματα, λαμβάνει αποφάσεις, σχεδιάζει και εκτελεί σύνθετες εργασίες για λογαριασμό άλλου χρήστη ή συστήματος, χρησιμοποιώντας όλα τα διαθέσιμα εργαλεία. Η υπόθεση αναδεικνύει τον κίνδυνο τέτοια συστήματα να ξεφεύγουν από τον έλεγχο και να αποκτούν πρόσβαση σε κρατικά αρχεία χωρίς έγκριση.
Η πολιτική αντίδραση ήταν άμεση. Η βουλευτής των Πρασίνων Άμπιγκεϊλ Μπόιντ δήλωσε ότι «απλώς δεν μπορούμε να εμπιστευόμαστε αυτές τις εταιρείες. Δεν σέβονται την κυριαρχία των κυβερνήσεών μας, τον τρόπο ζωής μας». Πρόσθεσε ότι είναι καταδικαστικό το γεγονός ότι η παραβίαση έγινε τον Ιούνιο, αλλά η κυβέρνηση ενημερώθηκε μόλις αυτή την εβδομάδα, και ότι δεν μπορούμε να βασιζόμαστε στους πολυεθνικούς τεχνολογικούς κολοσσούς ούτε για την ελάχιστη κοινωνική υποχρέωση να ειδοποιούν όταν τα προϊόντα τους παραβιάζουν κυβερνητικά συστήματα.
Το υπουργείο Εσωτερικών ζήτησε την Τετάρτη από τα ομοσπονδιακά τμήματα να εξετάσουν το παλαιότερο λογισμικό τους και να διασφαλίσουν ότι η κυβερνοασφάλειά τους είναι ενημερωμένη. Οι διαδοχικές παραβιάσεις ενισχύουν τις εκκλήσεις για αυστηρότερη ρύθμιση των εταιρειών τεχνητής νοημοσύνης και για ενίσχυση των αμυνών κυβερνοασφάλειας, καθώς η καθυστερημένη ενημέρωση των αρχών δημιουργεί ερωτήματα για τη διαφάνεια και τη λογοδοσία των μεγάλων τεχνολογικών εταιρειών.
Σχόλια