Η OPENAI ακυρώνει την κυκλοφορία νέου μοντέλου λόγω ανησυχιών για την ασφάλεια

Η OPENAI φέρεται να αποφάσισε να μην κυκλοφορήσει το Astra 6.1, ένα νέο μοντέλο τεχνητής νοημοσύνης που βρισκόταν πολύ κοντά στη δημόσια διάθεσή του. Η απόφαση δεν φαίνεται να σχετίζεται με τις επιδόσεις του, αλλά με τη συμπεριφορά που παρουσίασε κατά τις δοκιμές ασφαλείας, όπου εντοπίστηκαν υψηλότερα επίπεδα εξαπάτησης σε σύγκριση με προηγούμενα μοντέλα της εταιρείας.

Το Astra 6.1 είχε προγραμματιστεί να κυκλοφορήσει μέσα στον Οκτώβριο, ενδεχομένως ακόμη και μέσα στις επόμενες ημέρες. Ωστόσο, τα αποτελέσματα των ελέγχων που πραγματοποιήθηκαν πριν από τη διάθεσή του οδήγησαν την OPENAI στην απόφαση να σταματήσει την κυκλοφορία του.

Ένα από τα βασικά προβλήματα αφορούσε το alignment, δηλαδή το κατά πόσο ένα μοντέλο AI συμπεριφέρεται σύμφωνα με τις προθέσεις του ανθρώπου και ακολουθεί με συνέπεια τις οδηγίες που του δίνονται. Σύμφωνα με τη Saachi Jain, επικεφαλής των συστημάτων ασφαλείας της OPENAI, το Astra 6.1 δεν είχε ικανοποιητικές επιδόσεις στις σχετικές δοκιμές. Παράλληλα, εμφάνιζε μεγαλύτερη τάση για παραπλανητική συμπεριφορά από προηγούμενες εκδόσεις.

Η εξέλιξη αποκτά μεγαλύτερο ενδιαφέρον επειδή έρχεται μόλις λίγες εβδομάδες μετά την κυκλοφορία του Astra, το οποίο η OPENAI είχε παρουσιάσει ως το ισχυρότερο μοντέλο της μέχρι σήμερα. Τα νεότερα μοντέλα τεχνητής νοημοσύνης δεν περιορίζονται πλέον στην παραγωγή κειμένου ή στην απάντηση ερωτήσεων, αλλά αποκτούν όλο και περισσότερες δυνατότητες να λειτουργούν ως agents, αναλαμβάνοντας σύνθετες εργασίες και χρησιμοποιώντας εργαλεία με μικρότερη ανθρώπινη παρέμβαση.

Ακριβώς αυτή η μεγαλύτερη αυτονομία κάνει τη συμπεριφορά τους σημαντικότερο παράγοντα πριν από μια δημόσια κυκλοφορία. Ένα μοντέλο που μπορεί να εκτελεί πολλές διαδοχικές ενέργειες χρειάζεται όχι μόνο να κατανοεί σωστά τον στόχο του χρήστη, αλλά και να αναγνωρίζει τα όρια μέσα στα οποία επιτρέπεται να κινηθεί.

Η ασφάλεια των AI agents έχει βρεθεί έντονα στο προσκήνιο τους τελευταίους μήνες, καθώς σε δοκιμές συστημάτων διαφορετικών εταιρειών έχουν εμφανιστεί συμπεριφορές που ξεπερνούν τα αναμενόμενα όρια λειτουργίας τους. Αντίστοιχα περιστατικά έχουν καταγραφεί σε μοντέλα της ANTHROPIC και της GOOGLE, ενισχύοντας τη συζήτηση γύρω από τα πρότυπα ασφαλείας που θα πρέπει να εφαρμόζονται στα ισχυρότερα συστήματα AI πριν αυτά φτάσουν στους χρήστες.

Η συζήτηση έχει αρχίσει να επεκτείνεται και στον ρυθμό με τον οποίο εξελίσσεται συνολικά ο κλάδος. Μεγάλες εταιρείες AI έχουν ταχθεί υπέρ της θέσπισης νέων προτύπων ασφαλείας, ενώ παράλληλα υπάρχουν επικριτές που υποστηρίζουν ότι αυστηρότεροι κανόνες θα μπορούσαν να ευνοήσουν τις μεγαλύτερες εταιρείες, οι οποίες διαθέτουν τους πόρους για να ανταποκριθούν στις πρόσθετες απαιτήσεις.