Είναι το Project Q* της OpenAI τεχνολογία "επικίνδυνη για την ανθρωπότητα";

2 μήνες πριν
OpenAI logo

Έχει δημιουργήσει η OpenAI μια τεχνολογία τεχνητής νοημοσύνης με τη δυνατότητα να "απειλήσει την ανθρωπότητα"; Από ορισμένους πρόσφατους τίτλους, θα μπορούσε κανείς να πιστεύει ότι ναι.

Το Reuters και το The Information ανέφεραν την περασμένη εβδομάδα ότι αρκετά στελέχη της OpenAI είχαν, σε επιστολή προς το διοικητικό συμβούλιο της AI startup, επισημάνει τις "ικανότητες" και τον "πιθανό κίνδυνο" ενός εσωτερικού ερευνητικού project γνωστού ως "Project Q*"

Το συγκεκριμένο AI project σύμφωνα με τις αναφορές, θα μπορούσε να επιλύει συγκεκριμένα μαθηματικά προβλήματα - αν και μόνο σε επίπεδο δημοτικού σχολείου - αλλά είχε, κατά τη γνώμη των ερευνητών, πιθανότητες να οδηγήσει σε τεράστια προβλήματα την ανθρωπότητα.

Η σχετική συζήτηση επικεντρώνεται τώρα στο αν το διοικητικό συμβούλιο της OpenAI παρέλαβε ποτέ μια τέτοια επιστολή. Ωστόσο, ανεξάρτητα από το πλαίσιο γύρω από το Q*, στην πραγματικότητα μπορεί να μην είναι τόσο επαναστατικό ή απειλητικό όσο ακούγεται. Ίσως ακόμη και να μην είναι καινούριο.

Ερευνητές AI σε μέσο κοινωνικής δικτύωσης, συμπεριλαμβανομένου του επικεφαλής επιστήμονα AI της Meta, Γιαν ΛεΚαν, ήταν αμέσως επιφυλακτικοί ότι το Q* δεν ήταν τίποτα περισσότερο από μια επέκταση υπάρχουσας δουλειάς στην OpenAI - και σε άλλα ερευνητικά εργαστήρια που ασχολούνται με ΑΙ projects.  

Αρκετοί ερευνητές πιστεύουν ότι το αρχικό "Q" στο όνομα "Q*" παραπέμπει στην "Q-learning", μια τεχνική AI που βοηθά ένα μοντέλο να μαθαίνει και να βελτιώνεται σε ένα συγκεκριμένο έργο μαθαίνοντας από συγκεκριμένες "σωστές" ενέργειες. Και οι δύο τεχνικές υπάρχουν εδώ και αρκετά χρόνια.

Ο ερευνητής Nathan Lambert δήλωσε πως πιστεύει ότι το Q* συνδέεται με προσεγγίσεις στην ΤΝ "κυρίως για τη μελέτη μαθηματικών προβλημάτων" - όχι για την καταστροφή της ανθρωπότητας.

Ο καθηγητής πληροφορικής Mark Riedl ήταν επίσης επικριτικός με την ευρύτερη αφήγηση γύρω από την OpenAI. Δήλωσε πως "δεν υπάρχουν στοιχεία που να υποδηλώνουν ότι τα μεγάλα γλωσσικά μοντέλα ή άλλες τεχνολογίες στην OpenAI βρίσκονται σε τροχιά προς τη γενική τεχνητή νοημοσύνη (AGI) ή οποιαδήποτε σενάρια καταστροφής".

Ο Riedl, όπως και ο Lambert, δεν εικάζει αν το Q* περιλαμβάνει Q-learning ή A*. Αλλά αν περιελάμβανε είτε το ένα είτε και τα δύο, θα ήταν συνεπές με τις τάσεις στην έρευνα AI. "Αυτές είναι ιδέες που διερευνώνται ενεργά από άλλους ερευνητές στη βιομηχανία και την ακαδημαϊκή κοινότητα", πρόσθεσε.

Αυτό δεν σημαίνει πως το Q* δεν θα μπορούσε να προωθήσει τον τομέα. Ωστόσο, όποια κι αν είναι η εξέλιξή του, τα σχετικά απλά μαθηματικά προβλήματα που επιλύει δεν θα σημάνουν την καταστροφή της ανθρωπότητας.