Κόντρα στους «πρόωρους περιορισμούς» των open-weight μοντέλων τάσσονται NVIDIA, MICROSOFT και META

Η NVIDIA ανακοίνωσε τη δημιουργία μιας νέας πρωτοβουλίας για την ασφάλεια της τεχνητής νοημοσύνης, σε συνεργασία με κορυφαίες εταιρείες του κλάδου. Η «Συμμαχία για την Ανοιχτή και Ασφαλή Τεχνητή Νοημοσύνη» (Open Secure AI Alliance) επικεντρώνεται στην προώθηση ασφαλών μοντέλων ανοικτών βαρών (open-weight), στον απόηχο της πρόσφατης κυβερνοεπίθεσης στη HUGGING FACE, κατά την οποία χρησιμοποιήθηκαν μοντέλα τεχνητής νοημοσύνης των οποίων είχαν παρακαμφθεί οι περιορισμοί ασφαλείας.

Στη νέα συμμαχία συμμετέχουν επίσης οι MICROSOFT, SPACEX, PALANTIR, καθώς και δεκάδες ακόμη εταιρείες τεχνολογίας από τις Ηνωμένες Πολιτείες και την Ευρώπη.

Η αφορμή για τη δημιουργία της πρωτοβουλίας ήταν το πρόσφατο περιστατικό ασφαλείας στη HUGGING FACE. Όπως έγινε γνωστό, η νεοφυής εταιρεία δεν κατάφερε να αξιοποιήσει τα κορυφαία αμερικανικά μοντέλα τεχνητής νοημοσύνης για την άμυνά της, καθώς οι ενσωματωμένοι μηχανισμοί ασφαλείας αδυνατούσαν να διακρίνουν τον επιτιθέμενο από τον αμυνόμενο. Τελικά στράφηκε σε ένα κινεζικό μοντέλο ανοικτών βαρών, εγκατεστημένο στις δικές της υποδομές, το οποίο δεν υπόκειτο στους ίδιους περιορισμούς.

Η εξέλιξη αυτή έρχεται σε μια περίοδο κατά την οποία οι αμερικανοί νομοθέτες εξετάζουν τρόπους περιορισμού της διάδοσης κινεζικών μοντέλων τεχνητής νοημοσύνης, τα πιο προηγμένα από τα οποία βασίζονται στην αρχιτεκτονική των μοντέλων ανοικτών βαρών. Ως απάντηση, περισσότεροι από 20 τεχνολογικοί οργανισμοί συγκροτούν μια κοινή πρωτοβουλία με στόχο την ανάπτυξη και διάθεση ανοικτών εργαλείων τεχνητής νοημοσύνης για εφαρμογές κυβερνοασφάλειας.

Σε αντίθεση με τα κλειστά μοντέλα που αναπτύσσουν εταιρείες όπως οι ANTHROPIC και OPENAI, τα μοντέλα ανοικτών βαρών μπορούν να μεταφορτωθούν, να τροποποιηθούν και να λειτουργήσουν στις υποδομές του ίδιου του οργανισμού που τα χρησιμοποιεί.

«Η Συμμαχία για την Ανοιχτή και Ασφαλή Τεχνητή Νοημοσύνη (Open Secure AI Alliance) θα εργαστεί για τον εντοπισμό, την αντιμετώπιση και τη δημοσιοποίηση ευπαθειών αξιοποιώντας ανοικτές τεχνολογίες», ανέφερε η NVIDIA σε ανακοίνωσή της. «Το πρόσφατο περιστατικό ασφαλείας στη HUGGING FACE κατέδειξε ότι οι ειδικοί στην κυβερνοάμυνα χρειάζονται ανοικτά και προηγμένα συστήματα τεχνητής νοημοσύνης με δυνατότητες αυτόνομης δράσης, ώστε να μπορούν να ανταποκρίνονται αποτελεσματικά στις σύγχρονες απειλές».