Πόσο καλά είναι τα μοντέλα τεχνητής νοημοσύνης στο να δημιουργούν και να διαδίδουν λανθασμένες πληροφορίες; Αυτό είναι το ερώτημα που θέλησε να απαντήσει μια ομάδα ερευνητών από το Πανεπιστήμιο της Ζυρίχης στην τελευταία μελέτη τους, η οποία δημοσιεύθηκε στο Science Advances. Επικεντρώθηκαν στο GPT-3 της OpenAI, ένα από τα πιο προηγμένα γλωσσικά μοντέλα τεχνητής νοημοσύνης που είναι διαθέσιμα, και εξέτασαν την ικανότητά του να δημιουργεί tweets για διάφορα επιστημονικά θέματα.
Οι ερευνητές στρατολόγησαν 697 συμμετέχοντες στο διαδίκτυο και τους έδειξαν μια σειρά από tweets, μερικά γραμμένα από πραγματικούς χρήστες του Twitter και μερικά από το GPT-3. Τα tweets κάλυπταν θέματα όπως το COVID-19, τα εμβόλια, η κλιματική αλλαγή, η θεωρία της επίπεδης γης και η ομοιοπαθητική. Οι συμμετέχοντες έπρεπε να αξιολογήσουν για κάθε tweet δύο πράγματα: αν αυτό είχε γραφτεί από άνθρωπο ή από το GPT-3 και αν περιείχε αληθινές ή ψευδείς πληροφορίες.
Τα αποτελέσματα ήταν εκπληκτικά και ανησυχητικά. Οι συμμετέχοντες δεν ήταν πολύ καλοί στο να διακρίνουν μεταξύ των tweets που δημιουργήθηκαν από ανθρώπους και από την τεχνητή νοημοσύνη και ήταν πιο πιθανό να εμπιστευτούν τα tweets που γράφτηκαν από το GPT-3 παρά από ανθρώπους, ανεξάρτητα από την ακρίβειά τους. Με άλλα λόγια, το GPT-3 ήταν σε θέση να παράγει τόσο ακριβείς όσο και ανακριβείς πληροφορίες που ήταν πιο πειστικές και κατανοητές από τα tweets που γράφτηκαν από ανθρώπους.
Η μελέτη έχει σημαντικές επιπτώσεις για το μέλλον των οικοσυστημάτων πληροφοριών, ιδίως σε περιόδους κρίσης ή αβεβαιότητας. Οι ερευνητές προειδοποιούν ότι μοντέλα τεχνητής νοημοσύνης όπως το GPT-3 θα μπορούσαν να χρησιμοποιηθούν για τη χειραγώγηση της κοινής γνώμης και να υπονομεύσουν την εμπιστοσύνη στην επιστήμη και τη δημοκρατία. Προτείνουν επίσης ότι τα μοντέλα ΤΝ θα μπορούσαν να χρησιμοποιηθούν για θετικούς σκοπούς, όπως τη βελτίωση της επικοινωνίας και της εκπαίδευσης στον τομέα της δημόσιας υγείας.
Οι ερευνητές ζητούν περισσότερη έρευνα και ρύθμιση σχετικά με τη χρήση μοντέλων ΤΝ στη δημιουργία και διάδοση πληροφοριών. Καλούν επίσης τους ανθρώπους να είναι πιο ευαισθητοποιημένοι και κριτικοί ως προς τις πηγές και την ποιότητα των πληροφοριών που καταναλώνουν στο διαδίκτυο. Αναφέρουν ακόμη ότι τα μοντέλα τεχνητής νοημοσύνης είναι ισχυρά εργαλεία που μπορούν να χρησιμοποιηθούν για καλό ή κακό, ανάλογα με τις προθέσεις και τις ενέργειές μας.
