Η GOOGLE αφαίρεσε συγκεκριμένα AI Overviews από τα αποτελέσματα αναζήτησης που αφορούν εξετάσεις ηπατικής λειτουργίας, μετά από έρευνα του GUARDIAN που αποκάλυψε σοβαρά προβλήματα ακρίβειας σε πληροφορίες υγείας. Οι συγκεκριμένες επισκοπήσεις τεχνητής νοημοσύνης εμφανίζονταν στην κορυφή των αποτελεσμάτων και παρείχαν αριθμητικά εύρη για αιματολογικές εξετάσεις χωρίς το απαραίτητο ιατρικό πλαίσιο.
Σύμφωνα με την έρευνα, οι AI Overviews παρουσίαζαν δεδομένα που σε αρκετές περιπτώσεις δεν ανταποκρίνονταν στα πραγματικά ιατρικά πρότυπα. Ειδικοί προειδοποίησαν ότι οι πληροφορίες αυτές θα μπορούσαν να οδηγήσουν άτομα με σοβαρή ηπατική νόσο στο εσφαλμένο συμπέρασμα ότι τα αποτελέσματά τους είναι φυσιολογικά, με αποτέλεσμα να παραλείψουν αναγκαίες ιατρικές εξετάσεις ή επανελέγχους.
Σε αναζητήσεις όπως «what is the normal range for liver blood tests», οι επισκοπήσεις παρήγαγαν μεγάλους καταλόγους αριθμών, χωρίς να λαμβάνονται υπόψη κρίσιμοι παράγοντες όπως ηλικία, φύλο, εθνικότητα ή ιατρικό ιστορικό. Ειδικοί τόνισαν ότι τα φυσιολογικά όρια διαφέρουν σημαντικά ανάλογα με το άτομο και ότι η απλή παράθεση αριθμών μπορεί να δημιουργήσει ψευδή αίσθηση ασφάλειας.
Μετά τη δημοσιοποίηση των ευρημάτων, η GOOGLE αφαίρεσε τις AI Overviews για συγκεκριμένες διατυπώσεις αναζητήσεων που σχετίζονται με τα ηπατικά τεστ. Εκπρόσωπος της εταιρείας δήλωσε ότι η GOOGLE δεν σχολιάζει μεμονωμένες αφαιρέσεις, επισημαίνοντας ότι γίνονται συνεχείς βελτιώσεις όταν εντοπίζεται έλλειψη πλαισίου ή προβληματικό περιεχόμενο.
Η Vanessa Hebditch, διευθύντρια επικοινωνίας και πολιτικής του British Liver Trust, χαρακτήρισε την αφαίρεση θετική εξέλιξη, επισημαίνοντας ωστόσο ότι παραλλαγές των ίδιων ερωτημάτων εξακολουθούν να ενεργοποιούν AI Overviews. Όπως ανέφερε, όροι όπως «lft reference range» συνεχίζουν να εμφανίζουν σύνοψεις, γεγονός που προκαλεί ανησυχία.
Η ίδια υπογράμμισε ότι οι εξετάσεις ηπατικής λειτουργίας αποτελούν σύνολο διαφορετικών αιματολογικών μετρήσεων και η ερμηνεία τους είναι σύνθετη διαδικασία. Τα AI Overviews, παρουσιάζοντας τις εξετάσεις με έντονη γραφή, ενδέχεται να αποσπάσουν την προσοχή από το γεγονός ότι τα προβαλλόμενα νούμερα μπορεί να μην αντιστοιχούν στη συγκεκριμένη εξέταση. Επιπλέον, δεν υπάρχει προειδοποίηση ότι κάποιος μπορεί να εμφανίζει φυσιολογικά αποτελέσματα παρά την ύπαρξη σοβαρής ηπατικής νόσου.
Η GOOGLE, η οποία κατέχει το 91% του παγκόσμιου μεριδίου της αγοράς μηχανών αναζήτησης, δήλωσε ότι εξετάζει επιπλέον παραδείγματα που της κοινοποιήθηκαν. Παράλληλα, ειδικοί από τον χώρο της αξιόπιστης ενημέρωσης υγείας εξέφρασαν ανησυχία ότι το πρόβλημα δεν περιορίζεται σε μεμονωμένα αποτελέσματα αλλά αφορά συνολικά τη χρήση AI Overviews σε θέματα υγείας.
Η Sue Farrington, πρόεδρος του Patient Information Forum, χαιρέτισε την απόσυρση των συγκεκριμένων επισκοπήσεων, επισημαίνοντας όμως ότι πρόκειται μόνο για το πρώτο βήμα. Όπως ανέφερε, εξακολουθούν να υπάρχουν πολλά παραδείγματα όπου τα AI Overviews παρέχουν ανακριβείς πληροφορίες υγείας, την ώρα που εκατομμύρια ενήλικες δυσκολεύονται ήδη να εντοπίσουν αξιόπιστες πηγές.
Παρά τις αλλαγές, τα AI Overviews συνεχίζουν να εμφανίζονται σε άλλες αναζητήσεις που αφορούν καρκίνο και ψυχική υγεία, τις οποίες ειδικοί χαρακτήρισαν επικίνδυνες. Εκπρόσωπος της GOOGLE υποστήριξε ότι σε αυτές τις περιπτώσεις οι επισκοπήσεις βασίζονται σε αξιόπιστες πηγές και συνοδεύονται από προτροπές για αναζήτηση εξειδικευμένης ιατρικής συμβουλής. Παρ’ όλα αυτά, η έρευνα ανέδειξε ότι απαιτείται περαιτέρω δουλειά ώστε τα εργαλεία τεχνητής νοημοσύνης να μην διακινούν παραπλανητικές πληροφορίες υγείας.
