Ανησυχητικές ανακρίβειες στις συμβουλές υγείας από AI chatbots
Μια πρόσφατη μελέτη αποκαλύπτει σοβαρές ανησυχίες σχετικά με την αξιοπιστία των απαντήσεων που παρέχουν οι AI chatbots σε καθημερινές ερωτήσεις για την υγεία. Ειδικότερα, σχεδόν το 50% των απαντήσεων περιέχει παραπλανητικές ή προβληματικές πληροφορίες, τονίζοντας την ανάγκη για αυστηρότερη εποπτεία.
Προβληματική αλήθεια πίσω από τις απαντήσεις
Η τεχνητή νοημοσύνη μπορεί να προσφέρει τεράστιες δυνατότητες στην υγειονομική περίθαλψη, αυτοματοποιώντας διαδικασίες και κάνοντάς τες πιο αποδοτικές. Ωστόσο, όπως προκύπτει από τη μελέτη που δημοσιεύθηκε στο BMJ Open, οι απαντήσεις των chatbots δεν είναι πάντα ακριβείς ή ολοκληρωμένες. Αυτές οι ανακρίβειες προκύπτουν από ποικιλία παραγόντων.
Οι αιτίες των αναγκών της υγειονομικής πληροφορίας
Αυτά τα chatbots εκπαιδεύονται σε μεγάλες ποσότητες δημόσιων δεδομένων, γεγονός που σημαίνει ότι ακόμη και ελάχιστες ποσότητες ανακριβούς ή μεροληπτικής πληροφορίας μπορούν να επηρεάσουν τις απαντήσεις τους. Ταυτόχρονα, έχουν σχεδιαστεί να παρέχουν ρευστές και σίγουρες απαντήσεις, ακόμη και όταν δεν υπάρχουν αξιόπιστα στοιχεία. Αυτό μπορεί να οδηγήσει σε πληροφορίες που ακούγονται εξουσιοδοτημένες αλλά δεν έχουν την απαιτούμενη επιστημονική στήριξη.
Προβλήματα με την αξιοπιστία
Οι chatbots ενδέχεται να προτεραιοποιούν τη συμφωνία και την υποτιθέμενη ενσυναίσθηση αντί για την ορθότητα των γεγονότων. Αυτό έχει σαν αποτέλεσμα να παραθέτουν απαντήσεις που συμβαδίζουν με τις προσδοκίες των χρηστών, αντί να ακολουθούν την επιστημονική συναίνεση. Επίσης, είναι πιθανό να δημιουργούν εσφαλμένες πληροφορίες, δηλαδή να «φαντάζονται» στοιχεία, γεγονός που μπορεί να περιλαμβάνει ψευδείς εξηγήσεις ή λεπτομέρειες.
Κίνδυνοι από τη διάδοση παραπληροφόρησης
Μια άλλη σοβαρή ανησυχία είναι ότι τα chatbots μπορούν να χρησιμοποιούν ανακριβείς ή ακόμη και ανύπαρκτες πηγές, κάτι που υπονομεύει την εμπιστοσύνη και την ιχνηλασιμότητα των απαντήσεών τους. Η διάδοση παραπληροφόρησης αποτελεί επείγουσα απειλή για τη δημόσια υγεία, ειδικά σε τομείς όπου η ακρίβεια είναι καθοριστική. Όπως επισημαίνουν οι συγγραφείς της μελέτης, “Η παραπληροφόρηση συνιστά σοβαρή απειλή για τη δημόσια υγεία, διασπείρεται πιο γρήγορα και σε μεγαλύτερη κλίμακα από την αλήθεια σε όλες τις κατηγορίες πληροφορίας”.
Γιατί η έρευνα είναι απαραίτητη
Προς το παρόν, ελάχιστες μελέτες έχουν εξετάσει το ποσοστό της παραπληροφόρησης που παράγεται από τη χρήση αυτών των chatbots, γι’ αυτό και η τρέχουσα έρευνα είναι σημαντική. Η μελέτη αξιολόγησε πέντε δημόσια διαθέσιμα AI chatbots, εστιάζοντας στην ακρίβεια των απαντήσεών τους σε υγειονομικές και ιατρικές ερωτήσεις σε τομείς όπως τα εμβόλια, η καρκινολογία και η διατροφή.
Από τις 250 απαντήσεις που συγκεντρώθηκαν, το 49.6% εντάσσεται σε κατηγορίες προβληματικού περιεχομένου. Ειδικότερα, το 30% ήταν κάπως προβληματικό και το 20% ιδιαίτερα προβληματικό. Μάλιστα, οι απαντήσεις αυτές είτε προωθούσαν ανακριβείς πληροφορίες, είτε χρησιμοποιούσαν γλώσσα που δυσκόλευε τη διάκριση μεταξύ επιστημονικών και μη επιστημονικών ισχυρισμών.
Αυτή η μελέτη επισημαίνει τις προκλήσεις που ενδέχεται να αντιμετωπίσουν οι χρήστες στη «συγκατοίκηση» με AI chatbots, αφού η ποιότητα των απαντήσεων παραμένει αναπάντητη σε πολλές περιπτώσεις.
