Ανησυχητική μελέτη αποκαλύπτει προβληματικές συμβουλές από AI chatbots
Μια νέα αξιολόγηση φέρνει στην επιφάνεια τις ανησυχίες σχετικά με την ακρίβεια και την ασφάλεια των ευρέως χρησιμοποιούμενων AI chatbots στον τομέα της υγειονομικής πληροφορίας. Σύμφωνα με τη μελέτη που δημοσιεύθηκε στο BMJ Open, καταδείχθηκε ότι αυτά τα εργαλεία μπορεί να αφήνουν ανασφαλείς οδηγίες, παρά την αυτοπεποίθηση με την οποία τις παρουσιάζουν.
Η ανάλυση και οι ευρήματα
Η επιστημονική ομάδα εξέτασε πέντε δημοφιλή AI chatbots για να αναλύσει τις απαντήσεις τους σε υγειονομικές ερωτήσεις. Η διαδικασία περιλάμβανε 250 ερωτήματα κατανεμημένα σε κατηγορίες όπως καρκίνος, εμβόλια και διατροφή, που είναι γνωστό ότι συνοδεύονται από παραπληροφόρηση. Οι απαντήσεις αξιολογήθηκαν από δύο ειδικούς για κάθε κατηγορία, χρησιμοποιώντας προκαθορισμένα κριτήρια.
Ανησυχητικές διαπιστώσεις
Τα αποτελέσματα είναι ανησυχητικά, καθώς σχεδόν το 50% των απαντήσεων (49.6%) θεωρήθηκαν προβληματικές ή μη συμβατές με τη επιστημονική γνώση. Ενδιαφέρον έχει ότι οι διαφορετικοί τύποι μοντέλων παρουσίασαν ξεχωριστές αδυναμίες, με πολλές απαντήσεις να στερούνται επιστημονικής αναφοράς και να είναι δύσκολες στην ανάγνωση.
Η αύξηση της χρήσης AI chatbots
Καθώς τα AI chatbots γίνονται ολοένα και πιο διαδεδομένα στην καθημερινότητά μας — με εκτιμήσεις που δείχνουν ότι το 75% των εργαζομένων τα χρησιμοποιούν για καθημερινές εργασίες — η χρήση τους για υγειονομική πληροφόρηση βρίσκεται στο μάτι του κυκλώνα. Δεδομένα δείχνουν ότι τα δύο τρίτα των αλληλεπιδράσεων με δημόσιες πλατφόρμες chatbots περιλαμβάνουν αιτήματα πληροφοριών, όπου οι χρήστες τα αντιμετωπίζουν ως ψηφιακούς γιατρούς.
Επιπλέον ανησυχίες για την ακρίβεια
Οι πρόσφατες παρατηρήσεις σχετικά με τον τρόπο λειτουργίας των μοντέλων βάσει στατιστικών λέξεων αντί για τη λογική ενός ανθρώπινου ειδικού, εντείνουν τη ανησυχία. Τα γνωστά ως “ιατρικά ψεύδη” έχουν δεχτεί μεγάλη κριτική και οι επιστήμονες τονίζουν την ανάγκη για μεγαλύτερη προσοχή και επιτήρηση, ειδικά καθώς κάποιες περιπτώσεις παρουσιάζουν ποσοστά σφάλματος που φτάνουν το 30% σε εξειδικευμένα πεδία όπως η φαρμακολογία.
Η ανάγκη για αξιόπιστες πηγές
Αυτή η μελέτη συμπληρώνει μια ήδη υφιστάμενη ανάγκη για αξιόπιστους ελέγχους ποιότητας στα δημόσια χρησιμοποιούμενα AI μοντέλα. Η αξιολόγηση χρησιμοποιεί μια εναλλακτική προσέγγιση, εφαρμόζοντας ένα πλαίσιο «κόκκινης ομάδας» για τη μέτρηση της απόδοσης πέντε δωρεάν μοντέλων, τα οποία προγραμματίζεται να παραμείνουν διαθέσιμα στο κοινό. Η επιτυχής αξιολόγηση σηματοδοτεί την αρχή μιας σειράς πρακτικών που μπορούν να βελτιώσουν την ενότητα των υγειονομικών πληροφοριών που διακινούνται μέσω αυτών των εργαλείων.
