Εργαλεία AI για καρκίνο: Χρησιμοποιούν οπτικές συντομεύσεις αντί για βιολογία
Μια νέα μελέτη προειδοποιεί ότι πολλά δημοφιλή συστήματα βαθιάς μάθησης που έχουν εκπαιδευτεί για την παθολογία του καρκίνου ενδέχεται να βασίζονται σε κρυφές συντομεύσεις αντί σε πραγματικά βιολογικά σήματα. Αυτή η ανακάλυψη, που προέρχεται από το Πανεπιστήμιο του Γουόργικ, δημοσιεύτηκε στο Nature Biomedical Engineering, και εγείρει σοβαρές ανησυχίες σχετικά με την αξιοπιστία ορισμένων εργαλείων παθολογίας AI στην πραγματική κλινική πρακτική.
Η σημασία της αληθινής βιολογίας
Τα εργαλεία τεχνητής νοημοσύνης αναπτύσσονται ολοένα και περισσότερο για να προβλέπουν τη βιολογία του καρκίνου απευθείας από μικροσκοπικές εικόνες, υποσχόμενα ταχύτερες διαγνώσεις και φθηνότερες εξετάσεις. Ωστόσο, οι ερευνητές διαπίστωσαν ότι πολλές από αυτές τις τεχνολογίες βασίζονται σε οπτικές συντομεύσεις, κάτι που μπορεί να οδηγήσει σε ανακριβείς διαγνώσεις. Όπως αναφέρει ο Δρ. Fayyaz Minhas, αναπληρωτής καθηγητής και κύριος ερευνητής στο εργαστήριο PRISM του Πανεπιστημίου του Γουόργικ, “είναι σαν να κρίνεις την ποιότητα ενός εστιατορίου από την ουρά των ανθρώπων που περιμένουν να μπουν: είναι μια χρήσιμη συντόμευση, αλλά δεν αποτυπώνει την πραγματική κατάσταση στην κουζίνα”.
Αναλύοντας τα δεδομένα
Για να καταλήξουν σε αυτό το συμπέρασμα, οι ερευνητές ανέλυσαν περισσότερα από 8.000 δείγματα ασθενών από τέσσερις σημαντικούς τύπους καρκίνου: του μαστού, του παχέος εντέρου, του πνεύμονα και του ενδομητρίου. Αν και τα μοντέλα συχνά παρουσίαζαν υψηλή ακρίβεια, η ομάδα διαπίστωσε ότι αυτή η ακρίβεια προερχόταν συχνά από στατιστικές “συντομεύσεις”. Για παράδειγμα, αντί να ανιχνεύει μεταλλάξεις στο γονίδιο BRAF, ένα μοντέλο μπορεί να μάθει ότι οι μεταλλάξεις BRAF συμβαδίζουν με άλλο κλινικό χαρακτηριστικό, όπως η μικροσκοπική αστάθεια (MSI). Έτσι, το σύστημα χρησιμοποιεί αυτή τη συνδυαστική πληροφορία για να προβλέψει την κατάσταση του BRAF, αντί να ανιχνεύει το ίδιο το σήμα BRAF.
Η ανάγκη για αυστηρές αξιολογήσεις
Ο Kim Branson, ανώτερος αντιπρόεδρος και παγκόσμιος επικεφαλής AI και μηχανικής μάθησης στην GSK, δήλωσε: “Η πρόβλεψη μιας μετάλλαξης BRAF μέσω συσχετισμένων χαρακτηριστικών όπως το MSI είναι συχνά σαν να προβλέπεις τη βροχή κοιτάζοντας τις ομπρέλες – λειτουργεί, αλλά δεν σημαίνει ότι κατανοείς τη μετεωρολογία”. Αν ένα μοντέλο δεν μπορεί να αποδείξει ότι προσφέρει πληροφορίες που υπερβαίνουν μια απλή βαθμολογία που έχει ανατεθεί από παθολόγο, τότε δεν έχουμε προχωρήσει στον τομέα, αλλά απλά αυτοματοποιήσαμε μια συντόμευση.
Η μελέτη αναδεικνύει την ανάγκη για αυστηρές και χωρίς προκαταλήψεις αξιολογήσεις των AI στην ιατρική. Η αληθινή αξία των κλινικά σημαντικών προβλέψεων που βασίζονται σε AI πρέπει να κρίνεται με βάση αυστηρές διαδικασίες, αντί να βασίζεται αποκλειστικά σε επικεφαλίδες που δεν λαμβάνουν υπόψη τα συγχυτικά αποτελέσματα.
Εν κατακλείδι, αν και οι μέθοδοι μηχανικής μάθησης μπορούν να αποδειχθούν χρήσιμες για την έρευνα και την ανάπτυξη φαρμάκων, οι ερευνητές τονίζουν ότι η μελλοντική ανάπτυξη της AI στον τομέα της παθολογίας πρέπει να εστιάσει σε αυστηρές αξιολογήσεις και όχι σε απλές στατιστικές επιτυχίες.
