Δημογραφική μεροληψία στα μοντέλα AI παθολογίας για τη διάγνωση καρκίνου
Η παθολογία παραμένει θεμέλιος λίθος στη διάγνωση και θεραπεία του καρκίνου. Ένας παθολόγος εξετάζει προσεκτικά μια υπερλεπτή τομή ανθρώπινου ιστού κάτω από μικροσκόπιο, αναζητώντας ενδείξεις που να υποδεικνύουν την παρουσία, τον τύπο και το στάδιο της νόσου. Για έναν ειδικό, η ανάλυση ενός δείγματος ιστού μπορεί να είναι σαν να βαθμολογεί μια εργασία χωρίς όνομα – αποκαλύπτει σημαντικές πληροφορίες για την ασθένεια χωρίς να αποκαλύπτει λεπτομέρειες για τον ασθενή.
Η έκπληξη των μοντέλων AI
Ωστόσο, τα μοντέλα τεχνητής νοημοσύνης στην παθολογία που έχουν αναπτυχθεί τα τελευταία χρόνια δεν λειτουργούν με τον ίδιο τρόπο. Μια νέα μελέτη από την Ιατρική Σχολή του Χάρβαρντ αποκαλύπτει ότι αυτά τα μοντέλα μπορούν να αντλήσουν δημογραφικές πληροφορίες από τις παθολογικές εικόνες, οδηγώντας σε μεροληψία στη διάγνωση του καρκίνου σε διάφορους πληθυσμούς.
Η ομάδα των ερευνητών ανέλυσε αρκετά σημαντικά μοντέλα AI που σχεδιάστηκαν για τη διάγνωση του καρκίνου και διαπίστωσε ότι η απόδοσή τους διαφέρει ανάλογα με το φύλο, τη φυλή και την ηλικία των ασθενών. Εντόπισαν αρκετές πιθανές αιτίες για αυτή τη δημογραφική μεροληψία.
Η ανάπτυξη του FAIR-Path
Για να αντιμετωπίσουν το πρόβλημα, οι ερευνητές ανέπτυξαν ένα πλαίσιο που ονομάζεται FAIR-Path, το οποίο βοήθησε στη μείωση της μεροληψίας στα μοντέλα. Ο Kun-Hsing Yu, ανώτερος συγγραφέας και καθηγητής βιοϊατρικής πληροφορικής, δήλωσε: “Η αναγνώριση και η καταπολέμηση της μεροληψίας στην τεχνητή νοημοσύνη είναι κρίσιμη, καθώς μπορεί να επηρεάσει την ακρίβεια της διάγνωσης και τα αποτελέσματα των ασθενών”.
Η επιτυχία του FAIR-Path υποδεικνύει ότι οι ερευνητές μπορούν να βελτιώσουν τη δικαιοσύνη των μοντέλων AI για την παθολογία του καρκίνου, και ίσως και άλλων μοντέλων στην ιατρική, με ελάχιστη προσπάθεια. Η έρευνα, που υποστηρίχθηκε εν μέρει από ομοσπονδιακή χρηματοδότηση, δημοσιεύθηκε στις 16 Δεκεμβρίου στο Cell Reports Medicine.
Αναλύοντας την ανισότητα
Η ομάδα του Yu εξέτασε τέσσερα τυπικά μοντέλα AI παθολογίας που αναπτύσσονται για την αξιολόγηση του καρκίνου. Αυτά τα μοντέλα βαθιάς μάθησης εκπαιδεύτηκαν σε σύνολα παθολογικών εικόνων, από τα οποία “έμαθαν” βιολογικά πρότυπα που τους επιτρέπουν να αναλύουν νέες εικόνες και να προσφέρουν διαγνώσεις.
Διαπίστωσαν ότι όλα τα μοντέλα παρουσίαζαν μεροληπτική απόδοση, παρέχοντας λιγότερο ακριβείς διαγνώσεις για ασθενείς σε συγκεκριμένες ομάδες με βάση τη φυλή, το φύλο και την ηλικία τους. Για παράδειγμα, τα μοντέλα δυσκολεύονταν να διακρίνουν υποτύπους καρκίνου του πνεύμονα σε Αφροαμερικανούς και άνδρες ασθενείς, καθώς και υποτύπους καρκίνου του μαστού σε νεότερους ασθενείς.
Αυτές οι ανισότητες στην απόδοση παρατηρήθηκαν σε περίπου 29% των διαγνωστικών εργασιών που εκτέλεσαν τα μοντέλα. Ο Yu τόνισε ότι αυτή η διαγνωστική ανακρίβεια συμβαίνει επειδή τα μοντέλα εξάγουν δημογραφικές πληροφορίες από τις εικόνες και βασίζονται σε δημογραφικά συγκεκριμένα πρότυπα για να κάνουν διαγνώσεις.
Αναζητώντας λύσεις
Η ομάδα διερεύνησε γιατί η τεχνητή νοημοσύνη στην παθολογία δεν δείχνει την ίδια αντικειμενικότητα όπως οι άνθρωποι. Ανακάλυψαν τρεις αιτίες: πρώτον, τα δείγματα από ορισμένες δημογραφικές ομάδες είναι πιο εύκολα διαθέσιμα, οδηγώντας σε άνισα μεγέθη δειγμάτων για την εκπαίδευση των μοντέλων. Δεύτερον, η ανάλυση αποκάλυψε ότι τα μοντέλα απέδιδαν χειρότερα σε μια δημογραφική ομάδα, ακόμη και όταν τα μεγέθη δειγμάτων ήταν συγκρίσιμα. Τέλος, οι ερευνητές διαπίστωσαν ότι η μεροληψία μπορεί να είναι πιο βαθιά από ό,τι αρχικά φαίνεται.
