APA προτείνει μέτρα ασφαλείας για τη χρήση AI στην ψυχική υγεία
Η συναισθηματική υποστήριξη μέσω τεχνολογιών όπως οι chatbot και οι εφαρμογές ευεξίας κερδίζει έδαφος, ωστόσο, οι συγκεκριμένες λύσεις δεν διαθέτουν την επιστημονική τεκμηρίωση και τις απαραίτητες ρυθμίσεις για να διασφαλίσουν την ασφάλεια των χρηστών. Αυτό προκύπτει από τη νέα υγειονομική συμβουλή της Αμερικανικής Ψυχολογικής Ένωσης (APA).
Η ανάγκη για ρυθμίσεις στην ψυχική υγεία
Η αναφορά της APA σχετικά με τη χρήση γενετικών AI chatbot και εφαρμογών ευεξίας για την ψυχική υγεία εξετάζει τις τεχνολογίες που οι καταναλωτές χρησιμοποιούν για να αναζητήσουν συμβουλές και θεραπείες, αν και αυτές δεν είναι σχεδιασμένες για αυτόν τον σκοπό. Η προσβασιμότητα και το χαμηλό κόστος αυτών των εργαλείων τα καθιστούν ελκυστικά για όσους δυσκολεύονται να βρουν ή να αντέξουν οικονομικά τη φροντίδα από εξειδικευμένους επαγγελματίες ψυχικής υγείας.
Προβληματισμοί και προτάσεις
«Βρισκόμαστε σε μια περίοδο σοβαρής κρίσης ψυχικής υγείας που απαιτεί συστημικές λύσεις, όχι απλώς τεχνολογικές εναλλακτικές», τόνισε ο Διευθύνων Σύμβουλος της APA, Άρθουρ Σ. Έβανς, Jr. Οι chatbot μπορεί να φαίνονται διαθέσιμοι για να προσφέρουν υποστήριξη και επιβεβαίωση στους χρήστες, ωστόσο, η ικανότητά τους να καθοδηγήσουν κάποιον σε κρίση είναι περιορισμένη και απρόβλεπτη.
Η συμβουλή υπογραμμίζει ότι, ενώ η τεχνολογία έχει τεράστιες δυνατότητες να βοηθήσει τους ψυχολόγους στην αντιμετώπιση της κρίσης, δεν πρέπει να αποσπά την προσοχή από την επείγουσα ανάγκη να διορθωθούν οι βάσεις του συστήματος ψυχικής υγειονομικής φροντίδας στις Ηνωμένες Πολιτείες.
Η αναφορά παρέχει συστάσεις για το κοινό, τους πολιτικούς, τις τεχνολογικές εταιρείες, τους ερευνητές και άλλους ενδιαφερόμενους, προκειμένου να κατανοήσουν το ρόλο τους σε ένα ταχέως μεταβαλλόμενο τεχνολογικό τοπίο, ώστε το βάρος της πλοήγησης σε μη δοκιμασμένους και μη ρυθμισμένους ψηφιακούς χώρους να μην πέφτει αποκλειστικά στους χρήστες.
«Η ανάπτυξη τεχνολογιών AI έχει ξεπεράσει την ικανότητά μας να κατανοήσουμε πλήρως τις επιπτώσεις και τις δυνατότητές τους. Ως αποτέλεσμα, παρατηρούμε αναφορές σημαντικής βλάβης σε εφήβους και άλλες ευάλωτες ομάδες», δήλωσε ο Έβανς. «Για ορισμένους, αυτό μπορεί να είναι απειλητικό για τη ζωή, υπογραμμίζοντας την ανάγκη οι ψυχολόγοι και η ψυχολογική επιστήμη να συμμετέχουν σε κάθε στάδιο της διαδικασίας ανάπτυξης».
Ακόμη και τα εργαλεία γενετικής AI που έχουν αναπτυχθεί με υψηλής ποιότητας ψυχολογική επιστήμη και χρησιμοποιώντας βέλτιστες πρακτικές δεν διαθέτουν επαρκή στοιχεία που να αποδεικνύουν ότι είναι αποτελεσματικά ή ασφαλή για χρήση στην ψυχική υγειονομική φροντίδα. Οι ερευνητές πρέπει να αξιολογήσουν τα chatbot και τις εφαρμογές ευεξίας μέσω τυχαιοποιημένων κλινικών δοκιμών και μελετών που παρακολουθούν τα αποτελέσματα με την πάροδο του χρόνου. Ωστόσο, για να το επιτύχουν αυτό, οι τεχνολογικές εταιρείες και οι πολιτικοί πρέπει να δεσμευτούν για διαφάνεια σχετικά με το πώς αναπτύσσονται και χρησιμοποιούνται αυτές οι τεχνολογίες.
Η συμβουλή επισημαίνει ότι πολλοί κλινικοί δεν διαθέτουν την απαραίτητη εμπειρία στην AI και προτρέπει τις επαγγελματικές ομάδες και τα συστήματα υγείας να τους εκπαιδεύσουν σε θέματα AI, προκατάληψης, ιδιωτικότητας δεδομένων και υπεύθυνης χρήσης εργαλείων AI στην πράξη. Οι κλινικοί θα πρέπει επίσης να ακολουθούν τις διαθέσιμες ηθικές οδηγίες και να ρωτούν ενεργά τους ασθενείς τους σχετικά με τη χρήση chatbot και εφαρμογών ευεξίας.
«Η τεχνητή νοημοσύνη θα διαδραματίσει κρίσιμο ρόλο στο μέλλον της υγειονομικής περίθαλψης, αλλά δεν μπορεί να εκπληρώσει αυτή την υπόσχεση αν δεν αντιμετωπίσουμε και τις διαχρονικές προκλήσεις στην ψυχική υγεία», δήλωσε ο Έβανς. «Πρέπει να πιέσουμε για συστημική μεταρρύθμιση ώστε να καταστεί η φροντίδα πιο προσιτή, προσβάσιμη και έγκαιρη – και να διασφαλίσουμε ότι οι ανθρώπινοι επαγγελματίες υποστηρίζονται, όχι αντικαθίστανται, από την AI».
