Προειδοποιηση Π.Ο.Υ. σχετικά με τη χρήση τεχνητής νοημοσύνης στην Υγεία
Η μη ασφαλής χρήση της θα μπορούσε να οδηγήσει σε σφάλματα τους επαγγελματίες υγείας και να θέσει σε κίνδυνο τους ασθενείς
Ο Παγκόσμιος Οργανισμός Υγείας εγείρει ανησυχίες όσον αφορά την ολοένα και πιο διαδεδομένη χρήση του ChatGPT – chatbot τεχνητής νοημοσύνης (AI) που λειτουργεί με έναν νέο τρόπο δημιουργίας συνομιλιών σε φυσική γλώσσα – στην υγεία, και με προειδοποίηση που εξέδωσε στις 16 Μαΐου ζητά αυστηρή εποπτεία για να διασφαλιστεί ότι η τεχνητή νοημοσύνη χρησιμοποιείται με ασφαλείς, αποτελεσματικούς και ηθικούς τρόπους.
«Ενώ ο ΠΟΥ είναι ενθουσιώδης με την κατάλληλη χρήση τεχνολογιών, συμπεριλαμβανομένων των Large Language Models (LLMs), για την υποστήριξη των επαγγελματιών υγείας, των ασθενών, των ερευνητών και των επιστημόνων, υπάρχει ανησυχία ότι η προσοχή που κανονικά θα ασκούνταν για οποιαδήποτε νέα τεχνολογία δεν ασκείται με συνέπεια στα LLMs», αναφέρει ο Οργανισμός. Εφιστά την προσοχή στην «απότομη υιοθέτηση μη δοκιμασμένων συστημάτων», η οποία «θα μπορούσε να οδηγήσει σε σφάλματα τους εργαζόμενους στον τομέα της υγείας, να προκαλέσει βλάβη στους ασθενείς, να διαβρώσει την εμπιστοσύνη στην τεχνητή νοημοσύνη και, ως εκ τούτου, να υπονομεύσει (ή να καθυστερήσει) τα πιθανά μακροπρόθεσμα οφέλη από τη χρήση τέτοιων τεχνολογιών σε όλο τον κόσμο». Ο ΠΟΥ απαριθμεί τα σημεία που θεωρεί ότι απαιτούν επίβλεψη. Το πρώτο αφορά τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση της τεχνητής νοημοσύνης: «Μπορεί να είναι μεροληπτικά και όχι αντικειμενικά και να οδηγούν σε παραπλανητικά ή ανακριβή συμπεράσματα που θα μπορούσαν να θέτουν κινδύνους για την υγεία, την ισότητα και τη συμπερίληψη». Το δεύτερο αφορά τις απαντήσεις που δημιουργούνται από τα LLMs. Ενώ «μπορεί να φαίνονται έγκυρες και εύλογες στον τελικό χρήστη», «μπορεί να είναι εντελώς λανθασμένες ή να περιέχουν σοβαρά σφάλματα, ειδικά όταν πρόκειται για απαντήσεις που αφορούν την υγεία». Η επεξεργασία προσωπικών δεδομένων από εργαλεία τεχνητής νοημοσύνης εγείρει ερωτήματα σχετικά με το απόρρητο και τη συγκατάθεση, καθώς «τα LLMs μπορεί να εκπαιδεύονται σε δεδομένα για τα οποία μπορεί να μην έχει προηγουμένως παρασχεθεί συγκατάθεση για τέτοια χρήση και παράλληλα ενδέχεται να μην προστατεύουν ευαίσθητα δεδομένα (συμπεριλαμβανομένων των δεδομένων υγείας) που ο χρήστης παρέχει σε μια εφαρμογή για να πάρει μια απάντηση». Τα LLMs θα μπορούσαν επίσης να «χρησιμοποιηθούν για τη δημιουργία και τη διάδοση εξαιρετικά πειστικής παραπληροφόρησης με τη μορφή κειμένου, ήχου ή βίντεο που είναι δύσκολο για το κοινό να το ξεχωρίσει από την αξιόπιστη πληροφόρηση υγείας».
Αρκετά χρόνια πριν από την προειδοποίηση της 16ης Μαΐου, και περισσότερο από ένα χρόνο προτού αυτά τα εργαλεία εκτιναχθούν σε δημοτικότητα, δημοσιεύτηκε η Έκθεση του ΠΟΥ με τίτλο «Ethics and Governance of Artificial Intelligence for Health». Αυτή η έκθεση του 2021 επεσήμανε κινδύνους που σχετίζονται με την άναρχη χρήση της τεχνητής νοημοσύνης σε κλινικά περιβάλλοντα – κινδύνους που θα μπορούσαν να θέσουν τα δικαιώματα και τα συμφέροντα των ασθενών και των κοινοτήτων «υπό τα ισχυρά εμπορικά συμφέροντα των εταιρειών τεχνολογίας ή τα συμφέροντα των κυβερνήσεων στην επιτήρηση και τον κοινωνικό έλεγχο».
Πηγη:HealthDaily