Τεχνητή νοημοσύνη στην υγεία: Αναξιόπιστα δεδομένα μπορεί να οδηγήσουν σε επικίνδυνες προβλέψεις

Η τεχνητή νοημοσύνη εξελίσσεται με ταχύτατους ρυθμούς στον χώρο της υγείας, υποσχόμενη καλύτερη διάγνωση, πρόβλεψη ασθενειών και πιο εξατομικευμένες θεραπείες. Ωστόσο, μια νέα μελέτη εγείρει σοβαρές ανησυχίες σχετικά με την ποιότητα των δεδομένων πάνω στα οποία εκπαιδεύονται ορισμένα μοντέλα τεχνητής νοημοσύνης, καθώς φαίνεται ότι κάποια από αυτά μπορεί να βασίζονται σε σύνολα δεδομένων αμφίβολης προέλευσης.

Η έρευνα, που πραγματοποιήθηκε από επιστήμονες του Τεχνολογικού Πανεπιστημίου του Κουίνσλαντ (QUT) και του Αυστραλιανού Κέντρου Καινοτομίας Υπηρεσιών Υγείας (AusHSI), εξέτασε δεδομένα που χρησιμοποιήθηκαν για την ανάπτυξη μοντέλων πρόβλεψης κινδύνου για σοβαρές παθήσεις, όπως το εγκεφαλικό επεισόδιο και ο διαβήτης.

Τα ευρήματα, που δημοσιεύτηκαν στο επιστημονικό περιοδικό BMC Medicine, δείχνουν ότι ορισμένα από αυτά τα δεδομένα δεν συνοδεύονταν από επαρκείς πληροφορίες σχετικά με την προέλευσή τους, τον τρόπο συλλογής τους ή το αν προέρχονταν πράγματι από πραγματικούς ασθενείς.

Δεδομένα χωρίς σαφή προέλευση

Οι ερευνητές επικεντρώθηκαν σε δύο ευρέως διαδεδομένα σύνολα δεδομένων υγείας που φιλοξενούνταν στην πλατφόρμα Kaggle, έναν δημοφιλή χώρο ανταλλαγής δεδομένων και εργαλείων μηχανικής μάθησης.

Παρότι τα συγκεκριμένα σύνολα δεδομένων είχαν χρησιμοποιηθεί σε 125 επιστημονικές δημοσιεύσεις που είχαν αξιολογηθεί από ομοτίμους, οι ερευνητές διαπίστωσαν ότι υπήρχαν ελάχιστες πληροφορίες για το πώς δημιουργήθηκαν.

Δεν ήταν ξεκάθαρο:

• από πού προέρχονταν τα δεδομένα,
• ποιος τα συνέλεξε,
• ποια διαδικασία ακολουθήθηκε για τη συλλογή τους,
• αν αντιπροσώπευαν πραγματικούς ασθενείς,
• αν μπορούσαν να χρησιμοποιηθούν με ασφάλεια για κλινικές προβλέψεις.

Ο επικεφαλής της μελέτης, Alexander Gibson από το QUT και το AusHSI, χαρακτήρισε τα αποτελέσματα ιδιαίτερα ανησυχητικά, σημειώνοντας ότι τα δεδομένα εμφάνιζαν ασυνήθιστα μοτίβα που δημιουργούν ερωτήματα σχετικά με την αυθεντικότητα και την καταλληλότητά τους.

Όταν η τεχνητή νοημοσύνη μαθαίνει από λάθος πληροφορίες

Τα μοντέλα τεχνητής νοημοσύνης λειτουργούν μαθαίνοντας από μεγάλες ποσότητες δεδομένων. Αν όμως τα δεδομένα αυτά είναι λανθασμένα, ελλιπή ή μη αντιπροσωπευτικά, τότε και οι προβλέψεις του μοντέλου μπορεί να είναι αναξιόπιστες.

Στην ιατρική, το πρόβλημα είναι ιδιαίτερα σοβαρό. Ένα μοντέλο που προβλέπει τον κίνδυνο εγκεφαλικού ή διαβήτη μπορεί να επηρεάσει αποφάσεις σχετικά με εξετάσεις, παρακολούθηση ασθενών ή θεραπευτικές επιλογές.

Οι ερευνητές προειδοποιούν ότι ένα σύστημα τεχνητής νοημοσύνης που βασίζεται σε αμφίβολα δεδομένα μπορεί να δημιουργήσει μια ψευδή αίσθηση ακρίβειας και να οδηγήσει τους επαγγελματίες υγείας σε λανθασμένα συμπεράσματα.

Αποτυχία στα πρότυπα διαφάνειας

Η μελέτη αξιολόγησε τα συγκεκριμένα σύνολα δεδομένων χρησιμοποιώντας το διεθνώς αναγνωρισμένο πλαίσιο TRIPOD+AI, το οποίο χρησιμοποιείται για την αξιολόγηση της ποιότητας και της διαφάνειας των μοντέλων πρόβλεψης στην υγεία.

Τα δεδομένα έλαβαν βαθμολογία 0 στα 9 στα βασικά κριτήρια που αφορούν την προέλευση και τη διαφάνεια των δεδομένων.

Σύμφωνα με τους ερευνητές, αυτό αποτελεί σημαντικό προειδοποιητικό σημάδι για επιστημονικά περιοδικά, προγραμματιστές τεχνητής νοημοσύνης και κλινικούς γιατρούς.

Όπως τόνισαν, τα μοντέλα πρόβλεψης που βασίζονται σε δεδομένα άγνωστης προέλευσης δεν θα πρέπει να χρησιμοποιούνται για τη λήψη ιατρικών αποφάσεων.

Κίνδυνος εισόδου αναξιόπιστων μοντέλων στην κλινική πράξη

Ένα ακόμη ανησυχητικό στοιχείο είναι ότι τρία μοντέλα τεχνητής νοημοσύνης που βασίστηκαν σε αυτά τα δεδομένα φαίνεται να είχαν ενδείξεις πιθανής χρήσης στον πραγματικό κόσμο.

Ένα από αυτά αναφερόταν σε δίπλωμα ευρεσιτεχνίας ιατρικής συσκευής, ενώ τα συγκεκριμένα μοντέλα είχαν αναφερθεί σε δεκάδες επιστημονικές ανασκοπήσεις.

Παράλληλα, επτά επιστημονικά άρθρα που χρησιμοποίησαν αυτά τα σύνολα δεδομένων αποσύρθηκαν από τα περιοδικά λόγω προβλημάτων αξιοπιστίας.

Η μεγάλη πρόκληση της τεχνητής νοημοσύνης στην ιατρική

Η τεχνητή νοημοσύνη έχει τη δυνατότητα να αλλάξει ριζικά την υγειονομική περίθαλψη, όμως η επιτυχία της εξαρτάται από την ποιότητα των δεδομένων που χρησιμοποιεί.

Οι ειδικοί υπογραμμίζουν ότι απαιτούνται αυστηρότεροι κανόνες σχετικά με:

• τη διαφάνεια των δεδομένων,
• την τεκμηρίωση της προέλευσής τους,
• την ανεξάρτητη αξιολόγηση των μοντέλων,
• την προστασία των ασθενών.

Η ταχύτητα ανάπτυξης της τεχνολογίας δεν πρέπει να ξεπερνά την ανάγκη για επιστημονική ακρίβεια και ασφάλεια.

Η τεχνητή νοημοσύνη μπορεί να αποτελέσει ένα πολύτιμο εργαλείο για τους γιατρούς, αλλά μόνο όταν στηρίζεται σε αξιόπιστα, ελεγμένα και αντιπροσωπευτικά δεδομένα. Διαφορετικά, υπάρχει ο κίνδυνος μια τεχνολογία που σχεδιάστηκε για να βελτιώσει την υγεία να οδηγήσει σε νέες μορφές ιατρικών λαθών.