“Είναι απλώς στατιστικά μοντέλα”, λέει στο iatronet.gr ο ερευνητής του ΔΠΘ, Α. Σπυρόπουλος. Πού μπορεί η Τεχνητή Νοημοσύνη να συνδράμει τον ασθενή, τον γιατρό και το σύστημα, πού αδυνατεί.
Συστήνεται στον χρήστη ως βοηθός Τεχνητής Νοημοσύνης και όχι πραγματικός γιατρός και του συνιστά άμεση προσφυγή σε ειδικό αν αντιμετωπίζει κάποιο επείγον πρόβλημα υγείας. Αν όχι, ο “Doctor AI” στα Μεγάλα Γλωσσικά Μοντέλα (LLMs) δηλώνει πρόθυμος να ξεκινήσει μια πληροφοριακή συζήτηση μαζί του για το πρόβλημα που τον απασχολεί, με βάση τα συμπτώματα, να του εξηγήσει κάποιο ιατρικό θέμα ή ορολογία.
Όλο και περισσότεροι μπαίνουν στον πειρασμό. Κάποιοι από απλή περιέργεια, άλλοι για να έχουν μια ιδέα του προβλήματος πριν επισκεφθούν τον ειδικό. Μερικοί ρωτούν τα μοντέλα εκ των υστέρων, για επιβεβαίωση της διάγνωσης του γιατρού, άλλοι μπορεί να καθυστερήσουν ή και να παραλείψουν την ιατρική επίσκεψη, έχοντας τη διαβεβαίωση ότι δεν πρόκειται για κάτι ανησυχητικό.
Ο δρ Αλέξανδρος Ζ. Σπυρόπουλος (φωτογραφία), ερευνητής στο Εργαστήριο Υπολογιστικών και Εφαρμοσμένων Μαθηματικών του Δημοκρίτειου Πανεπιστημίου Θράκης, εξηγεί στο iatronet.gr γιατί αυτό δεν είναι μια ορθή επιλογή. Ο ερευνητής, με διδακτορικό στη μελέτη και ανάλυση πολύπλοκων συστημάτων και ερευνητικό έργο σχετιζόμενο με τις οντολογίες (το κτίσιμο δεδομένων που εκπαιδεύουν την ΤΝ), μιλά για τους κινδύνους των ιατρικών συμβουλών από τα LLMs, εξηγεί γιατί αυτά είναι επιρρεπή σε λάθη που μπορεί να κοστίσουν, ενώ διαχωρίζει όσα μπορεί να προσφέρει η Τεχνητή Νοημοσύνη στον τομέα της υγείας και όσα αδυνατεί να κάνει.
“Είναι μόνο στατιστικά μοντέλα”
Ανοίγοντας κάποιος συζήτηση με κάποιο από τα Μεγάλα Γλωσσικά Μοντέλα, έχει την εντύπωση πως συνομιλεί με κάτι που έχει πραγματική νοημοσύνη. “Πρέπει να ξέρει ο κόσμος πως πρόκειται μόνο για στατιστικά μοντέλα, τα οποία μέσα από την τεράστια βάση δεδομένων τους, έχουν τη δυνατότητα να προβλέπουν τι θα ακολουθήσει στις επόμενες λέξεις μιας πρότασης”, αναφέρει ο κ. Σπυρόπουλος, θέτοντας ένα παράδειγμα: “Στην πρόταση που αρχίζει ‘Ο Γιώργος το πρωί πήρε το…’, μπορεί κάποιος να σκεφτεί ότι πήρε το αυτοκίνητό του, ότι πήρε το μετρό, ή το σακίδιό του ή πολλές άλλες εκδοχές. Μέσα από μια τεράστια στατιστική, το μοντέλο προβλέπει τι πήρε ο Γιώργος και μας το δίνει ως απάντηση. Δεν έχει γνώση, δεν έχει πρωτοβουλία, δεν έχει πραγματική νοημοσύνη”.
Όσο αυξάνουμε το prompt (την οδηγία, την εντολή), εξειδικεύοντας την ερώτηση προς το σύστημα, η απάντηση γίνεται πιο συγκεκριμένη, αλλά και πάλι, δεν συστήνεται κάποιος να εμπιστευτεί την πληροφορία που θα πάρει, ειδικά όταν αυτή άπτεται της υγείας του. “Μια ολόκληρη επιστήμη, που ονομάζεται prompt engineering και βρίσκεται στην αυγή της ιστορίας της, ασχολείται με το ποιο είναι το κατάλληλο prompt για να πάρουμε την κατάλληλη απάντηση. Αλλά ας είμαστε ειλικρινείς: Θα δίναμε ποτέ στο παιδί μας να φάει ένα μανιτάρι που συλλέξαμε από το δάσος, επειδή μας είπε το LLM ότι είναι ασφαλές”;
Βεβαιότητες και παγίδες
Η τάση που εμφανίζουν τα μοντέλα να μιλούν με μεγάλη βεβαιότητα για ζητήματα υγείας που με βάση το σύμπτωμα μπορεί να απαντώνται σε διαφορετικά νοσήματα ή να έχουν διαφορετικές αιτιολογίες, επιτείνει τους κινδύνους και δημιουργεί κρυφές παγίδες. “Για παράδειγμα, το μοντέλο θα δώσει απάντηση σε ένα αναπνευστικό πρόβλημα, που μπορεί να οφείλεται σε ιογενή παράγοντα, σε βακτήριο, σε αλλεργία ή άλλη αιτία”, σημειώνει ο ερευνητής, προσθέτοντας πως οι εταιρίες έχουν εντοπίσει το ζήτημα και αναζητούν τρόπους να μετριάσουν ή να μηδενίσουν το βαθμό βεβαιότητας των απαντήσεων.
Η ερώτηση στο ΑΙ μετά από επίσκεψη στο γιατρό, για επιβεβαίωση της διάγνωσης και της συνιστώμενης αγωγής, μπορεί να υπονομεύσει τη σχέση εμπιστοσύνης που πρέπει να έχει ο ασθενής με το γιατρό του και με το σύστημα υγείας γενικότερα. Παράλληλα, ενέχει τον κίνδυνο αυθαίρετης διακοπής μιας φαρμακευτικής αγωγής που συστήθηκε από τον γιατρό, επειδή ο ψηφιακός βοηθός ανέφερε ότι μπορεί να συνδέεται με άλλη ασθένεια.
Μια άλλη παράμετρος, που αναμένεται να περιπλέξει περαιτέρω την εικόνα, είναι η είσοδος της διαφήμισης στα Μεγάλα Γλωσσικά Μοντέλα. «Οι αλγόριθμοι έχουν διαμορφωθεί έτσι ώστε να μας κρατούν ενεργούς όσο το δυνατόν περισσότερο. Αυτό θυμίζει πολύ το μοντέλο των social media και τη σύνδεσή τους με τη διαφήμιση», παρατηρεί ο κ.Σπυρόπουλος, ο οποίος προβλέπει πως “πολύ σύντομα τα μοντέλα θα αρχίσουν να μας προτείνουν λύσεις που δεν είναι οι καλύτερες ή οι ενδεδειγμένες, αλλά αυτές που ο πελάτης έχει πληρώσει για να εμφανίζονται στο αποτέλεσμα”.
Παραδείγματα ορθής χρήσης
Η ΤΝ είναι game changer, επειδή διατρέχει οριζόντια όλη την ανθρώπινη δραστηριότητα, όπως έκαναν στο παρελθόν ο ηλεκτρισμός, η ατμομηχανή και όλες οι άλλες μεγάλες επαναστάσεις, υπογραμμίζει ο κ. Σπυρόπουλος, διευκρινίζοντας πως δεν είναι ένα εργαλείο, αλλά μια γενική τεχνολογία, η οποία όταν εξειδικεύεται ανά αντικείμενο χρησιμοποιείται ως εργαλείο.
Στον τομέα της Υγείας, η ΤΝ εφαρμόζεται ήδη με επιτυχία στην αλληλεπίδραση του πολίτη με το κράτος (κλείσιμο ραντεβού, ιστορικό παλιότερων εξετάσεων, υπενθύμιση λήψης αγωγής κ.ά.) καθώς και ως βοηθητικό εργαλείο προς τον γιατρό (πρόσβαση στη βιβλιογραφία, επικουρική αξιολόγηση περιστατικών σε απεικονιστικές εξετάσεις κ.ά.). Αντίθετα, δεν έχει ακόμη την ίδια αποτελεσματικότητα σε διοικητικές λειτουργίες, καθώς δεν υπάρχουν τα δεδομένα που θα την εκπαιδεύσουν σε αυτό.
Ένα παράδειγμα ορθής χρήσης των γλωσσικών μοντέλων από τον ασθενή είναι να ρωτήσει το σύστημα ποια ιατρική ειδικότητα να επισκεφθεί για το πρόβλημα που αντιμετωπίζει, με βάση τα συμπτώματα. “Να χρησιμοποιούμε αυτά τα μοντέλα ως εργαλεία και όχι ως κανονικές νοημοσύνες με τις οποίες συνομιλούμε. Τουλάχιστον όχι ακόμα», αναφέρει και συμπληρώνει: «Τα εργαλεία που έχουμε διαθέσιμα σήμερα είναι στατιστική. Είναι επιρρεπή σε λάθη και όπως δεν τα εμπιστευόμαστε να μας κάνουν τη φορολογική μας δήλωση, έτσι δεν θα τα ρωτήσουμε για τα φάρμακα που θα πάρουμε”.
