Λιβιέρη Γεωργία
Υπ. Διδάκτωρ Βιοηθικής και Χάραξης Πολιτικών Δημόσιας Υγείας στο Τμήμα Ιατρικών Επιστημών στο Διεθνές Ινστιτούτο Κύπρου για την Περιβαλλοντική και τη Δημόσια Υγεία του Τεχνολογικού Πανεπιστήμιου Κύπρου, Ερευνητικός Συνεργάτης στο Ερευνητικό Εργαστήριο για την Καρδιαγγειακή Επιδημιολογία και Γενετική στο ΤΕΠΑΚ |
Η ψηφιακή τεχνολογία έχει γίνει αναπόσπαστο κομμάτι της ζωής μας. Ειδικότερα, στον τομέα της υγείας η ψηφιακή διάσταση αυξάνεται συνεχώς και τα τελευταία χρόνια οι πρωτοβουλίες ψηφιακής υγείας συγκέντρωσαν μεγάλο ενδιαφέρον και αυξήθηκαν οι επενδύσεις από δημόσιες και ιδιωτικές πηγές1. Τα συστήματα υγειονομικής περίθαλψης σε όλο τον κόσμο αντιμετωπίζουν προβλήματα με την αύξηση του κόστους και την επιδείνωση των αποτελεσμάτων2. Η τεχνητή νοημοσύνη (ΤΝ), η οποία περιλαμβάνει τους τομείς της μηχανικής μάθησης, της επεξεργασίας φυσικής γλώσσας και της ρομποτικής, μπορεί να εφαρμοστεί σε σχεδόν οποιοδήποτε τομέα της ιατρικής3, και οι πιθανές συνεισφορές της στη βιοϊατρική έρευνα, την ιατρική εκπαίδευση και την παροχή υγειονομικής περίθαλψης φαίνονται απεριόριστες. Με την ισχυρή ικανότητά της να ενσωματώνει και να μαθαίνει από μεγάλα σύνολα κλινικών δεδομένων, η τεχνητή νοημοσύνη μπορεί να εξυπηρετήσει ρόλους στη διάγνωση4, στην κλινική λήψη αποφάσεων5, και στην εξατομικευμένη ιατρική6.
Η χρήση της τεχνητής νοημοσύνης, και ιδίως της βαθιάς εκμάθησης, έχει ενεργοποιηθεί με τη χρήση μεγάλων δεδομένων με ετικέτα (labeled big data), μαζί με σημαντικά αυξημένη υπολογιστική ισχύ και αποθήκευση στο cloud, σε όλους τους τομείς2. Στην ιατρική, αυτό έχει αρχίσει να έχει αντίκτυπο σε τρία επίπεδα: για τους κλινικούς ιατρούς, κυρίως μέσω ταχείας, ακριβούς ερμηνείας εικόνας. για τα συστήματα υγείας, με τη βελτίωση της ροής εργασίας και τη δυνατότητα μείωσης των ιατρικών λαθών · και για τους ασθενείς, δίνοντάς τους τη δυνατότητα να επεξεργάζονται τα δικά τους δεδομένα για την προαγωγή της υγείας2. Από τις κλινικές εφαρμογές σε τομείς όπως η απεικόνιση και η διάγνωση έως τη βελτιστοποίηση της ροής εργασίας στα νοσοκομεία και τη χρήση εφαρμογών υγείας για την εκτίμηση των συμπτωμάτων ενός ατόμου, πολλοί πιστεύουν ότι η τεχνητή νοημοσύνη πρόκειται να φέρει επανάσταση στην υγειονομική περίθαλψη7. Οι οικονομικοί αναλυτές έχουν προβλέψει εκρηκτική ανάπτυξη στην αγορά υγείας της τεχνητής νοημοσύνης τα επόμενα χρόνια. Σύμφωνα με μια ανάλυση, το μέγεθος της αγοράς θα αυξηθεί περισσότερο από 10 φορές μεταξύ 2014 και 20218. Όμως, η ανάπτυξη αυτή συνοδεύεται από πολλές προκλήσεις και είναι ζωτικής σημασίας να εφαρμοστεί η τεχνητή νοημοσύνη στο σύστημα υγειονομικής περίθαλψης με ηθικό τρόπο7.
Παρακάτω θα συζητηθούν μερικές από τις κύριες ηθικές προκλήσεις που θέτει η τεχνητή νοημοσύνη στην υγειονομική περίθαλψη, καθώς για να συνειδητοποιήσουμε τις τεράστιες δυνατότητές της στη μεταμόρφωση της υγειονομικής περίθαλψης προς το καλύτερο, οι ενδιαφερόμενοι φορείς στον τομέα της τεχνητής νοημοσύνης πρέπει να συμμετέχουν στην ηθική συζήτηση για το πώς η τεχνητή νοημοσύνη εφαρμόζεται με επιτυχία στην πράξη. Τέλος, η πρόβλεψη πιθανών ηθικών παγίδων, ο εντοπισμός πιθανών λύσεων και η παροχή συστάσεων πολιτικής θα είναι ωφέλιμη στους γιατρούς που υιοθετούν την τεχνολογία τεχνητής νοημοσύνης στην κλινική πράξη, καθώς και στους ασθενείς που λαμβάνουν τη φροντίδα τους9.
Ηθικά Ζητήματα
Η χρήση της τεχνητής νοημοσύνης στην κλινική πρακτική της υγειονομικής περίθαλψης έχει τεράστιες δυνατότητες να την μεταμορφώσει προς το καλύτερο, παρόλα αυτά αυτή η ισχυρή τεχνολογία δημιουργεί ένα νέο σύνολο ηθικών προκλήσεων που πρέπει να εντοπιστούν και να μετριαστούν, αφού η τεχνολογία της τεχνητής νοημοσύνης έχει τεράστιες ικανότητες να απειλεί τις προτιμήσεις των ασθενών, την ασφάλεια και την ιδιωτικότητά τους9.
Ενήμερη Συναίνεση
Αναμφίβολα, οι εφαρμογές υγείας με τεχνητή νοημοσύνη θα μεταμορφώσουν τη σχέση ασθενούς-κλινικού γιατρού. Σε αυτό μάλιστα το σημείο ανακύπτει το εξής ερώτημα: «Πώς θα βοηθήσει η χρήση της τεχνητής νοημοσύνης στη φροντίδα των ασθενών όταν διασυνδέεται με τις αρχές της ενήμερης συναίνεσης;7” Είναι ανάγκη να εξετάσουμε υπό ποιες συνθήκες οι αρχές της ενήμερης συναίνεσης πρέπει να αναπτυχθούν στον κλινικό χώρο της τεχνητής νοημοσύνης7. Σε ποιο βαθμό οι κλινικοί ιατροί έχουν την ευθύνη να «εκπαιδεύσουν» τον ασθενή σχετικά με την πολυπλοκότητα της τεχνητής νοημοσύνης, το είδος των δεδομένων που εισάγονται και την πιθανότητα προκαταλήψεων ή άλλων ελλείψεων στα δεδομένα που χρησιμοποιούνται;7 Υπό ποιες συνθήκες πρέπει ένας κλινικός γιατρός να ειδοποιήσει τον ασθενή ότι χρησιμοποιείται τεχνητή νοημοσύνη;7 Οι Βιοηθικοί θέτουν ερωτήματα σχετικά με τις συμφωνίες χρηστών και τη σχέση τους με τη συγκατάθεση μετά από ενημέρωση, αφού αντίθετα με την παραδοσιακή διαδικασία συναίνεσης μετά από ενημέρωση, μια συμφωνία χρήστη είναι μια σύμβαση στην οποία ένα άτομο συμφωνεί χωρίς πρόσωπο με πρόσωπο διάλογο10. Ασφαλώς, η προσπάθεια αντιμετώπισης όλων των προαναφερθέντων ερωτημάτων καθίσταται πολύ πιο δύσκολη σε περιπτώσεις κατά τις οποίες οι πληροφορίες συλλέγονται από εφαρμογές υγείας, που αναγνωρίζουν τον ασθενή με τεχνητή νοημοσύνη, ή chatbots και επιστρέφουν στη λήψη αποφάσεων κατά την κλινική πράξη.
Διαφάνεια και ασφάλεια
Μία από τις μεγαλύτερες προκλήσεις για την ΤΝ στην υγειονομική περίθαλψη είναι η ασφάλεια. Πώς μπορούμε, όμως, να διασφαλίσουμε ότι η ΤΝ τηρεί τις υποσχέσεις της όσον αφορά την ασφάλεια και την αποτελεσματικότητα; Προκειμένου να συνειδητοποιήσουν τις δυνατότητες της ΤΝ, οι ενδιαφερόμενοι φορείς, ιδιαίτερα οι προγραμματιστές τεχνητής νοημοσύνης, πρέπει να βεβαιώσουν δύο βασικά πράγματα: Πρώτον, τα σύνολα δεδομένων που χρησιμοποιούνται πρέπει να είναι αξιόπιστα και έγκυρα7. Όσο καλύτερα είναι τα δεδομένα εκπαίδευσης (labeled data), τόσο καλύτερη θα είναι η εκτέλεση της τεχνητής νοημοσύνης11. Επιπλέον, οι αλγόριθμοι χρειάζονται περαιτέρω βελτίωση για να παράγουν ακριβή αποτελέσματα. Εκ των προτέρων, η ανταλλαγή δεδομένων είναι ένα ζήτημα υψίστης σημασίας, καθώς σε περιπτώσεις όπου η τεχνητή νοημοσύνη πρέπει να είναι εξαιρετικά αξιόπιστη, θα απαιτηθούν τεράστιες ποσότητες δεδομένων και συνεπώς μεγαλύτερη ανταλλαγή δεδομένων11. Δεύτερον, για την εξυπηρέτηση της ασφάλειας και της εμπιστοσύνης του ασθενούς πρέπει να διασφαλιστεί κάποιος βαθμός διαφάνειας, καθώς ενδέχεται να υπάρχουν ορισμένα θεμιτά ζητήματα που σχετίζονται με την προστασία των επενδύσεων/πνευματικής ιδιοκτησίας και, επίσης, την αύξηση του κινδύνου ασφάλειας στον κυβερνοχώρο7. Επιπλέον, οι προγραμματιστές τεχνητής νοημοσύνης θα πρέπει να εφαρμόζουν διαδικασίες ικανοποιητικά διαφανείς σχετικά με το είδος των δεδομένων που χρησιμοποιούνται και τυχόν ελλείψεις του λογισμικού, καθώς η διαφάνεια δημιουργεί εμπιστοσύνη μεταξύ των ενδιαφερομένων φορέων, ιδιαίτερα των κλινικών ιατρών και των ασθενών, που είναι το κλειδί για την επιτυχή εφαρμογή της τεχνητής νοημοσύνης στην κλινική πράξη7.
Αλγοριθμική δικαιοσύνη και προκατάληψη
Η τεχνητή νοημοσύνη έχει τη δυνατότητα να βελτιώσει την υγειονομική περίθαλψη όχι μόνο σε περιβάλλοντα με υψηλά εισοδήματα, αλλά να εκδημοκρατίσει την τεχνογνωσία, να «παγκοσμιοποιήσει» την υγειονομική περίθαλψη και να την φέρει ακόμη και σε απομακρυσμένες περιοχές12. Ωστόσο, οποιοδήποτε σύστημα μηχανικής μάθησης ή αλγόριθμος εκπαιδευμένος από τον άνθρωπο θα είναι τόσο αξιόπιστος, αποτελεσματικός και δίκαιος όσο τα δεδομένα με τα οποία έχει εκπαιδευτεί7. Η τεχνητή νοημοσύνη ενέχει, επίσης, κίνδυνο για προκαταλήψεις και συνεπώς διακρίσεις, επομένως είναι υψίστης προτεραιότητας οι δημιουργοί τεχνητής νοημοσύνης να λαμβάνουν υπόψη τον κίνδυνο προκαταλήψεων όταν αποφασίζουν ποιες τεχνολογίες/διαδικασίες μηχανικής εκμάθησης θέλουν να χρησιμοποιήσουν για την εκπαίδευση των αλγορίθμων και ποια σύνολα δεδομένων (συμπεριλαμβανομένης της ποιότητας και της ποικιλία τους) θέλουν να χρησιμοποιήσουν για τον προγραμματισμό7. Ένα τεράστιο πρόβλημα έχει να κάνει με το μέρος που θα αναπτυχθεί η τεχνητή νοημοσύνη. Η ΤΝ που αναπτύχθηκε από κορυφαίους εμπειρογνώμονες σε περιβάλλοντα πλούσια σε πόρους δεν μπορεί να προτείνει θεραπείες ακριβείς, ασφαλείς και δίκαιες σε περιβάλλοντα με χαμηλούς πόρους13. Αυτό σημαίνει ότι πρέπει να δοθεί περισσότερη προσοχή στις κανονιστικές υποχρεώσεις και την υποστήριξη πόρων για να διασφαλιστεί ότι αυτή η τεχνολογία βελτιώνει όχι μόνο τη ζωή των ανθρώπων που ζουν σε χώρες υψηλού εισοδήματος, αλλά και εκείνων των ανθρώπων που ζουν σε χώρες χαμηλού και μεσαίου εισοδήματος7.
Ιδιωτικότητα δεδομένων
Είναι σημαντικό να τονιστεί η πιθανότητα καταπάτησης των δικαιωμάτων απορρήτου κατά την ανάπτυξη τεχνολογικών λύσεων. Εάν οι ασθενείς και οι κλινικοί γιατροί δεν εμπιστεύονται την τεχνητή νοημοσύνη, η επιτυχής ενσωμάτωσή τους στην κλινική πράξη θα αποτύχει τελικά, πράγμα που σημαίνει ότι είναι θεμελιωδώς σημαντική η επαρκής ενημέρωση των ασθενών για την επεξεργασία των δεδομένων τους και η προώθηση ενός ανοιχτού διαλόγου για την προώθηση της εμπιστοσύνης7. Τι συμβαίνει, όμως, όσον αφορά την ιδιοκτησία των δεδομένων; Η αξία των δεδομένων υγείας μπορεί να φτάσει έως και δισεκατομμύρια δολάρια, και σύμφωνα με ορισμένα στοιχεία το κοινωνικό σύνολο αισθάνεται άβολα με τις εταιρείες ή την κυβέρνηση να «πουλά» δεδομένα ασθενών με σκοπό το κέρδος14. Στην πραγματικότητα, ενδέχεται να υπάρχουν τρόποι για να νιώθουν οι ασθενείς ότι έχουν αξία με την απεμπλοκή τους από την καθεαυτή ιδιοκτησία τους, όπως για παράδειγμα η αμοιβαιότητα δεν προϋποθέτει απαραίτητα ιδιοκτησία, αλλά όσοι επιδιώκουν να χρησιμοποιήσουν τα δεδομένα των ασθενών πρέπει να δείξουν ότι δίνουν αξία στην υγεία των ίδιων ασθενών των οποίων τα δεδομένα χρησιμοποιούνται15. Πέρα από το ερώτημα για το τι συλλέγεται, είναι επιτακτική η ανάγκη προστασίας των ασθενών από χρήσεις εκτός σχέσης γιατρού-ασθενούς που μπορεί να επηρεάσουν επιβλαβώς τους ασθενείς, όπως επιπτώσεις στην υγεία ή άλλα ασφάλιστρα, ευκαιρίες απασχόλησης ή ακόμη και προσωπικές σχέσεις, δεδομένου ότι εφαρμογές υγείας με τεχνητή νοημόσυνη μοιράζονται δεδομένα ασθενών όχι μόνο με τον γιατρό αλλά και με τα μέλη της οικογένειας και τους φίλους, δημιουργώντας νέα ζητήματα16. Ένα άλλο ευαίσθητο ζήτημα είναι εάν, και εάν ναι, υπό ποιες συνθήκες οι ασθενείς έχουν δικαίωμα να αποσύρουν τα δεδομένα τους, θέτοντας την ακόλουθη ερώτηση: Μπορούν οι ασθενείς να ζητήσουν τη διαγραφή δεδομένων που έχουν ήδη αναλυθεί σε συγκεντρωτική μορφή16;
Συμπεράσματα και Συστάσεις Πολιτικής
Δεν υπάρχει αμφιβολία ότι η τεχνητή νοημοσύνη θα έχει εκτεταμένες συνέπειες που θα φέρουν επανάσταση στην ιατρική πρακτική, μεταμορφώνοντας την εμπειρία του ασθενούς και την καθημερινή ρουτίνα των γιατρών9. Συνολικά, είναι ζωτικής σημασίας να κατανοήσουμε ότι όλοι οι ενδιαφερόμενοι φορείς, συμπεριλαμβανομένων των δημιουργών τεχνητής νοημοσύνης, των ασθενών, των επαγγελματιών υγείας και των ρυθμιστικών αρχών, συνεργάζονται για την αντιμετώπιση των εντοπισμένων προκλήσεων για να διασφαλιστεί ότι η τεχνητή νοημοσύνη θα εφαρμοστεί επιτυχώς με ηθικό τρόπο. Επιπλέον, είναι υψίστης προτεραιότητας να οικοδομηθεί ένα σύστημα που θα βασίζεται στην εμπιστοσύνη του συνόλου, ώστε να επιτευχθεί περαιτέρω ο στόχος ότι η τεχνητή νοημοσύνη ωφελεί όλους σε κοινωνικό επίπεδο. Ενήμερη συναίνεση, υψηλά επίπεδα προστασίας δεδομένων και ιδιωτικότητας, ανθεκτικότητα στον κυβερνοχώρο και ασφάλεια στον κυβερνοχώρο, αλγοριθμική δικαιοσύνη, επαρκές επίπεδο διαφάνειας και κανονιστικής εποπτείας, υψηλά πρότυπα ασφάλειας και αποτελεσματικότητας και βέλτιστο καθεστώς ευθύνης για την τεχνητή νοημοσύνη είναι όλοι οι βασικοί παράγοντες που πρέπει να λαμβάνονται υπόψη για την επιτυχή δημιουργία ενός συστήματος υγειονομικής περίθαλψης με γνώμονα την τεχνητή νοημοσύνη που θα βασίζεται στο σύνθημα «Τεχνητή Νοημοσύνη στην Υγεία για όλους μας»7. Από αυτή την άποψη, είναι υποχρεωτικό όχι μόνο να επανεξεταστούν τα ισχύοντα κανονιστικά πλαίσια και να ενημερωθούν σύμφωνα με τις νέες τεχνολογικές εξελίξεις, αλλά και να αναπτυχθεί δημόσιος και πολιτικός διάλογος, δίνοντας έμφαση στην ηθική της υγειονομικής περίθαλψης που βασίζεται στην τεχνητή νοημοσύνη, καθώς και στις επιπτώσεις της στο ανθρώπινο δυναμικό και την κοινωνία συνολικά. Παρ 'όλα αυτά, υπάρχει πολλή δουλειά για να τεθεί η κατάλληλη ηθική βάση για την ασφαλή και αποτελεσματική χρήση της τεχνολογίας Τεχνητής Νοημοσύνης στην υγειονομική περίθαλψη9. Αναμφίβολα, η τεχνητή νοημοσύνη έχει τεράστιες δυνατότητες για τη βελτίωση του συστήματος υγειονομικής περίθαλψης, αλλά δεν μπορούμε παρά να ξεκλειδώσουμε τις δυνατότητές της ξεκινώντας ήδη από τώρα με την αντιμετώπιση των ηθικών προκλήσεων που αντιμετωπίζουμε7.
REFERENCES
1. Brall C, Schröder-Bäck P, Maeckelberghe E. Ethical aspects of digital health from a justice point of view. Eur J Public Health. 2019;29(Supplement_3):18-22. doi:10.1093/eurpub/ckz167
2. Topol EJ. High-performance medicine: the convergence of human and artificial intelligence. Nat Med. 2019;25(1):44-56. doi:10.1038/s41591-018-0300-7
3. Ramesh AN, Kambhampati C, Monson JRT, Drew PJ. Artificial intelligence in medicine. Ann R Coll Surg Engl. 2004;86(5):334-338. doi:10.1308/147870804290
4. Amato F, López A, Peña-Méndez EM, Vaňhara P, Hampl A, Havel J. Artificial neural networks in medical diagnosis. J Appl Biomed. 2013;11(2):47-58. doi:10.2478/v10136-012-0031-x
5. Bennett CC, Hauser K. Artificial intelligence framework for simulating clinical decision-making: A Markov decision process approach. Artif Intell Med. 2013;57(1):9-19. doi:10.1016/j.artmed.2012.12.003
6. Dilsizian SE, Siegel EL. Artificial intelligence in medicine and cardiac imaging: Harnessing big data and advanced computing to provide personalized medical diagnosis and treatment. Curr Cardiol Rep. 2014;16(1). doi:10.1007/s11886-013-0441-8
7. Gerke S, Minssen T, Cohen G. Ethical and legal challenges of artificial intelligence-driven healthcare. In: Artificial Intelligence in Healthcare. Elsevier; 2020:295-336. doi:10.1016/b978-0-12-818438-7.00012-5
8. Accenture LLP US. Artificial Intelligence (AI) in Healthcare | Accenture.; 2017. Accessed September 26, 2021. https://www.accenture.com/us-en/insight-artificial-intelligence-healthcare
9. Rigby MJ. Ethical dimensions of using artificial intelligence in health care. AMA J Ethics. 2019;21(2):121-124. doi:10.1001/amajethics.2019.121
10. Klugman CM, Dunn LB, Schwartz J, Cohen IG. The Ethics of Smart Pills and Self-Acting Devices: Autonomy, Truth-Telling, and Trust at the Dawn of Digital Medicine. Am J Bioeth. 2018;18(9):38-47. doi:10.1080/15265161.2018.1498933
11. Appen. Training Data: What Is It? All About Machine Learning Training Data. Appen. Published 2020. Accessed September 26, 2021. https://appen.com/blog/training-data/
12. Cossy-Gantner A, Germann S, Schwalbe NR, Wahl B. Artificial intelligence (AI) and global health: How can AI contribute to health in resource-poor settings? BMJ Glob Heal. 2018;3(4). doi:10.1136/bmjgh-2018-000798
13. Medical AI and Contextual Bias by W. Nicholson Price II :: SSRN. Accessed September 26, 2021. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3347890
14. Search - UK Parliament. Accessed September 26, 2021. https://websearch.parliament.uk/?count=10&q=pdf&start_index=541&page=35
15. Cohen IG, Lynch HF, Vayena E, Gasser U. Big Data, Health Law, and Bioethics. CambridgeUniversity Press; 2018. doi:10.1017/9781108147972
16. Gerke S, Minssen T, Yu H, Cohen IG. Ethical and legal issues of ingestible electronic sensors. Nat Electron. 2019;2(8):329-334. doi:10.1038/s41928-019-0290-6