Ιδιαίτερη ανησυχία προκαλούν τα δεδομένα για χειρουργικές συσκευές πλοήγησης, όπου η ακρίβεια δεν είναι απλώς επιθυμητή αλλά κρίσιμη
Η ραγδαία εισβολή της Τεχνητής Νοημοσύνης στην ιατρική, παρουσιάζεται συχνά ως τεχνολογικό άλμα αντίστοιχο με την ανακάλυψη των αντιβιοτικών. Ωστόσο, τα διαθέσιμα δεδομένα, δείχνουν ότι πίσω από την αψεγάδιαστη ακρίβεια και την εξασφαλισμένη αποτελεσματικότητα, αναδύεται ένα τοπίο αυξανόμενων κινδύνων, ρυθμιστικών κενών κι αμφισβητούμενων επιλογών. Στις Ηνωμένες Πολιτείες για παράδειγμα, ο FDA έχει εγκρίνει το τελευταίο διάστημα τουλάχιστον 1.357 ιατρικές συσκευές που ενσωματώνουν τεχνητή νοημοσύνη, αριθμός υπερδιπλάσιος σε σχέση με το 2022. Παράλληλα, όμως, οι αναφορές δυσλειτουργιών και ανεπιθύμητων συμβάντων πληθαίνουν.
Λανθασμένες εντολές σε νυστέρια προκάλεσαν μέχρι κι εγκεφαλικά επεισόδια
Στο διάστημα 2021-2025 κατατέθηκαν τουλάχιστον 1.401 αναφορές δυσλειτουργίας που αφορούν αντίστοιχες συσκευές, με τουλάχιστον 115 εξ αυτών σχετίζονται με προβλήματα λογισμικού, αλγορίθμων ή προγραμματισμού. Ιδιαίτερη ανησυχία προκαλούν τα δεδομένα για χειρουργικές συσκευές πλοήγησης, όπου η ακρίβεια δεν είναι απλώς επιθυμητή αλλά κρίσιμη. Σε ορισμένες περιπτώσεις, οι αναφορές περιγράφουν συστήματα που παρείχαν λανθασμένη πληροφόρηση, με τις συνέπειες να είναι τραγικές. Ορισμένες εξ αυτών περιλάμβαναν διαρροή εγκεφαλονωτιαίου υγρού, διάτρηση της βάσης του κρανίου και τραυματισμό μεγάλων αρτηριών, με αποτέλεσμα εγκεφαλικά επεισόδια. Στην έρευνα του Reuters το κρίσιμο ερώτημα που τίθεται είναι κατά πόσο, ανεξάρτητα από τη νομική αξιολόγηση, οι χρήστες και οι κατασκευαστές είναι σε θέση να κατανοήσουν πού και γιατί αποτυγχάνουν.
Προβλήματα κι εκτός χειρουργείου
Τα προβλήματα δεν περιορίζονται στο χειρουργείο. Ο FDA έχει καταγράψει περιπτώσεις όπου λογισμικό τεχνητής νοημοσύνης για προγεννητικούς υπερήχους αναγνώριζε λανθασμένα εμβρυϊκές δομές, αντιστοιχίζοντάς τες σε λάθος μέρη του σώματος. Άλλες δυσλειτουργίες σε καρδιακά μόνιτορ που χρησιμοποιούσαν αλγόριθμο, δεν «έπιασαν» αρρυθμίες. Ακόμη κι όταν δεν καταγράφεται επιδείνωση της υγείας του ασθενούς ή παράπλευρα προβλήματα, το γεγονός ότι τέτοιες αστοχίες συμβαίνουν εγείρει ερωτήματα για το επίπεδο αξιοπιστίας που θεωρείται αποδεκτό.
Ένα επιπλέον στοιχείο που ενισχύει την αμφισβήτηση είναι τα δεδομένα για τις ανακλήσεις προϊόντων. Σύμφωνα με μελέτη που δημοσιεύτηκε στο JAMA Health Forum, 60 συσκευές που έχει εγκρίνει ο FDA «πιάστηκαν» να παρουσιάζουν σφάλματα σε 182 περιπτώσεις, με το 43% αυτών να πραγματοποιείται μέσα στον πρώτο χρόνο από την έγκριση. Το ποσοστό αυτό είναι περίπου διπλάσιο σε σχέση με άλλες ιατρικές συσκευές που εγκρίνονται με παρόμοιες διαδικασίες, γεγονός που υποδηλώνει ότι οι υφιστάμενοι μηχανισμοί ελέγχου ίσως δεν επαρκούν για τεχνολογίες που βρίσκονται σε μαθησιακό στάδιο ακόμα κι ολοένα μεταβάλλονται.
Χαοτικός και δύσκολος ο έλεγχος
Με ολοένα και περισσότερες εταιρείες να επενδύουν στην Τεχνητή Νοημοσύνη, τα πράγματα περιπλέκονται ολοένα και περισσότερο με τον FDA να δυσκολεύεται να ανταποκριθεί στον όγκο και την πολυπλοκότητα των αιτήσεων, ιδίως μετά από απώλειες εξειδικευμένου προσωπικού. Παράλληλα, πολλές συσκευές τεχνητής νοημοσύνης δεν υποχρεούνται σε εκτεταμένες κλινικές δοκιμές, καθώς εγκρίνονται ως «αναβαθμίσεις» ήδη υπαρχόντων προϊόντων, μια πρακτική που, στην εποχή της μηχανικής μάθησης, δημιουργεί νέες και λιγότερο προβλέψιμες αβεβαιότητες.
Η Τεχνητή Νοημοσύνη δεν είναι εγγενώς επικίνδυνη. Τουλάχιστον όχι ακόμα, που υπερτερεί ο ανθρώπινος παράγοντας. Όμως κανείς δεν μπορεί να εγγυηθεί ένα ασφαλές μέλλον, μέχρις ότου η ικανότητα ελέγχου, κατανόησης κι εποπτείας της τεχνολογίας, μπορεί να φτάσει στο «ταβάνι» της. Σε έναν τομέα όπου το λάθος δεν είναι απλώς στατιστικό αλλά ανθρώπινο, το ερώτημα δεν είναι αν η Τεχνητή Νοημοσύνη έχει θέση στην ιατρική, αλλά αν γενικότερα ο οργανισμός της υγείας είναι έτοιμος να διαχειριστεί τις αποτυχίες που μπορεί προκαλέσει.
Τελευταίες Ειδήσεις
- Τα Μερομήνια προβλέπουν «σκληρό» καλοκαίρι: Ποιος θα είναι ο πιο δύσκολος μήνας
- Τεκτονικές αλλαγές σε νέα δημοσκόπηση: Τα 2 κόμματα που εξαφάνισε ο Τσίπρας με το καλημέρα
- Το πρώτο… καλλιτεχνικό μπαμ του Τσίπρα: Ο ηθοποιός που κλείνει στο νέο κόμμα
