PULSE: Οι υπηρεσίες δημόσιας υγείας των ΗΠΑ δοκιμάζουν OpenAI και Anthropic – Τι μένει αναπάντητο

PULSE: Οι αμερικανικές υπηρεσίες δημόσιας υγείας δοκιμάζουν OpenAI και Anthropic – Και τα ερωτήματα που μένουν αναπάντητα

Δέκα πολιτειακές, τοπικές και φυλετικές υπηρεσίες δημόσιας υγείας στις ΗΠΑ ξεκινούν αυτό το φθινόπωρο να δοκιμάζουν εργαλεία γενετικής τεχνητής νοημοσύνης σε πραγματικές συνθήκες. Το πρόγραμμα ονομάζεται PULSE (Public Health Use Case and Learning Scaling Engine) και το τρέχει ο Συνασπισμός για την Τεχνητή Νοημοσύνη στην Υγεία (Coalition for Health AI – CHAI), με τη συμμετοχή της OpenAI, της Anthropic και της Accenture.

Οι δύο εταιρείες AI δώρισαν δέκα εταιρικές άδειες με χωρητικότητα έως 2.000 επαγγελματίες δημόσιας υγείας. Η Accenture αναλαμβάνει την ένταξη των συμμετεχόντων και τη σύνταξη οδηγών εφαρμογής με βάση τα ευρήματα.

Πέντε πεδία δοκιμής

Οι υπηρεσίες που θα επιλεγούν θα κατανεμηθούν σε πέντε θεματικές:

• Βιοεπιτήρηση και πρόβλεψη κυμάτων ναρκωτικών – εντοπισμός επιδημιολογικών τάσεων πριν γίνουν κρίση
• Κοινωνικοί προσδιοριστές υγείας και η χαρτογράφησή τους
• Λειτουργική αποδοτικότητα και ανάλυση σχολίων από την κοινότητα
• Δημόσια επικοινωνία και πολύγλωσσος κόμβος μετάφρασης
• Αυτοματοποιημένη ανάκτηση κλινικών δεδομένων μέσω μηχανής ερωτημάτων FHIR (του διεθνούς προτύπου ανταλλαγής ιατρικών δεδομένων)

Το σκεπτικό το συνόψισε ο επικεφαλής του CHAI, Δρ. Μπράιαν Άντερσον: οι υπηρεσίες δημόσιας υγείας μπήκαν στην πανδημία μετά από χρόνια υποεπένδυσης στην τεχνολογία, και το PULSE στοχεύει να τους δώσει πρακτική εμπειρία πριν από ευρύτερη εφαρμογή. Σύμφωνα με στοιχεία που επικαλείται ο συνασπισμός, σχεδόν το 40% των τοπικών υπηρεσιών υγείας δεν χρησιμοποιούσε καθόλου AI.

Τι λένε οι εμπλεκόμενοι

Ο Δρ. Ντέιβιντ Λέικι, πρώην επίτροπος υγείας του Τέξας, τόνισε ότι κάθε μεγάλος τεχνολογικός μετασχηματισμός κρίνεται από την εμπιστοσύνη, τη διακυβέρνηση και την εκτέλεση.

Από την πλευρά της Anthropic, η επικεφαλής ωφέλιμων εφαρμογών Ελίζαμπεθ Κέλι σημείωσε ότι οι υπηρεσίες δημόσιας υγείας καλούνται να κάνουν περισσότερα με λιγότερα και ότι η AI μπορεί να βοηθήσει «εφόσον εισαχθεί με προσοχή και με τις σωστές δικλείδες ασφαλείας». Ο Φελίπε Μιγιόν της OpenAI μίλησε για εργαλεία που πρέπει να είναι χρήσιμα, ασφαλή και προσβάσιμα.

Ο Δρ. Άσις Τζα, πρώην συντονιστής της αμερικανικής κυβέρνησης για την COVID-19, το έθεσε πιο ωμά: η AI θα αλλάξει τον τρόπο που παρέχεται η δημόσια υγεία το ερώτημα είναι αν αυτό θα γίνει με σκέψη ή όχι.

Και τώρα τα δύσκολα

Εδώ αρχίζει το πιο ενδιαφέρον κομμάτι, και δεν είναι οι ανακοινώσεις αλλά οι σιωπές. Το ρεπορτάζ του AI News καταγράφει έναν εντυπωσιακό κατάλογο πραγμάτων που δεν έχουν διευκρινιστεί:

• Ποια προϊόντα και ποιες εκδόσεις μοντέλων θα χρησιμοποιηθούν, και πώς κατανέμονται οι δύο πάροχοι στα πιλοτικά.
• Τι είδους δεδομένα θα χρησιμοποιηθούν: πραγματικά ταυτοποιήσιμα αρχεία ασθενών, ανωνυμοποιημένα, συνθετικά ή συγκεντρωτικά;
• Ποιος ελέγχει τα αποτελέσματα. Δεν έχει δηλωθεί αν προσωπικό θα εγκρίνει τα κείμενα δημόσιας επικοινωνίας, θα επαληθεύει τις μεταφράσεις ή θα ελέγχει τα κλινικά δεδομένα που ανακτώνται πριν αυτά χρησιμοποιηθούν.
• Χρόνοι διατήρησης, δικαιώματα πρόσβασης, διαδικασίες ελέγχου τίποτα από αυτά δεν έχει ανακοινωθεί.
• Με ποια κριτήρια θα αξιολογηθούν τα πιλοτικά.

Οι δύο εταιρείες δηλώνουν ότι, εξ ορισμού, δεν χρησιμοποιούν τα δεδομένα των εταιρικών τους υπηρεσιών για την εκπαίδευση των μοντέλων τους. Αυτό όμως, όπως σωστά επισημαίνει το ρεπορτάζ, είναι πολιτική των παρόχων δεν καθορίζει πώς θα ρυθμιστούν συγκεκριμένα τα πιλοτικά του PULSE.

Γιατί έχει σημασία και για εμάς

Το πλαίσιο διαχείρισης κινδύνου AI του αμερικανικού NIST συνιστά να αξιολογείται κάθε σύστημα με βάση τη χρήση, το περιβάλλον λειτουργίας, τους θιγόμενους και τις πιθανές συνέπειες και να ορίζεται ρητά πού απαιτείται ανθρώπινη εποπτεία. Το PULSE δεν έχει δημοσιοποιήσει τέτοιες προδιαγραφές ανά περίπτωση χρήσης.

Αυτό δεν σημαίνει ότι το πρόγραμμα είναι κακό. Σημαίνει ότι βρισκόμαστε στη φάση όπου τα εργαλεία μπαίνουν σε ευαίσθητα δημόσια συστήματα ταχύτερα απ’ ό,τι διαμορφώνονται οι κανόνες που τα διέπουν. Και οι οδηγοί που θα βγουν από αυτά τα δέκα πιλοτικά το 2027 πιθανότατα θα διαβαστούν και εκτός ΗΠΑ σε ευρωπαϊκά και ελληνικά συστήματα υγείας που αντιμετωπίζουν τα ίδια διλήμματα, με λιγότερους πόρους.

Στην Ελλάδα το ερώτημα τέθηκε ήδη σε μικρότερη κλίμακα, όταν η ΠΟΑμΣΚΠ παρουσίασε το δικό της chatbot για τη Σκλήρυνση κατά Πλάκας – με τη ρητή δέσμευση ότι αντλεί μόνο από επιστημονικά τεκμηριωμένο υλικό και δεν αντικαθιστά τον γιατρό.

Η σωστή ερώτηση δεν είναι «θα μπει η AI στη δημόσια υγεία;». Έχει ήδη μπει. Είναι «ποιος θα ελέγχει τι βγαίνει από αυτήν, και ποιος θα λογοδοτεί όταν κάτι πάει στραβά».

Με πληροφορίες από AI News (artificialintelligence-news.com)