Dalla letteratura

Intelligenza artificiale come strumento di disinformazione sanitaria

«Utilizzando un unico large-language model (LLM) disponibile pubblicamente, in 65 minuti sono stati generati 102 post di blog che contenevano più di 17.000 parole volte a disinformare su vaccini e vaping». Questo il risultato dell’impegno dei ricercatori australiani dell’università di Adelaide che hanno pubblicato il proprio lavoro su JAMA Internal Medicine1. I post erano – per così dire… – “arricchiti” da false testimonianze di pazienti e medici e non mancavano di citare riferimenti bibliografici. «Ulteriori strumenti di intelligenza artificiale generativa – spiegano gli autori – hanno creato venti immagini realistiche in meno di due minuti. Tutto questo è frutto del lavoro di professionisti del settore sanitario e ricercatori con nessuna particolare conoscenza specialistica e che si sono basati esclusivamente su informazioni disponibili pubblicamente».

Gli autori riconoscono che l’intelligenza artificiale offra molte potenzialità di supporto alla telemedicina, alla strutturazione di medical notes per la ricerca, alla formazione medica, alla traduzione in tempo reale, al monitoraggio remoto dei pazienti e al triage. Ma – forse denunciando inconsapevolmente un bias originale, per così dire – aggiungono in premessa che «l’utilità attuale è limitata dai limiti nell’accuratezza delle risposte e dalle “allucinazioni” dell’intelligenza artificiale (risultati convincenti ma falsi)».

Le conclusioni di questa avventura dimostrerebbero che «quando le protezioni degli strumenti di intelligenza artificiale sono insufficienti, i LLM hanno una profonda capacità di generare rapidamente diverse e grandi quantità di disinformazione convincente». Chiedono per questo una “solida vigilanza” che si ispiri alla metodologia di controllo sviluppata negli ultimi decenni dalla farmacovigilanza. E come si potrebbero adattare queste esperienze alla novità dell’intelligenza artificiale?

«Le aziende che lavorano nell’intelligenza artificiale (IA) devono essere responsabili della segnalazione delle irregolarità a un organismo di sorveglianza indipendente e devono disporre di meccanismi di risposta trasparenti. Parallelamente, il pubblico dovrebbe avere accesso alle informazioni segnalate alle aziende di IA e alle azioni intraprese. In particolare, quando abbiamo informato OpenAI dei comportamenti osservati, non abbiamo ricevuto alcun riscontro. Inoltre, nel corso del nostro studio abbiamo notato che non siamo stati in grado di reperire informazioni chiaramente dettagliate sui meccanismi di controllo previsti dal LLM. Tale trasparenza è essenziale per permettere di discutere della qualità e delle distorsioni degli strumenti. Inoltre, le aziende di IA devono urgentemente dotare la comunità di strumenti che consentano di individuare i contenuti generati. Infine, i governi devono accelerare l’adozione di linee guida normative efficaci per gli strumenti di IA generativa e imporne l’attuazione».

Resta un po’ di perplessità nel constatare ancora una volta il rischio di confondere lo strumento (in questo caso OpenAI) e l’agente (il medico o i ricercatori che ne hanno fatto uso). Ritenere almeno in certa misura “colpevole” l’intelligenza artificiale di produrre disinformazione suggerirebbe di dover considerare ugualmente responsabile un computer – o, ai tempi, una macchina da scrivere – della scrittura di un articolo scientifico o di una voce enciclopedica.




Bibliografia

1. Menz BD, Modi ND, Sorich MJ, Hopkins AM. Health disinformation use case highlighting the urgent need for artificial intelligence vigilance: weapons of mass disinformation. JAMA Intern Med 2024; 184: 92-6.

La condivisione dei dati della ricerca: qualcosa si muove

Dopo anni di discussione, i National institutes of health (Nih) hanno finalmente presentato una politica di condivisione dei dati nel 2023, che dovrebbe aumentare notevolmente la quantità di dati condivisi. La scorsa settimana, tre ricercatori di Yale molto noti (Joseph Ross, Joanne Waldstreicher e Harlan Krumholz) hanno descritto, in un op-ed sul New England Journal of Medicine, le potenzialità della decisione dell’agenzia statunitense1. A distanza di un mese e proprio in apertura del nuovo anno, è uscito invece su Forbes un commento caustico di Steven Salzberg: una tribuna inusuale per un argomento di questo tipo, che però lascia capire come la questione della condivisione dei dati della ricerca sia un tema che travalica con decisione l’ambito strettamente sanitario2.

«Per alcuni di noi è un po’ ironico che questo op-ed sia apparso sul NEJM che solo pochi anni fa ha coniato il termine parassiti della ricerca per descrivere chiunque voglia fare ricerca utilizzando i dati prodotti da altri scienziati. Quel precedente articolo, scritto nel 2016 dalla direzione del NEJM, era semplicemente grondante di disprezzo»3. L’articolo di Longo e Drazen suscitò molto clamore e una risposta molto decisa da parte di Retraction Watch pubblicata su Statnews4. Come ricorda Salzberg, l’op-ed del 2016 sul NEJM era a sua volta una risposta a un appello per una maggiore condivisione dei dati pubblicati sul New York Times dai cardiologi Eric Topol e Harlan Krumholz (lo stesso Krumholz coautore dell’articolo da poco uscito sul NEJM).




La cosa più sorprendente, al di là delle polemiche più o meno sterili degli ultimi anni, è che c’è un’enorme quantità di dati generati dalla ricerca finanziata con fondi pubblici che non viene condivisa. Paradossalmente, potrebbe essere una tendenza maggiore di quanto riscontriamo in ambito privato. «Le ragioni di solito sono banali» spiega Salzberg: chi ha raccolto i dati vuole continuare a usarli per arrivare a nuove ipotesi di ricerca, quindi perché condividerli? «Altre volte, inoltre, i ricercatori impacchettano i dati e li vendono, il che è del tutto legale, anche se il governo ha pagato per il lavoro. Molti scienziati si battono da tempo contro questa cultura della segretezza. La nostra tesi è che tutti i dati dovrebbero essere liberi, almeno se sono oggetto di una pubblicazione scientifica. Non sono solo gli scienziati a sostenere questa tesi: perché anche i gruppi di pazienti hanno iniziato a rendersi conto che non potevano nemmeno conoscere i risultati degli studi condotti sulle malattie da loro sofferte, a meno che non paghino una rivista per accedere ai documenti».




La nuova politica di condivisione dei dati del Nih è una conseguenza del movimento Open Science che sostiene che la scienza si muove molto più velocemente quando è aperta. Come sottolineano i ricercatori di Yale, la condivisione di dati aperti ha già prodotto enormi benefici. Per esempio, sottolineano che centinaia di articoli sono stati pubblicati utilizzando i dati pubblici del National heart, lung, and blood institute dell’Nih, tra cui studi che hanno rivelato nuove scoperte sull’efficacia della digossina, un farmaco comunemente usato per trattare l’insufficienza cardiaca. «La nuova politica dei Nih riguarda tutti gli istituti e possiamo sperare che sblocchi nuove scoperte consentendo a molti più scienziati di esaminare i preziosi dati attualmente conservati dietro firewall chiusi» conclude Salzberg. L’editoriale del NEJM propone una soluzione diversa, che potrebbe essere molto più efficace: inserire i dati scientifici in un archivio governativo. Si tratta di una soluzione che il governo stesso può imporre (perché controlla i finanziamenti) e, una volta che i dati sono in un archivio pubblico, gli autori non potranno più tenerli nascosti.




Bibliografia

1. Ross JS, Waldstreicher J, Krumholz HM. Data sharing. A new era for research funded by the US Government. New Engl J Med 2023; 389: 2408-10.

2. Salzberg S. Major medical journal reverses itself on ‘research parasites’ as NIH beefs up data sharing rules. Forbes 2024; 1 gennaio.

3. Longo DL, Drazen JM. Data sharing. New Engl J Med 2016; 374: 276-7.

4. Oransky I, Marcus A. Criticism of ‘research parasites’ moves NEJM in the wrong direction. StatNews 2016; 26 gennaio.

La Fda controlla la sicurezza dei dispositivi medici?

I cittadini degli Stati Uniti – e non solo, considerando la grande influenza che ha anche sulle agenzie regolatorie del resto del mondo – si fidano della Food and drug administration (Fda) per assicurarsi che i dispositivi medici siano sicuri e per agire rapidamente in caso di problemi. Ma un’indagine durata un anno condotta da KFF Health News ha rivelato che una serie di prodotti autorizzati dalla Fda, sia impiantati nel corpo umano sia utilizzati per trattare malattie croniche, sono sospettati di aver contribuito a migliaia di lesioni e decessi di pazienti1.

Come leggiamo nell’articolo, «l’indagine ha scoperto che la maggior parte dei dispositivi medici, tra cui molti impianti, sono ora autorizzati alla vendita dalla Fda senza che siano stati effettuati test di sicurezza o di efficacia. Al contrario, i produttori devono semplicemente dimostrare di avere una sostanziale equivalenza con un prodotto già presente sul mercato: un processo di approvazione che alcuni esperti considerano ampiamente sovrautilizzato e pieno di rischi».

«I pazienti credono di ricevere un impianto di cui è stata dimostrata la sicurezza», ha dichiarato alla rivista Joshua Sharlin, ex funzionario della Fda che ora è consulente in materia di regolamentazione di farmaci e dispositivi medici. «Invece non è così», ha detto Sharlin. E una volta che questi dispositivi raggiungono il mercato, la Fda fatica a tenere traccia dei malfunzionamenti, compresi i decessi e i danni fisici provocati ai pazienti, mentre i malati devono affrontare ostacoli legali per ottenere che i produttori siano giudicati responsabili dei difetti del prodotto. In una dichiarazione rilasciata a KFF Health News, la Fda ha smentito le accuse, dichiarando di «seguire un processo scientificamente rigoroso per valutare la sicurezza e l’efficacia dei dispositivi medici».




Bibliografia

1. Schulte F, Hacker HK. Deep flaws in Fda oversight of medical devices, and patient harm, exposed in lawsuits and records. KFF Health News 2023; 21 dicembre.

Regolatorio creativo

Lo sviluppo arrembante della tecnologia obbliga le agenzie regolatorie a definire nuove strategie per poter continuare a vigilare attivamente sull’innovazione, senza deprimerla e senza esporre i cittadini a rischi legati alla sicurezza dei prodotti approvati. D questa premessa nascono le tre proposte di Scott Gottlieb – già commissioner della Food and drug administration (Fda) – pubblicate su JAMA Health Forum1.

La prima lezione appresa – secondo Gottlieb – è la necessità di far procedere la valutazione di una nuova tecnologia attraverso un percorso normativo già noto. «L’agenzia dispone di metodi consolidati per la valutazione delle tecnologie esistenti e, in quasi tutti i casi, le nuove tecnologie possono essere inserite in uno di questi canali». Califf cita come esempio l’approccio seguito per regolamentare nel 2018 il peraltro discusso dispositivo Apple Watch: l’agenzia ha pensato di riconoscere «il lavoro meticoloso intrapreso da Apple» definendo questa soluzione come «un approccio basato sull’azienda produttrice». Questa prassi è stata rapidamente adottata «come politica pilota ed è diventata parte di uno sforzo più ampio per modernizzare e snellire i processi normativi».

La seconda lezione è la necessità di escludere attività a basso rischio quando le autorità regolatorie valutano un prodotto appartenente a un nuovo settore: «escludendo alcune attività a basso rischio, l’agenzia ha potuto concentrare le proprie risorse sugli interventi ad alto rischio».

Il terzo insegnamento è «il vantaggio di avere organismi già consolidati che possono essere utilizzati per fornire parametri di riferimento autorevoli per la valutazione di una nuova tecnologia. La disponibilità di uno standard pubblico riconosciuto dalla Fda ha fornito agli sviluppatori di test un percorso efficiente per l’autorizzazione alla commercializzazione o l’approvazione di nuovi esami».

Serve un regolatorio creativo, sostiene Gottlieb: non resta che sperare che tutto funzioni.




Bibliografia

1. Gottlieb S. Strategies for regulating disruptive medical technologies. JAMA Health Forum 2023; 4: e235460.

Perché i medici lasciano il lavoro?

Il burnout è associato a un maggiore turnover dei medici: è la premessa da cui parte uno studio condotto in otto centri ospedalieri statunitensi1 che fa il punto anche sulla letteratura uscita sull’argomento negli ultimi anni, a cominciare da uno studio trasversale su 1840 operatori sanitari (tra cui medici, infermieri e ostetriche) impiegati in ospedali pubblici e cliniche di riabilitazione in Svizzera, studio che ha riscontrato un’associazione significativa tra burnout e pensieri di abbandono della professione medica2.

Lo squilibrio tra lavoro e vita privata è stato il più forte predittore dei sintomi di burnout tra i medici, ma la mancata corrispondenza tra l’impegno profuso e il riconoscimento da parte dell’istituzione è la ragione principale del desiderio di mollare la professione. Un altro studio che ha analizzato il burnout e l’abbandono della professione medica – in una coorte di 472 medici di due ospedali del sistema universitario di Stanford che avevano completato un’indagine sul benessere dei medici – aveva invece riportato che i medici che soddisfacevano i criteri per la diagnosi di burnout avevano una probabilità più che doppia di lasciare l’istituzione nei due anni successivi rispetto ai soggetti che non soddisfacevano i criteri di burnout3.

Ma a quali conclusioni è giunto il nuovo studio? Quasi il 33% dei medici sta pensando di lasciare il posto di lavoro, con maggiore o minore determinazione. Ricevere sostegno da parte dei dirigenti sanitari, l’allineamento dei valori personali e organizzativi, il supporto dei colleghi, la gratitudine percepita, il supporto organizzativo durante la pandemia-19 e la funzionalità delle cartelle cliniche elettroniche sono fattori associati a una minore tentazione di lasciare; mentre sintomi depressivi e l’impatto negativo del lavoro sulle relazioni personali erano associati a una maggiore determinazione nel cambiare lavoro.




Bibliografia

1. Ligibel JA, Goularte N, Berliner JI, et al. Well-being parameters and intention to leave current institution among academic physicians. JAMA Netw Open 2023; 6: e2347894.

2. Hämmig O. Explaining burnout and the intention to leave the profession among health professionals - a cross-sectional study in a hospital setting in Switzerland. BMC Health Serv Res 2018; 18: 785.

3. Hamidi MS, Bohman B, Sandborg C, et al. Estimating institutional physician turnover attributable to self-reported burnout and associated financial burden: a case study. BMC Health Serv Res 2018; 18: 851.

Vaccinazioni a un punto di svolta

«Nonostante l’attenzione posta nello sviluppo e nella diffusione dei vaccini e il loro chiaro e convincente vantaggio di salvare la vita dei singoli individui e migliorare i risultati di salute della popolazione, un numero crescente di persone negli Stati Uniti rifiuta la vaccinazione per una serie di motivi, che vanno dalle preoccupazioni per la sicurezza alle convinzioni religiose». La viewpoint uscita sul JAMA il 5 gennaio 20241 ha avuto molti lettori e ha fatto discutere. A firmarla Peter Marks – direttore del Center for Biologics Evaluation and Research – e Robert Califf – commissioner della US Food and drug administration (Fda).

«Mettendo da parte per il momento la questione controversa degli obblighi vaccinali a livello federale, statale o locale negli Stati Uniti, che non sono di competenza della Fda – puntualizzavano gli autori – la situazione è ora peggiorata al punto che l’immunità della popolazione contro alcune malattie infettive prevenibili con il vaccino è a rischio e migliaia di morti in eccesso potrebbero verificarsi in questa stagione a causa di malattie che possono essere prevenute o ridotte nella loro gravità con i vaccini».

Dopo una prima parte dedicata a esporre il problema fornendo i dati più aggiornati sulla recrudescenza di patologie evitabili e sull’efficacia delle vaccinazioni contro Covid-192, Marks e Califf hanno voluto spostare l’accento sulla proposta di contromisure. «Per contrastare l’attuale tendenza, esortiamo la comunità clinica e biomedica a raddoppiare gli sforzi per fornire informazioni accurate e chiare sui benefici e sui rischi individuali e collettivi della vaccinazione. Tali informazioni sono oggi necessarie perché i vaccini hanno ottenuto gli effetti desiderati con un tale successo che molte persone non si accorgono più della preoccupante morbilità e mortalità dovuta alle patologie che possono essere controllate con i vaccini. Per esempio, il vaiolo è stato eradicato e la poliomielite è stata eliminata dagli Stati Uniti grazie a efficaci campagne di vaccinazione».

La comunicazione come strumento fondamentale di politica sanitaria, sembrano voler dire gli autori. Comunicazione da parte del medico e, più in generale, degli operatori sanitari, perché «le evidenze indicano che la fonte di informazione più attendibile sulle decisioni in materia di salute rimane il medico che fornisce le cure». Più di un’attività di debunking che contrasti puntualmente la disinformazione intenzionale, serve fare buona informazione fornendo «grandi quantità di prove scientifiche veritiere e accessibili».

A proposito di informazione, alcuni spunti interessanti arrivano da un articolo uscito tre giorni dopo sulla stessa rivista che ha ospitato il contributo di Marks e Califf3 e che spiega quali siano state le strategie per il contenimento dell’outbreak di monkeypox negli Stati Uniti nel 2022: in estrema sintesi, la scelta è stata di adottare un approccio che coinvolgesse profondamente la comunità più colpita. «Anziché essere l’oggetto di un intervento di salute pubblica, la comunità è diventata il media attraverso il quale veicolare l’informazione. I punti di vista (spesso critici) delle persone più colpite dal virus sono stati utilizzati per informare le politiche e creare una responsabilità condivisa. Un esempio è stato la creazione del workshop sull’equity mpox composto da GBMSM [Gay, Bisexual and other Men-who-have-sex-with-men] e transgender appartenenti a minoranze etniche. Questo workshop mensile, suggerito da un membro di spicco della comunità GBMSM, ha fornito alla Casa Bianca un feedback che ha contribuito a calibrare la risposta guidata dalla comunità. Il White House Mpox Response Team ha costruito la fiducia della comunità impegnandosi, ascoltando e agendo in base ai loro suggerimenti».

Gli autori – dei Cdc, dell’Ufficio del presidente della Casa Bianca e della scuola di Sanità pubblica della Brown university – forniscono anche dettagli sulle diverse strategie usate per distribuire le informazioni da webinar, accessibili a infografiche diffuse sui social media. «Queste comunicazioni hanno permesso ai leader della sanità pubblica locale e statale di rispondere in modo trasparente alle domande dei membri della comunità. Una lezione fondamentale tratta dalla risposta al Covid-19 è stata che le epidemie creano bisogni informativi e che soddisfarli con informazioni di alta qualità e facilmente comprensibili è fondamentale per evitare che si diffonda la disinformazione. Lasciare che sia la comunità a identificare i bisogni informativi e poi soddisfarli in modo trasparente, anche riconoscendo l’incertezza scientifica, è stato fondamentale per gestire l’epidemia di vaiolo delle scimmie».




Bibliografia

1. Marks P, Califf R. Is vaccination approaching a dangerous tipping point? JAMA 2024; 5 gennaio.

2. Ikeokwu AE, Lawrence R, Osieme ED, et al. Unveiling the impact of COVID-19 vaccines: a meta-analysis of survival rates among patients in the United States based on vaccination status. Cureus 2023; 15: e43282.

3. Daskalakis D, Romanik N, Jha AK. Lessons from the Mpox response. JAMA 2024; 8 gennaio.

Nuovi farmaci per obesità e diabete: per il Lancet ci sono luci e ombre

Un editoriale del Lancet fa il punto sul trattamento di obesità e diabete inquadrando le aspettative sui nuovi farmaci in un contesto sociale ed economico più ampio. «È probabile che presto saranno disponibili agenti farmacologici in grado di far perdere fino a un quarto del peso corporeo» leggiamo sulla rivista. «La retatrutide, che ha dimostrato di trattare efficacemente l’obesità in uno studio di fase 2, è l’ultimo di una serie di farmaci che ha suscitato grande entusiasmo nel campo dell’obesità e del diabete. Semaglutide è stato approvato dalla Food and drug administration statunitense per il trattamento del diabete (con il nome di Ozempic) nel 2017. Nel 2021 è stato approvato per il trattamento dell’obesità o del sovrappeso (con il nome di Wegovy), e di recente è stato interrotto anticipatamente uno studio sui suoi effetti sulla malattia renale e sui rischi di mortalità cardiovascolare». Sono solo alcuni dei nuovi farmaci arrivati recentemente sul mercato e, come osserva la rivista inglese, la competitività del settore è diventata molto intensa. «Un farmaco efficace per l’obesità o il diabete ha il potenziale di generare miliardi di dollari e le aziende farmaceutiche che non dispongono di tali agenti li stanno cercando disperatamente».

Eppure non mancano delle preoccupazioni. Una research letter uscita sul JAMA riporta un’associazione tra l’uso di agonisti del GLP-1 per la perdita di peso e il rischio di pancreatite, gastroparesi e ostruzione intestinale2. «I dati sulla sicurezza dell’assunzione di questi farmaci a lungo termine sono scarsi o inesistenti» osserva Lancet. «Sebbene la prescrizione di farmaci su larga scala sia facilmente accettata per altre condizioni comuni, la nostra comprensione dell’efficacia e della sicurezza di questa classe di farmaci è ancora in fase iniziale. Sono essenziali studi di sorveglianza a lungo termine sui rischi e i benefici del trattamento in diversi gruppi di pazienti».

Infine, l’editoriale si sofferma sui costi elevati delle farmacoterapie osservando che la perdita di peso viene mantenuta solo durante l’assunzione dei farmaci; «una volta interrotto il trattamento, il peso può essere riacquistato, e quindi i costi del trattamento cronico, sia per gli individui sia per i sistemi sanitari, potrebbero essere sostanziali».




Bibliografia

1. Editorial. Treating obesity and diabetes: drugs alone are not enough. Lancet 2024; 6 gennaio.

2. Sodhi M, Rezaeianzadeh R, Kezouh A, Etminan M. Risk of gastrointestinal adverse events associated with glucagon-like peptide-1 receptor agonists for weight loss. JAMA 2023; 330: 1795-7.