TY  -  JOUR
AU  -  Cabitza, Federico
AU  -  Alderighi, Camilla
AU  -  Rasoini, Raffaele
AU  -  Gensini, Gian Franco
T1  -  Potenziali conseguenze inattese 
dell’uso di sistemi di intelligenza artificiale oracolari 
in medicina
PY  -  2017
Y1  -  2017-10-01
DO  -  10.1701/2802.28353
JO  -  Recenti Progressi in Medicina
JA  -  Recenti Prog Med
VL  -  108
IS  -  10
SP  -  397
EP  -  401
PB  -  Il Pensiero Scientifico Editore
SN  -  2038-1840
Y2  -  2026/04/18
UR  -  http://dx.doi.org/10.1701/2802.28353
N2  -  I sistemi di supporto decisionale basati sul machine learning (ML) in medicina stanno raccogliendo un crescente interesse grazie a recenti pubblicazioni che ne hanno evidenziato l’elevata accuratezza diagnostica in specifici contesti clinici. Tuttavia, agli ipotetici vantaggi derivanti dall’applicazione dei sistemi di intelligenza artificiale in campo medico, vanno criticamente affiancati alcuni potenziali inconvenienti. Alla luce dell’attuale mancanza di studi sugli effetti collaterali dell’applicazione di questi nuovi supporti decisionali nella pratica medica, in questo articolo sintetizziamo le principali conseguenze inattese che potrebbero derivare dalla loro applicazione estesa, soprattutto in relazione alla peculiare caratteristica dei sistemi di tipo “oracolare”, ovvero che si basano su modelli predittivi di ML in cui l’elevata accuratezza spesso è inversamente proporzionale alla trasparenza del percorso che conduce alle predizioni. Le principali conseguenze inattese correlate con l’impiego dei sistemi di ML variano dall’incertezza intrinseca dei dati impiegati per “addestrare” e alimentare questi sistemi, all’inadeguata esplicabilità delle loro risposte, al rischio di una eccessiva tendenza ad affidarsi a questi sistemi da parte dei loro utenti, con una loro conseguente dequalificazione e desensibilizzazione nei confronti del contesto clinico. Sebbene alcune di queste criticità possano essere difficili da valutare, data la scarsità a oggi di reali applicazioni di tali sistemi nella pratica medica, vogliamo richiamare l’attenzione su di esse al fine di dare un contributo di indirizzo per ricerche future e in supporto di politiche di approvazione dei sistemi di intelligenza artificiale che siano maggiormente informate e consapevoli, e che sappiano vedere oltre le valutazioni, spesso eccessivamente enfatiche, che riguardano questo tipo di tecnologia informatica a supporto della decisione medica.
ER  -