L’intelligenza artificiale sta rapidamente diventando uno strumento fondamentale in ambito medico, offrendo enormi potenzialità ma anche nuovi rischi. Con l’avanzare delle tecnologie, è sempre più comune che le persone ricorrano all’IA per cercare diagnosi o cure senza consultare un medico. Questo approccio, però, può essere estremamente pericoloso.
Le grandi multinazionali del settore hanno recentemente richiesto un rallentamento nello sviluppo incontrollato dell’IA, proprio per evitare che le risposte fornite in ambito medico vengano considerate infallibili. Massimo Di Maio, presidente dell’Associazione italiana di oncologia medica spiega che l’obiettivo è realizzare sistemi di IA certificati, ma sottolinea che il ruolo del medico non potrà mai essere sostituito dalla tecnologia.
I benefici dell’IA nella diagnostica e nella ricerca
L’intelligenza artificiale può portare enormi benefici in ambito medico. Ad esempio, aiuta i radiologi nell’interpretazione delle immagini per identificare con elevata precisione quelle sospette per la presenza di tumori. Inoltre, velocizza la lettura degli screening mammografici riducendo il margine di errore. Tuttavia, il pericolo di risposte falsate resta, poiché l’IA immagazzina miliardi di informazioni, non sempre tutte corrette.
Per questo motivo, si sta lavorando a piattaforme alimentate da sole informazioni scientifiche validate, come studi pubblicati e linee guida. L’obiettivo è arrivare a piattaforme in campo medico e oncologico sempre più affidabili. In Italia, è già attiva la sperimentazione della Piattaforma MIA (Medicina & Intelligenza Artificiale), lanciata a inizio 2026 dall’Agenzia Nazionale per i Servizi Sanitari Regionali (Agenas). MIA attinge esclusivamente da una base di conoscenza blindata, formata da linee guida ufficiali, protocolli ministeriali, normative del Ssn e letteratura scientifica validata.
I rischi dell’uso fraudolento dell’IA negli studi clinici
L’uso dell’IA nel settore medico è tra i più avanzati per complessità e impatto tecnologico, soprattutto nella diagnostica per immagini e nella scoperta di farmaci. Tuttavia, l’IA è pur sempre un software senza alcuna capacità di discernimento, e se la richiesta è ben indirizzata può anche inventarsi risposte di sana pianta. Questo solleva preoccupazioni riguardo all’uso fraudolento dell’IA negli studi clinici.
Radiology Case Reports ha pubblicato uno studio israeliano che si è poi rivelato falso, con gli autori che hanno utilizzato l’IA generativa nel processo di scrittura. La rivista ha ritirato lo studio e si è scusata coi lettori. Anche il New England Journal of Medicine ha ritirato una foto manipolata con l’IA. Questi episodi dimostrano come l’IA possa essere utilizzata per falsificare dati scientifici.
Un test condotto su Radiology ha dimostrato che i chatbot possono generare false radiografie di fratture ossee, che i radiologi riescono a riconoscere solo nel 41% dei casi. Questo solleva preoccupazioni riguardo alla possibilità di generare prove scientifiche dal nulla. Inoltre, il 30% dei ricercatori utilizza ChatGpt per scrivere articoli, e il 15% per le domande di finanziamento, il che aumenta il rischio di frodi scientifiche.
Il caso italiano che smaschera l’inganno
Il professor Giuseppe Giannaccare dell’Università di Cagliari e il ricercatore Andrea Taloni dell’Università di Ferrara hanno testato la capacità di inganno dell’IA su un trial clinico. Hanno chiesto a ChatGpt di dimostrare che un farmaco è nettamente migliore di un altro, e l’IA ha fornito un intero database di cento pazienti con tanto di nomi, condizioni e valori biomedici. Tuttavia, i revisori hanno rilevato anomalie nel database, come pazienti maschi con nomi femminili e visite fatte la domenica.
Lo studio dei due specialisti italiani è stato pubblicato sulla prestigiosa rivista americana Jama Ophthalmology dimostrando che l’IA non solo inventa dati scientifici, ma può anche essere addestrata per renderli irriconoscibili da quelli veri. Questo solleva preoccupazioni riguardo alla possibilità di creare false cartelle sanitarie e dimostrare tutto e il suo contrario.
La certificazione e la validazione delle informazioni sono essenziali per garantire l’affidabilità dei sistemi di IA in medicina.
