Negli ultimi anni il ruolo dei chatbot nella vita quotidiana è cresciuto rapidamente: milioni di persone rivolgono a questi strumenti domande su sintomi, alimentazione, sonno e risultati di esami.
ChatGPT è tra i protagonisti di questa trasformazione, con aggiornamenti mirati a migliorare la sua capacità di rispondere a temi sanitari in modo più accurato e contestualizzato.
Accanto alle novità tecniche, però, emergono studio e analisi che segnalano rischi concreti: risposte errate o troppo assertive, bias trasmessi da cartelle cliniche digitali e lacune normative su privacy e responsabilità. Il risultato è un panorama in cui innovazione e prudenza devono procedere insieme.
Il lavoro sull’area sanitaria si è concentrato su due fronti principali: il miglioramento dei modelli linguistici e l’integrazione di dati personali. Sul versante dei modelli, l’azienda ha dichiarato progressi con il modello GPT-5.5 Instant progettato per riconoscere quand’è necessario indirizzare un caso verso un intervento urgente, per richiedere contesto aggiuntivo prima di fornire una risposta e per comunicare chiaramente le incertezze cliniche. L’obiettivo è che il sistema non offra diagnosi definitive ma supporti l’utente con informazioni ponderate e domande di approfondimento.
Per affinare questi comportamenti il progetto ha coinvolto centinaia di professionisti sanitari in molteplici Paesi e specialità. Questi medici non hanno solo valutato l’accuratezza delle risposte, ma hanno cercato i punti di debolezza: eccesso di sicurezza sottovalutazione dei segnali d’allarme e risposte genericamente non contestualizzate. Questo approccio mette al centro non solo il risultato finale, ma il processo comunicativo che porta a quella risposta.
Un’altra direzione è quella dell’interconnessione tra chatbot e dati sanitari personali: è stata lanciata una funzionalità che consente di sincronizzare cartelle cliniche elettroniche e app di benessere per consentire al modello di elaborare un contesto personale più ampio. Questo potenziale aumenta l’utilità dell’assistente, ma solleva questioni delicate sulla gestione delle informazioni sensibili e sui limiti delle normative vigenti.
Il nucleo della preoccupazione è semplice: le cartelle cliniche non sono neutre.
Contengono annotazioni, errori diagnostici e linguaggio stigmatizzante che, se ingeriti da un modello, possono essere amplificati. Un esempio concreto riguarda annotazioni di triage che descrivono un paziente con termini potenzialmente discriminatori; se questi dati vengono elaborati senza filtro, il modello può riprodurre e rinforzare quegli stessi pregiudizi nelle sue risposte.
La protezione dei dati sanitari varia molto tra ordinamenti. In alcune giurisdizioni esistono regole stringenti che considerano i dati sanitari particolarmente sensibili e impongono obblighi sul consenso e sulla minimizzazione dei dati.
In altri contesti legislativi, invece, certe piattaforme che gestiscono dati sanitari non rientrano nelle tutele pensate per cliniche e ospedali, con rischi concreti di trasferimenti di dati in caso di vendite o fallimenti aziendali.
Test indipendenti hanno messo alla prova i principali chatbot su quesiti ad alto rischio di disinformazione, come oncologia, vaccini, terapie sperimentali e nutrizione. I risultati hanno mostrato che una quota consistente di risposte può risultare problematicamente inesatta o fuorviante spesso presentata con tono assertivo e senza avvertenze.
Questo fa emergere un paradosso: l’apparente autorevolezza del linguaggio non corrisponde sempre a solidità delle evidenze.
Parallelamente, esperti di bioetica e diritto hanno sottolineato che il problema più difficile da risolvere non è il modello in sé, ma il dato che lo alimenta e la mancanza di trasparenza sull’uso su larga scala. Senza accesso indipendente ai log e ai risultati aggregati, diventa impossibile valutare come questi sistemi influenzino percezione, comportamento e risultati clinici nella popolazione.
Le proposte avanzate dagli analisti non mirano a bloccare l’innovazione, ma a introdurre misure di accountability: audit indipendenti, limiti sulle tipologie di dati sincronizzabili, trasparenza sul comportamento del sistema e adeguate salvaguardie legali per gli utenti.
Tuttavia, l’efficacia reale dipenderà dalla qualità dei dati, dalla correttezza delle valutazioni cliniche e da regole chiare su privacy, trasparenza e responsabilità.