L’articolo “Consent-GPT: is it ethical to delegate procedural consent to conversational AI?” di Allen e collaboratori, pubblicato sulla rivista “Journal of Medical Ethics”, esplora la possibilità di delegare la procedura del consenso informato in medicina a un’intelligenza artificiale conversazionale, specificamente ai grandi modelli linguistici (LLMs). Il focus è sull’ipotetico uso dell’app “Consent-GPT”, progettata per guidare i pazienti nel processo di consenso informato per procedure mediche o chirurgiche.
L’articolo illustra il caso di Jane, in cerca di un metodo di controllo delle nascite permanente, che viene indirizzata all’app mobile “Consent-GPT” per ricevere informazioni sulla legatura delle tube. L’app, addestrata su dataset clinici accurati, mira a migliorare l’accesso dei pazienti a informazioni pertinenti, potenziando la loro capacità di prendere decisioni informate.
L’uso dell’IA emerge come risposta alla mancanza di tempo o di conoscenze cliniche adeguate da parte dei medici in formazione, spesso preposti al processo di consenso. “Consent-GPT” offre un accesso a informazioni accurate e personalizzate in modo conveniente, facilitando un processo decisionale più informato.
Numerose sono le questioni etiche legate all’uso dell’intelligenza artificiale nel processo di consenso informato. Una delle più rilevanti è l’accuratezza delle informazioni fornite dall’IA, aspetto cruciale data la possibilità che si generino risposte ingannevoli. A ciò si aggiungono la fiducia degli utenti nel sistema e le preoccupazioni per la privacy dei dati sensibili gestiti dall’IA, elementi che costituiscono sfide significative. Un aspetto centrale è la responsabilità legale: sebbene l’IA possa semplificare il processo di consenso, è il medico curante a detenere la responsabilità finale delle decisioni. Questo pone interrogativi importanti su come incorporare efficacemente l’IA nel processo di consenso, mantenendo contemporaneamente l’indispensabile elemento umano e professionale nel rapporto medico-paziente.
Il “click-through consent” rappresenta un altro rischio: i pazienti potrebbero accettare le informazioni fornite dall’IA senza comprenderle a fondo, mettendo in dubbio la validità del loro consenso informato.
L’articolo evidenzia che, in determinate situazioni cliniche, i benefici dell’uso di modelli di linguaggio artificiale potrebbero superare quelli delle pratiche attuali. Tuttavia, sottolinea anche la necessità di ulteriori ricerche per affrontare a fondo queste preoccupazioni etiche e pratiche.
La lettura dell’articolo lascia l’amaro in bocca per come fotografa l’inadeguatezza dell’attuale prassi del consenso informato, ridotta a mera procedura burocratica. Secondo la Legge 219/2017, “la relazione è tempo di cura”, enfatizzando che il consenso informato dovrebbe essere un momento di relazione significativa che rende il paziente consapevole e fiducioso. Gli autori denunciano la mancanza di tempo e la scarsa preparazione degli specializzandi preposti al consenso informato. In questo contesto, “Consent-GPT”, nonostante i possibili errori, potrebbe essere una soluzione valida. Tuttavia, evidenziano che la responsabilità non può ricadere sull’app, ma sui medici. Pertanto, l’app non può sostituire il medico, ma integrare il suo lavoro nel processo informativo.
Concludendo, l’intelligenza artificiale si rivela un prezioso strumento di supporto nella conoscenza e nella riduzione del carico burocratico, ma si deve vigilare affinché l’‘ethos umanitario’, come lo definisce Jasper, rimanga saldo al centro della pratica medica. La filosofia della medicina ci insegna che al cuore della cura sta la relazione medico-paziente, un dialogo non solo informativo ma anche umano e etico, che l’intelligenza artificiale, per quanto avanzata, non può sostituire ma solo arricchire.
Leggi l’articolo completo Consent-GPT: is it ethical to delegate procedural consent to conversational AI? su BMJ Journal of Medical Ethics:
Foto di Bruno Rodrigues su Unsplash.
