Dal novembre 2022, quando è stato reso pubblico il servizio di AI ChatGPT, ci siamo tutti precipitati a utilizzarlo per ogni tipo di interrogazione, dalle ricerche alla richiesta di pareri, allo svolgimento di compiti a scuola e all’università, alle richieste più disparate. Fino alla creazione di video, immagini, notizie vere o false. ChatGPT non è naturalmente l’unica piattaforma di AI generativa immessa sul mercato, ce ne sono molte altre, le più famose delle quali sono Claude, di Anthropic, Gemini di Google, Meta AI di Meta e Grok di SpaceXSI di Musk.
La prima cosa da tener presente, nelle interazioni con questi modelli, è che si tratta di modelli software, non c’è un omino dietro che risponde, nè una entità pensante. Non dobbiamo farci condizionare dalla terminologia antropomorfica in voga, come il termine “intelligente“. Sono tuttavia modelli molto complessi, basati su reti neurali profonde, addestrate su enormi quantità di dati, recependo relazioni, informazioni, strutture complesse tra i dati, in modo da generare sequenze di parole sulla base delle informazioni contenute nei prompt e del contesto. Naturalmente, la questione è molto più complessa di così, ma non è il caso di scendere in dettagli di tipo tecnico in questa sede.
La seconda cosa che dobbiamo tener presente è la possibilità di errore insita in questi modelli. E’ inevitabile, perchè il funzionamento stesso dei modelli si basa su selezioni di tipo probabilistico, in cui la risposta sbagliata è sempre possibile. Inoltre ci sono diversi fattori che possono incidere sull’attendibilità delle risposte. Quindi non bisogna mai prendere per oro colato le loro risposte, ma verificarle, specialmente quando si tratta di informazioni su cui basiamo delle decisioni. La plausibilità delle risposte non è garanzia di verità e può generare un fenomeno recentemente definito dagli accademici come “epistemia“.
La terza questione da tener presente riguarda la qualità dei dati con cui sono stati addestrati, e la possibilità che le risposte possano basarsi su dei preconcetti, acquisiti con l’addestramento su dei dati spesso non certificati, e di bassa qualità, come quelli raccolti “a strascico” sui social. Inoltre, delle distorsioni possono essere introdotte anche nelle fasi di addestramento e nell’allineamento degli algoritmi. Ci sono stati moltissimi esempi che si sono succeduti nel tempo, di discriminazione (bias) per sesso, religione o etnia, nel dare responsi o effettuare valutazioni. E molti esempi di previsioni errate sono state riscontrati nel tempo. Quindi facciamo attenzione a valutare le risposte che riceviamo, a non darle per scontate, ma a verificarle prima di usarle per le nostre attività o per fare delle scelte.
Un problema enorme, e non risolto, riguarda la privacy. Molti utenti inseriscono nei prompt dati personali, o aziendali, sensibili. Ci sono molti casi in cui in azienda, non essendoci a volte policy espressamente stabilite, gli utenti usano i propri account personali per interrogare i chat-bot: è il fenomeno della “Shadow AI“, che può comportare dei rischi per possibili violazioni alla riservatezza dei dati. Dobbiamo sempre tener presente che non abbiamo la certezza assoluta che i nostri dati vengano trattati in modo riservato, e che dobbiamo sempre settare le impostazioni per evitare di renderli disponibili per l’addestramento del modello. Inoltre, dobbiamo tener presente che i server su cui i dati sono immagazzinati possono essere ovunque nel mondo, molto spesso in datacenter distribuiti fuori dall’Unione Europea e quindi soggetti a diverse giurisdizioni, con possibili rischi aggiuntivi per il rispetto del GDPR, per la privacy, e dell’AI Act, per i sistemi di AI.
A ciò si aggiunge il CLOUD Act statunitense, che consente alle autorità americane, in determinate circostanze e secondo specifiche procedure, di richiedere dati elettronici anche quando sono conservati all’estero. Il problema è che la localizzazione dei dati in Europa, da sola, potrebbe non essere sufficiente a escludere determinate richieste di accesso da parte delle autorità statunitensi, quando il fornitore rientra nella loro giurisdizione. Il quadro è quindi poco incoraggiante, anche senza mettere in discussione la buona fede delle aziende.
Un problema ulteriore che sta emergendo è poi quello che molte persone, per lo più giovani o fragili, per diversi motivi, trattano i chat-bot come propri confidenti, in modo amichevole, o anche affettivo (addirittura per scopi sessuali). E’ un comportamento potenzialmente pericoloso, per cui dobbiamo proteggere i nostri ragazzi, informandoli ed educandoli, perchè la creazione di dipendenze è un fenomeno in espansione, con effetti negativi sulla psiche e sull’equilibrio emotivo delle persone, non solo giovanissime.
E per finire, come se il quadro non fosse abbastanza complesso, c’è il tema dell’abitudine e dell’assuefazione. Affidarsi a questi strumenti per scrivere, cercare risposte, chiedere pareri medici o legali, ci sta disabituando dal ragionamento. Nelle scuole e nelle università sono aumentati i casi di compiti, relazioni, o anche tesi di laurea, generate dai modelli di AI e non ben comprese. Sono infatti stati riscontrati peggioramenti dei risultati nelle verifiche svolte in autonomia, perchè gli studenti riportano conclusioni che non hanno generato loro stessi creando conoscenza, ma riportando del testo ricavato dall’interrogazione dei modelli di AI. E il fenomeno non è limitato alle scuole ma si estende agli autori di articoli, di libri, persino di paper scientifici e di prolusioni legali nelle aule di giustizia.
Non voglio qui parlare dei pericoli collegati all’utilizzo degli Agenti di AI, in grado di compiere delle scelte e di operare in autonomia al posto nostro, come avviene in molti contesti, spesso sottovalutandone i rischi. La questione si farebbe qui più complessa.
In conclusione: strumenti straordinari e potenti, in continuo miglioramento, ma che dobbiamo imparare a gestire al meglio, restando noi responsabili non solo delle scelte, ma anche dei processi cognitivi che ci portano ad esse.