Cos'è un modello linguistico e perché a volte inventa le risposte
ChatGPT, Gemini e Claude sono basati su modelli linguistici. Ecco come funzionano davvero, spiegato senza formule, e perché ogni tanto sbagliano con sicurezza.
Quando scrivi una domanda a un assistente come ChatGPT, Gemini o Claude, dall’altra parte non c’è un motore di ricerca e nemmeno un’enciclopedia. C’è un modello linguistico di grandi dimensioni, in inglese Large Language Model o LLM: un programma che ha imparato a prevedere quale parola viene dopo un’altra, leggendo una quantità enorme di testo.
Un gioco di completamento
Il principio è lo stesso del suggerimento automatico della tastiera del telefono, portato a una scala gigantesca. Il modello riceve una sequenza di parole (o meglio di frammenti di parola, chiamati token) e calcola le probabilità di ciascun token successivo. Sceglie il più adatto, lo aggiunge alla sequenza e ricomincia. Una risposta di dieci righe è il risultato di centinaia di queste previsioni in cascata.
Quello che rende i modelli moderni così capaci è l’architettura Transformer, presentata nel 2017 da un gruppo di ricercatori di Google. Il suo meccanismo chiave, l’attenzione, permette al modello di pesare quali parole del testo precedente contano di più per decidere la parola successiva. È così che riesce a mantenere il filo di un discorso lungo, a rispettare la grammatica e a cogliere il contesto.
Dove impara
L’addestramento avviene su miliardi di pagine: libri, siti web, articoli, codice. Il modello non memorizza il testo parola per parola, ma regola miliardi di parametri interni finché le sue previsioni diventano accurate. Dopo questa fase, gli sviluppatori lo affinano con esempi di conversazioni e con il giudizio di valutatori umani, per renderlo utile e per insegnargli a rifiutare richieste pericolose.
Perché “allucina”
Un modello linguistico non ha un archivio di fatti da consultare: ha solo probabilità. Se gli chiedi la data di nascita di una persona poco nota, produrrà comunque una data plausibile, perché “una data” è ciò che statisticamente segue quel tipo di domanda. Il risultato è una risposta scritta con la stessa sicurezza di quelle corrette, ma inventata. Questo fenomeno si chiama allucinazione ed è il limite più importante da tenere a mente.
Per ridurre il problema, molti assistenti oggi cercano sul web o in documenti forniti dall’utente prima di rispondere, e citano le fonti. Vale comunque una regola semplice: per numeri, date, nomi e citazioni, verifica sempre su una fonte indipendente.
Cosa portarsi a casa
Un LLM è uno strumento straordinario per scrivere, riassumere, tradurre, programmare e ragionare su un testo che gli fornisci. È meno affidabile come oracolo di fatti puntuali. Usarlo bene significa sapere quale dei due compiti gli stai chiedendo.