Quando si parla di intelligenza artificiale generativa applicata al linguaggio, si parla soprattutto di LLM, i Large Language Model: i modelli capaci di conversare con noi, da quelli più noti fino alle loro numerose alternative. Sono modelli diversi da quelli che generano immagini o video, che seguono altre logiche. Capire, anche in modo intuitivo, come funziona un modello linguistico non è un esercizio teorico: aiuta a riconoscere il perché di certi comportamenti e, soprattutto, a usarlo molto meglio.
Un enorme spazio multidimensionale
Il modo più semplice per immaginare un LLM è pensarlo come uno spazio. Immaginiamolo, per comodità, come un enorme cubo tridimensionale in cui un algoritmo ha posizionato le parole e i frammenti di significato. Argomenti simili stanno vicini, toni di voce, sintassi e lingue del mondo trovano ciascuno la propria collocazione. Una stessa parola compare in tanti punti diversi, perché vive in tante frasi e contesti differenti. È un po' come un magazzino logistico ottimizzato, dove le cose simili sono collocate le une accanto alle altre. La differenza è che questo cubo non ha tre dimensioni, ma miliardi: è un iper-cubo immenso, in cui le coordinate dicono dove si trova ogni cosa.
Come nasce una risposta: un percorso nello spazio
Quando rivolgiamo una domanda al modello, questa viene trasformata in un vettore, insieme allo storico della conversazione, e collocata nel punto più coerente di quello spazio immenso. Da lì il modello fa essenzialmente una cosa: calcola, in base alla posizione e all'orientamento del vettore, quale sia la parola successiva più probabile tra quelle vicine. La pronuncia, si sposta sulla sua punta, calcola di nuovo la parola più probabile, e così via fino alla fine. Non c'è nulla di più di questo: un percorso costruito passo dopo passo dentro uno spazio precostituito.
L'analogia con il pensiero umano è quasi inevitabile. Anche noi, ricevendo uno stimolo verbale, lo contestualizziamo e cerchiamo di interpretarne il senso, generando la risposta più naturale sulla base del contesto: la domanda, ma anche chi siamo, dove ci troviamo, tutto ciò che ci circonda. È come essere lasciati in un punto qualsiasi di una foresta e dover trovare la strada verso casa: quella strada è la risposta.
Il contesto è tutto
Da qui discende la regola pratica più importante: più contesto forniamo, meglio il modello trova la strada. Quanto più la domanda è lunga, articolata, specifica e precisa, tanto più la risposta sarà puntuale e argomentata. È l'esatto opposto del motore di ricerca tradizionale, dove conviene scrivere meno per ottenere risultati più precisi. Con un LLM vale il contrario: più si scrive e si contestualizza, migliore è il risultato. È come chiedere una casa a un architetto: non ci si limita alla parola casa, ma si raccontano gli esempi, i gusti, il modo in cui la si vuole vivere, il budget, finché l'architetto non produce un progetto che è davvero il nostro.
Un piccolo aneddoto lo rende evidente. Sottoposto a un classico indovinello con un colpevole da individuare, un modello può andare in difficoltà. Ma se prima dell'indovinello gli si dice di comportarsi come un esperto enigmista, di analizzare passo passo le informazioni su ciascun personaggio e di arrivare a una sintesi, lo stesso indovinello viene risolto brillantemente. La cosa sorprendente è che il risultato non dipende dalla potenza del modello: con il contesto giusto, anche una versione meno avanzata risponde in modo perfetto. Tutto dipende dal contesto.
Domanda, indicazioni, esempi, contenuto
Il contesto, infatti, è fatto di più cose: la domanda, le indicazioni su come comportarsi e strutturare la risposta, gli esempi che funzionano da schema, e il contenuto su cui costruire la risposta. Se chiediamo qualcosa che riguarda una nostra base di conoscenza specifica, possiamo fornire al modello un documento o un libro in PDF e chiedergli di analizzarlo: in quel momento aggiunge alla sua conoscenza universale la nostra componente specifica e opera su quella. Anche il contenuto, quindi, è contesto. Da questa consapevolezza nasce tutta la disciplina del prompt design.
Finestra di contesto e dimensioni del modello: due cose diverse
Spesso si confondono due parametri che sono in realtà indipendenti. Il primo è la finestra di contesto, misurata in token, cioè parole o pezzi di parole: è la quantità di informazione che possiamo dare in ingresso. Per far analizzare un intero video, ad esempio, serve una finestra molto ampia, perché anche video e immagini vengono trasformati in linguaggio. Ma una finestra più grande non significa automaticamente un modello migliore: dipende da quanto contesto serve davvero.
Il secondo parametro è la dimensione dello spazio, cioè il numero di dimensioni del cubo. È ciò che determina se un modello può girare su un telefono o se richiede migliaia di server in un data center, con i relativi consumi di energia e acqua. Uno spazio più grande offre più percorsi possibili e quindi, in teoria, più capacità; ma per fare ciò che serve a noi può bastarne una porzione, ed è per questo che esistono modelli più piccoli, installabili in locale, leggeri ed efficaci nel loro ambito.
Di chi sono gli LLM
C'è poi il tema della proprietà. I modelli appartengono a chi li ha generati: alcuni sono di grandi aziende statunitensi, altri sono stati resi disponibili come open source e quindi scaricabili e utilizzabili liberamente sui propri server, mentre altri ancora si possono solo usare a pagamento, accendendoli e spegnendoli come un servizio senza poterli possedere. In Europa inizia a emergere un protagonista capace di competere con i giganti, segnale importante: non è sano lasciare tecnologie così strategiche soltanto nelle mani di ciò che altri decidono di regalare o di società interamente esterne al continente.
Una provocazione finale
Se davvero un LLM genera un percorso dentro uno spazio precostituito, allora possiede già, in qualche forma, tutte le risposte possibili a tutte le domande possibili. Non c'è creazione, ma scoperta di un percorso che esiste già: i puntini vanno solo uniti. È l'immagine della biblioteca di Borges, dove tutti i libri sono già scritti e il compito è soltanto trovare quello che serve. Una semplificazione forte, tutta da verificare, ma utile per cogliere la natura profonda di questi strumenti.