L’idea
Invece di partire da zero, si riusa ciò che il modello ha già appreso e si aggiornano i parametri su esempi mirati: domande e risposte, documenti di un settore, testi con un certo tono. Howard e Ruder (2018) mostrarono l’efficacia di questo schema per la classificazione di testi. Aggiornare tutti i parametri di un grande LLM è costoso; metodi come LoRA (Hu et al., 2021) addestrano solo piccole matrici aggiuntive, riducendo memoria e costi. Con pochi dati il modello può andare in overfitting o perdere capacità generali. Quando serve soprattutto conoscenza aggiornata, l’alternativa di solito è la RAG.
Da dove viene
- Howard, Ruder (2018), «Universal Language Model Fine-tuning for Text Classification». arXiv:1801.06146
- Hu et al. (2021), «LoRA: Low-Rank Adaptation of Large Language Models». arXiv:2106.09685