Ho fatto un nuovo fine-tuning su un piccolo modello linguistico locale. Non volevo limitarmi a dire: “ho addestrato un modello”. Volevo capire una cosa più importante: il nuovo addestramento migliora davvero le risposte?
Per verificarlo ho costruito una pipeline completa.
Prima ho preparato una serie di prompt di test. Poi ho interrogato il modello base e ho salvato le sue risposte in un file. Successivamente ho costruito un dataset in formato JSONL, con coppie istruzione-risposta, e ho eseguito un fine-tuning leggero tramite adapter.
La tecnica usata è stata quella del fine-tuning parametrico efficiente, cioè un adattamento che non modifica tutto il modello, ma addestra solo piccoli componenti aggiuntivi. In pratica, il modello di partenza resta quasi invariato, mentre viene creato un piccolo adapter specializzato. Questo rende l’esperimento molto più leggero, adatto anche a un laptop di fascia media, e permette di separare chiaramente il modello base dall’adattamento.
La pipeline è stata questa:
- preparazione dei prompt di test;
- generazione delle risposte prima dell’addestramento;
- costruzione del dataset;
- fine-tuning tramite adapter;
- generazione delle risposte dopo l’addestramento;
- confronto prima/dopo;
- valutazione qualitativa dei risultati.
Il secondo successo è stato metodologico: sono riuscito a costruire un vero confronto sperimentale.
Non ho valutato il modello “a sensazione”, ma ho usato gli stessi prompt prima e dopo il fine-tuning. Questo è fondamentale, perché senza una baseline iniziale non si può dire seriamente se il modello sia migliorato.
Il terzo successo è stato didattico: l’esperimento ha mostrato in modo molto chiaro la differenza tra riuscita tecnica e miglioramento reale. Un comando di training può terminare correttamente, i file possono essere creati, l’adapter può essere salvato, ma questo non significa automaticamente che le risposte siano migliori.
In una prima fase, con esempi in italiano, il risultato non è stato soddisfacente. Il modello produceva risposte confuse, poco aderenti alla richiesta e spesso linguisticamente deboli. Questo ha mostrato un punto importante: se il modello di partenza non gestisce bene una lingua o un dominio, un piccolo fine-tuning non basta sempre a correggerlo.
Successivamente ho rifatto il dataset in inglese. Qui si è visto un miglioramento più evidente. Le risposte generali su fine-tuning, dataset e confronto prima/dopo sono diventate più leggibili e più coerenti. Questo è stato un risultato importante: cambiando lingua e migliorando il dataset, il comportamento del modello è cambiato in modo osservabile.
Poi ho provato ad affrontare un concetto tecnico ambiguo. Ho aggiunto esempi specifici per distinguere una sigla usata nel machine learning da significati simili in altri ambiti. Anche qui l’esperimento è stato istruttivo: nonostante esempi mirati, il modello continuava a confondere alcuni concetti. Questo ha mostrato un altro limite importante: il fine-tuning leggero può orientare il comportamento del modello, ma non sempre riesce a ricostruire una comprensione tecnica fragile.
Il risultato finale, quindi, non è stato un semplice “successo” o “fallimento”. È stato qualcosa di più interessante.
Il terzo successo è stato didattico: l’esperimento ha mostrato in modo molto chiaro la differenza tra riuscita tecnica e miglioramento reale. Un comando di training può terminare correttamente, i file possono essere creati, l’adapter può essere salvato, ma questo non significa automaticamente che le risposte siano migliori.
In una prima fase, con esempi in italiano, il risultato non è stato soddisfacente. Il modello produceva risposte confuse, poco aderenti alla richiesta e spesso linguisticamente deboli. Questo ha mostrato un punto importante: se il modello di partenza non gestisce bene una lingua o un dominio, un piccolo fine-tuning non basta sempre a correggerlo.
Successivamente ho rifatto il dataset in inglese. Qui si è visto un miglioramento più evidente. Le risposte generali su fine-tuning, dataset e confronto prima/dopo sono diventate più leggibili e più coerenti. Questo è stato un risultato importante: cambiando lingua e migliorando il dataset, il comportamento del modello è cambiato in modo osservabile.
Poi ho provato ad affrontare un concetto tecnico ambiguo. Ho aggiunto esempi specifici per distinguere una sigla usata nel machine learning da significati simili in altri ambiti. Anche qui l’esperimento è stato istruttivo: nonostante esempi mirati, il modello continuava a confondere alcuni concetti. Questo ha mostrato un altro limite importante: il fine-tuning leggero può orientare il comportamento del modello, ma non sempre riesce a ricostruire una comprensione tecnica fragile.
Il risultato finale, quindi, non è stato un semplice “successo” o “fallimento”. È stato qualcosa di più interessante.
Ho verificato che:
Per me il successo più grande è stato proprio questo: trasformare il fine-tuning da parola astratta a procedura verificabile.
Non solo “ho addestrato un modello”, ma: ho costruito una pipeline, ho misurato un prima e un dopo, ho visto cosa migliora, cosa non migliora e perché.
Ed è qui che il fine-tuning diventa davvero interessante: non come trucco magico, ma come metodo sperimentale.
- la pipeline locale di fine-tuning funziona;
- gli adapter permettono un addestramento leggero e praticabile;
- il confronto prima/dopo è indispensabile;
- la lingua del dataset può cambiare molto il risultato;
- la qualità dei dati conta più della quantità grezza;
- un modello piccolo può migliorare su compiti generali, ma restare debole su concetti tecnici ambigui;
- il fine-tuning non è una bacchetta magica.
Per me il successo più grande è stato proprio questo: trasformare il fine-tuning da parola astratta a procedura verificabile.
Non solo “ho addestrato un modello”, ma: ho costruito una pipeline, ho misurato un prima e un dopo, ho visto cosa migliora, cosa non migliora e perché.
Ed è qui che il fine-tuning diventa davvero interessante: non come trucco magico, ma come metodo sperimentale.