RedRaccoon
Torna al Journal

Quando l’AI impara dall’AI.

Collage astratto in bianco e nero di punti e perforazioni che richiamano dati codificati, con forme salvia e azzurre su carta avorio.

Immaginiamo di chiedere a un modello di inventare un problema di matematica, risolverlo e preparare una spiegazione dei passaggi. Controlliamo che tutto torni e usiamo quell’esempio per addestrare un altro modello.

Abbiamo appena prodotto dei dati sintetici: materiale creato artificialmente, invece di essere raccolto da un libro, da una conversazione o da un’osservazione del mondo. In questo caso, materiale che potrebbe servire a insegnare qualcosa.

Ora saltiamo il controllo. Il problema contiene un errore, la spiegazione lo rende credibile e il secondo modello lo riceve come esempio da cui imparare. Poi genera altri esercizi, che finiscono nell’addestramento del modello successivo.

La differenza comincia qui. Dire che “l’AI impara dall’AI” descrive entrambe le situazioni, ma lascia fuori il passaggio più importante: chi decide che cosa vale la pena imparare?

Una fabbrica di esercizi

I dati sintetici permettono di costruire esempi su richiesta. Dialoghi per allenare un assistente, problemi con soluzioni, frammenti di codice: anziché cercare materiale già disponibile, se ne produce di adatto a un compito.

L’utilità è facile da intuire. Se vogliamo più esempi su un argomento poco rappresentato, possiamo provare a generarli. Possiamo variare la difficoltà, cambiare il modo in cui viene formulata una domanda, preparare casi che richiederebbero molto lavoro manuale.

Non è soltanto un’ipotesi. Nel rapporto tecnico su Phi-3, Microsoft descrive un addestramento che combina dati web fortemente filtrati e dati sintetici, compreso materiale pensato per sviluppare capacità di ragionamento.

Questo non permette di attribuire ogni risultato del modello ai dati sintetici. Mostra però che produrre artificialmente una parte del materiale può essere una scelta deliberata dentro un processo di addestramento.

Resta da capire quanto sia buono quel materiale. Un generatore può consegnarci migliaia di esempi; il numero, da solo, non ci dice se abbiamo ottenuto migliaia di occasioni per imparare o lo stesso errore in molte versioni.

Il problema non comincia dalle risposte assurde

Nel 2024, uno studio pubblicato su Nature ha esaminato che cosa succede quando generazioni successive di modelli vengono addestrate ricorsivamente su dati prodotti dalle precedenti. I ricercatori hanno mostrato una progressiva perdita di informazione sulla distribuzione di partenza, chiamata model collapse. A scomparire possono essere inizialmente i casi meno frequenti.

È questo il dettaglio meno intuitivo. Il deterioramento può iniziare mentre i risultati sembrano ancora plausibili.

Pensiamo, per analogia, a una raccolta di racconti con molti personaggi comuni e pochi insoliti. Se ogni nuova raccolta viene generata a partire da una rappresentazione incompleta della precedente, alcuni personaggi potrebbero non ricomparire. La raccolta continua a contenere storie leggibili. È diventata più povera, ma potremmo accorgercene soltanto andando a cercare chi manca.

L’esempio non descrive un esperimento del paper; aiuta a capire perché la varietà conti quanto la correttezza dei singoli risultati. Un insieme di risposte tutte ragionevoli può comunque rappresentare male ciò che dovrebbe raccontare.

Conservare gli originali cambia le cose

Da qui nasce una versione molto popolare della storia: l’AI si nutrirà dei propri contenuti e finirà per peggiorare.

Le ricerche descrivono un quadro meno semplice. Matthias Gerstgrasser e colleghi hanno confrontato due procedimenti: sostituire i dati originali con quelli generati oppure conservare gli originali e aggiungere progressivamente i nuovi esempi. Negli esperimenti riportati, l’accumulo evita il collasso osservato con la sostituzione.

Non è una garanzia valida per qualsiasi dataset. È una dimostrazione del fatto che il procedimento cambia il risultato. Sapere che un modello ha usato dati sintetici, senza sapere quali e come, dice ancora poco.

Generare è una parte del lavoro

Torniamo al problema di matematica iniziale. Il controllo della soluzione non è un dettaglio amministrativo: può fare la differenza fra un esempio utile e un errore pronto a essere trasmesso.

Un lavoro presentato a ICLR 2025 studia proprio la selezione dei dati attraverso verificatori. Nei compiti esaminati, che comprendono calcolo di autovalori e sintesi di notizie, anche verificatori imperfetti possono prevenire il model collapse.

Ma chi controlla può avere i propri limiti. Una ricerca presentata a ICLR 2026 mostra che, nelle condizioni studiate, la verifica può sostenere miglioramenti iniziali senza garantire progressi indefiniti: i benefici possono stabilizzarsi o invertirsi quando il verificatore non è sufficientemente affidabile.

Far valutare una risposta a un’altra AI, quindi, non chiude automaticamente la questione. Sposta una parte della responsabilità su quel secondo sistema e sulla sua capacità di riconoscere ciò che il primo ha sbagliato.

I dati sintetici offrono una possibilità interessante: progettare gli esempi da cui un modello imparerà, invece di dipendere soltanto da quelli che riusciamo a trovare. La parte impegnativa rimane scegliere, verificare e conservare abbastanza varietà.

Produrre più materiale è diventato più facile. Capire se contiene qualcosa che merita di essere imparato richiede ancora parecchio lavoro.

Fonti

Abdin et al., Microsoft, Phi-3 Technical Report, 2024.

Shumailov et al., AI models collapse when trained on recursively generated data, Nature, 2024, versione corretta nel 2025.

Gerstgrasser et al., Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data, 2024.

Feng et al., Beyond Model Collapse: Scaling Up with Synthesized Data Requires Verification, ICLR 2025.

Yi et al., Escaping Model Collapse via Synthetic Data Verification: Near-term Improvements and Long-term Convergence, ICLR 2026.