La Retrieval-Augmented Generation (RAG) è una tecnica che combina la generazione di testo degli LLM con il recupero di informazioni da fonti esterne aggiornate.
Prima di rispondere, il sistema cerca i documenti più pertinenti (ad esempio gli endpoint REST di un sito, o file di testo strutturati) e li usa come contesto. In questo modo le risposte sono più accurate, citano fonti reali e includono informazioni che l’LLM non potrebbe conoscere. Il chunking dei contenuti è una delle fasi chiave della RAG.