Lpuk Obs

RAG - Retrieval-Augmented Generation

2 minuti

🏗️ Architettura RAG

[Domanda Utente] 
       ↓
[Embedding della Domanda] ← Modello di Embedding
       ↓
[Ricerca in Vector Database] ← Similarity Search
       ↓
[Recupero Documenti Rilevanti]
       ↓
[Prompt Augmentation] ← Combina domanda + contesto
       ↓
[LLM Generation] ← Modello Generativo
       ↓
[Risposta Finale]

🧩 Componenti Principali

1. Knowledge Base (Documenti)

  • PDF, TXT, DOC, pagine web
  • Codice sorgente, documentazione
  • Database, API responses

2. Embedding Model

  • Trasforma testi in vettori numerici
  • Esempi: nomic-embed-text, all-MiniLM-L6-v2
  • Cattura il “significato semantico”

3. Vector Database

  • Memorizza embeddings dei documenti
  • Ricerca per similarità semantica
  • Esempi: ChromaDB, LanceDB, Pinecone

4. LLM Generativo

  • Produce la risposta finale
  • Usa il contesto recuperato
  • Esempi: Llama 3.2, Mistral, GPT

🎯 Cosa Puoi Ottenere

✅ Vantaggi

  • Conoscenza Aggiornata: Aggiungi documenti senza ritrainare
  • Fonti Verificabili: Cite le fonti utilizzate
  • Dominio Specifico: Risposte precise su tuoi dati
  • Riduce Allucinazioni: LLM basato su fatti reali

🔧 Casi d’Uso Pratici

  • Customer Support: FAQ e documentazione prodotto
  • Knowledge Management: Wiki aziendali, procedure
  • Research Assistant: Ricerca in paper scientifici
  • Code Assistant: Documentazione tecnica, best practices
  • Legal/Medical: Ricerca in normative, protocolli

🛠️ Processo Step-by-Step

Fase 1: Preparazione

  1. Ingest: Carica documenti nel sistema
  2. Chunk: Dividi in frammenti (chunk) di testo
  3. Embed: Crea embeddings per ogni chunk
  4. Store: Salva nel vector database

Fase 2: Query Time

  1. User Query: “Come funziona il RAG?”
  2. Query Embedding: Trasforma domanda in vettore
  3. Similarity Search: Trova chunks più simili
  4. Context Building: Costruisci prompt con contesto
  5. LLM Response: Genera risposta basata su contesto

🔄 Workflow Dettagliato

PREPARAZIONE DATI:
Documento.pdf → [Chunking] → Chunks → [Embedding] → Vector DB

QUERY PROCESSING:
"Domanda?" → [Embedding] → Query Vector → [Search] → Top K Chunks
                                              ↓
Context + Query → [LLM Prompt] → "Risposta basata su documenti"

📊 Metriche di Qualità

Retrieval Quality

  • Recall: Recupera documenti rilevanti?
  • Precision: I documenti sono pertinenti?
  • Latency: Quanto è veloce la ricerca?

Generation Quality

  • Faithfulness: Risposta fedele ai documenti?
  • Relevance: Risposta pertinente alla domanda?
  • Completeness: Copre tutti gli aspetti?

🔧 Parametri Chiave da Tuning

  • Chunk Size: 500-1500 caratteri (dipende dal dominio)
  • Chunk Overlap: 10-20% per continuità
  • Top-K Retrieval: 3-10 documenti più rilevanti
  • Similarity Threshold: Soglia minima di rilevanza
  • Prompt Template: Come strutturi contesto + domanda

Vista grafico