CASE STUDY · DOCUMENTI · OFFLINE · RAG
Chatbot documentale con RAG: come interrogare i propri documenti con un’AI privata
Un assistente che risponde soltanto sulla base dei documenti integrati, mostra la fonte utilizzata e dichiara quando non dispone di evidenze sufficienti.
Il problema
Un chatbot generico può produrre una risposta plausibile anche quando il documento non la supporta. In un archivio tecnico questo comportamento è rischioso: il valore non è soltanto trovare una frase, ma sapere da quale fonte arriva e quando è meglio non rispondere.
Come funziona il flusso RAG
Il chatbot documentale estrae il testo dai documenti integrati, costruisce una base consultabile e recupera gli estratti più pertinenti alla domanda. La risposta viene composta a partire da quel contesto, invece di affidarsi soltanto alla memoria generale del modello.
Nella demo Nordtech il corpus comprende 11 documenti. Ogni risposta espone la fonte e l’estratto utilizzato, così la persona può verificare il collegamento con il materiale originale.
La regola più importante: astensione senza fonte
Quando la ricerca non trova una base sufficiente, il chatbot non inventa una risposta. Si astiene e segnala che il documento non contiene un’evidenza utilizzabile. Questa scelta riduce la copertura apparente, ma aumenta la chiarezza del confine tra informazione disponibile e supposizione.
Perché l’AI privata è utile
La versione standalone è pensata per lavorare con un corpus locale, senza richiedere una connessione Internet durante l’uso. Questo rende più semplice delimitare i dati disponibili e valutare il comportamento del sistema nel perimetro scelto.
Privacy non significa automaticamente accuratezza: servono comunque documenti aggiornati, estratti leggibili e una risposta che mantenga il legame con la fonte.
Il mio contributo
Ho progettato la pipeline documentale, il recupero degli estratti, la visualizzazione delle fonti, l’astensione quando manca una base verificabile e la distribuzione multipiattaforma per macOS e Windows. Il progetto è un banco di prova per costruire assistenti utili senza nascondere i loro limiti.