Cache
Memoria temporanea per dati frequenti, riduce tempi di risposta e carico server.
La cache è un livello di memoria temporanea che conserva dati frequentemente richiesti, evitando di ricalcolarli o recuperarli dalla fonte ogni volta. Riduce drasticamente i tempi di risposta e il carico sui sistemi a monte.
Per un chatbot aziendale, la cache è fondamentale: le 20 domande più frequenti vengono risposte in millisecondi dalla cache invece di interrogare il sistema RAG ogni volta. Il listino prezzi viene cachato e aggiornato ogni ora invece di essere letto dal database a ogni richiesta.
Nei sistemi Kynetixx, la cache opera a più livelli: risposte frequenti del chatbot, risultati delle ricerche semantiche più comuni, dati del catalogo prodotti, e sessioni utente. Questo permette risposte sotto il secondo anche con volumi elevati, garantendo un'esperienza utente fluida.