Che cos'è un database vettoriale e come funziona?

Che cos'è un modello di incorporazione?

I modelli di embedding sono modelli di apprendimento automatico addestrati per convertire i dati in embedding.

Questi modelli sono addestrati a comprimere i dati in un vettore (il nostro embedding) e poi a rigenerarli. Il vettore compresso conserva il maggior numero possibile di informazioni semantiche dei dati.

Ciò significa che non memorizzano solo le parole, ma anche le idee che ci sono dietro. Per esempio, un embedding potrebbe catturare che:

• I termini "cucciolo" e "cane" sono strettamente correlati.
• "Come faccio a reimpostare la mia password?" ha un significato simile a "Non riesco ad accedere al mio account".
• I termini "computer portatile economico" e "computer economico" si riferiscono alla stessa cosa.
  

Questo tipo di schemi aiuta gli agenti di intelligenza artificiale e i motori di ricerca a confrontare gli input in base al significato, non solo alle parole chiave corrispondenti.

Che cos'è la ricerca semantica?

Quindi, come si confrontano le incorporazioni per la somiglianza?

Come già detto, un vettore di incorporamento è una serie di numeri. Questi numeri sono una rappresentazione di un punto nello spazio ad alta dimensionalità. Possiamo visualizzare le cose in 2D o 3D, ma che ne dite di 384? Invece di X, Y e Z, abbiamo centinaia di valori che si uniscono per specificare un punto unico.

Questi vettori ci permettono di misurare la "vicinanza" tra due contenuti, non in termini di parole, ma di significato.

La ricerca semantica elabora una query in un vettore e cerca nel database i vettori più vicini. In linea di principio, questi vettori dovrebbero essere i più simili alla domanda dell'utente.

Ricerca approssimativa dei vicini (ANN)

La ricerca semantica viene eseguita utilizzando un algoritmo di approssimazione dei vicini (ANN). L'obiettivo di ANN è rispondere alla domanda: "Quale vettore nel mio database è più simile alla mia richiesta?".

Esistono diversi algoritmi di RNA, ognuno con i propri punti di forza. Ad esempio:

RAG (Generazione Aumentata dal Recupero)

Questa strategia di generazione di LLM sembra essere sulla bocca di tutti, e per una buona ragione: La RAG è affidabile, accurata e fornisce risposte specifiche, il tutto reso possibile dai DB vettoriali.

Con RAG, la richiesta dell'utente viene incorporata e confrontata con il resto del database per trovare elementi simili. Il modello fa quindi riferimento a questi elementi quando genera una risposta.

Il RAG evita di affidarsi alla conoscenza interna del modello o alla storia della conversazione, che possono tendere a essere false o irrilevanti.

Supponiamo di chiedere un riassunto dell'infanzia di Napoleone. La risposta del modello è plausibile, ma è accurata? Con RAG, i documenti pertinenti alla richiesta saranno utilizzati per orientare la risposta del modello. In questo modo, è possibile controllare la risorsa primaria, mantenendo i risultati del modello verificabili.‍

Se volete vedere come si presenta nella pratica, ecco una guida per costruire un chatbot con RAG.

Raccomandazioni su prodotti e contenuti

I database vettoriali non sono utilizzati solo per rispondere alle richieste degli utenti. Possono anche essere utilizzati per ottimizzare l'esperienza dell'utente.

Tracciando la cronologia di navigazione degli utenti e raggruppando gli elementi simili, le aziende possono determinare il prodotto o il contenuto migliore da consigliare all'utente.

Questo è un ottimo esempio di ciò che chiamiamo algoritmo: raccomandazioni strategiche di contenuti e pubblicità mirata.

Pensate a una piattaforma di video-sharing: ogni video ha il suo embedding memorizzato nel database. Quando se ne guarda uno, il sistema è in grado di suggerirne altri con embedding vicini, ovvero contenuti simili, anche se i titoli o i tag sono completamente diversi.

Nel corso del tempo, la cronologia degli orologi diventa una sorta di "nuvola" personalizzata di incorporazioni, che aiuta il sistema a capire le preferenze dell'utente e a consigliargli ciò che vorrà vedere successivamente.

1. Forniscono più contesto ai chatbot

LLMs sono inclini a dimenticare e ad avere allucinazioni durante le lunghe conversazioni. Gli utenti e gli sviluppatori non hanno una chiara percezione di quali informazioni vengono conservate.

Con strategie come RAG, il modello cerca nel database le informazioni necessarie per fornire una risposta accurata.

Invece di ricordare e correggere il modello per l'ennesima volta, i database vettoriali memorizzano le informazioni rilevanti e vi fanno riferimento in modo esplicito.

2. Rendono i risultati delle ricerche tolleranti agli errori di battitura

Anche se conosciamo le parole chiave esatte, la ricerca è disordinata. 

golfen retriever ≠ golden retriever, ma il motore di ricerca dovrebbe saperlo bene.

Se le query vengono abbinate alla lettera, un errore di battitura o una parola sbagliata squalificherebbero un'opzione pertinente. 

Quando astraiamo il significato della query di ricerca, l'ortografia o la formulazione specifica non hanno molta importanza.

3. Consentono agli utenti di eseguire una ricerca fuzzy

La ricerca non riguarda tanto le parole chiave quanto le ✨vibes✨. 

L'astrazione del testo in un vettore di incorporamento consente di memorizzarlo in uno spazio vibratorio ineffabile. Quindi, in apparenza, 

"Dove posso trovare un flat white da urlo da queste parti?". 

non sembra 

"I migliori posti per una dose di caffeina nelle vicinanze", 

ma il motore di ricerca le confronta allo stesso modo. Questo è possibile perché gli embedding delle due frasi sono molto vicini, anche se la loro formulazione è diversa.

4. I DB vettoriali possono confrontare tra loro le diverse modalità

I dati sono di ogni forma, dimensione e tipo. Spesso abbiamo bisogno di confrontare dati di tipo diverso. Ad esempio, utilizzando il testo per cercare e filtrare le immagini dei prodotti.

I modelli multimodali vengono addestrati per confrontare diversi tipi di dati, come testo, immagini, audio e video.

In questo modo è più facile parlare dei contenuti. Trovate un prodotto descrivendone l'immagine, oppure chiedete informazioni sui grafici usando un linguaggio semplice.

1. Definire il caso d'uso

Iniziate con qualcosa di semplice e utile. Ecco alcuni esempi per far girare gli ingranaggi:

• A chatbot per la vendita al dettaglio che aiuta i clienti a trovare i prodotti giusti in base alle loro esigenze e preferenze. Chiedetegli: "Qual è una buona giacca invernale per l'escursionismo con un prezzo inferiore a 150 dollari?".

• A bot di ticketing che gestisce le richieste IT dei dipendenti in tempo reale. Chiedete: "Ci sono ticket ad alta priorità relativi all'accesso VPN ancora non assegnati?".

• A automazione dei processi aziendali che gestisce l'evasione degli ordini dall'inizio alla fine. Chiedetegli: "L'ordine di Smith è già stato spedito e abbiamo inviato l'e-mail di conferma?".

Tutti questi strumenti sono veloci da costruire, facili da testare e di immediato valore.

2. Scegliere la piattaforma

Se i database vettoriali vi sembrano confusi o astratti, ci sono molte piattaforme di chatbot che si occupano di embedding e clustering per voi dietro le quinte.

3. Raccogliere i dati

Iniziate con ciò che già avete: file di testo, PDF, fogli di calcolo. Una buona piattaforma gestisce la formattazione per voi. Basta caricare i contenuti e la piattaforma si occuperà di incorporarli e indicizzarli dietro le quinte.

Alcune specifiche dipendono dalla piattaforma in uso. Ecco alcuni suggerimenti per ottenere il massimo dai vostri dati.

4. Aggiungere una descrizione

Scrivete una breve descrizione in linguaggio semplice dello scopo del vostro bot.

Questo aiuta a definire il tono e le aspettative: come il bot deve parlare agli utenti, che tipo di domande può aspettarsi e quali dati può consultare.

Ad esempio:
"Sei un assistente di supporto per il team delle risorse umane. Aiutate i dipendenti a trovare le politiche e a rispondere alle domande su PTO e benefit. Utilizza le informazioni contenute nel manuale dei dipendenti e nei documenti delle risorse umane. Siate chiari ed educati. Se non sai qualcosa, chiedi all'utente di contattare le Risorse umane".

5. Test e messa a punto

Testate la vostra configurazione con domande reali. Chiedete quello che chiederebbero i vostri clienti. I risultati sono pertinenti? Accurati?

Modificare il bot secondo le necessità:

• Risultati incompleti? Aumentate il numero di pezzi per ottenere risposte più complete.
• Risposta lenta? Scegliete un modello più veloce.
• Risposte errate? Provate un modello più accurato o aggiungete dati rilevanti.

Le piattaforme sono altamente personalizzabili, quindi la soluzione dei problemi è di solito solo una questione di configurazione, come giocare con i modelli disponibili o modificare le descrizioni.

1. Come si valutano le prestazioni di un database vettoriale?

Si deve considerare un mix di velocità (la rapidità con cui le query restituiscono i risultati), accuratezza (la rilevanza dei risultati) e scalabilità (la gestione di molti dati o utenti). Provate a eseguire query reali e verificate se i risultati sono effettivamente utili.

2. Quali sono i requisiti di archiviazione per i dati vettoriali su larga scala?

Dipende dalle dimensioni dell'incorporazione e dalla quantità di dati con cui si lavora, ma quei vettori densi possono accumularsi rapidamente. Pensate a GB o addirittura TB se state indicizzando milioni di elementi. La compressione e l'indicizzazione intelligente possono aiutare a mantenere le cose efficienti.

3. Cosa succede se due documenti molto diversi hanno embeddings simili a causa del rumore o del bias del modello?

Questo porterà a risultati di ricerca strani o irrilevanti. Una buona soluzione consiste nel perfezionare il modello di incorporamento o nell'aggiungere filtri o controlli sulle parole chiave per mantenere i risultati in linea.

4. Come vengono gestiti i dati vettoriali nel tempo?

Di solito lo si gestisce come un qualsiasi set di dati in evoluzione: si memorizzano le istantanee, si tiene traccia delle versioni del modello di incorporazione e si esegue una nuova indicizzazione quando si verificano aggiornamenti importanti. Alcune piattaforme offrono anche strumenti di versioning integrati per rendere il tutto più semplice.

5. È possibile combinare la tradizionale ricerca per parole chiave con la ricerca vettoriale?

Assolutamente sì, si tratta della cosiddetta ricerca ibrida, che offre il meglio di entrambi i mondi: corrispondenze esatte quando sono importanti e risultati sfumati e basati sul significato quando le parole non sono sufficienti. La maggior parte delle piattaforme moderne la supporta immediatamente.