Baza danych Vector: Zmieniająca zasady gry technologia napędzająca wyszukiwanie AI

Jeśli próbujesz zbudować agenta AI lub wyszukiwarkę, prawdopodobnie słyszałeś już o wektorowych bazach danych.

Wektorowe bazy danych odgrywają istotną rolę w interakcji między danymi, zasobami i zapytaniami, ale radzenie sobie z nimi może być zniechęcające. Byłem tam: przewijając ezoteryczne terminy, takie jak osadzanie i wyszukiwanie rozmyte, nie byłem pewien, czy przesadzam z inżynierią, czy po prostu brakuje mi czegoś podstawowego.

Kto decyduje o tym, które filmy na YouTube polecać? Jak wyszukiwarki radzą sobie z literówkami? W jaki sposób Instagram zawsze pokazuje mi idealnego puszystego psa?

W tym artykule rozpakujemy świat wektorów, podobieństwa i wyszukiwania semantycznego oraz dowiemy się, jak tworzyć bardziej spersonalizowane aplikacje.

Czym jest wektorowa baza danych?

Wektorowa baza danych przechowuje dane jako zbiór reprezentacji numerycznych (znanych jako wektory), które przechwytują znaczenie danych. Pozwala to na wyszukiwanie w oparciu o podobieństwo, a nie tylko konkretne słowa kluczowe.

Wektorowe bazy danych są kluczową technologią stojącą za nowoczesnymi systemami czatu, wyszukiwania i rekomendacji.

Jak działają wektorowe bazy danych?

Wektorowe bazy danych przechowują tekst, obrazy i arkusze kalkulacyjne jako serię wektorów, zwanych również osadzeniami. Każdy z tych wektorów to seria liczb, które na pierwszy rzut oka nie wyglądają na wiele, ale pod maską oddają abstrakcyjne znaczenie danych.

Dane te - czy to e-maile, transkrypcje spotkań, opisy produktów - nie są zastępowane serią liczb, ale indeksowane.

Te małe, gęste osadzenia sprawiają, że wyszukiwanie informacji jest zarówno wydajne, jak i znaczące. Pozwalają nam porównywać elementy na podstawie podobieństwa.

Kluczowe koncepcje

Czym jest model osadzania?

Modele osadzania to modele uczenia maszynowego wyszkolone do konwersji danych na osadzenia.

Modele te są szkolone w zakresie kompresji danych do wektora (nasze osadzenie), a następnie ich regeneracji. Skompresowany wektor przechowuje jak najwięcej informacji semantycznych z danych.

Oznacza to, że przechowują one nie tylko słowa, ale także idee, które się za nimi kryją. Na przykład, osadzenie może to uchwycić:

• "Szczeniak" i "pies" są blisko spokrewnione
• "Jak zresetować hasło?" jest podobne do "Nie mogę zalogować się na moje konto".
• "Niedrogi laptop" i "niedrogi komputer" odnoszą się do tego samego.
  

Tego rodzaju wzorce pomagają agentom AI i wyszukiwarkom porównywać dane wejściowe w oparciu o znaczenie, a nie tylko pasujące słowa kluczowe.

Czym jest wyszukiwanie semantyczne?

W jaki sposób embeddingi są porównywane pod kątem podobieństwa?

Jak wspomniano wcześniej, wektor osadzania to seria liczb. Liczby te są reprezentacją punktu w przestrzeni wielowymiarowej. Możemy wizualizować rzeczy w 2D lub 3D, ale co powiesz na 384? Zamiast X, Y i Z mamy setki wartości, z których wszystkie składają się na jeden unikalny punkt.

Wektory te pozwalają nam zmierzyć, jak "bliskie" są 2 fragmenty treści - nie pod względem słów, ale pod względem znaczenia.

Wyszukiwanie semantyczne przetwarza zapytanie na wektor i przeszukuje bazę danych w poszukiwaniu najbliższych wektorów. Te wektory wyników powinny być zasadniczo najbardziej podobne do zapytania użytkownika.

Przybliżone wyszukiwanie najbliższych sąsiadów (ANN)

Wyszukiwanie semantyczne odbywa się przy użyciu algorytmu Approximate Nearest Neighbor (ANN). Celem ANN jest odpowiedź na pytanie "który wektor w mojej bazie danych jest najbardziej podobny do mojego zapytania?".

Istnieje kilka algorytmów ANN, z których każdy ma swoje mocne strony. Na przykład:

Hierarchiczny mały świat z możliwością nawigacji (HNSW)

HNSW jest zoptymalizowany do wyszukiwania w czasie rzeczywistym, z niskimi opóźnieniami. Świetnie nadaje się do spersonalizowanych kanałów treści i systemów rekomendacji - każdego scenariusza, który wymaga szybkiego wyszukiwania w często aktualizowanych danych.

Odwrócony indeks pliku (IVF)

IVF jest bardziej odpowiedni dla dużych, w większości niezmiennych danych. Pomyśl o katalogach e-commerce lub akademickich katalogach papierowych.

W praktyce algorytm będzie ukryty w silniku lub platformie używanej do implementacji wyszukiwania.

Przypadki użycia wektorowych baz danych

Teraz, gdy rozumiemy już, w jaki sposób wektory są tworzone i dopasowywane, przyjrzyjmy się różnym sposobom ich wykorzystania w aplikacjach.

RAG (Retrieval-Augmented Generation)

Ta strategia generowania LLM wydaje się być tematem rozmów i nie bez powodu: RAG jest niezawodny, dokładny i zapewnia konkretne odpowiedzi, a wszystko to jest możliwe dzięki Vector DB.

Dzięki RAG zapytanie użytkownika jest osadzane i porównywane z resztą bazy danych pod kątem podobnych elementów. Następnie model odwołuje się do tych elementów podczas generowania odpowiedzi.

RAG unika polegania na wewnętrznej wiedzy modelu lub historii konwersacji, które mogą być fałszywe lub nieistotne.

Powiedzmy, że prosisz o podsumowanie dzieciństwa Napoleona. Odpowiedź modelu jest wiarygodna, ale czy dokładna? Dzięki RAG dokumenty związane z zapytaniem zostaną wykorzystane do kierowania odpowiedzią modelu. W ten sposób można sprawdzić podstawowy zasób, utrzymując weryfikowalność wyników modelu.‍

Jeśli chcesz zobaczyć, jak to wygląda w praktyce, oto przewodnik po budowaniu chatbota za pomocą RAG.

Zalecenia dotyczące produktów i treści

Wektorowe bazy danych służą nie tylko do odpowiadania na zapytania użytkowników. Mogą być również wykorzystywane do optymalizacji doświadczenia użytkownika.

Śledzenie historii nawigacji użytkowników i grupowanie podobnych elementów pozwala firmom określić najlepszy produkt lub treść do polecenia użytkownikowi.

Jest to świetny przykład tego, co nazywamy algorytmem: strategiczne rekomendacje treści i ukierunkowane reklamy.

Pomyślmy o platformie do udostępniania wideo: każdy film ma własne osadzenie przechowywane w bazie danych. Po obejrzeniu jednego z nich system może zasugerować inne z pobliskimi osadzeniami - co oznacza podobną treść, nawet jeśli tytuły lub tagi są zupełnie inne.

Z biegiem czasu historia oglądania staje się rodzajem spersonalizowanej "chmury" osadzeń, pomagając systemowi zrozumieć preferencje użytkownika i polecić, co będzie chciał zobaczyć w następnej kolejności.

Zalety wektorowych baz danych w porównaniu z tradycyjnymi bazami danych

Teraz, gdy już wiemy , co i jak z wektorowymi bazami danych, porozmawiajmy o tym, dlaczego: jakie korzyści dają one w chatbotach i wyszukiwarkach?

1. Zapewniają Chatbotom więcej kontekstu

LLMs są podatni na zapominanie i halucynacje podczas długich rozmów. Użytkownicy i deweloperzy nie mają wyraźnego poczucia, które informacje są zachowywane.

W przypadku strategii takich jak RAG, model przeszukuje bazę danych pod kątem zapytania użytkownika, aby znaleźć wszelkie informacje potrzebne do udzielenia dokładnej odpowiedzi.

Zamiast przypominać i poprawiać model po raz kolejny, wektorowe bazy danych przechowują istotne informacje i wyraźnie się do nich odwołują.

2. Sprawiają, że wyniki wyszukiwania są odporne na literówki

Nawet jeśli znamy dokładne słowa kluczowe, wyszukiwanie jest chaotyczne. 

golfen retriever ≠ golden retriever, ale wyszukiwarka powinna wiedzieć lepiej.

Jeśli dopasowujemy zapytania dosłownie, literówka lub błędnie wpisane słowo dyskwalifikuje odpowiednią opcję. 

Gdy wyabstrahujemy znaczenie zapytania wyszukiwania, konkretna pisownia lub sformułowanie nie ma tak dużego znaczenia.

3. Pozwalają użytkownikom na wyszukiwanie rozmyte

W wyszukiwaniu mniej chodzi o słowa kluczowe, a bardziej o ✨vibes✨. 

Abstrakcja tekstu do wektora osadzania pozwala przechowywać go w niewysłowionej przestrzeni wibracji. Tak więc, na pierwszy rzut oka, 

"Gdzie w okolicy mogę dostać zabójczą flat white?". 

nie wygląda jak 

"Najlepsze miejsca na kofeinę w pobliżu", 

ale wyszukiwarka dopasuje je tak samo. Jest to możliwe, ponieważ osadzenia tych dwóch fraz są bardzo zbliżone, mimo że ich brzmienie jest inne.

4. Wektorowe bazy danych mogą porównywać różne modalności

Dane mają różne kształty, rozmiary i typy. Często musimy porównywać dane różnych typów. Na przykład, używając tekstu do wyszukiwania i filtrowania zdjęć produktów.

Modele multimodalne są szkolone w celu porównywania różnych typów danych, takich jak tekst, obrazy, audio i wideo.

Ułatwia to rozmowę o treści. Znajdź produkt opisując jego zdjęcie lub zapytaj o wykresy używając prostego języka.

Jak zbudować agenta AI z inteligentnymi możliwościami wyszukiwania?

Jeśli dopiero zaczynasz przygodę z wyszukiwaniem semantycznym, prawdopodobnie masz mnóstwo pytań:

Jak przygotować dane?

Jakie dane powinienem uwzględnić?

Którego modelu osadzania powinienem użyć... i skąd mam wiedzieć, że działa?

Na szczęście nie trzeba tego wszystkiego ustalać z góry. Oto jak zacząć w kilku prostych krokach:

1. Zdefiniuj swój przypadek użycia

Zacznij od czegoś prostego i użytecznego. Oto kilka przykładów, które pomogą ci się rozkręcić:

• A chatbot dla sprzedawców detalicznych który pomaga klientom znaleźć odpowiednie produkty w oparciu o ich potrzeby i preferencje. Zapytaj go: "Jaka jest dobra kurtka zimowa do wędrówek w cenie poniżej 150 USD?".

• A bot do obsługi zgłoszeń który rozpatruje zgłoszenia IT pracowników w czasie rzeczywistym. Zapytaj: "Czy są jeszcze jakieś nieprzypisane zgłoszenia o wysokim priorytecie związane z dostępem VPN?".

• A automatyzacja procesów biznesowych który zarządza realizacją zamówień od początku do końca. Zapytaj go: "Czy zamówienie Smitha zostało już wysłane i czy wysłaliśmy wiadomość e-mail z potwierdzeniem?".

Wszystkie z nich są szybkie do zbudowania, łatwe do przetestowania i od razu wartościowe.

2. Wybierz swoją platformę

Jeśli wektorowe bazy danych wydają się mylące lub abstrakcyjne, istnieje wiele platform chatbotowych, które zajmują się osadzaniem i grupowaniem za kulisami.

3. Gromadzenie danych

Zacznij od tego, co już masz - plików tekstowych, PDF, arkuszy kalkulacyjnych. Dobra platforma zajmie się formatowaniem za Ciebie. Po prostu prześlij swoją zawartość, a ona zajmie się osadzaniem i indeksowaniem za kulisami.

Niektóre szczegóły będą zależeć od używanej platformy. Oto kilka wskazówek, jak najlepiej wykorzystać dane.

4. Dodaj opis

Napisz krótki, prosty opis tego, do czego służy twój bot.

Pomaga to ustalić ton i oczekiwania: w jaki sposób bot powinien rozmawiać z użytkownikami, jakiego rodzaju pytań może oczekiwać i do jakich danych może się odwoływać.

Na przykład:
"Jesteś asystentem wsparcia dla zespołu HR. Pomagaj pracownikom znaleźć zasady i odpowiadaj na pytania dotyczące WOM i świadczeń. Używaj informacji z podręcznika pracownika i dokumentów HR. Wyrażaj się jasno i uprzejmie. Jeśli czegoś nie wiesz, poproś użytkownika o kontakt z działem HR".

5. Testowanie i poprawianie

Przetestuj swoją konfigurację z prawdziwymi zapytaniami. Zapytaj o to, o co zapytaliby Twoi klienci. Czy wyniki są trafne? Dokładne?

Dostosuj swojego bota według potrzeb:

• Niekompletne wyniki? Zwiększ liczbę fragmentów, aby uzyskać pełniejsze odpowiedzi.
• Wolna reakcja? Wybierz szybszy model.
• Nieprawidłowe odpowiedzi? Wypróbuj dokładniejszy model lub dodaj odpowiednie dane.

Platformy są wysoce konfigurowalne, więc rozwiązywanie problemów jest zwykle tylko kwestią konfiguracji, na przykład grania dostępnymi modelami lub zmiany opisów.

Tworzenie inteligentniejszych funkcji wyszukiwania

Wraz z ostatnimi postępami w dziedzinie sztucznej inteligencji, możliwość przeszukiwania danych nie jest tylko miłym dodatkiem - staje się domyślnym oczekiwaniem.

Nie musisz opanowywać ANN ani embeddings, aby budować inteligentniejsze wyszukiwarki. Nasza platforma zapewnia narzędzia typu plug-and-play do wyszukiwania semantycznego i generowania rozszerzonego wyszukiwania. Przygotowanie danych nie jest wymagane.

Zacznij budować już dziś. To nic nie kosztuje.

Najczęściej zadawane pytania

1. Jak ocenić wydajność wektorowej bazy danych?

Aby ocenić wydajność wektorowej bazy danych, należy zmierzyć jej opóźnienie zapytań (jak szybko zwraca wyniki), przywołanie lub precyzję (jak trafne są te wyniki) oraz skalowalność (jak dobrze radzi sobie z przyrostem danych i zapytań). Powinieneś przetestować rzeczywiste zapytania, aby upewnić się, że spełnia oczekiwania dotyczące szybkości i dokładności pod obciążeniem.

2. Jakie są wymagania dotyczące przechowywania danych wektorowych na dużą skalę?

Wymagania dotyczące pamięci masowej dla danych wektorowych na dużą skalę zależą od liczby wektorów i ich wymiarowości - na przykład 1 milion wektorów w 768 wymiarach przy użyciu 32-bitowych zmiennoprzecinkowych wymagałoby ponad 3 GB surowej pamięci masowej. W przypadku dużej skali (od milionów do miliardów wektorów) należy spodziewać się wymagań rzędu dziesiątek lub setek GB i korzystać z opcji takich jak kompresja lub przybliżone indeksowanie w celu zmniejszenia kosztów przechowywania.

3. Co się stanie, jeśli dwa bardzo różne dokumenty mają podobne osadzenia z powodu szumu lub tendencyjności modelu?

Jeśli dwa niepowiązane dokumenty wygenerują podobne osadzenia, system wyszukiwania może zwrócić nieprawidłowe wyniki. Aby temu zaradzić, można dopracować model osadzania na danych specyficznych dla domeny lub użyć hybrydowych technik wyszukiwania, które łączą wektory z metadanymi lub filtrami słów kluczowych w celu ujednoznacznienia.

4. W jaki sposób dane wektorowe są wersjonowane i zarządzane w czasie?

Dane wektorowe są wersjonowane poprzez śledzenie danych wejściowych i modelu osadzania używanego do generowania wektorów. Powszechne praktyki obejmują przechowywanie migawek ze znacznikami czasu i oznaczanie wersji indeksów.

5. Czy możliwe jest połączenie tradycyjnego wyszukiwania słów kluczowych z wyszukiwaniem wektorowym?

Tak, połączenie tradycyjnego wyszukiwania słów kluczowych z wyszukiwaniem wektorowym nazywane jest wyszukiwaniem hybrydowym i jest obsługiwane przez wiele platform, takich jak Elasticsearch czy Vespa. Metoda ta poprawia trafność, wykorzystując dopasowanie leksykalne do precyzyjnych zapytań i semantyczne podobieństwo wektorów do zrozumienia kontekstu.