Ano ang isang Vector Database at Paano Ito Gumagana?

Ano ang isang Embedding Model?

Ang mga modelo ng pag-embed ay mga modelo ng machine learning na sinanay upang i-convert ang data sa mga pag-embed.

Ang mga modelong ito ay sinanay upang i-compress ang data sa isang vector (aming pag-embed), at pagkatapos ay muling buuin ito. Ang naka-compress na vector ay nag-iimbak ng maraming semantikong impormasyon mula sa data hangga't maaari.

Iyon ay nangangahulugang hindi lamang nila iniimbak ang mga salita, ngunit ang mga ideya sa likod nito. Halimbawa, maaaring makuha ng isang pag-embed na:

• Ang "tuta" at "aso" ay malapit na magkaugnay
• “Paano ko ire-reset ang aking password?” ay katulad ng kahulugan sa "Hindi makapag-log in sa aking account"
• Ang "abot-kayang laptop" at "badyet-friendly na computer" ay tumutukoy sa parehong bagay
  

Ang mga ganitong uri ng pattern ay nakakatulong sa mga ahente ng AI at mga search engine na maghambing ng mga input batay sa kahulugan, hindi lamang sa mga tugmang keyword.

Ano ang Semantic Search?

Kaya, paano inihahambing ang mga pag-embed para sa pagkakatulad?

Gaya ng naunang nabanggit, ang isang naka-embed na vector ay isang serye ng mga numero. Ang mga numerong ito ay representasyon ng isang punto sa mataas na dimensional na espasyo. Maaari nating mailarawan ang mga bagay sa 2D o 3D, ngunit paano ang 384? Sa halip na X, Y, at Z, mayroon kaming daan-daang value, lahat ay nagsasama-sama upang tumukoy ng isang natatanging punto.

Nagbibigay-daan sa amin ang mga vector na ito na sukatin kung gaano kalapit ang 2 piraso ng nilalaman – hindi sa mga salita , ngunit sa mga tuntunin ng kahulugan .

Pinoproseso ng semantic na paghahanap ang isang query sa isang vector, at hinahanap ang database para sa pinakamalapit na mga vector. Ang mga resultang vector na ito ay dapat, sa prinsipyo, ang pinakakatulad sa query ng user.

Tinatayang Nearest Neighbor (ANN) na Paghahanap

Isinasagawa ang semantic na paghahanap gamit ang isang Tinatayang Nearest Neighbor (ANN) algorithm. Ang layunin ng ANN ay sagutin ang tanong, "aling vector sa aking database ang pinakakapareho sa aking query?"

Mayroong ilang mga algorithm ng ANN, bawat isa ay may sariling lakas. Halimbawa:

RAG (Retrieval-Augmented Generation)

Ito LLM Ang diskarte sa henerasyon ay tila pinag-uusapan, at sa magandang dahilan: Ang RAG ay maaasahan, tumpak, at nagbibigay ng mga partikular na tugon, lahat ay ginawang posible gamit ang mga Vector DB.

Sa RAG , ang query ng user ay naka-embed at inihambing laban sa natitirang bahagi ng database para sa mga katulad na item. Tinutukoy ng modelo ang mga item na ito kapag bumubuo ng tugon.

Iniiwasan ng RAG na umasa sa panloob na kaalaman ng modelo o sa kasaysayan ng pag-uusap, na parehong maaaring mali o walang kaugnayan.

Sabihin na humingi ka ng buod ng pagkabata ni Napoleon. Posible ang tugon ng modelo, ngunit tumpak ba ito? Sa RAG, ang mga dokumentong nauugnay sa iyong query ay gagamitin upang patnubayan ang tugon ng modelo. Sa ganoong paraan, maaari mong suriin ang pangunahing mapagkukunan, na pinapanatili ang mga output ng modelo na nabe-verify. ‍

Kung gusto mong makita kung ano ang hitsura nito sa pagsasanay, narito ang isang gabay para sa pagbuo ng chatbot gamit ang RAG .

Mga Rekomendasyon sa Produkto at Nilalaman

Ang mga vector database ay hindi lamang ginagamit upang tumugon sa mga query ng user. Magagamit din ang mga ito para i-optimize ang karanasan ng isang user.

Ang pagsubaybay sa kasaysayan ng nabigasyon ng mga user at pag-cluster ng mga katulad na item ay nagbibigay-daan sa mga negosyo na matukoy ang pinakamahusay na produkto o nilalaman na irerekomenda sa user.

Ito ay isang mahusay na halimbawa ng kung ano ang tinutukoy namin bilang ang algorithm : mga rekomendasyon sa madiskarteng nilalaman at naka-target na advertising.

Mag-isip ng isang platform ng pagbabahagi ng video: bawat video ay may sariling pag-embed na nakaimbak sa database. Kapag nanood ka ng isa, maaaring magmungkahi ang system ng iba na may mga kalapit na pag-embed — ibig sabihin ay magkatulad na nilalaman, kahit na ang mga pamagat o tag ay ganap na naiiba.

Sa paglipas ng panahon, ang iyong history ng panonood ay nagiging isang uri ng personalized na "cloud" ng mga pag-embed, na tumutulong sa system na maunawaan ang iyong mga kagustuhan at magrekomenda kung ano ang gusto mong makita sa susunod.

1. Nagbibigay Sila ng Higit pang Konteksto sa Mga Chatbot

LLMs ay madaling makalimot at guni-guni sa mahabang pag-uusap. Walang malinaw na ideya ang mga user at dev kung aling impormasyon ang pinapanatili.

Sa mga diskarte tulad ng RAG, hinahanap ng modelo ang database laban sa iyong query upang mahanap ang anumang impormasyon na kailangan upang magbigay ng tumpak na tugon.

Sa halip na paalalahanan at itama ang modelo sa ikalabing pagkakataon, ang mga database ng vector ay nag-iimbak ng may-katuturang impormasyon at tahasang tinutukoy ito.

2. Gumagawa sila ng Mga Resulta ng Paghahanap na Typo-Tolerant

Kahit na alam namin ang eksaktong mga keyword, ang paghahanap ay magulo. 

golfen retriever ≠ golden retriever , ngunit dapat mas alam ng iyong search engine.

Kung literal na tinutugma namin ang mga query, ang isang typo o maling spelling na salita ay mag-aalis ng karapatan sa isang nauugnay na opsyon. 

Kapag abstract namin ang kahulugan ng query sa paghahanap, ang partikular na spelling o mga salita ay halos hindi mahalaga.

3. Pinapayagan Nila ang Mga Gumagamit na Magsagawa ng Malabong Paghahanap

Ang paghahanap ay mas kaunti tungkol sa mga keyword kaysa ito ay tungkol sa ✨vibes✨. 

Hinahayaan ka ng pag-abstract ng text sa isang vector ng pag-embed na iimbak ito sa hindi maipaliwanag na vibe space. Kaya, sa ibabaw, 

"Saan ako makakakuha ng mamamatay na flat white sa paligid?" 

hindi mukhang 

"Pinakamagandang lugar para sa pag-aayos ng caffeine sa malapit", 

ngunit ang iyong search engine ay tutugma sa kanila ng pareho. Ito ay posible dahil ang mga pagkakalagay ng dalawang parirala ay napakalapit, kahit na ang kanilang mga salita ay magkaiba.

4. Maaaring Paghambingin ang mga Vector DB sa Mga Modal

Dumating ang data sa lahat ng hugis, sukat, at uri. Kadalasan kailangan nating paghambingin ang data sa iba't ibang uri. Halimbawa, ang paggamit ng teksto upang maghanap at mag-filter ng mga larawan ng produkto.

Ang mga multimodal na modelo ay sinanay upang ihambing ang iba't ibang uri ng data, tulad ng teksto, mga larawan, audio, at video.

Ginagawa nitong mas madaling pag-usapan ang iyong nilalaman. Maghanap ng produkto sa pamamagitan ng paglalarawan sa larawan nito, o magtanong tungkol sa mga chart gamit ang simpleng wika.

1. Tukuyin ang Iyong Use Case

Magsimula sa isang bagay na simple at kapaki-pakinabang. Narito ang ilang mga halimbawa upang maibalik ang mga gears:

• Isang retail chatbot na tumutulong sa mga customer na mahanap ang mga tamang produkto batay sa kanilang mga pangangailangan at kagustuhan. Tanungin ito, "Ano ang magandang winter jacket para sa hiking na wala pang $150?"

• Isang ticketing bot na sinusuri ang mga kahilingan sa IT ng empleyado sa real-time. Itanong, "Mayroon bang anumang mataas na priyoridad na mga tiket na nauugnay sa pag-access sa VPN na hindi pa nakatalaga?"

• Isang automation ng proseso ng negosyo ahente na namamahala sa pagtupad ng order mula simula hanggang matapos. Tanungin ito, "Naipadala na ba ang order ng Smith, at ipinadala ba namin ang email ng kumpirmasyon?"

Ang lahat ng ito ay mabilis na binuo, madaling subukan, at agad na mahalaga.

2. Piliin ang Iyong Platform

Kung ang mga vector database ay nakakaramdam ng pagkalito o abstract, maraming mga chatbot platform na nakikitungo sa mga pag-embed at clustering para sa iyo sa likod ng mga eksena.

3. Ipunin ang Iyong Data

Magsimula sa kung ano ang mayroon ka na—mga text file, PDF, spreadsheet. Ang isang mahusay na platform ang humahawak sa pag-format para sa iyo. I-upload lang ang iyong nilalaman, at ito na ang bahala sa pag-embed at pag-index sa likod ng mga eksena.

Ang ilang mga detalye ay depende sa kung anong platform ang iyong ginagamit. Narito ang ilang tip para masulit ang iyong data .

4. Magdagdag ng Paglalarawan

Sumulat ng isang maikli, simpleng paglalarawan ng wika kung para saan ang iyong bot.

Nakakatulong ito na itakda ang tono at mga inaasahan: kung paano dapat makipag-usap ang bot sa mga user, anong uri ng mga tanong ang maaari nitong asahan, at kung anong data ang maaari nitong sanggunian.

Halimbawa:
"Isa kang support assistant para sa HR team. Tulungan ang mga empleyado na makahanap ng mga patakaran at sagutin ang mga tanong tungkol sa PTO at mga benepisyo. Gumamit ng impormasyon mula sa handbook ng empleyado at mga dokumento ng HR. Maging malinaw at magalang. Kung wala kang alam, hilingin sa user na makipag-ugnayan sa HR."

5. Pagsubok at Pag-tweak

Subukan ang iyong setup gamit ang mga totoong query. Tanungin kung ano ang itatanong ng iyong mga customer. May kaugnayan ba ang mga resulta? tumpak?

I-tweak ang iyong bot kung kinakailangan:

• Mga hindi kumpletong resulta? Taasan ang bilang ng tipak para sa mas kumpletong mga tugon.
• Mabagal na tugon? Pumili ng mas mabilis na modelo.
• Mga maling tugon? Subukan ang isang mas tumpak na modelo, o magdagdag ng may-katuturang data.

Ang mga platform ay lubos na nako-customize, kaya ang paglutas ng mga isyu ay karaniwang isang bagay lamang ng pag-configure , tulad ng paglalaro sa mga available na modelo o pagbabago ng mga paglalarawan.