Une base vectorielle stocke les documents sous forme de représentations numériques de leur sens (embeddings) : une recherche retrouve ce qui est sémantiquement proche, pas seulement ce qui partage des mots-clés. Demandez « comment me faire rembourser ? » et elle ressort la politique de remboursement même si le document n'emploie jamais ce mot. C'est la couche mémoire de la plupart des systèmes RAG.
En pratique, c'est un composant, pas une décision produit à sur-analyser : la qualité de récupération dépend bien plus du découpage et de l'indexation des documents — un travail couvert dans le guide du chatbot RAG.