Vector Database là gì? Hạ tầng lưu và tìm vector cho AI Marketing

Vector Database là gì? Vector database (cơ sở dữ liệu vector) là hệ thống lưu các vector — dãy số biểu diễn ý nghĩa của một đoạn văn, một hình ảnh hay một sản phẩm — và tìm thật nhanh những vector gần nhất với một vector truy vấn. Trong AI Marketing, nó là tầng hạ tầng nằm sau tìm kiếm theo nghĩa và RAG: nơi các đoạn tài liệu đã được biến thành vector nằm chờ được truy xuất.

Vector đến từ đâu và vì sao hai câu khác chữ lại có vector gần nhau là chuyện của embedding. Truy xuất được dùng thế nào để AI trả lời có căn cứ là chuyện của RAG. Phần dưới chỉ nói về tầng ở giữa: lưu thế nào, tìm thế nào, lọc thế nào, tốn bao nhiêu và xoá ra sao.

Vector database khác cơ sở dữ liệu thường ở đâu

Dòng cuối là điểm hay bị bỏ qua: vector database luôn có kết quả. Hỏi về chính sách bảo hành trong một kho chỉ có bảng giá, nó vẫn đưa lên đoạn bảng giá “gần nhất”. Vì vậy tầng ứng dụng phía trên cần một ngưỡng độ gần tối thiểu, hoặc một bước kiểm tra cho phép nói “không tìm thấy”.

Bên trong: bản ghi, chỉ mục và truy vấn

Một bản ghi gồm những gì

• Mã định danh của đoạn, kèm mã tài liệu gốc để biết đoạn thuộc tệp nào — thiếu mã này thì không xoá theo tài liệu được.
• Vector: ví dụ 768 hoặc 1.536 con số, tuỳ mô hình embedding.
• Nội dung gốc của đoạn, để đưa cho mô hình hoặc hiển thị cho người đọc.
• Metadata: thương hiệu, loại tài liệu, ngày hiệu lực, thị trường, quyền xem, trạng thái.

Chỉ mục ANN đánh đổi gì

So câu hỏi với từng vector một (tìm chính xác) vẫn chạy ổn với vài chục nghìn đoạn. Khi kho lên hàng triệu đoạn, hệ thống dùng chỉ mục ANN (Approximate Nearest Neighbor — láng giềng gần đúng) như HNSW hay IVF: sắp vector thành đồ thị hoặc thành cụm để mỗi lần tìm chỉ phải xét một phần nhỏ. Cái giá là recall — tỷ lệ tìm ra đúng những đoạn mà cách tìm chính xác sẽ tìm ra — không còn 100%. Tham số của chỉ mục là núm vặn giữa tốc độ, bộ nhớ và recall; đừng để mặc định rồi quên.

Lọc metadata trước hay sau

Truy vấn thực tế hiếm khi chỉ là “gần nghĩa nhất”, mà là “gần nghĩa nhất trong tài liệu còn hiệu lực của thương hiệu A”. Nếu lọc sau khi đã lấy 10 đoạn gần nhất, có thể cả 10 đều bị loại và kết quả rỗng dù kho có đáp án. Hệ thống tốt lọc trong lúc tìm, hoặc lấy dư rồi mới lọc. Khi thử nghiệm, hãy cố ý chạy các truy vấn có bộ lọc hẹp để thấy trường hợp này.

Extension trong database sẵn có hay hệ chuyên dụng

Có hai hướng chính. Một là thêm khả năng vector vào cơ sở dữ liệu doanh nghiệp đang dùng — ví dụ extension pgvector cho PostgreSQL. Hai là dùng một vector database chuyên dụng, tự vận hành hoặc thuê dạng dịch vụ đám mây.

Quy tắc thực dụng: nếu kho dưới vài triệu đoạn và đội đã có PostgreSQL hoặc một database hỗ trợ vector, bắt đầu từ đó. Chuyển sang hệ chuyên dụng khi đo được nút thắt thật — độ trễ, bộ nhớ, số truy vấn mỗi giây — chứ không phải vì nghe nói “làm AI thì phải có vector database riêng”.

Chi phí nằm ở đâu

Dung lượng ước được trước khi chọn. Một vector 1.536 chiều lưu dạng số thực 4 byte chiếm khoảng 6 KB. Với 100.000 đoạn, riêng phần vector thô đã khoảng 600 MB, chưa tính nội dung gốc, metadata và chỉ mục — chỉ mục HNSW cần thêm bộ nhớ đáng kể và chạy tốt nhất khi nằm trọn trong RAM.

• Tạo embedding: trả theo token khi nạp lần đầu và mỗi lần tài liệu đổi. Đổi mô hình embedding là trả lại cho toàn bộ kho.
• Lưu trữ và bộ nhớ: tăng theo số đoạn và số chiều; cắt đoạn quá vụn làm số đoạn phình ra mà chất lượng không tăng.
• Truy vấn: mỗi câu hỏi tốn một lần tạo embedding cho câu hỏi cộng một lần tìm.
• Vận hành: sao lưu, theo dõi, nâng cấp phiên bản — khoản thường bị quên khi so giá dịch vụ.

Cách dự toán chi phí AI tổng thể, gồm cả token của mô hình sinh nội dung, xem ở bài chi phí AI Marketing.

Cập nhật và xoá: phần dễ hỏng nhất

Kho vector không phải nơi nạp một lần rồi thôi. Bảng giá đổi, chính sách hết hạn, khách hàng yêu cầu xoá dữ liệu. Mỗi tình huống cần một quy tắc viết sẵn:

Vector tạo từ văn bản có thông tin cá nhân vẫn là dữ liệu cần bảo vệ — đừng coi “chỉ là dãy số” rồi để ngoài chính sách xoá. Doanh nghiệp xử lý dữ liệu cá nhân cần tuân Nghị định 13/2023/NĐ-CP và các quy định bảo vệ dữ liệu cá nhân hiện hành; quy tắc ai được đưa gì vào kho xem bài data governance cho AI Marketing.

Ví dụ: kho tra cứu của một công ty logistics

Ví dụ giả định: một công ty logistics có khoảng 400 tài liệu — bảng giá theo tuyến, điều khoản bồi thường, hướng dẫn đóng gói — muốn trợ lý nội bộ giúp sales trả lời khách nhanh hơn. Cắt đoạn xong được khoảng 12.000 đoạn.

Điều đáng chú ý: không quyết định nào ở đây cần mua thêm hệ thống. Phần tốn công nhất là gắn ngày hiệu lực cho 400 tài liệu — việc mà không vector database nào làm thay.

Checklist trước khi chọn hạ tầng vector

• Ước được số đoạn hiện tại và sau 12 tháng, cùng số chiều của mô hình embedding.
• Liệt kê bộ lọc bắt buộc: thương hiệu, thị trường, hiệu lực, quyền xem.
• Có bộ 30–50 câu hỏi kèm đoạn đáp án để đo recall trước và sau khi chỉnh chỉ mục.
• Có quy trình xoá và tạo lại đoạn khi tài liệu đổi, chạy được mà không phải sửa tay.
• Ghi rõ mô hình embedding đang dùng để biết khi nào phải tạo lại toàn bộ.
• Biết ai chịu trách nhiệm sao lưu và đã thử khôi phục ít nhất một lần.
• Đã tính tới nhu cầu tìm theo từ khoá song song — xem cách kết hợp ở bài semantic search.

Câu hỏi thường gặp