Ghi chép kỹ thuật
Blog OpenVie
Các bài viết đi vào những chỗ khó của một hệ RAG tự lưu trữ: hợp nhất kết quả truy hồi, từ chối khi thiếu bằng chứng, tách OLTP khỏi OLAP, quy trình phê duyệt, và bảo mật theo tầng. Mỗi bài dẫn nguồn đọc được để bạn tự kiểm chứng.
Bài mới nhất
Stack tiếng Việt cục bộ: BGE-M3 và VyLinh 3B trong OpenVie
Một stack RAG chạy tại chỗ cần hai mô hình làm hai việc khác nhau: một embedder để truy hồi, một mô hình sinh để viết câu trả lời. OpenVie mặc định dùng BGE-M3 và VyLinh 3B qua Ollama, và bài này giải thích cả lựa chọn lẫn giới hạn của nó.
- Hai bài toán khác nhau, hai mô hình khác nhau — vì sao truy hồi và sinh văn bản phải tách
- BGE-M3: ba chế độ truy hồi trong một lần mã hoá
- Vì sao vector 1024 chiều với 8192 token ngữ cảnh lại quan trọng với văn bản hành chính
- VyLinh 3B: một mô hình nhỏ cho tiếng Việt
- Giới hạn mà chính model card thừa nhận
- Nạp mô hình vào Ollama
11 phút đọc13 phần
Đọc bàiTất cả bài viết
Nguồn tham khảo ở cuối mỗi bài- Truy hồiRRFGraphRAG
Truy hồi hybrid: dense, sparse và đồ thị cho tài liệu nội bộ
Truy hồi hybrid không phải là cộng điểm dense với BM25. Bài này đi qua từng quyết định: ba biểu diễn của BGE-M3, RRF, DBSF, lấy thô rồi chấm lại, chunking, đồ thị và viết lại câu hỏi — kèm cái giá của mỗi lựa chọn.
18 phút đọc15 phần
- AbstentionTrích dẫnĐánh giá
Từ chối khi thiếu bằng chứng: trôi chảy không có nghĩa là đúng
Abstention — chủ động từ chối trả lời khi không có bằng chứng — là một hành vi phải thiết kế, không phải một câu dặn thêm vào prompt. Bài này đi qua bằng chứng công khai và chỉ ra một hệ thống RAG cần xây gì thay cho lời dặn đó.
11 phút đọc13 phần
- LakehouseDuckDBParquet
Lakehouse nhỏ với Parquet và DuckDB
Một câu hỏi đếm tưởng đơn giản chạm đúng ranh giới giữa OLTP và OLAP. Bài này đi từ Parquet và phân vùng thư mục tới CDC và DuckDB nhúng, cùng những gì OpenVie thực sự làm.
11 phút đọc13 phần
- BPMNPhê duyệtAudit
Phê duyệt hai cấp trên BPMN: kiểm soát quy trình từ sơ đồ đến audit
Khi phê duyệt có hai cấp, hạn chót và leo thang, một cột `status` bắt đầu rò rỉ logic nghiệp vụ ra khắp code. Bản này đi qua cách OpenVie đặt quy trình lên engine BPMN nhúng, ghi quyết định vào trạng thái tài liệu, và biến mỗi bước thành một sự kiện có thể kiểm chứng.
11 phút đọc13 phần
- Bảo mậtOIDCBiên mạng
Định danh, quyền và biên mạng: ba lớp của một ranh giới
Bảo mật một nền tảng RAG tự host không nằm ở một middleware duy nhất. Nó nằm ở ba quyết định tách biệt: ai là người gọi, người đó được chạm vào tài nguyên nào, và biên mạng cho phép bao nhiêu lưu lượng đi qua.
17 phút đọc15 phần