gno: Tìm kiếm lai địa phương cho việc truy xuất ngữ cảnh AI riêng tư
gno, từ Gmickel, là một công cụ tri thức ưu tiên địa phương biến tài liệu cá nhân thành một không gian làm việc sẵn sàng cho AI, có thể tìm kiếm cho các nhiệm vụ truy xuất riêng tư. Nó lập chỉ mục các tệp và cung cấp ngữ cảnh cho các tác nhân AI thông qua một quy trình lai kết hợp tìm kiếm từ khóa BM25, nhúng vector, và xếp hạng lại LLM, có sẵn qua giao diện web và CLI. Ứng dụng hỗ trợ lập chỉ mục cấp đoạn, một máy chủ MCP, và một đồ thị tri thức trực quan. Các nhà phát triển, nhà nghiên cứu, và người dùng mạnh mẽ có được tìm kiếm an toàn, nhanh chóng trên thiết bị cho các quy trình làm việc do tác nhân điều khiển.
Bạn có thể sử dụng nó cho những nhiệm vụ gì?
Tầng truy xuất cho các tác nhân. gno hoạt động như một tầng truy xuất cục bộ biến ghi chú, mã nguồn và tài liệu thành các nguồn ngữ cảnh cho các tác nhân AI. Nó lập chỉ mục các định dạng phổ biến và cung cấp cả bảng điều khiển web và công cụ dòng lệnh để duyệt và truy vấn. Các định dạng được hỗ trợ bao gồm
- Markdown
- DOCX
- XLSX
- PPTX
- văn bản thuần túy
Độ chính xác của việc truy xuất và xếp hạng lại là bao nhiêu?
Truy xuất hỗn hợp tăng cường sự liên quan. gno sử dụng một ngăn xếp tìm kiếm hỗn hợp kết hợp giữa việc khớp từ khóa BM25, nhúng vector và một bộ xếp hạng dựa trên LLM để ưu tiên các đoạn văn liên quan. Thiết kế này nhắm đến độ chính xác ở cấp độ đoạn văn và nhằm mục đích hiển thị đoạn văn chính xác thay vì chỉ là tệp. Hệ thống có thể mở rộng đến hàng ngàn tệp và tạo ra kết quả có độ chính xác cao hơn khi các tài liệu nguồn được cấu trúc tốt; chất lượng đầu ra phụ thuộc vào độ rõ ràng của văn bản đã lập chỉ mục và mô hình nhúng cục bộ được chọn.
Nó có cần kiến thức kỹ thuật để có được kết quả hữu ích không?
Có thể truy cập qua các quy trình làm việc. Cài đặt hỗ trợ Node.js hoặc Bun trên các nền tảng máy tính để bàn phổ biến, và một lệnh cài đặt MCP, gno mcp install, liên kết ngữ cảnh cục bộ với các khách hàng AI như Claude Desktop và Cursor. Nó cung cấp sức mạnh CLI cho việc lập chỉ mục theo kịch bản cùng với giao diện web cho các tìm kiếm ngẫu nhiên, vì vậy cả quy trình làm việc theo kịch bản và tương tác đều được hỗ trợ. Tất cả việc lập chỉ mục, nhúng và tìm kiếm diễn ra trên phần cứng của người dùng, vì vậy dữ liệu vẫn ở trên đĩa và hoạt động ngoại tuyến là có thể sau khi tải xuống các mô hình ban đầu.
gno là một lựa chọn truy xuất thực tiễn trên thiết bị cho những người dùng chú trọng đến quyền riêng tư
gno là một lựa chọn thực tế cho các nhà phát triển và nhà nghiên cứu cần ngữ cảnh địa phương có sẵn cho các quy trình làm việc hỗ trợ bởi tác nhân. Mong đợi một bước thiết lập ban đầu để tải xuống các mô hình địa phương và phân bổ không gian đĩa cho các chỉ mục; lên kế hoạch để xác minh các câu trả lời do tác nhân sản xuất trong các tình huống quan trọng. Đối xử với công cụ như một xương sống truy xuất trong một vòng lặp đánh giá giữa con người và tác nhân thay vì như một nguồn duy nhất của các sự kiện đã được xác minh.
