Đang tải bảng tin…
InfoWorld00 bình luận6 phút đọc
Using Visual Studio Code’s ‘air-gapped’ AI model mode
Tóm tắt bởi AI
VS Code 1.122 bổ sung chế độ BYOK cho phép dùng LLM cục bộ hoặc nhà cung cấp bên thứ ba (như LM Studio) cho chat, tools và MCP servers mà không cần đăng nhập GitHub. Người dùng chỉ có thể sử dụng các model có VRAM 8GB (Gemma4 2B, Qwen3.5 9B, Codestral 22B) cho chat và tác vụ tiện ích, chứ không hỗ trợ inline code completions hay gợi ý chỉnh sửa. Muốn khắc phục hạn chế này, người dùng phải cài extension của bên thứ ba như Continue.
Vì sao nên đọc: Lập trình viên muốn tự chủ về dữ liệu và tránh phụ thuộc vào cloud AI mà không cần phụ thuộc vào các dịch vụ bên ngoài như GitHub, nên tìm hiểu cách sử dụng BYOK mode trong VS Code để tích hợp các mô hình AI cá nhân hóa, đặc biệt khi công nghệ này hỗ trợ chat, công cụ và MCP mà không cần đăng nhập.
Nguồn: https://www.infoworld.com/article/4186817/using-visual-studio-codes-air-gapped-ai-model-mode.html. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
Weaviate18 phútAI
Weaviate 1.38 Release
Weaviate 1.38 ra mắt với các tính năng mới như HFresh (chỉ số vector dựa trên đĩa, tối ưu bộ nhớ cho streaming) và MCP Server tích hợp cho phép LLMs tương tác trực tiếp. Bản cập nhật cũng bổ sung async replication mặc định, Boost API (tái xếp hạng truy vấn), nested object filtering, cùng nhiều cải tiến khác như quản lý replica, cấu hình chỉ số vector, và module text2vec-digitalocean.
Lập trình viên phát triển ứng dụng AI hoặc hệ thống vector search cần đọc để cập nhật về MCP Server và Boost API, giúp tối ưu hóa giao tiếp trực tiếp giữa LLM với cơ sở dữ liệu vector và cải thiện hiệu suất tìm kiếm bằng cách xếp hạng kết quả một cách linh hoạt mà không mất bất kỳ dữ liệu nào.
