Đang tải bảng tin…
The New Stack0 Hot0 bình luận4 phút đọc
Nvidia launches a smaller, faster Nemotron model and a router to put it to work
Nvidia's new 30B open model is built for speed and post-training, while NeMo Switchyard routes AI agent workloads to the right model at each step.
Nguồn: https://thenewstack.io/nvidia-nemotron-lightning-switchyard. 8 Sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
Hugging Face1 Hot8 phútAI
Thinking of ACE? We Can Do It with Fewer Tokens
Bài blog của IBM Research trên Hugging Face giới thiệu phương pháp ACE (Automatic Circuit Extraction) giúp tối ưu hóa mô hình ngôn ngữ lớn (LLM) bằng cách giảm số lượng token cần thiết, từ đó nâng cao hiệu quả xử lý.
Lập trình viên AI nên đọc bài này để khám phá cách tối ưu hóa hiệu suất mô hình ngôn ngữ lớn bằng cách giảm số token sử dụng, giúp tiết kiệm chi phí và tăng hiệu quả trong việc triển khai ứng dụng AI trên thiết bị có hạn chế tài nguyên.
