Amazon SageMaker AI now supports serverless model customization for NVIDIA Nemotron 3.5 Lightning

Amazon SageMaker AI mới đây đã tích hợp tính năng serverless model customization cho NVIDIA Nemotron 3.5 Lightning. Phát triển này cho phép nhà phát triển triển khai các mô hình lớn mà không cần quản lý hạ tầng server, giảm thiểu chi vận hành và tối ưu hóa hiệu suất. Việc hỗ trợ NVIDIA Nemotron 3.5 Lightning mang lại khả năng xử lý các mô hình lên đến 70 tỷ parameter với độ trễ thấp. Đây là bước tiến quan trọng trong việc making AI more accessible cho các doanh nghiệp vừa và nhỏ. Nếu bạn đang làm việc với Large Language Models, tính năng này đáng để xem xét cho các dự án cần khả năng mở rộng linh hoạt.