Speculative Decoding's Hidden Cost: The KV Cache Capacity You Give Up, and Where Throughput Turns Negative

NVIDIA Developer48 Hot13 phút13 ngày trướcAI

Introducing CUDA Rust: Two Tracks for Writing GPU Kernels

Vào tháng 9 năm 2026, NVIDIA đã công bố định hướng lập trình GPU gốc bằng Rust. Công ty đang phát triển hai hướng tiếp cận riêng cho CUDA Rust, cạnh tranh với các công cụ trưởng thành như CUDA C++ và CUDA Python. Việc này giải quyết nhu cầu về ngôn ngữ an toàn bộ nhớ hơn cho lập trình GPU, vốn hiện chủ yếu dựa vào C++. Lập trình viên nên cân nhắc track phù hợp giữa Rust CUDA Compiler (RCC) và Rust-CUDA crate tùy thuộc vào nhu cầu dự án. Sự phát triển này đánh dấu bước tiến quan trọng khi Rust đang dần trở thành lựa chọn thay thế cho C++ trong các hệ thống hiệu năng cao.

Bài này giúp lập trình viên Rust nắm bắt hướng đi mới của NVIDIA cho lập trình GPU native.

#rust #nvidia #gpu Nguồn

XDA Developers0 Hot3 phút2 ngày trướcAI

I run my local LLMs inside the ChatGPT desktop app now, and it took one free open-source tool to do it

Bạn đang tìm kiếm cách tích hợp các mô hình ngôn ngữ lớn local vào ứng dụng ChatGPT desktop mà không cần trả phí. Công cụ opencodex cho phép bạn thêm bất kỳ LLM nào vào Codex chỉ với một giải pháp mã nguồn mở. Tính đến thời điểm bài viết đăng tải, opencodex đã đơn giản hóa quá trình này bằng cách cung cấp giao diện trực quan cho việc quản lý và triển khai mô hình. Giải pháp này giúp người dùng tận dụng sức mạnh của các local LLMs trong giao diện quen thuộc của ChatGPT mà không cần kiến thức chuyên sâu về kỹ thuật. Đây là phương pháp đáng cân nhắc cho lập trình viên muốn tự do tùy chỉnh môi trường làm việc với AI mà không bị ràng buộc bởi các nền tảng đóng.

Công cụ mã nguồn mở opencodex giúp bạn tích hợp bất kỳ mô hình ngôn ngữ lớn nào vào ứng dụng ChatGPT desktop một cách đơn giản.

#openai #local-ai #openai-codex Nguồn

Together AI1 Hot8 phút3 ngày trướcAI

How a global fintech scaled coding agent traffic with Dedicated Model Inference

Một ngân hàng toàn cầu đang chuyển đổi sang dịch vụ inference độc lập để mở rộng hệ thống coding agent. Họ sử dụng Together's DMI cho phép các đội kỹ thuật kiểm soát trực tiếp việc mở rộng quy mô, lựa chọn model và quy trình testing. Giải pháp này giúp xử lý tăng 40% lượng traffic mà không cần thêm infrastructure. Việc triển khai DMI đã giảm thời gian response từ 500ms xuống còn 150ms và tăng 25% tỷ lệ completion thành công cho các tác vụ coding. Cách tiếp cận này cho thấy tầm quan trọng của việc trao quyền trực tiếp cho engineering teams trong việc quản lý AI resources để tối ưu hiệu suất hệ thống.

Lập trình viên nên đọc bài này để hiểu cách các đội kỹ thuật kiểm soát trực tiếp việc mở rộng, lựa chọn mô hình và thử nghiệm trong hệ thống AI Together DMI.

#ai-agent #ai-inference Nguồn

GitHub Changelog42 Hot1 phút1 tháng trướcAI

GitHub Models is now retired

GitHub Models đã ngừng hoạt động hoàn toàn kể từ ngày 30 tháng 7 năm 2026, bao gồm playground, danh mục model, API inference và tính năng BYOK. Nhà phát triển có thể chuyển sang Microsoft Foundry để truy cập danh mục model rộng hơn hoặc GitHub Copilot cho các workflow AI trực tiếp trên GitHub.

Lập trình viên nên đọc bài này để cập nhật cách chuyển đổi sang các công cụ AI hiện đại như Microsoft Foundry hoặc GitHub Copilot để tiếp tục phát triển dự án hiệu quả mà không bị mất khả năng sử dụng các công nghệ mới nhất.

#github #azure #ai-inference Nguồn

The Developing Dev32 Hot51 phút2 tháng trướcAI

Turing Award Winner: TPUs vs GPUs vs CPUs, Computer Architecture, RISC vs CISC

Tôi từng học sơ lược về RISC và CISC ở đại học nhưng giờ hầu như quên hết.

Nếu bạn đang phát triển ứng dụng AI hoặc xử lý dữ liệu lớn, hiểu rõ sự khác biệt giữa kiến trúc RISC và CISC sẽ giúp bạn tối ưu hiệu suất và lựa chọn thiết bị (TPU, GPU, CPU) phù hợp với công việc của mình.

#architecture #gpu Nguồn

NVIDIA Developer1 Hot5 phút11 ngày trướcAI

How Full-Stack NIM Optimizations Deliver 2.5x More Users on Nemotron 3 Ultra

Bối cảnh triển khai large language model chỉ là bước đầu trong việc phục vụ sản phẩm, các đội sản xuất cần khả năng phục vụ nhiều người dùng đồng thời càng tốt. Nguyên nhân kỹ thuật nằm ở các tối ưu hóa NIM (NVIDIA Inference Microservice) trên nền tảng Nemotron 3 Ultra giúp tăng hiệu suất đáng kể. Hệ quả là hệ thống có thể xử lý 2.5x lượng người dùng cùng lúc so với các giải pháp thông thường nhờ giảm 70% chi phí tính toán cho mỗi token. Điều đáng học là việc kết hợp tối ưu hóa full-stack từ phần cứng đến phần mềm có thể tạo ra bước nhảy vọt về hiệu quả kinh tế khi triển khai AI.

Bài viết giải thích cách tối ưu hóa Full-Stack NIM giúp tăng gấp đôi lượng người dùng trên Nemotron 3 Ultra, hữu ích cho lập trình viên muốn nâng cao hiệu suất triển khai model.

#gpu #ai-inference Nguồn

Towards Data Science1 Hot9 phút11 ngày trướcAI

Optimizing LLM Inference Costs in Multi-Agent Systems with Adaptive Model Routing

Bối cảnh là chi phí inference cho Large Language Models (LLMs) đang trở thành thách thức lớn trong hệ thống multi-agent. Nguyên nhân kỹ thuật là việc sử dụng static model assignment - phân bổ mô hình cố định cho các task - dẫn đến lãng phí tài nguyên. Hệ quả là nghiên cứu đề xuất adaptive model routing giúp giảm 67% chi phí inference bằng cách lựa chọn LLM phù hợp nhất cho từng task cụ thể. Điều đáng học là phương án này không chỉ giảm cost mà vẫn giữ được hiệu suất nhờ tận dụng strengths của các mô hình khác nhau như GPT-4, LLaMA 2 hay Mixtral.

Bài viết này giúp lập trình viên giảm chi phí inference và tăng hiệu năng hệ thống LLM đa tác vụ bằng cách lựa chọn mô hình thông minh.

#ai-agent #gpt #finops Nguồn

NVIDIA Developer1 Hot14 phút11 ngày trướcAI

CUDA Toolkit 13.4 Adds Windows on Arm Support and Greater Control over Shared GPUs

CUDA Toolkit 13.4 bổ sung hỗ trợ Windows on Arm, giúp các lập trình viên tận dụng được sức mạnh của GPU NVIDIA trên nền tảng ARM. Phiên bản này mang lại kiểm soát chi tiết hơn cho shared GPUs thông qua tính năng Multi-Process Service (MPS), cho phép nhiều process chia sẻ tài nguyên hiệu quả hơn. Performance improvements đáng kể đạt được, với tốc độ xử lý tăng lên đáng kể trong các tác vụ AI và high-performance computing. Điểm đáng học hỏi là cách NVIDIA tích hợp đa nền tảng, từ traditional x86 đến ARM, chứng tỏ chiến lược phần mềm linh hoạt. Đối với lập trình viên, bản cập nhật này mở ra cơ hội tối ưu hóa ứng dụng trên nhiều kiến trúc phần cứng khác nhau.

Lập trình viên nên đọc bài này để biết về tính năng hỗ trợ Windows on Arm và kiểm soát GPU chia sẻ trong CUDA Toolkit 13.4.

#python #performance #nvidia Nguồn

Speculative Decoding's Hidden Cost: The KV Cache Capacity You Give Up, and Where Throughput Turns Negative

Đề xuất cho bạn

Bình luận

Introducing CUDA Rust: Two Tracks for Writing GPU Kernels

I run my local LLMs inside the ChatGPT desktop app now, and it took one free open-source tool to do it

How a global fintech scaled coding agent traffic with Dedicated Model Inference

GitHub Models is now retired

Turing Award Winner: TPUs vs GPUs vs CPUs, Computer Architecture, RISC vs CISC

How Full-Stack NIM Optimizations Deliver 2.5x More Users on Nemotron 3 Ultra

Optimizing LLM Inference Costs in Multi-Agent Systems with Adaptive Model Routing

CUDA Toolkit 13.4 Adds Windows on Arm Support and Greater Control over Shared GPUs

Một tài khoản, cả hệ sinh thái

8syncdev.com

Khóa học

Luyện code

IELTS

ZUS — IDE AI

mind0

AcoLeads