Run a vLLM Server on HF Jobs in One Command

The AI memory crisis just hit DDR2, a standard from 2003, with 60% price hikes

Giá DDR2 tăng 55-60% trong Q2/2026 do thiếu hụt DRAM trầm trọng khi các nhà sản xuất chuyển sản lượng wafer sang sản xuất HBM cho AI, dự báo tiếp tục tăng 35-40% trong Q3. Các hãng phần cứng buộc phải hạ cấp từ DDR4 xuống DDR3, rồi DDR3 xuống DDR2 để đảm bảo nguồn cung, ảnh hưởng đến hệ thống nhúng, thiết bị công nghiệp và mạng. Nguồn cung DDR2 không thể cải thiện trước năm 2027-2028 khi các nhà máy mới của SK Hynix và Micron đi vào hoạt động.

Lập trình viên nên đọc bài này vì nó giúp bạn hiểu rõ về những thách thức về nguồn cung cấp bộ nhớ DDR2, ảnh hưởng đến thiết kế phần cứng cho các ứng dụng embedded và hệ thống AI, từ đó có thể tối ưu hóa kiến trúc phần mềm và dự đoán chi phí phát triển sản phẩm trong tương lai.

Qt Canvas Painter: Accelerated performance using paths

Qt Canvas Painter giới thiệu QCanvasPath và nhóm path nhằm tối ưu hiệu suất render 2D, tiết kiệm ~60% bộ nhớ nhờ định dạng SoA thân thiện cache, hỗ trợ tái sử dụng giữa các frame và tương thích API với QCanvasPainter. Nhóm path cho phép GPU lưu trữ đỉnh (vertex) tĩnh, giúp xử lý biến đổi, màu sắc hay gradient mà không cần cập nhật buffer, đồng thời chứng minh khả năng render tiến triển 60fps trên thiết bị nhúng với tải CPU/GPU thấp hơn. Tính năng này sẽ trở thành module chính thức trong Qt 6.12.

Lập trình viên muốn tối ưu hiệu suất rendering 2D trên Qt nên đọc bài này để khám phá cách sử dụng QCanvasPath và path groups để giảm chi phí CPU/GPU, giảm bộ nhớ và cải thiện trải nghiệm 60FPS trên thiết bị embedded.

What's New in WebGPU (Chrome 149-150)

Chrome 149-150 bổ sung hai tính năng WebGPU quan trọng: Immediates (push constants/root constants) cho phép truyền dữ liệu nhỏ, thay đổi thường xuyên trực tiếp vào shader qua WGSL <immediate> và API setImmediates(), tối ưu hiệu suất bằng cách bỏ qua tạo buffer GPU. Đồng thời, quy tắc validation chặt chẽ hơn với transient attachments, yêu cầu viewFormats rỗng khi tạo texture tạm thời và hạn chế thay đổi usage flags trong createView().

Lập trình viên nên đọc bài này để cập nhật cách tối ưu hóa hiệu suất rendering bằng Immediates trong WebGPU, giúp giảm chi phí CPU-GPU và xử lý dữ liệu thay đổi thường xuyên trên mỗi vẽ hình, đồng thời nắm rõ các quy tắc mới về transient attachments để tránh lỗi và bảo đảm tính ổn định trong ứng dụng.

AMD Contributes ONNX Runtime Backend To FFmpeg DNN Filter

An AMD engineer has contributed an ONNX Runtime backend to FFmpeg's DNN (Deep Neural Network) processing filter. The addition enables inferencing across multiple GPU and NPU platforms, including NVIDIA CUDA, Windows DirectML for all major GPU vendors, and AMD Ryzen AI NPU support via the ONNX Runtime VitisAI execution provider. This marks AMD's effort to make the Ryzen AI NPU useful within FFmpeg workflows.

Sail raises $80M to make AI agents cheaper to run

Sail Research has raised $80M in combined seed and Series A funding at a $450M valuation to reduce the cost of running long-horizon AI agents. Founded by ex-Apple and ex-NVIDIA engineers, the company claims its inference engine delivers up to 10x lower cost per token than rivals by optimizing for throughput rather than latency. Sail also offers 'Sailboxes,' sandboxed environments that only charge for active agent compute time. The startup topped the BrowseComp-Plus benchmark at 90.72% accuracy and already has paying customers. The round was led by Sequoia and Kleiner Perkins, with notable angels from Anthropic, OpenAI, and Alphabet.

The Download: Europe’s heat wave hits the grid, and IBM’s chip targets Moore’s Law

MIT Technology Review's daily briefing covers several major stories: IBM has unveiled a prototype chip with ~100 billion transistors on a fingernail-sized area, doubling transistor density from 2021 and potentially extending Moore's Law by building transistors upward rather than shrinking them. Europe is experiencing a record heat wave straining power grids, with some plants offline during historically planned maintenance windows. Anthropic has accused Alibaba of illicitly extracting Claude's capabilities via model distillation, calling it the largest known distillation attack. OpenAI and Broadcom revealed their first jointly designed AI chip called Jalapeño. Additional items cover the EU joining a US pact against Chinese AI, data center-driven inflation in memory chips, and companies struggling to control AI token spending costs.

SageMaker Notebook Instances now support G6e instance types

AWS announces general availability of Amazon EC2 G6e instances on SageMaker notebook instances. Powered by up to 8 NVIDIA L40S Tensor Core GPUs with 48 GB memory per GPU and AMD EPYC processors, G6e instances offer up to 2.5x better performance than G5 instances. They support interactive model training use cases including generative AI fine-tuning and deployment of LLMs with up to 13B parameters, as well as diffusion models for image, video, and audio generation. Available in multiple AWS regions including US East, US West, Asia Pacific, Middle East, and Europe.