AI hardware demand keeps Asia’s factories humming as the Iran war bites

AI inference is obviously profitable

Phân tích chi phí sơ lược cho thấy suy luận (inference) AI thực sự sinh lời, với chi phí ước tính khoảng 1 USD cho mỗi triệu token đầu ra, thấp hơn nhiều so với mức giá 4,5 USD trở lên của các nhà cung cấp như OpenAI, qua đó đạt biên lợi nhuận gộp 70–80%. Suy luận AI có lợi nhuận, nhưng các phòng thí nghiệm AI như OpenAI và Anthropic sử dụng khoản lợi nhuận này để bù đắp chi phí đào tạo mô hình tốn kém.

Là người phát triển muốn tối ưu chi phí cho ứng dụng AI của mình, bài viết này giúp bạn hiểu rõ về lợi nhuận thực tế của quá trình inference AI, từ đó có thể xây dựng mô hình kinh doanh hiệu quả và tránh bỏ lỡ cơ hội tiết kiệm chi phí mà không phụ thuộc vào sự hỗ trợ từ các công ty lớn.

OpenAI and Broadcom build a chip to rival Nvidia’s Blackwell

OpenAI và Broadcom hợp tác phát triển chip AI tùy chỉnh Jalapeño nhằm cạnh tranh với Nvidia Blackwell và Google TPU, nhắm vào workloads inference. Chip này đã được thử nghiệm với mô hình GPT-5.3-Codex-Spark và dự kiến triển khai vào cuối năm 2025, trong khi tình trạng thiếu hụt HBM đang ảnh hưởng đến biên lợi nhuận của Broadcom.

Lập trình viên nên đọc bài này để hiểu cách các công ty lớn như OpenAI và Broadcom hợp tác phát triển chip AI chuyên dụng, giúp tối ưu hóa hiệu suất cho các mô hình lớn như GPT-5.3, ảnh hưởng trực tiếp đến hiệu năng và chi phí của các ứng dụng AI trong tương lai.

The AI memory crisis just hit DDR2, a standard from 2003, with 60% price hikes

Giá DDR2 tăng 55-60% trong Q2/2026 do thiếu hụt DRAM trầm trọng khi các nhà sản xuất chuyển sản lượng wafer sang sản xuất HBM cho AI, dự báo tiếp tục tăng 35-40% trong Q3. Các hãng phần cứng buộc phải hạ cấp từ DDR4 xuống DDR3, rồi DDR3 xuống DDR2 để đảm bảo nguồn cung, ảnh hưởng đến hệ thống nhúng, thiết bị công nghiệp và mạng. Nguồn cung DDR2 không thể cải thiện trước năm 2027-2028 khi các nhà máy mới của SK Hynix và Micron đi vào hoạt động.

Lập trình viên nên đọc bài này vì nó giúp bạn hiểu rõ về những thách thức về nguồn cung cấp bộ nhớ DDR2, ảnh hưởng đến thiết kế phần cứng cho các ứng dụng embedded và hệ thống AI, từ đó có thể tối ưu hóa kiến trúc phần mềm và dự đoán chi phí phát triển sản phẩm trong tương lai.

Qt Canvas Painter: Accelerated performance using paths

Qt Canvas Painter giới thiệu QCanvasPath và nhóm path nhằm tối ưu hiệu suất render 2D, tiết kiệm ~60% bộ nhớ nhờ định dạng SoA thân thiện cache, hỗ trợ tái sử dụng giữa các frame và tương thích API với QCanvasPainter. Nhóm path cho phép GPU lưu trữ đỉnh (vertex) tĩnh, giúp xử lý biến đổi, màu sắc hay gradient mà không cần cập nhật buffer, đồng thời chứng minh khả năng render tiến triển 60fps trên thiết bị nhúng với tải CPU/GPU thấp hơn. Tính năng này sẽ trở thành module chính thức trong Qt 6.12.

Lập trình viên muốn tối ưu hiệu suất rendering 2D trên Qt nên đọc bài này để khám phá cách sử dụng QCanvasPath và path groups để giảm chi phí CPU/GPU, giảm bộ nhớ và cải thiện trải nghiệm 60FPS trên thiết bị embedded.

iPhone 18 secrets spill onto the dark web

A ransomware group has leaked sensitive Apple iPhone 18 Pro files on the dark web after stealing data from Tata Electronics, Apple's Indian manufacturing partner. The leaked files include component lists, supplier mappings, and drop-test photos of unreleased iPhone 18 Pro models marked 'confidential.' The breach exposes Apple's supplier relationships and bargaining vulnerabilities, coming at a sensitive time as India now accounts for 26% of global iPhone production and Apple is expected to raise iPhone prices. Tata has restricted internal system access and hired a forensic auditor in response.

Linux 7.2 Features: Cache Aware Scheduling, USB4STREAM, AMD ISP4, AMDGPU HDMI 2.1 FRL

Linux 7.2 is on track for an August release with over 43 million lines of code. Key highlights include Cache Aware Scheduling for improved task placement on modern Intel/AMD CPUs with multiple last-level cache domains, USB4STREAM enabling data transfers between systems over USB4/Thunderbolt, initial Apple M3 boot support on mainline (not yet practical), the long-awaited AMD ISP4 camera driver enabling webcams on HP ZBook Ultra G1a and future AMD Ryzen laptops, and initial AMDGPU HDMI 2.1 FRL support. Performance improvements include a 30–100% MGLRU throughput boost for MongoDB, faster poll performance, localhost networking speed-ups, 444% faster /proc/filesystems reads, improved anonymous pipe performance, and significantly lower container exit latency. Graphics updates cover new AMDGPU DC power module, Intel Crescent Island preparations, and Nouveau support for NVIDIA GA100. RISC-V gains reduced kernel startup overhead, and Intel TDX now supports live security updates without reboots.

Best GPU Optimization Tools for Kubernetes and AI Workloads (2026)

GPU utilization in production Kubernetes clusters averages just 5%, yet GPU costs are rising. This deep-dive covers the four main GPU cost leaks (idle nodes, oversized allocation, serial workloads, on-demand-only usage) and maps specific tools to each fix. The GPU Cost Optimization Loop (Measure → Allocate → Share → Automate) requires NVIDIA DCGM Exporter for observability, GPU Operator with MIG and time-slicing for partitioning and sharing, Karpenter for node lifecycle automation, and Cast AI as an orchestration layer tying everything together. Detailed YAML configs are provided for Karpenter NodePools, time-slicing ConfigMaps, and GPU pod specs. The post also compares optimization strategies for inference vs. training workloads, covering Spot instance savings (60–91% on AWS), MIG partition profiles for A100/H100, and network fabric requirements for multi-node distributed training.