Perplexity has announced it will run its AI agent workloads on Nvidia's new Vera CPU, an Arm-based general-purpose server chip that is Nvidia's bid to expand beyond GPU accelerators. Perplexity's VP of enterprise infrastructure reported Vera ran agentic coding tasks roughly 1.5x faster than traditional CPUs, citing strong single-threaded performance as a key fit for inference pipelines. Nvidia expects around $20bn in Vera CPU revenue this fiscal year, targeting a $200bn general-purpose computing market currently dominated by Intel and AMD. The move is partly defensive — several major Nvidia customers are building their own AI chips — and Vera lets Nvidia sell more of every rack regardless. Perplexity, handling over 400 million search queries monthly, sees faster CPUs as a way to reduce cost-per-query and fund agentic features without ballooning infrastructure spend.
Nguồn: https://thenextweb.com/news/perplexity-nvidia-vera-cpu. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Bài viết cho rằng ngành AI đang là một bong bóng không bền vững, dựa trên tài trợ vòng tròn, quảng cáo thổi phồng và nhu cầu ảo. Tác giả lập luận rằng AI tạo sinh khác biệt hoàn toàn so với bong bóng Dot Com vì GPU không có giá trị tồn dư, nhu cầu LLM chủ yếu được tạo ra và trợ cấp, trong khi OpenAI/Anthropic đang tiêu tốn hàng trăm tỷ USD mà không có lộ trình sinh lời.
Những lập trình viên muốn tránh rơi vào "sự mê hoặc của công nghệ" và hiểu rõ về rủi ro tài chính, kỹ thuật cũng như thực tế thị trường khi xây dựng dự án AI lớn nên đọc bài này để tránh đầu tư vào những "bong bóng" không có cơ sở thực tế.
Snowflake cho phép doanh nghiệp nhập các mô hình AI tùy chỉnh hoặc mã nguồn mở từ Hugging Face thông qua tính năng BYOM, sử dụng trực tiếp qua hàm SQL AI_COMPLETE hoặc REST API. Tính năng này hỗ trợ linh hoạt cho các workload chuyên ngành, quản trị dữ liệu tốt hơn và chi phí hạ tầng GPU dự đoán được, hiện đang trong giai đoạn Private Preview.
Lập trình viên AI nên đọc bài này để khám phá cách tích hợp các mô hình AI cá nhân hoặc mở nguồn từ Hugging Face vào Snowflake một cách dễ dàng, giúp tối ưu hóa hiệu suất và quản lý chi phí cho các dự án chuyên sâu mà không cần thay đổi kiến trúc ứng dụng.
Khi chi phí suy luận AI giảm gần bằng không, các nhà nghiên cứu Berkeley đề xuất hệ thống dữ liệu phải thay đổi theo ba hướng: (1) tối ưu hóa truy vấn đa tác nhân, xử lý xấp xỉ và điều phối chủ động cho hàng nghìn truy vấn đồng thời; (2) xây dựng hạ tầng mới cho các nhóm tác nhân quản lý trạng thái chia sẻ, bộ nhớ có cấu trúc, chỉnh sửa đồng thời và phục hồi lỗi; (3) cho phép tác nhân tự động tạo hệ thống dữ liệu tùy chỉnh (OLAP, key-value) nhưng thách thức chính là xác minh tính đúng đắn khi thông số kỹ thuật không đầy đủ.
Lập trình viên nên đọc bài này để khám phá cách các hệ thống dữ liệu phải thích nghi với sự phát triển nhanh chóng của các hệ thống agent, từ cơ sở hạ tầng cho đến việc tự động hóa thiết kế hệ thống thông minh bằng AI gần miễn phí.
Phân tích chi phí sơ lược cho thấy suy luận (inference) AI thực sự sinh lời, với chi phí ước tính khoảng 1 USD cho mỗi triệu token đầu ra, thấp hơn nhiều so với mức giá 4,5 USD trở lên của các nhà cung cấp như OpenAI, qua đó đạt biên lợi nhuận gộp 70–80%. Suy luận AI có lợi nhuận, nhưng các phòng thí nghiệm AI như OpenAI và Anthropic sử dụng khoản lợi nhuận này để bù đắp chi phí đào tạo mô hình tốn kém.
Là người phát triển muốn tối ưu chi phí cho ứng dụng AI của mình, bài viết này giúp bạn hiểu rõ về lợi nhuận thực tế của quá trình inference AI, từ đó có thể xây dựng mô hình kinh doanh hiệu quả và tránh bỏ lỡ cơ hội tiết kiệm chi phí mà không phụ thuộc vào sự hỗ trợ từ các công ty lớn.
OpenAI và Broadcom hợp tác phát triển chip AI tùy chỉnh Jalapeño nhằm cạnh tranh với Nvidia Blackwell và Google TPU, nhắm vào workloads inference. Chip này đã được thử nghiệm với mô hình GPT-5.3-Codex-Spark và dự kiến triển khai vào cuối năm 2025, trong khi tình trạng thiếu hụt HBM đang ảnh hưởng đến biên lợi nhuận của Broadcom.
Lập trình viên nên đọc bài này để hiểu cách các công ty lớn như OpenAI và Broadcom hợp tác phát triển chip AI chuyên dụng, giúp tối ưu hóa hiệu suất cho các mô hình lớn như GPT-5.3, ảnh hưởng trực tiếp đến hiệu năng và chi phí của các ứng dụng AI trong tương lai.
Giá DDR2 tăng 55-60% trong Q2/2026 do thiếu hụt DRAM trầm trọng khi các nhà sản xuất chuyển sản lượng wafer sang sản xuất HBM cho AI, dự báo tiếp tục tăng 35-40% trong Q3. Các hãng phần cứng buộc phải hạ cấp từ DDR4 xuống DDR3, rồi DDR3 xuống DDR2 để đảm bảo nguồn cung, ảnh hưởng đến hệ thống nhúng, thiết bị công nghiệp và mạng. Nguồn cung DDR2 không thể cải thiện trước năm 2027-2028 khi các nhà máy mới của SK Hynix và Micron đi vào hoạt động.
Lập trình viên nên đọc bài này vì nó giúp bạn hiểu rõ về những thách thức về nguồn cung cấp bộ nhớ DDR2, ảnh hưởng đến thiết kế phần cứng cho các ứng dụng embedded và hệ thống AI, từ đó có thể tối ưu hóa kiến trúc phần mềm và dự đoán chi phí phát triển sản phẩm trong tương lai.
Trong tuần ngắn trước Ngày Độc lập, cổ phiếu chip AI mất 12% trong hai phiên giao dịch liên tiếp do báo cáo về việc SK Hynix chậm mở rộng sản xuất HBM và báo cáo việc làm yếu. Nhà đầu tư chuyển hướng sang các công ty phần mềm doanh nghiệp như ServiceNow, Snowflake và Palantir, kỳ vọng doanh thu thực tế từ AI.
Lập trình viên nên đọc bài này để hiểu rõ cách thị trường chuyển hướng từ các công ty vật lý AI (chip, bộ nhớ) sang phần mềm AI, giúp xác định những cơ hội mới trong ngành công nghệ và dự đoán xu hướng đầu tư thực sự có lợi cho tương lai.
DSpark là framework giải mã speculative mới của DeepSeek, cải thiện hiệu suất inference LLM tới 60–85% trên DeepSeek-V4 mà không cần thay đổi model. Nó khắc phục hai nhược điểm chính của các phương pháp hiện tại: drafters autoregressive chậm và suffix decay ở drafters song song, bằng cách kết hợp semi-autoregressive generation và confidence-scheduled verification. DeepSeek cũng giới thiệu DeepSpec, framework mã nguồn mở cho speculative decoding.
Nếu bạn đang tìm cách tối ưu hóa hiệu suất xử lý ngôn ngữ tự nhiên cho ứng dụng AI của mình mà không cần thay đổi mô hình, DSpark sẽ là giải pháp mới nhất giúp bạn tiết kiệm thời gian và chi phí đáng kể.