Meta is on track to begin production of its latest AI-specific chips in September, according to an internal memo. The chips, developed under Meta's MTIA program in partnership with Broadcom and manufactured by TSMC, passed testing in about six weeks. Meta is taking a modular chiplet approach to keep pace with rapidly evolving AI workloads. The chips will be used for training ranking and recommendation models, broader AI workloads, and inference. This is part of Meta's broader strategy to reduce dependence on Nvidia and AMD GPUs, as the company plans to spend $125–145 billion in capital expenditures this year. Meta also has deals with ARM, AMD, and Amazon for compute. Other AI companies including OpenAI, Anthropic, Amazon, and Google are similarly developing custom chips to reduce reliance on Nvidia.
Nguồn: https://techcrunch.com/2026/07/09/metas-new-ai-chips-will-begin-production-in-september. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Bolt Graphics ra mắt GPU Zeus dành cho kiến trúc sư, game thủ, nghệ sĩ và nhà nghiên cứu, hứa hẹn hiệu năng render/simulate nhanh hơn, tiết kiệm điện hơn, hỗ trợ real-time path tracing, photorealistic rendering, giảm thời gian render phim/TV cùng khả năng mô phỏng vật lý cho HPC.
Lập trình viên chuyên về đồ họa và AI nên đọc bài này để khám phá cách GPU mới như Zeus có thể tối ưu hóa các công cụ rendering và simulation cho các ứng dụng như ray tracing, vật lý và HPC, giúp phát triển các giải pháp hiệu quả hơn cho các dự án tương tác và thực tế ảo.
Bài viết cho rằng ngành AI đang là một bong bóng không bền vững, dựa trên tài trợ vòng tròn, quảng cáo thổi phồng và nhu cầu ảo. Tác giả lập luận rằng AI tạo sinh khác biệt hoàn toàn so với bong bóng Dot Com vì GPU không có giá trị tồn dư, nhu cầu LLM chủ yếu được tạo ra và trợ cấp, trong khi OpenAI/Anthropic đang tiêu tốn hàng trăm tỷ USD mà không có lộ trình sinh lời.
Những lập trình viên muốn tránh rơi vào "sự mê hoặc của công nghệ" và hiểu rõ về rủi ro tài chính, kỹ thuật cũng như thực tế thị trường khi xây dựng dự án AI lớn nên đọc bài này để tránh đầu tư vào những "bong bóng" không có cơ sở thực tế.
Hiện nay, các mô hình AI tiên tiến bị hạn chế chủ yếu bởi băng thông bộ nhớ (memory bandwidth) chứ không phải tốc độ tính toán, khi dữ liệu di chuyển giữa bộ nhớ và bộ xử lý trở thành rào cản hiệu suất chính. Các giải pháp đang được nghiên cứu bao gồm cải tiến kiến trúc bộ nhớ, tính toán gần bộ nhớ, nén mô hình và sử dụng kết nối quang học.
Lập trình viên AI nên đọc bài này để hiểu cách tối ưu hóa hiệu suất hệ thống bằng kiến thức về giới hạn băng thông bộ nhớ—chìa khóa quyết định tốc độ xử lý mô hình lớn trong cả giai đoạn huấn luyện và dự đoán.
Phân tích chi phí sơ lược cho thấy suy luận (inference) AI thực sự sinh lời, với chi phí ước tính khoảng 1 USD cho mỗi triệu token đầu ra, thấp hơn nhiều so với mức giá 4,5 USD trở lên của các nhà cung cấp như OpenAI, qua đó đạt biên lợi nhuận gộp 70–80%. Suy luận AI có lợi nhuận, nhưng các phòng thí nghiệm AI như OpenAI và Anthropic sử dụng khoản lợi nhuận này để bù đắp chi phí đào tạo mô hình tốn kém.
Là người phát triển muốn tối ưu chi phí cho ứng dụng AI của mình, bài viết này giúp bạn hiểu rõ về lợi nhuận thực tế của quá trình inference AI, từ đó có thể xây dựng mô hình kinh doanh hiệu quả và tránh bỏ lỡ cơ hội tiết kiệm chi phí mà không phụ thuộc vào sự hỗ trợ từ các công ty lớn.
OpenAI và Broadcom hợp tác phát triển chip AI tùy chỉnh Jalapeño nhằm cạnh tranh với Nvidia Blackwell và Google TPU, nhắm vào workloads inference. Chip này đã được thử nghiệm với mô hình GPT-5.3-Codex-Spark và dự kiến triển khai vào cuối năm 2025, trong khi tình trạng thiếu hụt HBM đang ảnh hưởng đến biên lợi nhuận của Broadcom.
Lập trình viên nên đọc bài này để hiểu cách các công ty lớn như OpenAI và Broadcom hợp tác phát triển chip AI chuyên dụng, giúp tối ưu hóa hiệu suất cho các mô hình lớn như GPT-5.3, ảnh hưởng trực tiếp đến hiệu năng và chi phí của các ứng dụng AI trong tương lai.
Giá DDR2 tăng 55-60% trong Q2/2026 do thiếu hụt DRAM trầm trọng khi các nhà sản xuất chuyển sản lượng wafer sang sản xuất HBM cho AI, dự báo tiếp tục tăng 35-40% trong Q3. Các hãng phần cứng buộc phải hạ cấp từ DDR4 xuống DDR3, rồi DDR3 xuống DDR2 để đảm bảo nguồn cung, ảnh hưởng đến hệ thống nhúng, thiết bị công nghiệp và mạng. Nguồn cung DDR2 không thể cải thiện trước năm 2027-2028 khi các nhà máy mới của SK Hynix và Micron đi vào hoạt động.
Lập trình viên nên đọc bài này vì nó giúp bạn hiểu rõ về những thách thức về nguồn cung cấp bộ nhớ DDR2, ảnh hưởng đến thiết kế phần cứng cho các ứng dụng embedded và hệ thống AI, từ đó có thể tối ưu hóa kiến trúc phần mềm và dự đoán chi phí phát triển sản phẩm trong tương lai.
Trong tuần ngắn trước Ngày Độc lập, cổ phiếu chip AI mất 12% trong hai phiên giao dịch liên tiếp do báo cáo về việc SK Hynix chậm mở rộng sản xuất HBM và báo cáo việc làm yếu. Nhà đầu tư chuyển hướng sang các công ty phần mềm doanh nghiệp như ServiceNow, Snowflake và Palantir, kỳ vọng doanh thu thực tế từ AI.
Lập trình viên nên đọc bài này để hiểu rõ cách thị trường chuyển hướng từ các công ty vật lý AI (chip, bộ nhớ) sang phần mềm AI, giúp xác định những cơ hội mới trong ngành công nghệ và dự đoán xu hướng đầu tư thực sự có lợi cho tương lai.
NVIDIA BioNeMo Agent Toolkit tích hợp các khả năng khoa học GPU-accelerated (như NVIDIA Parabricks, RAPIDS-singlecell, nvMolKit) vào Claude Science, cho phép các nhà nghiên cứu mô tả nhiệm vụ bằng ngôn ngữ tự nhiên (như dự đoán cấu trúc protein) để AI orchestrate thực hiện. Toolkit này là mã nguồn mở, framework-agnostic, có sẵn trên GitHub, trong khi Claude Science đang trong giai đoạn public beta.
Lập trình viên chuyên về AI sinh học nên đọc để khám phá cách tích hợp công nghệ GPU cao cấp của NVIDIA vào các pipeline nghiên cứu sinh học sinh thái, giúp tối ưu hóa hiệu suất và mở rộng khả năng tự động hóa cho các dự án liên quan đến gen, phân tử và dữ liệu sinh học thông minh.