South Korean startup FuriosaAI has deployed its RNGD AI accelerators at Equinix's LS2 datacentre in Lisbon, marking its first entry into the European market. The RNGD chip uses a 5nm Tensor Contraction Processor design, delivering 512 teraFLOPS of FP8 compute within a 180W thermal envelope — roughly one-third the power draw of Nvidia's nearest comparable card. Eight units form a 3kW air-cooled server that fits standard racks without liquid cooling. The European push targets enterprises seeking efficient, locally sourced AI compute amid rising energy costs and growing desire to reduce dependence on American silicon. FuriosaAI, which has raised over $250M, is also developing a third-generation chip with Broadcom targeting trillion-parameter models using HBM4 memory.
Nguồn: https://thenextweb.com/news/furiosaai-rngd-europe-equinix-lisbon. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Snowflake cho phép doanh nghiệp nhập các mô hình AI tùy chỉnh hoặc mã nguồn mở từ Hugging Face thông qua tính năng BYOM, sử dụng trực tiếp qua hàm SQL AI_COMPLETE hoặc REST API. Tính năng này hỗ trợ linh hoạt cho các workload chuyên ngành, quản trị dữ liệu tốt hơn và chi phí hạ tầng GPU dự đoán được, hiện đang trong giai đoạn Private Preview.
Lập trình viên AI nên đọc bài này để khám phá cách tích hợp các mô hình AI cá nhân hoặc mở nguồn từ Hugging Face vào Snowflake một cách dễ dàng, giúp tối ưu hóa hiệu suất và quản lý chi phí cho các dự án chuyên sâu mà không cần thay đổi kiến trúc ứng dụng.
Khi chi phí suy luận AI giảm gần bằng không, các nhà nghiên cứu Berkeley đề xuất hệ thống dữ liệu phải thay đổi theo ba hướng: (1) tối ưu hóa truy vấn đa tác nhân, xử lý xấp xỉ và điều phối chủ động cho hàng nghìn truy vấn đồng thời; (2) xây dựng hạ tầng mới cho các nhóm tác nhân quản lý trạng thái chia sẻ, bộ nhớ có cấu trúc, chỉnh sửa đồng thời và phục hồi lỗi; (3) cho phép tác nhân tự động tạo hệ thống dữ liệu tùy chỉnh (OLAP, key-value) nhưng thách thức chính là xác minh tính đúng đắn khi thông số kỹ thuật không đầy đủ.
Lập trình viên nên đọc bài này để khám phá cách các hệ thống dữ liệu phải thích nghi với sự phát triển nhanh chóng của các hệ thống agent, từ cơ sở hạ tầng cho đến việc tự động hóa thiết kế hệ thống thông minh bằng AI gần miễn phí.
Phân tích chi phí sơ lược cho thấy suy luận (inference) AI thực sự sinh lời, với chi phí ước tính khoảng 1 USD cho mỗi triệu token đầu ra, thấp hơn nhiều so với mức giá 4,5 USD trở lên của các nhà cung cấp như OpenAI, qua đó đạt biên lợi nhuận gộp 70–80%. Suy luận AI có lợi nhuận, nhưng các phòng thí nghiệm AI như OpenAI và Anthropic sử dụng khoản lợi nhuận này để bù đắp chi phí đào tạo mô hình tốn kém.
Là người phát triển muốn tối ưu chi phí cho ứng dụng AI của mình, bài viết này giúp bạn hiểu rõ về lợi nhuận thực tế của quá trình inference AI, từ đó có thể xây dựng mô hình kinh doanh hiệu quả và tránh bỏ lỡ cơ hội tiết kiệm chi phí mà không phụ thuộc vào sự hỗ trợ từ các công ty lớn.
OpenAI và Broadcom hợp tác phát triển chip AI tùy chỉnh Jalapeño nhằm cạnh tranh với Nvidia Blackwell và Google TPU, nhắm vào workloads inference. Chip này đã được thử nghiệm với mô hình GPT-5.3-Codex-Spark và dự kiến triển khai vào cuối năm 2025, trong khi tình trạng thiếu hụt HBM đang ảnh hưởng đến biên lợi nhuận của Broadcom.
Lập trình viên nên đọc bài này để hiểu cách các công ty lớn như OpenAI và Broadcom hợp tác phát triển chip AI chuyên dụng, giúp tối ưu hóa hiệu suất cho các mô hình lớn như GPT-5.3, ảnh hưởng trực tiếp đến hiệu năng và chi phí của các ứng dụng AI trong tương lai.
Trong tuần ngắn trước Ngày Độc lập, cổ phiếu chip AI mất 12% trong hai phiên giao dịch liên tiếp do báo cáo về việc SK Hynix chậm mở rộng sản xuất HBM và báo cáo việc làm yếu. Nhà đầu tư chuyển hướng sang các công ty phần mềm doanh nghiệp như ServiceNow, Snowflake và Palantir, kỳ vọng doanh thu thực tế từ AI.
Lập trình viên nên đọc bài này để hiểu rõ cách thị trường chuyển hướng từ các công ty vật lý AI (chip, bộ nhớ) sang phần mềm AI, giúp xác định những cơ hội mới trong ngành công nghệ và dự đoán xu hướng đầu tư thực sự có lợi cho tương lai.
DSpark là framework giải mã speculative mới của DeepSeek, cải thiện hiệu suất inference LLM tới 60–85% trên DeepSeek-V4 mà không cần thay đổi model. Nó khắc phục hai nhược điểm chính của các phương pháp hiện tại: drafters autoregressive chậm và suffix decay ở drafters song song, bằng cách kết hợp semi-autoregressive generation và confidence-scheduled verification. DeepSeek cũng giới thiệu DeepSpec, framework mã nguồn mở cho speculative decoding.
Nếu bạn đang tìm cách tối ưu hóa hiệu suất xử lý ngôn ngữ tự nhiên cho ứng dụng AI của mình mà không cần thay đổi mô hình, DSpark sẽ là giải pháp mới nhất giúp bạn tiết kiệm thời gian và chi phí đáng kể.
Giá DDR2 tăng 55-60% trong Q2/2026 do thiếu hụt DRAM trầm trọng khi các nhà sản xuất chuyển sản lượng wafer sang sản xuất HBM cho AI, dự báo tiếp tục tăng 35-40% trong Q3. Các hãng phần cứng buộc phải hạ cấp từ DDR4 xuống DDR3, rồi DDR3 xuống DDR2 để đảm bảo nguồn cung, ảnh hưởng đến hệ thống nhúng, thiết bị công nghiệp và mạng. Nguồn cung DDR2 không thể cải thiện trước năm 2027-2028 khi các nhà máy mới của SK Hynix và Micron đi vào hoạt động.
Lập trình viên nên đọc bài này vì nó giúp bạn hiểu rõ về những thách thức về nguồn cung cấp bộ nhớ DDR2, ảnh hưởng đến thiết kế phần cứng cho các ứng dụng embedded và hệ thống AI, từ đó có thể tối ưu hóa kiến trúc phần mềm và dự đoán chi phí phát triển sản phẩm trong tương lai.
Các nhà lãnh đạo từ Workato, Hippocratic AI và ISMG chia sẻ kinh nghiệm vận hành khối lượng lớn suy luận AI trong sản xuất, nhấn mạnh: hiệu suất suy giảm nhanh khi AI dùng trên 50 công cụ; độ trễ P99 gây nguy hiểm cho bệnh nhân trong ứng dụng giọng nói lâm sàng; AI không nên có quyền admin mà hoạt động như ủy quyền theo thời gian cho từng hành động; trì hoãn cấu trúc dữ liệu và quy trình trước khi áp dụng AI khiến doanh nghiệp tụt hậu 2 năm về mô hình vận hành. Nhóm thống nhất rằng mở rộng suy luận AI là vấn đề cơ sở hạ tầng và quản trị, không phải mô hình.
Những kinh nghiệm thực tế từ các đội phát triển AI ở quy mô lớn sẽ giúp bạn tránh những sai lầm gây tốn kém về thời gian và chi phí khi thiết kế hệ thống inference, từ đó tối ưu hóa hiệu suất và an toàn ngay từ giai đoạn xây dựng.