Micron is putting $10bn into a Boise research lab on a ten-year horizon. Its CEO says AI changed what memory is worth. Its shares fell 29% in July.
Nguồn: https://thenextweb.com/news/micron-research-labs-10bn-boise-memory-ai. 8 Sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Công việc xây dựng một tác nhân AI không chỉ dừng lại tại việc huấn luyện một mô hình ngôn ngữ tiên tiến mà còn phụ thuộc vào hệ thống bao quanh – thường được gọi là harness – để cung cấp bối cảnh, bộ nhớ và khả năng sử dụng công cụ. NVIDIA đã phát triển kiến trúc AVO, tích hợp một harness tổng quát với khả năng lập kế hoạch dài hạn và tương tác với môi trường, cho phép mô hình ngôn ngữ hoạt động như một trung tâm quyết định trong một vòng khép kín. Khi được đánh giá trên bộ benchmark ARC-AGI-3, AVO đạt điểm 100%, vượt qua tất cả các tác vụ suy luận trừu tượng và dài hạn mà các mô hình ngôn ngữ đơn thuần thường thất bại. Kết quả này chứng minh rằng một kiến trúc tổng quát ở mức frontier có thể hỗ trợ các tác nhân tự chủ hoạt động liên tục qua nhiều bước mà không cần can thiệp con người. Bài học chính là: để đạt hiệu suất cao nhất trong các tác nhân tự chủ, đầu tư vào thiết kế harness và cơ chế tương tác môi trường là quan trọng không kém việc mở rộng kích thước mô hình.
Đang tải bình luận…
Bài viết này tiết lộ cách NVIDIA đạt được 100% hiệu suất trong hệ thống agent tổng quát, mở ra hướng phát triển AI tự chủ với tầm nhìn dài hạn.
Bài giới thiệu một mô hình neural GI nhẹ dựa trên attention, tái tạo illumination gián tiếp ngoài màn hình bằng reflective shadow maps, có khả năng khái quát hóa cho các cảnh không thấy trong quá trình training.
Bài này giúp lập trình viên tạo hiệu ứng chiếu sáng gián tiếp chất lượng cao với chi phí tính toán tối ưu.
Etched huy động thành công 700 triệu USD với định giá 21 tỷ USD do Jane Street dẫn đầu, chỉ 26 ngày sau vòng gọi vốn trước, và vừa giao lô rack đầu tiên cho nhà đầu tư.
Một lập trình viên nên đọc bài này để hiểu cách các công ty AI/ML hiện đại như Etched xây dựng mô hình kinh doanh dựa trên sự hợp tác chặt chẽ giữa kỹ thuật và đầu tư chiến lược, từ đó tìm hiểu cách tối ưu hóa quy trình phát triển sản phẩm và nguồn vốn cho dự án của riêng mình.
Nvidia giới hạn tính năng Multi-Frame Generation 6x cho dòng RTX 50-series, nhưng tác giả đã tìm cách kích hoạt nó trên card đồ họa RTX 40-series.
Lập trình viên nên đọc bài này để khám phá cách khai thác và tối ưu hóa tính năng Multi-Frame Generation trên GPU RTX 40-series thông qua các giải pháp công nghệ mở rộng, giúp phát triển phần mềm hiệu quả hơn với các ứng dụng AI/phát triển game.
Bài viết hướng dẫn cách mở rộng (scale) quá trình suy luận (inference) của mô hình ngôn ngữ lớn (LLM) cho các tác nhân AI (AI agents) bằng thư viện vLLM, đồng thời giải thích cơ chế hoạt động của LLM inference và thách thức trong việc lập lịch GPU khi xử lý khối lượng công việc của agent.
Làm việc với các ứng dụng AI agent đòi hỏi phải tối ưu hóa hiệu suất và chi phí sử dụng GPU, và bài này cung cấp cách hiệu quả sử dụng vLLM để xử lý các yêu cầu inference lớn, giúp bạn tiết kiệm thời gian và nguồn lực khi phát triển hệ thống AI quy mô lớn.
Tôi từng học sơ lược về RISC và CISC ở đại học nhưng giờ hầu như quên hết.
Nếu bạn đang phát triển ứng dụng AI hoặc xử lý dữ liệu lớn, hiểu rõ sự khác biệt giữa kiến trúc RISC và CISC sẽ giúp bạn tối ưu hiệu suất và lựa chọn thiết bị (TPU, GPU, CPU) phù hợp với công việc của mình.
Một kỹ sư phần mềm trình độ con người chạy trên chip H100 tương đương có thể khiến chi phí thuê chip này tăng vọt lên hơn 250.000 USD/năm, gấp 15 lần giá spot hiện tại.
Lập trình viên nên đọc bài này để hiểu về sự gia tăng đáng kể chi phí tính toán trong tương lai, giúp họ dự đoán và chuẩn bị cho những thay đổi về chi phí, hiệu suất và chiến lược phát triển phần mềm trong công việc.
Agentic AI thúc đẩy sự trở lại mạnh mẽ của CPU, giảm độ trễ và tăng nhu cầu khi doanh nghiệp chạy đua tránh bottleneck trên cloud.
Lập trình viên nên đọc bài này để hiểu cách AI agentic có thể tối ưu hóa hiệu suất CPU thông qua kiến trúc mới, giúp phát triển phần mềm hiệu quả hơn trong môi trường đám mây căng thẳng, từ đó tiết kiệm chi phí và cải thiện hiệu suất ứng dụng.
Đọc tin ở đây, luyện code, học theo lộ trình và luyện IELTS trên các sản phẩm anh em — tất cả kết nối với nhau trong hệ sinh thái 8 Sync.
Cổng chính của hệ sinh thái: giới thiệu sản phẩm, blog và bảng giá trọn bộ.
Khám pháHọc theo lộ trình rõ từng chặng: video, quiz chấm tự động, certificate và mentor đang làm nghề.
Xem lộ trình1.000+ bài DSA, đề tiếng Việt, chấm tự động 7 ngôn ngữ — nhiều bài FREE, chạy ngay trên trình duyệt.
Luyện miễn phíChấm bốn kỹ năng IELTS bằng AI, phản hồi chi tiết theo rubric.
Dùng thử miễn phíAI IDE 22 MB cho dev Việt.
Tải miễn phíBộ nhớ tổ chức cho AI agent.
Khám pháAI trực Fanpage, tự sàng lọc lead.
Dùng thử