Đang tải bảng tin…
NVIDIA0 Hot0 bình luận7 phút đọc
AI Innovators Adopt NVIDIA Vera — Why Max Single-Threaded CPU at Scale Matters
NVIDIA introduces a new CPU category called 'max single-threaded CPUs at scale,' exemplified by the NVIDIA Vera CPU, designed specifically for agentic AI workloads. Unlike traditional data center CPUs that prioritize core count and cost efficiency, Vera focuses on per-core performance, delivering 50% higher IPC than NVIDIA Grace via its custom Olympus core, 1.2TB/s LPDDR5X memory bandwidth, and 3.4TB/s core-to-core bandwidth on a monolithic die. In real-world agentic workloads, Vera achieves 1.8x sustained per-core performance over x86, with Perplexity reporting 1.5x faster coding workflow completion and up to 1.9x faster concurrent sandbox startup. Partners also measured 3x faster SQL analytics with Starburst and 6x lower latency with Redpanda. NVIDIA also announced the next-generation Rosa CPU featuring the Rigel core (Arm v9.2), promising higher per-core performance than Olympus in the same silicon footprint.
Nguồn: https://blogs.nvidia.com/blog/nvidia-vera-max-single-threaded-cpu-at-scale. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
InfoWorld1 Hot5 phútAI
Zscaler finds autonomous agents succumb to IPI traps
Zscaler phát hiện 26 LLMs, bao gồm Llama và Gemini, dễ bị tấn công IPI (indirect prompt injection) khi các tác nhân AI tự động mắc bẫy từ nội dung web độc hại mà con người dễ nhận ra. Bốn mô hình bị xếp vào nhóm dễ bị tấn công, trong khi ba mô hình an toàn, do kiến trúc transformer không thể tách biệt nội dung web không tin cậy khỏi hướng dẫn tin cậy. Nguy cơ lớn nhất nằm ở các quy trình doanh nghiệp tự động hóa, như thanh toán hay mua sắm, nơi tấn công có thể gây thiệt hại tài chính nghiêm trọng.
Lập trình viên cần đọc bài này để hiểu cách bảo mật AI hiện nay bị lỗ hổng trong việc phân biệt nội dung web không đáng tin cậy với các lệnh thực thi, đặc biệt khi các mô hình lớn như Llama và Gemini dễ bị tấn công trong môi trường doanh nghiệp, đòi hỏi kiến thức về các rủi ro mới trong hệ sinh thái AI.
