Đang tải bảng tin…
Google Developers0 Hot0 bình luận5 phút đọc
LiteRT.js, Google's high performance Web AI Inference
Google has announced LiteRT.js, a JavaScript binding of its LiteRT on-device inference library that enables running ML models directly in the browser. It supports hardware acceleration via WebGPU, XNNPACK (CPU), and WebNN (NPU), delivering up to 3x speedups over existing web runtimes like TensorFlow.js and 5-60x gains when using GPU/NPU over CPU. The library supports .tflite models, PyTorch model conversion via LiteRT Torch, and tailored quantization through AI Edge Quantizer. An npm package is available, and Ultralytics has integrated official LiteRT export support for YOLO models. Use cases include object detection, depth estimation, image upscaling, and audio processing entirely client-side with no server costs.
Nguồn: https://developers.googleblog.com/litertjs-googles-high-performance-web-ai-inference. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
Google Cloud1 Hot13 phútAI
AlphaEvolve is available for everyone
AlphaEvolve, công cụ tối ưu hóa thuật toán của Google dựa trên mô hình Gemini, đã chính thức ra mắt trên nền tảng Gemini Enterprise Agent. Sử dụng kỹ thuật tìm kiếm tiến hóa (evolutionary search), nó giúp cải thiện hiệu suất trong logistics, thiết kế chip, tài chính và các lĩnh vực khác, với những báo cáo thành công như tăng 80% dự báo chuỗi cung ứng (BASF) hay giảm 90% thời gian chạy (Kinaxis).
Là người viết code cho các vấn đề phức tạp, bạn nên đọc để khám phá cách evolutionary search có thể tự động tối ưu hóa thuật toán của mình từ seed ban đầu, giúp tiết kiệm thời gian và công sức trong việc phát triển giải pháp hiệu quả hơn.
