Đang tải bảng tin…
XDA Developers0 Hot0 bình luận4 phút đọc
My mini PC can fit larger models than my old gaming card, but it still loses on one key metric
Tóm tắt bởi AI
Trong khi MoE models cho phép tận dụng VRAM hiệu quả hơn, bài viết chỉ ra rằng mini PC với GPU Intel Arc A380 8GB xử lý được model lớn hơn 6.7B parameters so với card gaming cũ của tác giả. Tuy nhiên, về latency, Intel Arc A380 vẫn thua kém các gaming card cao cấp tới 3-4 lần do hạn chế về bandwidth. Điều này cho thấy lựa chọn hardware cần cân nhắc giữa capacity và performance. Bài viết cung cấp số liệu cụ thể về throughput và latency khi inference các MoE models trên cả hai hệ thống, giúp người đọc hiểu rõ trade-off khi chọn mini PC thay cho gaming PC.
AI có thể tóm tắt sai. Đọc bài gốc trước khi dựa vào thông tin quan trọng.
Vì sao nên đọc: Bài này giúp bạn hiểu sự đánh đổi giữa VRAM và hiệu năng khi chạy mô hình MoE trên mini PC so với card game.
Bạn nhớ được gì?
Trả lời 3 câu hỏi ngắn để nhận điểm thưởng cho bài này. Chỉ làm khi bạn muốn lấy điểm.
tối đa +17 điểm
3 câu hỏi · dưới một phút · không bắt buộc
Nguồn: https://www.xda-developers.com/my-mini-pc-can-fit-larger-models-than-my-old-gaming-card-but-it-still-loses-on-one-key-metric. 8 Sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Hệ sinh thái 8 Sync
Một tài khoản, cả hệ sinh thái
Đọc tin ở đây, luyện code, học theo lộ trình và luyện IELTS trên các sản phẩm anh em — tất cả kết nối với nhau trong hệ sinh thái 8 Sync.
8syncdev.com
8syncdev.comCổng chính của hệ sinh thái: giới thiệu sản phẩm, blog và bảng giá trọn bộ.
Khám pháKhóa học
course.8syncdev.comHọc theo lộ trình rõ từng chặng: video, quiz chấm tự động, certificate và mentor đang làm nghề.
Xem lộ trìnhLuyện code
coding.8syncdev.com1.000 bài DSA, đề tiếng Việt, chấm tự động 7 ngôn ngữ — nhiều bài FREE, chạy ngay trên trình duyệt.
Luyện miễn phíIELTS
ielts.8syncdev.comChấm bốn kỹ năng IELTS bằng AI, phản hồi chi tiết theo rubric.
Dùng thử miễn phíZUS — IDE AI
zus.8syncdev.comAI IDE 22 MB cho dev Việt.
Tải miễn phímind0
mind0.8syncdev.comBộ nhớ tổ chức cho AI agent.
Khám pháAcoLeads
home-acoleads.8syncdev.comAI trực Fanpage, tự sàng lọc lead.
Dùng thửĐề xuất cho bạn
XDA Developers1 Hot3 phút
Undervolting my Ryzen 7 5800X3D taught me that lower voltage doesn't have to mean lower performance
Turns out, it isn't just about lowering temperatures.
Hacker News1 Hot5 phút
Quasi-Logarithmic Kitchen Timer
Like some of you, we have several kitchen appliances with integrated digital timers.
Hackaday1 Hot2 phút
Saving A Vintage High-Voltage Power Supply From The Scrap Heap
A Fluke Model 407 high-voltage power supply gets rescued from the scrap heap and diagnosed on video. Mr Carlson powers it up safely using an isolated transformer and a current-limited variac, avoiding the risk of full power on old components. The vacuum-tube-and-circuit-board unit shows no visible damage but its output misbehaves. Using the original schematics, he traces the fault to a single faulty capacitor in the feedback loop that keeps output voltage constant.
Daily Dose of Data Science | Avi Chawla | Substack50 Hot8 phút
7 MoE routing strategies in production, clearly explained
+ a practical learning checklist to learn AI engineering.
XDA Developers3 Hot4 phút
I replaced Gemini and ChatGPT on my phone with my gaming PC’s 26B model, and the app that does it is free
Farewell, bloated AI apps!
Flavio Copes132 Hot6 phút
How to run an LLM locally
Run an LLM locally with Ollama. See how much memory you need, where LM Studio and llama.cpp fit, and how to call the model from code.
XDA Developers77 Hot3 phút
I put a local AI model on a bootable USB, so I can troubleshoot a dead PC with a chatbot that doesn't need the internet
My rescue USB now also helps me make sense of disk errors.
XDA Developers1 Hot4 phút
The PlayStation 3 briefly made buying a console a way to buy a Linux computer
It was a little too good at what it did, though.
Bình luận
Đang tải bình luận…