Đang tải bảng tin…
XDA Developers0 Hot0 bình luận3 phút đọc
Gemma 4 E4B is small enough to run anywhere, but powerful enough to handle typical LLM workloads
Gemma 4 E4B is a small LLM that can run on low-powered hardware including a Raspberry Pi 5 (8GB), generating tokens at 2.95–3.25 t/s on the SBC and 30–40 t/s on a GTX 1080. It supports audio and vision capabilities and handles everyday productivity tasks, self-hosted FOSS tool integration, and basic code troubleshooting well. However, it falls short on complex reasoning tasks like Docker MCP tool calling or generating Ansible Playbooks, where larger 26B–35B MoE models remain superior. The author plans to deploy it on an older GPU-equipped laptop via LXC GPU passthrough.
Nguồn: https://www.xda-developers.com/gemma-4-e4b-is-small-enough-to-run-anywhere. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
Hugging Face45 Hot11 phútAI
Why Specialization Is Inevitable
AI chuyên biệt không phải là lựa chọn mà là xu hướng tất yếu do ba nguyên lý: định lý No Free Lunch (không thuật toán tổng quát nào vượt trội trên mọi bài toán), sinh học tiến hóa (chuyên gia cạnh tranh hiệu quả hơn đa năng dưới áp lực tài nguyên), và thị trường cạnh tranh (tập trung chiến lược ưu việt hơn phân tán). Các bằng chứng từ machine learning (negative transfer, mixture-of-experts, AlphaFold) và sự phân biệt giữa domain knowledge (thay thế bởi scaling) với domain specialization (không bị loại bỏ) càng củng cố kết luận: khi nguồn lực hữu hạn và áp lực chọn lọc, sự phù hợp luôn thắng thế so với sự đa dạng.
Lập trình viên nên đọc bài này để hiểu cách AI và hệ thống máy học tự động hóa và tối ưu hóa thành công thông qua chuyên môn hóa chứ không phải sự đa dạng rộng rãi.
