6 local LLMs I've used that prove they're not just smaller versions of cloud models

A hands-on exploration of six local LLMs that take genuinely novel architectural approaches rather than simply being smaller cloud models. Covered models include Zaya1-8B (Compressed Convolutional Attention with 8x KV-cache compression), VibeThinker-3B (verifiable reasoning packed into a tiny model), DeepSeek V4 Flash (284B MoE running on 128GB unified memory), Qwen 3.6 (Gated DeltaNet linear attention with fixed-size recurrent state), DiffusionGemma (discrete text diffusion generating whole blocks in parallel), and Gemma 4 E2B/E4B (multimodal on-device models with audio support running on a phone). Each model is tested personally, with performance numbers, hardware requirements, and architectural trade-offs discussed in detail.

Nguồn: https://www.xda-developers.com/local-llms-used-prove-not-just-smaller-versions-cloud-models. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.

Đề xuất cho bạn

sean goedecke2 Hot9 phút7 giờ trướcAI

In defense of not understanding your codebase

Bài viết bảo vệ quan điểm làm việc với hiểu biết không đầy đủ về codebase trong hệ thống phần mềm lớn, phản bác luận điểm "Lập trình như xây dựng lý thuyết" của Peter Naur khi cho rằng việc xây dựng lại toàn bộ hệ thống khi kiến thức nhóm bị mất là không khả thi ở quy mô lớn. Các kỹ sư hiện đại phải đưa ra quyết định tự tin dù hiểu biết không hoàn chỉnh, đồng thời xem "duy trì lý thuyết về codebase" chỉ là một giá trị kỹ thuật trong số nhiều giá trị khác.

Những lập trình viên làm việc trong hệ thống lớn sẽ hiểu rằng không thể duy trì sự hiểu toàn bộ mã nguồn từ đầu, nhưng vẫn cần làm việc hiệu quả khi thiếu kiến thức chi tiết—điều này giúp họ tránh rơi vào rắc rối khi phải "xóa và viết lại" mã như một số quan điểm cổ điển đề xuất.