qMLX: Maximising my AI psychosis by minmaxing my Mac Studio

I gave a local LLM full control over my Proxmox node, and it worked better than I expected

Một thí nghiệm kết nối LLM cục bộ (Qwen3.6-35B-A3B) với node ảo hóa Proxmox thông qua harness Pi mà không có rào cản quyền hạn đã cho phép LLM tự động xây dựng tiện ích mở rộng Proxmox và quản lý hiệu quả tài nguyên, LXC/VM, snapshot cùng cấp phát VM, mặc dù vẫn gặp hạn chế trong cấu hình đa node và thực thi lệnh bên trong LXC.

Nếu bạn đang tìm kiếm cách tự động hóa quản lý hệ thống virtualization một cách sáng tạo và an toàn, bài viết này sẽ cho bạn thấy cách một mô hình ngôn ngữ lớn (LLM) có thể mở rộng khả năng của Proxmox thông qua các plugin tự động hóa, từ việc theo dõi tài nguyên đến tạo VM, nhưng cũng cảnh báo về những rủi ro cần kiểm soát khi cho nó quyền tự chủ.

Using Local Coding Agents

Hướng dẫn chi tiết cách thiết lập một hệ thống coding agent hoàn toàn cục bộ bằng các mô hình ngôn ngữ mã nguồn mở (LLM) như Qwen3.6 35B-A3B thông qua Ollama, thay thế các dịch vụ độc quyền như Claude Code hay Codex. Bài viết bao gồm kết nối với ba harness (Qwen-Code, Codex CLI, Claude Code), đánh giá hiệu suất, kiểm tra bảo mật, cấu hình quyền riêng tư, so sánh token usage, thiết lập SSH tunnel giữa máy Mac và DGX Spark, cùng kết quả benchmark cho thấy Qwen3.6 và North Mini Code vượt trội hơn Gemma 4 E2B trong các tác vụ sử dụng công cụ.

Nếu bạn muốn tự chủ hóa công cụ AI hỗ trợ lập trình, tránh phụ thuộc vào các dịch vụ cloud đắt tiền và có rủi ro về quyền riêng tư, bài hướng dẫn này sẽ giúp bạn xây dựng một hệ sinh thái mã nguồn mở hoàn toàn trên máy tính cá nhân của mình, tối ưu hóa hiệu suất và bảo mật.

Top 5 Chinese LLMs Compared: Technical Innovation and Strategic Advantages

A comparison of the top 5 Chinese large language models: DeepSeek R1, Alibaba Qwen3, Baidu Ernie Bot, Huawei PanGu, and Zhipu ChatGLM-4.5. DeepSeek R1 uses a 671B MoE architecture activating only 37B parameters, matching GPT-4 performance at 27x lower cost. Qwen3 runs on consumer hardware with a hybrid thinking mode. Ernie Bot leads on multimodal and Chinese-language benchmarks with 300M users. PanGu offers modular, industry-specific architectures for vision, weather, and scientific computing. ChatGLM-4.5 is agent-native with a 90.6% tool-calling success rate. The overarching theme is that Chinese models are delivering competitive or superior performance at dramatically lower prices, reshaping global AI economics.

I tested Gemma 4, Qwen 3.5, and Ministral 3 for vision tasks, and only one understood the assignment

A hands-on comparison of three local vision-capable models — Gemma 4 E4B, Qwen 3.5 9B, and Ministral 3 3B — tested on identical tasks: a Docker error screenshot, a busy UI with a counting task, and a low-quality photo of a medicine bottle. Qwen 3.5 9B came out clearly ahead, correctly reading fine print, counting models, identifying active ingredients, and even suggesting UI interactions. Gemma 4 E4B handled simpler tasks but got lossy on busy screens. Ministral 3 3B performed well on the debugging screenshot but hallucinated on more complex visual tasks. The takeaway: vision capability varies significantly among local models, and only Qwen 3.5 9B consistently understood what it was looking at.

I run a 24GB GPU instead of paying for Claude or Codex, and Qwen 3.6 keeps up more than I expected

Running Qwen 3.6 27B locally on an RTX 5090 as an alternative to paid cloud LLM subscriptions like Claude or Codex. The author compares Qwen 3.6 27B against Claude Opus 4.8 on coding tasks including bug detection and CSV parsing, finding the local model competitive for most everyday use cases. Key motivations include avoiding per-token billing changes, data privacy, and freedom to choose any harness tool. The main tradeoff is inference speed — local hardware is slower than cloud APIs.

Setting Up Your Own Large Language Model

A practical guide to running Qwen3 8B locally on a MacBook Air M4 using Ollama. Covers installation without Homebrew, PATH setup, starting the server, pulling the model, and three interaction modes: interactive chat, one-shot terminal commands, and HTTP API via Python. Also covers disabling chain-of-thought thinking tokens, a privacy caveat about Ollama's web search feature, and integrating the local model with VS Code via the Continue.dev extension for offline coding assistance.

Viability of local models for coding

A Thoughtworks technologist shares hands-on experience running local LLMs for agentic coding over four weeks on Apple Silicon hardware (M3 Max 48GB and M5 Pro 64GB). The post systematically covers the key factors affecting viability: RAM constraints, processing power, memory bandwidth, parameter count, reasoning capabilities, tool calling reliability, model format (GGUF vs MLX), quantization levels, MoE vs dense architecture, context window size, runtime choice (LM Studio), and harness compatibility (OpenCode, Pi, Claude Code). Key findings include: Qwen3.6 35B MoE offers the best balance of capability and RAM footprint; reasoning mode can actually hurt performance for smaller models; tool calling remains unreliable but models often self-correct; and the overall experience is still too messy for plug-and-play developer use. A follow-up memo covering specific task results is promised.