Microsoft's new Intelligent Terminal isn't locked to Copilot, and I got it running with a local LLM in five minutes

I tried PewDiePie's open-source AI workspace, and it's weirdly great

PewDiePie giới thiệu Odysseus, một workspace AI mã nguồn mở tự lưu trữ, tích hợp chat, agent tự động, nghiên cứu sâu, so sánh model, quản lý email, ghi chú, lịch, tác vụ và cả trình chỉnh sửa ảnh trong một dashboard Docker duy nhất. Người dùng có thể kết nối với các model cục bộ qua Ollama, llama.cpp, LM Studio hoặc vLLM, đồng thời tùy chọn sử dụng API đám mây. Quá trình cài đặt nhanh chóng chỉ mất khoảng 4 phút bằng cách clone repo và chạy docker compose, tạo nên một bộ công cụ năng suất AI toàn diện vượt xa giao diện chat thông thường.

Là lập trình viên muốn tự host và tối ưu hóa công cụ AI cá nhân mà không phụ thuộc vào các nền tảng bên ngoài, Odysseus sẽ giúp bạn tiết kiệm thời gian và chi phí trong việc tích hợp các tính năng từ chatbot đến xử lý tự động, đồng thời tiết lộ cách xây dựng một hệ sinh thái AI mạnh mẽ với Docker.

My 7-year-old GPU runs local AI perfectly, and I don't need my cloud subscriptions anymore

Các mô hình MoE và kỹ thuật lượng tử hóa (quantization) cho phép chạy AI cục bộ trên GPU cũ 8GB VRAM như RTX 2070 Super, thay thế được các gói cloud nhờ các model như Qwen3-Coder 8B hay Gemma 4 E4B. Các công cụ như Ollama (dòng lệnh) hay LM Studio (GUI) giúp triển khai dễ dàng, nhưng cần lưu ý tốc độ sinh token, kích thước cửa sổ ngữ cảnh và hỗ trợ tool calling.

Nếu bạn đang tìm cách tiết kiệm chi phí và tăng hiệu suất cho các ứng dụng AI hàng ngày mà vẫn giữ được chất lượng cao, thì bài viết này sẽ cho bạn cách tối ưu hóa mô hình AI với GPU cũ và công nghệ MoE/quantization để làm việc hiệu quả mà không cần phụ thuộc vào cloud.

I dumped 650K DNS records into Gemma, and it found patterns my dashboard completely missed

Một người dùng mạng gia đình đã đưa hơn 650.000 bản ghi DNS từ Pi-hole và AdGuard Home vào Gemma 4 (chạy cục bộ qua Ollama) để phát hiện các mẫu dữ liệu mà các bảng điều khiển thông thường bỏ sót. Do dung lượng dữ liệu quá lớn (khoảng 12 triệu tokens vượt quá giới hạn 128K của mô hình), tác giả đã tiền xử lý dữ liệu thành định dạng JSON có cấu trúc bằng PapaParse, sau đó gửi tới Gemma qua proxy Python và dashboard React/FastAPI. Mô hình đã tự động nhóm các tên miền Amazon vào thiết bị Fire TV, phát hiện hoạt động tăng đột biến từ 4–7 giờ sáng do Nextcloud đồng bộ, và cảnh báo các thiết bị ngủ vẫn liên tục kết nối — những điều mà các bảng điều khiển Pi-hole/AdGuard tiêu chuẩn không thể hiện.

Lập trình viên nên đọc bài này để hiểu cách kết hợp kỹ thuật tự động hóa dữ liệu (như PapaParse) và mô hình AI nhỏ (Gemma) để phát hiện pattern tiềm năng mà các công cụ giám sát truyền thống không thể khám phá được thông qua cách xử lý dữ liệu hiệu quả.

I used an old SSD as scratch storage, and it saved my main drive from abuse

Sử dụng SSD cũ làm ổ đĩa tạm (scratch disk) có thể giảm thiểu hao mòn cho SSD chính khi chạy các mô hình AI cục bộ như Ollama nhờ việc chuyển thư mục model và pagefile sang ổ phụ. Chiến lược này cũng hữu ích cho cache trình duyệt, shader hay tệp tạm của Adobe, đặc biệt hiệu quả trên hệ thống có RAM hạn chế.

Lập trình viên nên đọc bài này để khám phá cách tối ưu hóa hiệu suất hệ thống và bảo vệ bộ nhớ chính bằng cách sử dụng một SSD cũ như bộ nhớ scratch, giúp giảm thiểu wear-out cho SSD chính và cải thiện trải nghiệm khi làm việc với các ứng dụng yêu cầu nhiều write heavy.

FOSS Weekly #26.27: Dev Mode in KDE Linux, Local AI, De-Google Android, Free Terminal Starter Course, KDE Step and More

A curated FOSS newsletter covering Linux and open source news including KDE Linux's new Developer Mode, Proton Lumo 2.0 updates, Ubuntu 26.10 Snapshot 2, Wine 11.12 fixes, and the Linux Foundation's new Akrites vulnerability body and Agent Name Service. Also features tutorials on Linux terminal basics, KDE System Monitor customization, terminal fonts, and Linux backup tools. Highlights include KDE Step physics simulator, a de-Googled Android interview with iodé, and an announcement of a new 'Local AI Weekly' newsletter for open source AI enthusiasts.

6 settings I always change before running a local LLM

Để chạy local LLM hiệu quả, bạn nên điều chỉnh sáu thông số chính: chiều dài ngữ cảnh (không nên quá lớn do hiện tượng "lost in the middle"), GPU layer offload (tăng cao hơn cài đặt mặc định), KV cache GPU offload, nhiệt độ (thấp cho tác vụ phân tích, cao cho sáng tạo), Min-P sampling (kết hợp với nhiệt độ cao để lọc token ít khả năng), và repeat penalty (nâng nhẹ 1.05–1.1 để tránh lặp). Điều chỉnh những cài đặt này có thể cải thiện đáng kể hiệu suất và chất lượng đầu ra.

Lập trình viên nên đọc bài này để tối ưu hóa hiệu suất và chất lượng của các mô hình AI tự host, tiết kiệm thời gian và tài nguyên mà không cần phải thay đổi kiến trúc hoặc chuyển sang mô hình khác.

Terminal agents are replacing GUI coding tools, and I stopped paying for Cursor the moment I realized

A developer shares their experience ditching Cursor Pro ($240/year) in favor of open-source terminal agents, ultimately settling on Crush. The post clarifies that most Cursor alternatives (OpenCode, Pi, Crush) are terminal agents, not GUI editors — with Zed being the closest true editor replacement. Crush won out due to seamless local LLM integration via LM Studio, auto-enumerating models without manual config, and a polished Charm-based TUI. The switch isn't without trade-offs: Cursor's tab completion is described as genuinely superior and hard to replace, and users without a capable GPU would face unpredictable API costs instead of a fixed subscription.