Enabling responsive AI at SIDO 2026

I gave my local LLM my browser history, and it built a better bookmark system than I ever had

My browsing history knew which bookmarks I needed better than I did.

I changed one llama.cpp flag, and my 8GB laptop GPU now runs a 35B model faster than I can read

Một lập trình viên đã tìm ra cách chạy model Llama 35B trên laptop GPU chỉ 8GB VRAM với tốc độ đáng kinh ngạc. Nguyên nhân kỹ thuật nằm ở việc chỉnh sửa cờ n_gpu_layers trong llama.cpp, cho phép tận dụng hiệu quả bộ nhớ VRAM thay vì để nó trở thành điểm nghẽn. Hệ quả là model 35B parameters chạy nhanh đến mức người dùng không kịp theo dõi, vượt xa các kỳ vọng ban đầu về giới hạn phần cứng. Điều đáng học hỏi là đôi khi vấn đề không nằm ở cấu hình phần cứng mà ở cách tối ưu hóa phần mềm để khai thác tiềm năng thực sự của hardware.

Bài viết tiết lộ cách tối ưu hóa một cờ trong llama.cpp để chạy mô hình 35B trên GPU 8GB nhanh hơn tốc độ đọc của bạn.

I gave OpenCode a local model on my 8GB card, and stopped worrying about hitting Claude's rate limits

My GPU handles the boring work now

I ran a 9B model trained on Claude's reasoning on my 8GB GPU, and it made me rethink paying for Claude

Tác giả đã chạy được model 9B parameters trên GPU 8GB mà không cần trả phí, thách thức …

How Noise-Cancelling Headphones Actually Remove Sound in Real Time

Trên các chuyến bay ồn ào, tiếng động cơ liên tục gây khó khăn trong việc nghe nhạc hay podcast. Các tai nghe chống ồn hoạt động bằng cách thu âm thanh môi trường và tạo ra tín hiệu âm ngược pha với tần số 35Hz đến 2000Hz, phù hợp với dải tần tiếng ồn phổ biến. Công nghệ ANC (Active Noise Cancellation) sử dụng microphone exterior để phân tích âm thanh vàDSP (Digital Signal Processor) để tạo ra âm thanh đối nghịch. Kết quả là hệ thống có thể giảm tới 20dB tiếng ồn tại dải tần thấp, giúp người nghe có trải nghiệm tốt hơn mà không cần tăng âm lượng lên mức có hại.

Bài giải thích cách tai nghe chống ồn hoạt động sẽ giúp lập trình viên hiểu được các thuật toán xử lý tín hiệu thời gian thực được áp dụng trong thực tế.

I replaced VS Code's Copilot with a local LLM, and my offline coding got faster

Trong bối cảnh Copilot của VS Code chủ yếu dựa trên cloud, tác giả đã thử nghiệm sử dụng local LLM để hỗ trợ offline coding. Nguyên nhân kỹ thuật là do local LLM (đặc biệt là Ollama với model Llama 3 8B) có khả năng xử lý nhanh hơn khi không cần kết nối mạng. Hệ quả cho thấy tốc độ coding tăng lên đáng kể mà không làm giảm hiệu suất tổng thể. Điều đáng học là việc tối ưu hóa local AI có thể mang lại lợi thế về tốc độ và bảo mật cho lập trình viên khi làm việc trên các dự án cần offline mode.

Thay thế Copilot bằng mô hình ngôn ngữ địa phương giúp tăng tốc lập trình ngoại tuyến mà không đánh đổi hiệu năng.

Junie Local became 70% faster on Mac M5

Junie Local hits ~70 tokens/s on M5 Max with Splash and DFlash2, cuts memory use, and adds support for M4 Macs with 64 GB RAM.

I think we're cooked...

Tác giả nhận ra token dùng thử Qwen Cloud đã hết hạn sau khi đăng bài với tiêu đề "I think we're cooked..." - một sự kiện cho thấy việc phụ thuộc vào AI cloud services như Qwen Cloud có thể gây gián đoạn không lường trước. Nguyên nhân kỹ thuật là token xác thực chỉ có thời hạn sử dụng, vấn đề phổ biến với nhiều nền tảng AI cloud như Qwen, Claude hay Gemini. Hệ quả là người dùng có thể mất quyền truy cập vào tài nguyên AI đã thanh toán hoặc được cấp phép, khiến các dự án cá nhân hoặc công việc bị đình đột ngột. Điều đáng học là cần luôn có kế hoạch dự phòng, chẳng hạn lưu trữ kết quả hoặc sử dụng các local alternatives như Ollama, để không phụ thuộc hoàn toàn vào các cloud AI services có thời hạn token.

Bài viết chia sẻ thực tế về những thách thức và cơ hội trong sự nghiệp lập trình viên thời đại AI.