Linus wrote Git in about 10 days, so I asked my local LLM to build something similar with one prompt

Flirt is now Open-Source

Flirt, một công cụ code-first local-first được thiết kế cho workflow patch-series, đã được open-source trên Codeberg với khả năng tracking các trạng thái đã review và hiển thị diff so với thay đổi hiện tại. Công cụ này hỗ trợ nhiều backend khác nhau như GitHub và mailing lists, giúp quản lý hiệu quả quy trình amend và force-push liên tục. Tuy nhiên, maintainer cảnh báo rằng Flirt hiện chưa sẵn sàng cho sử dụng rộng rãi do vẫn còn bugs và thiếu một số tính năng quan trọng. Đáng chú ý là Zulip community của Flirt không cho phép sử dụng LLM-written messages và dự kiến sẽ triển khai backend Forgejo trong tương lai để tự hosting và dogfood công cụ.

Flirt là công cụ review code mở-source giúp theo dõi các trạng thái đã xem xét trước đó, hỗ trợ nhiều backend như GitHub và mailing lists.

Your local LLM is quietly wasting RAM on context you never use, and one setting gives it back

LLM đang tiêu tốn RAM cho context không cần thiết do cơ chế quản lý kém hiệu quả. Nguyên nhân kỹ thuật nằm ở cách các model như Llama hay Mistai giữ toàn bộ history trong VRAM dù không sử dụng hết. Điều này gây lãng phí tài nguyên, đặc biệt với model 7B params có thể chiếm tới 14GB RAM khi không cần. Hệ quả là giảm hiệu suất chạy và tăng chi phí hạ tầng. Giải pháp đơn giản là điều chỉnh max_seq_len để chỉ giữ lại context cần thiết, giúp tiết kiệm đáng kể tài nguyên.

Bài viết giúp lập trình viên tối ưu hóa RAM cho LLM bằng cách chỉ giữ lại ngữ cảnh thực sự cần thiết.

AI Coding Has Made Project-Switching Way Too Easy

Tác giả đang vật lộn với 84 kho GitHub công khai, một phần lớn trong đó được gắn thẻ AI, chứng tỏ công cụ AI coding đang khiến việc chuyển đổi giữa các dự án trở nên dễ dàng đến mức quá dễ. Nguyên nhân kỹ thuật là các công cụ AI như GitHub Copilot hay Tabnine có khả năng sinh code nhanh và gợi ý giải pháp cho nhiều ngôn ngữ lập trình khác nhau. Hệ quả là lập trình viên có xu hướng bắt đầu nhiều dự án mới mà không hoàn thành các dự án cũ, dẫn đến "nhiễu" trong công việc và giảm hiệu suất tổng thể. Điều đáng học là cần có kỷ luật tự giác khi sử dụng AI coding, thiết lập giới hạn về số lượng dự song song và tập trung hoàn thành trước khi khởi động dự án mới.

Bài viết này giúp lập trình viên nhận thức được tác động tiêu cực của AI Coding đến sự tập trung và chất lượng công việc khi liên tục chuyển đổi dự án.

Dear Coder: Open This If You're Feeling AI FOMO

Thị trường AI hiện đang cực kỳ cạnh tranh với các công ty liên tục tung ra model đạt hiệu …

Git 3.0's upcoming SHA-256 default will be a costly mistake

Git 3.0 đang chuẩn bị chuyển sang sử dụng SHA-256 làm thuật toán hash mặc định, gây ra …

The Brain Sandwich

Trong bối cảnh AI coding đang phát triển nhanh, "Brain Sandwich" là quy trình làm việc thực tế gồm ba bước: hiểu vấn đề, dùng agent để hỗ trợ, sau đó kiểm tra và giải thích kết quả trước khi chia sẻ. Nguyên nhân kỹ thuật đằng sau hiệu quả của Brain Sandwich là nó tận dụng khả năng của LLM như GPT-4 trong việc tạo mã nhưng luôn có bước xác minh con người. Hệ quả là quy trình này giúp giảm thời gian coding đáng kể (có thể lên đến 40% theo nghiên cứu) đồng thời giảm thiểu lỗi do thiếu kiểm soát. Điều đáng học ở đây là cách tiếp cận cân bằng giữa tự động hóa và kiểm soát chất lượng, không hoàn toàn phụ thuộc vào AI mà luôn giữ vai trò giám sát của lập trình viên.

Công thức "The Brain Sandwich" giúp lập trình viên tăng hiệu suất làm việc với AI bằng quy trình thực tế từ hiểu vấn đề đến xác minh giải pháp.

I built a Tool for helping my friend next interview

Bối cảnh là bài viết tham gia Hacktoberfest Weekend Challenge nhằm xây dựng công cụ hỗ trợ bạn bè chuẩn bị phỏng vấn. Nguyên nhân kỹ thuật là tác giả nhận thấy nhu cầu tạo công cụ giúp luyện tập phỏng vấn kỹ thuật với các câu hỏi về system design và coding challenges. Hệ quả là công cụ này giúp ứng viên cải thiện khả năng giải quyết vấn đề và tự tin hơn khi trả lời các câu hỏi phỏng vấn thực tế. Điều đáng học là cách tiếp cận thiết kế công cụ tập trung vào trải nghiệm người dùng với các tính năng như mock interview session và thời gian giới hạn cho từng câu hỏi.

Bài viết chia sẻ về một công cụ hữu ích giúp chuẩn bị cho phỏng vấn kỹ thuật, cung cấp kinh nghiệm thực tế về phát triển giải pháp giải quyết vấn đề cụ thể.

AI On Your Gaming PC

Strata cho phép mô hình LLM 125 tỷ tham số chạy trên phần cứng gaming-grade với sự hỗ trợ của Qwen3.8 mixture-of-experts 24,576 chuyên gia chỉ kích hoạt 10 chuyên gia mỗi token. VRAM hoạt động như cache cho chuyên gia được sử dụng thường xuyên, phần lớn mô hình nằm trong RAM, và bảng tra cứu 29 GB nằm trên SSD. Kỹ thuật speculative decoding giúp đạt tốc độ 50-90 token/giây trên RTX 5070 12 GB VRAM. Dù có API tương thích OpenAI và Anthropic, chất lượng trả lời còn hạn chế so với các mô hình lớn hơn, với yêu cầu thực tế khoảng 32 GB RAM, 12 GB VRAM và 80 GB lưu trữ.

Bài viết này giúp bạn hiểu cách triển khai AI quy mô lớn trên máy tính cá nhân mà không cần GPU chuyên dụng từ trung tâm dữ liệu.