On learning programming in an age of LLMs

Microservices vs Monolithic Architecture: What Nobody Tells You Until You've Lived Through Both

So sánh chi tiết giữa monolithic và microservices vượt qua lý thuyết, bàn về sự phức tạp trong deployment, sự ảnh hưởng của Conway's Law đến ownership team, khó khăn trong debugging và observability, cũng như thách thức về data consistency, performance và scaling. Bài viết chỉ ra monolithic thực sự phù hợp trong những trường hợp nào, khi nào microservices mang lại hiệu quả, và giới thiệu khái niệm "modular monolith" như giải pháp trung gian. Các lỗi phổ biến như resume-driven development hay distributed monoliths được liệt kê kèm framework thực tế để ra quyết định dựa trên team, domain, delivery, operations và scale. Thông điệp chính là chọn architecture dựa trên vấn đề thực tế chứ không phải sự phức tạp giả định.

Bài viết này giúp lập trình viên hiểu rõ sự cân thực giữa kiến trúc microservices và monolithic, tránh những sai lầm phổ biến và đưa ra quyết định kiến trúc phù hợp dựa trên nhu cầu thực tế.

AI Is Already Better at Coding Than Most Software Developers

Bối cảnh của bài viết là cuộc tranh luận về AI thay thế lập trình viên trong ngành công …

LLM Discussions (02): Train-time Vs. Test-time Compute

Các nhà nghiên cứu phát hiện small models với kỹ thuật deep thinking vượt trội hơn frontier models trong nhiều tác vụ, bất chấp sự khác biệt về kích thước. Nguyên nhân kỹ thuật nằm ở việc tái phân bổ compute từ giai đoạn train sang test-time, cho phép mô hình nhỏ hơn suy nghĩ lâu hơn để giải quyết vấn đề. Hệ quả là các mô hình nhỏ chỉ cần 10% compute training của frontier models nhưng đạt hiệu suất cao hơn trong các bài toán phức tạp như MATH và GSM8K. Điều đáng học hỏi là chiến lược phân bổ tài nguyên này mở ra hướng đi mới để tối ưu hóa hiệu năng model mà không cần tăng kích thước mô hình. Các lập trình viên có thể áp dụng phương pháp prompt chaining và few-shot prompting để triển khai deep thinking hiệu quả trên các ứng dụng thực tế.

Bài viết này giúp lập trình viên hiểu rõ cách tối ưu hóa hiệu năng giữa chi phí huấn luyện và sử dụng mô hình LLM.

A Gentle Introduction to Model Distillation

Model distillation phương pháp nén khả năng của mô hình teacher lớn vào một student nhỏ hơn, ban đầu qua training trên soft probability distributions và temperature scaling, nay cho LLMs chủ yếu qua synthetic data generation, feature matching hoặc logit matching. Mặc dù distillation đã trở thành tiêu chuẩn (ví dụ Llama 3.1 405B của Meta được cấp phép rõ ràng cho mục đích này), năm 2026 chứng kiến các tranh chấp lớn khi OpenAI cáo buộc DeepSeek, Anthicism cáo buộc Qwen (Alibaba) và báo cáo về việc truy cập tài khoản giả để khai thác Claude, cùng Google can thiệp các tấn công vào Gemini. Chưa có kiểm toán pháp y hay phán xét tòa án nào giải quyết được các cáo buộc này, và xung đột cơ bản giữa việc mô hình bị bộc lộ qua API và được bảo vệ khỏi sao chép vẫn chưa được giải quyết.

Bài này giúp lập trình viên hiểu rõ thực trạng pháp lý và kỹ thuật của mô hình model distillation trong bối tranh tranh bản quyền công nghệ AI.

Confidence is not transferable

Sau khi thử nghiệm với AI-generated code, tác giả nhận thấy ba quan sát về tổ chức, cá nhân và thế hệ. Nguyên nhân kỹ thuật nằm ở việc AI tạo ra code không truyền được confidence cho lập trình viên. Hệ quả là chất lượng code giảm 40% khi không có kiểm tra kỹ lưỡng và dẫn đến suy giảm năng lực tự chủ của developer. Điều đáng học là trong kỷ nguyên AI, kỹ năng thiết kế system architecture và tư duy phản biện sẽ trở nên quan trọng hơn khả năng viết code thông thường.

Bài viết giúp lập trình viên hiểu được kỹ năng quan trọng nhất trong kỷ nguyên AI và cách tự tin phát triển sự nghiệp của mình.

Fine-Tune an Open-Source LLM on Your Own Data

Fine-tune một mô hình LLM mã nguồn mở trên dữ liệu riêng cho phép chuyển đổi mô hình tổng qu thành công cụ chuyên biệt. Bài hướng dẫn chi tiết quy trình fine-tune với các công cụ như Hugging Face Transformers, QLoRA cho hiệu quả bộ nhớ, và dataset khoảng 10K samples. Quá trình này giúp đạt hiệu suất cao trên nhiệm vụ cụ thể mà không cần huấn luyện từ đầu. Các tác giả cũng trình bày kỹ thuật xử lý tokenization và template prompt để tối ưu kết quả fine-tuning. Đây là giải pháp hữu ích cho các lập trình viên muốn ứng dụng LLM trong lĩnh vực chuyên ngành với chi phí tính toán tối ưu.

Fine-tune một mô hình LLM nguồn mở trên dữ liệu riêng để biến mô hình tổng quát thành công cụ chuyên biệt cho nhiệm vụ cụ thể của bạn.

The 3 Layers of Testing AI Agents

Bối cảnh của bài viết là vấn đề kiểm thử AI agents khi chỉ sử dụng mock model khiến test suite luôn green nhưng thực chất không kiểm thử được gì. Nguyên nhân kỹ thuật là việc sử dụng mock làm cho các unit tests không phát hiện được lỗi thực tế trong model. Hệ quả là lỗi sẽ chỉ xuất hiện khi triển khai production, gây thiệt hại về chi phí và thời gian. Đáng học hỏi là bài đề xuất phương pháp testing 3 lớp: unit tests cho các thành phần riêng lẻ, integration tests cho module tương tác, và live alerts cho monitoring production environment với công cụ như Honeycomb.

Bài viết này giúp lập trình viên tránh được sai lầm khi kiểm tra agent AI bằng cách triển khai đúng các lớp thử nghiệm từ đơn vị đến cảnh báo trực tiếp.