Ask HN: What Are You Working On? (July 2026)

I Used a Frontier Model to Harden a Weaker One

Một nhà nghiên cứu đã sử dụng Claude Opus (mô hình tiên tiến) để tăng cường bảo mật cho Hermes/DeepSeek (mô hình yếu hơn) bằng cách áp dụng khung context engineering lấy cảm hứng từ whitepaper "New SDLC with Vibe Coding" của Google. Phương pháp chia tách static/dynamic giúp tách biệt các quy tắc bất biến (luôn bật) và kỹ năng theo giai đoạn (khởi động khi cần), sau đó chuyển doctrine (không phải plumbing) sang Hermes thông qua phân tích lỗ hổng. Kiểm thử adversarial phát hiện lỗi như hook quét secret không hoạt động, còn thử nghiệm live cho thấy giới hạn tuning mô tả cho mô hình tự chọn. Kết luận: Agent = Model + Harness, doctrine có thể tái sử dụng nhưng harness phụ thuộc nền tảng.

Một lập trình viên muốn nâng cao hiệu suất và độ tin cậy của các hệ thống agent thông minh bằng cách tối ưu hóa cách kết hợp kiến thức mô hình với các quy trình thực thi cụ thể.

From one AI product to an AI factory

Doctolib đã chuyển đổi từ phát triển sản phẩm AI đơn lẻ sang xây dựng một "nhà máy AI" (AI factory) trong hai năm qua. Họ thống nhất các nền tảng Data/ML/Engineering phân mảnh thành một nền tảng Data & AI duy nhất, chuyển từ vai trò hỗ trợ kỹ thuật sang nền tảng định hướng sản phẩm với quy trình khám phá có cấu trúc và OKRs. Họ cũng công nghiệp hóa chất lượng sản phẩm AI thông qua công cụ đánh giá chung và cổng GenAI, tạo ra các accelerator (mẫu agent) riêng cho Doctolib để rút ngắn thời gian đưa sản phẩm ra thị trường từ hàng quý xuống vài tuần. Ngoài ra, họ đạt tỷ lệ áp dụng gần 100% trợ lý lập trình AI trong khi tích hợp công cụ năng suất nội bộ với cơ sở hạ tầng AI hướng đến khách hàng. Bài học quan trọng là việc thống nhất nền tảng chủ yếu là thách thức tổ chức hơn là kỹ thuật, ưu tiên cho nhiều khách hàng nội bộ đòi hỏi cả khung quy trình và sự đánh giá chuyên biệt, và việc sắp xếp thứ tự đầu tư quan trọng ngang bằng với bản thân các khoản đầu tư.

Là người phát triển AI, bạn nên đọc bài này để hiểu cách chuyển đổi từ sản phẩm AI đơn lẻ sang một hệ sinh thái sản xuất AI hiệu quả, từ đó rút ra kinh nghiệm về cách xây dựng và quản lý nền tảng dữ liệu-ML với quy mô lớn, tối ưu hóa thời gian phát triển và đảm bảo chất lượng sản phẩm.

The Agent-Era Career

Addy Osmani, cựu trưởng nhóm kỹ thuật Google, đưa ra lời khuyên sự nghiệp cho kỷ nguyên AI …

How to Run an AI Agent in Your Desktop Browser?

Bài viết hướng dẫn cách chạy AI agent trực tiếp trong trình duyệt desktop mà không cần cài đặt phần mềm, giải thích khái niệm AI agent, cách hoạt động, ứng dụng phổ biến (sáng tạo nội dung, nghiên cứu, hỗ trợ khách hàng, quản lý dự án, trợ giúp lập trình), lợi ích cho doanh nghiệp nhỏ, lưu ý bảo mật và các bước khởi đầu.

Lập trình viên nên đọc bài này để khám phá cách triển khai các bot thông minh trực tiếp trên trình duyệt mà không cần cài đặt phần mềm, giúp tiết kiệm thời gian và nguồn lực trong việc tích hợp AI vào dự án của họ.

How LLM Routing Actually Works in Production

Việc định tuyến LLM trong sản xuất phức tạp hơn việc phân loại đơn giản, do chi phí ẩn từ caching prompt: nhà cung cấp giảm ~90% phí cho token đã xem, nhưng cache này chỉ áp dụng riêng cho từng model. Nếu router chuyển model giữa chừng, cache sẽ mất và toàn bộ ngữ cảnh phải trả phí "lạnh", triệt tiêu lợi ích tiết kiệm. Giải pháp là "model affinity" – định tuyến một lần cho mỗi tác vụ và ghim model vào session ID để cache giữ ấm. Quy trình sản xuất đầy đủ gồm 4 giai đoạn: lọc rào cản an toàn, model định tuyến nhỏ, chính sách chọn lựa chi phí/tốc độ, và ghim model affinity. Open-source proxy Plano triển khai quy trình này với cấu hình YAML và sử dụng Arch-Router (1.5B model) để đưa ra quyết định dựa trên dữ liệu ưu tiên của người dùng.

Lập trình viên cần đọc để hiểu cách tối ưu hóa chi phí và hiệu suất của hệ thống xử lý LLM bằng cách tránh mất cache giữa các yêu cầu, từ đó giảm thiểu chi phí không mong muốn và cải thiện trải nghiệm thực tế khi triển khai.

Why Chinese devs pay more for GPT-5.6 than DeepSeek

Các nhà phát triển Trung Quốc chi nhiều tiền hơn cho GPT-5.6 của OpenAI dù chi phí trên mỗi token cao hơn nhiều so với các mô hình nội địa như DeepSeek V4 hay GLM-5.2 của Zhipu. Mặc dù vậy, GPT-5.6 lại sử dụng ít token đầu ra hơn (khoảng 1/9) trong các tác vụ lập trình, đồng thời mang lại hiệu suất cao hơn, giúp tiết kiệm thời gian và cải thiện chất lượng hội thoại đa lượt.

Đọc bài này để hiểu cách hiệu suất thực tế của các mô hình AI có thể vượt qua chi phí token giả định, giúp quyết định đầu tư vào công nghệ phù hợp với nhu cầu sản xuất và tối ưu hóa chi phí dài hạn.

Meet Brain, the AI that decides when Azure is officially down

Microsoft giới thiệu Brain, hệ thống AIOps nội bộ giám sát tình trạng sức khỏe đám mây tập trung của Azure. Sử dụng Azure Resource Graph làm digital twin thời gian thực, Brain phân tích ba loại tín hiệu (SLI, bộ theo dõi miền do nhóm đăng ký và chỉ số bên thứ ba) để xác định trạng thái, mức độ nghiêm trọng, phạm vi ảnh hưởng và nguyên nhân gốc rễ cho bất kỳ dịch vụ, khu vực hoặc tài nguyên khách hàng nào. Thay vì để các nhóm dịch vụ tự định nghĩa SLO, Brain áp dụng mô hình học máy để thiết lập ngưỡng động từ dữ liệu lịch sử, tự động khai báo sự cố, tạm dừng triển khai gây hại, định tuyến sự cố đến nhóm phù hợp và thông báo cho khách hàng bị ảnh hưởng. CTO Azure Mark Russinovich cho biết tính năng thông báo tự động đã giảm 4–6 lần số lượng ticket hỗ trợ khách hàng, đồng thời hệ thống đạt tỷ lệ khắc phục trong 15 phút cho 80–90% dịch vụ quan trọng. Microsoft cũng đang bổ sung các hệ thống agentic như Triangle, một hệ thống điều phối đa tác nhân dựa trên LLM để định tuyến sự cố mà không cần chuyển giao thủ công. Hiện Brain đã bao phủ 70–80% dịch vụ quan trọng của Azure, phần còn lại đang được triển khai.

Nếu bạn muốn khám phá cách AI tự động hóa quản lý sự cố và cải thiện phản ứng nhanh chóng trong cloud, Brain của Microsoft là ví dụ tuyệt vời về cách AI Ops kết hợp ML, tự động hóa và triết lý triết lý để tự động hóa quản lý dịch vụ, giảm thiểu thời gian xử lý và tối ưu hóa trải nghiệm cho cả nhà phát triển và khách hàng.