Still Catching Up to the AI Pipeline I Built to Catch Up

From one AI product to an AI factory

Doctolib đã chuyển đổi từ phát triển sản phẩm AI đơn lẻ sang xây dựng một "nhà máy AI" (AI factory) trong hai năm qua. Họ thống nhất các nền tảng Data/ML/Engineering phân mảnh thành một nền tảng Data & AI duy nhất, chuyển từ vai trò hỗ trợ kỹ thuật sang nền tảng định hướng sản phẩm với quy trình khám phá có cấu trúc và OKRs. Họ cũng công nghiệp hóa chất lượng sản phẩm AI thông qua công cụ đánh giá chung và cổng GenAI, tạo ra các accelerator (mẫu agent) riêng cho Doctolib để rút ngắn thời gian đưa sản phẩm ra thị trường từ hàng quý xuống vài tuần. Ngoài ra, họ đạt tỷ lệ áp dụng gần 100% trợ lý lập trình AI trong khi tích hợp công cụ năng suất nội bộ với cơ sở hạ tầng AI hướng đến khách hàng. Bài học quan trọng là việc thống nhất nền tảng chủ yếu là thách thức tổ chức hơn là kỹ thuật, ưu tiên cho nhiều khách hàng nội bộ đòi hỏi cả khung quy trình và sự đánh giá chuyên biệt, và việc sắp xếp thứ tự đầu tư quan trọng ngang bằng với bản thân các khoản đầu tư.

Là người phát triển AI, bạn nên đọc bài này để hiểu cách chuyển đổi từ sản phẩm AI đơn lẻ sang một hệ sinh thái sản xuất AI hiệu quả, từ đó rút ra kinh nghiệm về cách xây dựng và quản lý nền tảng dữ liệu-ML với quy mô lớn, tối ưu hóa thời gian phát triển và đảm bảo chất lượng sản phẩm.

The Agent-Era Career

Addy Osmani, cựu trưởng nhóm kỹ thuật Google, đưa ra lời khuyên sự nghiệp cho kỷ nguyên AI …

I Used a Frontier Model to Harden a Weaker One

Một nhà nghiên cứu đã sử dụng Claude Opus (mô hình tiên tiến) để tăng cường bảo mật cho Hermes/DeepSeek (mô hình yếu hơn) bằng cách áp dụng khung context engineering lấy cảm hứng từ whitepaper "New SDLC with Vibe Coding" của Google. Phương pháp chia tách static/dynamic giúp tách biệt các quy tắc bất biến (luôn bật) và kỹ năng theo giai đoạn (khởi động khi cần), sau đó chuyển doctrine (không phải plumbing) sang Hermes thông qua phân tích lỗ hổng. Kiểm thử adversarial phát hiện lỗi như hook quét secret không hoạt động, còn thử nghiệm live cho thấy giới hạn tuning mô tả cho mô hình tự chọn. Kết luận: Agent = Model + Harness, doctrine có thể tái sử dụng nhưng harness phụ thuộc nền tảng.

Một lập trình viên muốn nâng cao hiệu suất và độ tin cậy của các hệ thống agent thông minh bằng cách tối ưu hóa cách kết hợp kiến thức mô hình với các quy trình thực thi cụ thể.

Agent Draw: An agent draws while you talk, built on TLDraw

Agent Draw là công cụ hoạt động trên tldraw Agent starter kit, cho phép AI agent vẽ trên canvas vô hạn khi bạn nói. Bạn kéo vùng chọn, mô tả yêu cầu bằng giọng nói, và agent sẽ render bằng tldraw primitives hoặc bút vẽ. Bài viết chi tiết cách triển khai: StateNode tùy chỉnh, pipeline audio MediaRecorder, transcription qua Mistral Voxtral (Cloudflare Worker), hàng đợi FIFO xử lý yêu cầu vẽ đồng thời, và kỹ thuật prompt ngăn model xuất text thay vì vẽ. Tối ưu hiệu suất bằng cách loại bỏ hai action (setMyView, review), giảm 50% round-trip. So sánh khả năng, claude-opus-4.8 tạo tác phẩm phong phú hơn claude-haiku-4.5 hay gemini-2.5-flash-lite.

Những người lập trình viên muốn phát triển ứng dụng AI tích hợp giao diện đồ họa trực quan, đặc biệt là các ứng dụng tương tác âm thanh-video, nên đọc bài này để hiểu cách xây dựng pipeline hiệu quả từ nhận dạng âm thanh, xử lý đa nhiệm và tối ưu hóa giao tiếp giữa AI với người dùng thông qua các công cụ như tldraw.

Ask HN: What Are You Working On? (July 2026)

Một kỹ sư bảo mật xây dựng hệ thống chấm điểm tự động cho các MCP server nhằm đánh giá mức độ phù hợp sử dụng doanh nghiệp, dựa trên 29 tiêu chí như guardrails runtime, SAST scan và trust models. Kết quả cho thấy 1/10 server đạt dưới 40/100 điểm, 18% server phổ biến (trên 1000 sao GitHub) có lỗ hổng bảo mật, và 184 server thay đổi định nghĩa tool sau khi công khai — tiềm ẩn nguy cơ tấn công "rug pull". Hệ thống này miễn phí truy cập, cung cấp API cho các workflow tự động.

Lập trình viên nên đọc bài này để hiểu cách xây dựng hệ thống đánh giá an ninh tự động hóa, từ đó áp dụng kiến thức về bảo mật, kiểm tra mã và quản lý phụ thuộc để phát triển ứng dụng an toàn hơn trong thực tế.

How to Run an AI Agent in Your Desktop Browser?

Bài viết hướng dẫn cách chạy AI agent trực tiếp trong trình duyệt desktop mà không cần cài đặt phần mềm, giải thích khái niệm AI agent, cách hoạt động, ứng dụng phổ biến (sáng tạo nội dung, nghiên cứu, hỗ trợ khách hàng, quản lý dự án, trợ giúp lập trình), lợi ích cho doanh nghiệp nhỏ, lưu ý bảo mật và các bước khởi đầu.

Lập trình viên nên đọc bài này để khám phá cách triển khai các bot thông minh trực tiếp trên trình duyệt mà không cần cài đặt phần mềm, giúp tiết kiệm thời gian và nguồn lực trong việc tích hợp AI vào dự án của họ.

How LLM Routing Actually Works in Production

Việc định tuyến LLM trong sản xuất phức tạp hơn việc phân loại đơn giản, do chi phí ẩn từ caching prompt: nhà cung cấp giảm ~90% phí cho token đã xem, nhưng cache này chỉ áp dụng riêng cho từng model. Nếu router chuyển model giữa chừng, cache sẽ mất và toàn bộ ngữ cảnh phải trả phí "lạnh", triệt tiêu lợi ích tiết kiệm. Giải pháp là "model affinity" – định tuyến một lần cho mỗi tác vụ và ghim model vào session ID để cache giữ ấm. Quy trình sản xuất đầy đủ gồm 4 giai đoạn: lọc rào cản an toàn, model định tuyến nhỏ, chính sách chọn lựa chi phí/tốc độ, và ghim model affinity. Open-source proxy Plano triển khai quy trình này với cấu hình YAML và sử dụng Arch-Router (1.5B model) để đưa ra quyết định dựa trên dữ liệu ưu tiên của người dùng.

Lập trình viên cần đọc để hiểu cách tối ưu hóa chi phí và hiệu suất của hệ thống xử lý LLM bằng cách tránh mất cache giữa các yêu cầu, từ đó giảm thiểu chi phí không mong muốn và cải thiện trải nghiệm thực tế khi triển khai.