#pydantic

Put the Agent Inside the Workflow

Bài viết giới thiệu một mô hình ứng dụng LLM kết hợp giữa các giai đoạn workflow có cấu trúc và hành vi agent tự động. Trong nghiên cứu trường hợp điều chỉnh siêu tham số, hệ thống chia thành ba giai đoạn: LLM có cấu trúc cho các tác vụ đã biết (chuẩn bị thí nghiệm và tóm tắt báo cáo), cùng agent tự động cho giai đoạn khám phá (lựa chọn mô hình). Agent sử dụng công cụ scikit-learn để chạy thí nghiệm thích ứng, hỗ trợ gọi công cụ song song. Mô hình nhấn mạnh việc đặt agent chỉ ở những giai đoạn cần tính tự chủ thay vì toàn bộ ứng dụng.

Lập trình viên nên đọc bài này để khám phá cách tối ưu hóa quy trình phát triển ứng dụng bằng cách phân biệt rõ ràng giữa các giai đoạn cần độ tự động hóa cao (như chọn mô hình) và những giai đoạn có thể được xử lý theo quy trình cố định, giúp tiết kiệm thời gian và nâng cao hiệu quả khi ứng dụng phức tạp.

Medium

Bài viết khám phá cách xây dựng hệ thống phản hồi thông minh bằng cách sử dụng kiến trúc Conditional Agentic Workflows với LangGraph, nhằm tối ưu hóa quy trình xử lý AI trong những năm gần đây.

Lập trình viên muốn khám phá cách xây dựng hệ thống phản hồi thông minh bằng cách kết hợp logic điều khiển và khả năng tự động hóa thông qua LangGraph, giúp tối ưu hóa quy trình phát triển AI với các công cụ hiện đại và linh hoạt.

Pydantic + OpenAI: The Cleanest Way to Get Structured Outputs from LLMs

Kết hợp Pydantic với OpenAI Structured Outputs API giúp tự động sinh JSON Schema, xác thực dữ liệu và trả về đối tượng Python đã định kiểu, thay vì phải phân tích cú pháp JSON thủ công. Bài viết minh họa cách xử lý mô hình lồng nhau, ràng buộc xác thực trường bằng Field, xử lý từ chối của mô hình, cùng ví dụ thực tế về trích xuất thông tin tuyển dụng.

Lập trình viên nên đọc bài này để khám phá cách tự động hóa việc xử lý dữ liệu phức tạp từ các mô hình ngôn ngữ lớn (LLM) một cách chính xác và dễ dàng, giảm thiểu lỗi thủ công và tối ưu hóa hiệu suất trong ứng dụng thực tế.

Trustworthy AI in Healthcare and Longevity

Bài podcast trên TalkPython với Sumit Gundawar bàn về thách thức then chốt trong AI y tế: xây dựng niềm tin thông qua kỹ thuật chứ không phải chỉ mô hình. Các giải pháp như RAG (Retrieval-Augmented Generation) bắt buộc trích dẫn nguồn, kiểm tra liều lượng xác định thay vì phán xét bằng LLM, bảo vệ chống tiêm nhiễm prompt, ẩn danh PII, đầu ra có cấu trúc được Pydantic xác thực, và thiết kế bắt buộc con người giám sát theo EU AI Act được đề cập. Ngoài ra, podcast còn thảo luận về lựa chọn giữa mô hình local/frontier, nguy cơ sụp đổ mô hình do dữ liệu huấn luyện từ AI, và các dự án quét toàn thân như Midjourney Medical hay Neko Health.

Lập trình viên chuyên về AI y tế nên đọc bài này vì nó cung cấp những giải pháp kỹ thuật cụ thể— từ cách xây dựng hệ thống dựa trên nguồn gốc (RAG) đến tuân thủ luật EU AI Act— để xây dựng AI đáng tin cậy trong môi trường cao rủi ro, từ đó nâng cao hiệu quả và an toàn trong ứng dụng y tế.

A Production RAG Pipeline for PDFs: Relational Parsing, TOC Retrieval, Typed Answers

Bài viết giới thiệu quy trình RAG nâng cấp cho xử lý tài liệu PDF doanh nghiệp với bốn thành phần chính: phân tích tài liệu, phân tích câu hỏi, truy xuất thông tin và sinh câu trả lời. Các cải tiến bao gồm cấu trúc dữ liệu quan hệ thay vì danh sách phẳng, sửa lỗi chính tả và mở rộng từ khóa bằng từ vựng chuyên ngành, sử dụng bộ định tuyến TOC dựa trên LLM để truy xuất theo ngữ nghĩa, và trả về câu trả lời có cấu trúc kèm trích dẫn nguyên văn cùng bốn chỉ số chất lượng.

Những người lập trình viên xây dựng hệ thống xử lý thông tin doanh nghiệp sẽ tìm hiểu cách nâng cấp pipeline RAG với PDF bằng cách chuyển từ giải pháp đơn giản sang mô hình quan hệ dữ liệu, tăng hiệu quả tìm kiếm và trả lời thông tin chuyên sâu.

Assemble Each RAG Generation Prompt from a Base Prompt Plus the Rules Each Question Needs

Bài viết hướng dẫn xây dựng lớp generation trong pipeline RAG doanh nghiệp bằng cách kết hợp prompt cơ sở (BASE) với các fragments quy tắc, schema trả lời và ràng buộc phù hợp cho từng loại câu hỏi. Nó đề cập đến các kỹ thuật như phân loại truy vấn, xử lý chunk theo chiến lược kết hợp/ tuần tự, trích xuất đa trường có trích dẫn (FieldExtraction[T]), xác minh trích dẫn, few-shot examples động từ ngân hàng đã xác thực, và lưu vết đầy đủ (API response, fragments, schema) để đảm bảo khả năng kiểm toán và tái lập.

Những lập trình viên xây dựng hệ thống RAG chuyên nghiệp sẽ tìm hiểu cách tối ưu hóa và quản lý các prompt sinh tạo để tránh rủi ro về độ chính xác, hiệu suất và khả năng mở rộng trong ứng dụng doanh nghiệp.

How to use AI to generate type-safe Python code that survives production

Bài viết hướng dẫn cách sử dụng AI để tạo ra code Python an toàn về kiểu dữ liệu (type-safe) nhằm đảm bảo khả năng vận hành ổn định trong môi trường sản xuất.

Lập trình viên nên đọc bài này để khám phá cách ứng dụng AI giúp tạo ra mã Python có kiểu dáng (type-safe) và ổn định trong môi trường sản xuất, giúp giảm thiểu lỗi và tăng hiệu quả phát triển.

Building Multimodal Workflows with a Local LLM

Bài viết hướng dẫn xây dựng quy trình xử lý đa phương thức (multimodal) bằng mô hình Gemma 4 (phiên bản E4B) chạy cục bộ qua Ollama, kết hợp Pydantic để xuất dữ liệu có cấu trúc. Nó phân tích ảnh du lịch, trích xuất thông tin (tóm tắt cảnh, tâm trạng, vật thể, ghi chú bất định) và tổng hợp thành bản tóm tắt hành trình. Ngoài ra, bài viết đề cập lỗi tương thích trên Windows (Ollama 0.32.5) và cách khắc phục bằng cách sử dụng file GGUF chia nhỏ từ Unsloth. Toàn bộ quy trình được mở rộng thành ứng dụng nhỏ lưu trữ ký ức du lịch với mã nguồn đầy đủ trên GitHub.

Lập trình viên muốn tự host và tích hợp AI multimodal hiệu quả sẽ tìm hiểu cách vận hành một pipeline từ ảnh đến dữ liệu cấu trúc hóa bằng Gemma 4 với Ollama, giải quyết vấn đề Windows và mở rộng thành ứng dụng thực tế để tự động hóa phân tích hình ảnh và lưu trữ thông tin du lịch.

The hallucinating classifier pattern

Mô hình phân loại LLM quy mô lớn có thể tạo ra các thực thể giả nhưng hợp lý thông qua việc "ảo giác" (hallucinate) để nâng cao hiệu quả phân loại.

Lập trình viên muốn tối ưu hóa hiệu quả phân loại mô hình ngôn ngữ lớn (LLM) trong các ứng dụng quy mô lớn nên đọc bài này để hiểu cách sử dụng hallucination (tạo ra các thực thể giả tưởng hợp lý) như một mẫu thiết kế hiệu quả, giảm thiểu sai sót và cải thiện độ tin cậy trong xử lý dữ liệu lớn.

How to Implement Structured Output with Local LLMs

Hướng dẫn thực hành triển khai đầu ra có cấu trúc (structured output) cho các mô hình ngôn ngữ địa phương (LLMs) bằng Ollama, Gemma 4 và Pydantic. Bài viết minh họa qua trường hợp lập lịch nhà thông minh, bao gồm định nghĩa schema bằng Pydantic, truyền schema tới Ollama qua format=schema.model_json_schema(), và phân tích phản hồi thành đối tượng Python đã xác thực. Điểm quan trọng là đầu ra có cấu trúc đảm bảo hình dạng (shape) nhưng không đảm bảo tính chính xác; khi Gemma 4 trả về kết quả sai, giải pháp là phân tách tác vụ thành các bước nhỏ hơn.

Là lập trình viên muốn tối ưu hóa hiệu suất và chính xác của ứng dụng AI trong thực tế (chứ không chỉ là lý thuyết), bài hướng dẫn này sẽ giúp bạn học cách sử dụng Pydantic và Ollama để bắt buộc mô hình LLMs trả về dữ liệu theo định dạng chính xác, từ đó tránh sai sót về cấu trúc và nội dung trong các ứng dụng như quản lý nhà thông minh.

Loop Engineering for Cross-References: When RAG Answers ‘see Section 7.2’ Instead of the Actual Answer

Các hệ thống RAG doanh nghiệp thường trả về câu trả lời không đầy đủ khi tài liệu truy xuất chứa tham chiếu chéo như "xem Mục 7.2" thay vì dữ liệu thực. Bài viết đề xuất mô hình vòng lặp xử lý tham chiếu bằng cách mở rộng lược đồ sinh với trường pending_references và answer_completeness, sử dụng orchestrator để truy xuất lại dữ liệu mục tiêu hoặc gọi LLM nhỏ xử lý tham chiếu mơ hồ, từ đó tái sinh câu trả lời hoàn chỉnh. Phương pháp này ưu tiên chi phí thấp nhờ truy xuất top-1 và trích xuất tham chiếu lười, chỉ mở rộng khi có tín hiệu từ đầu ra có cấu trúc.

Lập trình viên xây dựng hệ thống RAG phải hiểu cách xử lý các trích dẫn chéo (cross-references) để cải thiện độ chính xác và độ hoàn chỉnh của câu trả lời mà không tăng chi phí quá mức, vì giải pháp này giúp tối ưu hóa pipeline bằng cách phân tích và giải quyết các tham chiếu chưa được giải quyết một cách hệ thống, từ đó tránh lỗi sai sót và nâng cao hiệu suất của ứng dụng.

Building an Advanced Agentic Harness

Xây dựng một hệ thống điều phối tác nhân (agentic harness) tiên tiến từ giai đoạn thử nghiệm đơn lẻ đến triển khai quy mô lớn, tập trung vào lập kế hoạch, xử lý song song, bộ nhớ, xác minh và quan sát (observability) trong môi trường sản xuất.

Nếu bạn đang phát triển hoặc tối ưu hóa các hệ thống agent mạnh mẽ cho ứng dụng sản xuất, bài này sẽ giúp bạn hiểu cách xây dựng chiến lược từ đơn giản đến phức tạp, từ việc quản lý nhiều nhiệm vụ song song đến lưu trữ thông tin và kiểm tra hiệu suất để đảm bảo chất lượng cao nhất.

I Thought I Was Learning FastAPI

Mỗi nhà phát triển đều bắt đầu từ con số 0. Hành trình học tập của tác giả không bắt đầu ngay với FastAPI mà từ những kiến thức nền tảng khác, với nhận định ban đầu rằng học một framework đồng nghĩa với việc học cách sử dụng nó.

Đọc bài này để hiểu cách FastAPI không chỉ là một công cụ xây dựng API nhanh mà còn là cách nó xây dựng trên những nguyên tắc thiết kế đơn giản, hiệu quả và tối ưu hóa tự động, giúp bạn tránh những sai lầm cơ bản trong việc phát triển backend.

Most RAG Hallucinations Are Extraction Errors: Seven Patterns for a Typed Generation Contract

Hầu hết lỗi RAG nên xem là lỗi trích xuất (extraction errors) thay vì ảo giác (hallucinations), vì LLM chỉ đọc ngữ cảnh được cung cấp. Bài viết đề xuất bảy pattern để coi quá trình sinh của LLM như điền vào một hợp đồng có cấu trúc (typed Pydantic contract), thay vì trả về dạng text tự do.

Lập trình viên cần đọc bài này để chuyển đổi cách xử lý RAG từ việc phụ thuộc vào hallucination của mô hình từ đó sang kiểm soát chính xác thông tin thông qua các extraction errors bằng cách áp dụng các pattern như định nghĩa hợp đồng kiểu (Pydantic) và phân đoạn logic, giúp tăng tính đáng tin cậy và khả năng tái sử dụng trong ứng dụng thực tế.

FastAPI: Python API Development With Light Speed (Learning Path) – Real Python

Learn FastAPI from the ground up. Build REST APIs, serve web pages with Jinja2 templates, and create a complete URL shortener project in Python.

Yelp Unifies ML Model Training with Training Orchestrator

Yelp has launched Training Orchestrator. This new internal framework replaces individual team Spark training scripts. Now, it uses a configuration-driven, DAG-based execution model.

Starlette vs FastAPI: what FastAPI actually adds

FastAPI được xây dựng dựa trên Starlette nhưng bổ sung thêm các tính năng như validation dữ liệu tự động, OpenAPI/Swagger docs, async/await native, dependency injection và security utilities. Starlette cung cấp core routing, middleware, request/response handling, còn FastAPI tập trung vào trải nghiệm developer thân thiện và hiệu suất cao. Nên dùng FastAPI cho API phức tạp, còn Starlette phù hợp khi cần lightweight framework.

Những lập trình viên muốn tối ưu hóa hiệu suất, tính mở rộng và tính năng tự động hóa cho ứng dụng web API của mình sẽ tìm hiểu cách FastAPI bổ sung những tính năng mới so với cơ sở Starlette để quyết định lựa chọn phù hợp nhất.

Python Is Only Slow If You are Still Using It The Way You Learned In 2018

Python chỉ chậm nếu bạn vẫn giữ cách lập trình từ năm 2018. Vấn đề không phải do ngôn ngữ mà do những thói quen cũ.

Lập trình viên nên đọc bài này để khám phá cách tối ưu hóa hiệu suất Python bằng cách bật tắt các tính năng cũ kỹ như for vòng lặp, list.append() hoặc dict thủ công, thay vào đó sử dụng các công cụ hiện đại như list comprehensions, collections.defaultdict hoặc numpy để giải quyết vấn đề hiệu suất không phải là lỗi của ngôn ngữ mà là của cách sử dụng cũ.

Open Source Extraction Service

LangChain giới thiệu dịch vụ trích xuất mã nguồn mở sử dụng LLMs để trích xuất dữ liệu có cấu trúc từ các nguồn phi cấu trúc như PDF, HTML và văn bản. Dịch vụ demo trực tuyến miễn phí, hỗ trợ định nghĩa schema tùy chỉnh, few-shot examples, nhiều mô hình LLM, chia sẻ extractor và tích hợp qua LangServe.

Lập trình viên nên đọc để khám phá cách tự động hóa việc extrakt data từ nguồn không cấu trúc bằng LLMs, giúp tiết kiệm thời gian và nâng cao hiệu quả trong việc xử lý dữ liệu phức tạp như tài liệu PDF, trang web hoặc văn bản, đặc biệt khi kết hợp với các schema định nghĩa rõ ràng và tích hợp với các công cụ LangChain.

One RAG Pipeline, Four Very Different PDFs: Same Four Bricks, Every Answer Typed and Cited

Một pipeline RAG sản xuất gồm bốn thành phần độc lập (document parsing, question parsing, retrieval, generation) được kiểm tra toàn diện trên bốn loại PDF khác nhau mà không thay đổi code. Pipeline xử lý đúng ba tài liệu với trích dẫn chính xác và từ chối tài liệu thứ tư khi không truy xuất được do mục lục bị lỗi, vượt trội so với phương pháp cơ bản trong các tài liệu tuân thủ dài với từ vựng không khớp.

Một lập trình viên nên đọc bài này để hiểu cách xây dựng một RAG pipeline robust bằng cách kết hợp các mô-đun riêng biệt (parsing, retrieval, generation) với tiêu chuẩn hóa dữ liệu (Pydantic) để tránh lỗi nhầm lẫn và cải thiện độ tin cậy trong xử lý văn bản phức tạp, đặc biệt là khi đối mặt với tài liệu không đồng nhất.

Training Orchestrator: Unifying Model Training at Yelp

Training Orchestrator: Unifying Model Training at Yelp Ying Wang and Nathan Sponberg, Software Engineer Jul 14, 2026 At Yelp, we train many machine learning models on different schedules. Applied machine...

The “silent hallucination” loop: how our autonomous data pipeline poisoned its own vector store

A post-mortem on how an autonomous AI data pipeline silently poisoned a vector store with hallucinated metadata. The team built a RAG system for a fintech client that extracted metadata from PDFs using an LLM, then used a second LLM as a validator — only to discover that LLM sycophancy caused the validator to confirm hallucinated values rather than reject them. Prompt engineering fixes failed and increased API costs by 40%. The solution was replacing the LLM validator with deterministic Python code: Pydantic models with regex grounding checks that verify extracted values actually exist in the source text, fuzzy SQL matching for entity names, and a PostgreSQL quarantine stage before anything reaches the vector store. The fix eliminated data poisoning and cut API costs by 50%. Core lesson: probabilistic systems require deterministic boundaries — never delegate data integrity checks to a generative model.

Validating the RAG Answer Before the User Sees It: Spans, Quotes, and the Feedback Loop

Kiểm định sau sinh (post-generation validation) là lớp quan trọng trong pipeline RAG, xác minh ba yếu tố: hình dạng (schema), bằng chứng (trích dẫn chính xác) và định dạng (ISO date, currency). Ba lỗi trích dẫn thường gặp là: chuẩn hóa khoảng trắng/tham chiếu thư mục, lỗi off-by-one giữa các dòng liền kề, và trích dẫn đa dòng bị cắt. Hệ thống xử lý "Not found" như đầu ra hợp lệ, đồng thời tận dụng feedback loop để tối ưu truy xuất, cấu trúc ngữ cảnh và cập nhật từ khóa. Thực tế cho thấy việc thêm kiểm định trích dẫn verbatim giảm tỷ lệ paraphrase từ 12% xuống 0.3% mà không thay đổi mô hình.

Một lập trình viên cần đọc bài này để hiểu cách cải thiện chất lượng và độ tin cậy của hệ thống RAG bằng cách xác thực kết quả trước khi đưa ra người dùng, từ đó tránh sai sót về định dạng, chứng cứ và nội dung.

Stop Returning Text from RAG: The Typed Answer Contract That Prevents Hallucination

Bài viết đề xuất sử dụng lược đồ câu trả lời có cấu trúc (Pydantic schema) thay vì văn bản thô trong hệ thống RAG doanh nghiệp để giảm thiểu tình trạng ảo giác. Schema này bao gồm các trường dữ liệu có kiểu (Amount, DateValue, TableValue), trích dẫn đa đoạn, đánh giá độ tin cậy (confidence, caveats, extraction_method) cùng tín hiệu phản hồi từ pipeline (answer_found, complete_answer_found, conflicting_evidence, llm_discovered_keywords). Phương pháp kiểm tra độ hoàn chỉnh bằng overlap truy xuất (one-page retrieval) ngăn chặn tình trạng câu trả lời bị cắt xén, trong khi kỹ thuật decoding có ràng buộc (constrained decoding) qua OpenAI's Structured Outputs API đảm bảo đầu ra tuân thủ schema ngay từ lúc sinh.

Lập trình viên nên đọc bài này để hiểu cách xây dựng một schema rõ ràng cho hệ thống RAG doanh nghiệp, giảm thiểu sai sót do hallucination bằng cách kết hợp kiểm soát từ nguồn (structured outputs) và đánh giá tự động bằng các trường dữ liệu cụ thể.

Have your agent record video demos of its work with shot-scraper video

shot-scraper 1.10 introduces a new video command that reads a YAML storyboard file and uses Playwright to record browser-based video demos of web applications. The feature is designed to let coding agents autonomously produce demo videos of their own work. The storyboard YAML supports scenes, clicks, fills, waits, JavaScript injection, and server startup — all validated via Pydantic. The implementation was written by GPT-5.5 xhigh in Codex Desktop, unblocked by playwright-python 1.61.0 which fixed a video width limitation. The author highlights a pattern where rich --help output enables agents to use a tool without additional documentation.

Context Engineering for RAG : The Four Typed Inputs Behind Every RAG Answer

Context engineering — the discipline of assembling everything that lands in an LLM's context window — is applied to a single-document RAG pipeline built from four typed bricks: document parsing, question parsing, retrieval, and generation. Each brick emits typed outputs (Pydantic models, DataFrames, audit dicts) that converge on one LLM call. The system prompt is fixed for caching, retrieved lines are filtered to a few thousand tokens, and doc-level metadata is serialized as compact JSON via a PromptContext aggregator. The term 'context engineering' was coined by Tobi Lütke and endorsed by Andrej Karpathy in June 2025. Practical implications include cheaper cached prompts, auditable per-call context reconstruction from persisted brick outputs, and a stable aggregator signature that can absorb corpus-context and conversation-context layers without breaking existing brick signatures.