How to Implement Structured Output with Local LLMs

Hướng dẫn thực hành triển khai đầu ra có cấu trúc (structured output) cho các mô hình ngôn ngữ địa phương (LLMs) bằng Ollama, Gemma 4 và Pydantic. Bài viết minh họa qua trường hợp lập lịch nhà thông minh, bao gồm định nghĩa schema bằng Pydantic, truyền schema tới Ollama qua format=schema.model_json_schema(), và phân tích phản hồi thành đối tượng Python đã xác thực. Điểm quan trọng là đầu ra có cấu trúc đảm bảo hình dạng (shape) nhưng không đảm bảo tính chính xác; khi Gemma 4 trả về kết quả sai, giải pháp là phân tách tác vụ thành các bước nhỏ hơn.