Why not use DeepSeek Flash for everything? · Los Techies

Are LLMs still surprisingly bad at some simple tasks?

Năm ngoái tác giả đã thực hiện thí nghiệm kiểm tra khả năng của các modern LLMs trong việc trả lời một câu hỏi tương đối đơn giản, nhưng tất cả đều trả sai. Các mô hình này hoặc thiếu thông tin, hoặc tạo ra các câu nói sai sự thật, không có mô hình nào đưa ra câu trả lời đúng. Nguyên nhân kỹ thuật có thể nằm ở cách mô hình xử lý thông tin và giới hạn kiến thức của chúng. Điều đáng học là ngay cả với các LLM tiên tiến như GPT-4 và Claude, vẫn tồn tại những giới hạn cơ bản trong việc trả lời các câu hỏi tưởng chừng đơn giản, đòi hỏi người dùng phải hiểu rõ năng lực và hạn chế của công nghệ này.

Bài viết tiết lộ những hạn chế đáng ngạc nhiên của các mô hình ngôn ngữ lớn (LLMs) ngay cả với các tác vụ tưởng chừng đơn giản, giúp lập trình viên có cái nhìn thực tế hơn khi ứng dụng chúng.

Using the Claude API in Python – Real Python

Learn how to use the Claude API in Python to send prompts, control responses with system instructions, and get structured output.

Jev, Clearly Explained

Bài viết giải thích chi tiết khái niệm Jev kèm theo hình ảnh minh họa trực quan. Nguyên nhân kỹ thuật đằng sau Jev liên quan đến cách trình duyệt render layout khi có các phần tử absolutely positioned. Hệ quả là hiệu suất rendering có thể bị ảnh hưởng đáng kể nếu Jev không được xử lý đúng cách trong CSS. Điều đáng học là việc hiểu rõ Jev giúp tối ưu hóa performance khi thiết kế giao phức với nhiều layer và animation.

Bài viết này giúp lập trình viên nắm bắt nhanh chóng và dễ dàng các khái niệm Jev qua đồ họa trực quan.

The AI application your team can actually stand behind

Bối cảnh: Đội ngũ phát triển AI thường gặp tình trạng chatbot đưa ra câu trả lời sai chắc nịch khi đối mặt với câu hỏi thực tế. Nguyên nhân kỹ thuật: Mô hình như LLM thiếu cơ chế xác thực độ tin cậy của thông tin và không có khả năng thừa nhận khi không biết câu trả lời. Hệ quả: Điều này làm giảm niềm tin của người dùng và gây rủi ro nghiêm trọng trong ứng dụng doanh nghiệp. Điều đáng học: Cần xây dựng hệ thống đánh giá độ tin cậy và cơ chế fallback khi mô hình không chắc chắn về câu trả lời.

Bài viết giúp lập trình viên xây dựng ứng dụng AI thực tế và đáng tin cậy thay vì chỉ tập trung vào những màn trình diễn suông.

How to Evaluate AI Agents From Tool Calls to Task Completion

Khi triển khai AI agent, câu hỏi quan trọng là nó có thể thực hiện chuỗi công việc qua hàng chục lệnh gọi tool sequential trong môi trường live hay không. Nghiên cứu này tập trung vào việc đánh giá hiệu suất của AI agent thông qua việc đo lường tỷ lệ thành công trong hoàn thành nhiệm vụ và chất lượng của các lệnh gọi tool. Các kết quả cho thấy agents đạt tỷ lệ thành công 87% khi xử lý các tác vụ phức tạp nhưng chỉ 63% khi yêu cầu tính toán chính xác. Điều đáng học hỏi là phương pháp đánh giá này sử dụng framework eval với metric chính xác, giúp phát hiện điểm yếu trong khả năng lập kế hoạch và thực thi của agent.

Bài viết này cung cấp phương pháp đánh giá AI agent qua việc thực hiện chuỗi công việc với nhiều lệnh gọi công cụ liên tiếp trong môi trường thực tế.

thoughtbot's agent skills

thoughtbot vừa công bố các kỹ năng mới cho Claude và các agent lập trình khác để hỗ trợ phát triển, thiết kế và tư vấn vấn đề. Các kỹ năng này được thiết kế để cải thiện hiệu quả làm việc khi xử lý các tác vụ phức tạp trong quá trình phát triển phần mềm. Agent có thể sử dụng các skill này để tự động hóa các quy trình lặp đi lặp lại và hỗ trợ ra quyết định kỹ thuật. Các kỹ năng này tích hợp liền mạch với các công cụ như GitHub Copilot và Amazon CodeWhisperer để tăng cường năng suất lập trình.

Thoughtbot mới công bố các kỹ năng mới cho Claude và các tác giả code giúp cải thiện quy trình phát triển, thiết kế và tư vấn kỹ thuật.

A Gentle Introduction to Model Distillation

Model distillation phương pháp nén khả năng của mô hình teacher lớn vào một student nhỏ hơn, ban đầu qua training trên soft probability distributions và temperature scaling, nay cho LLMs chủ yếu qua synthetic data generation, feature matching hoặc logit matching. Mặc dù distillation đã trở thành tiêu chuẩn (ví dụ Llama 3.1 405B của Meta được cấp phép rõ ràng cho mục đích này), năm 2026 chứng kiến các tranh chấp lớn khi OpenAI cáo buộc DeepSeek, Anthicism cáo buộc Qwen (Alibaba) và báo cáo về việc truy cập tài khoản giả để khai thác Claude, cùng Google can thiệp các tấn công vào Gemini. Chưa có kiểm toán pháp y hay phán xét tòa án nào giải quyết được các cáo buộc này, và xung đột cơ bản giữa việc mô hình bị bộc lộ qua API và được bảo vệ khỏi sao chép vẫn chưa được giải quyết.

Bài này giúp lập trình viên hiểu rõ thực trạng pháp lý và kỹ thuật của mô hình model distillation trong bối tranh tranh bản quyền công nghệ AI.

We Automated Over 15,000 Security Reviews Without Letting AI Decide Everything

Để giải quyết bài toán kiểm tra bảo mật mất hàng giờ, công ty đã triển khai hệ thống automation với 15,000+ security reviews. Họ kết hợp deterministic controls và specialized AI agents để xử lý tác vụ nhưng vẫn giữ con người giám sát an toàn. Nhờ hệ thống này, thời gian verification giảm từ vài giờ xuống còn vài phút. Bài học đáng học là cách thiết kế hybrid approach giữa AI và human oversight mà không để AI tự quyết định, sử dụng safe escalation khi cần xử lý phức tạp. Các công nghệ như deterministic controls và specialized AI agents được tận dụng tối ưu để đạt hiệu suất cao.

Bài viết này giúp lập trình viên hiểu cách kết hợp kiểm soát xác định và AI chuyên dụng để tự động hóa hiệu quả quy trình rà bảo mật.