Fairness Pruning: Finding Demographic Bias Neurons in LLMs (And What Happens When You Remove Them)

I Built a Tool-Calling Agent in Python. Here’s How I Debugged It

Bài viết hướng dẫn xây dựng một agent gọi công cụ (tool-calling agent) bằng Python từ đầu, không sử dụng framework, tích hợp API của OpenAI, gọi các API công cộng (Nominatim, Open-Meteo), xác thực tham số bằng JSON Schema, trả về payload gọn nhẹ và xử lý lỗi API khéo léo. Quá trình debug được thực hiện thông qua transcript ghi lại mọi tương tác, hỗ trợ logging tới Weights & Biases Weave, và có chế độ preflight verify để kiểm tra lớp Python trước khi tiêu tốn token API.

Những lập trình viên muốn xây dựng các hệ thống tự động hóa công cụ hiệu quả từ cơ bản, tránh rơi vào nhầm lẫn giữa các framework cao cấp mà không hiểu rõ cơ sở logic, nên đọc để học cách thiết kế và debug một agent từ đầu, từ việc xử lý yêu cầu API đến kiểm tra và log chi tiết.

Best AI Cost Forecasting Platforms: Top 8 in 2026

Các nền tảng dự báo chi phí AI (như Finout, CloudZero, Vantage, Langfuse) giúp ước tính trước token, inference và chi phí GPU trước khi hóa đơn đến. Finout tối ưu cho doanh nghiệp cloud và phân bổ AI, CloudZero phân tích kinh tế đơn vị, Vantage hỗ trợ đa cloud, còn Langfuse cung cấp chi tiết theo từng token.

Lập trình viên AI nên đọc bài này để hiểu cách tối ưu chi phí triển khai mô hình, từ việc dự báo chi phí token, GPU đến quản lý chi phí cloud một cách chính xác và hiệu quả.

Locking Pretrained Weights via Deep Low-Rank Residual Distillation

Các mô hình ngôn ngữ open-weight ngày càng cải thiện chất lượng nhờ chia sẻ trọng số, nhưng điều này cũng gây rủi ro bị khai thác trái phép. Phương pháp "Deep Low-Rank Residual Distillation" đề xuất khóa trọng số đã huấn luyện bằng cách phân rã thấp cấp sâu, vừa bảo vệ sở hữu trí tuệ vừa giữ được hiệu suất.

Một lập trình viên nên đọc bài này để hiểu cách tối ưu hóa hiệu suất và bảo mật của mô hình AI bằng cách giữ nguyên trọng số ban đầu của mô hình đã được huấn luyện (pretrained) trong quá trình đào tạo lại (fine-tuning) bằng cách sử dụng kỹ thuật low-rank residual distillation, giúp tiết kiệm tài nguyên và bảo vệ thông tin nhạy cảm.

I shipped an AI Agent. It broke in 3 days. Here’s the eval I should have written first.

Một kỹ sư AI junior chia sẻ kinh nghiệm khi AI Agent của anh ấy hoạt động được 3 ngày thì bị lỗi, và đề xuất nên viết sớm quy trình đánh giá (eval) kỹ lưỡng hơn để ngăn chặn vấn đề từ giai đoạn phát triển.

Bài viết giúp lập trình viên AI hiểu cách chuyển từ dự án đơn giản trên máy cá nhân sang hệ thống thực tế, tránh những lỗi thường gặp khiến sản phẩm không hoạt động như mong đợi trong môi trường sản xuất.

Ontogeny Recapitulates the Relcache

Một nhà phát triển đã tạo ra 'claudegres', một cơ sở dữ liệu tương thích PostgreSQL nơi Claude đảm nhiệm toàn bộ backend, từ phân tích cú pháp SQL đến lập kế hoạch truy vấn và lưu trữ dữ liệu. Thí nghiệm cho thấy Claude tự tái tạo lại các thành phần như relcache và bootstrapping catalog của PostgreSQL, nhưng thất bại trong các tác vụ đòi hỏi tính chính xác byte như đếm dung lượng, sinh ra các kế hoạch EXPLAIN không hợp lệ, và cần prompts khuyến khích để hoàn thành xây dựng index. Việc tải dữ liệu khối lượng lớn là hoạt động đáng tin cậy nhất khi Claude ủy thác cho mã xác định. Kết luận: LLMs hiểu ngữ nghĩa SQL khá tốt nhưng không thể xử lý công việc quản lý byte chính xác của một database engine, như WAL, MVCC, giao dịch hay lưu trữ xác định.

Những kiến thức về cơ chế cơ bản của PostgreSQL như relcache, catalog bootstrapping và WAL sẽ giúp bạn hiểu rõ hơn về giới hạn của mô hình AI như Claude khi xử lý SQL, từ đó xây dựng các giải pháp hiệu quả hơn khi kết hợp công nghệ này với backend.

Goodhart’s Law Comes for Every Benchmark You Trust – Communications of the ACM

Các tiêu chuẩn đánh giá AI (benchmarks) thường bị phá vỡ bởi hai vấn đề: nhiễm dữ liệu huấn luyện (mô hình ghi nhớ câu hỏi từ bộ dữ liệu công khai) và thao túng bảng xếp hạng (các phòng thí nghiệm nộp phiên bản tối ưu hóa). Ví dụ, GSM1k giảm tới 13% độ chính xác khi đối mặt với bài toán mới, trong khi MMLU chứa ~6,5% câu hỏi lỗi. Giải pháp đề xuất gồm bộ kiểm tra riêng tư, phát hiện nhiễm dữ liệu và xây dựng tiêu chuẩn chuyên biệt từ dữ liệu riêng thay vì dựa vào bảng xếp hạng công khai.

Lập trình viên AI nên đọc bài này để hiểu cách các benchmark không còn phản ánh thực tế khả năng của mô hình mà trở thành công cụ cho các chiến thuật "trò chơi" để giành điểm cao, từ đó tránh rủi ro xây dựng hệ thống dựa trên dữ liệu giả mạo hoặc kết quả không đáng tin.

MCP Is Last-Mile Plumbing

MCP (Model Context Protocol) được ví như "hệ thống ống nước cuối cùng" (last-mile plumbing) trong kiến trúc AI, đảm nhiệm vai trò kết nối và vận chuyển dữ liệu đầu vào/đầu ra giữa các mô hình.

Lập trình viên nên đọc bài này để hiểu rõ về Model Context Protocol (MCP)—cách thức chuẩn hóa và tối ưu hóa giao tiếp giữa các mô hình AI/ML trong ứng dụng cuối cùng, giúp tránh rắc rối về dữ liệu và tăng hiệu suất thực thi.

Velocity: Why the Best Software Architects Move the Slowest

Sử dụng LLM và AI agents giúp tăng tốc độ sản xuất phần mềm đáng kể, nhưng cũng kéo theo …