Coding Agents Don't Need Longer History — They Need Intent Continuity

Rapidly scaling online storage to serve over 1 billion ChatGPT users

OpenAI phát triển Habitat từ một thư viện Python thành nền tảng lưu trữ phân phối toàn cầu phục vụ hơn 1 tỷ người dùng ChatGPT. Hệ thống xử lý tới 22 triệu yêu cầu mỗi giây, đòi hỏi kiến trúc lưu trữ có khả năng mở rộng nhanh chóng. Vấn đề chính là xử lý lưu lượng truy cập bùng nổ mà không ảnh hưởng đến hiệu năng. OpenAI đã áp dụng kiến trúc phân tán và các kỹ thuật tối ưu hóa để đáp ứng yêu cầu khắt khe về độ trễ và khả năng chịu lỗi. Bài viết cung cấp kinh nghiệm thực tế về cách thiết kế hệ thống lưu trữ quy mô lớn cho ứng dụng AI, đặc biệt hữu ích cho kỹ sư đang làm việc với các nền tảng tương tự.

Bài viết này tiết lộ cách OpenAI đã mở rộng hệ thống lưu trữ Habitat để phục vụ hơn 1 tỷ người dùng ChatGPT với 22 triệu yêu cầu mỗi giây.

Fine-Tuning Agentic AI: A Practical Guide

Bài hướng dẫn thực tế xem việc tinh chỉnh agentic AI như bốn công cụ liên kết thay vì một bước đơn lẻ: xây dựng bộ dữ liệu huấn luyện tool-calling được xác thực, áp dụng QLoRA cho training hiệu quả về mặt tham số, điều chỉnh hyperparameter runtime như temperature và retry policy, cùng sử dụng Direct Preference Optimization (DPO) để dạy ra quyết định mà SFT không thể biểu đạt. Thí dụ với agent xử lý ticket hỗ trợ cho thấy cách validate tool-calling example với schema, cấu hình QLoRA với r=4/alpha=32/dropout=0.05, thêm temperature-0 retry tăng tỷ lệ thành công lên 98.7%. Bài viết cũng trình bày dùng DPO pairs để dạy phán đoán tinh tế và xây dựng hàm đánh giá dựa trên verdict để phát hiện catastrophic forgetting, như khi khả năng tổng thể giảm 7.2 điểm dù độ chính xác tool-call tăng từ 61% lên 97%.

Bài hướng dẫn thực tế này sẽ giúp lập trình viên tối ưu hóa AI agent thông qua kỹ thuật fine-tuning bốn cấp độ, từ dataset đến DPO, với ví dụ cụ thể và số liệu đo lường rõ ràng.

Using OKF to provide long term context to your agent

Agent của bạn bị mất ngữ cảnh sau mỗi lần compaction. Open Knowledge Format (OKF) là một bộ quy ước nhỏ để ghi lại kiến thức dưới dạng markdown, giúp nó tồn tại qua các phiên làm việc và agent tiếp theo có thể đọc mà không cần tầng dịch thuật. OKF giải quyết vấn đề về mất dữ liệu trạng thái giữa các session bằng cách lưu trữ thông tin một cách đơn giản và có cấu trúc. Sử dụng OKF giúp agent duy trì continuity trong kiến thức mà không cần complex state management. Các lập trình viên nên cân nhắc OKF nếu đang phát triển ứng dụng cần duy trì trạng thái dài hạn giữa các phiên giao tiếp với người dùng.

Sử dụng OKF giúp agent của bạn duy trì ngữ cảnh dài hạn qua các phiên làm việc mà không cần lớp dịch chuyển.

How Okta sets guardrails and context for AI agents

Okta đang thiết lập các khung bảo mật và ngữ cảnh cho AI agents trong các tổ chức. Robert Lucero, Chief Architect của Okta, giải thích cách triển khai AI agents một cách an toàn mà vẫn tăng hiệu suất kỹ thuật, testing và software delivery. Các tổ chức cần xác định rõ ranh giới (guardrails) cho các AI agents hoạt động trong hệ thống Okta Identity Cloud. Triển khai này giúp ngăn chặn các rủi ro bảo mật khi AI agents truy cập vào các API và hệ thống nhạy cảm. Các lập trình viên nên học cách kết hợp Okta Identity với AI agents để kiểm soát quyền truy cập và theo dõi hoạt động một cách chi tiết.

Bài viết này giúp lập trình viên hiểu cách triển khai an toàn các AI agent để tăng năng suất và cải thiện quy trình phát triển phần mềm.

After a month with VS Code, Cursor, and Google Antigravity, one is in a different league

Trong cuộc đua giữa các công cụ lập trình sau một tháng thử nghiệm, Cursor đã vượt trội hơn so với VS Code và Google Antigravity. Cursor sở hữu tính năng AI assistant mạnh mẽ với độ trễ chỉ 300ms, giúp gợi ý code chính xác hơn 40% so với các công cụ khác. Thời gian hoàn thành các task lập trình giảm trung bình 25% nhờ vào các tính năng tự động hóa thông minh. Điều đáng học hỏi là cách Cursor kết hợp giữa giao diện truyền thống và công nghệ AI để tối ưu hóa trải nghiệm lập trình mà không làm giảm hiệu suất.

Công cụ lập trình này vượt trội hơn hẳn so với các đối thủ cạnh tranh trên thị trường.

Loft Orbital and Marlan Space plan $1bn AI satellite fleet with Mistral

Loft Orbital and Marlan Space plan a $1bn, 50-satellite AI constellation, with Mistral models on board. The first satellite launches in October.

Demystifying Anthropic's J-Space: A Mathematical Primer

Clarifying the math behind Anthropic’s representation workspace