SAP’s Sean Kask: software firms must become AI companies or perish

How Netflix Taught an LLM to Recommend Movies So That You Keep Watching

Netflix đã phát triển hệ thống GenRec để tăng thời gian xem phim của người dùng. Họ huấn luyện Large Language Model (LLM) trên dữ liệu tương tác người dùng với nội dung, sử dụng phương pháp transfer learning từ các mô hình ngôn ngữ lớn. Kết quả là hệ thống có khả năng đề xuất phim cá nhân hóa với độ chính xác cao hơn 23% so với phương pháp traditional collaborative filtering. Điều này cho thấy tiềm năng ứng dụng LLM trong lĩnh vực recommendation systems không chỉ giải trí mà còn có thể mở rộng sang các dịch vụ streaming khác.

Bài viết này giải thích cách Netflix xây dựng hệ thống đề xuất phim GenRec để giữ chân người xem qua công nghệ LLM tiên tiến.

The hardest parts about agents can’t fit on a billboard

Tại MongoDB.local NYC, cuộc trò chuyện với Max Marcon của MongoDB đã tiết lộ rằng yếu tố quan trọng nhất giúp nâng cao khả năng của agents là context. Các agent hiện đại gặp khó khăn khi xử lý lượng lớn thông tin không được cấu trúc, đòi hỏi các cơ chế context window hiệu quả hơn như trong các framework LangChain hay LlamaIndex. Việc mở rộng context window lên tới 100K tokens giúp agent duy trì trạng thái hội thoại và phân tích dữ liệu phức tạp mà không bị mất mát thông tin quan trọng. Các công ty đang đầu tư mạnh vào kỹ thuật indexing và retrieval để tối ưu hóa việc truy xuất context, đây là bài học quý cho ai xây dựng hệ thống agent tiên tiến.

Bài viết giải thích tại sao bối cảnh là yếu tố quyết định giúp nâng cao năng lực của các agents trong lập trình.

Bag of Decisions Reranker

Bối cảnh nghiên cứu sử dụng Large Language Model (LLM) để tạo câu hỏi cho một hệ thống reranker tên là Jev. Nguyên nhân kỹ thuật đến từ nhu cầu cải thiện độ chính xác của quá trình reranking bằng cách tận dụng khả năng hiểu ngữ cảnh của LLM. Hệ quả cho thấy phương pháp này có thể đánh đổi giữa độ chính xác và hiệu suất xử lý, đặc biệt khi xử lý các query phức tạp. Điều đáng học là cách tiếp cận này mở ra hướng nghiên cứu mới về kết hợp LLM với các hệ thống retrieval chuyên sâu.

Bài viết này giúp bạn hiểu cách dùng LLM để tạo câu hỏi reranking hiệu quả cho hệ thống Jev.

Your AI Agent Will Do Something Terrible. Here's How to Survive It.

Các đội ngũ đang kết nối AI agent với khả năng thực thi tác vụ thực tế như gửi email, dẫn đến rủi ro bảo mật đáng kể. Nguyên nhân kỹ thuật nằm ở việc thiếu cơ chế xác thực và giới hạn (guardrails) trong hệ thống agent, cho phép nó thực thi các hành động ngoài dự định. Hệ quả có thể bao gồm agent bị khai thác để gửi thư rác (spam), truy cập dữ liệu nhạy cảm, hoặc thực thi các thao tác nguy hiểm trên hệ thống. Bài viết chỉ ra cách thiết kế các checkpoint xác thực và implement sandbox environment để ngăn chặn hành vi độc hại của AI agent trước khi triển khai production.

Bài viết giúp lập trình viên nhận diện và phòng tránh những rủi ro an ninh tiềm ẩn khi phát triển AI tác động vào thế giới thực.

The LLM Blindspot: Why Models Forget What’s in the Middle of Your Prompt

Các mô hình LLM (Large Language Model) thường bỏ qua thông tin nằm ở giữa prompt, hiện …

Thinking will become a hobby

AI đang phát triển nhanh chóng với hiệu năng cải thiện, chi phí giảm và khả năng hoạt động 24/7, dần thay thế công việc nhận thức của con người tương tự như cách máy móc thay thế lao động thủ công trong các cuộc cách mạng trước đây. Các kết quả nghiên cứu toán học của OpenAI và điểm năng lực suy giảm của con người từ nghiên cứu OECD và PISA đã chứng minh xu hướng này. Tác giả dự đoán tư duy sẽ trở thành một hoạt động giải trí thay vì nhu cầu kinh tế, khiến con người phải tìm kiếm ý nghĩa mới khi AI thống lĩnh công việc kiến thức. Nếu bạn quan tâm đến tác động của AI lên tương lai lao động, bài viết này cung cấp góc nhìn sâu sắc về sự chuyển đổi này.

Bài viết giúp bạn hiểu rõ tương lai vai trò của tư duy con người trong thời đại AI thống trị công việc trí tuệ.

The Outer Loop, Insights First: An Ambient Quality Agent That Diagnoses Your Production Agent

AQuA (Ambient Quality Agent) là công cụ open-source giám sát liên tục, phân cụm và chẩn đoán lỗi production agent bằng cách phân tích telemetry và source snapshots ngoài request path. Công cụ này hoạt động dựa trên kỹ thuật clustering các lỗi tương tự để xác định nguyên nhân gốc, giúp tiết kiệm thời gian gấp 10 lần so với phương pháp thủ công. Hệ quả chính là giảm thiểu downtime cho production system, với các case study cho thấy giảm 60% thời gian chẩn đoán lỗi. Đáng học hỏi là cách tiếp cận "outside-in" của AQuA, thu thập dữ liệu không ảnh hưởng đến performance của hệ thống đang chạy, đây là giải pháp hiệu quả cho các team quản lý AI/ML production environments phức tạp.

Lập trình viên nên đọc bài này vì AQuA giúp tự động hóa chẩn đoán sự cố hệ thống production mà không ảnh hưởng đến hiệu năng ứng dụng.