Balancing AI and Software Security with Mark Russinovich

Fragments: September 8

Christian Catalini đề xuất khái niệm "counterfeit utility" trong AI, giải thích khoảng cách giữa việc tạo ra và xác minh output của LLM. Brian Cantrill cho thấy độc giả đang phản đối văn bản do LLM viết và sử dụng công cụ Pangram để phát hiện chúng. Các nhà xuất bản âm nhạc đang kiện Anthropic vì sử dụng lời bài hát trong training data mà không có giấy phép. Jessica Kerr lập luận các agents AI thiếu kiến thức "Verum Factum" và cần testing nghiêm ngặt hơn. Jim Gumbley phân tích động lực shaping quyết định của Sam Altman, Dario Amodei và David Sacks về giám sát AI, trong đó OpenAI's Astra model khó monitor hơn dù có điểm alignment tốt hơn.

Bài này cung cấp góc nhìn sâu sắc về tác động của AI lên công nghệ và viết lách, giúp lập trình viên hiểu rõ thách thức và cơ hội trong kỷ nguyên trí tuệ nhân tạo.

Audit Your Auth0 Tenant with Auth0 Agent Skills

Perform a secure Auth0 tenant audit using Auth0 Agent Skills. Learn how to give AI coding agents live visibility to fix identity management issues safely.

Reflectiz Launches Agentic Pentesting for Websites: Up to 10x Coverage vs Conventional Pentests

Reflectiz mới ra mắt pentesting có tính agent, giúp mở rộng phạm vi kiểm tra bảo mật website lên đến 10 lần so với pentesting truyền thống. Công nghệ này sử dụng hệ thống agent để tự động khám phá và phân tích các hành người dùng thực tế, giúp phát hiện lỗ hổng mà các phương pháp thủ công bỏ sót. Phương pháp mới này đặc biệt hiệu quả trong việc phát hiện các lỗ hổng logic, xác thực và các vấn đề liên quan đến session management. Lập trình viên nên cân nhắc sử dụng Reflectiz để tăng cường bảo mật ứng dụng, đặc biệt với các dự án phức tạp có nhiều luồng tương tác người dùng.

Reflectiz ra mắt phương pháp kiểm thử xâm nhập thông minh cho website, mang lại phạm vi bảo mật gấp 10 lần so với các phương pháp truyền thống.

Schneier on Security

Các nhà cung cấp LLM hàng đầu như Anthropic, OpenAI và Google hiện trả về các chuỗi suy luận (chain-of-thought) dưới dạng khối dữ liệu được mã hoá cho khách hàng thay vì lưu giữ ở phía máy chủ. Các khối mã hoá này có thể hoán đổi lẫn nhau giữa các phiên, người dùng và mô hình trong cùng một nhà cung cấp, cho phép kẻ tấn công chèn một trace được mã hoá từ mô hình mạnh vào mô hình yếu và buộc mô hình yếu giải mã và xuất ra bản rõ. Kết quả là các nhà nghiên cứu đã trích xuất được suy luận riêng của ba công ty trên, đồng thời thu được 367 artefacts thông tin cá

Nghiên cứu tiết lộ lỗ hổng kiến trúc nghiêm trọng trong bảo vệ chain-of-thought reasoning của các LLM hàng đầu, đe dọa an ninh dữ liệu và quyền riêng tư của người dùng.

Compare Against the Schema They Shipped, Not the One You Expected

Khi kiểm thử mô hình AI, nhóm phát triển sử dụng một harness tự động để xác nhận các đối số mà mô hình trả về. Harness này so sánh dữ liệu thực tế với một schema mà đội ngũ mong đợi, thay vì schema mà mô hình đã được triển khai thực tế. Do sự chênh lệch này, harness báo lỗi liên tục dù mô hình hoạt động đúng theo phiên bản đã ship, gây mất thời gian debug và giảm niềm tin vào công cụ kiểm thử. Bài học là luôn kiểm tra output so sánh với schema thực tế mà mô hình đã được phát hành, dựa trên tài liệu hoặc phiên bản artifact đã deploy. Việc áp dụng nguyên tắc này giúp giảm false positive trong quá trình testing và tăng độ tin cậy của pipeline CI/CD cho các dự án AI open-source.

Bài viết giúp bạn hiểu cách kiểm tra API chính xác bằng cách so sánh với schema thực tế thay vì schema dự kiến để phát hiện lỗi bảo mật sớm.

The Trap of Doing It Myself

Bài viết bắt đầu từ quan niệm phổ biến “Nhanh hơn nếu tôi tự làm” và chỉ ra rằng đây là một đo lường, nhưng câu hỏi thực sự là chúng ta đang đo lường gì. Tác giả giải thích rằng khi đo lường chỉ bằng thời gian hoàn thành công việc cá nhân, chúng ta bỏ qua các chi phí ẩn như việc tạo ra kiến thức cô lập, giảm khả năng chia sẻ và tăngภาระ bảo trì sau này. Anh ấy minh họa qua một ví dụ về một engineer dành thời gian sửa một bug nhỏ mà không comunica với đội, dẫn đến việc cùng một lỗi được sửa lại nhiều lần trong các thành phần khác nhau do thiếu tài liệu chung. Kết quả là, mặc dù thời gian ban đầu ngắn hơn, tổng thời gian phát triển và hỗ trợ tăng lên đáng kể, đồng thời chất lượng mã giảm do thiếu review và kiểm tra đồng nghiệp. Bài học chính là cần đo lường không chỉ tốc độ mà còn tác động đến kiến thức chung, độ bền và khả năng mở rộng, từ đó quyết định khi nào nên delegating hoặc đầu tư vào tự động hóa, chia sẻ kiến thức và code review.

Bài này giúp lập trình viên nhận ra sai lầm khi tự làm mọi thứ thay vì hợp tác để nâng cao hiệu quả và chất lượng công việc.

Ruby & Rails Weekly: KindaRails2Shell Exploited, Ractor Rails

CVE-2026-66066, ban đầu chỉ là một proof‑of‑concept, đã bắt đầu được khai thác tích cực từ ngày 30 tháng 8, ảnh hưởng đến các ứng dụng Ruby on Rails sử dụng thư viện KindaRails2Shell. Nguyên nhân kỹ thuật là lỗi xác thực đầu vào không đủ trong KindaRails2Shell cho phép kẻ tấn công chèn lệnh shell tùy ý và thực hiện mã từ xa. Hệ quả là các hệ thống chạy phiên bản lỗi có thể bị kiểm soát hoàn toàn, dẫn đến rò rỉ dữ liệu và mất kiểm soát máy chủ, đồng thời bản tin cũng chỉ ra các tính năng mới như Ractor-ready Rails, ZJIT nội tuyến các đường dẫn nhanh của garbage collection, Agents on Rails và mô hình thử nghiệm GPT-6 Astra. Bài học cần rút ra là luôn cập nhật các gem bên thứ ba, theo dõi nguồn cấp thông tin CVE để phát hiện nhanh quá trình từ PoC sang khai thác, và cân nhắc áp dụng các cải tiến về đồng thời và JIT như Ractor và ZJIT để tăng cường cả bảo mật và hiệu suất.

Lập trình viên nên đọc bài này để cập nhật lỗ h bảo mật CVE-2026-66066 đang bị khai thác tích cực và các tiến bộ mới nhất về Ruby on Rails.