Core PyTorch Sessions at PyTorch Conference North America 2026 – PyTorch

A deep dive into GitHub Actions

Bài viết giới thiệu GitHub Actions là nền tảng CI/CD tích hợp sẵn trong GitHub, cho phép định nghĩa quy trình qua file YAML workflow. Giải thích chi tiết về runner (self‑hosted và GitHub‑hosted), cách job graph được xây dựng từ các bước (steps) và phụ thuộc (needs), cũng như cách lưu trữ artefacts và sử dụng cache để tăng tốc build. Điểm mạnh là khả năng bảo mật qua secrets, OIDC token và môi trường isolated, đồng thời hỗ trợ triển khai (deploy) tới các dịch vụ như Azure, AWS, Kubernetes và công cụ debug qua log thực time và công cụ replay. Bài cũng chỉ ra các hạn chế phổ biến như thời gian chạy tối đa của runner miễn phí, giới hạn kích thước cache và chi phí khi sử dụng self‑hosted runner ở quy mô lớn. Từ đó, tác giả khuyên equipe nên thiết kế workflow mô-đun, tận dụng cache và artifacts hợp lý, kiểm soát secrets qua môi trường và theo dõi sử dụng runner để tối ưu chi phí và độ tin cậy của pipeline.

Bài này cung cấp hướng dẫn toàn diện giúp bạn tối ưu hóa quy trình CI/CD với GitHub Actions cho dự án của mình.

Cold Start Latency on Serverless Inference: What Actually Happens in Those Few Seconds

Khi chạy mô hình học sâu trên nền tảng serverless như AWS Lambda, Azure Functions hoặc Google Cloud Run, mỗi lần gọi đầu tiên sẽ trải qua giai đoạn cold start khiến latency tăng đáng kể. Latency chủ yếu xuất phát từ thời gian tải image container, giải nén và khởi tạo runtime, đồng thời phải load mô hình từ bộ lưu trữ (S3, Blob Storage) vào RAM, và thời gian này tỷ lệ thuận với kích thước mô hình – ví dụ một mô hình 2 GB có thể cần 3‑5 giây để load. Hệ quả là các request đầu tiên gặp trễ từ vài trăm miligiây (đối với hàm nhẹ) tới vài giây (đối với mô hình lớn), làm giảm trải nghiệm người dùng và gây khó khăn trong các ứng dụng cần phản hồi real‑time như chatbot hoặc xử lý video. Các tối ưu như giảm kích thước mô hình qua quantization hoặc pruning, sử dụng lớp cache /tmp hoặc EFS, bật tính năng provisioned concurrency hoặc AWS Lambda SnapStart, và chọn runtime dựa trên hình ảnh cơ sở nhỏ (distroless, Alpine) có thể cắt giảm cold start xuống dưới 500 ms cho hầu hết các trường hợp. Kết hợp các kỹ thuật trên không chỉ giảm latency mà còn tiết kiệm chi phí do giảm thời gian thực thi và số lần khởi tạo container.

Bài viết giải thích rõ ràng về nguyên nhân gây độ trễ lúc khởi đầu và cách tối ưu hiệu suất cho serverless inference.

Debunking the hotfix pipeline myth

Bài viết bắt đầu bằng việc chỉ ra sự quan niệm sai lầm rằng các pipeline hotfix cần được tối ưu hoá riêng biệt để giảm thời gian khắc phục lỗi. Nguyên nhân kỹ thuật là vì nhiều đội thường sao chép toàn bộ giai đoạn build, test và deploy từ pipeline chính vào pipeline hotfix, dẫn đến việc thực hiện các công việc lặp lại và tăngภาระ cho hệ thống CI/CD. Hệ quả là các pipeline hotfix thường chạy chậm hơn, tiêu tốn tài nguyên và làm chậm phản hồi hồi quy, đồng thời làm giảm độ tin cậy của quy trình phát hành tổng thể. Bài khuyên rằng đầu tư vào việc làm cho pipeline mặc định nhanh và hiệu quả nhất sẽ tự động mang lại lợi ích cho mọi hotfix, vì chúng kế thừa cùng các giai đoạn đã được tối ưu. Bài học chính là thay vì đầu tư riêng cho hotfix, équipes nên tập trung cải thiện pipeline CI/CD cơ bản (ví dụ: tối ưu hoá cache, chạy song song các job, giảm thời gian khởi tạo agent) để đạt được tốc độ và độ tin cậy cao nhất cho tất cả các loại thay đổi.

Bài này giúp lập trình viên hiểu tại sao tối ưu hóa pipeline mặc định quan trọng hơn việc xây dựng hotfix pipeline, giúp cải thiện chất lượng và hiệu suất toàn bộ quy trình phát triển phần mềm.

Agentic Code Quality

Bối cảnh: Sự tăng trưởng của các AI agent như GitHub Copilot, Amazon CodeWhisperer đang …

Composition and Modular Verification of TLA+ specs

Bài viết bắt đầu từ vấn đề khi ghép hai specs TLA+ đóng lại qua trạng thái chung dẫn đến việc quá ràng hệ thống. Giải pháp là viết specs "mở" với hành động Env rõ ràng (rely) để mô tả môi trường có thể thực hiện. Quy trình xác minh mô-đun gồm ba bước: kiểm tra từng component độc lập, chứng minh các nghĩa vụ rely đối với vũ trụ "mixed-up" của các trạng thái đúng kiểu, rồi kết hợp bằng quy�� quy induction. Ví dụ minh họa là kênh producer/consumer, cho thấy cách các義務 rely được giải phóng và toàn hệ thống được xác minh mà không cần model checking toàn bộ. Bài kết luận rằng việc xác minh mô-đun giúp giữ ranh giới thiết kế, và với sự hỗ trợ của TLAPS, đặc biệt là tính năng viết chứng minh bằng LLM, chi phí chứng minh đang trở nên cạnh tranh với model checking.

Bài viết này giúp lập trình viên hiểu cách xác minh mô-đun và kết hợp đặc tả TLA+ một cách hiệu quả bằng cách tránh ràng buộc quá mức hệ thống và áp dụng các phương pháp chứng minh thực tế.

pnpm 11.21-11.22

pnpm 11.21 và 11.22 thay đổi cách pnpm install xử lý lockfile, cập nhật nó trực tiếp thay vì giải quyết lại toàn bộ đồ thị phụ thuộc cho hầu hết các thay đổi thường ngày. Điều này được thực hiện bằng cách tắt ghi lại SSH URLs trong lockfile, giúp tránh lỗi cài đặt trên CI khi các URL đó không thể truy cập. Đồng thời, các cài đặt toàn cầu được thực hiện nguyên tử và các cập nhật tương tác toàn cầu теперь chọn toàn bộ nhóm cài đặt, đồng thời thêm lệnh pnpm cache path để truy cập nhanh vào thư mục cache. Tuy nhiên, bản cập nhật cũng loại bỏ khả năng di chuyển trạng thái máy của pnpm qua pnpm-workspace.yaml, giới hạn sự linh hoạt trong cấu hình workspace. Từ những thay đổi này, lập trình viên nên lưu ý đến chiến lược quản lý lockfile, tránh sử dụng SSH URLs trong môi trường CI và cân nhắc tác động của việc không thể di chuyển trạng thái máy khi thiết kế workspace.

Bài viết này giúp bạn hiểu những cải tiến quan trọng trong pnpm 11.21-11.22, từ tối ưu hóa hiệu suất cài đặt đến tăng cường độ ổn định cho môi trường CI.

Remote Taskfiles

Remote Taskfiles đã chính thức ra mắt sau gần 3 năm thử nghiệm.

How We Automated Angular Upgrades at Halodoc using AI

Halodoc đã tự động hóa việc nâng cấp Angular cho khoảng 40 ứng dụng sử dụng một kỹ năng Claude AI duy nhất. Hệ thống này được xây dựng dựa trên dữ liệu di chuyển migration data chính thức của Angular, đảm bảo tính chính xác kỹ thuật. Phương pháp này giúp Halodoc giảm đáng kể thời gian và nguồn lực cần thiết cho việc nâng cấp phiên bản Angular. Giải pháp của họ kết hợp giữa tự động hóa AI và quy trình kiểm tra bởi con người human review gate để đảm bảo chất lượng code sau nâng cấp. Bài viết cung cấp cái nhìn thực tế về cách tận dụng AI cho các tác vụ kỹ thuật phức tạp trong phát triển phần mềm.

Bài này tiết lộ cách Halodoc tự động nâng cấp Angular cho ~40 ứng dụng bằng AI, giúp lập trình viên tiết kiệm thời gian và giảm rủi ro khi nâng cấp dự án lớn.