AI is Giving Terrorists the Expertise They Could Never Recruit

‘HalluSquatting’ Compromises AI Coding Agents to Install Malware, Create Botnets

Các nhà nghiên cứu phát hiện kỹ thuật tấn công "HalluSquatting" lợi dụng ảo giác (hallucination) của AI coding agent (như GitHub Copilot, Cursor) để ép chúng tải về gói/mã độc ẩn danh. Kỹ thuật này đạt tỷ lệ ảo giác 85% cho tên repository và 100% cho cài đặt kỹ năng, cho phép kẻ tấn công thực thi mã từ xa và tạo botnet mà không cần tiếp cận trực tiếp nạn nhân.

Lập trình viên nên đọc bài này để hiểu cách kẻ tấn công lợi dụng sai sót trong AI hỗ trợ lập trình để tránh phát hiện, lây nhiễm mã độc vào dự án của mình mà không cần tương tác trực tiếp với người dùng.

21 Days of LLMs, Day 2: Tokens, Context Windows, and Why Your API Bill Just Exploded

Token là đơn vị tính phí cơ bản của LLM chứ không phải từ ngữ — mỗi token tương đương khoảng 4 ký tự hoặc 3/4 từ. Các nhà cung cấp sử dụng bộ token hóa khác nhau khiến cùng một văn bản có thể tốn chi phí gấp nhiều lần trên nền tảng này so với nền tảng khác. Cửa sổ ngữ cảnh (context windows) của các mô hình tiên tiến năm 2026 đạt 1 triệu token trở lên, nhưng việc nhồi nhét dữ liệu vào sẽ đẩy chi phí tăng vọt. Một ví dụ thực tế cho thấy gửi 30 tài liệu dưới dạng một prompt duy nhất tốn 47 USD, trong khi chuyển sang phương pháp truy xuất từ cơ sở dữ liệu vector giảm chi phí tới 96%. Bài học quan trọng: hãy đếm token trước mỗi lần gọi API, triển khai ghi log chi phí từ sớm và nhớ rằng chi phí theo yêu cầu sẽ nhân lên chóng mặt khi mở rộng quy mô.

Lập trình viên nên đọc bài này để tránh bị bạc bẽo khi tính toán chi phí API của các mô hình ngôn ngữ lớn, đặc biệt khi xử lý dữ liệu lớn và tối ưu hóa chi phí mà không biết cách kiểm soát số lượng token và cách xử lý window ngữ cảnh.

GitHub AI agent leaks private repos when asked nicely

GitHub's AI agent có lỗ hổng bảo mật 'GitLost' cho phép rò rỉ dữ liệu private repository …

Can We Understand How Large Language Models Reason? – Communications of the ACM

Các nhà nghiên cứu đang phát triển phương pháp mechanistic interpretability để giải mã cách các mô hình ngôn ngữ lớn (LLM) suy luận bên trong, thay vì chỉ quan sát đầu ra. Họ sử dụng các công cụ từ causality và logic để xác định khi nào mạng nơ-ron triển khai thuật toán cấp cao, như trường hợp Llama giải bài toán số học tuần hoàn bằng cách chuyển đổi sang phép cộng thập phân. Mặc dù lĩnh vực này hứa hẹn cải thiện độ an toàn và tin cậy của LLM, nhưng việc áp dụng kỹ thuật này cho các mô hình quy mô lớn vẫn còn nhiều thách thức.

Để hiểu rõ cơ chế suy luận logic và thuật toán trong các mô hình ngôn ngữ lớn, giúp cải thiện khả năng xây dựng ứng dụng an toàn, hiệu quả và ít bị sai lệch hơn.

I have 21 Docker containers and zero documentation — my local LLM fixed that in an hour

Một người dùng homelab với 21 container Docker không có tài liệu đã sử dụng mô hình Gemma 4 chạy cục bộ (qua Ollama) để phân tích ngược các file Docker Compose thành một wiki Markdown có cấu trúc. Họ xây dựng một dashboard tùy chỉnh (Vite/Tailwind/FastAPI) để cung cấp file cho mô hình và nhận kết quả theo luồng, tạo ra tài liệu dễ đọc về mục đích dịch vụ, cổng, volumes, phụ thuộc và ghi chú bảo trì trong chưa đầy một giờ.

Lập trình viên nên đọc bài này để khám phá cách sử dụng các mô hình ngôn ngữ lớn (LLM) như Ollama để tự động hóa việc tạo tài liệu kỹ thuật từ cấu trúc Docker, tiết kiệm thời gian và giảm thiểu công sức thủ công trong việc tổ chức và cập nhật hệ thống.

Let AI Burn

Bài viết cho rằng ngành AI đang là một bong bóng không bền vững, dựa trên tài trợ vòng …

How LLM Routing Actually Works in Production

Việc định tuyến LLM trong sản xuất phức tạp hơn việc phân loại đơn giản, do chi phí ẩn từ caching prompt: nhà cung cấp giảm ~90% phí cho token đã xem, nhưng cache này chỉ áp dụng riêng cho từng model. Nếu router chuyển model giữa chừng, cache sẽ mất và toàn bộ ngữ cảnh phải trả phí "lạnh", triệt tiêu lợi ích tiết kiệm. Giải pháp là "model affinity" – định tuyến một lần cho mỗi tác vụ và ghim model vào session ID để cache giữ ấm. Quy trình sản xuất đầy đủ gồm 4 giai đoạn: lọc rào cản an toàn, model định tuyến nhỏ, chính sách chọn lựa chi phí/tốc độ, và ghim model affinity. Open-source proxy Plano triển khai quy trình này với cấu hình YAML và sử dụng Arch-Router (1.5B model) để đưa ra quyết định dựa trên dữ liệu ưu tiên của người dùng.

Lập trình viên cần đọc để hiểu cách tối ưu hóa chi phí và hiệu suất của hệ thống xử lý LLM bằng cách tránh mất cache giữa các yêu cầu, từ đó giảm thiểu chi phí không mong muốn và cải thiện trải nghiệm thực tế khi triển khai.