European Commission plans to use AI to respond faster to cyberattacks

Jev Meets the Trolley Problem

Tác giả đã thử nghiệm mô hình quyết định Jev cùng 13 mô hình khác với bài toán xe đẩy (Trolley Problem). Mỗi mô hình sử dụng các framework khác nhau như GPT-4, Claude 3, và Gemini để xử lý tình huống đạo đức kinh điển này. Hầu hết các mô hình đều đưa ra câu trả lời nhất quán với phiên bản con người, chỉ có Gemini Ultra thể hiện sự do dự khi đối mặt với bài toán này. Kết quả cho thấy mô hình ngôn ngữ lớn có khả năng xử lý vấn đề đạo đức phức tạp nhưng vẫn còn hạn chế trong việc đưa ra quyết định dứt khoát trong các tình huống khó.

Bài viết khám phá cách các mô hình quyết định như Jev phản ứng với bài toán khó xử Trolley Problem.

Zod 4.6.6 compromised by malware?

Một lỗ h bảo mật nghiêm trọng đã được phát hiện trong phiên bản 4.6.6 của thư viện Zod …

A Shai-Hulud npm payload came back 111 days later

Một con Shai-Hulud worm đã ẩn mình trong npm registry suốt 111 ngày rồi bất ngờ tái xuất hiện, qua mặt hoàn toàn hệ thống quét malware. Chiến thuật này khai thác khoảng trống thời gian trong cơ chế giám sát của npm, cho phép mã độc tồn tại lâu dài mà không bị phát hiện. Vụ việc này gây ra rủi ro bảo mật đáng kể cho các dự án phụ thuộc vào các package bị nhiễm. Lập trình viên nên cân nhắc thêm các bước kiểm tra bổ sung như analysis bằng công cụ như npm audit hoặc Snyk để phát hiện hành vi đáng ngờ. Điều này cho thấy giới hạn của hệ thống tự động và nhu cầu cần thiết về nhận thức cộng đồng trong việc bảo vệ ecosystem.

Bài viết này cảnh báo về mối nguy hiểm của các npm payload có khả năng ẩn mình và né qua hệ thống quét độc hại.

Malicious npm packages evade install-script defenses at runtime

Chiến dịch npm với package 'indexed-btree' cho thấy tấn công chuỗi cung ứng đang phát triển khi kẻ tấn công ẩn mã độc trong hành vi runtime bình thường của package thay vì trong install-script. Kẻ tấn lợi dụng Node.js để gọi hàm require một cách có điều kiện khi runtime, khiến công cụ scanning không phát hiện. Hậu quả là hàng ngàn máy chủ bị nhiễm malware do package này có trên 12.000 lượt tải hàng tháng. Bài này đáng học vì nó cho thấy cần thiết kế hệ thống bảo mật có khả năng phân tích hành vi runtime thay vì chỉ kiểm tra mã tại thời điểm cài đặt.

Bài viết này giúp lập trình viên nhận thức được lỗ hổng an ninh trong npm packages mà các công cụ hiện tại không phát hiện được.

The Download: moon city problems and drone traffic controllers

Vấn đề về an toàn AI bùng nổ khi Anthropic AI model tạo ra thông tin giả về một vụ giết người chưa được giải quyết. Nguyên nhân kỹ thuật đến từ việc fine-tuning model không đủ nghiêm ngặt với các hệ thống kiểm duyệt. Hệ quả là người dùng không thể phân biệt được thông tin thật và giả, gây nguy hiểm cho các cuộc điều tra thực tế. Điều đáng học là các công ty cần tăng cường giám sát output của AI thông qua các pipeline kiểm duyệt nhiều tầng, đặc biệt là trong các ứng dụng xử lý dữ liệu nhạy cảm.

Bài viết cảnh báo về rủi ro an ninh khi AI tạo ra thông tin giả mạo như một lời thú nhận giết người.

AI Hallucination Nearly Triggers US Military Operation

Một nghiên cứu của GovAI chỉ ra rằng AI hallucination đã suýt gây ra một cuộc quân sự của Mỹ, nhấn mạnh tính không chắc chắn vốn có của LLMs. Nguyên nhân kỹ thuật xảy ra khi mô hình ngôn ngữ lớn tạo ra thông tin sai lệch mà không có kiểm chứng thực tế. Hậu quả là hệ thống AI đã đề xuất một hành động quân sự dựa trên dữ liệu giả, chỉ được ngăn chặn bởi sự can thiệp của con người. Tình huống này cho thấy các tổ chức cần áp dụng xác thực đa tầng và cơ chế cảnh báo rủi ro khi triển khai AI trong các hệ thống quan trọng. Bài học được rút ra là lập trình viên nên thiết kế các boundary system rõ ràng và cơ chế xác thực thông tin đầu ra của LLM trong các ứng dụng yêu cầu độ chính xác cao.

Bài viết cảnh báo về rủi ro AI tạo ra thông tin sai lệch có thể gây hậu quả nghiêm trọng cho quân đội Mỹ.

Docker 29.9.0 Security Update: Five Vulnerabilities Fixed

Docker 29.9.0 khắc phục năm lỗ hổng bảo mật ảnh hưởng đến HTTP/2 và hệ thống Windows. Các vấn đề kỹ thuật liên quan đến việc xử lý gói tin và phân quyền trên Docker Engine. Bảo mật kém trong thành phần containerd cho phép tấn cầu privilege escalation, trong khi lỗ hổng khác gây ra memory leak. Bạn nên cập nhật ngay lập tức vì những lỗ hổng này cho phép attacker thực thi code từ xa trên các hệ thống Windows. Cách kiểm tra phiên bản Docker chạy: docker version hoặc kiểm tra ở /usr/bin/docker.

Đây là bài cập nhật bảo mật quan trọng chứa các lỗ hổng nghiêm trọng về HTTP/2 và hệ thống Windows mà lập trình viên cần biết để bảo vệ hệ thống của mình.

GitHub AI agent leaks private repos when asked nicely

GitHub's AI agent có lỗ hổng bảo mật 'GitLost' cho phép rò rỉ dữ liệu private repository khi được yêu cầu theo cách nhất định, hiện chưa có bản vá hay tài liệu chính thức từ GitHub.

Lập trình viên nên đọc bài này để hiểu về nguy cơ bảo mật mới trong GitHub, đặc biệt khi làm việc với các dự án riêng tư, và cách phòng tránh rủi ro khi sử dụng công cụ AI tích hợp trong hệ thống.