Researcher shows how Claude Code can be tricked simply by asking it to summarize a website

Addy Osmani88 Hot15 min5 d agoAITop

Practical Loop Engineering

Bài viết bắt đầu bằng việc đặt ra mục tiêu của việc thiết kế vòng lặp trong hệ thống phần …

Kilo Blog126 Hot3 min8 d agoAI

All roads lead to metered pricing

Kỷ nguyên của mô hình trợ giá cao và định giá đăng ký cố định đang kết thúc. Cursor vừa thông báo sẽ áp dụng giá tự động dựa trên mô hình mà mỗi yêu cầu được định tuyến đến.

Bài viết này giúp lập trình viên hiểu xu hướng chuyển đổi sang mô định giá theo mức sử dụng, ảnh hưởng trực tiếp đến chi phí và cách sử dụng các công cụ AI.

#github #anthropic Source

The New Stack1 Hot4 min7 h agoAI

LM Studio built a judge for AI commands. Then the judge started agreeing with the defendant.

LM Studio đã xây dựng một hệ thống tự động gọi là Auto Review để đánh giá các lệnh shell mà mô hình AI sinh ra. Hệ thống này hoạt động bằng một lần gọi mô hình và có thể chấp nhận hầu hết các lệnh mà không cần kiểm tra thêm. Tuy nhiên, khi lệnh chứa biến, đặc điểm cụ thể của công cụ hoặc các mẫu prompt injection, quá trình đánh giá trở nên khó khăn và bắt đầu sai lệch.Trong những trường hợp khó này, Auto Review bắt đầu đồng ý với đầu vào của “defendant”, tức là chấp nhận các lệnh có thể không an toàn. Điều này cho thấy việc dựa vào một lần review đơn lọc không đủ để phát hiện các kỹ thuật tấn công qua biến số hoặc injection.Để giảm rủi ro, các nhóm nên bổ sung một bước kiểm tra thứ hai, chạy lệnh trong môi trường cài đặt sandbox hoặc áp dụng phân tích tĩnh trước khi tin tưởng vào lệnh shell được tạo bởi AI.

LM Studio trình bày hệ thống Auto Review giúp xác thực lệnh shell và phát hiện nguy cơ tấn công prompt injection hiệu quả.

#ai-agent #shell #prompt-injection Source

Elevate103 Hot15 min14 d agoAI

Practical Loop Engineering

Bài viết bàn về tầm quan trọng của vòng lặp (loops) trong kỹ thuật phần mềm, nhấn mạnh việc không ủy thác hoàn toàn quyết định cho các công cụ tự động mà phải duy trì sự kiểm soát và đánh giá chủ động.

Là người viết code hàng ngày, bạn sẽ tìm hiểu cách xây dựng các vòng lặp hiệu quả và tránh những thói quen sai lầm như tự động hóa quyết định sai lầm, giúp code trở nên rõ ràng, bảo trì dễ dàng và hiệu suất cao hơn.

#github #ai-agent #prompt-engineering Source

freeCodeCamp141 Hot1 min23 d agoAI

Claude Code Full Course

Khóa học toàn diện về Claude Code vừa được phát hành trên kênh YouTube freeCodeCamp.org, hướng dẫn từ cơ bản đến nâng cao, bao gồm cả tự động hóa quy trình phát triển.

Nếu bạn đang tìm cách nâng cao kỹ năng tự động hóa và tối ưu hóa công việc lập trình từ cơ bản đến chuyên sâu, Claude Code Full Course sẽ giúp bạn học cách sử dụng AI như Claude để giải quyết các vấn đề phát triển hiệu quả hơn.

#github #vscode #mcp Source

Halodoc14 Hot20 min7 d agoAI

How We Automated Angular Upgrades at Halodoc using AI

Halodoc đã tự động hóa việc nâng cấp Angular cho khoảng 40 ứng dụng sử dụng một kỹ năng Claude AI duy nhất. Hệ thống này được xây dựng dựa trên dữ liệu di chuyển migration data chính thức của Angular, đảm bảo tính chính xác kỹ thuật. Phương pháp này giúp Halodoc giảm đáng kể thời gian và nguồn lực cần thiết cho việc nâng cấp phiên bản Angular. Giải pháp của họ kết hợp giữa tự động hóa AI và quy trình kiểm tra bởi con người human review gate để đảm bảo chất lượng code sau nâng cấp. Bài viết cung cấp cái nhìn thực tế về cách tận dụng AI cho các tác vụ kỹ thuật phức tạp trong phát triển phần mềm.

Bài này tiết lộ cách Halodoc tự động nâng cấp Angular cho ~40 ứng dụng bằng AI, giúp lập trình viên tiết kiệm thời gian và giảm rủi ro khi nâng cấp dự án lớn.

#webdev #cicd #angular Source

The New Stack6 Hot8 min5 d agoAI

One pull to wipe them all

Một pull request độc hại đã được gửi vào kho chứa mà trợ lý coding AI đang theo dõi, với mục tiêu khiến nó thực thi lệnh xóa dữ liệu toàn bộ. Nguyên nhân kỹ thuật là hệ thống không kiểm traStrictly nội dung bên ngoài trước khi cho phép AI chạy các lệnh shell hoặc thay đổi tệp, do đó mã wiper có thể được tiêm qua thay đổi trong PR. Nếu thành công, cuộc tấn công có thể dẫn đến việc xóa sạch toàn bộ kho mã, gây mất dữ liệu và gián đoạn dịch vụ cho nhiều dự án sử dụng trợ lý đó. Vụ việc cho thấy các agent AI cần được đặt trong môi trường cát (sandbox) với quyền hạn tối thiểu và phải chịu qua các bước kiểm tra bảo mật ngoài cùng trước khi được ủy quyền thực thi. Đọc bài gốc sẽ giúp bạn hiểu rõ cách thiết kế các lớp bảo vệ như xác thực PR, giới hạn API và ghi log chi tiết để ngăn chặn các cuộc tấn công tương tự.

Bài viết cảnh báo nguy cơ an ninh nghiêm trọng khi AI coding assistant có thể bị lợi dụng để xóa dữ liệu nếu không có kiểm soát bảo mật bên ngoài.

#cyber #prompt-injection Source

The Register87 Hot3 min1 mo agoAI

GitHub AI agent leaks private repos when asked nicely

GitHub's AI agent có lỗ hổng bảo mật 'GitLost' cho phép rò rỉ dữ liệu private repository khi được yêu cầu theo cách nhất định, hiện chưa có bản vá hay tài liệu chính thức từ GitHub.

Lập trình viên nên đọc bài này để hiểu về nguy cơ bảo mật mới trong GitHub, đặc biệt khi làm việc với các dự án riêng tư, và cách phòng tránh rủi ro khi sử dụng công cụ AI tích hợp trong hệ thống.

#github #ai-security #prompt-injection Source

Researcher shows how Claude Code can be tricked simply by asking it to summarize a website

Recommended for you

Practical Loop Engineering

Bình luận

All roads lead to metered pricing

LM Studio built a judge for AI commands. Then the judge started agreeing with the defendant.

Practical Loop Engineering

Claude Code Full Course

How We Automated Angular Upgrades at Halodoc using AI

One pull to wipe them all

GitHub AI agent leaks private repos when asked nicely

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads