Hermes AI agent used to automate attack on Thai Finance Ministry

How AI guardrails are impeding the work of offensive cybersecurity researchers

Các nhà nghiên cứu an ninh mạng chuyên khám phá lỗ hổng chưa biết và phát triển công cụ khai thác cho biết các biện pháp bảo vệ (guardrails) của OpenAI và Anthropic đang cản trở quá trình nghiên cứu của họ.

Những lập trình viên chuyên nghiên cứu bảo mật mạng sẽ hiểu rõ cách các rào cản AI của các công ty như OpenAI và Anthropic không chỉ hạn chế khả năng phát hiện lỗ hổng mới mà còn làm chậm tiến trình phát triển công cụ tấn công phức tạp, ảnh hưởng trực tiếp đến việc bảo vệ hệ thống trước các mối đe dọa thực tế.