Hinton, Bengio and AI lab scientists warn of an intelligence explosion

Geoffrey Hinton và Yoshua Bengio cùng các nhà khoa học từ OpenAI và Anth cảnh báo rằng tự động hóa nghiên cứu AI có thể kích hoạt một cuộc nổ thông minh. Nguyên nhân kỹ thuật nằm ở việc các hệ thống AI như GPT-4 và Claude có thể tự mình cải thiện và phát triển các hệ thống AI tiên tiến hơn nhiều. Hệ quả tiềm tàng là tốc độ phát triển AI có thể vượt xa khả năng kiểm soát của con người, dẫn đến những rủi ro chưa từng biết. Điều đáng học hỏi là lời kêu gọi của các chuyên gia hàng đầu cho chính phủ cần hành động sớm để thiết lập các biện pháp giám sát an toàn.