BNY says it now tracks its AI token spending to avoid overpaying
BNY đã phát triển công cụ để theo dõi việc sử dụng AI token do chi phí AI ngày càng tăng. Ngân hàng hiện vận hành khoảng 400 AI agents, đòi hỏi quản lý chi tiêu token hiệu quả. Công cụ của BNY tự động gửi các tác vụ đến các model rẻ hơn khi phát hiện chi phí tăng. Giải pháp kỹ thuật này giúp ngân hàng tránh tình trạng overpaying cho dịch vụ AI. BNY cho thấy các tổ chức lớn cần giám sát chặt chẽ chi tiêu AI token để tối ưu hóa ngân sách.
Lập trình viên nên đọc bài này để biết ngân hàng BNY áp dụng công cụ theo dõi sử dụng token AI và tối ưu chi phí bằng cách phân bổ tác vụ đến các mô hình rẻ hơn khi hóa đơn AI tăng cao.