Analog Devices will pay $1.35bn for edge AI chipmaker Alif Semiconductor

You are not a model. Don’t price per token.

Việc tính phí theo token đang trở thành mặc định cho các công ty AI, nhưng đối với hầu hết các ứng dụng AI, đây là một sai lầm. Token là đơn vị xử lý của mô hình ngôn ngữ như GPT-4 và Claude 3, nhưng giá trị thực mà người dùng nhận được không tỷ lệ trực tiếp với số token. Các nhà cung cấp đang tính giá trung bình 0.02 USD/1000 token cho input và 0.04 USD/1000 token cho output, làm phát sinh chi phí không đáng có cho các tác vụ đơn giản. Thay vào đó, các công ty nên tập trung vào giá trị kinh doanh thực tế thay vì chỉ dựa vào chỉ số kỹ thuật này.

Bài viết này giúp lập trình viên hiểu được tại sao tính phí theo token không phải là lựa chọn tối ưu cho hầu hết ứng dụng AI.