Loading feed…
Hacker News0 Hot0 comments2 min read
The router that cuts your inference bill in half
Tokenless is a model router and drop-in replacement for the OpenAI and Anthropic APIs — the same quality at less than half the cost.
Source: https://usetokenless.com/. 8sync News only summarizes and links out; content copyright belongs to the authors and original sources.
Recommended for you
The New Stack2 Hot9 minAI
GPT-5.6 kernel of truth: Sol can cut its own costs, says OpenAI
OpenAI cho biết phiên bản GPT-5.6 Sol đã giảm chi phí vận hành và lượng tokens tiêu thụ nhờ tối ưu hóa các kernel, quá trình suy luận (inference), API AI cũng như hệ thống harness của Codex nhằm đẩy nhanh quy trình gọi công cụ (tool-calling).
Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa chi phí và hiệu suất của các mô hình AI lớn thông qua kiến trúc kernel mới, giúp giảm thiểu chi phí serving và tăng tốc độ xử lý công việc liên quan đến các API AI và agent.
