Richard Geldreich's Blog: ETC1S Chroma Artifact Filtering, Real-Time Encoders and Transcoding Format Graph Expansion

XDA Developers1 Hot4 phút3 ngày trướcAI

I stopped downloading bigger local models and started running two small ones at once

Bạn đang cân nhắc đọc bài vì nó đề cập đến việc thay thế một local model 8GB bằng cách chạy song song hai local models 2GB trên cùng một máy. Nguyên nhân kỹ thuật nằm ở việc giảm áp lực rememory khi mỗi mô hình vừa đủ để chứa trọng số và gradient, khiến việc load và inference nhanh hơn. Hệ quả là tổng thời gian xử lý giảm đáng kể và tiêu thụ bộ nhớ thấp hơn so với việc duy trì một local model lớn. Kết luận là việc dùng nhiều local models nhỏ có thể hiệu quả hơn một local model to khi tài nguyên bị giới hạn. Bạn nên đọc bài nếu muốn hiểu cách tối ưu hoá inference bằng cách chia tải cho nhiều mô hình nhỏ thay vì cố gắng nâng cấp bộ nhớ.

Hai mô hình nhỏ 2GB chạy đồng thời mang lại hiệu quả vượt trội hơn một mô hình lớn 8GB.

#data-science #gpu #local-ai Nguồn

DigitalOcean Community1 Hot25 phút8 ngày trướcAI

Cold Start Latency on Serverless Inference: What Actually Happens in Those Few Seconds

Khi chạy mô hình học sâu trên nền tảng serverless như AWS Lambda, Azure Functions hoặc Google Cloud Run, mỗi lần gọi đầu tiên sẽ trải qua giai đoạn cold start khiến latency tăng đáng kể. Latency chủ yếu xuất phát từ thời gian tải image container, giải nén và khởi tạo runtime, đồng thời phải load mô hình từ bộ lưu trữ (S3, Blob Storage) vào RAM, và thời gian này tỷ lệ thuận với kích thước mô hình – ví dụ một mô hình 2 GB có thể cần 3‑5 giây để load. Hệ quả là các request đầu tiên gặp trễ từ vài trăm miligiây (đối với hàm nhẹ) tới vài giây (đối với mô hình lớn), làm giảm trải nghiệm người dùng và gây khó khăn trong các ứng dụng cần phản hồi real‑time như chatbot hoặc xử lý video. Các tối ưu như giảm kích thước mô hình qua quantization hoặc pruning, sử dụng lớp cache /tmp hoặc EFS, bật tính năng provisioned concurrency hoặc AWS Lambda SnapStart, và chọn runtime dựa trên hình ảnh cơ sở nhỏ (distroless, Alpine) có thể cắt giảm cold start xuống dưới 500 ms cho hầu hết các trường hợp. Kết hợp các kỹ thuật trên không chỉ giảm latency mà còn tiết kiệm chi phí do giảm thời gian thực thi và số lần khởi tạo container.

Bài viết giải thích rõ ràng về nguyên nhân gây độ trễ lúc khởi đầu và cách tối ưu hiệu suất cho serverless inference.

#serverless #gpu #digitalocean Nguồn

The Developing Dev32 Hot51 phút1 tháng trướcAI

Turing Award Winner: TPUs vs GPUs vs CPUs, Computer Architecture, RISC vs CISC

Tôi từng học sơ lược về RISC và CISC ở đại học nhưng giờ hầu như quên hết.

Nếu bạn đang phát triển ứng dụng AI hoặc xử lý dữ liệu lớn, hiểu rõ sự khác biệt giữa kiến trúc RISC và CISC sẽ giúp bạn tối ưu hiệu suất và lựa chọn thiết bị (TPU, GPU, CPU) phù hợp với công việc của mình.

#architecture #gpu Nguồn

freeCodeCamp1 Hot18 phút7 ngày trướcAI

From Mixtral to Kimi K3: How Mixture-of-Experts Models Evolved

MoE models bắt đầu với một số lượng chuyên gia hạn chế, ví dụ Mixtral sử dụng 8 chuyên gia mỗi lớp. Để đạt hiệu suất cao hơn, các nhà nghiên cứu đã mở rộng số chuyên gia lên gần 900 mỗi lớp trong Kimi K3, đồng thời phải giải quyết vấn đề tính sparse và độ ổn định trong quá trình huấn luyện. Các cơ chế nén như cắt bớt chuyên gia ít dùng, lượng tử hóa và phân tích hạng thấp kết hợp với các kỹ thuật ổn định như loss phụ trợ, hệ số capacity và dropout trên router cho phép mô hình vẫn khả thi để huấn luyện mà không giảm hiệu suất. Điều đáng học là khi mở rộng MoE, việc cân bằng tải giữa các chuyên gia và duy trì độ ổn định của router là then chốt để tránh hiện tượng chuyên gia chết hoặc quá tải. Điều này cho thấy, ngoài việc tăng số chuyên gia, đầu tư vào các kỹ thuật nén và ổn định là yếu tố quyết định sự thành công của các mô hình MoE hiện đại.

Bài viết này giúp lập trình viên hiểu cách mô hình Mixture-of-Experts phát triển từ vài chuyên gia đến gần 900 chuyên gia mỗi lớp và các cơ chế nén ổn định.

#llm #deep-learning #gpu Nguồn

XDA Developers9 Hot4 phút1 tháng trướcAI

3 PC parts you should buy right now instead of waiting for better prices

Có thể chúng ta đang trong giai đoạn ngắn trước khi giá PC parts tăng trở lại.

Lập trình viên nên đọc bài này để cập nhật các bộ phận máy tính hiện tại có giá tốt nhất trước khi giá tăng, giúp họ tối ưu hóa chi phí xây dựng hệ thống hiệu quả ngay khi có cơ hội.

#gpu Nguồn

sean goedecke17 Hot6 phút2 tháng trướcAI

AI inference is obviously profitable

Phân tích chi phí sơ lược cho thấy suy luận (inference) AI thực sự sinh lời, với chi phí ước tính khoảng 1 USD cho mỗi triệu token đầu ra, thấp hơn nhiều so với mức giá 4,5 USD trở lên của các nhà cung cấp như OpenAI, qua đó đạt biên lợi nhuận gộp 70–80%. Suy luận AI có lợi nhuận, nhưng các phòng thí nghiệm AI như OpenAI và Anthropic sử dụng khoản lợi nhuận này để bù đắp chi phí đào tạo mô hình tốn kém.

Là người phát triển muốn tối ưu chi phí cho ứng dụng AI của mình, bài viết này giúp bạn hiểu rõ về lợi nhuận thực tế của quá trình inference AI, từ đó có thể xây dựng mô hình kinh doanh hiệu quả và tránh bỏ lỡ cơ hội tiết kiệm chi phí mà không phụ thuộc vào sự hỗ trợ từ các công ty lớn.

#llm #openai #gpu Nguồn

XDA Developers2 Hot5 phút19 ngày trướcAI

Nvidia locked 6x Multi-Frame Generation to RTX 50-series, but I found a way to use it on my 40-series card anyway

Nvidia giới hạn tính năng Multi-Frame Generation 6x cho dòng RTX 50-series, nhưng tác giả đã tìm cách kích hoạt nó trên card đồ họa RTX 40-series.

Lập trình viên nên đọc bài này để khám phá cách khai thác và tối ưu hóa tính năng Multi-Frame Generation trên GPU RTX 40-series thông qua các giải pháp công nghệ mở rộng, giúp phát triển phần mềm hiệu quả hơn với các ứng dụng AI/phát triển game.

#open-source #gaming #nvidia Nguồn

XDA Developers1 Hot4 phút11 ngày trướcAI

Frame generation feels terrible until you stop using it on unstable framerates

Frame generation được quảng cáo là cách tăng FPS mà không cần nâng cứng phần cứng, nhưng hiệu quả của nó phụ thuộc vào độ ổn định của khung hình gốc. Khi tốc độ khung hình biến động mạnh, thuật toán nội suy khung hình sẽ tạo ra các khung không đồng đều, gây ra hiện tượng runt và tăng độ trễ nhập vào. Điều này khiến trải nghiệm chơi game trở nên không mượt hơn so với việc tắt tính năng và chấp nhận FPS thấp hơn nhưng ổn định. Kết quả là người dùng thường cảm thấy “kém” hơn khi bật frame generation trên cấu hình không thể duy trì FPS ổn định. Bài học là chỉ nên bật frame generation khi tốc độ khung hình gốc đã cao và ổn định; nếu không, tốt nhất tập trung vào tối ưu hóa hiệu suất gốc thay vì dựa vào kỹ thuật tạo khung.

Bài viết giải thích tại sao frame generation chỉ phát huy hiệu quả khi có framerate ổn định, giúp lập trình viên hiểu cách sử dụng tính năng này đúng cách để tối ưu hiệu suất.

#gaming #nvidia #gpu Nguồn

Richard Geldreich's Blog: ETC1S Chroma Artifact Filtering, Real-Time Encoders and Transcoding Format Graph Expansion

Đề xuất cho bạn

Bình luận

I stopped downloading bigger local models and started running two small ones at once

Cold Start Latency on Serverless Inference: What Actually Happens in Those Few Seconds

Turing Award Winner: TPUs vs GPUs vs CPUs, Computer Architecture, RISC vs CISC

From Mixtral to Kimi K3: How Mixture-of-Experts Models Evolved

3 PC parts you should buy right now instead of waiting for better prices

AI inference is obviously profitable

Nvidia locked 6x Multi-Frame Generation to RTX 50-series, but I found a way to use it on my 40-series card anyway

Frame generation feels terrible until you stop using it on unstable framerates

Một tài khoản, cả hệ sinh thái

8syncdev.com

Khóa học

Luyện code

IELTS

ZUS — IDE AI

mind0

AcoLeads