The RTX 5080 was almost the most underwhelming GPU I've ever purchased, until this one setting saved it

Phoronix27 Hot2 phút16 ngày trướcAI

Framework Laptop 16 With GeForce RTX 5070 12GB, One-Piece Keyboard & Haptic Touchpad

Framework Computer vừa bắt đầu giao các tùy chọn phần cứng mới cho Framework Laptop 16, bao gồm mô-đun GPU GeForce RTX 5070 12GB dành cho trò chơi hoặc workload CUDA/AI. Đồng thời họ ra mắt một bàn phím một mảnh sử dụng firmware mã nguồn mở QMK và một bàn chạm một mảnh bằng nhôm CNC với bề mặt haptic 124 × 77 mm, hiện đã hết hàng với giá 129 USD. Các thử nghiệm trên Fedora Workstation 44 và Ubuntu 26.04 LTS cho thấy cả GPU mới và các thiết bị nhập hoạt động tốt ngay lập tức mà không cần driver bổ sung. Điều này cho thấy khả năng tích hợp linh hoạt của kiến trúc mô-đun Framework cùng với hỗ trợ Linux tốt từ đầu. Dành cho lập trình viên cân nhắc nâng cấp hoặc mua mới, bài viết cung cấp dữ liệu cụ thể về hiệu suất và khả năng tương thích trên hai distro Linux phổ biến.

Bài này cung cấp thông tin cập nhật về các nâng phần cứng mới nhất cho Framework Laptop 16, phù hợp với cả game thủ và lập trình viên làm việc trên Linux.

#linux #hardware #nvidia Nguồn

All Things Open3 Hot3 phút3 ngày trướcAI

Why matching CUDA drivers is finally easier

Bài viết giải thích rằng trước đây việc sao chép bản CUDA toolkit và driver phải khớp chính xác phiên bản, gây nhiều lỗi khi triển khai trên các hệ thống khác nhau. NVIDIA đã ra mắt CUDA Compatibility Pack bắt đầu từ CUDA 11.7, cho phép một bản driver duy nhất hỗ trợ nhiều phiên bản toolkit liên tiếp. Nhờ đó, trên Linux và Windows, nhà phát triển chỉ cần cập nhật driver mỗi kwartal thay vì mỗi khi nâng cấp toolkit, giảm thiểu thời gian downtime. Thử nghiệm trên các cụm GPU cho thấy tỷ lệ lỗi phiên bản driver giảm hơn 70% so với phương pháp cũ. Điều này cho thấy đầu tư vào các gói tương thích ngược có thể đơn giản hoá quy trình CI/CD cho các ứng dụng GPU-intensive.

Bài này giải thích tại sao việc khớp phiên bản driver CUDA giờ đây đơn giản hơn, giúp lập trình viên tiết kiệm thời gian và giảm thiểu lỗi hệ thống.

#nvidia #cuda #opentofu Nguồn

Where's Your Ed At48 Hot39 phút2 tháng trướcAI

Let AI Burn

Bài viết cho rằng ngành AI đang là một bong bóng không bền vững, dựa trên tài trợ vòng tròn, quảng cáo thổi phồng và nhu cầu ảo. Tác giả lập luận rằng AI tạo sinh khác biệt hoàn toàn so với bong bóng Dot Com vì GPU không có giá trị tồn dư, nhu cầu LLM chủ yếu được tạo ra và trợ cấp, trong khi OpenAI/Anthropic đang tiêu tốn hàng trăm tỷ USD mà không có lộ trình sinh lời.

Những lập trình viên muốn tránh rơi vào "sự mê hoặc của công nghệ" và hiểu rõ về rủi ro tài chính, kỹ thuật cũng như thực tế thị trường khi xây dựng dự án AI lớn nên đọc bài này để tránh đầu tư vào những "bong bóng" không có cơ sở thực tế.

#ai #llm #openai Nguồn

The Developing Dev32 Hot51 phút1 tháng trướcAI

Turing Award Winner: TPUs vs GPUs vs CPUs, Computer Architecture, RISC vs CISC

Tôi từng học sơ lược về RISC và CISC ở đại học nhưng giờ hầu như quên hết.

Nếu bạn đang phát triển ứng dụng AI hoặc xử lý dữ liệu lớn, hiểu rõ sự khác biệt giữa kiến trúc RISC và CISC sẽ giúp bạn tối ưu hiệu suất và lựa chọn thiết bị (TPU, GPU, CPU) phù hợp với công việc của mình.

#architecture #gpu Nguồn

XDA Developers1 Hot6 phút5 ngày trướcAI

5 outdated myths about CPUs that you're still falling for

Bối cảnh: Nhiều lập trình viên vẫn tin vào những quan niệm lỗi thời về CPU, dẫn đến lựa chọn không tối ưu. Nguyên nhân kỹ thuật: Các công nghệ như Intel Turbo Boost, ARM big.LITTLE và bộ đệm L3 cache đã thay đổi cách CPU hoạt động, khiến các myth về clock speed đơn thuần hay core count trở nên lỗi thời. Hệ quả: Việc dựa vào các tiêu chí lỗi thời có thể khiến bạn bỏ lỡ các giải pháp hiệu quả hơn, ví dụ như việc một chip Apple M1 với 8 core nhưng chỉ 4 performance cores có thể vượt trội hơn nhiều CPU Intel core count cao hơn. Điều đáng học: Bạn cần cập nhật kiến thức về công nghệ CPU hiện đại để đưa ra quyết định kỹ thuật chính xác, đặc biệt khi đánh giá hiệu năng tổng thể thay vì chỉ tập trung vào các con số đơn lẻ như GHz hay core count.

Bài viết này sẽ giúp bạn loại bỏ những quan niệm sai lầm về CPU đã lỗi thời để cập nhật kiến thức công nghệ hiện đại.

#hardware #computing #amd Nguồn

XDA Developers1 Hot4 phút6 ngày trướcAI

I stopped downloading bigger local models and started running two small ones at once

Bạn đang cân nhắc đọc bài vì nó đề cập đến việc thay thế một local model 8GB bằng cách chạy song song hai local models 2GB trên cùng một máy. Nguyên nhân kỹ thuật nằm ở việc giảm áp lực rememory khi mỗi mô hình vừa đủ để chứa trọng số và gradient, khiến việc load và inference nhanh hơn. Hệ quả là tổng thời gian xử lý giảm đáng kể và tiêu thụ bộ nhớ thấp hơn so với việc duy trì một local model lớn. Kết luận là việc dùng nhiều local models nhỏ có thể hiệu quả hơn một local model to khi tài nguyên bị giới hạn. Bạn nên đọc bài nếu muốn hiểu cách tối ưu hoá inference bằng cách chia tải cho nhiều mô hình nhỏ thay vì cố gắng nâng cấp bộ nhớ.

Hai mô hình nhỏ 2GB chạy đồng thời mang lại hiệu quả vượt trội hơn một mô hình lớn 8GB.

#data-science #gpu #local-ai Nguồn

DigitalOcean Community1 Hot25 phút11 ngày trướcAI

Cold Start Latency on Serverless Inference: What Actually Happens in Those Few Seconds

Khi chạy mô hình học sâu trên nền tảng serverless như AWS Lambda, Azure Functions hoặc Google Cloud Run, mỗi lần gọi đầu tiên sẽ trải qua giai đoạn cold start khiến latency tăng đáng kể. Latency chủ yếu xuất phát từ thời gian tải image container, giải nén và khởi tạo runtime, đồng thời phải load mô hình từ bộ lưu trữ (S3, Blob Storage) vào RAM, và thời gian này tỷ lệ thuận với kích thước mô hình – ví dụ một mô hình 2 GB có thể cần 3‑5 giây để load. Hệ quả là các request đầu tiên gặp trễ từ vài trăm miligiây (đối với hàm nhẹ) tới vài giây (đối với mô hình lớn), làm giảm trải nghiệm người dùng và gây khó khăn trong các ứng dụng cần phản hồi real‑time như chatbot hoặc xử lý video. Các tối ưu như giảm kích thước mô hình qua quantization hoặc pruning, sử dụng lớp cache /tmp hoặc EFS, bật tính năng provisioned concurrency hoặc AWS Lambda SnapStart, và chọn runtime dựa trên hình ảnh cơ sở nhỏ (distroless, Alpine) có thể cắt giảm cold start xuống dưới 500 ms cho hầu hết các trường hợp. Kết hợp các kỹ thuật trên không chỉ giảm latency mà còn tiết kiệm chi phí do giảm thời gian thực thi và số lần khởi tạo container.

Bài viết giải thích rõ ràng về nguyên nhân gây độ trễ lúc khởi đầu và cách tối ưu hiệu suất cho serverless inference.

#serverless #gpu #digitalocean Nguồn

XDA Developers9 Hot4 phút1 tháng trướcAI

3 PC parts you should buy right now instead of waiting for better prices

Có thể chúng ta đang trong giai đoạn ngắn trước khi giá PC parts tăng trở lại.

Lập trình viên nên đọc bài này để cập nhật các bộ phận máy tính hiện tại có giá tốt nhất trước khi giá tăng, giúp họ tối ưu hóa chi phí xây dựng hệ thống hiệu quả ngay khi có cơ hội.

#gpu Nguồn

The RTX 5080 was almost the most underwhelming GPU I've ever purchased, until this one setting saved it

Đề xuất cho bạn

Bình luận

Framework Laptop 16 With GeForce RTX 5070 12GB, One-Piece Keyboard & Haptic Touchpad

Why matching CUDA drivers is finally easier

Let AI Burn

Turing Award Winner: TPUs vs GPUs vs CPUs, Computer Architecture, RISC vs CISC

5 outdated myths about CPUs that you're still falling for

I stopped downloading bigger local models and started running two small ones at once

Cold Start Latency on Serverless Inference: What Actually Happens in Those Few Seconds

3 PC parts you should buy right now instead of waiting for better prices

Một tài khoản, cả hệ sinh thái

8syncdev.com

Khóa học

Luyện code

IELTS

ZUS — IDE AI

mind0

AcoLeads