AMD Preparing To Enable HDMI 2.1 FRL Support By Default For Linux

DigitalOcean Community1 Hot25 phút20 giờ trướcAI

Cold Start Latency on Serverless Inference: What Actually Happens in Those Few Seconds

Khi chạy mô hình học sâu trên nền tảng serverless như AWS Lambda, Azure Functions hoặc Google Cloud Run, mỗi lần gọi đầu tiên sẽ trải qua giai đoạn cold start khiến latency tăng đáng kể. Latency chủ yếu xuất phát từ thời gian tải image container, giải nén và khởi tạo runtime, đồng thời phải load mô hình từ bộ lưu trữ (S3, Blob Storage) vào RAM, và thời gian này tỷ lệ thuận với kích thước mô hình – ví dụ một mô hình 2 GB có thể cần 3‑5 giây để load. Hệ quả là các request đầu tiên gặp trễ từ vài trăm miligiây (đối với hàm nhẹ) tới vài giây (đối với mô hình lớn), làm giảm trải nghiệm người dùng và gây khó khăn trong các ứng dụng cần phản hồi real‑time như chatbot hoặc xử lý video. Các tối ưu như giảm kích thước mô hình qua quantization hoặc pruning, sử dụng lớp cache /tmp hoặc EFS, bật tính năng provisioned concurrency hoặc AWS Lambda SnapStart, và chọn runtime dựa trên hình ảnh cơ sở nhỏ (distroless, Alpine) có thể cắt giảm cold start xuống dưới 500 ms cho hầu hết các trường hợp. Kết hợp các kỹ thuật trên không chỉ giảm latency mà còn tiết kiệm chi phí do giảm thời gian thực thi và số lần khởi tạo container.

Bài viết giải thích rõ ràng về nguyên nhân gây độ trễ lúc khởi đầu và cách tối ưu hiệu suất cho serverless inference.

#serverless #gpu #digitalocean Nguồn

Planet PostgreSQL1 Hot7 phút21 giờ trướcAI

All Your GUCs in a Row: log_destination and logging_collector

Bài viết giải thích vai trò của hai tham số GUC log_destination và logging_collector trong PostgreSQL, mô tả cách logging collector hoạt động như một daemon dựa trên pipe để tránh mất và garbled log messages. Khi bật logging_collector, PostgreSQL phải khởi động lại vì daemon được tạo trong quá trình khởi động, và các định dạng log như stderr, csvlog và jsonlog đều được đưa vào pipe này. Tuy nhiên, dưới tải cao, collector có thể trở thành điểm nghẽn và làm giãn cả instance, trong khi việc sử dụng syslog lại có nguy cơ silently drop messages khi hệ thống quá tải. Bài cũng so sánh mặc định của log_destination trên các nền tảng phổ biến: Debian/Ubuntu thường để stderr, PGDG RPMs thường dùng csvlog, Docker images và một số dịch vụ quản lý có thể pre‑configure jsonlog hoặc syslog tùy theo nhà cung cấp. Từ đó, tác giả khuyên trong môi trường production nên chọn định dạng log phù hợp với hệ thống giám sát, bật logging_collector chỉ khi cần lưu trữ tập trung và luôn monitor throughput để tránh stall, đồng thời cân nhắc sử dụng syslog với buffer đủ lớn hoặc các giải pháp bên ngoài như Fluentd để tránh mất log.

Bài giải thích chi tiết về log_destination và logging_collector GUCs giúp bạn hiểu rõ cơ chế logging của PostgreSQL, từ đó tối ưu hóa cấu hình giám sát và xử lý log hiệu quả trong môi trường production.

#linux #database #postgresql Nguồn

Phoronix1 Hot2 phút21 giờ trướcAI

Asahi Linux Hopes To Ship A Release Soon With Apple M3 Device Support

Asahi Linux团队正在准备一个下游发布版，以加入对Apple M3芯片的支持。通过反向工程M3的新USB端口控制器，他们实现了可用的摄像头、改进的麦克风处理以及USB 3.0/Thunderbolt功能。同时，团队还在推进基于PSCI的电源管理以兼容主线内核，并开始进行Apple M4/M5的早期移植以及GPU直接扫描输出的实验。这些进展使得近期发布一个包含M3支持的版本成为可能，但将这些特性合并到主线Linux仍需要额外的时间。这表明，对新苹果硬件的Linux支持依赖于深度逆向工程和逐步上游合作，耐心和持续的内核工作是关键。

Bài viết này mang đến thông tin cập nhật quan trọng về tiến trình hỗ trợ cho các con chip Apple M3/M4/M5 trên hệ điều hành Linux, một tin tức thiết thực cho lập trình viên làm việc trên nền tảng này.

#linux #hardware Nguồn

Phoronix25 Hot2 phút6 ngày trướcAI

Framework Laptop 16 With GeForce RTX 5070 12GB, One-Piece Keyboard & Haptic Touchpad

Framework Computer vừa bắt đầu giao các tùy chọn phần cứng mới cho Framework Laptop 16, bao gồm mô-đun GPU GeForce RTX 5070 12GB dành cho trò chơi hoặc workload CUDA/AI. Đồng thời họ ra mắt một bàn phím một mảnh sử dụng firmware mã nguồn mở QMK và một bàn chạm một mảnh bằng nhôm CNC với bề mặt haptic 124 × 77 mm, hiện đã hết hàng với giá 129 USD. Các thử nghiệm trên Fedora Workstation 44 và Ubuntu 26.04 LTS cho thấy cả GPU mới và các thiết bị nhập hoạt động tốt ngay lập tức mà không cần driver bổ sung. Điều này cho thấy khả năng tích hợp linh hoạt của kiến trúc mô-đun Framework cùng với hỗ trợ Linux tốt từ đầu. Dành cho lập trình viên cân nhắc nâng cấp hoặc mua mới, bài viết cung cấp dữ liệu cụ thể về hiệu suất và khả năng tương thích trên hai distro Linux phổ biến.

Bài này cung cấp thông tin cập nhật về các nâng phần cứng mới nhất cho Framework Laptop 16, phù hợp với cả game thủ và lập trình viên làm việc trên Linux.

#linux #hardware #nvidia Nguồn

Product Hunt199 Hot1 phút27 ngày trướcAI

witr: Why is this running? Trace process, port, container or file

witr là công cụ truy vết nguyên nhân của tiến trình, port, container hay file đang chạy, hiển thị toàn bộ chuỗi khởi động từ systemd, supervisor, shell hay cron cùng thông tin người khởi động, thời gian, nguồn gốc và cảnh báo quan trọng. Có thể chạy dạng tương tác TUI hoặc script với định dạng đầu ra ngắn gọn (--short) hoặc JSON (--json), hỗ trợ đa nền tảng qua một file binary Go tĩnh.

Lập trình viên nên đọc bài này để hiểu cách khám phá và giải quyết nguyên nhân sâu sắc của các quá trình bất thường, container hoặc dịch vụ chạy trong hệ thống, từ nguồn gốc khởi động đến các cảnh báo quan trọng mà ps, top hoặc lsof không thể cung cấp.

#linux #go #cli Nguồn

XDA Developers88 Hot5 phút17 ngày trướcAI

The Linux gaming distro that refused to join the Open Gaming Collective is now dominating the Steam charts

CachyOS trở thành bản phân phối Linux phổ biến nhất trên Steam, vượt xa các phiên bản khác không phải của Valve nhờ hiệu suất gaming vượt trội.

Là người phát triển game hoặc người chơi muốn tối ưu hóa trải nghiệm chơi game trên Linux, bạn nên đọc bài này để biết cách CachyOS, một distro Linux độc lập, đã vượt qua sự hỗ trợ của Valve và trở thành lựa chọn hàng đầu trên Steam, giúp bạn hiểu về những công cụ và chiến lược mới cho nền tảng game trên hệ điều hành này.

#linux #gaming #steam Nguồn

Medium144 Hot5 phút1 tháng trướcAI

My Journey into DevOps: Learning Linux, Git, GitHub & My First Docker Container

Bài viết chia sẻ hành trình học DevOps của tác giả, tập trung vào Linux, Git, GitHub và lần đầu tiên sử dụng Docker container, nhấn mạnh sự khác biệt giữa học lý thuyết và ứng dụng thực tế trong xây dựng phần mềm.

Là người mới bắt đầu hoặc muốn mở rộng kiến thức về DevOps, bài này giúp bạn hiểu rõ cách chuyển từ lý thuyết sang thực hành với các công cụ cơ bản như Linux, Git/GitHub và Docker, từ đó nhanh chóng xây dựng được nền tảng thực tế để triển khai dự án.

#devops #linux #docker Nguồn

It's Foss145 Hot4 phút29 ngày trướcAI

Good News Gamers! GOG is Officially Coming to Linux

GOG đang phát triển phiên bản GOG GALAXY client cho Linux nhờ tuyển dụng nhân sự mới.

Là người phát triển game trên Linux, bạn nên đọc bài này để biết GOG đang mở rộng khả năng tương thích cho các game độc quyền trên hệ điều hành của mình, giúp mở rộng thị trường và tăng cơ hội phát triển ứng dụng game cho cộng đồng Linux.

#linux #gaming Nguồn

AMD Preparing To Enable HDMI 2.1 FRL Support By Default For Linux

Đề xuất cho bạn

Bình luận

Cold Start Latency on Serverless Inference: What Actually Happens in Those Few Seconds

All Your GUCs in a Row: log_destination and logging_collector

Asahi Linux Hopes To Ship A Release Soon With Apple M3 Device Support

Framework Laptop 16 With GeForce RTX 5070 12GB, One-Piece Keyboard & Haptic Touchpad

witr: Why is this running? Trace process, port, container or file

The Linux gaming distro that refused to join the Open Gaming Collective is now dominating the Steam charts

My Journey into DevOps: Learning Linux, Git, GitHub & My First Docker Container

Good News Gamers! GOG is Officially Coming to Linux

Một tài khoản, cả hệ sinh thái

8syncdev.com

Khóa học

Luyện code

IELTS

ZUS — IDE AI

mind0

AcoLeads