Leading European Financial Services Organizations Embrace Open Models to Build Proprietary Intelligence

I Built a Visual System Design Reference — Switch Any Architecture Between AWS, Azure, GCP & Open Source

I Built a Visual System Design Reference — Switch Any Architecture Between AWS, Azure, GCP... Tagged with systemdesign, webdev, opensource, showdev.

openGym: Self-Hosted Workout and Fitness Tracker

openGym is a free, self-hosted fitness tracker that lets you manage workouts and follow your progress on your own server.

OccupySaaS

OccupySaaS is a protest movement in code: laid-off developers building clean-room, open-source, drop-in replacements for the SaaS giants. First up: ZeroAuthy (Auth0) and SalesCompel (Salesforce).

Build Your Own Bank In Go

A streaming series is now available for free.

Pele – Mermaid diagrams as themeable SVG

Pele là một thư viện open source nhẹ giúp tạo các diagram Mermaid thành định dạng SVG. Thư viện này sử dụng CSS variables để cho phép tùy biến theme cho diagram, giúp lập trình viên có thể thay đổi màu sắc, kiểu dáng dễ dàng mà không cần chỉnh sửa trực tiếp code SVG. Với kích thước nhỏ nhẹ, Pele phù hợp cho các dự án cần hiển thị diagram nhưng cần tối ưu hiệu năng. Bạn có thể tích hợp Pele vào các dự án web hiện tại để tạo ra các diagram có thể tùy chỉnh theme linh hoạt thông qua CSS variables.

Pele cho phép lập trình viên tùy biến Mermaid diagrams bằng CSS variables, mang lại sự linh hoạt trong việc thiết kế giao diện.

PyTorch 2.15 tackles the 'one bad GPU' problem

PyTorch 2.15 ships a rewritten NCCL backend that stops a single failing GPU from forcing a full training restart. The new ProcessGroupNCCL allows only one communicator per process group during initialization, which by default eliminates the crosstalk that the old version's many communicators caused. A third-party orchestrator can now exclude a crashed or slow GPU and assign a replacement worker. A new 'flight recorder' captures operation snapshots for debugging stalls. The legacy backend remains as a rollback option but will be removed in 2.16, planned for early next year. The release also totals 3,117 commits from 583 contributors and includes parallel processing improvements for Apple gear and support for Nvidia's next-generation Blackwell GPUs.

The Black Box Might Have a Window

What happens if “nobody can understand these models” turns out to be wrong? For years, one sentence... Tagged with ai, machinelearning, discuss, opensource.

I changed one llama.cpp flag, and my 8GB laptop GPU now runs a 35B model faster than I can read

Một lập trình viên đã tìm ra cách chạy model Llama 35B trên laptop GPU chỉ 8GB VRAM với tốc độ đáng kinh ngạc. Nguyên nhân kỹ thuật nằm ở việc chỉnh sửa cờ n_gpu_layers trong llama.cpp, cho phép tận dụng hiệu quả bộ nhớ VRAM thay vì để nó trở thành điểm nghẽn. Hệ quả là model 35B parameters chạy nhanh đến mức người dùng không kịp theo dõi, vượt xa các kỳ vọng ban đầu về giới hạn phần cứng. Điều đáng học hỏi là đôi khi vấn đề không nằm ở cấu hình phần cứng mà ở cách tối ưu hóa phần mềm để khai thác tiềm năng thực sự của hardware.

Bài viết tiết lộ cách tối ưu hóa một cờ trong llama.cpp để chạy mô hình 35B trên GPU 8GB nhanh hơn tốc độ đọc của bạn.