Satlyt wants to be the Android of orbital computing, offering open software that works on many companies' satellites, versus SpaceX's closed, all-in-one iPhone-style approach.
Source: https://techcrunch.com/2026/10/13/satlyt-founded-by-a-former-google-and-spacex-product-manager-raises-8m-to-run-ai-on-satellites. 8 Sync News only summarizes and links out; content copyright belongs to the authors and original sources.
Read the news here, practice coding, follow structured courses and train for IELTS on our sibling products — all connected through one 8 Sync account.
The ecosystem home: product overviews, blog and full pricing.
ExploreLearn along a clear roadmap: videos, auto-graded quizzes, certificates and mentors who ship for a living.
View the roadmap1,000 DSA problems in Vietnamese, auto-graded across 7 languages — many FREE, right in your browser.
Practice for freeAI grading for all four IELTS skills with detailed rubric feedback.
Try it freeA 22 MB AI IDE for Vietnamese devs.
Download freeOrganizational memory for AI agents.
ExploreAI that staffs your Fanpage and qualifies leads for you.
Try itTác giả đã thử nghiệm Gemma 4 với toàn bộ thư viện Steam 384 game để đánh giá khả năng đề xuất game. Sử dụng RAG (Retrieval-Augmented Generation) để mô tả sở thích người chơi và phân tích game, Gemma 4 cho kết quả chính xác hơn Steam Discovery. Tác giả đã áp dụng prompt engineering để Gemma 4 hiểu sâu sở thích cá nhân, dẫn đến tỉ lệ recommendation đạt 85% so với 72% của Steam. Bài viết cung cấp phương pháp triển khai RAG cho LLM và kỹ thuật prompt engineering hữu ích cho các dự án AI recommendation.
Một lập trình viên nên đọc bài này để khám phá cách mô hình ngôn ngữ lớn có thể cá nhân hóa trải nghiệm giải trí tốt hơn cả nền tảng chuyên dụng Steam.
SpaceX đang mua spectrum tần số 800MHz trên toàn nước Mỹ để nâng cấp dịch vụ Starlink Mobile, kết nối trực tiếp từ vệ tinh đến điện thoại. Chiến lược này nhằm thách thức trực tiếp các nhà mạng di động truyền thống tại Mỹ. Việc sở hữu spectrum 800MHz sẽ giúp Starlink Mobile cải thiện đáng kể phạm vi phủ sóng và khả năng xâm nhập tòa nhà. Điều này có thể gây áp lực lớn lên các nhà mạng như Verizon và AT&T buộc phải giảm giá hoặc đầu tư nhiều hơn vào hạ tầng. Lập trình viên nên lưu ý công nghệ này có thể thay đổi cách chúng ta kết nối internet trong tương lai, đặc biệt ở vùng sâu vùng xa.
Lập trình viên nên đọc bài này để hiểu cách công nghệ vệ tinh đang định hình lại thị trường viễn thông và tạo ra cơ hội mới cho phát triển ứng dụng di động.
Sidequest là một dự án mã nguồn mở tham gia Hacktoberfest AI Challenge, tổ chức các cuộc săn tìm bằng công nghệ Vision-Language 100% offline. Dự án sử dụng mô hình OpenAI CLIP và các API AR của Android/iOS để nhận diện vật thể thực tế mà không cần kết nối internet. Người dùng phải đi bộ và tìm kiếm các vật thể theo mô tả, với thời gian di chuyển chiếm phần lớn trải nghiệm thay vì nhìn màn hình hình. Đây là ví dụ thú vị về ứng dụng AI thực tế, kết hợp xử lý hình ảnh ngôn ngữ với hoạt động thể chất ngoài trời.
Bài giới thiệu dự án Sidequest cho thấy cách AI có thể kết hợp với thế giới thực để tạo ra trải nghiệm công nghệ độc đáo và khuyến khích người dùng tương tác với môi trường xung quanh.
Tác giả đã chạy một AI model kích thước chỉ 29MB trên Raspberry Pi 5 mà không cần thiết bị hỗ trợ phần cứng AI HAT. Mô hình này đủ nhỏ để xử lý trực tiếp trên con single-board computer này mà không gặp vấn đề về hiệu năng. Tác giả cho thấy đây là ứng dụng AI hữu ích nhất mà họ từng triển khai trên thiết bị này, chứng tỏ Raspberry Pi 5 có khả năng xử lý AI tốt hơn các thế hệ trước. Điều này mở ra cơ hội cho các dự án AI phân quyền và tiết kiệm chi phí, khi không cần đầu tư vào thiết bị chuyên dụng hay cloud computing.
Bài viết này cho thấy cách chạy AI mô hình nhỏ hiệu quả trên Raspberry Pi 5 mà không cần phần cứng chuyên dụng.
Bối cảnh: Các mô hình Mixture of Experts (MoE) đã thay đổi hoàn toàn khái niệm "mô hình nào có thể chạy được trên GPU của tôi" khi một chiếc GPU 10 năm tuổi nay có thể xử lý được các mô hình ngôn ngữ lớn (LLM) lên tới 26 tỷ tham số. Nguyên nhân kỹ thuật: MoE hoạt động bằng cách chỉ kích hoạt một phần các chuyên gia (experts) trong mô hình cho mỗi token đầu vào, giảm đáng kể lượng tính toán cần thiết so với các mô hình dense truyền thống. Hệ quả: Phần lớn tư vấn phần cứng hiện tại vẫn chưa cập nhật thực tế này, dẫn đến khuyến nghị không cần thiết nâng cấp phần cứng. Điều đáng học: Người dùng có thể tận dụng hiệu quả phần cứng hiện có để chạy các mô hình lớn hơn nhiều so với khả năng lý thuyết, miễn là các mô hình hỗ trợ kiến trúc MoE.
MoE models đã thay đổi hoàn toàn cách bạn có thể chạy các mô hình ngôn ngữ lớn ngay cả trên phần cứng cũ như GPU 10 năm tuổi.
Tác giả đã kết nối local LLM với Gmail, Calendar và Home Assistant để tăng hiệu quả sử dụng. Nguyên nhân kỹ thuật là thông qua integration API của các dịch vụ này và sử dụng Python để xử lý dữ liệu, với framework như LangChain để kết nối. Hệ quả là local LLM có thể đọc email, lên lịch và điều khiển thiết bị nhà thông minh, giúp tăng 40% năng suất công việc. Điều đáng học là việc kết hợp LLM với API hiện có có thể biến một mô hình AI kém hữu dụng thành công cụ mạnh mẽ mà không cần triển khai cloud service đắt đỏ.
Bài này sẽ giúp bạn hiểu cách biến mô hình ngôn ngữ lớn địa phương thành công cụ thực sự hữu ích bằng cách tích hợp với các dịch vụ phổ biến.
Strata cho phép mô hình LLM 125 tỷ tham số chạy trên phần cứng gaming-grade với sự hỗ trợ của Qwen3.8 mixture-of-experts 24,576 chuyên gia chỉ kích hoạt 10 chuyên gia mỗi token. VRAM hoạt động như cache cho chuyên gia được sử dụng thường xuyên, phần lớn mô hình nằm trong RAM, và bảng tra cứu 29 GB nằm trên SSD. Kỹ thuật speculative decoding giúp đạt tốc độ 50-90 token/giây trên RTX 5070 12 GB VRAM. Dù có API tương thích OpenAI và Anthropic, chất lượng trả lời còn hạn chế so với các mô hình lớn hơn, với yêu cầu thực tế khoảng 32 GB RAM, 12 GB VRAM và 80 GB lưu trữ.
Bài viết này giúp bạn hiểu cách triển khai AI quy mô lớn trên máy tính cá nhân mà không cần GPU chuyên dụng từ trung tâm dữ liệu.
LLM đang tiêu tốn RAM cho context không cần thiết do cơ chế quản lý kém hiệu quả. Nguyên nhân kỹ thuật nằm ở cách các model như Llama hay Mistai giữ toàn bộ history trong VRAM dù không sử dụng hết. Điều này gây lãng phí tài nguyên, đặc biệt với model 7B params có thể chiếm tới 14GB RAM khi không cần. Hệ quả là giảm hiệu suất chạy và tăng chi phí hạ tầng. Giải pháp đơn giản là điều chỉnh max_seq_len để chỉ giữ lại context cần thiết, giúp tiết kiệm đáng kể tài nguyên.
Bài viết giúp lập trình viên tối ưu hóa RAM cho LLM bằng cách chỉ giữ lại ngữ cảnh thực sự cần thiết.
Đang tải bình luận…