Parquet and ORC are columnar and built for reading. Avro is row-oriented and built for writing. How to choose, and why Iceberg quietly uses all three.
Source: https://www.dremio.com/blog/parquet-vs-avro-vs-orc. 8 Sync News only summarizes and links out; content copyright belongs to the authors and original sources.
Semantic Studio đã chính thức ra mắt, cho phép lập trình viên tạo, debug và triển khai semantic views ngay trong Snowflake Workspaces. Công nghệ tích hợp Snowflake CoCo cùng quản lý phiên bản git và CI/CD trong một môi trường duy nhất giúp tăng hiệu suất làm việc. Việc này giảm thiểu sự phức tạp khi phải chuyển đổi giữa các công cụ khác nhau khi làm việc với dữ liệu có cấu trúc. Đối với các nhà phát triển Snowflake, đây là giải pháp giúp tối ưu hóa quy trình phát triển ứng dụng dữ liệu đáng cân nhắc.
Semantic Studio giúp lập trình viên quản lý và phát triển semantic views trong Snowflake Workspaces với các công cụ hiện đại như CoCo, git versioning và CI/CD.
Đang tải bình luận…
iSAM Funds đối mặt với bài toán xử lý dữ liệu options với quy mô 10,000 lần lớn hơn thông thường. Họ sử dụng ClickHouse Cloud để giải quyết vấn đề này, đạt mức nén dữ liệu 35-50x và tốc độ nhập dữ liệu single-core nhanh hơn 100 lần. Nhờ giải pháp này, họ đã đơn giản hóa đáng kể các pipeline dữ liệu phức tạp. Bài viết cho thấy sức mạnh của ClickHouse trong xử lý dữ liệu tài chính lớn với hiệu suất vượt trội.
Bài viết này giúp lập trình viên hiểu cách ClickHouse Cloud giải quyết bài toán xử lý lượng dữ liệu lớn với hiệu suất vượt trội.
Đối mặt với khối lượng 8 triệu job mỗi ngày, team Spark đã triển khai execution telemetry để giám sát tài nguyên hệ thống. Phân tích dữ liệu telemetry giúp phát hiện hiệu quả các executor idle chiếm tới 30% tổng tài nguyên phân bổ. Việc tối ưu hóa này giảm đáng kể chi phí compute trong khi vẫn đảm bảo performance và reliability của hệ thống. Các bài học rút ra có thể áp dụng để tối ưu hóa cluster resource allocation trong các môi trường production sử dụng Spark.
Bài viết này giúp lập trình viên tối ưu hóa tài nguyên Apache Spark bằng cách chẩn đoán executor rảnh và giảm chi phí tính toán dựa trên dữ liệu từ tám triệu job mỗi ngày.
The International Ice Patrol so sánh bốn hệ thống PostgreSQL truy vấn dữ liệu Apache Iceberg/Parquet, bao gồm aurora_analytics của AWS Aurora, pg_lake của Snowflake, ColdFront của pgEdge, và pg_clickhouse FDW của ClickHouse. Aurora nhúng DuckDB vào cùng tiến trình với pushdown đầy phần hoặc tùy thuộc vào biểu thức không được hỗ trợ, trong khi pg_lake chạy DuckDB tiến trình riêng và hỗ trợ ghi ACID đầy đủ nhưng rơi lại planner PostgreSQL với thống kê kém cho các heap joins. ColdFront sử dụng pg_duckdb cho tự động phân tầng hot/cold qua view với việc takeover toàn bộ kế hoạch nhưng vẫn ở beta, còn pg_clickhouse là FDW tiêu chuẩn không hỗ trợ Iceberg gốc và gặp vấn đề về ước tính cardinality. Nên dùng EXPLAIN (VERBOSE) để xác minh planner thực thi join, và mỗi công cụ phù hợp với trường hợp sử dụng cụ thể do cách planner và pushdown khác nhau.
Bài viết này giúp lập trình viên hiểu rõ cách các hệ thống tương thích PostgreSQL truy vấn dữ liệu Iceberg/Parquet và chọn công cụ phù hợp cho nhu cầu cụ thể của họ.
Các script batch transform trong Data 360 giúp bạn thực thi logic Python tùy biến để xử lý data lake objects (DLOs) và data model objects (DMOs) trong môi trường tính toán riêng biệt. Bài viết tập trung vào các ví dụ nâng cao sử dụng PySpark cho batch data transforms, cho phép xử lý dữ liệu quy mô lớn với hiệu suất cao. Công nghệ PySpark được tối ưu hóa để chạy trên cluster Apache Spark, giúp tăng tốc độ xử lý dữ liệu lớn lên đến 10-100 lần so với xử lý tuần tự thông thường. Các kỹ sư có thể học hỏi cách kết hợp PySpark với Data 360 API để tạo pipeline xử lý dữ liệu phức tạp, đặc biệt hữu ích khi cần xử lý dữ liệu không cấu trúc hoặc thực hiện các phép toán toán học phức tạp trên dữ liệu lớn.
Các lập trình viên nên đọc bài này để học hỏi các ví dụ script nâng cao giúp tối ưu hóa việc biến đổi dữ liệu hàng loạt bằng PySpark trong Data 360.
Bài viết đánh giá lại những lời khuyên trước đây về các tính năng như COPY, TOAST, BRIN, covering indexes và partitioning trong PostgreSQL, xem xét những thay đổi từ các phiên bản Postgres gần đây và đưa ra khuyến nghị cho phiên bản sắp tới (Postgres 19).
Một lập trình viên nên đọc bài này để cập nhật cách tối ưu hóa cơ sở dữ liệu PostgreSQL 19 mới nhất, đặc biệt là về các kỹ thuật như COPY, TOAST, BRIN, và cách sử dụng các chỉ mục bù và phân vùng hiệu quả, giúp cải thiện hiệu suất và quản lý tài nguyên trong ứng dụng hiện đại.
Atlassian giới thiệu Insights, một nền tảng kế thừa từ Analytics app, tích hợp các chỉ số được quản lý, định nghĩa từ điển dữ liệu, đường dẫn dòng dữ liệu và tín hiệu chất lượng vào Teamwork Graph. Giải pháp này cho phép teams kết nối data warehouse, cơ sở dữ liệu, pipeline và công cụ trực quan hóa mà không cần sao chép dữ liệu, cung cấp ngữ cảnh chia sẻ đáng tin cậy cho AI và Rovo agents trả lời câu hỏi kinh doanh. Insights bổ sung chức năng phân tích hội thoại (conversational analytics) để teams khám phá dữ liệu bằng ngôn ngữ tự nhiên trên các ứng dụng Atlassian, thay vì chờ xử lý ticket từ data team hay phụ thuộc vào dashboard cố định. Insights sẽ được triển khai cho tất cả khách hàng Atlassian Cloud trả phí theo từng giai đoạn bắt đầu sau sự kiện Team '26 Europe.
Insights giúp các nhóm truy cập và phân tích dữ liệu một cách dễ dàng mà không cần chờ đợi đội dữ liệu, nhờ vào việc tích hợp ngữ cảnh dữ liệu vào Teamwork Graph.
Polars là thư viện DataFrame viết bằng Rust có API Python, và bản pre‑release 2.0 đang được công bố. Phiên bản này tích hợp streaming engine vào mọi truy vấn lazy, cho phép thực hiện xử lý luồng thay vì tải toàn bộ dữ liệu vào bộ nhớ. Với streaming engine, các truy vấn lazy có thể làm việc trên tập dữ liệu lớn hơn RAM mà mức tiêu thụ bộ nhớ gần như không đổi, đồng thời giảm thời gian thực hiện do tránh việc sao chép dữ liệu trung gian. Việc đưa streaming engine vào mô hình lazy cho thấy cách mở rộng khả năng xử lý dữ liệu lớn mà không cần thay đổi API hiện tại, nên các nhà phát triển cân nhắc nâng cấp để xử lý workload out‑of‑core. Bản pre‑release vẫn có thể thay đổi, vì vậy trước khi áp dụng trong sản phẩm nên kiểm tra tính ổn định và benchmark trên dữ liệu thực tế.
Polars 2.0 giới thiệu công cụ streaming cho tất cả các truy vấn lazy, giúp xử lý dữ liệu lớn hiệu quả hơn.
Read the news here, practice coding, follow structured courses and train for IELTS on our sibling products — all connected through one 8 Sync account.
The ecosystem home: product overviews, blog and full pricing.
ExploreLearn along a clear roadmap: videos, auto-graded quizzes, certificates and mentors who ship for a living.
View the roadmap1,000+ DSA problems in Vietnamese, auto-graded across 7 languages — many FREE, right in your browser.
Practice for freeAI grading for all four IELTS skills with detailed rubric feedback.
Try it freeA 22 MB AI IDE for Vietnamese devs.
Download freeOrganizational memory for AI agents.
ExploreAI that staffs your Fanpage and qualifies leads for you.
Try it