Loading feed…
Dremio Blog0 Hot0 comments20 min read
Decision path for position deletes with row data during an Iceberg 1.12 upgrade
AI summary
Iceberg 1.12.0 mang lại thay đổi quan trọng về cách xử lý position deletes với row data. Phiên bản này cải thiện hiệu suất bằng cách giới hạn số lượng file data đọc khi thực hiện delete operations. Các bản vá lỗi và tính năng mới như REST updates và v3 features giúp tăng độ ổn định và hiệu năng cho hệ thống. Lập trình viên nên cân nhắc nâng cấp để tận dụng những cải tiến này, nhưng cần chú ý các breaking changes và đảm bảo test kỹ lưỡng với Spark và Flink integration trước khi triển khai.
AI summaries can be wrong. Read the original before relying on anything important.
Why read it: Lập trình viên cần đọc bài này để nắm rõ các thay đổi quan trọng trong Iceberg 1.12.0 và hướng dẫn nâng cấp đảm bảo hệ thống hoạt động ổn định.
What do you remember?
Answer 3 short questions to earn reward points for this article. Only do it if you want the points.
up to +17 points
3 questions · under a minute · optional
Source: https://www.dremio.com/blog/apache-iceberg-1-12-0-whats-new-breaking-changes-and-upgrade-guide. 8 Sync News only summarizes and links out; content copyright belongs to the authors and original sources.
8 Sync ecosystem
One account, the whole ecosystem
Read the news here, practice coding, follow structured courses and train for IELTS on our sibling products — all connected through one 8 Sync account.
8syncdev.com
8syncdev.comThe ecosystem home: product overviews, blog and full pricing.
ExploreCourses
course.8syncdev.comLearn along a clear roadmap: videos, auto-graded quizzes, certificates and mentors who ship for a living.
View the roadmapCoding practice
coding.8syncdev.com1,000 DSA problems in Vietnamese, auto-graded across 7 languages — many FREE, right in your browser.
Practice for freeIELTS
ielts.8syncdev.comAI grading for all four IELTS skills with detailed rubric feedback.
Try it freeZUS — AI IDE
zus.8syncdev.comA 22 MB AI IDE for Vietnamese devs.
Download freemind0
mind0.8syncdev.comOrganizational memory for AI agents.
ExploreAcoLeads
home-acoleads.8syncdev.comAI that staffs your Fanpage and qualifies leads for you.
Try itRecommended for you
ClickHouse1 Hot10 minAI
How Ridgeline unified Iceberg and ClickHouse into one analytics layer for investment management
Ridgeline xây dựng lại hệ thống phân tích hiệu suất trên nền tảng ClickHouse Cloud, truy vấn hàng thập kỷ dữ liệu lịch sử từ Iceberg cùng với dữ liệu thời gian thực. Giải pháp này cho phép phục vụ các nhà quản lý đầu tư lớn gấp 10 lần so với trước đây và hơn gấp đôi số lượng khách hàng hoạt động trên nền tảng của mình. Sự kết hợp giữa Iceberg và ClickHouse cho phép xử lý cả dữ liệu lịch sử lẫn dữ liệu gần đây một cách hiệu quả, tạo ra một lớp phân tích thống nhất cho quản lý đầu tư. Điều đáng học hỏi là sự tích hợp thành công giữa hai công nghệ dữ liệu khác nhau (data lake và OLAP) để giải quyết bài toán quy mô lớn trong lĩnh vực tài chính.
Bài viết này giúp lập trình viên hiểu cách tích hợp Iceberg và ClickHouse để nâng cao hiệu quả phân tích dữ liệu tài chính.
Confessions of a Data Guy15 Hot14 minAI
Delta Kernel (Rust) and the future of the Lakehouse.
Delta Kernel là thư viện dựa trên Rust từ Databricks và đội ngũ Delta Lake, cung cấp API thống nhất để đọc và ghi vào Delta table. Các công cụ như DuckDB và Polars gặp khó khăn khi theo kịp các thay đổi không tương thích ngược của Delta Protocol như deletion vectors, vấn đề mà Delta Kernel giải quyết. Tác giả xây dựng một CLI nhỏ bằng Rust sử dụng Delta Kernel để nhập CSV vào Delta table trên S3 và xuất Delta table sang Parquet, bao gồm snapshot creation, schema checks, transactions và commits. Delta Kernel được định vị là cơ sở hạ tầng nền tảng, tương tự DataFusion, mà các công cụ khác sẽ ngày càng dựa vào, cùng với các Rust crate mới cho Unity Catalog.
Delta Kernel cung cấp API thống nhất để đọc và ghi Delta tables, giải quyết vấn đề tương thích với các thay đổi protocol như deletion vectors.
ClickHouse2 Hot9 minAI
How iSAM Funds built an options research platform for a 10,000x data problem with ClickHouse Cloud
iSAM Funds đối mặt với bài toán xử lý dữ liệu options với quy mô 10,000 lần lớn hơn thông thường. Họ sử dụng ClickHouse Cloud để giải quyết vấn đề này, đạt mức nén dữ liệu 35-50x và tốc độ nhập dữ liệu single-core nhanh hơn 100 lần. Nhờ giải pháp này, họ đã đơn giản hóa đáng kể các pipeline dữ liệu phức tạp. Bài viết cho thấy sức mạnh của ClickHouse trong xử lý dữ liệu tài chính lớn với hiệu suất vượt trội.
Bài viết này giúp lập trình viên hiểu cách ClickHouse Cloud giải quyết bài toán xử lý lượng dữ liệu lớn với hiệu suất vượt trội.
Snowflake1 Hot5 minAI
Introducing Semantic Studio: The Semantic View IDE
Semantic Studio đã chính thức ra mắt, cho phép lập trình viên tạo, debug và triển khai semantic views ngay trong Snowflake Workspaces. Công nghệ tích hợp Snowflake CoCo cùng quản lý phiên bản git và CI/CD trong một môi trường duy nhất giúp tăng hiệu suất làm việc. Việc này giảm thiểu sự phức tạp khi phải chuyển đổi giữa các công cụ khác nhau khi làm việc với dữ liệu có cấu trúc. Đối với các nhà phát triển Snowflake, đây là giải pháp giúp tối ưu hóa quy trình phát triển ứng dụng dữ liệu đáng cân nhắc.
Semantic Studio giúp lập trình viên quản lý và phát triển semantic views trong Snowflake Workspaces với các công cụ hiện đại như CoCo, git versioning và CI/CD.
Salesforce Engineering2 Hot9 minAI
Apache Spark Resource Optimization: Lessons From Eight Million Jobs a Day
Đối mặt với khối lượng 8 triệu job mỗi ngày, team Spark đã triển khai execution telemetry để giám sát tài nguyên hệ thống. Phân tích dữ liệu telemetry giúp phát hiện hiệu quả các executor idle chiếm tới 30% tổng tài nguyên phân bổ. Việc tối ưu hóa này giảm đáng kể chi phí compute trong khi vẫn đảm bảo performance và reliability của hệ thống. Các bài học rút ra có thể áp dụng để tối ưu hóa cluster resource allocation trong các môi trường production sử dụng Spark.
Bài viết này giúp lập trình viên tối ưu hóa tài nguyên Apache Spark bằng cách chẩn đoán executor rảnh và giảm chi phí tính toán dựa trên dữ liệu từ tám triệu job mỗi ngày.
Crunchy Data38 Hot17 minAI
Postgres 19: How Our Advice Has Changed Since...
Bài viết đánh giá lại những lời khuyên trước đây về các tính năng như COPY, TOAST, BRIN, covering indexes và partitioning trong PostgreSQL, xem xét những thay đổi từ các phiên bản Postgres gần đây và đưa ra khuyến nghị cho phiên bản sắp tới (Postgres 19).
Một lập trình viên nên đọc bài này để cập nhật cách tối ưu hóa cơ sở dữ liệu PostgreSQL 19 mới nhất, đặc biệt là về các kỹ thuật như COPY, TOAST, BRIN, và cách sử dụng các chỉ mục bù và phân vùng hiệu quả, giúp cải thiện hiệu suất và quản lý tài nguyên trong ứng dụng hiện đại.
Flink1 Hot6 minAI
Apache Flink CDC 3.7.0 Release Announcement
Phiên bản Flink CDC 3.7.0 giới thiệu xử lý dữ liệu dựa trên AI với API mô hình có thể cắm thêm, client mô hình tương thích OpenAI và các hàm văn bản, đa phương thức tích hợp sẵn. Bản cập nhật này cũng bổ trợ inline Python UDF, các connector nguồn mới cho SQL Server và Fluss Pipeline, cùng với cơ chế xử lý schema an toàn hơn cho các bảng sink. Việc cải tiến pipeline configuration và routing cũng được thực hiện, cùng với các bản sửa lỗi tăng độ ổn định cho nhiều connector khác nhau. Đây là phiên bản đáng chú ý nếu bạn đang tìm kiếm tích hợp AI vào pipeline dữ liệu hoặc cần các tính năng xử lý dữ liệu mới.
Lập trình viên nên đọc bài này để cập nhật những tính năng mới như AI xử lý dữ liệu và cải tiến kết nối trong Flink CDC 3.7.0.
Salesforce Developers Blog2 Hot7 minAI
Advanced Code Extension PySpark Examples for Batch Data Transforms
Các script batch transform trong Data 360 giúp bạn thực thi logic Python tùy biến để xử lý data lake objects (DLOs) và data model objects (DMOs) trong môi trường tính toán riêng biệt. Bài viết tập trung vào các ví dụ nâng cao sử dụng PySpark cho batch data transforms, cho phép xử lý dữ liệu quy mô lớn với hiệu suất cao. Công nghệ PySpark được tối ưu hóa để chạy trên cluster Apache Spark, giúp tăng tốc độ xử lý dữ liệu lớn lên đến 10-100 lần so với xử lý tuần tự thông thường. Các kỹ sư có thể học hỏi cách kết hợp PySpark với Data 360 API để tạo pipeline xử lý dữ liệu phức tạp, đặc biệt hữu ích khi cần xử lý dữ liệu không cấu trúc hoặc thực hiện các phép toán toán học phức tạp trên dữ liệu lớn.
Các lập trình viên nên đọc bài này để học hỏi các ví dụ script nâng cao giúp tối ưu hóa việc biến đổi dữ liệu hàng loạt bằng PySpark trong Data 360.
Bình luận
Đang tải bình luận…