Đang tải bảng tin…
Towards Data Science00 bình luận7 phút đọc
One Month Into Learning Data Engineering in Public: Here’s What I Didn’t Write About
A personal reflection on the first month of a public data engineering learning journey, covering the emotional and motivational realities that didn't make it into the technical build articles. Topics include deviating from a planned roadmap, hitting non-technical walls disguised as coding problems, nearly pivoting to AI engineering due to shiny object syndrome, and finding sustainable motivation through helping others rather than chasing a distant job goal. The author also shares a shift in learning strategy toward smaller, completable projects over large portfolio builds.
Nguồn: https://towardsdatascience.com/one-month-into-learning-data-engineering-in-public-heres-what-i-didnt-write-about. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
Redpanda112 phútAI
Kafka's log compaction corrupts data. Here's how we fixed it
Apache Kafka có lỗ hổng trong cơ chế log compaction khiến dữ liệu bị hỏng do xung đột giữa compaction và replication, gây ra bốn vấn đề: dữ liệu đã xóa tái xuất hiện, giao dịch bị hủy hiện dưới dạng đã commit, dữ liệu đã commit bị ẩn, và consumers read_committed bị đóng băng partition. Redpanda Streaming khắc phục bằng giao thức compaction phối hợp, sử dụng các cặp offset (MCCO/MTRO, MXFO/MXRO) để đảm bảo tombstones và transaction markers không bị xóa trước khi tất cả replicas xử lý xong. Lỗi này có thể tái hiện trên Kafka phiên bản 3.9 đến 4.2 bằng Docker Compose.
Lập trình viên cần đọc bài này để hiểu cách giải quyết vấn đề lỗi race condition trong log compaction của Kafka, giúp tránh mất dữ liệu và bảo đảm tính nhất quán khi xử lý các trường hợp đồng bộ hóa dữ liệu trên nhiều broker.
