Ways to Load Data into a Microsoft Fabric Lakehouse: Upload Files

Expanded semantic model support in Knowledge Catalog

Give AI agents the definitions you already trust. Knowledge Catalog ingests Looker, BigQuery, dbt, Snowflake, Databricks, and SAP semantic models.

Voice Agents are here. Context turns them into real customer value.

Be

The media industry is becoming a prediction economy

Ngành công nghiệp truyền thông đang chuyển đổi thành một nền kinh tế dự đoán, với Netflix đầu tư 1 tỷ USD vào việc phân tích dữ liệu người dùng để tối ưu hóa nội dung. Nguyên nhân chính là công nghệ machine learning và big data cho phép các nền tảng như Netflix, Spotify và TikTok phân tích hành vi người dùng với độ chính xác cao. Hệ quả là nội dung ngày càng được cá nhân hóa mạnh mẽ, với tỷ lệ giữ chân người dùng tăng lên 40% nhờ các thuật toán recommendation engine. Các công ty cần xem xét việc xây dựng bộ phận data science chuyên biệt để cạnh tranh trong môi trường này, vì khả năng dự đoán chính xác nhu cầu khán giả đang trở thành lợi thế cạnh tranh then chốt.

Lập trình viên nên đọc bài này để hiểu cách AI và dữ liệu đang thay đổi cách dự đoán thị trường truyền thông, từ đó tìm ra cơ hội phát triển các giải pháp tự động hóa, phân tích dữ liệu hiệu quả hơn cho các dự án tương lai.

Why DuckDB 2.0 is faster

DuckDB 2.0 mang lại hiệu suất vượt trội với recursive CTEs nhanh hơn tới 90x so với phiên bản 1.5.5, kiểu dữ VARIANT xử lý nhanh hơn 6x so với JSON text, và async I/O trên S3 tăng 2.4x. Sự cải thiện đến từ tối ưu hóa engine xử lý, đặc biệt là việc bổ sung cache-aware execution plan và cải thiện cách quản lý memory cho variant data. Điều này cho thấy việc hiểu cách DuckDB lưu trữ và xử lý dữ liệu (đặc biệt với variant và variant types) sẽ giúp tối ưu hóa truy vấn tốt hơn. Bài viết cung cấp những insight thực tế về cách thiết kế schema dữ liệu để tận dụng tối đa hiệu năng mới mà không cần thay đổi code ứng dụng.

DuckDB 2.0 mang đến tốc độ vượt trội với cải tiến đáng kể trong CTE đệ quy, xử lý VARIANT và I/O bất đồng bộ, giúp lập trình viên tối ưu hiệu suất truy vấn dữ liệu.

Vital Skills: Upskilling Genie Code with Healthcare and Life Sciences skills

Vital Skills là thư viện kỹ năng do chuyên gia ngành của Databricks xây dựng, tập trung vào phát triển phân tích và khoa học học với Genie Code. Quá trình phát triển và đánh giá kỹ năng này đã được thực hiện kỹ lưỡng để đảm bảo tính ứng dụng thực tế. Thư viện này chứa các kỹ năng cụ thể giúp xử lý dữ liệu y tế và khoa học sinh học một cách hiệu quả. Khách hàng có thể dễ dàng tìm kiếm và sử dụng các kỹ năng này trong Genie Code để tăng năng suất làm việc. Đây là công cụ hữu ích cho các lập trình viên muốn kết hợp kỹ năng công nghệ với lĩnh vực y tế và khoa học sinh học.

Bài viết này giúp lập trình viên nắm cách tích hợp kỹ năng y tế và khoa học sinh học vào Genie Code để phát triển các giải pháp phân tích khoa học hiệu quả hơn.

As humans write less code: workloads shift from human to agent verification with iterative test suites

Khi lập trình viên tạo ít code hơn, khối lượng công việc chuyển từ xác minh bởi con người sang agent verification. Nguyên nhân kỹ thuật là hệ thống AI ngày càng tự động hóa quy trình phân tích dữ liệu, yêu cầu test suites phải được thiết kế lại để hỗ trợ agents. Hệ quả là xác minh kết quả agent-generated analytics trở nên quan trọng hơn với chi phí thấp hơn nhờ vào iterative test suites. Bài viết đưa ra giải pháp kết hợp human intuition với unified data lineage để nâng cao độ tin cậy, giảm 40% lỗi trong các dự án thực tế. Điều đáng học là việc triển khai agent verification không thay thế mà bổ sung kỹ năng của con người, tạo ra môi trường phát triển hiệu quả hơn với các công cụ như Apache Atlas và Datahub.

Bài viết giúp lập trình viên hiểu cách chuyển trọng lượng kiểm tra từ con người sang agent bằng bộ test lặp lại để xác minh phân tích do agent tạo ra.

Delta Kernel (Rust) and the future of the Lakehouse.

Delta Kernel là thư viện dựa trên Rust từ Databricks và đội ngũ Delta Lake, cung cấp API thống nhất để đọc và ghi vào Delta table. Các công cụ như DuckDB và Polars gặp khó khăn khi theo kịp các thay đổi không tương thích ngược của Delta Protocol như deletion vectors, vấn đề mà Delta Kernel giải quyết. Tác giả xây dựng một CLI nhỏ bằng Rust sử dụng Delta Kernel để nhập CSV vào Delta table trên S3 và xuất Delta table sang Parquet, bao gồm snapshot creation, schema checks, transactions và commits. Delta Kernel được định vị là cơ sở hạ tầng nền tảng, tương tự DataFusion, mà các công cụ khác sẽ ngày càng dựa vào, cùng với các Rust crate mới cho Unity Catalog.

Delta Kernel cung cấp API thống nhất để đọc và ghi Delta tables, giải quyết vấn đề tương thích với các thay đổi protocol như deletion vectors.

Built for Agents: The Case for Spark Declarative Pipelines

Benchmark với 528 lần build cho thấy pipeline declarative trong Spark phát hiện lỗi cấu trúc trước khi thực thi, giảm thời gian cluster của các build đo đạc được khoảng 34 lần so với PySpark quy trình. Việc sử dụng Spark declarative pipelines giúp tối ưu hóa hiệu suất đáng kể nhờ phát hiện sớm các vấn đề về cấu trúc. Ngôn ngữ pipeline declarative cung cấp khả năng kiểm tra lỗi tĩnh mà procedural approach không có. Đáng học hỏi ở đây là cách tiếp cận declarative có thể cải thiện hiệu suất lên đến hơn 30 lần trong các môi trường xử lý dữ liệu lớn.

Đọc bài này giúp lập trình viên hiểu được cách Spark Declarative Pipelines giúp giảm thời gian chạy cluster lên đến 34 lần so với PySpark thông thường.