Skip to main content

apache/datafusion-comet

Letzte erfasste Quellaktivität
SkillsMP-Katalog aktualisiert
gesammelte Skills
12
GitHub-Stars
1.290
GitHub-Forks
391

README des Repositorys wird geladen…

Es werden 12 von 12 gesammelten Skills angezeigt.

Beruf
nicht klassifiziert
Beschreibung

Use when reviewing a DataFusion Comet pull request that touches Iceberg writes, the split-operator write plan (IcebergWriteStrategy, IcebergWriteExec, IcebergCommitExec), the native Iceberg writer (CometIcebergWriteExec, iceberg_write.rs,…

Quellsprache: Englisch

Aktualisiert
Beruf
nicht klassifiziert
Beschreibung

Use when implementing a new Spark expression in DataFusion Comet. Walks through cloning latest Spark master to study the canonical implementation, checking the upstream datafusion-spark crate before writing native code, building the Comet serde and Rust…

Quellsprache: Englisch

Aktualisiert
Beruf
nicht klassifiziert
Beschreibung

Use when reviewing a DataFusion Comet pull request that adds or changes a Spark expression, its Scala serde, its protobuf message, or its native Rust implementation. Load alongside review-comet-pr, which covers the parts of the review that apply to every PR.

Quellsprache: Englisch

Aktualisiert
Beruf
nicht klassifiziert
Beschreibung

Use when reviewing a DataFusion Comet pull request. Covers the workflow that applies to every PR and routes to the area-specific review skills for expressions, FFI, memory management, shuffle, and Iceberg writes. Provides guidance to a human reviewer rather…

Quellsprache: Englisch

Aktualisiert
Beruf
nicht klassifiziert
Beschreibung

Use when wiring an existing DataFusion or datafusion-spark function into Comet for a Spark expression. Identifies the right wiring pattern (one-line passthrough, datafusion-spark UDF registration, or custom serde with input massaging / restrictions), applies…

Quellsprache: Englisch

Aktualisiert
Beruf
nicht klassifiziert
Beschreibung

Use when reviewing a DataFusion Comet pull request that crosses the JVM/native boundary, touching Arrow C Data or C Stream interface code, batch export and import, CometExecIterator, ScanExec, NativeUtil, CometVector subclasses, or jni_api. Load alongside…

Quellsprache: Englisch

Aktualisiert
Beruf
nicht klassifiziert
Beschreibung

Use when reviewing a DataFusion Comet pull request that touches memory pools, memory reservations, spilling, the Spark TaskMemoryManager bridge, allocators, or memory-related configuration. Load alongside review-comet-pr.

Quellsprache: Englisch

Aktualisiert
Beruf
nicht klassifiziert
Beschreibung

Use when reviewing a DataFusion Comet pull request that touches native or JVM columnar shuffle, the shuffle writers and readers, partitioning, the Arrow IPC block format, shuffle compression, or the Celeborn integration. Load alongside review-comet-pr.

Quellsprache: Englisch

Aktualisiert
Beruf
Softwarequalitätssicherungsanalysten und -tester
Beschreibung

Audit an existing Comet expression for correctness and test coverage. Studies the Spark implementation across versions 3.4.3, 3.5.8, 4.0.1, and 4.1.1, reviews the Comet and DataFusion implementations, identifies missing test coverage, and offers to implement…

Quellsprache: Englisch

Aktualisiert
Beruf
Projektmanagementspezialisten
Beschreibung

Triage open Comet issues marked `requires-triage` per the project bug triage guide. Classifies each issue as a bug or an enhancement, applies the recommended type (`bug`/`enhancement`), priority, and area labels, removes `requires-triage`, and files a dated…

Quellsprache: Englisch

Aktualisiert
Beruf
Softwareentwickler
Beschreibung

Use when optimizing the performance of an existing native scalar expression in the datafusion-comet-spark-expr crate (native/spark-expr/) — casts, string/JSON/array/math kernels that run per-row or per-batch. Covers benchmarking, keeping output bit-identical,…

Quellsprache: Englisch

Aktualisiert
Beruf
Computersystemanalytiker
Beschreibung

Use when picking the next Spark expression to implement natively in Comet, or when asked whether a specific codegen-dispatched expression is worth a native Rust implementation. Scores the candidate on how likely a native path can be 100% Spark-compatible and…

Quellsprache: Englisch

Aktualisiert
Es werden 12 von 12 gesammelten Skills angezeigt.

Mit einem KI-Assistenten installieren

Diesen Prompt kopieren und in den verwendeten KI-Assistenten einfügen.