跳到正文
Hugging Face Blog·· 2025-07-25AI 评分55

Hugging Face 在 PyArrow 和 Pandas 中推出 Parquet Content-Defined Chunking

Parquet Content-Defined Chunking

AI 导读

Hugging Face 宣布 Parquet Content-Defined Chunking(CDC)现已在 PyArrow 和 Pandas 中可用,通过传入 use_content_defined_chunking=True 即可启用,配合 Xet 存储层只上传或下载发生变化的数据块,从而降低传输与存储成本。

来源:Hugging Face Blog · huggingface.co