跳到正文
Hugging Face Blog·· 2024-10-09AI 评分54

Hugging Face 官方教程:用 Dask 将数据处理扩展到 2.11 亿行

Scaling AI-based Data Processing with Hugging Face + Dask

AI 导读

Hugging Face 官方博客展示了如何用 Dask 把基于 FineWeb 数据集的 FineWeb-Edu 分类任务从本地 100 行扩展到云端多 GPU 上的 2.11 亿行。

来源:Hugging Face Blog · huggingface.co