数据集¶
数据集是 Forge 一切工作流的起点。数据集是版本化容器:每次上传、每次标注导出都会生成 一个新的不可变版本;训练、优化、评估任务都引用某个确切版本。这正是模型可复现的原因。
数据集格式¶
按模型族系选择格式:
| 格式 | 用于 | 内容 |
|---|---|---|
| COCO | CV 检测 / 分割 | 图片 + COCO annotations.json |
| TXT | CV 检测训练 | 图片 + 每图一个归一化检测框 .txt 标签 + 清单 YAML |
| ImageNet | 图像分类 | 按类别目录布局 |
| LLM-SFT | LLM / VLM 微调 | sharegpt 风格 JSONL 语料;VLM 数据集另带 images/ 文件夹 |
| JSONL | 文本语料 | 每行一个样本(纯文本、{text}、{data} 或 sharegpt 对话) |
llm-sft 与 imagenet 版本可直接被训练选择。原始 COCO 上传会自动转换给训练器使用(生成
清单 YAML);标注导出的 TXT 标签完全无需转换。
一行 sharegpt 如下,可直接喂给 LLM/VLM 训练器:
{"conversations": [{"from": "human", "value": "Describe this image."},
{"from": "gpt", "value": "A blue circle on a red background."}]}
创建与上传¶
- 在数据集页创建数据集,填写名称、描述并选择格式。
- 上传单张图片或 ZIP 压缩包。图片可在压缩包根目录或
images/子目录。 - 压缩包异步解压入库——在版本列表中查看进度。每次成功入库成为一个保留的新版本。
- 预置语料(例如已放到对象存储的 LLM-SFT JSONL 加
images/目录)可直接按 S3 前缀 注册,无需浏览器上传。
接受的图片类型为 jpg / jpeg / png。大块字节进入 S3 兼容对象存储;工作台与训练器拿到的是 短时预签名 URL,而不是文件副本。
版本规则¶
- 每次上传递增一个版本;旧版本保留且仍可选择。版本不可修改。
- 标注导出(视觉为 COCO/TXT,文本为 JSONL)本身也是一个新数据集版本,因此模型总能 回溯到它学习的确切标签。
- 创建任务时在版本之间切换;流水线其余部分不变。
- 版本记录文件数(图片与标注文件)、格式、大小与来源(上传、导出、S3 对账)。
版本如何喂给工厂¶
上传图片 ──► v1(原始)
标注 + 导出 ──► v2(TXT / JSONL,可训练)──► 训练
新现场图片 ──► v3 ──► 补标缺口 ──► v4 ──► 重训
常见问题¶
如何准备带标签的训练数据?
在标注工作台完成标注后点击导出。视觉项目导出 COCO/TXT;文本 分类导出纯 JSONL;生成/对话项目导出 sharegpt JSONL。导出物成为新数据集版本,训练页可 立即选择。
版本号怎么递增?
每次完成上传或导出自动递增一次,不能覆盖某个版本。
一个数据集能同时放图片和文字吗?
VLM 语料正是如此:llm-sft JSONL 引用配套 images/ 目录里的文件。纯视觉用
COCO/TXT/ImageNet;纯文本用无图片的 JSONL/LLM-SFT。
下一步¶
- 在标注页给数据打标签,或
- 直接拿可训练版本发起训练。
- 想先配置预标注?见 ML Backend。