跳转至

数据集

数据集是 Forge 一切工作流的起点。数据集是版本化容器:每次上传、每次标注导出都会生成 一个新的不可变版本;训练、优化、评估任务都引用某个确切版本。这正是模型可复现的原因。

数据集格式

按模型族系选择格式:

格式 用于 内容
COCO CV 检测 / 分割 图片 + COCO annotations.json
TXT CV 检测训练 图片 + 每图一个归一化检测框 .txt 标签 + 清单 YAML
ImageNet 图像分类 按类别目录布局
LLM-SFT LLM / VLM 微调 sharegpt 风格 JSONL 语料;VLM 数据集另带 images/ 文件夹
JSONL 文本语料 每行一个样本(纯文本、{text}、{data} 或 sharegpt 对话)

llm-sft 与 imagenet 版本可直接被训练选择。原始 COCO 上传会自动转换给训练器使用(生成 清单 YAML);标注导出的 TXT 标签完全无需转换。

一行 sharegpt 如下,可直接喂给 LLM/VLM 训练器:

{"conversations": [{"from": "human", "value": "Describe this image."},
                   {"from": "gpt", "value": "A blue circle on a red background."}]}

创建与上传

  1. 在数据集页创建数据集,填写名称、描述并选择格式。
  2. 上传单张图片或 ZIP 压缩包。图片可在压缩包根目录或 images/ 子目录。
  3. 压缩包异步解压入库——在版本列表中查看进度。每次成功入库成为一个保留的新版本。
  4. 预置语料(例如已放到对象存储的 LLM-SFT JSONL 加 images/ 目录)可直接按 S3 前缀 注册,无需浏览器上传。

接受的图片类型为 jpg / jpeg / png。大块字节进入 S3 兼容对象存储;工作台与训练器拿到的是 短时预签名 URL,而不是文件副本。

版本规则

  • 每次上传递增一个版本;旧版本保留且仍可选择。版本不可修改。
  • 标注导出(视觉为 COCO/TXT,文本为 JSONL)本身也是一个新数据集版本,因此模型总能 回溯到它学习的确切标签。
  • 创建任务时在版本之间切换;流水线其余部分不变。
  • 版本记录文件数(图片与标注文件)、格式、大小与来源(上传、导出、S3 对账)。

版本如何喂给工厂

上传图片 ──► v1(原始)
标注 + 导出 ──► v2(TXT / JSONL,可训练)──► 训练
新现场图片 ──► v3 ──► 补标缺口 ──► v4 ──► 重训

常见问题

如何准备带标签的训练数据?

在标注工作台完成标注后点击导出。视觉项目导出 COCO/TXT;文本 分类导出纯 JSONL;生成/对话项目导出 sharegpt JSONL。导出物成为新数据集版本,训练页可 立即选择。

版本号怎么递增?

每次完成上传或导出自动递增一次,不能覆盖某个版本。

一个数据集能同时放图片和文字吗?

VLM 语料正是如此:llm-sft JSONL 引用配套 images/ 目录里的文件。纯视觉用 COCO/TXT/ImageNet;纯文本用无图片的 JSONL/LLM-SFT。

下一步

  • 在标注页给数据打标签,或
  • 直接拿可训练版本发起训练。
  • 想先配置预标注?见 ML Backend。