Datasets:

lianghsun
/

HuggingFaceH4-MATH-R1-dpo

You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for HuggingFaceH4-MATH-R1-dpo

本資料集為 HuggingFaceH4/MATH-500 等 MATH 評測資料延伸的 R1-style DPO 偏好集，並翻譯為繁體中文：每筆樣本針對一道數學題，提供「具完整 R1 風格 <think> 推理過程的較佳解（chosen）」與「推理品質較差的解（rejected）」。

Dataset Details

Dataset Description

資料以 MATH 風格題目為基礎（代數、幾何、組合、機率等），題幹翻譯為繁中，並使用 DeepSeek R1 等具 R1 風格之模型產出 chosen，配合較弱模型／簡化 prompt 的版本作為 rejected，以建構偏好對。

格式採 LLaMA-Factory 之 conversations + chosen + rejected 風格，gpt 回答前段為 <think>...</think> 思考段落，後段為最終解答（多以 \boxed{...} 收尾）。

Curated by: Huang Liang Hsun
Language(s) (NLP): Traditional Chinese
License: cc-by-nc-sa-4.0

Dataset Sources

Repository: lianghsun/HuggingFaceH4-MATH-R1-dpo
Source dataset: HuggingFaceH4/MATH-500
Paper: TBA

Uses

Direct Use

對繁中數學 reasoning 模型做 DPO 偏好對齊。
與其他 reasoning DPO 集（Natural-Reasoning-R1-10k-dpo、tw-textbook-dpo）混用以平衡題型分布。

Out-of-Scope Use

不適用於完全未經 SFT 的基底模型；DPO 假設模型已具基本解題能力。
不適用於 MATH-500 評測；題目部分重疊會造成評測泄漏，請避免在自家評估時直接使用。

Dataset Structure

{
  "conversations": [{"from": "user", "value": "反射矩陣對於一條通過原點的直線 $\\ell$ 是： $\\begin{pmatrix} ... \\end{pmatrix}$ ..."}],
  "chosen":   {"from": "assistant", "value": "<think>嗯，好的，我現在要解決這個問題...</think>\n\n..."},
  "rejected": {"from": "assistant", "value": "..."}
}

Dataset Creation

Curation Rationale

英文 MATH/R1 資料對訓練繁中數學 reasoning 模型有用，但語言不一致會造成思考連貫性問題。本資料集將題目與解答翻譯為繁中，讓繁中模型可在自然語言下學習 R1 風格的推理結構。

Source Data

Data Collection and Processing

取得 HuggingFaceH4 MATH 系列之題目。
將題幹翻譯為繁中，保留 LaTeX 等數學格式。
由 R1 風格模型產出 chosen；由較弱模型產出 rejected。
過濾翻譯失敗或答案明顯不符合的樣本。

Who are the source data producers?

原題目來自 MATH benchmark；HuggingFaceH4 整理並發布。
解答內容由 LLM（含 R1 系列）自動生成。

Annotations

Annotation process

無人工標註。

Who are the annotators?

無人工標註者。

Personal and Sensitive Information

題目以數學為主，不含 PII。

Bias, Risks, and Limitations

翻譯後的數學題可能因語言用詞差異而與原題語意略有偏差。
chosen 解答仍由 LLM 生成，部分樣本最終答案仍可能錯誤，建議搭配自動評分（boxed 抽取後與標準答案比對）做進一步過濾。
與 MATH-500 評測有題目重疊風險，請在評測時務必比對 ID。

Recommendations

建議在 DPO 前做答案比對，確保 chosen 的最終答案與 ground truth 一致再用於訓練。

Citation

@misc{huggingfaceh4_math_r1_dpo,
  title        = {HuggingFaceH4-MATH-R1-dpo: Traditional Chinese R1-style DPO Dataset for MATH},
  author       = {Huang, Liang Hsun},
  year         = {2025},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/HuggingFaceH4-MATH-R1-dpo}},
  note         = {Translated and re-derived from HuggingFaceH4/MATH-500.}
}