diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/_default_template_yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/_default_template_yaml
new file mode 100644
index 0000000000000000000000000000000000000000..d2e0a8876c6963ff17f8da6bef14063d3b0d92a4
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/_default_template_yaml
@@ -0,0 +1,19 @@
+group: cmmlu
+dataset_path: haonan-li/cmmlu
+test_split: test
+fewshot_split: dev
+fewshot_config:
+  sampler: first_n
+output_type: multiple_choice
+doc_to_text: "{{Question.strip()}}\nA. {{A}}\nB. {{B}}\nC. {{C}}\nD. {{D}}\n答案："
+doc_to_choice: ["A", "B", "C", "D"]
+doc_to_target: "{{['A', 'B', 'C', 'D'].index(Answer)}}"
+metric_list:
+  - metric: acc
+    aggregation: mean
+    higher_is_better: true
+  - metric: acc_norm
+    aggregation: mean
+    higher_is_better: true
+metadata:
+  version: 0.0
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/_generate_configs.py b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/_generate_configs.py
new file mode 100644
index 0000000000000000000000000000000000000000..52081150cbe0dc7c12aa4fe7ef7a324b29d85ed7
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/_generate_configs.py
@@ -0,0 +1,133 @@
+"""
+Take in a YAML, and output all other splits with this YAML
+"""
+import argparse
+import os
+
+import yaml
+from tqdm import tqdm
+
+from lm_eval.utils import eval_logger
+
+
+SUBJECTS = {
+    "agronomy": "农学",
+    "anatomy": "解剖学",
+    "ancient_chinese": "古汉语",
+    "arts": "艺术学",
+    "astronomy": "天文学",
+    "business_ethics": "商业伦理",
+    "chinese_civil_service_exam": "中国公务员考试",
+    "chinese_driving_rule": "中国驾驶规则",
+    "chinese_food_culture": "中国饮食文化",
+    "chinese_foreign_policy": "中国外交政策",
+    "chinese_history": "中国历史",
+    "chinese_literature": "中国文学",
+    "chinese_teacher_qualification": "中国教师资格",
+    "clinical_knowledge": "临床知识",
+    "college_actuarial_science": "大学精算学",
+    "college_education": "大学教育学",
+    "college_engineering_hydrology": "大学工程水文学",
+    "college_law": "大学法律",
+    "college_mathematics": "大学数学",
+    "college_medical_statistics": "大学医学统计",
+    "college_medicine": "大学医学",
+    "computer_science": "计算机科学",
+    "computer_security": "计算机安全",
+    "conceptual_physics": "概念物理学",
+    "construction_project_management": "建设工程管理",
+    "economics": "经济学",
+    "education": "教育学",
+    "electrical_engineering": "电气工程",
+    "elementary_chinese": "小学语文",
+    "elementary_commonsense": "小学常识",
+    "elementary_information_and_technology": "小学信息技术",
+    "elementary_mathematics": "初等数学",
+    "ethnology": "民族学",
+    "food_science": "食品科学",
+    "genetics": "遗传学",
+    "global_facts": "全球事实",
+    "high_school_biology": "高中生物",
+    "high_school_chemistry": "高中化学",
+    "high_school_geography": "高中地理",
+    "high_school_mathematics": "高中数学",
+    "high_school_physics": "高中物理学",
+    "high_school_politics": "高中政治",
+    "human_sexuality": "人类性行为",
+    "international_law": "国际法学",
+    "journalism": "新闻学",
+    "jurisprudence": "法理学",
+    "legal_and_moral_basis": "法律与道德基础",
+    "logical": "逻辑学",
+    "machine_learning": "机器学习",
+    "management": "管理学",
+    "marketing": "市场营销",
+    "marxist_theory": "马克思主义理论",
+    "modern_chinese": "现代汉语",
+    "nutrition": "营养学",
+    "philosophy": "哲学",
+    "professional_accounting": "专业会计",
+    "professional_law": "专业法学",
+    "professional_medicine": "专业医学",
+    "professional_psychology": "专业心理学",
+    "public_relations": "公共关系",
+    "security_study": "安全研究",
+    "sociology": "社会学",
+    "sports_science": "体育学",
+    "traditional_chinese_medicine": "中医中药",
+    "virology": "病毒学",
+    "world_history": "世界历史",
+    "world_religions": "世界宗教",
+}
+
+
+def parse_args():
+    parser = argparse.ArgumentParser()
+    parser.add_argument("--base_yaml_path", required=True)
+    parser.add_argument("--save_prefix_path", default="cmmlu")
+    parser.add_argument("--cot_prompt_path", default=None)
+    parser.add_argument("--task_prefix", default="")
+    return parser.parse_args()
+
+
+if __name__ == "__main__":
+    args = parse_args()
+
+    # get filename of base_yaml so we can `"include": ` it in our other YAMLs.
+    base_yaml_name = os.path.split(args.base_yaml_path)[-1]
+    with open(args.base_yaml_path, encoding="utf-8") as f:
+        base_yaml = yaml.full_load(f)
+
+    if args.cot_prompt_path is not None:
+        import json
+
+        with open(args.cot_prompt_path, encoding="utf-8") as f:
+            cot_file = json.load(f)
+
+    for subject_eng, subject_zh in tqdm(SUBJECTS.items()):
+        if args.cot_prompt_path is not None:
+            description = cot_file[subject_eng]
+        else:
+            description = (
+                f"以下是关于{subject_zh}的单项选择题，请直接给出正确答案的选项。\n\n"
+            )
+
+        yaml_dict = {
+            "include": base_yaml_name,
+            "task": f"cmmlu_{args.task_prefix}_{subject_eng}"
+            if args.task_prefix != ""
+            else f"cmmlu_{subject_eng}",
+            "dataset_name": subject_eng,
+            "description": description,
+        }
+
+        file_save_path = args.save_prefix_path + f"_{subject_eng}.yaml"
+        eval_logger.info(f"Saving yaml for subset {subject_eng} to {file_save_path}")
+        with open(file_save_path, "w", encoding="utf-8") as yaml_file:
+            yaml.dump(
+                yaml_dict,
+                yaml_file,
+                width=float("inf"),
+                allow_unicode=True,
+                default_style='"',
+            )
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_anatomy.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_anatomy.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..84161ec30ee875253d988a395f892b7982631765
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_anatomy.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "anatomy"
+"description": "以下是关于解剖学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_anatomy"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_ancient_chinese.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_ancient_chinese.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..2099e0a12de41328eed39ebafb5ec940ee4aac5a
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_ancient_chinese.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "ancient_chinese"
+"description": "以下是关于古汉语的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_ancient_chinese"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_arts.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_arts.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..6007825cb9f3cd8c0af7e25c7de6d1c965f612a0
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_arts.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "arts"
+"description": "以下是关于艺术学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_arts"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_astronomy.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_astronomy.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5ad9a8f2c886e189c380b9f01104fca11a2ef529
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_astronomy.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "astronomy"
+"description": "以下是关于天文学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_astronomy"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_business_ethics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_business_ethics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..10135b604b3a96ba2c894dc86a9b3af1382728a2
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_business_ethics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "business_ethics"
+"description": "以下是关于商业伦理的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_business_ethics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_civil_service_exam.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_civil_service_exam.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..dcf6c7e6eeb52f551442de521ed4cc4fdfd272f1
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_civil_service_exam.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "chinese_civil_service_exam"
+"description": "以下是关于中国公务员考试的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_chinese_civil_service_exam"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_foreign_policy.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_foreign_policy.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..bbb34a96a36cf9db8f68fe7047b2c81260afdd6f
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_foreign_policy.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "chinese_foreign_policy"
+"description": "以下是关于中国外交政策的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_chinese_foreign_policy"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_history.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_history.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..26fe1db5ac3039018f02bfa55e118cbba1db4ed8
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_history.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "chinese_history"
+"description": "以下是关于中国历史的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_chinese_history"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_literature.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_literature.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..4166c122c8c12a0268f67ed646e2c31698d7a40c
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_literature.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "chinese_literature"
+"description": "以下是关于中国文学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_chinese_literature"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_teacher_qualification.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_teacher_qualification.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..226e98a92e435abefc82c34fad8755c80ea42448
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_chinese_teacher_qualification.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "chinese_teacher_qualification"
+"description": "以下是关于中国教师资格的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_chinese_teacher_qualification"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_clinical_knowledge.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_clinical_knowledge.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..6ed36425f2c3b866e62e0ac9b38dd0aeab118916
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_clinical_knowledge.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "clinical_knowledge"
+"description": "以下是关于临床知识的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_clinical_knowledge"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_education.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_education.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..952f351cb005d300becc2f5e3b7d5b8579b979a5
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_education.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "college_education"
+"description": "以下是关于大学教育学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_college_education"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_engineering_hydrology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_engineering_hydrology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..d52288a4d96e3eee909a7f33c845ba2fa9590aba
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_engineering_hydrology.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "college_engineering_hydrology"
+"description": "以下是关于大学工程水文学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_college_engineering_hydrology"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_law.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_law.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..717784ac3d636cfde4560d11c85f84a963d7e154
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_law.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "college_law"
+"description": "以下是关于大学法律的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_college_law"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_mathematics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_mathematics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..7876a584e7e3c936d30c7e4ad81381ec7e535493
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_mathematics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "college_mathematics"
+"description": "以下是关于大学数学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_college_mathematics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_medical_statistics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_medical_statistics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f4839bdcac6dc3ba2ee7b874a1700db1d760b49c
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_medical_statistics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "college_medical_statistics"
+"description": "以下是关于大学医学统计的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_college_medical_statistics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_medicine.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_medicine.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..dff0d7860fee5dbd289ffaf2d61215fc1c79707b
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_college_medicine.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "college_medicine"
+"description": "以下是关于大学医学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_college_medicine"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_computer_science.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_computer_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..86c874e539d21d55540e7e5adce32a624d4a706c
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_computer_science.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "computer_science"
+"description": "以下是关于计算机科学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_computer_science"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_computer_security.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_computer_security.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9471546184de5dde5edeb8031a64e588c7594f8f
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_computer_security.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "computer_security"
+"description": "以下是关于计算机安全的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_computer_security"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_conceptual_physics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_conceptual_physics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ba952486faefcb59e113864489d3fe95c5c2703d
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_conceptual_physics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "conceptual_physics"
+"description": "以下是关于概念物理学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_conceptual_physics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_construction_project_management.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_construction_project_management.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..86265b0804a30e1d2352ff79bcaaa8de3c15316f
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_construction_project_management.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "construction_project_management"
+"description": "以下是关于建设工程管理的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_construction_project_management"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_economics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_economics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..4602efb430d49e3a876b7243c4cfffe506094b34
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_economics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "economics"
+"description": "以下是关于经济学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_economics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_education.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_education.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f1dc8a8a4fbc9664da04e2288cf782a9cc1e1877
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_education.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "education"
+"description": "以下是关于教育学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_education"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_electrical_engineering.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_electrical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..2bb920b53ab8856d717fea8e07e87077ec3b3f71
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_electrical_engineering.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "electrical_engineering"
+"description": "以下是关于电气工程的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_electrical_engineering"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_elementary_chinese.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_elementary_chinese.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..6f67be3fc40f5c038b455edcc6076675a4451261
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_elementary_chinese.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "elementary_chinese"
+"description": "以下是关于小学语文的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_elementary_chinese"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_elementary_information_and_technology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_elementary_information_and_technology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..98c7d3c8f2d85f3c52a3314253d2d2151f7116ae
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_elementary_information_and_technology.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "elementary_information_and_technology"
+"description": "以下是关于小学信息技术的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_elementary_information_and_technology"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_food_science.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_food_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9be450ca2ea2190c6dd3b0639ad9fbd12d968443
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_food_science.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "food_science"
+"description": "以下是关于食品科学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_food_science"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_genetics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_genetics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..be57628b6f0d3dd2bc6719e08f9aaddb45ac7fa2
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_genetics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "genetics"
+"description": "以下是关于遗传学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_genetics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_global_facts.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_global_facts.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..6982be9468bebc3d99a53baf120a11eae52704bb
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_global_facts.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "global_facts"
+"description": "以下是关于全球事实的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_global_facts"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_biology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_biology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a56e797420f80bba1814e2bffc3aaa7f009d74f4
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_biology.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "high_school_biology"
+"description": "以下是关于高中生物的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_high_school_biology"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_chemistry.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_chemistry.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..34e99ea0f47b7017206bd6e9078ca7a5c2b25f0e
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_chemistry.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "high_school_chemistry"
+"description": "以下是关于高中化学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_high_school_chemistry"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_geography.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_geography.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..c73ebe9171df9e9f0fbdf2fecddb251e56884702
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_geography.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "high_school_geography"
+"description": "以下是关于高中地理的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_high_school_geography"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_mathematics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_mathematics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3598501c1763d5f1c19444e1b18bb242149fdd34
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_mathematics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "high_school_mathematics"
+"description": "以下是关于高中数学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_high_school_mathematics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_politics.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_politics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5f689dff61a4ea55628b04f9bed5202e48c6eb70
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_high_school_politics.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "high_school_politics"
+"description": "以下是关于高中政治的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_high_school_politics"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_international_law.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_international_law.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..32112d3c8b6ee26ee786439053c2d1f1da5b04c2
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_international_law.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "international_law"
+"description": "以下是关于国际法学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_international_law"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_journalism.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_journalism.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9f283816f59760033f375d8aba352fdd860b3338
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_journalism.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "journalism"
+"description": "以下是关于新闻学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_journalism"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_jurisprudence.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_jurisprudence.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ab40da40bafeb56459ae462b795be8c8584fb02a
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_jurisprudence.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "jurisprudence"
+"description": "以下是关于法理学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_jurisprudence"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_legal_and_moral_basis.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_legal_and_moral_basis.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a5e3ee13b6e9670f33068bc731acebf7489737ec
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_legal_and_moral_basis.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "legal_and_moral_basis"
+"description": "以下是关于法律与道德基础的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_legal_and_moral_basis"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_logical.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_logical.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..4c4ac2e12abb2fa29dd2e194f5f1b9417f61142b
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_logical.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "logical"
+"description": "以下是关于逻辑学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_logical"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_machine_learning.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_machine_learning.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..062cd1cd73add5caf387f6b4717c5ed837e2c7f7
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_machine_learning.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "machine_learning"
+"description": "以下是关于机器学习的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_machine_learning"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_marketing.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_marketing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a729641f9059060ec9abadeac611cf3e74528165
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_marketing.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "marketing"
+"description": "以下是关于市场营销的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_marketing"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_marxist_theory.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_marxist_theory.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f99fa17514a10e8bf587b50ae9dd997b80c00225
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_marxist_theory.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "marxist_theory"
+"description": "以下是关于马克思主义理论的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_marxist_theory"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_modern_chinese.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_modern_chinese.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..13b2ccc4f939876616ceeda42d211e96347ce060
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_modern_chinese.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "modern_chinese"
+"description": "以下是关于现代汉语的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_modern_chinese"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_nutrition.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_nutrition.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..23d52c45e07134b2ff4f7c1a8e55ba19acfbcfd9
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_nutrition.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "nutrition"
+"description": "以下是关于营养学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_nutrition"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_accounting.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_accounting.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..bed3485d787d921fb25bbbfbad7671118acfc42b
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_accounting.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "professional_accounting"
+"description": "以下是关于专业会计的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_professional_accounting"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_law.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_law.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..dec4c6cf1d7b095fab8fb293b9cf7600765f24db
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_law.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "professional_law"
+"description": "以下是关于专业法学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_professional_law"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_psychology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_psychology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..83f0255591a17711d6ac99cf164a29ffe2a69866
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_professional_psychology.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "professional_psychology"
+"description": "以下是关于专业心理学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_professional_psychology"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_public_relations.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_public_relations.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a1c3711ef7734df27852065cf894f9c9cff9d776
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_public_relations.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "public_relations"
+"description": "以下是关于公共关系的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_public_relations"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_sports_science.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_sports_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..35e5bb9cc4c40abcf271955f068788f85e44794a
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_sports_science.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "sports_science"
+"description": "以下是关于体育学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_sports_science"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_traditional_chinese_medicine.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_traditional_chinese_medicine.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ed4627deefd6a9a1737cc700604b940b31635cf8
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_traditional_chinese_medicine.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "traditional_chinese_medicine"
+"description": "以下是关于中医中药的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_traditional_chinese_medicine"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_virology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_virology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1560b84f682493ef53a9c26ae1d36ac520ff46c7
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_virology.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "virology"
+"description": "以下是关于病毒学的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_virology"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_world_history.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_world_history.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..993ce0ab6e390a81286df213e5d3ddd9fe3908bd
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_world_history.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "world_history"
+"description": "以下是关于世界历史的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_world_history"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_world_religions.yaml b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_world_religions.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..13229fc95d7d85408cc8d3649208404e9a8476d2
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/cmmlu/cmmlu_default_world_religions.yaml
@@ -0,0 +1,4 @@
+"dataset_name": "world_religions"
+"description": "以下是关于世界宗教的单项选择题，请直接给出正确答案的选项。\n\n"
+"include": "_default_template_yaml"
+"task": "cmmlu_world_religions"
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_accounting.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_accounting.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5e9b90e0e7df00150cde95b820d84725c3045b62
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_accounting.yaml
@@ -0,0 +1,113 @@
+dataset_name: accounting
+doc_to_text: '질문: 수정 전 잔액시산표의 차변 합계액은 ￦1,000,000이다. 보험료 미경과액 ￦30,000과 이자수익 미수액 ￦20,000을
+  계상한 후의 수정 후 잔액시산표 차변 합계액은 얼마인가?
+
+  A.￦970,000
+
+  B.￦990,000
+
+  C.￦1,020,000
+
+  D.￦1,050,000
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 주어진 문제는 수정 후 시산표의 합계에 영향을 주는 요소와
+  주지 않는 요소를 구분하고 이해하는 문제입니다. 이 경우, 보험료 미경과액과 이자수익 미수액이 추가되었습니다. 보험료 미경과액은 차변에 계상되어
+  있는 보험료(비용)을 감소 하면서 자산계정인 선급보험료가 동일금액이 차변에 증가하므로 영향을 주지 않습니다. 다음으로 이자수익 미수액 ￦20,000은
+  아직 받지 않은 이자를 의미합니다. 이자미수액은 잔액시산표에서 차변에 기록됩니다.  , 원래의 차변 합계액 ￦1,000,000에 이자수익 미수액
+  ￦20,000을 더하면, 수정 후의 차변 합계액은 ￦1,020,000이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 제조업을 영위하는 (주)상공이 결산 시 이자비용 미지급분에 대한 거래를 누락하였을 경우 재무제표에 미치는 영향으로 옳은 것은?
+
+  A.매출총이익이 과소계상된다.
+
+  B.영업이익이 과대계상된다.
+
+  C.비유동부채가 과소계상된다.
+
+  D.당기순이익이 과대계상된다.
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이자비용 미지급분이란, 회사가 이자를 지급해야 하지만
+  아직 지급하지 않은 금액을 말합니다. 이는 기업의 부채로 간주되며, 이를 누락하게 되면 회계상의 문제가 발생할 수 있습니다. (A) 선택지의 매출총이익은
+  판매액에서 제조비용을 뺀 금액으로, 이자비용과는 직접적인 관련이 없습니다.   이자비용 미지급분을 누락하였다고 해서 매출총이익이 과소계상되는 것은
+  아닙니다. (B) 선택지의 영업이익은 매출총이익에서 판매비와 관리비를 뺀 금액입니다. 이자비용은 판매비나 관리비에 포함되지 않으므로, 이자비용
+  미지급분을 누락하였다고 해서 영업이익이 과대계상되는 것은 아닙니다. (C) 선택지의 비유동부채는 장기적으로 변제해야 하는 부채를 말합니다. 이자비용
+  미지급분은 단기적으로 변제해야 하는 부채로 간주될 수 있으나, 이를 누락하게 되면 전체 부채가 과소계상되는 결과를 초래할 수 있습니다. (D)
+  선택지의 당기순이익은 수익에서 모든 비용을 뺀 금액입니다. 이자비용 미지급분을 누락하게 되면 이자비용이 과소계상되어 당기순이익이 과대계상되는 결과를
+  초래할 수 있습니다.  , 이자비용 미지급분을 누락하였을 경우, 비유동부채와 당기순이익에 영향을 미칠 수 있습니다. 하지만, 주어진 선택지 중에서는
+  비유동부채가 아닌 당기순이익이 과대계상되는 것이 더 정확한 표현일 것입니다. 이는 이자비용이 누락되었을 때 비용이 과소계상되므로 순이익이 과대계상되기
+  때문입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 현금및현금성자산에 대한 설명으로 옳지 않은 것은?
+
+  A.현금성자산은 단기의 현금수요를 충족하기 위한 목적으로 보유한다.
+
+  B.현금성자산으로 분류되기 위해서는 확정된 금액이 현금으로의 전환이 용이하고, 가치변동의 위험이 경미하여야 한다.
+
+  C.취득당시 장기로 분류되었던 국ㆍ공채 중 결산일 현재 만기일이 3개월 이내인 국·공채를 현금성자산으로 분류한다.
+
+  D.상환일이 정해져 있고 취득일로부터 상환일까지 기간이 3개월 이내인 우선주의 경우 현금성자산으로 처리한다.
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 현금성자산은 단기의 현금수요를 충족하기 위한 목적으로
+  보유하는 자산으로, 큰 거래비용 없이 현금으로 전환이 용이하고, 이자율 변동에 따른 가치 변동의 위험이 크지 않은 금융상품으로서, 취득 당시 만기일
+  또는 상환일이 3개월 이내인 것을 말합니다. (A)는 현금성자산의 정의와 일치하므로 옳은 설명입니다. (B)도 현금성자산의 분류 기준을 설명하고
+  있으므로 옳은 설명입니다. (C)의 경우, 취득당시 장기로 분류되었던 국ᆞ공채 중 결산일 현재 만기일이 3개월 이내인 국·공채는 단기금융상품으로
+  분류됩니다.   이 설명은 옳지 않습니다. (D)의 경우, 상환일이 정해져 있고 취득일로부터 상환일까지 기간이 3개월 이내인 우선주의 경우 현금성자산으로
+  처리할 수 있습니다.   이 설명도 옳은 설명입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 금융자산과 금융부채에 속하는 항목으로 바르게 나타낸 것은?
+
+  A.(금융자산) 선급금, (금융부채) 미지급비용
+
+  B.(금융자산) 미수금, (금융부채) 선수금
+
+  C.(금융자산) 단기대여금, (금융부채) 장기차입금
+
+  D.(금융자산) 재고자산, (금융부채) 선수수익
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 금융자산과 금융부채는 기업이 자금을 조달하고 운용하는 과정에서
+  발생하는 자산과 부채를 말합니다. 이 때, 금융자산은 기업이 보유하고 있는 자산 중에서 현금이나 현금성자산으로 전환이 용이하고, 가치변동의 위험이
+  상대적으로 작은 자산을 말합니다. 반면에 금융부채는 기업이 상환해야 할 의무가 있는 부채 중에서 금융기관으로부터 차입한 차입금이나 사채 등을 말합니다.
+  각 선택지를 살펴 보겠습니다. (A) 선급금은 상품이나 원재료 등을 매입하기 위해 미리 지급한 금액으로, 금융자산이 아닌 재고자산으로 분류됩니다.
+  미지급비용은 이미 발생한 비용 중에서 아직 지급하지 않은 금액으로, 금융부채가 아닌 부채로 분류됩니다. (B) 미수금은 상품이나 제품 등을 판매하고
+  아직 받지 못한 금액으로, 금융자산에 해당됩니다. 선수금은 상품이나 제품 등을 주문받고 미리 받은 금액으로, 금융부채가 아닌 부채로 분류됩니다.
+  (C) 단기대여금은 상대방에게 대여한 금액 중에서 1년 이내에 회수할 예정인 금액으로, 금융자산에 해당됩니다. 장기차입금은 금융기관으로부터 차입한
+  차입금 중에서 1년 이후에 상환할 예정인 금액으로, 금융부채에 해당됩니다. (D) 재고자산은 기업이 판매를 목적으로 보유하고 있는 상품이나 제품,
+  원재료 등을 말합니다. 선수수익은 고객으로부터 미리 받은 수익 중에서 아직 제공하지 않은 용역에 대한 대가로, 부채에 해당됩니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 전기 말에 상품재고액 \560,000을 \650,000으로 잘못 계상한 경우, 당기의 매출원가와 당기순이익에 미치는 영향으로 옳은 것은?
+  (단, 재고자산 평가는 실지재고조사법을 적용 한다.)
+
+  A.(매출원가) 과대, (당기순이익) 과소
+
+  B.(매출원가) 과대, (당기순이익) 과대
+
+  C.(매출원가) 과소, (당기순이익) 과소
+
+  D.(매출원가) 과소, (당기순이익) 과대
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 매출원가와 당기순이익에 대해 이해해야 합니다. 매출원가는
+  판매된 상품을 생산하는 데 들어간 비용을 의미하며, 당기순이익은 매출에서 모든 비용을 뺀 순수익을 의미합니다. 상품재고액을 과대 계상한 경우,
+  이는 회사가 실제로 보유하고 있는 재고보다 더 많은 재고를 보유하고 있다고 잘못 표시한 것을 의미합니다. 이는 재고자산의 가치를 과대평가한 것이므로,
+  이에 따른 비용(매출원가) 역시 과대 계상됩니다. 매출원가가 과대 계상되면, 매출에서 매출원가를 뺀 이익인 당기순이익은 과소 계상됩니다. 왜냐하면
+  매출원가가 더 높아지면 이익은 줄어들기 때문입니다.  , 상품재고액을 과대 계상한 경우 매출원가는 과대 계상되고, 당기순이익은 과소 계상됩니다.
+  ''따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_accounting
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_biology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_biology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..12cba9a7a689d338852b201c296583a6014f07c9
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_biology.yaml
@@ -0,0 +1,112 @@
+dataset_name: biology
+doc_to_text: '질문: 포도당의 특성이 아닌 것은?
+
+  A.환원당
+
+  B.알도오스
+
+  C.헥소오스
+
+  D.퓨라노오스
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 포도당은 가장 기본적인 단당류로, 생물학적 에너지의 주요한
+  원천입니다. (A) 환원당: 포도당은 환원당입니다. 환원당은 카르보닐 그룹이 있는 당류로, 이 카르보닐 그룹이 다른 화합물을 환원할 수 있는 특성을
+  가지고 있습니다. 포도당은 이러한 환원 반응을 일으킬 수 있으므로 환원당입니다. (B) 알도오스: 포도당은 알도오스입니다. 알도오스는 알데히드
+  그룹(-CHO)을 가진 당류를 의미합니다. 포도당은 이 알데히드 그룹을 가지고 있으므로 알도오스입니다. (C) 헥소오스: 포도당은 헥소오스입니다.
+  헥소오스는 6개의 탄소 원자를 가진 당류를 의미합니다. 포도당은 6개의 탄소 원자를 가지고 있으므로 헥소오스입니다. (D) 퓨라노오스: 이것은
+  포도당의 특성이 아닙니다. 퓨라노오스는 5원 고리 구조를 가진 당류를 의미합니다. 포도당은 헥소오스 즉, 6원 고리 구조를 가지는 것이 일반적입니다.  ,
+  포도당은 퓨라노오스가 아닙니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 미생물을 보존하는 방법 중 승화에 의한 수분이 제거되는 원리를 이용하는 것은?
+
+  A.현탄액법
+
+  B.동결보존법
+
+  C.동결건조법
+
+  D.액체질소 보존법
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 승화에 대해 알아보겠습니다. 승화는 물질이 고체 상태에서
+  기체 상태로 변화하는 것을 말합니다. 이는 수분이 제거되는 원리를 사용하는 방법 중 하나입니다. (A). 현탄액법은 미생물을 보존하는 방법 중
+  하나로, 미생물을 현탄액에 담가 보존하는 방법입니다. 이 방법은 승화의 원리를 사용하지 않습니다. (B). 동결보존법은 미생물을 극저온에서 보존하는
+  방법입니다. 이 방법은 미생물을 액체 질소 등의 극저온 환경에 노출시켜 보존하는 방법으로, 승화의 원리를 사용하지 않습니다. (C). 동결건조법은
+  미생물을 빠르게 동결한 후, 진공 상태에서 물을 제거하여 보존하는 방법입니다. 이 방법은 승화의 원리를 사용하여 물을 제거합니다. 동결된 미생물에서
+  물이 직접 기체 상태로 변화하게 되는데, 이것이 바로 승화입니다. (D). 액체질소 보존법은 미생물을 액체 질소에서 보존하는 방법입니다. 이 방법은
+  극저온에서 미생물을 보존하는 방법으로, 승화의 원리를 사용하지 않습니다.  , 승화에 의한 수분이 제거되는 원리를 이용하는 미생물 보존 방법은
+  동결건조법입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 세포가 한번 분열하는데 30분이 걸린다면, 1개의 세포가 2048개로 분열하는데 걸리는 시간은? (단, 세포는 죽지 않는다고 가정한다.)
+
+  A.4시간 30분
+
+  B.5시간
+
+  C.5시간 30분
+
+  D.6시간
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 세포가 분열하는데 30분이 걸린다는 것은, 1개의 세포가
+  2개로 분열하는데 30분이 필요하다는 것을 의미합니다. 이런 패턴이 계속된다면, 세포의 수는 2의 지수 형태로 증가하게 됩니다. 즉, 1, 2,
+  4, 8, 16, 32, 64, 128, 256, 512, 1024, 2048 순으로 증가하게 됩니다. 이러한 증가 방식을 보면, 세포가 처음
+  1개에서 2개로 분열하는데 30분이 걸리고, 그 다음 2개에서 4개로 분열하는데 추가로 30분이 걸립니다. 이런 식으로 세포의 수가 2배로 증가할
+  때마다 30분씩 추가로 걸립니다.  , 1개의 세포가 2048개로 분열하는데 걸리는 시간을 계산하려면, 2048이 2의 몇 승인지 알아내면 됩니다.
+  2048은 2의 11승이므로, 11번의 분열이 필요하다는 것을 알 수 있습니다. 각 분열이 30분씩 걸리므로, 총 시간은 11 * 30 = 330분이
+  됩니다. 330분을 시간과 분으로 변환하면, 5시간 30분이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 10-6 N NaOH 수용액의 pH는?
+
+  A.8
+
+  B.10
+
+  C.12
+
+  D.14
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, NaOH는 강염기로 알려져 있습니다. 강염기는 수용액에서
+  완전히 이온화되어 수산화 이온(OH-)을 생성합니다.   NaOH의 농도가 pH에 직접적인 영향을 미칩니다. pH는 아래의 공식을 사용하여 계산됩니다.
+  pH = -log[H+] 여기서 [H+]는 수산화 이온의 농도입니다. 그러나 우리는 NaOH의 농도를 알고 있으며, 이는 수산화 이온의 농도와
+  동일합니다.   우리는 이를 pOH로 변환해야 합니다. pOH는 아래의 공식을 사용하여 계산됩니다. pOH = -log[OH-] 여기서 [OH-]는
+  수산화 이온의 농도입니다. 주어진 문제에서 NaOH의 농도는 10^-6 N입니다. 이것을 pOH 공식에 대입하면, pOH = -log(10^-6)
+  = 6 이를 통해 알 수 있는 것은, 이 수용액의 pOH는 6이라는 것입니다. 그러나 우리는 pH를 찾고 있습니다. pH와 pOH는 다음과 같은
+  관계를 가지고 있습니다. pH + pOH = 14   pH는 14 - pOH = 14 - 6 = 8입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 세포막의 안정성을 유지하기 위하여 고농도의 수소이온을 필요로 하며 중성 pH에서는 세포막이 파괴되어 성장할 수 없는 미생물은?
+
+  A.절대호산성 미생물
+
+  B.통성호산성 미생물
+
+  C.통성호염성 미생물
+
+  D.절대호염성 미생물
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 이해가 필요합니다. (A). 절대호산성
+  미생물: 이들은 극도의 산성 환경에서만 생존할 수 있는 미생물입니다. 즉, 중성의 환경에서 전혀 생육이 불가능합니다. (B). 통성호산성 미생물:
+  이들은 산성 환경에서 성장하지만, 중성 또는 약 알칼리성 환경에서도 성장할 수 있는 미생물입니다. (C). 통성호염성 미생물: 이들은 염분이 많은
+  환경에서 성장하지만, 염분이 적은 환경에서도 성장할 수 있는 미생물입니다. (D). 절대호염성 미생물: 이들은 염분이 많은 환경에서만 성장할 수
+  있는 미생물입니다. 질문에서는 세포막의 안정성을 유지하기 위해 고농도의 수소이온이 필요하며, 중성 pH에서는 세포막이 파괴되어 성장할 수 없는
+  미생물에 대해 묻고 있습니다. 수소 이온의 농도는 pH와 관련이 있습니다. pH가 낮을수록 수소 이온의 농도가 높아지며, 이는 산성 환경을 의미합니다.  ,
+  고농도의 수소 이온을 필요로 하는 미생물은 산성 환경에서 성장하는 미생물일 것입니다. 또한, 중성 pH에서 세포막이 파괴되어 성장할 수 없다는
+  점을 고려하면, 이 미생물은 중성 또는 알칼리성 환경에서는 성장할 수 없어야 합니다. 이러한 조건을 충족하는 미생물은 절대호산성 미생물입니다.
+  절대호산성 미생물은 극도로 산성 환경에서만 생존할 수 있으며, 중성 또는 알칼리성 환경에서는 성장할 수 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_biology
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemistry.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemistry.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..44a6f52596d449aae64cd9a09b3fe523667e00df
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemistry.yaml
@@ -0,0 +1,110 @@
+dataset_name: chemistry
+doc_to_text: '질문: 수산화나트륨(NaOH) 80g을 물에 녹여 전체 부피가 1000mL가 되게 하였다. 이 용액의 N농도는 얼마인가?
+  (단, 수산화나트륨의 분자량은 40 이다.)
+
+  A.0.08N
+
+  B.1N
+
+  C.2N
+
+  D.4N
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, N농도는 몰농도를 의미하는 M농도에 수산화나트륨의 이온화
+  수를 곱한 것입니다. 수산화나트륨(NaOH)의 이온화 수는 1입니다. 물에 녹인 수산화나트륨의 몰농도를 계산해보겠습니다. 몰농도는 몰 수를 용액의
+  부피(L)로 나눈 값입니다. 수산화나트륨의 몰 수는 주어진 물질의 질량을 그 물질의 분자량으로 나눈 값입니다. 여기서 수산화나트륨의 질량은 80g,
+  분자량은 40이므로 몰 수는 80g / 40 = 2mol입니다. 용액의 부피는 1000mL, 즉 1L입니다.   수산화나트륨의 몰농도는 몰 수
+  2mol을 용액의 부피 1L로 나눈 값, 즉 2M입니다. 수산화나트륨의 N농도는 이 몰농도에 이온화 수를 곱한 값이므로, 2M x 1 = 2N입니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 칼륨(K) 원자는 19개의 양성자와 20개의 중성자를 가지고 있다. 원자번호와 질량수는 각각 얼마인가?
+
+  A.9, 19
+
+  B.9, 39
+
+  C.19, 20
+
+  D.19, 39
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 원자의 기본 구조를 이해하면 이 질문에 답할 수 있습니다.
+  원자번호는 원자의 핵에 있는 양성자의 수를 나타내며, 이는 원소의 고유한 특성을 결정합니다.  , 칼륨(K) 원자가 19개의 양성자를 가지고 있다면,
+  원자번호는 19입니다. 다음으로, 질량수는 원자의 핵에 있는 양성자와 중성자의 총 수를 나타냅니다. 칼륨(K) 원자가 19개의 양성자와 20개의
+  중성자를 가지고 있다면, 질량수는 양성자 19개와 중성자 20개를 합친 39입니다.  , 칼륨(K) 원자의 원자번호는 19이고 질량수는 39입니다.
+  이를 선택지와 비교하면, (D) 19, 39가 정답입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: “어떠한 화학반응이라도 반응물 전체의 질량과 생성물 전체의 질량은 서로 차이가 없고 완전히 같다” 라고 설명할 수 있는 법칙은?
+
+  A.일정성분비의 법칙
+
+  B.배수비례의 법칙
+
+  C.질량보존의 법칙
+
+  D.기체반응의 법칙
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 질문은 화학의 기본 법칙 중 하나에 대한 것입니다. 먼저
+  선택지를 하나씩 살펴보겠습니다. (A) 일정성분비의 법칙: 이 법칙은 특정 화합물을 구성하는 원소들 사이의 질량비가 일정하다는 것을 말합니다.
+  예를 들어, 물은 항상 수소와 산소의 질량비가 1:8로 일정하다는 것입니다. (B) 배수비례의 법칙: 이 법칙은 같은 원소가 다른 질량비를 가질
+  때, 그 비율이 정수배 관계에 있다는 것을 말합니다. 예를 들어, 수소와 산소가 반응하여 물을 만들 때와 수소과산화물을 만들 때, 산소의 질량비는
+  1:2로 배수 관계에 있다는 것입니다. (C) 질량보존의 법칙: 이 법칙은 화학 반응에서 반응물의 총 질량이 생성물의 총 질량과 같다는 것을 말합니다.
+  즉, 어떠한 화학 반응에서도 질량은 보존된다는 것입니다. (D) 기체반응의 법칙: 이 법칙은 기체의 부피, 압력, 온도 등에 관한 법칙입니다.
+  특히, 동일한 조건에서 같은 양의 기체는 동일한 수의 분자를 가진다는 것을 말합니다. 이렇게 각 선택지를 살펴본 결과, “어떠한 화학반응이라도
+  반응물 전체의 질량과 생성물 전체의 질량은 서로 차이가 없고 완전히 같다” 라는 설명은 질량보존의 법칙에 가장 부합하는 것으로 보입니다. 이 법칙은
+  화학 반응에서 질량의 변화가 없음을 의미하며, 이는 질문에서 요구하는 내용과 일치합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 할로겐원소의 성질 중 원자번호가 증가할수록 작아지는 것은?
+
+  A.금속성
+
+  B.반지름
+
+  C.이온화에너지
+
+  D.녹는점
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 할로겐 원소는 주기율표의 17족에 속하며, 플루오린(F),
+  클로린(Cl), 브로민(Br), 요오드(I), 아스타틴(At) 등이 있습니다. 원자번호가 증가하면서 이들 원소의 성질이 어떻게 변하는지 살펴보겠습니다.
+  (A) 금속성: 원자번호가 증가함에 따라 할로겐 원소의 금속성은 증가합니다. 플루오린과 클로린은 비금속이지만, 아스타틴은 반금속으로 분류되기도
+  합니다.   원자번호가 증가할수록 금속성은 작아지지 않습니다. (B) 반지름: 원자번호가 증가하면서 원자의 껍질이 늘어나기 때문에 원자 반지름은
+  증가합니다.   원자번호가 증가할수록 반지름은 작아지지 않습니다. (C) 이온화에너지: 이온화 에너지는 원자의 전자를 떼어내는 데 필요한 에너지를
+  말합니다. 원자번호가 증가하면 원자 반지름이 커지고, 이에 따라 전자와 핵 사이의 거리가 멀어져 이온화 에너지가 줄어듭니다.   원자번호가 증가할수록
+  이온화 에너지는 작아집니다. (D) 녹는점: 할로겐 원소의 녹는점은 원자번호가 증가함에 따라 일반적으로 증가하는 경향이 있습니다. 플루오린의 녹는점은
+  -219.67℃, 클로린은 -101.5℃, 브로민은 -7.2℃, 요오드는 113.7℃입니다.   원자번호가 증가할수록 녹는점은 작아지지 않습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 황산 49g을 물에 녹여 용액 1L을 만들었다. 이 수용액의 물 농도는 얼마인가? (단, 황산의 분자량은 98이다.)
+
+  A.0.5 M
+
+  B.1 M
+
+  C.1.5 M
+
+  D.2 M
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 농도의 정의를 알아야 합니다. 농도는 용액의 단위 부피당
+  용질의 양을 의미합니다. 일반적으로 몰/리터(M) 단위로 표현합니다. 그리고 몰은 물질의 양을 나타내는 SI 단위로, 1몰은 6.02214076×10^23개의
+  입자를 가지고 있습니다. 이는 아보가드로 수라고 불리는 값입니다. 이 문제에서는 황산의 몰 수를 구하고 이를 용액의 부피인 1L로 나눠주면 됩니다.
+  황산의 몰 수는 주어진 황산의 질량을 황산의 분자량으로 나눠주면 됩니다. 황산의 질량은 49g이고, 황산의 분자량은 98g/mol입니다.   황산의
+  몰 수는 49g ÷ 98g/mol = 0.5mol입니다.   이 수용액의 물 농도는 0.5mol/1L = 0.5M입니다. 따라서, 정답은 (A)
+  입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_chemistry
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_construction.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_construction.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..dcb53c1b9bca67fd4241735ad817aa6c21111297
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_construction.yaml
@@ -0,0 +1,115 @@
+dataset_name: construction
+doc_to_text: '질문: 디젤기관에서 질소 산화물(NOX)의 발생을 억제하려면 어떻게 해야 하는가?
+
+  A.흡기온도를 높인다.
+
+  B.산소(O2)의 농도를 낮춘다.
+
+  C.연소온도를 높인다.
+
+  D.반응시간을 길게한다.
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 디젤 엔진에서 질소 산화물(NOx)의 발생을 억제하려면 연소
+  과정에서의 조건을 조절해야 합니다. 질소 산화물은 고온에서 산소와 질소가 결합할 때 생성되는데, 이는 디젤 엔진의 연소 과정에서 일어납니다. (A)
+  흡기 온도를 높인다: 흡기 온도를 높이면, 공기와 연료의 혼합물이 더욱 빠르게 연소하게 되고 이는 연소 온도를 높이게 됩니다.   NOx의 생성을
+  증가시킬 수 있습니다. (B) 산소(O2)의 농도를 낮춘다: 산소 농도를 낮추면, 연소 과정에서 산소와 질소가 결합하여 NOx를 생성하는 것을
+  줄일 수 있습니다.   NOx의 발생을 억제하는데 도움이 될 수 있습니다. (C) 연소 온도를 높인다: 연소 온도를 높이면, NOx의 생성이 증가합니다.
+  이는 NOx가 고온에서 산소와 질소가 결합할 때 생성되기 때문입니다. (D) 반응 시간을 길게 한다: 이론적으로, 반응 시간을 길게 하면 연소
+  과정이 더욱 완전해지고, 이는 NOx의 생성을 줄일 수 있습니다. 그러나 실제로는 연소 시간이 길어지면 엔진의 효율이 떨어질 수 있으므로, 이
+  방법이 항상 적용 가능한 것은 아닙니다.  , 산소의 농도를 낮추는 것이 디젤 엔진에서 NOx의 발생을 억제하는 가장 효과적인 방법으로 보입니다.
+  이는 연소 과정에서 산소와 질소가 결합하여 NOx를 생성하는 것을 줄일 수 있기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 전자제어 기관에서 산소센서가 피드백이 되는 조건은?
+
+  A.냉각수온이 낮을 때
+
+  B.시동시
+
+  C.연료차단시
+
+  D.공전시
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 산소센서가 피드백 되는 조건을 파악하기 위해 전자제어
+  기관에서의 산소센서 역할을 이해해야 합니다. 산소센서는 배기가스 중 산소 농도를 검출하여 ECU(전자제어장치)에 전달하는 역할을 합니다. 이를
+  통해 ECU는 엔진의 상태를 파악하고, 최적의 공연비를 유지할 수 있도록 제어합니다. 산소센서가 피드백 되는 조건은 다음과 같습니다. - 엔진이
+  가동 중일 때: 산소센서는 엔진이 가동 중일 때만 작동합니다. - 공연비가 적절할 때: 산소센서는 공연비가 적절할 때만 피드백 됩니다. 공연비란,
+  공기와 연료의 비율을 말합니다. - 냉각수온이 정상일 때: 냉각수온이 낮으면 산소센서의 작동에 영향을 미칠 수 있습니다. 위의 조건을 바탕으로
+  선택지를 검토해보겠습니다. (A) 냉각수온이 낮을 때: 냉각수온이 낮으면 산소센서의 작동에 영향을 미칠 수 있으므로, 이는 피드백이 되는 조건이
+  아닙니다. (B) 시동시: 시동 시에는 엔진이 가동 중이지만, 공연비가 적절하지 않을 수 있으므로, 이는 피드백이 되는 조건이 아닙니다. (C)
+  연료차단시: 연료차단시에는 엔진이 가동 중이지만, 공연비가 적절하지 않을 수 있으므로, 이는 피드백이 되는 조건이 아닙니다. (D) 공전시: 공전시에는
+  엔진이 가동 중이고, 공연비가 적절하게 유지되므로, 이는 피드백이 되는 조건입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 크랭크축 메인저널의 외경이 규정보다 작을 때 일어나는 현상으로 가장 적당한 것은?
+
+  A.오일유압의 압력저하로 적당한 오일의 공급량이 적어 오일의 오염도가 적다.
+
+  B.오일간극이 적어 베어링의 소결이 생긴다.
+
+  C.오일압력의 상승으로 각부에 윤활공급이 확실하다.
+
+  D.운행중 소음이 많이 발생된다.
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 크랭크축 메인저널의 외경이 규정보다 작을 때의 현상을 생각해보면,
+  이는 크랭크축과 베어링 사이의 간극이 커지는 상황을 의미합니다. 크랭크축과 베어링 사이의 간극이 커지면, 이 간극 사이를 통과하는 엔진오일의 양이
+  많아지게 됩니다. 이로 인해 오일 압력이 감소하게 될 것입니다. 하지만, 선택지 A의 ''오일유압의 압력저하로 적당한 오일의 공급량이 적어 오일의
+  오염도가 적다''는 설명은 오일 압력이 감소했지만, 오일의 공급량이 적어지는 것은 아니며, 오염도가 적어지는 것도 아닙니다. 선택지 B의 ''오일간극이
+  적어 베어링의 소결이 생긴다''는 설명은 크랭크축의 외경이 작아져 오일간극이 커진 상황과는 반대의 상황을 설명하고 있습니다. 선택지 C의 ''오일압력의
+  상승으로 각부에 윤활공급이 확실하다''는 설명은 크랭크축의 외경이 작아져 오일 압력이 감소하는 상황과는 반대의 상황을 설명하고 있습니다. 선택지
+  D의 ''운행중 소음이 많이 발생된다''는 설명은 크랭크축과 베어링 사이의 간극이 커져서 오일이 제대로 윤활을 하지 못하면, 마찰로 인해 소음이
+  발생할 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 디젤엔진의 공기여과기가 막혔을 때 나타나는 현상이 아닌 것은?
+
+  A.가속 불량
+
+  B.연료소비 과다
+
+  C.매연 과다배출
+
+  D.엔진오일 연소
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 디젤엔진의 공기여과기는 엔진이 외부에서 공기를 빨아들일 때
+  그 공기에 포함된 먼지나 이물질을 걸러내는 역할을 합니다. 이 공기여과기가 막혔을 때, 공기 흐름이 제대로 이루어지지 않아 엔진의 효율이 떨어질
+  수 있습니다. (A) 가속 불량: 공기여과기가 막혀 공기의 흐름이 제대로 이루어지지 않으면, 연료의 완전한 연소를 방해하게 되어 엔진의 출력이
+  떨어지고, 결국 가속력이 떨어질 수 있습니다.   이는 맞는 설명입니다. (B) 연료소비 과다: 엔진의 효율이 떨어지면 연료의 소비량이 증가하게
+  됩니다. 이는 공기여과기가 막힘으로 인해 공기와 연료의 비율이 제대로 맞지 않아 연료가 완전히 연소되지 않고 일부가 낭비되기 때문입니다.   이는
+  맞는 설명입니다. (C) 매연 과다배출: 공기여과기가 막혀 연료의 완전한 연소가 이루어지지 않으면, 미연소 연료가 배기가스와 함께 배출되어 매연이
+  증가하게 됩니다.   이는 맞는 설명입니다. (D) 엔진오일 연소: 엔진오일의 연소는 엔진오일이 엔진실린더 내로 유입되어 연소되는 현상을 말합니다.
+  이는 주로 엔진의 내부 부품이 마모되거나 오일 밀봉부가 손상되어 발생하는 현상으로, 공기여과기의 상태와는 직접적인 관련이 없습니다.   이는 디젤엔진의
+  공기여과기가 막혔을 때 나타나는 현상이 아닌 것으로 보입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 행정체적이 240cc이고 압축비가 9일 때 연소실 체적은 몇 cc인가?
+
+  A.20cc
+
+  B.30cc
+
+  C.40cc
+
+  D.65cc
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 압축비는 피스톤이 최하단에서 최상단으로 이동했을 때 실린더
+  내부의 전체 부피와 피스톤이 최상단에 있을 때 남는 연소실의 부피의 비율을 나타냅니다. 수학적으로 표현하면: \[ \text{압축비} = \frac{\text{행정체적}
+  + \text{연소실 체적}}{\text{연소실 체적}} \] 이 식을 연소실 체적에 대해 풀면: \[ \text{연소실 체적} = \frac{\text{행정체적}}{\text{압축비}
+  - 1} \] 여기서 주어진 값은 행정체적이 240cc이고 압축비가 9입니다. 이를 식에 대입하여 연소실 체적을 계산해 보겠습니다. 행정체적 =
+  240 압축비 = 9 연소실_체적 = 행정체적 / (압축비 - 1) = 240 / 8 = 30 연소실의 체적은 30cc입니다. 따라서, 정답은
+  (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_construction
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_ecology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_ecology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..619042d1dfb23b7e7cc7bf9dbf12d89b48c4c56c
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_ecology.yaml
@@ -0,0 +1,121 @@
+dataset_name: ecology
+doc_to_text: '질문: 탄소순환에 관한 설명으로 옳은 것은?
+
+  A.대기권에서 탄소는 주로 OPTIONO2, OPTIONO의 형태로 존재한다.
+
+  B.생물체가 죽으면 미생물에 의하여 분해되어 유기태탄 소로 돌아간다.
+
+  C.지구에서 탄소를 가장 많이 보유하고 있는 부분은 산림이다.
+
+  D.녹색식물에 의하여 유기태탄소가 무기태탄소로 전환 된다.
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 하나씩 살펴보겠습니다. (A) 대기권에서
+  탄소는 주로 CO2, CO의 형태로 존재한다. - 이 설명은 맞습니다. 대기권에서 탄소는 주로 이산화탄소(CO2)와 일산화탄소(CO)의 형태로
+  존재합니다. (B) 생물체가 죽으면 미생물에 의하여 분해되어 유기태탄 소로 돌아간다. - 이 설명도 맞습니다. 생물체가 죽으면 미생물에 의해 분해되어
+  다시 유기 탄소로 변환됩니다. (C) 지구에서 탄소를 가장 많이 보유하고 있는 부분은 산림이다. - 이 설명은 틀린 것 같습니다. 지구에서 가장
+  많은 탄소를 보유하고 있는 곳은 바다입니다. 바다는 지구 상에서 가장 큰 탄소 저장고로, 해양 생물체와 해양 퇴적물에 의해 대량의 탄소가 저장됩니다.
+  (D) 녹색식물에 의하여 유기태탄소가 무기태탄소로 전환 된다. - 이 설명은 틀립니다. 실제로는 녹색 식물이 무기 탄소를 유기 탄소로 전환합니다.
+  이 과정은 광합성을 통해 이루어지며, 이 때 탄소는 대기 중의 이산화탄소에서 녹색 식물의 유기물로 전환됩니다.  , 정확한 설명은 (A) 대기권에서
+  탄소는 주로 CO2, CO의 형태로 존재한다와 (B) 생물체가 죽으면 미생물에 의하여 분해되어 유기태탄 소로 돌아간다입니다. 그러나 이 중 하나만
+  선택해야 한다면, (A) 대기권에서 탄소는 주로 CO2, CO의 형태로 존재한다가 탄소순환에 대한 가장 기본적인 사실을 설명하고 있으므로 이를
+  선택하겠습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 지표면으로부터 10-45km의 성층권에 존재하며 태양 으로부터 오는 자외선의 99%이상을 차단하여 피부암과 백내장 등의 발생을 막아주는
+  역할을 하는 물질은?
+
+  A.오존
+
+  B.이산화탄소
+
+  C.프레온가스
+
+  D.양성자 α선
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 질문에서 주어진 정보를 확인해보겠습니다. 질문에서는
+  ''지표면으로부터 10-45km의 성층권에 존재하며 태양으로부터 오는 자외선의 99% 이상을 차단하여 피부암과 백내장 등의 발생을 막아주는 역할을
+  하는 물질''에 대해 묻고 있습니다. (A) 오존에 대해 생각해보면, 오존은 대기 중에 존재하며 자외선을 차단하는 역할을 하는 것으로 알려져 있습니다.
+  오존층은 지구 대기권 중에서 성층권에 위치해 있으며, 태양으로부터 오는 자외선 중 유해한 자외선 B를 흡수해줍니다. (B) 이산화탄소는 지구 대기
+  중에 존재하는 주요 온실가스 중 하나이지만, 자외선을 차단하는 역할에 대해서는 특별히 언급되지 않습니다. (C) 프레온가스는 냉장고나 에어컨 등에
+  사용되는 냉매로, 오존층 파괴에 기여하는 것으로 알려져 있습니다. 이 물질 자체가 자외선을 차단하는 역할을 하는 것은 아닙니다. (D) 양성자
+  α선은 방사선의 일종으로, 이 물질이 자외선을 차단하는 역할을 하는 것은 아닙니다.  , 위의 정보를 바탕으로 볼 때, 성층권에 존재하며 태양으로부터
+  오는 자외선의 99% 이상을 차단하여 피부암과 백내장 등의 발생을 막아주는 역할을 하는 물질은 오존입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 콩과식물과 뿌리혹박테리아와 같이 두 종의 생물이 서로 상호작용하며 이익을 주고받는 관계를 의미하는 용어는?
+
+  A.편리공생
+
+  B.상리공생
+
+  C.편해공생
+
+  D.자원이용
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 질문에서 언급된 콩과식물과 뿌리혹박테리아의 관계를
+  생각해보겠습니다. 이 두 종의 생물이 서로 상호작용하며 이익을 주고받는 관계라는 점이 중요한 힌트입니다. 이런 관계를 일반적으로 공생관계라고 부릅니다.
+  (A). 편리공생은 한 종이 다른 종에 의해 이익을 받는 반면, 다른 종에게는 특별한 영향을 미치지 않는 관계를 의미합니다.  , 이 용어는 두
+  종 모두가 이익을 얻는 상황을 설명하지 않습니다. (B). 상리공생은 두 종이 서로 이익을 주고받는 관계를 의미합니다. 이 용어는 콩과식물과 뿌리혹박테리아의
+  관계를 잘 설명하는 것 같습니다. (C). 편해공생은 한 종이 다른 종에게 해를 끼치는 반면, 다른 종에게는 특별한 영향을 미치지 않는 관계를
+  의미합니다.  , 이 용어는 두 종 모두가 이익을 얻는 상황을 설명하지 않습니다. (D). 자원이용은 생물이 자신의 생존과 번식을 위해 주변 환경의
+  자원을 이용하는 행동을 의미합니다. 이 용어는 공생관계를 설명하는 것이 아니라, 생물의 일반적인 행동을 설명하는 용어입니다.  , 콩과식물과 뿌리혹박테리아의
+  관계를 가장 잘 설명하는 용어는 ''상리공생''입니다. ''상리공생''은 두 종이 서로 이익을 주고받는 관계를 의미하므로, 이 용어가 이 질문의
+  정답일 것입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 수은(Hg)을 함유하는 폐수가 방류되어 오염된 바다에서 잡은 어패류를 섭취함으로서 발생하는 병은?
+
+  A.골연화증
+
+  B.미나마타병
+
+  C.피부흑색병
+
+  D.이따이이따이병
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 수은(Hg)은 무거운 금속 중 하나로, 인체에 치명적인
+  독성을 가지고 있습니다. 그리고 어패류를 통해 인체에 들어오는 경우가 많습니다. 이에 대한 정보를 바탕으로 각 선택지를 살펴보겠습니다. (A)
+  골연화증은 뼈가 약해지는 병으로, 일반적으로 고령화, 비타민 D 결핍, 칼슘 결핍 등으로 인해 발생합니다. 수은 오염과는 직접적인 관련성이 없습니다.
+  (B) 미나마타병은 1950년대 일본 미나마타시에서 처음 발생한 병으로, 수은 중독에 의해 발생하는 것으로 알려져 있습니다. 당시, 미나마타 시의
+  쿠니스토 가공 공장에서 아크릴아미드를 생산하는 과정에서 발생한 수은이 하수와 함께 바다로 유입되었고, 이로 인해 바다 생태계가 오염되었습니다.
+  이렇게 오염된 바다에서 잡은 어패류를 섭취한 주민들이 미나마타병이라는 심각한 수은 중독 증상을 보였습니다. (C) 피부흑색병은 피부에 색소 침착이
+  일어나 피부가 검게 변하는 병으로, 일반적으로 피부에 직접적인 손상이나 특정 약물, 호르몬 불균형 등으로 인해 발생합니다. 수은 오염과는 직접적인
+  관련성이 없습니다. (D) 이따이이따이병은 실제로 존재하지 않는 병입니다.  , 수은을 함유하는 폐수가 방류되어 오염된 바다에서 잡은 어패류를
+  섭취함으로서 발생하는 병은 미나마타병이라 할 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 생태계의 구성요소에 관한 설명으로 틀린 것은?
+
+  A.미량원소에는 몰리브덴, 망간, 철 등이 있다.
+
+  B.생물계 안에는 탄소, 질소, 아연, 코발트와 같은 다량 원소가 있다.
+
+  C.유기물질은 토성 및 물과 무기염류들의 보유력을 증진시킨다.
+
+  D.다량원소들은 주로 유기체들이 직접 이용할 수 있는 이산화탄소, 물과 같은 간단한 화합물로 존재한다.
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 생태계의 구성요소에 대한 설명을 확인해보겠습니다. (A)
+  옵션은 미량원소에 몰리브덴, 망간, 철 등이 있다고 말하고 있습니다. 미량원소는 생물체가 생존하고 성장하는데 필요한 원소 중에서 그 양이 매우
+  적은 것을 말합니다. 몰리브덴, 망간, 철은 실제로 미량원소로 분류되므로 이 설명은 올바릅니다. (B) 옵션은 생물계 안에는 탄소, 질소, 아연,
+  코발트와 같은 다량 원소가 있다고 말하고 있습니다. 다량원소는 생물체가 생존하고 성장하는데 필요한 원소 중에서 그 양이 많은 것을 말합니다. 탄소와
+  질소는 확실히 다량원소로 분류되지만, 아연과 코발트는 일반적으로 미량원소로 분류됩니다.   이 설명에는 문제가 있어 보입니다. (C) 옵션은 유기물질이
+  토성 및 물과 무기염류들의 보유력을 증진시킨다고 말하고 있습니다. 유기물질은 토양의 물 분포, 구조, 영양소 보유력 등에 중요한 역할을 합니다.   이
+  설명은 올바릅니다. (D) 옵션은 다량원소들이 주로 유기체들이 직접 이용할 수 있는 이산화탄소, 물과 같은 간단한 화합물로 존재한다고 말하고 있습니다.
+  이는 사실입니다. 예를 들어, 탄소는 이산화탄소의 형태로, 질소는 질소 가스나 암모니아의 형태로 존재합니다.  , 위의 분석에 따르면, (B)
+  옵션의 설명이 잘못되었습니다. 아연과 코발트는 일반적으로 미량원소로 분류되지만, 이 설명에서는 그들을 다량 원소로 잘못 분류하고 있습니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_ecology
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electrical_engineering.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electrical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f6b81c0cf4e9a2186a7ec5fe2bc5d85d291c45d0
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electrical_engineering.yaml
@@ -0,0 +1,124 @@
+dataset_name: electrical_engineering
+doc_to_text: '질문: 곡선도로 조명상 조명기구의 배치 조건이 가장 적당한 것은?
+
+  A.양측 배치의 경우는 지그재그식으로 한다.
+
+  B.한쪽만 배치하는 경우는 커브 바깥쪽에 배치한다.
+
+  C.직선도로에서 보다 등 간격을 조금 더 넓게 한다.
+
+  D.곡선도로의 곡률 반지름이 클수록 등 간격을 짧게 한다.
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 검토를 해보겠습니다. (A) 양측
+  배치의 경우는 지그재그식으로 한다. 지그재그식 배치는 보통 도로의 양측에 조명기구를 배치할 때 사용하는 방식입니다. 이 방식은 두 조명기구 사이의
+  거리를 적절하게 유지하면서도 도로의 전체적인 밝기를 유지할 수 있게 해줍니다. 하지만 이것이 곡선도로에서도 반드시 적용되는지에 대한 정보는 확인이
+  필요합니다. (B) 한쪽만 배치하는 경우는 커브 바깥쪽에 배치한다. 이 선택지는 로드 라이팅 디자인의 기본 원칙 중 하나로 보입니다. 곡선 도로에서
+  커브 바깥쪽에 조명을 배치하면, 운전자가 도로를 더 잘 볼 수 있습니다. 이는 운전자가 도로의 곡률을 더 잘 인식하게 하고, 사고 위험을 줄이는
+  데 도움이 됩니다. (C) 직선도로에서 보다 등 간격을 조금 더 넓게 한다. 이 선택지는 조명기구의 배치 간격에 관한 것입니다. 직선 도로에서는
+  조명기구 간의 거리가 일정하게 유지되지만, 곡선 도로에서는 조명기구 간의 거리를 넓게 유지해야 할 수도 있습니다. 이는 곡선 도로에서 운전자의
+  시야를 확보하기 위한 것일 수 있습니다. (D) 곡선도로의 곡률 반지름이 클수록 등 간격을 짧게 한다. 이 선택지는 곡선도로의 곡률 반지름에 따라
+  조명기구의 배치 간격을 조정하는 것을 제안하고 있습니다. 곡률 반지름이 큰 곡선도로에서는 도로가 덜 굽어 있으므로, 조명기구 간의 거리를 짧게
+  유지할 수 있습니다. 이는 도로의 밝기를 일정하게 유지하는 데 도움이 될 수 있습니다. 각 선택지를 분석한 결과, (B) 한쪽만 배치하는 경우는
+  커브 바깥쪽에 배치한다는 가장 합리적인 배치 방법으로 보입니다. 이 방법은 곡선 도로에서 운전자의 시야를 가장 잘 확보할 수 있게 해주기 때문입니다.
+  다른 선택지들은 곡선 도로에서의 조명기구 배치에 대한 구체적인 가이드라인을 제공하지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 휘도 B[sb], 반지름 r[m]인 등휘도 완전 확산성 구 광원의 전광속 F[lm]은 얼마인가?
+
+  A.4r2OPTION
+
+  B.πr2OPTION
+
+  C.π2r2OPTION
+
+  D.4π2r2OPTION
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 등휘도 완전 확산성 구 광원에 대해 이해해야 합니다.
+  이는 구 형태의 광원에서 모든 방향으로 동일한 강도의 빛이 발산되는 것을 의미합니다. 휘도(B)는 광도(I)를 표면적(A)으로 나눈 값으로 정의됩니다.
+  즉, B = I/A입니다. 여기서 광도(I)는 빛의 강도를 나타내며, 단위는 루멘(lm)입니다. 표면적(A)는 단위 면적당 빛의 양을 나타내며,
+  단위는 제곱미터(m^2)입니다. 등휘도 완전 확산성 구 광원의 경우, 모든 방향으로 동일한 강도의 빛이 발산되므로, 전광속(F)은 광원의 모든
+  표면에서 발산되는 총 빛의 양을 나타냅니다. 구의 표면적(A)은 4πr^2로 계산됩니다.  , 광도(I)는 휘도(B)와 표면적(A)의 곱, 즉
+  I = B * A이므로, I = B * 4πr^2가 됩니다. 전광속(F)는 광원의 모든 표면에서 발산되는 총 빛의 양이므로, 광도(I)와 동일합니다.  ,
+  F = I = B * 4πr^2입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 200W 전구를 우유색 구형 글로브에 넣었을 경우 우유색 유리의 반사율은 40%, 투과율은 50%라고 할 때 글로브의 효율은 약 몇 %인가?
+
+  A.20
+
+  B.40
+
+  C.50
+
+  D.83
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 우선, 글로브의 효율을 계산하기 위해 우리는 먼저 어떤
+  양이 글로브를 통과하거나 반사되는지 알아야 합니다. 문제에서 주어진 것은 우유색 유리의 반사율이 40%, 투과율이 50%라는 것입니다. 이것은
+  우유색 유리가 받은 전체 에너지 중 40%는 반사되고, 50%는 통과한다는 것을 의미합니다. 그럼 남은 10%는 어디로 갔을까요? 이 부분은 문제에서
+  명시적으로 언급되지 않았지만, 일반적으로 이러한 유형의 문제에서는 나머지 에너지가 흡수되었다고 가정합니다.  , 200W 전구의 경우, 40%는
+  반사되어 80W가 되고, 50%는 통과하여 100W가 됩니다. 글로브의 효율은 통과된 에너지와 반사된 에너지의 합을 전체 에너지로 나눈 것이므로,
+  (80W + 100W) / 200W = 0.9 또는 90%가 됩니다. 그러나 선택지 중에 90%는 없습니다. 이 경우, 문제의 정보가 잘못되었거나
+  제가 무언가를 잘못 이해하고 있는 것일 수 있습니다. 이러한 상황에서는 문제를 다시 확인하거나 추가 정보를 찾아보는 것이 좋습니다. 그러나 이
+  경우에는 추가 정보를 찾을 수 없으므로, 주어진 정보를 바탕으로 가장 가능성이 높은 답변을 선택해야 합니다. 이 문제에서는 글로브의 효율이 90%라고
+  계산되었지만, 선택지 중에서는 83%가 가장 가까운 값입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 폭 24m인 거리의 양쪽에 20m의 간격으로 지그재그식으로 등주를 배치하여 도로상의 평균 조도를 5[lx]로 하고자 한다. 각 등주상에
+  몇 [lm]의 전구가 필요한가? (단, 도로면에서의 광속 이용률은 25%이다.)
+
+  A.4000
+
+  B.4500
+
+  C.4800
+
+  D.5000
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제를 해결하기 위해 조도와 플럭스에 대한
+  개념을 이해해야 합니다. 조도(lux, lx)는 단위 면적당 광속(lumen, lm)을 나타내는 단위입니다.   조도는 광속을 면적으로 나눈 값이라고
+  할 수 있습니다. 문제에서 주어진 정보를 바탕으로 필요한 광속을 계산해보겠습니다. 우선, 도로의 폭이 24m이고, 등주의 간격이 20m라는 정보를
+  통해 도로의 면적을 계산할 수 있습니다. 면적은 폭과 길이를 곱한 값이므로, 도로의 면적은 24m * 20m = 480m²입니다. 다음으로, 도로상의
+  평균 조도가 5lx라는 정보를 통해 필요한 총 광속을 계산할 수 있습니다. 조도가 면적당 광속이므로, 총 광속은 조도 * 면적입니다.   필요한
+  총 광속은 5lx * 480m² = 2400lm입니다. 그러나, 도로면에서의 광속 이용률이 25%라는 정보를 고려해야 합니다. 이는 도로에 비추어지는
+  전체 광속 중 실제로 도로면에서 이용되는 광속의 비율을 의미합니다.   실제로 필요한 광속은 계산된 총 광속을 이용률로 나눈 값이 됩니다. 즉,
+  필요한 광속은 2400lm / 0.25 = 9600lm입니다. 하지만, 이는 도로 전체에 필요한 광속이므로, 등주 하나에 필요한 광속을 계산해야
+  합니다. 등주가 지그재그식으로 배치되어 있으므로, 하나의 등주는 2개의 도로 면적을 비추게 됩니다.   하나의 등주에 필요한 광속은 9600lm
+  / 2 = 4800lm입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 플랭크의 방사법칙을 이용하여 온도를 측정하는 것은?
+
+  A.광고온계
+
+  B.방사 온도계
+
+  C.열전 온도계
+
+  D.저항 온도계
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 플랭크의 방사법칙은 물체가 방출하는 전자기 복사의 스펙트럼과
+  세기가 그 물체의 온도와 관련이 있다는 원리를 설명합니다. 이 원리를 이용하여 온도를 측정하는 장치는 물체가 방출하는 복사 에너지를 측정하여 온도를
+  결정합니다. 주어진 옵션들 중에서: (A) 광고온계 (Optical Pyrometer): 이 장치는 특정 파장(여기서는 0.65μm의 적색 단파장)의
+  가시광선을 이용해 온도를 측정합니다. 열원으로부터 방사되는 빛과 기기 내의 표준 열원으로부터 나오는 같은 파장의 빛의 강도를 비교함으로써 온도를
+  측정합니다. 이 방법은 비앙(Wien)의 분배법칙에 바탕을 두고 있으며, 흑체 또는 흑체 조건에서 방사되는 열 에너지의 파장과 강도가 온도에 따라
+  변화하는 원리를 이용합니다. (B) 방사 온도계 (Radiation Pyrometer): 이 장치는 물체로부터 방출되는 열방사(적외선)를 받아들여
+  온도를 측정합니다. 이 방법은 열전도를 이용하는 온도계와는 다르게 비접촉 방식이며, 고속으로 온도를 측정할 수 있습니다. (C) 열전 온도계 (Thermocouple):
+  이 장치는 두 다른 금속의 접합점에서 발생하는 전압 변화를 측정하여 온도를 결정합니다. (D) 저항 온도계 (Resistance Thermometer):
+  이 장치는 온도에 따라 변하는 재료의 전기 저항을 측정하여 온도를 결정합니다. 주어진 옵션들 중에서, 플랭크의 방사법칙을 이용하여 온도를 측정하는
+  장치는 광고온계(Optical Pyrometer)입니다. 이는 흑체 또는 비슷한 조건의 물체로부터 방사되는 가시광선의 강도를 통해 온도를 측정하는
+  방식을 사용하며, 흑체의 방사율을 1로 설정하여 보정하는 원리를 기반으로 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_electrical_engineering
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electronics_engineering.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electronics_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..532067268053e13892fc8e3e4ff8092a0139e352
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electronics_engineering.yaml
@@ -0,0 +1,114 @@
+dataset_name: electronics_engineering
+doc_to_text: '질문: C 언어에서 사용되는 자료형이 아닌 것은?
+
+  A.double
+
+  B.short
+
+  C.integer
+
+  D.float
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. C 언어에서는 여러가지 기본 자료형을 제공하고 있습니다.
+  (A) double은 C 언어에서 실수를 표현하는 자료형 중 하나로, float보다 더 넓은 범위의 실수를 표현할 수 있습니다.   이는 C 언어의
+  자료형입니다. (B) short는 C 언어에서 정수를 표현하는 자료형 중 하나로, int보다 작은 범위의 정수를 표현할 수 있습니다. 이 역시
+  C 언어의 자료형입니다. (D) float은 C 언어에서 실수를 표현하는 자료형으로, double보다 작은 범위의 실수를 표현할 수 있습니다.
+  이 역시 C 언어의 자료형입니다. 그러나 (C) integer는 C 언어의 자료형이 아닙니다. C 언어에서 정수를 표현하는 자료형은 int, short,
+  long 등이 있지만 ''integer''라는 자료형은 존재하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 원시 프로그램을 컴파일러가 수행되는 기계에 대한 기계어로 번역하는 것이 아니라, 다른 기종에 대한 기계어로 번역하는 것은?
+
+  A.linker
+
+  B.debugger
+
+  C.cross-compiler
+
+  D.preprocessor
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 설명을 해보겠습니다. (A)
+  링커(linker)는 여러 개의 오브젝트 파일들을 연결시켜 하나의 실행 파일을 만드는 역할을 합니다. 이는 컴파일 과정의 마지막 단계에서 일어나는
+  작업입니다. (B) 디버거(debugger)는 프로그램의 오류를 찾고 수정하는 데 사용되는 소프트웨어 도구입니다. 이는 실행 중인 프로그램을 모니터링하고,
+  필요한 경우 중단시켜 변수의 값을 검사하거나 변경할 수 있습니다. (C) 크로스 컴파일러(cross-compiler)는 한 기종의 컴퓨터에서 실행되지만,
+  다른 기종의 컴퓨터에서 실행될 수 있는 코드를 생성하는 컴파일러입니다. 이는 다른 하드웨어 아키텍처를 대상으로 코드를 생성할 때 사용됩니다. (D)
+  프리프로세서(preprocessor)는 컴파일러가 소스 코드를 컴파일하기 전에 처리하는 프로그램입니다. 이는 주로 소스 코드 내의 매크로를 확장하거나,
+  조건부 컴파일 지시자를 처리하는 데 사용됩니다. 질문에서는 ''원시 프로그램을 컴파일러가 수행되는 기계에 대한 기계어로 번역하는 것이 아니라,
+  다른 기종에 대한 기계어로 번역하는 것''을 묻고 있습니다. 이 설명은 크로스 컴파일러(cross-compiler)의 기능과 일치합니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: BNF 심볼 중 택일을 의미하는 것은?
+
+  A.::=
+
+  B.＜＞
+
+  C.|
+
+  D.#
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. BNF(Backus-Naur Form)는 문법을 정의하는
+  메타 문법입니다. 이는 프로그래밍 언어나 데이터 구조의 문법을 표현하는 데 사용됩니다. BNF에서 사용되는 심볼들은 각각 특정한 의미를 가지고
+  있습니다. 선택지를 하나씩 살펴보면, (A) ::= 심볼은 BNF에서 "정의한다"는 의미를 가집니다. 즉, 왼쪽에 있는 식이나 요소가 오른쪽에
+  있는 식이나 요소로 정의된다는 것을 나타냅니다. (B) ＜＞ 심볼은 BNF에서 비터미널을 표현하는 데 사용됩니다. 비터미널이란, 규칙에 의해 다른
+  심볼로 대체될 수 있는 심볼을 의미합니다. (C). | : 이 심볼은 BNF에서 여러 선택 사항 중 하나를 선택할 수 있음을 나타냅니다. 예를
+  들어, A | B는 A나 B 중 하나를 선택할 수 있음을 의미합니다. (D) # 심볼은 일반적으로 BNF에서 사용되지 않는 심볼입니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: 로더(Loader)의 기능으로 볼 수 없는 것은?
+
+  A.할당(allocation)
+
+  B.연결(link)
+
+  C.번역(translation)
+
+  D.재배치(relocation)
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 로더(loader)는 컴퓨터 시스템에서 실행할 프로그램을
+  메모리에 적재하는 역할을 하는 프로그램입니다. 이를 위해 로더는 크게 세 가지 주요 기능을 수행합니다. 1. 할당(Allocation): 로더는
+  프로그램이 메모리 내에서 어디에 위치할지 결정합니다. 이를 위해 프로그램이 필요로 하는 메모리 공간을 찾아 할당하는 작업을 수행합니다.  , ''할당''은
+  로더의 기능 중 하나입니다. 2. 연결(Linking): 프로그램은 여러 개의 모듈로 분할될 수 있습니다. 로더는 이러한 모듈들을 연결하여 하나의
+  실행 가능한 프로그램을 만듭니다.  , ''연결'' 또한 로더의 기능 중 하나입니다. 3. 재배치(Relocation): 프로그램이 메모리 내의
+  특정 위치에 적재되면, 그 프로그램 내의 모든 주소는 적재된 위치를 기준으로 재배치됩니다. 이러한 작업을 로더가 수행하므로, ''재배치'' 또한
+  로더의 기능입니다. 그러나 ''번역(Translation)''은 로더의 기능이 아닙니다. 번역은 주로 컴파일러나 인터프리터가 수행하는 작업으로,
+  고급 언어로 작성된 소스 코드를 저급 언어인 기계어로 변환하는 과정을 의미합니다. 이는 로더의 역할 범위를 벗어난 작업입니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 운영체제가 제공하는 서비스로 볼 수 없는 것은?
+
+  A.프로그래머가 작성한 응용 프로그램에 대한 오류를 자동으로 수정한다.
+
+  B.파일의 생성, 판독, 삭제 등의 파일에 대한 조작을 지원한다.
+
+  C.각종 자원에 대한 사용 내역이나 응답시간과 같은 성능향상을 위한 요소들을 기록하여 관리한다.
+
+  D.컴퓨터 시스템의 하드웨어 오류를 발견하고 그에 대한 적절한 조치를 한다.
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 운영체제는 컴퓨터 시스템의 자원을 관리하고 응용 프로그램과
+  하드웨어 사이의 인터페이스 역할을 하는 소프트웨어입니다. 선택지 (A)는 프로그래머가 작성한 응용 프로그램에 대한 오류를 자동으로 수정한다는 내용입니다.
+  하지만, 이는 운영체제의 기능이 아닙니다. 프로그램의 오류는 프로그래머나 개발자가 디버깅 과정을 통해 찾아내고 수정해야 합니다. 운영체제는 오류가
+  발생하면 그 정보를 프로그래머에게 전달할 수 있지만, 자동으로 수정하는 것은 아닙니다. 선택지 (B)는 파일의 생성, 판독, 삭제 등의 파일에
+  대한 조작을 지원한다는 내용입니다. 이는 운영체제의 핵심 기능 중 하나로, 파일 시스템 관리를 통해 사용자가 파일을 효과적으로 관리하고 사용할
+  수 있게 지원합니다. 선택지 (C)는 각종 자원에 대한 사용 내역이나 응답시간과 같은 성능향상을 위한 요소들을 기록하여 관리한다는 내용입니다.
+  이 또한 운영체제의 중요한 기능 중 하나로, 시스템 성능을 모니터링하고 최적화하는 역할을 합니다. 마지막으로 선택지 (D)는 컴퓨터 시스템의 하드웨어
+  오류를 발견하고 그에 대한 적절한 조치를 한다는 내용입니다. 이 역시 운영체제의 기능으로, 하드웨어 오류를 감지하고 적절한 처리를 하여 시스템의
+  안정성을 유지하는 역할을 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_electronics_engineering
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_energy_management.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_energy_management.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..0c1687d684f41e0e6f8e400d4f833432c1edbfa1
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_energy_management.yaml
@@ -0,0 +1,118 @@
+dataset_name: energy_management
+doc_to_text: '질문: 이상적인 변압기에 대한 설명으로 옳은 것은?
+
+  A.단자 전류의 비 I2/I1는 권수비와 같다.
+
+  B.단자 전압의 비 V2/V1는 코일의 권수비와 같다.
+
+  C.1차측 복소전력은 2차측 부하의 복소전력과 같다.
+
+  D.1차측 단자에서 본 전체 임피던스는 부하 임피던스에 권수비의 자승의 역수를 곱한 것과 같다.
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상적인 변압기에 대한 설명을 분석하기 위해 각 선택지를
+  살펴보겠습니다. (A) "단자 전류의 비 I2/I1는 권수비와 같다"는 이상적인 변압기에 대한 설명입니다. 이상적인 변압기에서는 1차측과 2차측의
+  권수비가 전류 비율을 결정합니다. 예를 들어, 1차측에 100회 권선, 2차측에 200회 권선이 있다면, 2차측의 전류는 1차측의 전류의 절반만큼
+  흐를 것입니다. 이것은 변압기의 근본적인 원리 중 하나입니다. (B) 선택지는 변압기의 단자 전압의 비는 코일의 권수비와 같다고 말하고 있습니다.
+  이는 사실이 아닙니다. (C) 선택지는 "1차측 복소전력은 2차측 부하의 복소전력과 같다"고 합니다. 이상적인 변압기에서는 1차측과 2차측의 전력이
+  동일해야 합니다. 하지만 이는 복소전력에 관한 진술이므로, 더 구체적인 맥락이 필요합니다. (D) 선택지는 "1차측 단자에서 본 전체 임피던스는
+  부하 임피던스에 권수비의 자승의 역수를 곱한 것과 같다"고 합니다. 이것은 변압기의 임피던스 리플렉션 원리를 설명하지만 사실이 아닙니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 어떤 회로에 E=200+j50(V)인 전압을 가했을 때 I=5+j5(A)의 전류가 흘렀다면 이 회로의 임피던스는 약 몇 Ω인가?
+
+  A.0
+
+  B.∞
+
+  C.70+j30
+
+  D.25-j15
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 회로의 임피던스 Z를 구하는 방법에 대해 알아보겠습니다.
+  회로에서의 임피던스 Z는 전압 E를 전류 I로 나눈 값으로 구할 수 있습니다. 즉, Z = E/I 입니다. 여기서 주어진 E는 200+j50(V),
+  I는 5+j5(A)입니다.  , Z = (200+j50) / (5+j5)를 계산하면 됩니다. 복소수의 나눗셈을 수행하기 위해서는 분모의 복소수를
+  켤레 복소수로 곱하여 실수로 만든 후 분자에도 같은 켤레 복소수를 곱합니다. 즉, Z = (200+j50) * (5-j5) / (5+j5) *
+  (5-j5)를 계산하면 됩니다. 분자를 계산하면 200*5 + 200*(-j5) + j50*5 + j50*(-j5) = 1000 - j1000
+  + j250 + 250 = 1250 - j750 입니다. 분모를 계산하면 5*5 + 5*(-j5) + j5*5 + j5*(-j5) = 25 -
+  j25 + j25 + 25 = 50 입니다.  , Z = (1250 - j750) / 50 = 25 - j15 입니다. 따라서, 정답은 (D)
+  입니다.
+
+
+  질문: 태양광발전 전지에서 직렬저항이 발생하는 원인이 아닌 것은?
+
+  A.전면 및 후면 금속전극의 저항
+
+  B.태양광발전 전지 내의 누설전류
+
+  C.금속전극과 에미터, 베이스 사이의 접촉저항
+
+  D.태양광발전 전지의 에미터와 베이스를 통한 전류 흐름
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 정답 해설: 먼저, 직렬저항이 무엇인지 알아야 합니다.
+  직렬저항은 전기 회로에서 여러 개의 저항이 연속적으로 연결되어 있는 것을 말합니다. 태양광발전 전지에서 직렬저항이 발생하는 원인은 다음과 같습니다.
+  (A) 전면 및 후면 금속전극의 저항: 태양광발전 전지의 전면과 후면에는 금속전극이 있습니다. 이 금속전극은 태양광발전 전지의 전기적 특성을 결정하는
+  중요한 요소 중 하나입니다. 하지만 금속전극 자체의 저항이 존재하기 때문에, 태양광발전 전지의 직렬저항이 발생할 수 있습니다. (B) 태양광발전
+  전지 내의 누설전류: 태양광발전 전지 내의 누설전류는 전지 내부에서 전류가 새어나가는 것을 말합니다. 이 누설전류는 태양광발전 전지의 효율을 저하시키고,
+  수명을 단축시키는 원인 중 하나이지만, 직렬저항과는 직접적인 관련이 없습니다. (C) 금속전극과 에미터, 베이스 사이의 접촉저항: 태양광발전 전지의
+  금속전극과 에미터, 베이스 사이에는 접촉저항이 존재합니다. 이 접촉저항은 금속전극과 반도체 물질 사이의 접촉이 불완전할 때 발생하며, 태양광발전
+  전지의 효율을 저하시키는 원인 중 하나입니다. (D) 태양광발전 전지의 에미터와 베이스를 통한 전류 흐름: 태양광발전 전지의 에미터와 베이스는
+  전류가 흐르는 경로 중 하나입니다. 이 경로에서 전류가 흐르면 저항이 발생하며, 이 저항이 태양광발전 전지의 직렬저항을 증가시킬 수 있습니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 서로 다른 두 종류의 금속을 접촉하여 두 접점의 온도를 다르게 하면 온도차에 의해서 열 기전력이 발생하고 미세한 전류가 흐르는 현상은?
+
+  A.홀 효과(Hall effect)
+
+  B.펠티에 효과(Peltier effect)
+
+  C.제베크 효과(Seebeck effect)
+
+  D.광도전 효과((photo-conductivity effect)
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 서로 다른 두 종류의 금속을 접촉하여 두 접점의 온도를
+  다르게 하면 온도차에 의해서 열 기전력이 발생하고 미세한 전류가 흐르는 현상을 찾기 위해서는 각 선택지를 자세히 알아볼 필요가 있습니다. (A).
+  홀 효과(Hall effect)는 자기장이 인가된 물질에 전류를 흘렸을 때, 자기장과 전류에 수직인 방향으로 전기적인 힘이 발생하는 현상을 말합니다.
+  이는 전하 운반체의 종류와 밀도, 그리고 자기장의 세기에 의존합니다. (B). 펠티에 효과(Peltier effect)는 서로 다른 금속을 접합하여
+  전기를 흘렸을 때, 접합부의 양쪽에 열의 흡수 또는 발생이 일어나는 현상을 말합니다. 이는 전기 에너지가 열 에너지로 변환되는 현상으로, 열전
+  효과의 일종입니다. (C). 제베크 효과(Seebeck effect)는 서로 다른 금속 또는 반도체를 접합하여 전기를 흘렸을 때, 접합부의 양쪽에
+  온도차가 있으면 열기전력이 발생하는 현상을 말합니다. 이는 열 에너지가 전기 에너지로 변환되는 현상으로, 열전 효과의 일종입니다. (D). 광도전
+  효과((photo-conductivity effect)는 물질에 빛을 비추었을 때, 물질 내부의 전자가 빛 에너지를 받아 이동하면서 전기 전도도가
+  증가하는 현상을 말합니다. 이는 광전자 효과의 일종입니다. 위의 선택지 중에서 서로 다른 두 종류의 금속을 접촉하여 두 접점의 온도를 다르게 하면
+  온도차에 의해서 열 기전력이 발생하고 미세한 전류가 흐르는 현상을 설명하는 것은 (C). 제베크 효과(Seebeck effect)입니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: 태양광발전 모듈의 I-V 특성곡선에서 일사량에 따라 가장 많이 변화하는 것은?
+
+  A.전압
+
+  B.전류
+
+  C.저항
+
+  D.커패시턴스
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 태양광발전 모듈의 I-V 특성곡선은 전류(I)와 전압(V)의
+  관계를 나타내는 곡선입니다. 이 곡선은 태양광 모듈의 작동 특성을 보여주며, 일사량, 온도 등의 변화에 따라 그 형태가 변합니다. 일사량은 태양의
+  빛이 얼마나 강하게 닿는지를 나타내는 값으로, 태양광발전 모듈의 전력 출력에 중요한 영향을 미칩니다. 일사량이 증가하면 태양광 모듈이 흡수하는
+  에너지가 증가하므로 전류가 증가합니다. 반면, 전압은 일사량에 상대적으로 덜 민감하며, 일사량이 변해도 전압의 변화는 그다지 크지 않습니다. 저항과
+  커패시턴스는 전자회로의 물리적 특성을 나타내는 값들로, 태양광발전 모듈의 I-V 특성곡선과는 직접적인 관련이 없습니다. 태양광발전 모듈의 저항은
+  일반적으로 일사량에 따라 변하지 않으며, 커패시턴스 역시 태양광발전 모듈의 출력에 영향을 주는 주요 요인이 아닙니다.  , 태양광발전 모듈의 I-V
+  특성곡선에서 일사량에 따라 가장 많이 변화하는 것은 전류입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_energy_management
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_fashion.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_fashion.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3c6bb38544bcd1d213ca784db64cdd6b1e076107
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_fashion.yaml
@@ -0,0 +1,114 @@
+dataset_name: fashion
+doc_to_text: '질문: 오점의 성분 중 충해의 원인이 되는 것은?
+
+  A.단백질
+
+  B.무기물
+
+  C.염류
+
+  D.요소
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 오점의 성분 중 충해의 원인이 되는 것을 찾기 위해서는 먼저
+  충해의 원인이 되는 성분이 무엇인지 알아야 합니다. 충해는 일반적으로 곤충이나 벌레 등이 식물이나 동물 등에 피해를 입히는 것을 말합니다. 이러한
+  충해의 원인은 다양하지만, 일반적으로 단백질과 같은 영양분이 충해의 원인이 되는 경우가 많습니다. 충해를 일으키는 곤충이나 벌레들은 대부분 단백질을
+  필요로 하기 때문에, 식물이나 동물의 단백질을 먹이로 삼습니다.  , 오점의 성분 중 단백질이 충해의 원인이 될 가능성이 높습니다. 무기물, 염류,
+  요소 등은 충해의 원인이 될 가능성이 상대적으로 낮습니다. 무기물은 식물이나 동물의 성장에 필요한 성분 중 하나이지만, 충해의 원인이 되는 경우는
+  드물며, 염류는 식물의 성장에 영향을 미칠 수 있지만, 충해의 원인이 되는 경우는 거의 없습니다. 요소는 단백질을 구성하는 성분 중 하나이지만,
+  충해의 원인이 되는 경우는 거의 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 비누의 특성 중 장점이 아닌 것은?
+
+  A.산성용액에서도 사용할 수 있다.
+
+  B.세탁한 직물의 촉감이 양호하다.
+
+  C.합성세제보다 환경을 적게 오염시킨다.
+
+  D.거품이 잘 생기고 헹굴 때에는 거품이 사라진다.
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 검토해보겠습니다. (A) 비누는 기본적으로
+  알칼리성이기 때문에 산성 용액에서는 잘 작동하지 않습니다. 산과 알칼리는 서로 중화 반응을 일으키므로, 산성 용액에서 비누를 사용하면 비누의 세정력이
+  크게 떨어질 수 있습니다. (B) 비누는 일반적으로 세탁한 직물의 촉감을 부드럽게 만드는 특성이 있습니다. 이는 비누가 직물의 섬유 사이에 들어가서
+  섬유들이 서로 마찰하지 않도록 하는 역할을 하기 때문입니다. (C) 비누는 합성세제보다 환경 오염을 덜 일으키는 것으로 알려져 있습니다. 이는
+  비누가 자연에서 잘 분해되기 때문입니다. 반면 합성세제는 자연에서 잘 분해되지 않아 환경 오염을 일으킬 수 있습니다. (D) 비누는 거품이 잘
+  생기는 특성이 있습니다. 이는 비누가 물과 함께 사용될 때 표면 활성 효과를 일으켜 거품을 만들기 때문입니다. 또한 헹굴 때에는 이 거품이 사라지는
+  특성이 있습니다.   이 모든 정보를 종합해 보면, 비누의 특성 중 장점이 아닌 것은 ''산성용액에서도 사용할 수 있다''입니다. 왜냐하면 비누는
+  알칼리성이기 때문에 산성 용액에서는 잘 작동하지 않기 때문입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 피복의 오염 부착 상태에 대한 설명 중 틀린 것은?
+
+  A.화학결합에 의한 부착 : 섬유표면에 오염이 부착된 후 섬유와 오점 간에 결합이 화학결합하여 부착된 것이다.
+
+  B.정전기에 의한 부착 : 오염입자와 섬유가 서로 다른 대전성(+ -로 나타나는 정전기 성질)을 띄고 있을 때 오염입자가 섬유에 부착된 것이다.
+
+  C.분자 간 인력에 의한 부착 : 오염물질의 분자와 섬유 분자 간의 인력에 의해서 부착된 것이며 강한 분자간의 인력으로 인하여 쉽게 제거되지 아니한다.
+
+  D.유지결합에 의한 부착 : 오염에 입자가 물의 엷은 막을 통해서 섬유에 부착된 것이다.
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 우선, 각 선택지에 대해 이해를 높이기 위해 각 부착 방식에
+  대해 자세히 알아보겠습니다. (A) 화학결합에 의한 부착: 이는 오염물질이 섬유 표면에 부착된 후, 섬유와 오염물질 간에 화학적인 결합이 이루어져
+  부착되는 경우를 말합니다. 이는 일반적으로 세탁이 어려운 경우에 해당합니다. (B) 정전기에 의한 부착: 오염 입자와 섬유가 서로 다른 대전성을
+  띠고 있을 때, 즉 한쪽이 양전하고 다른 한쪽이 음전할 때 오염 입자가 섬유에 부착되는 경우를 말합니다. 이는 일반적으로 건조한 환경에서 더 잘
+  일어납니다. (C) 분자 간 인력에 의한 부착: 이는 오염물질의 분자와 섬유 분자 간의 물리적인 인력(반발력이나 인력 등)에 의해 부착되는 경우를
+  말합니다. 이는 섬유와 오염물질 간의 인력이 강하여 세탁으로 쉽게 제거되지 않는 경우에 해당합니다. (D) 유지결합에 의한 부착: 이는 오염 입자가
+  물의 얇은 막을 통해 섬유에 부착되는 경우를 말합니다. 각 부착 방식에 대해 알아본 결과, (D)의 유지결합에 의한 부착의 설명이 부정확한 것으로
+  보입니다. 유지결합은 오염물질이 섬유 표면에 직접적으로 부착되는 것이 아니라, 물이나 기타 액체의 막을 통해 간접적으로 부착되는 경우를 말합니다.
+  하지만, 선택지 (D)에서는 오염 입자가 ''물의 엷은 막을 통해서 섬유에 부착된 것''이라고 설명하고 있습니다. 이는 유지결합의 정의와 일치하지
+  않습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 의류의 푸새가공에 사용하는 풀에 해당되지 않는 것은?
+
+  A.전분
+
+  B.OPTION.M.OPTION
+
+  C.L.OPTION.S
+
+  D.P.V.OPTION
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 의류의 푸새가공에 사용하는 풀은 의류의 완성도를 높이고 제품의
+  품질을 유지하기 위해 사용됩니다. 이러한 풀에는 다양한 종류가 있습니다. (A) 전분: 전분은 식물의 줄기와 뿌리에서 발견되는 탄수화물의 한 종류로,
+  의류 산업에서는 풀로 사용됩니다. 이는 옷에 바르면 품질을 유지하고 주름을 방지하는 데 도움이 됩니다. (B) C.M.C (Carboxymethyl
+  Cellulose): C.M.C는 셀룰로스 유도체 중 하나로, 의류 산업에서는 풀로 사용됩니다. C.M.C는 물에 잘 녹는 특성 때문에 의류에
+  사용되며, 의류의 완성도를 높이는 데 도움이 됩니다. (D) P.V.A (Polyvinyl Alcohol): P.V.A는 합성 수지의 일종으로,
+  물에 잘 녹는 특성 때문에 의류 산업에서는 풀로 사용됩니다. P.V.A는 의류에 사용되면 품질을 유지하고 주름을 방지하는 데 도움이 됩니다. 그러나
+  (C) L.A.S (Linear Alkylbenzene Sulfonate)는 합성 세제의 주요 성분 중 하나로, 의류 산업에서 풀로 사용되지 않습니다.
+  L.A.S는 주로 세탁제, 식기세척제 등에 사용되며, 그것은 강력한 세척력과 풍부한 거품을 제공합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 클리닝 서비스 중 특수 서비스에 해당되는 것은?
+
+  A.모 제품만 세정하는 서비스
+
+  B.웨트클리닝 서비스
+
+  C.워싱(Washing) 서비스
+
+  D.패션 케어(Fashion care) 서비스
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 클리닝 서비스는 일반적으로 의류나 직물 제품을 세정하는 서비스를
+  말합니다. 이에는 다양한 방법이 있을 수 있습니다. (A) 선택지인 ''모 제품만 세정하는 서비스''는 특정 제품을 세정하는 서비스를 말하는 것
+  같습니다. 이는 특수 서비스라기 보다는 일반적인 클리닝 서비스에 해당할 것입니다. (B) 선택지인 ''웨트클리닝 서비스''는 물을 이용한 세탁
+  방식을 의미합니다. 이는 일반적인 세탁 방식 중 하나이므로 특수 서비스라고 보기 어렵습니다. (C) 선택지인 ''워싱(Washing) 서비스''도
+  물을 이용한 일반적인 세탁 방식을 의미합니다. 이 역시 특수 서비스라고 보기는 어렵습니다. (D) 선택지인 ''패션 케어(Fashion care)
+  서비스''는 패션 아이템에 대한 전반적인 관리를 의미하는 것 같습니다. 이는 일반적인 세탁 방식이 아닌, 의류의 보관, 관리, 수선 등을 포함한
+  종합적인 서비스를 제공하는 것으로 보입니다. 이는 일반적인 클리닝 서비스와는 차별화된 서비스라고 볼 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_fashion
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_food_processing.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_food_processing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..dbcd196390e939d2924b6931c8ed15a961d2bd15
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_food_processing.yaml
@@ -0,0 +1,112 @@
+dataset_name: food_processing
+doc_to_text: '질문: 작물이 주로 이용하는 토양수분의 형태는?
+
+  A.흡습수
+
+  B.모관수
+
+  C.중력수
+
+  D.지하수
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 토양수분에는 크게 네 가지 형태가 있습니다. 그것은
+  흡습수, 모관수, 중력수, 지하수입니다. 각각의 정의를 알아보겠습니다. 흡습수는 토양 입자 사이의 공기 중에 물 분자가 흡착되어 있는 형태의 물입니다.
+  흡습력에 의해 토양 입자 표면에 밀착되어 있어 식물의 뿌리가 이를 흡수하기 어렵습니다. 모관수는 토양의 모관(미세한 틈)에 들어가 있는 물을 말합니다.
+  이 물은 식물의 뿌리가 쉽게 흡수할 수 있으며, 식물이 생장하는 데 필요한 주요 수분 공급원입니다. 중력수는 토양의 모관을 통해 중력에 의해 아래로
+  흘러가는 물을 말합니다. 이 물은 토양 깊숙한 곳으로 흘러가거나 지하수로 변하게 됩니다. 지하수는 토양 표면 아래에 있는 물을 말합니다. 이 물은
+  일반적으로 식물의 뿌리가 닿지 못하는 깊이에 위치해 있습니다. 이러한 정보를 바탕으로, 작물이 주로 이용하는 토양수분의 형태를 생각해보면, 작물의
+  뿌리가 쉽게 흡수할 수 있는 형태의 물이어야 합니다. 그렇기 때문에, 작물이 주로 이용하는 토양수분의 형태는 모관수입니다. 따라서, 정답은 (B)
+  입니다.
+
+
+  질문: 신품종의 구비조건으로 틀린 것은?
+
+  A.구별성
+
+  B.독립성
+
+  C.균일성
+
+  D.안정성
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 신품종의 구비조건에 대해 이해하려면, 신품종이란
+  무엇인지 알아야 합니다. 신품종이란 기존에 알려진 품종과는 다른 새로운 품종을 말합니다. 그리고 이 신품종을 식물품종보호법에 따라 등록하려면 일정한
+  요건을 충족해야 합니다. 이를 ''신품종의 구비조건''이라고 합니다. 선택지를 보면, 구별성, 독립성, 균일성, 안정성이 있습니다. 이 중에서
+  어떤 것이 신품종의 구비조건이 아닌지 알아보겠습니다. (A) 구별성: 신품종은 기존의 품종과 구별될 수 있는 특성이 있어야 합니다.   구별성은
+  신품종의 구비조건 중 하나입니다. (B) 독립성: 이는 일반적으로 품종의 구비조건으로 언급되지 않습니다. 품종이 독립적이라는 것은 그 자체로 독립적인
+  특성을 가지고 있음을 의미하는 것 같지만, 실제로 신품종의 구비조건으로는 언급되지 않습니다. (C) 균일성: 신품종은 그 품종 내의 개체들이 일정한
+  특성을 보여야 합니다. 즉, 품종 내의 개체들이 균일하게 특성을 나타내야 합니다.   균일성은 신품종의 구비조건 중 하나입니다. (D) 안정성:
+  신품종은 세대를 거치더라도 그 특성이 안정적으로 유지되어야 합니다.   안정성은 신품종의 구비조건 중 하나입니다.  , 신품종의 구비조건으로 틀린
+  것은 ''독립성''입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 씨감자의 병리적 퇴화의 주요 원인은?
+
+  A.효소의 활력저하
+
+  B.비료 부족
+
+  C.바이러스 감염
+
+  D.이형 종자의 기계적 혼입
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 씨감자의 병리적 퇴화는 여러 요인에 의해 발생할 수 있습니다.
+  (A) 효소의 활력저하: 씨감자는 식물이므로 효소의 활성이 저하되면 생장에 문제가 생길 수 있습니다. 그러나 효소 활성 저하는 일반적으로 특정
+  병리적 상태를 나타내기보다는 식물의 자연적인 노화 과정에서 일어나는 현상입니다.   이는 씨감자의 병리적 퇴화의 주요 원인이라고 보기 어렵습니다.
+  (B) 비료 부족: 비료는 식물의 건강한 성장을 돕는 중요한 요소입니다. 그러나 비료 부족은 씨감자의 성장을 저해할 수 있지만, 이는 병리적 퇴화를
+  직접적으로 초래하는 주요 원인이라고 보기는 어렵습니다. (C) 바이러스 감염: 바이러스는 식물의 병리적 퇴화를 초래할 수 있는 주요 요인 중 하나입니다.
+  특히 씨감자는 바이러스에 매우 취약하며, 감염이 일단 시작되면 식물 전체에 빠르게 퍼져 병리적 퇴화를 일으킬 수 있습니다. (D) 이형 종자의
+  기계적 혼입: 이형 종자의 기계적 혼입은 씨감자의 품질을 저하시킬 수 있지만, 이는 병리적 퇴화의 주요 원인이라고 보기는 어렵습니다. 특히 씨감자는
+  감자 Y 바이러스(Potato Y virus) 등 여러 종류의 바이러스에 의해 병리적 퇴화를 겪는 경우가 많습니다. , 이러한 고려를 통해 바이러스
+  감염이 씨감자의 병리적 퇴화의 주요 원인일 가능성이 가장 높다고 볼 수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 괴경으로 번식하는 작물은?
+
+  A.생강
+
+  B.마늘
+
+  C.감자
+
+  D.고구마
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 정답 해설: 괴경으로 번식하는 작물을 찾기 위해서는 먼저
+  괴경의 뜻을 알아야 합니다. 괴경은 땅속줄기의 일부가 비대해져 저장양분을 축적하여 발달한 것으로, 덩이줄기라고도 합니다. 이러한 특징을 가진 작물을
+  선택지에서 찾아보면 다음과 같습니다. (A) 생강: 생강은 덩이줄기가 아닌 근경(뿌리줄기)으로 번식하는 작물입니다. (B) 마늘: 마늘도 생강과
+  마찬가지로 근경으로 번식하는 작물입니다. (C) 감자: 감자는 대표적인 괴경 작물로, 땅 속에서 자라는 덩이줄기가 번식에 사용됩니다. (D) 고구마:
+  고구마는 괴근(덩이뿌리)으로 번식하는 작물입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 기상생태형으로 분류할 때 우리나라 벼의 조생종은 어디에 속하는가?
+
+  A.OPTIONlt형
+
+  B.bLt형
+
+  C.OPTIONLt형
+
+  D.blT형
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 기상생태형으로 분류할 때 벼의 조생종이 속하는 유형을
+  파악하기 위해서는 기상생태형의 분류 방식을 이해해야 합니다. 기상생태형은 일반적으로 벼 등의 식물이 자라는 기후 조건을 기반으로 분류됩니다. 이
+  분류는 주로 온도(Temperature)와 일조 시간(Light)을 고려하여 이루어집니다. 한국의 기후 특성을 고려할 때, 여름철에는 일반적으로
+  온도가 높고 습도가 높은 편입니다. blT형은 기본영양생장성과 감광성이 작고(Little basic nutrition growth, Little
+  light sensitivity), 감온성이 큰(Big temperature sensitivity) 품종을 의미하는데 이 품종은 상대적으로 높은
+  온도에 더 민감하게 반응하며, 일장의 변화에는 덜 민감한 특성을 가지고 있어 한국의 기후 특성에서 효과적으로 성장할 수 있는 조건을 가지고 있습니다.
+  따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_food_processing
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_health.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_health.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..85267712d83c21126a5a54dbf39a74753a50bb58
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_health.yaml
@@ -0,0 +1,117 @@
+dataset_name: health
+doc_to_text: '질문: 도나베디안 (Donabedian) 의 보건의료 서비스 질 평가 중 구조적 접근은?
+
+  A.면허제도
+
+  B.고객만족도
+
+  C.임상진료지침
+
+  D.의료 이용도 조사
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 도나베디안의 보건의료 서비스 질 평가는 구조(Structure),
+  과정(Process), 결과(Outcome)의 세 가지 요소로 이루어져 있습니다. 이 중에서 구조적 접근은 ''보건의료 서비스의 질을 평가하는
+  데 필요한 자원과 시스템을 말합니다. 이러한 구조적 접근은 의료기관의 물리적, 인적 자원, 그리고 그 자원을 운영하기 위한 시스템과 절차를 포함합니다.
+  예를 들어, 의료기관의 시설과 장비, 의료인력의 수와 자격, 의료 서비스 제공을 위한 정책과 절차 등이 구조적 접근에 해당합니다. 선택지 중에서
+  (A) 면허제도는 의료인력의 자격을 보장하는 시스템으로, 구조적 접근의 일부로 볼 수 있습니다. 반면에 (B) 고객만족도, (C) 임상진료지침,
+  (D) 의료 이용도 조사는 과정이나 결과에 더 가깝게 연관되어 있습니다. 고객만족도는 의료 서비스의 결과를 평가하는 한 가지 방법이며, 임상진료지침은
+  의료 서비스의 과정을 지침하는 도구입니다. 의료 이용도 조사는 의료 서비스의 이용 상황을 파악하는 방법으로, 과정이나 결과를 이해하는 데 도움이
+  됩니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 국민건강보험 요양급여의 기준에 관한 규칙 상 상급종합병원에서 1단계 요양급여를 제공받을 수 있는 경우는 ?
+
+  A.혈우병 환자가 요양급여를 받는 경우
+
+  B.해당 상급 종합병원 직원의 직계 존 ․비속이 요양급여를 받는 경우
+
+  C.정신건강의학과에서 요양급여를 받는 경우
+
+  D.산전 진찰을 목적으로 요양급여를 받는 경우
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 국민건강보험 요양급여의 기준에 관한 규칙에 따르면, 상급종합병원에서
+  1단계 요양급여를 받을 수 있는 경우는 다음과 같습니다. - 응급의료에 관한 법률 제2조제1호에 해당하는 응급환자 - 분만 시의 조산아 및 저체중아
+  - 치과에서 요양급여를 받는 경우 - 장애인복지법 제32조에 따른 등록 장애인 또는 단순 물리치료가 아닌 작업치료ᆞ운동치료 등의 재활치료가 필요하다고
+  인정되는 자가 재활의학과에서 요양급여를 받는 경우 - 가정의학과에서 요양급여를 받는 경우 - 혈우병 환자가 요양급여를 받는 경우  , 위의 조건에
+  해당하지 않는 선택지인 (B). 해당 상급 종합병원 직원의 직계 존 .비속이 요양급여를 받는 경우와 (C). 정신건강의학과에서 요양급여를 받는
+  경우, (D). 산전 진찰을 목적으로 요양급여를 받는 경우는 상급종합병원에서 1단계 요양급여를 받을 수 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 건강보험 재원 구성에 대한 설명으로 옳은 것은?
+
+  A.건강보험 재원 중 가장 큰 비중을 차지하는 수입원은 국고 지원이 다 .
+
+  B.매년 국민건강증진기금에서 당해 연도 보험료 예상 수입액의 6%에 상당하는 금액을 국민건강보험공단에 지원한 다 .
+
+  C.매년 보험료 예상 수입액의 20%에 상당하는 금액을 국고로 지원하여 건강보험의 재정건전성을 확보하고 있다.
+
+  D.건강보험 재정의 대부분은 지역가입자가 내는 보험료이다 .
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 건강보험의 재원 구성에 대해 알아야 합니다. 건강보험의
+  재원은 크게 가입자가 내는 보험료와 국고 지원으로 나눌 수 있습니다. (A)는 국고 지원이 건강보험 재원 중 가장 큰 비중을 차지한다고 주장하고
+  있습니다. 하지만, 건강보험 재원 중 가장 큰 비중을 차지하는 것은 가입자가 내는 보험료입니다.  , (A)는 옳지 않습니다. (B)는 매년 국민건강증진기금에서
+  당해 연도 보험료 예상 수입액의 6%에 상당하는 금액을 국민건강보험공단에 지원한다고 주장하고 있습니다. 이는 사실입니다. 국민건강증진기금은 건강보험의
+  재원 중 하나로, 매년 일정한 금액을 국민건강보험공단에 지원하고 있습니다.  , (B)는 옳은 설명입니다. (C)는 매년 보험료 예상 수입액의
+  20%에 상당하는 금액을 국고로 지원하여 건강보험의 재정 건전성을 확보하고 있다고 주장하고 있습니다. 하지만, 이는 사실이 아닙니다. 국고 지원은
+  보험료 예상 수입액의 20%가 아니라, 14%를 지원하고 있습니다.  , (C)는 옳지 않습니다. (D)는 건강보험 재정의 대부분은 지역가입자가
+  내는 보험료라고 주장하고 있습니다. 하지만, 건강보험 재정의 대부분은 직장가입자가 내는 보험료로 이루어져 있습니다. 지역가입자가 내는 보험료는
+  건강보험 재정에서 차지하는 비중이 상대적으로 작습니다.  , (D)는 옳지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 4병상으로 OECD 회원국 평균 4 4병상에 비해 약 2 8배 많았다 ① 효율성 (efficiency) ② 통합성 (integration)
+  ③ 양적 공급(quantity) ④ 분포(dist ribution coverage) 문 12 예산 집행 과정 중 중앙예산기관으로부터 배정된 예산을
+  각 중앙 부처의 장이 그 하부기관에게 나누어 주는 것은?
+
+  A.예산의 편성
+
+  B.예산의 배정
+
+  C.예산의 재배정
+
+  D.지출원인행위
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 질문의 내용을 정리해보겠습니다. 질문은 두 가지 부분으로
+  나누어져 있는데, 첫 번째 부분은 4병상에 대한 내용이고, 두 번째 부분은 예산 집행 과정 중 중앙예산기관으로부터 배정된 예산을 각 중앙 부처의
+  장이 그 하부기관에게 나누어 주는 것에 대한 내용입니다. 첫 번째 부분은 질문의 문맥이 불완전하여 정확한 해석이 어렵습니다. 또한 이 부분은 선택지와
+  연관성이 없는 것으로 보입니다.   이 부분은 무시하고 두 번째 부분에 집중하겠습니다. 두 번째 부분의 질문은 예산 집행 과정 중 중앙예산기관으로부터
+  배정된 예산을 각 중앙 부처의 장이 그 하부기관에게 나누어 주는 것이 무엇인지에 대한 것입니다. 이에 대한 답을 찾기 위해 각 선택지의 의미를
+  살펴보겠습니다. (A). 예산의 편성: 예산을 작성하고 결정하는 과정을 말합니다. 이는 예산의 계획 단계에 해당합니다. (B). 예산의 배정:
+  중앙예산기관이 각 부처에 예산을 배정하는 과정을 말합니다. (C). 예산의 재배정: 이미 배정된 예산을 다시 분배하는 과정을 말합니다. 이는 중앙
+  부처의 장이 그 하부기관에게 예산을 나누어 주는 과정에 해당합니다. (D). 지출원인행위: 예산이 지출되는 원인과 그에 따른 행위를 말합니다.
+  이는 예산의 실행 단계에 해당합니다.  , 중앙예산기관으로부터 배정된 예산을 각 중앙 부처의 장이 그 하부기관에게 나누어 주는 것은 ''예산의
+  재배정''에 해당합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 국민건강증진법 상 명시된 국민건강증진기금의 사용 범위에 해당하지 않는 것은?
+
+  A.건강생활지원사업
+
+  B.국민영양관리사업
+
+  C.구강건강관리사업
+
+  D.사업장 건강검진사업
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, ''국민건강증진법''에 대해 검색하여 이 법률이 무엇인지,
+  그리고 ''국민건강증진기금''이 어떻게 사용되는지에 대한 정보를 찾아보겠습니다. 이를 통해 각 선택지가 기금 사용 범위에 포함되는지 여부를 확인할
+  수 있습니다. ''국민건강증진법''은 국민의 건강증진을 위한 기본적인 방향과 기본적인 조치를 제시하는 법률이며, ''국민건강증진기금''은 이 법률에
+  따라 설립된 기금으로, 국민의 건강증진을 위한 다양한 사업에 사용됩니다. 이제 각 선택지를 하나씩 살펴보겠습니다. (A) 건강생활지원사업: 이는
+  국민의 건강한 생활습관 형성을 위한 사업으로, 국민건강증진기금의 사용 범위에 포함됩니다. (B) 국민영양관리사업: 이는 국민의 영양 상태 개선을
+  위한 사업으로, 국민건강증진기금의 사용 범위에 포함됩니다. (C) 구강건강관리사업: 이는 구강건강을 증진하기 위한 사업으로, 국민건강증진기금의
+  사용 범위에 포함됩니다. (D) 사업장 건강검진사업: 이는 사업장에서 근로자의 건강을 관리하기 위한 사업으로, 일반적으로는 사업장에서 자체적으로
+  실시하는 것이 일반적입니다.  , 국민건강증진기금의 사용 범위에는 포함되지 않을 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_health
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_korean_history.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_korean_history.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..18e265b604556bad7cd63caaeccd5b748fb9b19d
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_korean_history.yaml
@@ -0,0 +1,128 @@
+dataset_name: korean_history
+doc_to_text: '질문: (가)에 대한 설명으로 옳지 않은 것은? (가)은/는 의병계열과 애국계몽 운동 계열의 비밀결사가 모여 결성된 조직으로,
+  총사령 박상진을 중심으로 독립군 양성을 목적으로 하였다.
+
+  A.북간도에서 무장 독립 단체인 중광단을 조직하였다.
+
+  B.군자금을 모집하고 친일파를 공격하였다.
+
+  C.공화제 국가 수립을 지향하였다.
+
+  D.경상도 일대에서 결성되어 전국 조직으로 확대하였다.
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 대한광복회는 1915년 7월 15일 대구 달성공원에서 한말
+  의병계열과 계몽운동계열이 연합하여 결성한 독립운동단체입니다. 이 단체는 국권 회복과 독립 달성을 목적으로 만주에 무관학교를 설립하고 독립군을 양성해
+  무력이 준비되면 일제와 전쟁을 치를 계획이었습니다. 또한 한인들을 만주로 이주시키고 농토를 개간해 식량과 병력을 공급할 계획도 가지고 있었습니다.
+  대한광복회는 공화제 국가 수립을 지향하였으며, 이는 신민회가 공화주의를 주창한 것을 시작으로 독립운동가들 사이에서 공화주의 사상이 널리 퍼져 있었음을
+  보여줍니다. 대한광복회는 군자금을 모집하고 친일파를 공격하는 활동을 전개하였으며, 이를 위해 전국 각지에 상업조직으로 위장한 연락기관들을 설치하였습니다.
+  또한 중국 단동과 장춘에도 여관과 잡화상을 설립해 연락 거점으로 삼았습니다. 그러나 대한광복회는 북간도에서 무장 독립 단체인 중광단을 조직하지
+  않았습니다. 중광단은 나철과 오기호 등 대종교(단군) 단체에서 결성한 무장투쟁 조직으로, 3.1운동 이후 중광단이 전신이 되어 북로군정서가 발족하였습니다.
+  북로군정서는 청산리 대첩에서 김좌진 장군이 이끈 부대로 유명합니다.  , (가)에 대한 설명으로 옳지 않은 것은 (A)입니다. 대한광복회는 북간도에서
+  무장 독립 단체인 중광단을 조직하지 않았으며, 이는 중광단과는 별개의 조직이었습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: (가) 지역에 대한 설명으로 옳은 것은? 나는 삼한(三韓) 산천의 음덕을 입어 대업을 이루었다.(가)는/은수덕(水德)이 순조로워 우리나라
+  지맥의 뿌리가 되니 대업을 만대에 전할 땅이다.왕은 춘하 추동네 계절의 중간달에 그곳에 가 100일 이상 머물러서 나라를 안녕케 하라. － 고려사－
+
+  A.이곳에 대장도감을 설치하여 재조대장경을 만들었다.
+
+  B.지눌이 이곳에서 수선사 결사운동을 펼쳤다.
+
+  C.망이 ․망소이가 이곳에서 봉기하였다.
+
+  D.몽골이 이곳에 동녕부를 두었다.
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 주어진 고려사의 기록을 보면, (가) 지역은 삼한의
+  산천의 음덕을 입은 곳으로, 수덕이 순조롭고 우리나라 지맥의 뿌리가 되는 곳으로 묘사되어 있습니다. 이에 따라, 이 지역은 고려의 수도인 개경으로
+  추정됩니다. 이제, 선택지들을 살펴보겠습니다. (A) 이곳에 대장도감을 설치하여 재조대장경을 만들었다. - 재조대장경은 고려 고종 23년(1236)부터
+  38년(1251)까지 16년간에 걸쳐 완성된 팔만대장경으로, 이 작업은 강화도에서 이루어졌습니다.  , (A)는 틀린 설명입니다. (B) 지눌이
+  이곳에서 수선사 결사운동을 펼쳤다. - 보조국사 지눌은 고려시대의 승려로, 송광사에서 수선사 결사운동을 펼쳤습니다. 송광사는 전라도 순천에 위치해
+  있습니다.  , (B)는 틀린 설명입니다. (C) 망이 .망소이가 이곳에서 봉기하였다. - 망이 .망소이는 고려시대의 천민 출신으로, 공주 명학소에서
+  봉기를 일으켰습니다.  , (C)는 틀린 설명입니다. (D) 몽골이 이곳에 동녕부를 두었다. - 몽골은 고려를 침입한 후, 서경에 동녕부를 설치하여
+  통치하였습니다.  , (D)는 맞는 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 밑줄 친 ‘그’에 대한 설명으로 옳은 것은? 이 날 소정방이 부총관 김인문 등과 함께 기 벌포에 도착하여 백제 군사와 마주쳤다 . …(중략)
+  …소정방이 신라군이 늦게 왔다는 이유로 군문에서 신라 독군 김문영의 목을 베고 자 하니, 그가 군사들 앞에 나아가 “황산 전투를 보지도 않고 늦게
+  온 것을 이유로 우리를 죄 주려 하는구나 . 죄도 없이 치욕을 당할 수는  없으니, 결단코 먼저 당나라 군사와 결전을 한 후에 백제를 쳐야겠다
+  .”라고 말하였다 .
+
+  A.살수에서 수의 군대를 물리쳤다 .
+
+  B.김춘추 의 신라 왕위 계승을 지원하였다 .
+
+  C.청해진을 설치하고 해상 무역을 전개하였다 .
+
+  D.대가야를 정벌하여 낙동강 유역을 확보하였다 .
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 ''그''가 가리키는 대상이 누구인지 확인해야 합니다.
+  이 문장에서 ''그''는 신라 독군 김문영을 가리키고 있습니다.   선택지 중에서 김문영의 행적에 해당하는 것을 찾아야 합니다. 이제 선택지를
+  하나씩 살펴보겠습니다. (A) 살수에서 수의 군대를 물리쳤다. - 이 내용은 김유신이 살수 전투에서 수의 군대를 물리친 사건을 가리키는 것으로
+  보입니다. 김문영과는 관련이 없어 보입니다. (B) 김춘추의 신라 왕위 계승을 지원하였다. - 이 내용은 김유신이 김춘추의 왕위 계승을 지원한
+  사건을 가리키는 것으로 보입니다. 김문영이 김춘추의 왕위 계승을 지원한 것은 확실한 사실입니다. 김문영은 김춘추가 왕위를 계승하도록 도왔고, 이로
+  인해 신라는 삼국을 통일할 수 있었습니다. (C) 청해진을 설치하고 해상 무역을 전개하였다. - 이 내용은 진흥왕이 청해진을 설치하고 해상 무역을
+  전개한 사건을 가리키는 것으로 보입니다. 김문영과는 관련이 없어 보입니다. (D) 대가야를 정벌하여 낙동강 유역을 확보하였다. - 이 내용은 김유신이
+  대가야를 정벌하여 낙동강 유역을 확보한 사건을 가리키는 것으로 보입니다. 김문영과는 관련이 없어 보입니다. 위의 선택지 중에서 김문영의 행적을
+  가리키는 것은 "(B) 김춘추의 신라 왕위 계승을 지원하였다" 입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 다음과 같은 대통령 선출 방식이 포함된 헌법의 내용으로 옳지 않은 것은? 제39조
+
+  A.대통령은 통일 주체국민회의에서 토론 없이 무기명 투표로 선거한 다 .
+
+  B.통일주체국민회의에서 재적 대의원 과반수의 찬성을 얻은 자를 대통령 당선자로 한다. ①대통령은 국회를 해산할 수 있다. ②대통령의 임기는 7년으로
+  하며, 중임할 수 없다.
+
+  C.대법원장은 대통령이 국회의 동의를 얻어 임명한 다 .
+
+  D.대통령은 국정 전반에 걸쳐 필요한 긴급조치를 할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 질문에서 언급한 제39조를 찾아보겠습니다. 제39조는
+  대한민국 헌법에 나오는 내용으로, 대통령의 선출 방식과 관련된 내용을 담고 있습니다. 선택지 A, B, C, D 각각의 내용을 살펴보면서 제39조와
+  비교하겠습니다. (A) 대통령은 통일 주체국민회의에서 토론 없이 무기명 투표로 선거한 다. (B) 통일주체국민회의에서 재적 대의원 과반수의 찬성을
+  얻은 자를 대통령 당선자로 한다. ①대통령은 국회를 해산할 수 있다. ②대통령의 임기는 7년으로 하며, 중임할 수 없다. (C) 대법원장은 대통령이
+  국회의 동의를 얻어 임명한 다. (D) 대통령은 국정 전반에 걸쳐 필요한 긴급조치를 할 수 있다. (A)와 (B)는 대통령 선출 방식에 대한 내용이며,
+  (C)는 대법원장 임명에 대한 내용, (D)는 대통령의 권한에 대한 내용입니다. 제39조의 내용을 찾아보면, (A)와 (B)의 내용은 대통령 선출
+  방식에 대해 언급하고 있으나, 통일 주체국민회의에서 선출한다는 내용은 없습니다. 또한, (B)의 내용 중 대통령의 임기가 7년이며, 중임할 수
+  없다는 내용도 헌법에는 없습니다. (C)의 내용은 제104조에 나오는 대법원장 임명 방식에 대한 내용이며, 제39조와는 관련이 없습니다. (D)의
+  내용은 제76조에 나오는 대통령의 권한에 대한 내용으로, 제39조와는 관련이 없습니다.  , 제39조와 관련된 내용이 아닌 것은 (C) 대법원장은
+  대통령이 국회의 동의를 얻어 임명한 다와 (D) 대통령은 국정 전반에 걸쳐 필요한 긴급조치를 할 수 있다입니다. 하지만 질문에서는 ''옳지 않은
+  것''을 묻고 있으므로, 제39조와 관련이 있으면서도 내용이 틀린 선택지를 찾아야 합니다. 그 결과, (B) 통일주체국민회의에서 재적 대의원 과반수의
+  찬성을 얻은 자를 대통령 당선자로 한다. ①대통령은 국회를 해산할 수 있다. ②대통령의 임기는 7년으로 하며, 중임할 수 없다가 옳지 않은 내용입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: (가) 인물이 추진한 정책으로 옳지 않은 것은? 선비들 수만 명이 대궐 앞에 모여 만 동묘와 서원을 다시 설립할 것을 청하니, (가)이/가
+  크게 노하여 한성부의 조례(皂隷)와 병졸로 하여 금 한 강 밖으로 몰아내게 하고 드디어 천여 곳의 서원을 철폐하고 그 토지를 몰수하여 관에 속하게
+  하였다 .－대한계년사 －
+
+  A.사창제를 실시하였다 .
+
+  B.대전회통을 편찬하였다 .
+
+  C.비변사의 기능을 강화하였다 .
+
+  D.통상 수교 거부 정책을 추진하였다 .
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 제시된 지문에서 (가) 인물이 추진한 정책으로 옳지
+  않은 것을 찾아야 합니다. 제시된 지문에서는 선비들이 만동묘와 서원을 다시 설립할 것을 청하자, (가) 인물이 크게 노하여 서원을 철폐하고 그
+  토지를 몰수한 것을 알 수 있습니다. 여기서, (가) 인물은 흥성대원군임을 알 수 있습니다. 선택지를 하나씩 살펴보면, (A) 사창제를 실시하였다
+  - 사창제는 환곡의 문란을 해결하기 위해 실시한 정책으로, 흥선대원군이 추진한 정책 중 하나입니다. (B) 대전회통을 편찬하였다 - 대전회통은
+  조선시대의 법전으로, 흥선대원군이 편찬을 주도하였습니다. (C) 비변사의 기능을 강화하였다 - 비변사는 조선시대의 군사 기구로, 흥선대원군은 왕권
+  강화를 위해 비변사의 기능을 약화시켰습니다. (D) 통상 수교 거부 정책을 추진하였다 - 흥선대원군은 외세의 침략을 막기 위해 통상 수교 거부
+  정책을 추진하였습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_korean_history
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_machine_design_and_manufacturing.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_machine_design_and_manufacturing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..e559fb50cf5ff9db8849f6e95082073e3b637ffe
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_machine_design_and_manufacturing.yaml
@@ -0,0 +1,116 @@
+dataset_name: machine_design_and_manufacturing
+doc_to_text: '질문: 기어 감소기의 분류 중 평행축형 감속기가 아닌 것은?
+
+  A.웜 기어
+
+  B.스퍼 기어
+
+  C.헬리컬 기어
+
+  D.더블 헬리컬 기어
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 기어의 특징과 분류를
+  이해해야 합니다. (A) 웜 기어(Worm gear)는 웜과 웜 휠로 구성되며, 웜 휠은 웜의 나사와 맞물려 회전하는 기어입니다. 웜 기어는 주로
+  고속 감속에 사용되며, 이는 웜의 나사가 한 바퀴 돌 때 웜 휠이 한 칸만 이동하기 때문입니다. 웜 기어는 평행축형 감속기가 아니라 직교축형 감속기에
+  속합니다. (B) 스퍼 기어(Spur gear)는 가장 기본적인 형태의 기어로, 기어의 모든 치톱이 원통의 축선 방향에 위치해 있습니다. 이들은
+  평행한 축 사이에서 힘을 전달하는 데 사용되므로, 평행축형 감속기에 속합니다. (C) 헬리컬 기어(Helical gear)는 기어의 치톱이 헬릭스
+  형태로 둘러져 있어, 기어가 맞물릴 때 접촉 면적이 크고, 작동이 부드럽고 소음이 적습니다. 헬리컬 기어는 평행축형 감속기에 속합니다. (D)
+  더블 헬리컬 기어(Double helical gear)는 헬리컬 기어의 변형 형태로, 치톱이 ''V'' 모양을 이루며, 이는 기어의 축력을 상쇄하는
+  효과가 있습니다. 더블 헬리컬 기어 역시 평행축형 감속기에 속합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 왕복식 압축기의 장점으로 맞는 것은?
+
+  A.대용량이다.
+
+  B.맥동압력이 없다.
+
+  C.고압발생이 가능하다.
+
+  D.윤활이 쉽다.
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 왕복식 압축기는 그 이름에서 알 수 있듯이, 압축기의
+  움직임이 왕복운동을 따르는 형태입니다. 이러한 구조의 특성상 다음과 같은 특징들을 가지고 있습니다. (A) 대용량이다: 왕복식 압축기는 일반적으로
+  소형에서 중형까지의 용량을 다루는데 적합하다고 알려져 있습니다.   ''대용량''이라는 표현은 왕복식 압축기의 특성을 정확하게 반영하지 않습니다.
+  (B) 맥동압력이 없다: 왕복식 압축기는 피스톤이 실린더 내에서 왕복운동을 하면서 가스를 압축하고, 이 과정에서 맥동이 발생합니다.   ''맥동압력이
+  없다''는 표현은 정확하지 않습니다. (C) 고압발생이 가능하다: 왕복식 압축기는 그 구조상 고압을 생성하는 데 적합합니다. 피스톤의 움직임에
+  의해 가스를 압축하므로, 상대적으로 높은 압력을 발생시킬 수 있습니다. (D) 윤활이 쉽다: 왕복식 압축기의 경우, 피스톤과 실린더 사이의 마찰을
+  줄이기 위해 윤활이 필요합니다. 하지만 이것이 ''윤활이 쉽다''라는 표현을 정당화하는 것은 아닙니다. 오히려 윤활 상태를 유지하고 관리하는 것은
+  중요한 유지보수 작업 중 하나입니다.  , 정확한 정보를 바탕으로 각 선택지를 분석한 결과, 왕복식 압축기의 장점으로 가장 적절한 것은 ''고압발생이
+  가능하다''입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 일시 정체로스를 해결하기 위한 대책이 아닌 것은?
+
+  A.속도 가동률을 높인다.
+
+  B.미세한 결함을 시정한다.
+
+  C.현상을 잘 파악한다.
+
+  D.최적조건을 파악한다.
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 일시 정체로스를 해결하기 위한 대책이 아닌 것을
+  찾기 위해서는, 일시 정체로스의 정의와 그에 따른 해결 방안을 알아야 합니다. 일시 정체로스는 생산 공정에서 발생하는 로스 중 하나로, 일정 시간
+  동안 생산이 정체되는 것을 의미합니다. 이러한 정체로스를 해결하기 위해서는 다양한 대책이 필요합니다. (A) 속도 가동률을 높이는 것은 일시 정체로스를
+  해결하는 대책 중 하나일 뿐, 모든 경우에 적용할 수 있는 것은 아닙니다. 때로는 속도 가동률을 높이는 것이 오히려 생산성을 떨어뜨릴 수도 있습니다.
+  (B) 미세한 결함을 시정하는 것도 중요한 대책 중 하나입니다. 미세한 결함이 있으면 생산이 중단되거나 지연될 수 있기 때문에, 이를 미리 발견하고
+  시정함으로써 정체로스를 예방할 수 있습니다. (C) 현상을 잘 파악하는 것도 중요합니다. 현상을 잘 파악하면 정체로스의 원인을 파악하고, 그에
+  따른 적절한 대책을 세울 수 있습니다. (D) 최적 조건을 파악하는 것은 일시 정체로스를 해결하는 데 중요한 역할을 합니다. 최적 조건을 파악하면
+  생산 공정의 효율성을 높일 수 있으며, 이는 정체로스를 예방하는 데 큰 도움이 됩니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 열에 의한 관의 팽창, 수축을 허용하여 과도한 응력 발생을 방지하는 이음쇠는?
+
+  A.주철관 이음쇠
+
+  B.신축 관 이음쇠
+
+  C.패킹 이음쇠
+
+  D.나사 관 이음쇠
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 이해를 바탕으로 생각해보겠습니다.
+  (A) 주철관 이음쇠는 주로 철이나 철을 주재료로 한 합금으로 만들어진 관을 연결하는 데 사용됩니다. 그러나 주철관 이음쇠는 열에 의한 팽창과
+  수축에 대응하는 능력이 부족하다고 알려져 있습니다. (B) 신축 관 이음쇠는 이름에서 알 수 있듯이 ''신축성''이 중요한 특징입니다. 신축 관
+  이음쇠는 관의 길이가 변동되더라도 이음쇠가 이를 수용하도록 설계되어 있습니다. 이는 열에 의해 관이 팽창하거나 수축하는 것을 허용하며, 이로 인한
+  과도한 응력 발생을 방지할 수 있습니다. (C) 패킹 이음쇠는 물이나 기체의 누출을 방지하기 위해 주로 사용되는 이음쇠입니다. 패킹 이음쇠는 보통
+  고무 또는 실리콘 같은 소재로 만들어져 있으며, 이러한 소재는 열에 의한 팽창과 수축에 대응하는 능력이 제한적일 수 있습니다. (D) 나사 관
+  이음쇠는 나사로 두 관을 연결하는 방식의 이음쇠입니다. 이러한 이음쇠는 열에 의한 팽창과 수축에 대응하는 능력이 부족하다고 알려져 있습니다.  ,
+  각 선택지를 고려해보면 열에 의한 팽창과 수축을 허용하고 과도한 응력 발생을 방지하는 이음쇠는 신축 관 이음쇠일 가능성이 높습니다. 따라서, 정답은
+  (B) 입니다.
+
+
+  질문: 해칭의 일반적인 원칙 중 틀린 것은?
+
+  A.해칭은 가는 실선으로 그린다.
+
+  B.해칭선의 간격은 해칭을 하는 단면의 크기에 따라 선택한다.
+
+  C.해칭은 주된 중심선 또는 단면도의 주된 외형선에 대하여 90℃ 기울기로 그린다.
+
+  D.인접한 단면의 해칭은 선의 방향 또는 각도를 바꾸든지, 아니면 그 간격을 바꾸어서 구별한다.
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 내용을 이해하고 검증해보겠습니다.
+  (A) 선택지는 해칭이 가는 실선으로 그려진다는 내용입니다. 이는 일반적으로 맞는 내용입니다. 해칭은 기계 설계도나 제품 설계도에서 재료의 단면을
+  표시하는 데 사용되는 선을 말합니다. 이는 가는 실선으로 그려집니다. (B) 선택지는 해칭선의 간격이 해칭을 하는 단면의 크기에 따라 선택된다는
+  내용입니다. 이 역시 일반적으로 맞는 내용입니다. 해칭선의 간격은 그려지는 단면의 크기나 그림의 비율에 따라 결정됩니다. (D) 선택지는 인접한
+  단면의 해칭은 선의 방향 또는 각도를 바꾸든지, 아니면 그 간격을 바꾸어서 구별한다는 내용입니다. 이 역시 일반적으로 맞는 내용입니다. 인접한
+  단면의 해칭은 서로 구별하기 위해 선의 방향, 각도, 간격 등을 바꾸어 그립니다. 그러나 (C) 선택지는 해칭이 주된 중심선 또는 단면도의 주된
+  외형선에 대하여 90℃ 기울기로 그린다는 내용인데, 이는 잘못된 내용입니다. 일반적으로 해칭은 45도 기울기로 그려집니다.  , 이 선택지는 해칭의
+  일반적인 원칙을 잘못 설명하고 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_machine_design_and_manufacturing
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_maritime_engineering.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_maritime_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..72a45987f7ad6fcc6e7ed002c12a9929f56c1909
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_maritime_engineering.yaml
@@ -0,0 +1,129 @@
+dataset_name: maritime_engineering
+doc_to_text: '질문: 복원력을 갖는 안정 평형 상태인 선박의 메타센터 높이의 조건은?
+
+  A.GM ＞ 0
+
+  B.GM = 0
+
+  C.GM ＜ 0
+
+  D.GM = -1
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 복원력(復原力, restoring force)이란
+  선박이 기울어졌을 때 원래의 위치로 되돌아가려는 힘을 의미합니다. 안정 평형 상태(stable equilibrium state)란 선박이 기울어져도
+  원래의 위치로 되돌아오는 상태를 말합니다. 메타센터 높이(GM, metacenter height)는 선박이 기울어졌을 때, 복원력의 중심과 무게중심
+  사이의 거리를 의미합니다. 이제 각 선택지를 살펴보겠습니다. (A) GM > 0: GM이 0보다 크면, 복원력의 중심이 무게중심보다 위에 위치하게
+  됩니다. 이 경우, 선박이 기울어지면 복원력이 작용하여 원래의 위치로 되돌아오게 됩니다.  , GM > 0은 안정 평형 상태인 선박의 조건입니다.
+  (B) GM = 0: GM이 0이면, 복원력의 중심과 무게중심이 일치하게 됩니다. 이 경우, 선박이 기울어져도 복원력이 작용하지 않아 원래의 위치로
+  되돌아오지 않습니다.  , GM = 0은 안정 평형 상태인 선박의 조건이 아닙니다. (C) GM < 0: GM이 0보다 작으면, 복원력의 중심이
+  무게중심보다 아래에 위치하게 됩니다. 이 경우, 선박이 기울어지면 복원력이 작용하여 원래의 위치로 되돌아오지 않고, 더욱 기울어지게 됩니다.  ,
+  GM < 0은 안정 평형 상태인 선박의 조건이 아닙니다. (D) GM = -1: GM이 -1인 경우는 안정 평형 상태인 선박의 조건이 아닙니다.
+  GM은 거리를 나타내는 물리량이므로 음수 값을 가질 수 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 일반조선용 강재가 가져야 하는 성질은?
+
+  A.냉간가공이 가능하고, 선상가열해도 좋은 것
+
+  B.냉간가공이 가능하고, 선상가열을 못하는 것
+
+  C.극저온(極低溫)에서 파괴되지 않는 것
+
+  D.용접할 수 없는 것
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 일반조선용 강재는 배를 만드는데 사용되는 주요 재료입니다.   이
+  강재는 배를 만드는데 필요한 여러 가지 성질을 가져야 합니다. (A) 선택지는 냉간가공이 가능하다는 점과 선상가열해도 좋다는 점을 언급하고 있습니다.
+  냉간가공이 가능하다는 것은 강재가 저온에서도 물리적 특성을 유지할 수 있다는 것을 의미하며, 이는 배가 극지방과 같은 매우 추운 환경에서도 안정적으로
+  작동할 수 있게 해줍니다. 또한 선상가열이 가능하다는 것은 강재가 열에 의해 손상되지 않는다는 것을 의미합니다. 이는 배가 열을 발생시키는 엔진
+  등의 장치를 안전하게 운용할 수 있게 해줍니다. (B) 선택지는 냉간가공이 가능하다는 점을 언급하고 있지만, 선상가열을 못한다는 점을 지적하고
+  있습니다. 이는 강재가 열에 약하다는 것을 의미하며, 이는 배의 안전성을 저해할 수 있습니다. (C) 선택지는 극저온에서 파괴되지 않는다는 점을
+  언급하고 있습니다. 이는 배가 극지방과 같은 매우 추운 환경에서도 안정적으로 작동할 수 있음을 의미합니다. 이는 (A) 선택지에서 언급한 냉간가공이
+  가능하다는 점과 비슷한 이점을 제공합니다. (D) 선택지는 용접할 수 없다는 점을 언급하고 있습니다. 이는 배를 만드는데 필요한 주요 기술 중
+  하나인 용접을 사용할 수 없다는 것을 의미하며, 이는 배를 제작하는 데 큰 장애가 될 수 있습니다. 이러한 분석을 통해, 일반조선용 강재는 냉간가공이
+  가능하고, 선상가열에도 견딜 수 있으며, 극저온에서도 안정적인 성질을 가져야 하며, 용접이 가능해야 한다는 것을 알 수 있습니다.   선택지 중에서는
+  (A)와 (C)가 이러한 성질을 가장 잘 반영하고 있습니다. 그러나 (C)는 (A)가 가지고 있는 선상가열에 견딜 수 있다는 중요한 성질을 갖고
+  있지 않습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 선형에 따라 분류한 선박의 종류에 해당되지 않는 것은?
+
+  A.준설선
+
+  B.3도형선
+
+  C.평갑판선
+
+  D.트렁크선
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선형에 따라 분류한 선박의 종류를 알아보겠습니다.
+  선형에 따른 선박의 종류는 크게 다음과 같이 나눌 수 있습니다. 1. 3도형선: 3개의 선체를 연결한 형태의 선박으로, 화물 수송에 사용됩니다.
+  2. 평갑판선: 선체의 상부가 평평한 형태의 선박으로, 화물 수송에 사용됩니다. 3. 갑판일체선: 선체의 상부가 갑판과 일체화된 형태의 선박으로,
+  화물 수송에 사용됩니다. 4. 트렁크선: 선체의 중앙에 트렁크(trunk)라는 큰 공간이 있는 선박으로, 화물 수송에 사용됩니다. 5. 유조선:
+  원유나 석유 제품을 수송하는 선박입니다. 6. LNG선: 액화천연가스를 수송하는 선박입니다. 7. 컨테이너선: 컨테이너를 수송하는 선박입니다.
+  8. 벌크선: 곡물, 철광석 등의 화물을 포장하지 않고 그대로 수송하는 선박입니다. 9. 여객선: 승객을 수송하는 선박입니다. 이제 선택지를 보겠습니다.
+  (A) 준설선: 준설선은 강이나 바다의 바닥을 파내어 수심을 깊게 하거나, 토사를 채취하는 데 사용되는 선박으로 선형에 따라 분류한 선박의 종류에
+  해당되지 않습니다. (B) 3도형선: 3개의 선체를 연결한 형태의 선박으로, 선형에 따라 분류한 선박의 종류에 해당됩니다. (C) 평갑판선: 선체의
+  상부가 평평한 형태의 선박으로, 선형에 따라 분류한 선박의 종류에 해당됩니다. (D) 트렁크선: 선체의 중앙에 트렁크(trunk)라는 큰 공간이
+  있는 선박으로, 선형에 따라 분류한 선박의 종류에 해당됩니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 따뜻하고 밀도가 낮은 물은 수심이 얕은 곳에 위치하며 차고 밀도가 높은 물은 수심이 깊은 곳에 위치한다. 이 때 두 물이 만나서 형성하는
+  경계면은?
+
+  A.염분약층
+
+  B.열전도층
+
+  C.수온약층
+
+  D.조경층
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 질문은 바다의 수층 구조에 관한 것입니다.
+  바다의 수층 구조는 수온, 염분, 밀도 등에 따라 크게 세 가지 층으로 나뉘는데, 이는 표층층(surface layer), 중간층(thermocline/pycnocline/halocline),
+  그리고 심해층(deep layer)입니다. 표층층은 수심 약 200m까지이며, 이곳에서는 바다의 온도와 염분이 거의 일정하다. 이 층은 일반적으로
+  따뜻하고 밀도가 낮습니다. 그 다음으로, 중간층은 수심 약 200m부터 1000m까지로, 이 층에서는 수온과 염분이 급격하게 변화합니다.  ,
+  이 층은 밀도가 높은 층이라고 할 수 있습니다. 중간층에서 수온이 급격하게 변하는 부분을 ''수온약층(thermocline)'', 염분이 급격하게
+  변하는 부분을 ''염분약층(halocline)'', 밀도가 급격하게 변하는 부분을 ''밀도약층(pycnocline)''이라고 합니다. 마지막으로,
+  심해층은 수심 1000m 이하로, 이곳에서는 수온과 염분이 거의 일정하며, 밀도가 가장 높습니다.  , 질문에서 말하는 ''따뜻하고 밀도가 낮은
+  물''은 표층층을, ''차고 밀도가 높은 물''은 중간층을 의미하는 것으로 보입니다. 그리고 이 두 층 사이에서 수온과 밀도가 급격하게 변하는
+  경계면을 가리키는 것으로 해석할 수 있습니다. 그렇다면 선택지 중에서 어떤 것이 이 경계면을 가장 잘 설명하는지 살펴보겠습니다. (A) 염분약층은
+  염분이 급격하게 변하는 부분을 가리키는 용어입니다. 하지만 질문에서는 염분에 대한 언급이 없으므로 이 선택지는 제외할 수 있습니다. (B) 열전도층은
+  열이 전달되는 층을 가리키는 용어입니다. 이 용어는 바다의 수층 구조와는 직접적인 연관이 없으므로 이 선택지도 제외할 수 있습니다. (C) 수온약층은
+  수온이 급격하게 변하는 부분을 가리키는 용어입니다. 따뜻한 표층층과 찬 중간층 사이에서 수온이 급격하게 변하므로, 이 용어는 질문의 경계면을 잘
+  설명하는 것으로 보입니다. (D) 조경층은 바다의 수심에 따라 조류의 성질이 변하는 층을 가리키는 용어입니다. 이 용어는 바다의 수층 구조와는
+  직접적인 연관이 없으므로 이 선택지도 제외할 수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 압축공기에 포함된 불활성 기체로서 지방질에 용해가 잘되고 압력이 증가함에 따라 강한 마취효과를 내는 주된기체는?
+
+  A.헬륨
+
+  B.산소
+
+  C.질소
+
+  D.아르곤
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 각 선지에 대한 설명과 올바른 답변이 왜 맞는지에 대한
+  풀이 과정은 다음과 같습니다: (A) 헬륨: 헬륨은 불활성 기체로 알려져 있으며, 지방질에 용해되는 성질이나 마취 효과는 거의 없습니다. 헬륨은
+  주로 잠수할 때 질소 중독을 방지하기 위한 혼합 가스로 사용됩니다. (B) 산소: 산소는 압축 공기에 포함된 주요 기체 중 하나이며, 고압 상태에서
+  지방질에 용해되는 경향이 있습니다. 고압 산소는 혈액과 조직에 더 많이 용해되어 강한 마취 효과를 나타낼 수 있습니다. 이 현상은 산소 독성 또는
+  산소 마취로 알려져 있으며, 특히 잠수병과 관련된 깊은 잠수에서 중요한 역할을 합니다. (C) 질소: 질소는 지방질에 용해되거나 마취 효과를 나타내지
+  않습니다. 잠수병(디콤프레션 병증)은 주로 해수면 아래에서의 압력 변화로 인해 질소 기체가 혈액과 조직에서 과도하게 용해되었다가, 압력이 감소하면서
+  기체로 변환되어 발생하는 것으로, 질소 자체가 마취 효과를 내는 것은 아닙니다. (D) 아르곤: 아르곤도 불활성 기체로, 지방질에 용해되거나 마취
+  효과를 나타내지 않습니다. 아르곤은 주로 산업 공정에서 보호 가스로 사용됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_maritime_engineering
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_math.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_math.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ab0a86811626e68c7bf8387b360e2d8e83910e51
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_math.yaml
@@ -0,0 +1,126 @@
+dataset_name: math
+doc_to_text: '질문: 이차방정식 x2 - 5x + 3 = 0의 두 근이 log5α와 log5β일 때, logαβ + logβα의 값은?
+
+  A.17/3
+
+  B.19/3
+
+  C.21/5
+
+  D.23/5
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이차방정식 \( x^2 - 5x + 3 = 0 \)의 두 근이
+  \( \log_5 \alpha \)와 \( \log_5 \beta \)일 때, \( \log \alpha \beta + \log \beta \alpha
+  \)의 값을 찾는 문제입니다. 이차방정식의 해에 대한 비에타의 공식에 따르면, 두 근의 합은 \(-\frac{b}{a}\)이고, 두 근의 곱은
+  \(\frac{c}{a}\)입니다. 여기서 \(a\), \(b\), \(c\)는 각각 이차방정식의 계수입니다. 주어진 방정식 \( x^2 - 5x
+  + 3 = 0 \)에서, \(a = 1\), \(b = -5\), \(c = 3\)이므로, 두 근의 합은 \(5\)이고, 두 근의 곱은 \(3\)입니다.
+  이제, \( \log_5 \alpha \)와 \( \log_5 \beta \)가 근이므로 다음과 같은 두 조건을 갖습니다: 1. \( \log_5
+  \alpha + \log_5 \beta = 5 \) 2. \( \log_5 \alpha \cdot \log_5 \beta = 3 \) 로그의 성질에
+  따라, \( \log \alpha \beta + \log \beta \alpha \)는 \( \log \alpha^2 \beta^2 \)로 표현할
+  수 있고, 이는 \( \log (\alpha \beta)^2 \)와 같습니다. \( \alpha \beta = 5^3 \) 이므로 (근의 곱에서),
+  이는 다음과 같이 됩니다: \[ \log 5^6 \] \[ 6 \cdot \log 5 \] \( \log 5 \)는 1이므로, 이 식은 단순히
+  6이 됩니다. 그러나 주어진 식에는 \( \log_5 \alpha \)와 \( \log_5 \beta \)로 나누는 추가 연산과 이차식 전개가
+  포함되어 있습니다. 이미지에서 보여지는 식에 따라 계산을 해보면, 분수의 형태로 나타나는 두 로그의 합은 실제로 로그의 법칙을 사용하여 단순화할
+  수 있습니다. 그리고 이차식의 전개는 근의 합과 근의 곱으로 표현된 값을 사용하여 계산할 수 있습니다. 최종적으로, 이 식은 근의 합과 근의 곱의
+  관계를 사용하여 해를 구할 수 있으며, 식을 단순화한 결과 \( \frac{19}{3} \)이 답으로 나올 것입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 좌표평면에서 원 (x-1)2 + (y-1)2 = 1을 y축에 대하여 대칭이동한 후 y축의 방향으로 1만큼 평행이동한 원 위의 임의의 점과
+  원점 사이의 거리의 최댓값을 a, 최솟값을 b라 할 때, a+b의 값은?
+
+  A.√5
+
+  B.2√5
+
+  C.3√5
+
+  D.4√5
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 주어진 원의 중심은 (1, 1)이고 반지름은 1입니다.
+  그런 다음 원을 y축에 대하여 대칭이동하면, 원의 중심은 (-1, 1)이 됩니다. 이는 y축에 대해 대칭이기 때문에 x좌표만 바뀌고 y좌표는 그대로입니다.
+  그 다음으로 원을 y축의 방향으로 1만큼 평행이동하면, 원의 중심은 (-1, 2)가 됩니다. 이는 y축의 방향으로 평행이동하기 때문에 y좌표만
+  바뀌고 x좌표는 그대로입니다. 이제 원점과 이동한 원 위의 임의의 점과의 거리의 최댓값과 최솟값을 구해야 합니다. 원의 반지름이 1이므로, 원점과
+  원 위의 점 사이의 거리의 최댓값은 중심에서 원점까지의 거리에 반지름을 더한 값이고, 최솟값은 중심에서 원점까지의 거리에서 반지름을 뺀 값입니다.
+  원의 중심 (-1, 2)와 원점 (0, 0) 사이의 거리는 √((-1-0)^2 + (2-0)^2) = √5입니다.   거리의 최댓값은 √5 +
+  1, 최솟값은 √5 - 1입니다. 그러므로 a+b의 값은 (√5 + 1) + (√5 - 1) = 2√5입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: log3(-n3 + 15n2 - 66n + 80)의 값이 존재하도록 하는 모든 자연수 n의 값의 합은?
+
+  A.8
+
+  B.10
+
+  C.12
+
+  D.14
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 문제는 log3(-n³ + 15n² - 66n + 80)의
+  값이 존재하도록 하는 모든 자연수 n의 합을 구하는 것이었습니다. 우선, 로그 함수 내부의 값이 양수가 되어야 합니다. 즉, -n³ + 15n²
+  - 66n + 80 > 0 이어야 합니다. 이 부등식을 풀기 위해서는, 우선 주어진 식을 인수분해할 필요가 있습니다. 식을 인수분해해보겠습니다:
+  - -n³ + 15n² - 66n + 80 - = -(n³ - 15n² + 66n - 80) 이제 n³ - 15n² + 66n - 80 = 0의
+  해를 구해야 합니다. 이는 3차 방정식이므로, 해를 찾기 위해서는 실제 계산이 필요합니다. 우선 간단한 정수해를 찾기 위해 n = 1, 2, 3,
+  ... 등을 대입해 볼 수 있습니다. 1, 2, 3, ... 등을 대입해 보며 식이 0이 되는 n의 값을 찾아보겠습니다. 그리고 그 값들을 기반으로
+  부등식 -n³ + 15n² - 66n + 80 > 0을 만족하는 n의 범위를 확인할 수 있습니다. 이제 필요한 계산을 해보겠습니다. 방정식 -n³
+  + 15n² - 66n + 80 > 0을 만족하는 n의 값은 1, 6, 7입니다. 이는 이들 값에 대해 방정식의 결과가 양수가 되는 것을 의미합니다.  ,
+  이러한 n의 값들의 합은 1 + 6 + 7 = 14입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 점 C(2, -1)을 중심으로 하고 반지름의 길이가 √17인 원 위의 점 P(3, 3)에서의 접선과 점 Q(6, -2)에서의 접선이 만나는
+  점을 R이라 할 때, 사각형 CQRP의 넓이는?
+
+  A.√17
+
+  B.2√17
+
+  C.17
+
+  D.34
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 점 C(2, -1)을 중심으로 하고 반지름의 길이가
+  √17인 원 위의 점 P(3, 3)에서의 접선과 점 Q(6, -2)에서의 접선이 만나는 점을 R이라 할 때, 이 점들이 이루는 사각형 CQRP의
+  넓이를 구하는 문제입니다. 원의 중심과 접점을 잇는 선분은 접선에 수직이라는 성질을 이용하면, 점 P에서의 접선의 기울기는 PC와 수직이므로,
+  점 P와 C의 좌표를 이용하여 PC의 기울기를 구하면, PC의 기울기는 (3 - (-1)) / (3 - 2) = 4 이고, 이에 수직인 접선의
+  기울기는 -1/4가 됩니다. 마찬가지로 점 Q에서의 접선의 기울기를 구하면, 점 Q와 C의 좌표를 이용하여 QC의 기울기는 (-2 - (-1))
+  / (6 - 2) = -1/4 이고, 이에 수직인 접선의 기울기는 4가 됩니다.   점 P에서의 접선의 방정식은 y - 3 = -1/4 * (x
+  - 3), 점 Q에서의 접선의 방정식은 y + 2 = 4 * (x - 6) 이 됩니다. 이 두 접선이 만나는 점 R을 구하기 위해 두 접선의 방정식을
+  연립하여 풀면, x = 8/3, y = 5/3가 됩니다. 그리고 원의 중심 C와 점 P, Q, R의 거리를 구하면 CP = CQ = √17, CR
+  = √((8/3 - 2)^2 + (5/3 - (-1))^2) = √17이 됩니다.  , 사각형 CQRP는 실제로는 정사각형이며, 그 넓이는 한
+  변의 길이의 제곱이므로 17이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: x3 - 1 = 0의 한 허근을 ω라 할 때, ω + ω3 + ω5 + … + ω2017 + ω2019을 간단히 하면?
+
+  A.0
+
+  B.ω
+
+  C.ω+1
+
+  D.1
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. x^3 - 1 = 0의 한 허근을 ω라고 하였으므로, ω^3
+  = 1이 됩니다. 이제, 주어진 식을 보면 ω + ω^3 + ω^5 + ... + ω2017 + ω2019 입니다. ω^3 = 1이므로, ω^3,
+  ω^6, ω^9, ..., ω2016은 모두 1이 됩니다.  , 주어진 식은 ω + 1 + ω^2 + ω^4 + ... + ω2018 + ω2020이
+  됩니다. ω^3 = 1이므로, ω^3, ω^6, ω^9, ..., ω2016은 모두 1이 됩니다.  , ω^2 + ω^4 + ... + ω2018
+  = (ω^2 + ω^4 + ... + ω2016) + ω^2017 + ω^2019 = ω^2017 + ω^2019 입니다. 주어진 식에 ω^2017
+  + ω^2019를 대입하면 ω + 1 + (ω^2017 + ω^2019) + ω^2018 + ω^2020이 됩니다. ω^3 = 1이므로 ω^3n
+  = 1 (n은 3의 배수) 입니다.  , ω^2018 = ω^3*672 = 1이고 ω^2020 = ω^3*670 = 1입니다. 주어진 식에 대입하면
+  ω + 1 + (ω^2017 + ω^2019) + 1 + 1이 됩니다. ω^2017 + ω^2019 = ω^2 + ω^4 = (ω^2 + ω^4
+  + ω^6 + ... + ω2016) + ω2017 + ω2019 = ω2017 + ω2019 입니다.  , ω^2017 + ω^2019 = ω
+  + 1 입니다. 주어진 식에 ω + 1을 대입하면 ω + 1 + ω + 1 + 1 + 1이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_math
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_mechanical_engineering.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_mechanical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1023abcc9f4403c8092f5a8894b92f36cb96457e
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_mechanical_engineering.yaml
@@ -0,0 +1,111 @@
+dataset_name: mechanical_engineering
+doc_to_text: '질문: 비틀림 각이 30°인 헬리컬 기어에서 잇수가 40이고 축직각모듈이 4일 때 피치원의 직경은 몇㎜인가?
+
+  A.160
+
+  B.170.27
+
+  C.168
+
+  D.184.75
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 헬리컬 기어에서 피치원의 직경을 계산하기 위해서는 축직각모듈과
+  잇수를 사용합니다. 피치원 직경은 일반적으로 축직각모듈과 잇수의 곱으로 계산됩니다. 수학적으로는 다음과 같이 표현됩니다: \[ \text{피치원
+  직경} = \text{축직각모듈} \times \text{잇수} \] 여기서 축직각모듈이 4이고 잇수가 40이므로, 피치원 직경은 4 × 40
+  = 160mm입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 열처리에서 재질을 경화시킬 목적으로 강을 오스테나이트 조직의 영역으로 가열한 후 급냉시키는 열처리는?
+
+  A.뜨임
+
+  B.풀림
+
+  C.담금질
+
+  D.불림
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 열처리의 목적은 강의 특성을 변경하거나 개선하는 것입니다.
+  이는 강의 강도, 경도, 인성, 취성 등을 조절하는데 사용됩니다. 먼저 선택지를 하나씩 살펴보겠습니다. (A) 뜨임은 강재를 높은 온도로 가열한
+  후, 공기 중에서 천천히 냉각시키는 과정입니다. 이는 강재의 경도를 줄이고, 인성을 높이는 역할을 합니다. 이 경우, 강재는 오스테나이트 상태로
+  가열되지만, 이 후 급속히 냉각되는 것이 아니라 천천히 냉각되므로 이 선택지는 아닐 것 같습니다. (B) 풀림은 강재를 일정 온도로 가열한 후,
+  이를 유지하는 과정을 말합니다. 이는 강재의 미세 구조를 안정화시키고, 내부 응력을 해소하는 역할을 합니다. 이 경우, 강재는 오스테나이트 상태로
+  가열되지만, 이 후 급속히 냉각되는 것이 아니라 천천히 냉각되므로 이 선택지도 아닐 것 같습니다. (C) 담금질은 강재를 오스테나이트 상태로 가열한
+  후, 이를 급속히 냉각하는 과정을 말합니다. 이는 강재의 경도와 강도를 크게 높이는 역할을 합니다.  , 이 선택지가 가장 가능성이 높아 보입니다.
+  (D) 불림은 강재를 높은 온도로 가열한 후, 이를 유지하는 과정을 말합니다. 이는 강재의 내부 응력을 해소하고, 강도와 경도를 증가시키는 역할을
+  합니다. 이 경우, 강재는 오스테나이트 상태로 가열되지만, 이 후 급속히 냉각되는 것이 아니라 천천히 냉각되므로 이 선택지도 아닐 것 같습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: Cu3.5 ~ 4.5%, Mg1 ~ 1.5%, Si0.5%, Mn0.5~1.0%, 나머지 Al인 합금으로 무게를 중요시한 항공기나 자동차에
+  사용되는 고력 Al합금인 것은?
+
+  A.두랄루민
+
+  B.하이드로날륨
+
+  C.알드레이
+
+  D.내식 알루미늄
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 질문에서 언급된 합금의 구성요소를 보면 Cu,
+  Mg, Si, Mn 그리고 Al이 있습니다. 이는 알루미늄 합금의 일종을 가리키는 것으로 보입니다. 그런데 이 중에서 무게를 중요시한 항공기나
+  자동차에 사용되는 고력 Al합금을 찾아야 합니다. 선택지 중에서 두랄루민, 하이드로날륨, 알드레이, 내식 알루미늄이 있습니다. 이들 중에서 합금의
+  구성요소와 사용되는 분야를 고려해야 합니다. 먼저 두랄루민에 대해 알아보겠습니다. 두랄루민은 고강도의 알루미늄 합금으로 알려져 있습니다. 이는
+  항공기 제작에 주로 사용되는데, 그 이유는 두랄루민이 가볍고 강도가 높기 때문입니다. 두랄루민의 주요 성분으로는 알루미늄, 구리, 망간, 마그네슘
+  등이 있습니다. 이는 질문에서 언급된 합금의 구성요소와 일치합니다. 다음으로 하이드로날륨, 알드레이, 내식 알루미늄에 대해 알아보겠습니다. 하이드로날륨은
+  물과 반응하여 수소를 생성하는 물질로, 이는 질문의 합금과는 많이 다릅니다. 알드레이는 러시아의 항공기 제조 회사로, 이 역시 질문의 합금과는
+  관련이 없습니다. 마지막으로 내식 알루미늄은 일반적으로 알루미늄의 내식성을 높이기 위해 다른 원소들을 첨가한 합금을 말합니다. 하지만 이는 특정한
+  합금을 가리키는 것이 아니므로, 이 역시 질문의 합금과는 많이 다릅니다.  , 두랄루민이 질문에서 언급된 합금의 구성요소와 사용되는 분야, 그리고
+  고강도 Al합금이라는 점에서 가장 일치하는 것으로 보입니다. ''따라서, 정답은 (A) 입니다.
+
+
+  질문: 미끄럼 베어링과 비교한 구름 베어링의 특징에 대한 설명으로 틀린 것은?
+
+  A.마찰계수가 작고 특히 기동마찰이 적다.
+
+  B.규격화되어 있어 표준형 양산품이 있다.
+
+  C.진동하중에 강하고 호환성이 없다.
+
+  D.전동체가 있어서 고속회전에 불리하다.
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 구름 베어링과 미끄럼 베어링의 특징을 비교해보면 다음과
+  같습니다. (A). 마찰계수가 작고 특히 기동마찰이 적다. - 구름 베어링은 전동체가 구름 운동을 하기 때문에 마찰계수가 작고, 기동마찰이 적습니다.
+  이는 구름 베어링의 장점 중 하나입니다. (B). 규격화되어 있어 표준형 양산품이 있다. - 구름 베어링은 규격화되어 있어 표준형 양산품이 있습니다.
+  이는 대량 생산이 가능하고, 가격이 저렴하다는 장점이 있습니다. (C). 진동하중에 강하고 호환성이 없다. - 구름 베어링은 전동체가 구름 운동을
+  하기 때문에 진동하중에 강합니다. 하지만 호환성에 대해서는, 구름 베어링은 다양한 규격이 존재하며, 규격에 맞는 제품을 사용하면 호환성이 있습니다.  ,
+  이 선택지는 옳지 않습니다. (D). 전동체가 있어서 고속회전에 불리하다. - 구름 베어링은 전동체가 구름 운동을 하기 때문에 고속회전에 유리합니다.
+  이는 구름 베어링의 장점 중 하나입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: V벨트는 단면 형상에 따라 구분되는데 가장 단면이 큰 벨트의 형은?
+
+  A.OPTION
+
+  B.OPTION
+
+  C.E
+
+  D.M
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, V벨트의 단면 형상에 대해 알아보겠습니다. V벨트는
+  이름에서 알 수 있듯이 ''V''자 형태의 단면을 가진 벨트입니다. 이 벨트는 다양한 형태와 크기로 제작되며, 일반적으로 알파벳을 사용하여 단면의
+  크기와 형태를 구분합니다. 이 알파벳은 보통 A, B, C, D, E 등으로 표현되며, 이 중에서 단면이 가장 큰 벨트는 어떤 것일까요? V벨트의
+  단면 크기는 알파벳이 뒤로 갈수록 커집니다 즉, A형은 B형보다 작고, B형은 C형보다 작으며, 이런 식으로 D형, E형으로 진행됩니다.  ,
+  주어진 선택지 중에서 가장 단면이 큰 V벨트는 E형일 것입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_mechanical_engineering
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_nondestructive_testing.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_nondestructive_testing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3b74275b7e2cceb7e62cec6c107595180c746096
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_nondestructive_testing.yaml
@@ -0,0 +1,122 @@
+dataset_name: nondestructive_testing
+doc_to_text: '질문: 침투탐상시험의 적용 방법에 대한 설명으로 옳은 것은?
+
+  A.침투시간을 단축하기 위해서는 버너 등으로 탐상 시작 전에 침투액을 가열하여야 한다.
+
+  B.습식현상법은 수세성 염색침투탐상시험에 실시하는 것이 효율성을 높일 수 있다.
+
+  C.물과 전원이 없는 장소의 대형구조물 부분검사에는 후유화성 형광침투탐상시험이 적합하다.
+
+  D.건식현상법은 수세성 또는 후유화성 형광침투액을 사용하는데 주로 이용된다.
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 침투탐상시험에 관한 각 선택지의 정확성을 분석하기 위해,
+  침투탐상시험의 기본 원리와 방법에 대해 살펴보겠습니다. (A) 침투탐상시험에서 침투액을 가열하는 것에 대한 명확한 언급은 발견되지 않았습니다.
+  침투탐상시험은 주로 표면에 남은 침투제를 제거하고, 현상제를 사용하여 균열이나 결함을 드러내는 과정을 포함합니다. 침투액의 효과적 사용에 대한
+  정보에서 가열에 관한 언급은 없었습니다. (B) 수세성 침투 탐상시험은 효과적이며, 습식 현상법이 적용될 수 있습니다. 침투액의 적용 후, 과잉
+  침투액을 제거하여 유화처리나 세척처리의 효율을 증대시키는 것이 중요합니다. 이는 습식 현상법이 수세성 염색침투탐상시험에 효율적으로 적용될 수 있음을
+  시사하지만 확실하지 않습니다. (C) 후유화성 침투액의 경우 유화 처리, 세척처리, 건조처리 등의 단계가 포함되며, 특히 물과 전원이 없는 장소에서의
+  사용에 대한 구체적 언급은 없었습니다. 하지만, 후유화성 침투액은 일반적으로 건식 현상법과 함께 사용됩니다. (D) 건식현상법은 수세성 침투액
+  및 후유화성 침투액과 함께 사용될 수 있습니다. 이는 선택지 D의 내용이 타당함을 시사합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 전자기초음파 탐상의 특징으로 틀린 것은?
+
+  A.전기, 음향변화 능률이 떨어진다.
+
+  B.탐상감도가 약간 저하된다.
+
+  C.접촉매질의 두께에 영향을 받는다.
+
+  D.정밀한 두께 측정이나 음속 측정에 적합하다.
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 전자기초음파 탐상(EMAT: Electromagnetic
+  Acoustic Transducer)은 접촉매질이 필요 없는 비접촉 초음파 탐상 방법입니다. 이 방법은 초음파를 직접적으로 발생시키는 것이 아니라,
+  전자기장을 이용하여 시료 내부에서 초음파를 발생시키는 방식입니다. (A) 선택지는 전자기초음파 탐상의 한계점 중 하나로, EMAT는 효율이 떨어질
+  수 있습니다. 이는 전자기장을 이용하여 시료 내부에서 초음파를 발생시키는 과정에서 일부 에너지 손실이 발생하기 때문입니다.  , 이 선택지는 맞습니다.
+  (B) 선택지는 역시 EMAT의 한계점 중 하나입니다. 비접촉 방식이기 때문에, 전통적인 초음파 탐상 방법에 비해 탐상 감도가 약간 저하될 수
+  있습니다.  , 이 선택지도 맞습니다. (C) 선택지는 EMAT의 장점 중 하나입니다. 전자기초음파 탐상은 접촉매질이 필요 없는 비접촉 방식이기
+  때문에, 접촉매질의 두께에 영향을 받지 않습니다.  , 이 선택지는 틀립니다. (D) 선택지는 EMAT의 다른 장점 중 하나입니다. 비접촉 방식이기
+  때문에, 정밀한 두께 측정이나 음속 측정에 적합합니다.  , 이 선택지는 맞습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 비파괴검사법 중 시험체의 내부와 외부의 압력차를 이용하여 기체나 액체가 결함부를 통해 흘러 들어가거나 나오는 것을 감지하는 방법으로써 압력용기나
+  배관 등에 적용하기 적합한 시험법은?
+
+  A.누설검사
+
+  B.침투탐상시험
+
+  C.자분탐상시험
+
+  D.초음파탐상시험
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 비파괴 검사법에 대해 간단히 설명하겠습니다.
+  비파괴 검사법은 시험체를 파괴하지 않고 내부 결함이나 물성을 검사하는 방법을 말합니다. 이 중에서도 질문에서 언급한 검사법은 시험체의 내부와 외부의
+  압력차를 이용하여 기체나 액체가 결함부를 통해 흘러 들어가거나 나오는 것을 감지하는 방법입니다. 이것을 토대로 각 선택지를 살펴보겠습니다. (A)
+  누설검사: 이 검사법은 압력용기나 배관 등에서 누설되는 기체나 액체를 감지하는 방법입니다. 이 검사법은 시험체 내부와 외부의 압력차를 이용하여
+  결함부를 통해 기체나 액체가 흘러 들어가거나 나오는 것을 감지합니다. (B) 침투탐상시험: 이 검사법은 표면에 발생한 작은 결함을 발견하기 위해
+  특별한 액체를 사용하는 방법입니다. 이 방법은 표면 결함을 찾는 데 효과적입니다. (C) 자분탐상시험: 이 검사법은 자성체의 표면 또는 근표면
+  결함을 찾는 데 사용됩니다. 이 방법은 자성체에 자기장을 인가하고, 자기력선의 이탈을 이용하여 결함을 찾아냅니다. (D) 초음파탐상시험: 이 검사법은
+  초음파를 이용하여 시험체의 내부 결함을 찾아내는 방법으로서, 압력차를 이용하지 않습니다. 이 방법은 내부의 깊은 부분까지 탐사할 수 있습니다.  ,
+  내부와 외부의 압력차를 이용하여 기체나 액체가 결함부를 통해 흘러 들어가거나 나오는 것을 감지하는 방법으로서 압력용기나 배관 등에 적용하기 적합한
+  검사법은 ''누설검사''입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 물리적 현상의 원리에 따른 비파괴검사 방법을 분류한 것 중 틀린 것은?
+
+  A.광학-육안검사
+
+  B.열-누설검사
+
+  C.투과-방사선검사
+
+  D.전자기-와류탐상검사
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 비파괴 검사(Nondestructive Testing,
+  NDT)는 재료나 제품이 사용 중인 상태에서 그 특성이나 상태를 검사하는 기술을 의미합니다. 이는 손상을 입히지 않고, 또는 기능을 손상시키지
+  않고 테스트를 수행합니다. 이러한 방법은 다양한 원리에 기반을 두고 있습니다. (A) 광학-육안검사: 이는 물체의 표면을 보고 결함을 찾는 가장
+  기본적인 검사 방법입니다. 이는 광학의 원리에 기반을 두고 있습니다. (B) 열-누설검사: 이는 열에 의한 누설을 감지하는 방법입니다. 열 이미지를
+  사용하여 누설을 찾을 수 있습니다. 이는 열의 원리에 기반을 두고 있습니다. (C) 투과-방사선검사: 이는 방사선을 사용하여 물체 내부의 결함을
+  찾는 방법입니다. 방사선은 물체를 투과하며, 결함이 있는 경우 방사선의 분포가 달라집니다. 이는 투과의 원리에 기반을 두고 있습니다. (D) 전자기-와류탐상검사:
+  이는 전자기장을 사용하여 물체의 결함을 찾는 방법입니다. 전자기장은 물체의 표면에 왜곡을 일으키며, 이 왜곡을 측정하여 결함을 찾을 수 있습니다.
+  이는 전자기의 원리에 기반을 두고 있습니다. 하지만, (B) 열-누설검사의 경우, 일반적으로 열에 의한 누설을 감지하는 방법은 ''열화상검사''라고
+  합니다. ''누설검사''는 주로 압력이나 가스 누설을 찾는데 사용되며, 이는 주로 ''음향'' 원리에 기반을 둡니다.  , 이 중에서 ''열-누설검사''는
+  열의 원리를 이용한 비파괴 검사 방법이 아닙니다. ''누설검사''는 보통 ''음향'' 원리를 이용한 비파괴 검사 방법으로 분류됩니다. 그러므로
+  이 선택지는 틀린 분류를 나타냅니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 초음파탐상시험에서 공진법으로 시험체의 두께를 측정할 때 2MHz의 주파수에서 기본공명이 발생했다면 이 시험체의 두께는 몇 mm인가? (단,
+  시험체 내의 초음파 속도는 4800m/s이다.)
+
+  A.1.2
+
+  B.2.4
+
+  C.3.6
+
+  D.4.8
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공진법이란 무엇인지부터 알아보겠습니다. 공진법은
+  물체가 자연스럽게 진동하는 특정 주파수, 즉 공명 주파수에서 물체가 크게 진동하도록 하는 방법입니다. 이 문제에서는 초음파탐상시험에서 공진법을
+  사용하여 시험체의 두께를 측정하는 상황을 가정하고 있습니다. 이때, 시험체 내의 초음파 속도는 4800m/s로 주어져 있습니다. 초음파탐상시험에서
+  공진법으로 두께를 측정할 때, 시험체의 두께는 기본공명 주파수와 시험체 내의 초음파 속도를 이용하여 계산할 수 있습니다. 이때, 기본공명 주파수는
+  시험체의 두께와 초음파 속도에 의해 결정됩니다. 공명 주파수는 초음파가 시험체의 두께를 왕복하는 주기와 일치할 때 발생합니다.  , 기본공명 주파수는
+  초음파가 시험체의 두께를 한 번 왕복하는 주기에 해당합니다.  , 시험체의 두께를 t라고 할 때, 기본공명 주파수 f는 초음파 속도 v와 시험체의
+  두께 t를 이용하여 다음과 같이 계산할 수 있습니다. f = v / (2t) 이 문제에서는 기본공명 주파수 f가 2MHz, 즉 2 * 10^6
+  Hz이고, 초음파 속도 v는 4800m/s로 주어져 있습니다. 이를 위의 식에 대입하여 시험체의 두께 t를 계산하면 다음과 같습니다. t = v
+  / (2f) = 4800 / (2 * 2 * 10^6) = 0.0012m = 1.2mm 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_nondestructive_testing
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_refrigerating_machinery.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_refrigerating_machinery.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..eea4a218f2f8c47e349f98c26716c6cf519192c8
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_refrigerating_machinery.yaml
@@ -0,0 +1,119 @@
+dataset_name: refrigerating_machinery
+doc_to_text: '질문: 보일러 입구의 압력이 9800 kN/m2 이고, 응축기의 압력이 4900 N/m2 일 때 펌프 일은 약 몇 kJ/kg
+  인가? (단, 물의 비체적은 0.001 m3/kg 이다.)
+
+  A.-9.79
+
+  B.-15.17
+
+  C.-87.25
+
+  D.-180.52
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 펌프 일은 펌프에 의해 수행되는 일을 나타내며, 보일러와
+  응축기 간의 압력 차이에 의해 발생합니다. 펌프 일은 보통 펌프 입구와 출구 사이의 압력 차이와 물의 비체적을 곱하여 계산됩니다. 펌프 일(Wp)은
+  다음과 같은 공식으로 계산할 수 있습니다. Wp = v * (P2 - P1) 여기서 v는 물의 비체적(0.001 m3/kg), P2는 보일러의
+  압력(9800 kN/m2 = 9800000 N/m2), P1은 응축기의 압력(4900 N/m2)입니다.  , 펌프 일은 다음과 같이 계산됩니다.
+  Wp = 0.001 m3/kg * (9800000 N/m2 - 4900 N/m2) = 9795100 J/kg = 9795.1 kJ/kg 하지만,
+  이 값은 양수인데, 선택지 모두 음수입니다. 이는 펌프 일을 구할 때 압력 단위를 맞추지 않아서 발생한 문제입니다. 펌프 입구와 출구의 압력 단위를
+  같게 맞추어 계산해야 합니다.  , 보일러의 압력을 N/m2 단위로 변환하면 9800 kN/m2 = 9800000 N/m2입니다. 그러므로, 펌프
+  일은 다음과 같이 다시 계산됩니다. Wp = 0.001 m3/kg * (9800000 N/m2 - 4900 N/m2) = 9795100 J/kg
+  = 9.7951 kJ/kg 그러나 이 값도 선택지에 없습니다. 문제가 있는 것 같습니다. 다시 확인해보니, 펌프 일의 부호가 음수인 이유를 찾았습니다.
+  펌프 일은 시스템에 에너지를 공급하는 것이므로, 일반적으로 음수로 표시됩니다.  , 계산한 펌프 일에 음수 부호를 붙여주면 됩니다. 그래서, 펌프
+  일은 -9.7951 kJ/kg로 계산되며, 이는 선택지 A에 가장 가까운 값입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 피스턴-실린더 장치 내에 있는 공기가 0.3m3에서 0.1m3으로 압축되었다. 압축되는 동안 압력과 체적 사이에 P=aV-2의 관계가 성립하며,
+  계수 a=6 kPaㆍm2 이다. 이 과정 동안 공기가 한 일은 얼마인가?
+
+  A.-53.3 kJ
+
+  B.-1.1 kJ
+
+  C.253 kJ
+
+  D.-40 kJ
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 공기가 수행하는 일을 계산하는 문제입니다.
+  주어진 정보를 바탕으로 공기가 수행하는 일을 계산하는 공식을 이용하면 됩니다. 피스턴-실린더 장치에서의 공기가 수행하는 일은 보통 압력과 체적의
+  변화에 따라 결정됩니다. 이 문제에서는 압력과 체적 사이에 P=aV-2의 관계가 성립한다고 주어졌습니다. 이 관계식은 압력이 체적의 제곱에 반비례하며,
+  계수 a는 6 kPaㆍm2로 주어졌습니다. 일반적으로 가스의 압축에 의해 수행되는 일은 압력과 체적의 변화에 따른 적분으로 계산할 수 있습니다.
+  즉, 공기가 수행하는 일 W는 다음과 같이 표현됩니다: W = ∫PdV 여기서 P는 압력, V는 체적, dV는 체적의 미소 변화량입니다. 이 경우,
+  압력 P는 체적 V에 대한 함수로 주어졌으므로, 이를 대입하여 적분을 수행하면 됩니다.  , 공기가 수행하는 일 W는 다음과 같이 계산됩니다:
+  W = ∫PdV = ∫(aV-2)dV = a∫V-2dV = a[V-1/-1] (체적이 0.3m3에서 0.1m3으로 변할 때) = -6[(0.1)^-1
+  - (0.3)^-1] kJ = -6[10 - 3.33] kJ = -6*6.67 kJ = -40 kJ  , 공기가 수행하는 일은 -40 kJ입니다.
+  이는 압축 과정에서 공기가 일을 하는 것이 아니라, 일을 받는 것을 의미합니다. 즉, 외부에서 공기를 압축하기 위해 40 kJ의 에너지를 공급받았다는
+  것을 의미합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 어떤 유체의 밀도가 741 kg/m3 이다. 이 유체의 비체적은 약 몇 m3kg인가?
+
+  A.0.78×10-3
+
+  B.1.35×10-3
+
+  C.2.35×10-3
+
+  D.2.98×10-3
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 비체적이란 무엇인지 알아야 합니다. 비체적은 어떤
+  물질의 질량 당 부피를 나타내는 물리량으로, 그 단위는 m3/kg입니다.   이는 밀도의 역수와 같습니다. 이 문제에서 주어진 유체의 밀도는 741
+  kg/m3입니다. 비체적을 구하려면 이 밀도의 역수를 취하면 됩니다. 즉, 1/741 m3/kg를 계산하면 됩니다. 1/741을 계산하면 약 0.00135
+  m3/kg가 나옵니다. 이를 지수 표기법으로 표현하면 1.35×10-3 m3/kg입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 1 kg의 기체가 압력 50 kPa, 체적 2.5m3 상태에서 압력 1.2 MPa, 체적 0.2m3의 상태로 변하였다. 엔탈피의 변화량은
+  약 몇 kJ 인가? (단, 내부에너지의 증가 U2-U1=0이다.)
+
+  A.306
+
+  B.206
+
+  C.155
+
+  D.115
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 열역학의 첫 번째 법칙에 관한 문제입니다.
+  열역학의 첫 번째 법칙은 에너지 보존의 법칙을 표현한 것으로, 고립 시스템의 총 에너지는 일정하다는 내용입니다. 문제에서 주어진 내부에너지의 증가
+  U2-U1=0이라는 정보는 이 시스템에서 내부에너지의 변화가 없다는 것을 의미합니다. 그 다음으로 엔탈피의 변화량을 알아내기 위해서는 엔탈피의
+  정의를 알아야 합니다. 엔탈피 H는 시스템의 내부에너지 U와 그 시스템의 압력 P와 체적 V의 곱의 합으로 정의됩니다. 즉, H = U + PV입니다.   엔탈피의
+  변화 ΔH는 내부에너지의 변화 ΔU와 압력-체적 작용의 변화 Δ(PV)의 합이 됩니다. 문제에서 내부에너지의 변화는 0이므로, ΔH는 Δ(PV)와
+  같습니다. 압력-체적 작용의 변화는 최종 상태의 PV 값에서 초기 상태의 PV 값을 뺀 것입니다. 즉, Δ(PV) = (P2V2) - (P1V1)입니다.
+  여기서 주의할 점은 압력과 체적의 단위입니다. 문제에서 주어진 압력의 단위는 kPa와 MPa이고, 체적의 단위는 m3입니다. 이를 모두 같은 단위로
+  맞추어야 합니다. 1 MPa = 1000 kPa이므로, 1.2 MPa는 1200 kPa입니다.  , Δ(PV) = (1200 kPa * 0.2
+  m3) - (50 kPa * 2.5 m3) = 240 kPa*m3 - 125 kPa*m3 = 115 kPa*m3입니다. 마지막으로, kPa*m3를
+  kJ로 변환해야 합니다. 1 kPa*m3는 1 kJ와 같습니다.  , ΔH는 115 kJ입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 주위의 온도가 27℃일 때, -73℃에서 1kJ의 냉동효과를 얻으려 한다. 냉동 사이클을 구동하는데 필요한 최소일은 얼마인가?
+
+  A.2 kJ
+
+  B.1.5 kJ
+
+  C.1 kJ
+
+  D.0.5 kJ
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 이 문제는 냉동 사이클에 대한 문제이며, 냉동 사이클의
+  성능을 평가하는 지표 중 하나인 ''최소일''에 대한 문제입니다. 냉동 사이클에서 최소일은 카르노 사이클에 의해 결정되며, 이는 절대온도에 비례하여
+  결정됩니다. 카르노 사이클에서 냉동효과(Qc)를 얻기 위해 필요한 일(W)는 다음의 공식에 의해 결정됩니다: W = Qc * (Th - Tc)
+  / Tc 여기서 Th는 높은 온도(절대온도로 표현)이며, Tc는 낮은 온도(절대온도로 표현)입니다. 이 문제에서는 Th가 27℃, Tc가 -73℃입니다.
+  그러나 이 온도들은 절대온도로 변환해야 합니다. 절대온도는 켈빈(K)으로 표현되며, 섭씨온도를 켈빈으로 변환하는 공식은 K = ℃ + 273.15입니다.   Th
+  = 27℃ + 273.15 = 300.15K, Tc = -73℃ + 273.15 = 200.15K입니다. 그러므로, W = 1kJ * (300.15K
+  - 200.15K) / 200.15K = 0.5kJ입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_refrigerating_machinery
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_taxation.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_taxation.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..0248f108d6546a2ee3335a5541617d5493acd23b
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_taxation.yaml
@@ -0,0 +1,133 @@
+dataset_name: taxation
+doc_to_text: '질문: 지방세기본법 상 서류의 송달에 대한 설명으로 옳은 것은?
+
+  A.연대 납세의무자에게 대표자가 없으면 납세의 고지와 독촉에 관한 서류는 연대 납세의무자 중 지방세를 징수하기 유리한 자에게만 송달하여야 한다.
+
+  B.서류를 교부하였을 때에는 수령인이 서명 또는 날인을 거부하면 그 사실을 송달서에 적어야 한다.
+
+  C.서류의 송달을 받아야 할 자가 사전 반대한 경우가 아니면 전자 송달의 방식으로 서류를 송달할 수 있다.
+
+  D.서류를 송달받을 자가 주소, 거소, 사무소 및 영업소 외의 다른 장소를 송달받을 장소로 요청한 경우 그 장소에 송달하여야 한다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 연대 납세의무자에게 대표자가 없으면 납세의 고지와 독촉에
+  관한 서류는 연대 납세의무자 중 지방세를 징수하기 유리한 자에게만 송달하여야 한다는 설명은 옳지 않습니다. 연대납세의무자에게 대표자가 없으면 연대납세의무자
+  모두에게 서류를 송달해야 합니다. (B) 서류를 교부하였을 때에는 수령인이 서명 또는 날인을 거부하면 그 사실을 송달서에 적어야 한다는 설명은
+  옳은 설명입니다. 지방세기본법 제24조에 따르면 송달하는 서류에 수령인이 서명 또는 날인을 거부하면 그 사실을 송달서에 적어야 합니다. (C)
+  서류의 송달을 받아야 할 자가 사전에 반대한 경우가 아니면 전자 송달의 방식으로 서류를 송달할 수 있다는 설명은 옳지 않습니다. 서류의 송달을
+  받아야 할 자가 동의한 경우에만 전자송달을 할 수 있습니다. (D) 서류를 송달받을 자가 주소, 거소, 사무소 및 영업소 외의 다른 장소를 송달받을
+  장소로 요청한 경우 그 장소에 송달하여야 한다는 설명은 옳지 않습니다. 서류를 송달받을 자가 송달받을 장소를 지정한 경우에는 그 장소에 송달해야
+  하지만, 송달받을 장소를 지정하지 않은 경우에는 주소, 거소, 영업소 또는 사무소에 송달해야 합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 관세법상 통관의 통칙에 대한 설명으로 옳지 않은 것은?
+
+  A.세관장은 다른 법령에 따라 수입 후 특정한 용도로 사용하여야 하는 등의 의무가 부가되어 있는 물품에 대하여는 문서로써 해당의무를 이행할 것을
+  요구할 수 있다.
+
+  B.세관장은 관세 보전을 위하여 필요하다고 인정할 때에는 대통령령으로 정하는 바에 따라 수입하는 물품에 통관표지를 첨부할 것을 명할 수 있다.
+
+  C.관세청장이나 세관장은 감시에 필요하다고 인정될 때에는 통관역 ․통관장 또는 특정한 세관에서 통관할 수 있는 물품을 제한할 수 있다.
+
+  D.세관장은 외국 물품의 일시 양륙에 따라 일시적으로 육지에 내려진 외국 물품의 원산지가 우리나라로 허위표시된 물품 이더라도 유치할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 관세법상 통관의 통칙에 대한 설명으로 옳지 않은 것을 찾기
+  위해 각 선택지를 검토해보겠습니다. (A) 선택지는 "세관장은 다른 법령에 따라 수입 후 특정한 용도로 사용하여야 하는 등의 의무가 부가되어 있는
+  물품에 대하여는 문서로써 해당 의무를 이행할 것을 요구할 수 있다"는 내용을 담고 있습니다. 이는 관세법 제 227조에 명시되어 있으며, 세관장은
+  수입신고가 수리된 물품이 다른 법령에 따라 수입 후 특정 용도로 사용하거나 그 밖의 조건을 충족해야 하는 경우 해당 법령에서 정하는 바에 따라
+  필요한 조치를 할 수 있습니다.   (A) 선택지는 옳은 설명입니다. (B) 선택지는 "세관장은 관세 보전을 위하여 필요하다고 인정할 때에는 대통령령으로
+  정하는 바에 따라 수입하는 물품에 통관표지를 첨부할 것을 명할 수 있다"는 내용을 담고 있습니다. 이는 관세법 제228조에 명시되어 있으며, 세관장은
+  관세의 부과·징수를 위해 필요하다고 인정되면 수입신고 대상 물품에 통관표지를 첨부할 것을 명할 수 있습니다.   (B) 선택지도 옳은 설명입니다.
+  (C) 선택지는 "관세청장이나 세관장은 감시에 필요하다고 인정될 때에는 통관역 .통관장 또는 특정한 세관에서 통관할 수 있는 물품을 제한할 수
+  있다"는 내용을 담고 있습니다. 이는 관세법 제236조에 명시되어 있으며, 관세청장이나 세관장은 감시상 필요하다고 인정되면 통관역·통관장 또는
+  특정 세관에서 통관할 수 있는 물품을 제한할 수 있습니다.   (C) 선택지도 옳은 설명입니다. (D) 선택지는 "세관장은 외국 물품의 일시 양륙에
+  따라 일시적으로 육지에 내려진 외국 물품의 원산지가 우리나라로 허위표시된 물품 이더라도 유치할 수 없다"는 내용을 담고 있습니다. 그러나 이는
+  사실이 아닙니다. 관세법 제231조에 따르면, 세관장은 외국 물품이 원산지의 표시가 명확하지 아니하거나 그 밖에 대통령령으로 정하는 원산지표시의
+  요건을 갖추지 아니한 경우에는 그 외국 물품을 유치할 수 있습니다.   (D) 선택지는 옳지 않은 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 관세법령상 세액의 확정에 대한 설명으로 옳지 않은 것은?
+
+  A.납세의무자는 신고납부한 세액이 부족하다는 것을 알게 되었을 때에는 신고납부한 날부터 6개월 이내에 대통령령으로 정하는 바에 따라 해당 세액을
+  보정하여 줄 것을 세관장에게 신청할 수 있다.
+
+  B.납세의무자는 신고납부한 세액이 과다한 것을 알게 되었을 때에는 최초로 납세신고를 한 날부터 5년 이내에 대통령령으로 정하는 바에 따라 신고한
+  세액의 경정을 세관장에게 청구할 수 있다.
+
+  C.경정청구에 따른 세관장의 통지에 이의가 있는 청구인은 그 통지를 받은 날부터 2개월 이내에 관세청장에게 국세의 정상 가격과 관세의 과세가 격간의
+  조정을 신청할 수 있다.
+
+  D.세관장은 납세의무자가 납부하여야 하는 세액이 1만원 미만인 경우에는 이를 징수하지 아니한다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 내용을 분석해보겠습니다. (A) 선택지는
+  납세의무자가 신고납부한 세액이 부족하다는 것을 알게 되었을 때, 6개월 이내에 해당 세액을 보정하여 줄 것을 세관장에게 신청할 수 있다는 내용입니다.
+  이 내용은 관세법 제30조에 따라 납세의무자가 신고한 세액이 부족하다는 사실을 알게 된 경우, 그 부족한 세액을 보충납부할 수 있다는 규정이 있습니다.   이
+  선택지는 옳습니다. (B) 선택지는 납세의무자가 신고납부한 세액이 과다하다는 것을 알게 되었을 때, 5년 이내에 신고한 세액의 경정을 세관장에게
+  청구할 수 있다는 내용입니다. 이 내용은 관세법 제38조에 따라 납세의무자가 신고한 세액이 과다하다는 사실을 알게 된 경우, 그 과다한 세액의
+  반환을 청구할 수 있다는 규정이 있습니다.   이 선택지는 옳습니다. (C) 선택지는 경정청구에 따른 세관장의 통지에 이의가 있는 청구인이, 통지를
+  받은 날부터 2개월 이내에 관세청장에게 국세의 정상 가격과 관세의 과세가 격간의 조정을 신청할 수 있다는 내용입니다. 이 내용은 관세법 제38조의2에
+  따라 납세의무자가 세관장의 결정에 불복할 경우 이의신청을 할 수 있으며, 이의신청은 통지를 받은 날로부터 90일 이내에 하여야 합니다. 그러나
+  이 선택지에서는 ''2개월 이내''라고 명시하고 있어, 이 부분이 잘못된 정보입니다. (D) 선택지는 세관장이 납세의무자가 납부하여야 하는 세액이
+  1만원 미만인 경우에는 이를 징수하지 않는다는 내용입니다. 이 내용은 관세법 제29조에 따라 세액이 1만원 미만인 경우에는 징수하지 않는다는 규정이
+  있습니다.   이 선택지는 옳습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 관세법령상 기간과 기한에 대한 설명으로 옳은 것은?
+
+  A.관세법 에 따른 기간을 계산할 때 관세법 제252조(수입신고 수리 전반출)에 따른 수입신고 수리 전반 출 승인을 받은 경우에는 그승인 일을
+  수입신고의 수리일로 본다.
+
+  B.관세법 에 따른 기간의 계산은 관세법 에 특별한 규정이 있는 것을 제외하고는 민원처리에 관한 법률 에 따른다.
+
+  C.관세법 시행령 제1조의 5(월별 납부) 제2항의 규정에 의하여 월별 납부의 승인을 받은 납세의무자가 관세를 납부기한까지 납부하지 아니하는 때에는,
+  세관장은 월별 납부의 승인을 취소할 수 있다.
+
+  D.세관장은 관세법 제10조(천재지변 등으로 인한 기한의 연장)에 따라 납부기한을 연장하는 때에는 기획재정부 장관이 정하는 기준에 의하여야 하며,
+  납부자의 신청으로 납부기한을 연장하는 경우 관세법 제39조(부과고지)에 따른 납부고지를 생략할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 관세법령상 기간과 기한에 대한 설명으로 옳은 것을 찾기 위해서는
+  각 선택지를 검토해야 합니다. (A) 선택지는 관세법 제252조(수입신고 수리 전반출)에 따른 수입신고 수리 전반 출 승인을 받은 경우에는 그
+  승인 일을 수입신고의 수리일로 본다는 내용입니다. 이는 관세법령상 기간과 기한에 대한 설명으로 적절하므로, (A) 선택지는 정답일 가능성이 높습니다.
+  (B) 선택지는 관세법에 따른 기간의 계산은 관세법에 특별한 규정이 있는 것을 제외하고는 민원처리에 관한 법률에 따른다는 내용입니다. 이는 관세법령상
+  기간과 기한에 대한 설명으로 적절하지 않습니다.  , (B) 선택지는 정답이 아닙니다. (C) 선택지는 관세법 시행령 제1조의 5(월별 납부)
+  제2항의 규정에 의하여 월별 납부의 승인을 받은 납세의무자가 관세를 납부기한까지 납부하지 아니하는 때에는 세관장은 월별 납부의 승인을 취소할 수
+  있다는 내용입니다. 이는 관세법령상 기간과 기한에 대한 설명으로 적절하지 않으므로, (C) 선택지는 정답이 아닙니다. (D) 선택지는 세관장은
+  관세법 제10조(천재지변 등으로 인한 기한의 연장)에 따라 납부기한을 연장하는 때에는 기획재정부 장관이 정하는 기준에 의하여야 하며, 납부자의
+  신청으로 납부기한을 연장하는 경우 관세법 제39조(부과고지)에 따른 납부고지를 생략할 수 있다는 내용입니다. 이는 관세법령상 기간과 기한에 대한
+  설명으로 적절하지 않으므로, (D) 선택지는 정답이 아닙니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 관세법상 ‘정부용품 등의 면세’를 적용받을 수 있는 물품에 해당하지 않는 것은?
+
+  A.정보처리 기술을 응용한 공장 자동화기계 ․기구 ․설비 및 그 핵심 부분품으로서 기획재정부령으로 정하는 물품
+
+  B.과학기술 정보통신부 장관이 국가의 안전보장을 위하여 긴요하다고 인정하여 수입하는 비상통신용 물품
+
+  C.상수도 수질을 측정하기 위하 여 지방자치단체가 수입하는 물품으로서 기획재정부령으로 정하는 물품
+
+  D.국가정보원장이 국가의 안전보장 목적의 수행상 긴요하다고 인정하여 수입하는 물품
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 관세법상 ''정부용품 등의 면세''에 대해 알아보겠습니다.
+  ''정부용품 등의 면세''는 특정 목적을 위해 정부가 수입하는 물품에 대해 관세를 면제하는 것을 말합니다. 이는 국가의 공공적인 목적을 위해 수입하는
+  물품에 대한 경제적 부담을 줄이기 위한 조치입니다. 다음으로 각 선택지에 대해 분석해보겠습니다. (A) 선택지는 정보처리 기술을 응용한 공장 자동화기계
+  등의 물품으로, 기획재정부령으로 정하는 물품을 의미합니다. 해당 선택지의 경우에는 정보처리 기술을 응용한 공장 자동화기계 등의 물품이지만, 이
+  물품이 반드시 기획재정부령으로 정해진 특정 물품이어야 면세를 적용받을 수 있다는 점이 특이하게 보입니다.  , 이 선택지의 물품이 기획재정부령으로
+  정해진 특정 물품이 아닌 경우에는 면세를 적용받을 수 없을 것으로 판단됩니다. (B) 선택지는 과학기술 정보통신부 장관이 국가의 안전보장을 위해
+  긴요하다고 인정하여 수입하는 비상통신용 물품을 의미합니다. 이 또한 국가의 안전보장을 위해 필요한 물품이므로 면세 대상에 해당할 것으로 보입니다.
+  (C) 선택지는 상수도 수질을 측정하기 위해 지방자치단체가 수입하는 물품으로, 기획재정부령으로 정하는 물품을 의미합니다. 이는 공공의 안전과 건강을
+  위해 필요한 물품이므로 면세 대상에 해당할 것으로 보입니다. (D) 선택지는 국가정보원장이 국가의 안전보장 목적의 수행상 긴요하다고 인정하여 수입하는
+  물품을 의미합니다. 이 또한 국가의 안전보장을 위해 필요한 물품이므로 면세 대상에 해당할 것으로 보입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_taxation
diff --git a/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_telecommunications_and_wireless_technology.yaml b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_telecommunications_and_wireless_technology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1e7e5cc09ebe50f51718b93976245e57fbc82967
--- /dev/null
+++ b/lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_telecommunications_and_wireless_technology.yaml
@@ -0,0 +1,115 @@
+dataset_name: telecommunications_and_wireless_technology
+doc_to_text: '질문: 주파수 대역에 따른 RFID 특징 중 틀린 것은?
+
+  A.UHF대역 : 900㎒ 대역과 433㎒ 대역이 사용됨
+
+  B.13.56㎒ : ISM 밴드 대역으로 UHF대역보다 인식거리가 짧음
+
+  C.2.45㎓ : 능동형과 수동형의 두 가지 형태가 사용됨
+
+  D.135㎑ 미만 : 자기장이 아닌 전기장 결합으로 동작함
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. RFID(Radio Frequency Identification)는
+  무선 주파수 신호를 사용하여 태그에 저장된 정보를 읽거나 쓰는 기술입니다. RFID 시스템은 주파수 대역에 따라 다양한 특징을 가지며, 이는 시스템의
+  성능과 용도에 영향을 미칩니다. (A) UHF 대역: UHF(Ultra High Frequency) 대역은 300 MHz에서 3 GHz 사이의
+  주파수를 포함합니다. RFID에서는 주로 860 MHz에서 960 MHz 범위가 사용되며, 433 MHz 대역도 사용되는 경우가 있습니다.   이
+  선택지는 올바릅니다. (B) 13.56 MHz: 이 주파수는 HF(High Frequency) 대역에 속하며, ISM(Industrial, Scientific,
+  and Medical) 밴드로도 알려져 있습니다. UHF 대역보다 인식 거리가 짧은 것이 일반적이므로, 이 선택지도 올바릅니다. (C) 2.45
+  GHz: 이 주파수는 또한 ISM 밴드에 속하며, RFID에서는 주로 능동형 태그에 사용됩니다. 수동형 태그도 이 주파수를 사용할 수 있지만,
+  일반적으로 능동형 태그가 더 널리 사용됩니다. 이 선택지도 올바르다고 볼 수 있습니다. (D) 135 KHz 미만: 이 주파수는 LF(Low Frequency)
+  대역에 속합니다. LF RFID 시스템은 주로 자기장 결합을 사용하여 동작하며, 전기장 결합은 주로 더 높은 주파수 대역에서 사용됩니다.   이
+  선택지는 잘못된 정보를 제공하고 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 현재 국내에서 항만 지역에만 제한적으로 사용되는 반능동형 RFID 시스템의 주파수 대역은?
+
+  A.433㎒ 대역
+
+  B.900㎒ 대역
+
+  C.13.56㎒ 대역
+
+  D.2.45㎓ 대역
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, RFID 시스템에 대해 이해해야 합니다. RFID는
+  Radio Frequency Identification의 약자로, 무선 주파수를 이용하여 정보를 저장하고 읽는 시스템을 말합니다. 이 시스템은
+  태그, 리더기, 그리고 관련된 데이터베이스로 구성되어 있습니다. 태그는 물체에 부착되며, 주파수를 통해 정보를 전송합니다. 리더기는 태그의 정보를
+  읽어 데이터베이스에 저장하거나 처리합니다. 이러한 RFID 시스템은 물류, 유통, 보안 등 다양한 분야에서 활용되고 있습니다. 다음으로, 반능동형
+  RFID에 대해 알아보겠습니다. 반능동형 RFID는 태그가 리더기의 신호를 받아 그 에너지를 이용해 정보를 되돌려 보내는 형태의 RFID를 말합니다.
+  이러한 반능동형 RFID는 주로 물류 트래킹, 차량 트래킹, 자산 관리 등에 활용됩니다. 이제, 주파수 대역에 대해 알아보겠습니다. RFID는
+  사용 목적에 따라 다양한 주파수 대역을 사용합니다. 일반적으로, 낮은 주파수 대역은 짧은 거리에서 작동하며, 높은 주파수 대역은 더 넓은 거리에서
+  작동합니다. 국내에서 항만 지역에 제한적으로 사용되는 반능동형 RFID 시스템은 433㎒ 대역을 사용합니다. 이 주파수 대역은 국제적으로 자유롭게
+  사용할 수 있는 ISM 대역 중 하나이며, 이 대역을 사용하는 RFID 시스템은 주로 차량 추적, 컨테이너 추적 등에 활용됩니다. 따라서, 정답은
+  (A) 입니다.
+
+
+  질문: 리더의 안테나 출력이 0.5W라고 할 때 dBm의 환산 값은? (단,log105≒ 0.7)
+
+  A.0.7 dOPTIONm
+
+  B.-7 dOPTIONm
+
+  C.27 dOPTIONm
+
+  D.37 dOPTIONm
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, dBm은 전력을 나타내는 단위로, 1mW를
+  기준으로 한 로그 스케일입니다. dBm의 계산 공식은 다음과 같습니다: dBm = 10 * log10(전력(W) / 1mW) 이 문제에서는 리더의
+  안테나 출력이 0.5W로 주어졌습니다. 그런데, dBm은 mW를 기준으로 하므로, 이 값을 mW로 변환해야 합니다. 1W = 1000mW 이므로,
+  0.5W = 500mW입니다. 이제 dBm로 변환해보겠습니다. dBm = 10 * log10(500mW / 1mW) = 10 * log10(500)
+  = 10 * 2.7 (log105≒ 0.7이므로, log10(500)는 log10(5) + log10(100)으로 계산할 수 있으며, 이를 통해
+  약 2.7로 추정할 수 있습니다.)  , dBm은 약 27입니다. 이는 선택지 C와 일치합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 후방 산란(back-scattering) 방식에 대한 설명으로 틀린 것은?
+
+  A.리더와 태그는 전자파 결합 방식이다.
+
+  B.안테나를 통한 원거리장에서의 전자기파에 의해 이루어지므로 원거리장 조건인 λ/2π보다 가까운 거리에서 이루어진다.
+
+  C.UHF 수동태그에서 이용한다.
+
+  D.태그의 레이더 단면적(ROPTIONS: radar cross section)을 변화시키는 방식이다.
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 후방 산란(back-scattering) 방식이란
+  RFID 기술에서 리더와 태그 간의 통신 방식 중 하나입니다. 리더에서 전송한 전자기파를 태그가 반사하여 다시 리더로 전송하는 방식으로, UHF
+  수동태그에서 이용됩니다. 이 방식에서는 리더와 태그가 전자파 결합 방식으로 통신하며, 태그의 레이더 단면적(RCS: radar cross section)을
+  변화시키는 방식입니다. 이제 선택지를 하나씩 살펴보겠습니다. (A) 리더와 태그는 전자파 결합 방식이다. - 이는 옳은 설명입니다. 후방 산란
+  방식은 리더와 태그가 전자파 결합 방식으로 통신합니다. (B) 안테나를 통한 원거리장에서의 전자기파에 의해 이루어지므로 원거리장 조건인 λ/2π보다
+  가까운 거리에서 이루어진다. - 이는 옳지 않은 설명입니다. 후방 산란 방식은 안테나를 통한 원거리장에서의 전자기파에 의해 이루어지는 것은 맞지만,
+  원거리장 조건인 λ/2π보다 먼 거리에서 이루어집니다. (C) UHF 수동태그에서 이용한다. - 이는 옳은 설명입니다. UHF 수동태그는 후방
+  산란 방식을 이용하여 리더와 통신합니다. (D) 태그의 레이더 단면적(RCS: radar cross section)을 변화시키는 방식이다. -
+  이는 옳은 설명입니다. 후방 산란 방식은 태그의 레이더 단면적을 변화시키는 방식으로 동작합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 전자파가 자유공간을 진행할 때 거리와 전력 밀도와의 관계는?
+
+  A.거리가 2배가 되면 전력 밀도도 2배가 된다.
+
+  B.거리가 2배가 되면 전력 밀도는 1/2배가 된다.
+
+  C.거리가 2배가 되면 전력 밀도는 4배가 된다.
+
+  D.거리가 2배가 되면 전력 밀도는 1/4배가 된다.
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 전자파가 자유공간을 진행할 때, 거리와 전력 밀도와의
+  관계를 이해하기 위해서는 전자기파의 특성을 고려해야 합니다. 전자기파는 전기장과 자기장이 서로 수직으로 진동하며 공간을 전파하는 파동입니다. 이
+  때, 전자기파의 전력 밀도는 전기장과 자기장의 제곱에 비례합니다. 전력 밀도를 P, 전기장을 E, 자기장을 H라고 하면, P = (E^2 + H^2)
+  / 2 로 나타낼 수 있습니다. 이때, 전자기파의 세기는 거리에 따라 지수적으로 감소합니다. 즉, 거리가 r배 증가하면, 전자기파의 세기는 1/r^2배
+  감소합니다.  , 거리가 2배가 되면, 전자기파의 세기는 1/4배가 됩니다. 그리고 전력 밀도는 전기장과 자기장의 제곱에 비례하므로, 거리가 2배가
+  되면 전력 밀도는 1/4배가 됩니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_telecommunications_and_wireless_technology