Add files using upload-large-folder tool

lm-evaluation/lm_eval/tasks/aexams/_default_template_yaml

@@ -0,0 +1,19 @@
+group: aexams
+dataset_path: Hennara/aexams
+test_split: test
+fewshot_split: dev
+fewshot_config:
+  sampler: first_n
+output_type: multiple_choice
+doc_to_text: "{{question.strip()}}\nA. {{A}}\nB. {{B}}\nC. {{C}}\nD. {{D}}\nالجواب："
+doc_to_choice: ["A", "B", "C", "D"]
+doc_to_target: "{{['A', 'B', 'C', 'D'].index(answer)}}"
+metric_list:
+  - metric: acc
+    aggregation: mean
+    higher_is_better: true
+  - metric: acc_norm
+    aggregation: mean
+    higher_is_better: true
+metadata:
+  version: 0.0

lm-evaluation/lm_eval/tasks/aexams/aexams_Biology.yaml

@@ -0,0 +1,4 @@
+"dataset_name": "Biology"
+"description": "قم بالإجابة على مايلي في مجال العلوم الحيوية\n\n"
+"include": "_default_template_yaml"
+"task": "aexams_Biology"

lm-evaluation/lm_eval/tasks/aexams/aexams_IslamicStudies.yaml

@@ -0,0 +1,4 @@
+"dataset_name": "IslamicStudies"
+"description": "قم بالإجابة على مايلي في مجال العلوم الإسلامية \n\n"
+"include": "_default_template_yaml"
+"task": "aexams_IslamicStudies"

lm-evaluation/lm_eval/tasks/aexams/aexams_Science.yaml

@@ -0,0 +1,4 @@
+"dataset_name": "Science"
+"description": "قم بالإجابة على مايلي في مجال العلوم \n\n"
+"include": "_default_template_yaml"
+"task": "aexams_Science"

lm-evaluation/lm_eval/tasks/eus_reading/README.md

@@ -0,0 +1,48 @@
+# EusReading
+
+### Paper
+
+Title: Latxa: An Open Language Model and Evaluation Suite for Basque
+
+Abstract: https://arxiv.org/abs/2403.20266
+
+EusReading consists of 352 reading comprehension exercises (irakurmena) sourced from the set of past EGA exams from 1998 to 2008. Each test generally has 10 multiple-choice questions, with 4 choices and a single correct answer. These exercises are more challenging than Belebele due to the complexity and length of the input texts. As a result, EusReading is useful to measure long context understanding of models.
+
+Homepage: https://github.com/hitz-zentroa/latxa
+
+
+### Citation
+
+```
+@misc{etxaniz2024latxa,
+      title={Latxa: An Open Language Model and Evaluation Suite for Basque},
+      author={Julen Etxaniz and Oscar Sainz and Naiara Perez and Itziar Aldabe and German Rigau and Eneko Agirre and Aitor Ormazabal and Mikel Artetxe and Aitor Soroa},
+      year={2024},
+      eprint={2403.20266},
+      archivePrefix={arXiv},
+      primaryClass={cs.CL}
+}
+```
+
+### Groups and Tasks
+
+#### Groups
+
+There are no groups.
+
+#### Tasks
+
+* `eus_reading`: EusReading consists of 352 reading comprehension exercises (irakurmena) sourced from the set of past EGA exams from 1998 to 2008.
+
+### Checklist
+
+For adding novel benchmarks/datasets to the library:
+* [ ] Is the task an existing benchmark in the literature?
+  * [ ] Have you referenced the original paper that introduced the task?
+  * [ ] If yes, does the original paper provide a reference implementation? If so, have you checked against the reference implementation and documented how to run such a test?
+
+
+If other tasks on this dataset are already supported:
+* [ ] Is the "Main" variant of this task clearly denoted?
+* [ ] Have you provided a short sentence in a README on what each new variant adds / evaluates?
+* [ ] Have you noted which, if any, published evaluation setups are matched by this variant?

lm-evaluation/lm_eval/tasks/eus_reading/eus_reading.yaml

@@ -0,0 +1,16 @@
+dataset_path: HiTZ/EusReading
+dataset_name: default
+task: eus_reading
+doc_to_text: !function utils.doc_to_text_context
+doc_to_choice: !function utils.doc_to_choice
+validation_split: null
+test_split: test
+fewshot_split: test
+output_type: multiple_choice
+doc_to_target: answer
+metric_list:
+  - metric: acc
+    aggregation: mean
+    higher_is_better: true
+metadata:
+  version: 0.0

lm-evaluation/lm_eval/tasks/eus_reading/utils.py

@@ -0,0 +1,41 @@
+from typing import List
+
+
+letters = ["A", "B", "C", "D"]
+
+
+def doc_to_text_context(doc) -> str:
+    """
+    Converts a document to a formatted string.
+
+    Args:
+        doc (dict): A dictionary containing the document information.
+
+    Returns:
+        str: A formatted string containing the question and answer choices.
+    """
+    candidates = doc["candidates"]
+    num_choices = len(candidates)
+    if num_choices < 2:
+        raise ValueError("Invalid number of candidates")
+    choices = letters[:num_choices]
+    formatted_choices = "\n".join(
+        [f"{choice}: {candidates[i]}" for i, choice in enumerate(choices)]
+    )
+    return f"Pasartea: {doc['context']}\n\nGaldera: {doc['question']}\n{formatted_choices}\nErantzuna:"
+
+
+def doc_to_choice(doc) -> List[str]:
+    """
+    Returns the answer choices for a document.
+
+    Args:
+        doc (dict): A dictionary containing the document information.
+
+    Returns:
+        list: A list of strings containing the answer choices.
+    """
+    num_choices = len(doc["candidates"])
+    if num_choices < 2:
+        raise ValueError("Invalid number of candidates")
+    return letters[:num_choices]

lm-evaluation/lm_eval/tasks/gpqa/README.md

@@ -0,0 +1,55 @@
+# GPQA
+
+### Paper
+
+Title: GPQA: A Graduate-Level Google-Proof Q&A Benchmark
+
+Abstract: https://arxiv.org/abs/2311.12022
+
+We present GPQA, a challenging dataset of 448 multiple-choice questions written by domain experts in biology, physics, and chemistry. We ensure that the questions are high-quality and extremely difficult: experts who have or are pursuing PhDs in the corresponding domains reach 65% accuracy (74% when discounting clear mistakes the experts identified in retrospect), while highly skilled non-expert validators only reach 34% accuracy, despite spending on average over 30 minutes with unrestricted access to the web (i.e., the questions are “Google-proof”). The questions are also difficult for state-of-the-art AI systems, with our strongest GPT-4–based baseline achieving 39% accuracy. If we are to use future AI systems to help us answer very hard questions—for example, when developing new scientific knowledge—we need to develop *scalable oversight* methods that enable humans to supervise their outputs, which may be difficult even if the supervisors are themselves skilled and knowledgeable. The difficulty of GPQA both for skilled non-experts and frontier AI systems should enable realistic scalable oversight experiments, which we hope can help devise ways for human experts to reliably get truthful information from AI systems that surpass human capabilities.
+
+Homepage: `https://github.com/idavidrein/gpqa/tree/main`
+
+### Citation
+
+```
+@misc{rein2023gpqa,
+      title={GPQA: A Graduate-Level Google-Proof Q&A Benchmark},
+      author={David Rein and Betty Li Hou and Asa Cooper Stickland and Jackson Petty and Richard Yuanzhe Pang and Julien Dirani and Julian Michael and Samuel R. Bowman},
+      year={2023},
+      eprint={2311.12022},
+      archivePrefix={arXiv},
+      primaryClass={cs.AI}
+}
+```
+
+This dataset is gated, so you will have to accept the terms of use at https://huggingface.co/datasets/Idavidrein/gpqa and login via `huggingface-cli login` using your HF Hub token before running this task.
+
+### Groups and Tasks
+
+#### Groups
+
+* `gpqa`
+
+#### Tasks
+
+* `gpqa_{main, diamond, extended}_zeroshot`
+* `gpqa_{main, diamond, extended}_n_shot`
+* `gpqa_{main, diamond, extended}_generative_n_shot`
+* `gpqa_{main, diamond, extended}_cot_zeroshot`
+* `gpqa_{main, diamond, extended}_cot_n_shot`
+
+### Checklist
+
+For adding novel benchmarks/datasets to the library:
+
+* [x] Is the task an existing benchmark in the literature?
+    * [x] Have you referenced the original paper that introduced the task?
+    * [x] If yes, does the original paper provide a reference implementation? If so, have you checked against the reference implementation and documented how to run such a test?
+
+
+If other tasks on this dataset are already supported:
+
+* [ ] Is the "Main" variant of this task clearly denoted?
+* [ ] Have you provided a short sentence in a README on what each new variant adds / evaluates?
+* [ ] Have you noted which, if any, published evaluation setups are matched by this variant?

lm-evaluation/lm_eval/tasks/gpqa/cot_n_shot/_generate_configs.py

@@ -0,0 +1,26 @@
+import yaml
+from tqdm import tqdm
+
+
+def main() -> None:
+    subset = ["extended", "diamond", "main"]
+    setting = "cot_n_shot"
+    for task in tqdm(subset):
+        file_name = f"gpqa_{task}_{setting}.yaml"
+        try:
+            with open(f"{file_name}", "w") as f:
+                f.write("# Generated by _generate_configs.py\n")
+                yaml.dump(
+                    {
+                        "include": f"_gpqa_{setting}_yaml",
+                        "task": f"gpqa_{task}_{setting}",
+                        "dataset_name": f"gpqa_{task}",
+                    },
+                    f,
+                )
+        except FileExistsError:
+            pass
+
+
+if __name__ == "__main__":
+    main()

lm-evaluation/lm_eval/tasks/gpqa/cot_n_shot/gpqa_diamond_cot_n_shot.yaml

@@ -0,0 +1,4 @@
+# Generated by _generate_configs.py
+dataset_name: gpqa_diamond
+include: _gpqa_cot_n_shot_yaml
+task: gpqa_diamond_cot_n_shot

lm-evaluation/lm_eval/tasks/gpqa/cot_n_shot/gpqa_extended_cot_n_shot.yaml

@@ -0,0 +1,4 @@
+# Generated by _generate_configs.py
+dataset_name: gpqa_extended
+include: _gpqa_cot_n_shot_yaml
+task: gpqa_extended_cot_n_shot

lm-evaluation/lm_eval/tasks/gpqa/cot_n_shot/utils.py

@@ -0,0 +1,39 @@
+import random
+import re
+
+import datasets
+
+
+def preprocess(text):
+    if text is None:
+        return " "
+    text = text.strip()
+    text = text.replace(" [title]", ". ")
+    text = re.sub("\\[.*?\\]", "", text)
+    text = text.replace("  ", " ")
+    return text
+
+
+def process_docs(dataset: datasets.Dataset) -> datasets.Dataset:
+    def _process_doc(doc):
+        choices = [
+            preprocess(doc["Incorrect Answer 1"]),
+            preprocess(doc["Incorrect Answer 2"]),
+            preprocess(doc["Incorrect Answer 3"]),
+            preprocess(doc["Correct Answer"]),
+        ]
+
+        random.shuffle(choices)
+        correct_answer_index = choices.index(preprocess(doc["Correct Answer"]))
+
+        out_doc = {
+            "choice1": choices[0],
+            "choice2": choices[1],
+            "choice3": choices[2],
+            "choice4": choices[3],
+            "choices": [choices[0], choices[1], choices[2], choices[3]],
+            "answer": f"({chr(65 + correct_answer_index)})",
+        }
+        return out_doc
+
+    return dataset.map(_process_doc)

lm-evaluation/lm_eval/tasks/gpqa/generative/_generate_configs.py

@@ -0,0 +1,26 @@
+import yaml
+from tqdm import tqdm
+
+
+def main() -> None:
+    subset = ["extended", "diamond", "main"]
+    setting = "generative_n_shot"
+    for task in tqdm(subset):
+        file_name = f"gpqa_{task}_{setting}.yaml"
+        try:
+            with open(f"{file_name}", "w") as f:
+                f.write("# Generated by _generate_configs.py\n")
+                yaml.dump(
+                    {
+                        "include": f"_gpqa_{setting}_yaml",
+                        "task": f"gpqa_{task}_{setting}",
+                        "dataset_name": f"gpqa_{task}",
+                    },
+                    f,
+                )
+        except FileExistsError:
+            pass
+
+
+if __name__ == "__main__":
+    main()

lm-evaluation/lm_eval/tasks/gpqa/generative/_gpqa_generative_n_shot_yaml

@@ -0,0 +1,39 @@
+dataset_path: Idavidrein/gpqa
+group: gpqa
+output_type: generate_until
+process_docs: !function utils.process_docs
+training_split: train
+# Because huggingface dataset only has train split
+validation_split: train
+test_split: null
+description: "Here are some example questions from experts. Answer the final question yourself, following the format of the previous questions exactly.\n"
+doc_to_text: "Question: {{Question}}\nChoices:\n(A) {{choice1}}\n(B) {{choice2}}\n(C) {{choice3}}\n(D) {{choice4}}\nAnswer:"
+doc_to_target: answer
+filter_list:
+  - name: "strict-match"
+    filter:
+      - function: "regex"
+        regex_pattern: "(?<=The answer is )(.*)(?=.)"
+      - function: "take_first"
+  - name: "flexible-extract"
+    filter:
+      - function: "multi_choice_regex"
+        group_select: -1
+        ignore_case: true
+        ignore_punctuation: true
+        regex_pattern: "(\\([A-Z]\\))"
+      - function: "take_first"
+generation_kwargs:
+  until:
+    - "</s>"
+    - "Question:"
+    - "<|im_end|>"
+  temperature: 0.0
+metric_list:
+  - metric: exact_match
+    aggregation: mean
+    higher_is_better: true
+    ignore_case: true
+    ignore_punctuation: true
+metadata:
+  version: 1.0

lm-evaluation/lm_eval/tasks/gpqa/generative/gpqa_diamond_generative_n_shot.yaml

@@ -0,0 +1,4 @@
+# Generated by _generate_configs.py
+dataset_name: gpqa_diamond
+include: _gpqa_generative_n_shot_yaml
+task: gpqa_diamond_generative_n_shot

lm-evaluation/lm_eval/tasks/gpqa/generative/gpqa_extended_generative_n_shot.yaml

@@ -0,0 +1,4 @@
+# Generated by _generate_configs.py
+dataset_name: gpqa_extended
+include: _gpqa_generative_n_shot_yaml
+task: gpqa_extended_generative_n_shot

lm-evaluation/lm_eval/tasks/gpqa/generative/gpqa_main_generative_n_shot.yaml

@@ -0,0 +1,4 @@
+# Generated by _generate_configs.py
+dataset_name: gpqa_main
+include: _gpqa_generative_n_shot_yaml
+task: gpqa_main_generative_n_shot

lm-evaluation/lm_eval/tasks/gpqa/generative/utils.py

@@ -0,0 +1,39 @@
+import random
+import re
+
+import datasets
+
+
+def preprocess(text):
+    if text is None:
+        return " "
+    text = text.strip()
+    text = text.replace(" [title]", ". ")
+    text = re.sub("\\[.*?\\]", "", text)
+    text = text.replace("  ", " ")
+    return text
+
+
+def process_docs(dataset: datasets.Dataset) -> datasets.Dataset:
+    def _process_doc(doc):
+        choices = [
+            preprocess(doc["Incorrect Answer 1"]),
+            preprocess(doc["Incorrect Answer 2"]),
+            preprocess(doc["Incorrect Answer 3"]),
+            preprocess(doc["Correct Answer"]),
+        ]
+
+        random.shuffle(choices)
+        correct_answer_index = choices.index(preprocess(doc["Correct Answer"]))
+
+        out_doc = {
+            "choice1": choices[0],
+            "choice2": choices[1],
+            "choice3": choices[2],
+            "choice4": choices[3],
+            "choices": [choices[0], choices[1], choices[2], choices[3]],
+            "answer": f"({chr(65 + correct_answer_index)})",
+        }
+        return out_doc
+
+    return dataset.map(_process_doc)

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-[LANG]
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_[LANG]
+
+task: indiccopa_[LANG]

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_common_yaml

@@ -0,0 +1,20 @@
+# This file will be included in the generated language-specific task configs.
+# It doesn't have a yaml file extension as it is not meant to be imported directly
+# by the harness.
+group: ai4bharat/IndicCOPA
+dataset_path: ai4bharat/IndicCOPA
+
+output_type: multiple_choice
+# training_split: train
+# validation_split: validation
+test_split: test
+
+doc_to_target: label
+doc_to_choice: !function utils.doc_to_choice
+
+metric_list:
+  - metric: acc
+    aggregation: mean
+    higher_is_better: true
+metadata:
+  version: 1.0

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_gu.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-gu
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_gu
+
+task: indiccopa_gu

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_hi.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-hi
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_hi
+
+task: indiccopa_hi

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_mai.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-mai
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_mai
+
+task: indiccopa_mai

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_ml.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-ml
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_ml
+
+task: indiccopa_ml

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_ne.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-ne
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_ne
+
+task: indiccopa_ne

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_or.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-or
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_or
+
+task: indiccopa_or

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_ta.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-ta
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_ta
+
+task: indiccopa_ta

lm-evaluation/lm_eval/tasks/indiccopa/indiccopa_te.yaml

@@ -0,0 +1,5 @@
+dataset_name: translation-te
+include: indiccopa_common_yaml
+doc_to_text: !function utils.doc_to_text_te
+
+task: indiccopa_te

lm-evaluation/lm_eval/tasks/indiccopa/utils.py

@@ -0,0 +1,136 @@
+from functools import partial
+
+
+def convert_choice(choice):
+    return choice
+
+
+def doc_to_text(doc, connector):
+    # Drop the period
+    conn = connector[doc["question"]]
+    return doc["premise"].strip()[:-1] + f" {conn}"
+
+
+def doc_to_choice(doc):
+    return [convert_choice(doc["choice1"]), convert_choice(doc["choice2"])]
+
+
+doc_to_text_hi = partial(
+    doc_to_text,
+    connector={
+        "cause": "कारण",
+        "effect": "परिणाम",
+    },
+)
+
+doc_to_text_mr = partial(
+    doc_to_text,
+    connector={
+        "cause": "कारण",
+        "effect": "परिणाम",
+    },
+)
+
+doc_to_text_as = partial(
+    doc_to_text,
+    connector={
+        "cause": "কাৰণ",
+        "effect": "প্ৰভাৱ",
+    },
+)
+
+doc_to_text_bn = partial(
+    doc_to_text,
+    connector={
+        "cause": "কারণ",
+        "effect": "প্রভাব",
+    },
+)
+
+doc_to_text_gu = partial(
+    doc_to_text,
+    connector={
+        "cause": "કારણ",
+        "effect": "અસર",
+    },
+)
+
+doc_to_text_kn = partial(
+    doc_to_text,
+    connector={
+        "cause": "ಕಾರಣ",
+        "effect": "ಪರಿಣಾಮ",
+    },
+)
+
+doc_to_text_mai = partial(
+    doc_to_text,
+    connector={
+        "cause": "कारण",
+        "effect": "प्रभाव",
+    },
+)
+
+doc_to_text_ml = partial(
+    doc_to_text,
+    connector={
+        "cause": "കാരണമാകുന്നു",
+        "effect": "ഫലം",
+    },
+)
+
+doc_to_text_ne = partial(
+    doc_to_text,
+    connector={
+        "cause": "कारण",
+        "effect": "असर",
+    },
+)
+
+doc_to_text_or = partial(
+    doc_to_text,
+    connector={
+        "cause": "କାରଣ",
+        "effect": "ପ୍ରଭାବ",
+    },
+)
+
+doc_to_text_sa = partial(
+    doc_to_text,
+    connector={
+        "cause": "निमित्तम्‌",
+        "effect": "परिणाम",
+    },
+)
+
+doc_to_text_sd = partial(
+    doc_to_text,
+    connector={
+        "cause": "سبب",
+        "effect": "اثر",
+    },
+)
+
+doc_to_text_ta = partial(
+    doc_to_text,
+    connector={
+        "cause": "காரணம்",
+        "effect": "விளைவு",
+    },
+)
+
+doc_to_text_te = partial(
+    doc_to_text,
+    connector={
+        "cause": "కారణం",
+        "effect": "ప్రభావం",
+    },
+)
+
+doc_to_text_ur = partial(
+    doc_to_text,
+    connector={
+        "cause": "وجہ",
+        "effect": "اثر",
+    },
+)

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_as.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: as
+doc_to_choice: '{{[premise+", শুধু? হাঁ, "+hypothesis,premise+", শুধু? তাই, "+hypothesis,premise+",
+  শুধু? না, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_as

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_bn.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: bn
+doc_to_choice: '{{[premise+", সঠিক? হ্যাঁ, "+hypothesis,premise+", সঠিক? তাহলে, "+hypothesis,premise+",
+  সঠিক? না, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_bn

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_kn.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: kn
+doc_to_choice: '{{[premise+", ಸರಿ? ಹೌದು, "+hypothesis,premise+", ಸರಿ? ಹಾಗಾಗಿ, "+hypothesis,premise+",
+  ಸರಿ? ಇಲ್ಲ, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_kn

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_ml.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: ml
+doc_to_choice: '{{[premise+", ശരി? അതെ, "+hypothesis,premise+", ശരി? എന്നാൽ, "+hypothesis,premise+",
+  ശരി? ഇല്ല, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_ml

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_mr.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: mr
+doc_to_choice: '{{[premise+", बरोबर? होय, "+hypothesis,premise+", बरोबर? त्यानंतर,
+  "+hypothesis,premise+", बरोबर? नाही, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_mr

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_or.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: or
+doc_to_choice: '{{[premise+", ସଠିକ? ହାଁ, "+hypothesis,premise+", ସଠିକ? ଏହା, "+hypothesis,premise+",
+  ସଠିକ? ନୁହଁ, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_or

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_pa.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: pa
+doc_to_choice: '{{[premise+", ਸਹੀ? ਹਾਂ, "+hypothesis,premise+", ਸਹੀ? ਇਸ ਲਈ, "+hypothesis,premise+",
+  ਸਹੀ? ਨਹੀਂ, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_pa

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_ta.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: ta
+doc_to_choice: '{{[premise+", சரி? ஆம், "+hypothesis,premise+", சரி? எனவே, "+hypothesis,premise+",
+  சரி? இல்லை, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_ta

lm-evaluation/lm_eval/tasks/indicxnli/indicxnli_te.yaml

@@ -0,0 +1,7 @@
+# Generated by utils.py
+dataset_name: te
+doc_to_choice: '{{[premise+", సరైన? అవును, "+hypothesis,premise+", సరైన? కాబట్టి,
+  "+hypothesis,premise+", సరైన? కాదు, "+hypothesis]}}'
+doc_to_text: ''
+include: indicxnli_common_yaml
+task: indicxnli_te

lm-evaluation/lm_eval/tasks/indicxnli/utils.py

@@ -0,0 +1,131 @@
+import argparse
+
+import yaml
+
+
+# Different languages that are part of xnli.
+# These correspond to dataset names (Subsets) on HuggingFace.
+# A yaml file is generated by this script for each language.
+
+LANGUAGES = {
+    "as": {  # Assamese
+        "QUESTION_WORD": "শুধু",
+        "ENTAILMENT_LABEL": "হাঁ",
+        "NEUTRAL_LABEL": "তাই",
+        "CONTRADICTION_LABEL": "না",
+    },
+    "bn": {  # Bengali
+        "QUESTION_WORD": "সঠিক",
+        "ENTAILMENT_LABEL": "হ্যাঁ",
+        "NEUTRAL_LABEL": "তাহলে",
+        "CONTRADICTION_LABEL": "না",
+    },
+    "gu": {  # Gujarati
+        "QUESTION_WORD": "સાચું",
+        "ENTAILMENT_LABEL": "હા",
+        "NEUTRAL_LABEL": "તેનાથી",
+        "CONTRADICTION_LABEL": "ના",
+    },
+    "hi": {  # Hindi
+        "QUESTION_WORD": "सही",
+        "ENTAILMENT_LABEL": "हाँ",
+        "NEUTRAL_LABEL": "इसलिए",
+        "CONTRADICTION_LABEL": "नहीं",
+    },
+    "kn": {  # Kannada
+        "QUESTION_WORD": "ಸರಿ",
+        "ENTAILMENT_LABEL": "ಹೌದು",
+        "NEUTRAL_LABEL": "ಹಾಗಾಗಿ",
+        "CONTRADICTION_LABEL": "ಇಲ್ಲ",
+    },
+    "ml": {  # Malayalam
+        "QUESTION_WORD": "ശരി",
+        "ENTAILMENT_LABEL": "അതെ",
+        "NEUTRAL_LABEL": "എന്നാൽ",
+        "CONTRADICTION_LABEL": "ഇല്ല",
+    },
+    "mr": {  # Marathi
+        "QUESTION_WORD": "बरोबर",
+        "ENTAILMENT_LABEL": "होय",
+        "NEUTRAL_LABEL": "त्यानंतर",
+        "CONTRADICTION_LABEL": "नाही",
+    },
+    "or": {  # Odia
+        "QUESTION_WORD": "ସଠିକ",
+        "ENTAILMENT_LABEL": "ହାଁ",
+        "NEUTRAL_LABEL": "ଏହା",
+        "CONTRADICTION_LABEL": "ନୁହଁ",
+    },
+    "pa": {  # Punjabi
+        "QUESTION_WORD": "ਸਹੀ",
+        "ENTAILMENT_LABEL": "ਹਾਂ",
+        "NEUTRAL_LABEL": "ਇਸ ਲਈ",
+        "CONTRADICTION_LABEL": "ਨਹੀਂ",
+    },
+    "ta": {  # Tamil
+        "QUESTION_WORD": "சரி",
+        "ENTAILMENT_LABEL": "ஆம்",
+        "NEUTRAL_LABEL": "எனவே",
+        "CONTRADICTION_LABEL": "இல்லை",
+    },
+    "te": {  # Telugu
+        "QUESTION_WORD": "సరైన",
+        "ENTAILMENT_LABEL": "అవును",
+        "NEUTRAL_LABEL": "కాబట్టి",
+        "CONTRADICTION_LABEL": "కాదు",
+    },
+}
+
+
+
+def gen_lang_yamls(output_dir: str, overwrite: bool) -> None:
+    """
+    Generate a yaml file for each language.
+
+    :param output_dir: The directory to output the files to.
+    :param overwrite: Whether to overwrite files if they already exist.
+    """
+    err = []
+    for lang in LANGUAGES.keys():
+        file_name = f"indicxnli_{lang}.yaml"
+        try:
+            QUESTION_WORD = LANGUAGES[lang]["QUESTION_WORD"]
+            ENTAILMENT_LABEL = LANGUAGES[lang]["ENTAILMENT_LABEL"]
+            NEUTRAL_LABEL = LANGUAGES[lang]["NEUTRAL_LABEL"]
+            CONTRADICTION_LABEL = LANGUAGES[lang]["CONTRADICTION_LABEL"]
+            with open(
+                f"{output_dir}/{file_name}", "w" if overwrite else "x", encoding="utf8"
+            ) as f:
+                f.write("# Generated by utils.py\n")
+                yaml.dump(
+                    {
+                        "include": "indicxnli_common_yaml",
+                        "dataset_name": lang,
+                        "task": f"indicxnli_{lang}",
+                        "doc_to_text": "",
+                        "doc_to_choice": f"{{{{["
+                        f"""premise+\", {QUESTION_WORD}? {ENTAILMENT_LABEL}, \"+hypothesis,"""
+                        f"""premise+\", {QUESTION_WORD}? {NEUTRAL_LABEL}, \"+hypothesis,"""
+                        f"""premise+\", {QUESTION_WORD}? {CONTRADICTION_LABEL}, \"+hypothesis"""
+                        f"]}}}}",
+                    },
+                    f,
+                    allow_unicode=True,
+                )
+        except FileExistsError:
+            err.append(file_name)
+
+    if len(err) > 0:
+        raise FileExistsError(
+            "Files were not created because they already exist (use --overwrite flag):"
+            f" {', '.join(err)}"
+        )
+
+
+def main() -> None:
+
+    gen_lang_yamls(output_dir=".", overwrite=True)
+
+
+if __name__ == "__main__":
+    main()

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/_cot_kmmlu_yaml

@@ -0,0 +1,31 @@
+group:
+    - kmmlu
+    - kmmlu_hard_cot
+dataset_path: HAERAE-HUB/KMMLU-HARD
+output_type: generate_until
+validation_split: dev # not meant to be used, only here to silence warnings
+test_split: test
+doc_to_target: "{{['A', 'B', 'C', 'D'][answer-1]}}"
+metric_list:
+  - metric: exact_match
+    aggregation: mean
+    higher_is_better: true
+    ignore_case: true
+    ignore_punctuation: true
+generation_kwargs:
+  until:
+    - "질문:"
+  do_sample: false
+  max_gen_toks: 2048
+  temperature: 0.0
+num_fewshot: 0
+filter_list:
+  - name: "get-answer"
+    filter:
+      - function: "regex"
+        regex_pattern: "(?<=정답은)(.*)(?=입니다.)"
+        regex_pattern: "(?<=정답은)\\s*[(]?(A|B|C|D)[)]?.*(?=입니다.)"
+      - function: "take_first"
+metadata:
+  version: 2.0
+  num_fewshot: 5

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_accounting.yaml

@@ -0,0 +1,113 @@
+dataset_name: accounting
+doc_to_text: '질문: 수정 전 잔액시산표의 차변 합계액은 ￦1,000,000이다. 보험료 미경과액 ￦30,000과 이자수익 미수액 ￦20,000을
+  계상한 후의 수정 후 잔액시산표 차변 합계액은 얼마인가?
+
+  A.￦970,000
+
+  B.￦990,000
+
+  C.￦1,020,000
+
+  D.￦1,050,000
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 주어진 문제는 수정 후 시산표의 합계에 영향을 주는 요소와
+  주지 않는 요소를 구분하고 이해하는 문제입니다. 이 경우, 보험료 미경과액과 이자수익 미수액이 추가되었습니다. 보험료 미경과액은 차변에 계상되어
+  있는 보험료(비용)을 감소 하면서 자산계정인 선급보험료가 동일금액이 차변에 증가하므로 영향을 주지 않습니다. 다음으로 이자수익 미수액 ￦20,000은
+  아직 받지 않은 이자를 의미합니다. 이자미수액은 잔액시산표에서 차변에 기록됩니다.  , 원래의 차변 합계액 ￦1,000,000에 이자수익 미수액
+  ￦20,000을 더하면, 수정 후의 차변 합계액은 ￦1,020,000이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 제조업을 영위하는 (주)상공이 결산 시 이자비용 미지급분에 대한 거래를 누락하였을 경우 재무제표에 미치는 영향으로 옳은 것은?
+
+  A.매출총이익이 과소계상된다.
+
+  B.영업이익이 과대계상된다.
+
+  C.비유동부채가 과소계상된다.
+
+  D.당기순이익이 과대계상된다.
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이자비용 미지급분이란, 회사가 이자를 지급해야 하지만
+  아직 지급하지 않은 금액을 말합니다. 이는 기업의 부채로 간주되며, 이를 누락하게 되면 회계상의 문제가 발생할 수 있습니다. (A) 선택지의 매출총이익은
+  판매액에서 제조비용을 뺀 금액으로, 이자비용과는 직접적인 관련이 없습니다.   이자비용 미지급분을 누락하였다고 해서 매출총이익이 과소계상되는 것은
+  아닙니다. (B) 선택지의 영업이익은 매출총이익에서 판매비와 관리비를 뺀 금액입니다. 이자비용은 판매비나 관리비에 포함되지 않으므로, 이자비용
+  미지급분을 누락하였다고 해서 영업이익이 과대계상되는 것은 아닙니다. (C) 선택지의 비유동부채는 장기적으로 변제해야 하는 부채를 말합니다. 이자비용
+  미지급분은 단기적으로 변제해야 하는 부채로 간주될 수 있으나, 이를 누락하게 되면 전체 부채가 과소계상되는 결과를 초래할 수 있습니다. (D)
+  선택지의 당기순이익은 수익에서 모든 비용을 뺀 금액입니다. 이자비용 미지급분을 누락하게 되면 이자비용이 과소계상되어 당기순이익이 과대계상되는 결과를
+  초래할 수 있습니다.  , 이자비용 미지급분을 누락하였을 경우, 비유동부채와 당기순이익에 영향을 미칠 수 있습니다. 하지만, 주어진 선택지 중에서는
+  비유동부채가 아닌 당기순이익이 과대계상되는 것이 더 정확한 표현일 것입니다. 이는 이자비용이 누락되었을 때 비용이 과소계상되므로 순이익이 과대계상되기
+  때문입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 현금및현금성자산에 대한 설명으로 옳지 않은 것은?
+
+  A.현금성자산은 단기의 현금수요를 충족하기 위한 목적으로 보유한다.
+
+  B.현금성자산으로 분류되기 위해서는 확정된 금액이 현금으로의 전환이 용이하고, 가치변동의 위험이 경미하여야 한다.
+
+  C.취득당시 장기로 분류되었던 국ㆍ공채 중 결산일 현재 만기일이 3개월 이내인 국·공채를 현금성자산으로 분류한다.
+
+  D.상환일이 정해져 있고 취득일로부터 상환일까지 기간이 3개월 이내인 우선주의 경우 현금성자산으로 처리한다.
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 현금성자산은 단기의 현금수요를 충족하기 위한 목적으로
+  보유하는 자산으로, 큰 거래비용 없이 현금으로 전환이 용이하고, 이자율 변동에 따른 가치 변동의 위험이 크지 않은 금융상품으로서, 취득 당시 만기일
+  또는 상환일이 3개월 이내인 것을 말합니다. (A)는 현금성자산의 정의와 일치하므로 옳은 설명입니다. (B)도 현금성자산의 분류 기준을 설명하고
+  있으므로 옳은 설명입니다. (C)의 경우, 취득당시 장기로 분류되었던 국ᆞ공채 중 결산일 현재 만기일이 3개월 이내인 국·공채는 단기금융상품으로
+  분류됩니다.   이 설명은 옳지 않습��다. (D)의 경우, 상환일이 정해져 있고 취득일로부터 상환일까지 기간이 3개월 이내인 우선주의 경우 현금성자산으로
+  처리할 수 있습니다.   이 설명도 옳은 설명입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 금융자산과 금융부채에 속하는 항목으로 바르게 나타낸 것은?
+
+  A.(금융자산) 선급금, (금융부채) 미지급비용
+
+  B.(금융자산) 미수금, (금융부채) 선수금
+
+  C.(금융자산) 단기대여금, (금융부채) 장기차입금
+
+  D.(금융자산) 재고자산, (금융부채) 선수수익
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 금융자산과 금융부채는 기업이 자금을 조달하고 운용하는 과정에서
+  발생하는 자산과 부채를 말합니다. 이 때, 금융자산은 기업이 보유하고 있는 자산 중에서 현금이나 현금성자산으로 전환이 용이하고, 가치변동의 위험이
+  상대적으로 작은 자산을 말합니다. 반면에 금융부채는 기업이 상환해야 할 의무가 있는 부채 중에서 금융기관으로부터 차입한 차입금이나 사채 등을 말합니다.
+  각 선택지를 살펴 보겠습니다. (A) 선급금은 상품이나 원재료 등을 매입하기 위해 미리 지급한 금액으로, 금융자산이 아닌 재고자산으로 분류됩니다.
+  미지급비용은 이미 발생한 비용 중에서 아직 지급하지 않은 금액으로, 금융부채가 아닌 부채로 분류됩니다. (B) 미수금은 상품이나 제품 등을 판매하고
+  아직 받지 못한 금액으로, 금융자산에 해당됩니다. 선수금은 상품이나 제품 등을 주문받고 미리 받은 금액으로, 금융부채가 아닌 부채로 분류됩니다.
+  (C) 단기대여금은 상대방에게 대여한 금액 중에서 1년 이내에 회수할 예정인 금액으로, 금융자산에 해당됩니다. 장기차입금은 금융기관으로부터 차입한
+  차입금 중에서 1년 이후에 상환할 예정인 금액으로, 금융부채에 해당됩니다. (D) 재고자산은 기업이 판매를 목적으로 보유하고 있는 상품이나 제품,
+  원재료 등을 말합니다. 선수수익은 고객으로부터 미리 받은 수익 중에서 아직 제공하지 않은 용역에 대한 대가로, 부채에 해당됩니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 전기 말에 상품재고액 \560,000을 \650,000으로 잘못 계상한 경우, 당기의 매출원가와 당기순이익에 미치는 영향으로 옳은 것은?
+  (단, 재고자산 평가는 실지재고조사법을 적용 한다.)
+
+  A.(매출원가) 과대, (당기순이익) 과소
+
+  B.(매출원가) 과대, (당기순이익) 과대
+
+  C.(매출원가) 과소, (당기순이익) 과소
+
+  D.(매출원가) 과소, (당기순이익) 과대
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 매출원가와 당기순이익에 대해 이해해야 합니다. 매출원가는
+  판매된 상품을 생산하는 데 들어간 비용을 의미하며, 당기순이익은 매출에서 모든 비용을 뺀 순수익을 의미합니다. 상품재고액을 과대 계상한 경우,
+  이는 회사가 실제로 보유하고 있는 재고보다 더 많은 재고를 보유하고 있다고 잘못 표시한 것을 의미합니다. 이는 재고자산의 가치를 과대평가한 것이므로,
+  이에 따른 비용(매출원가) 역시 과대 계상됩니다. 매출원가가 과대 계상되면, 매출에서 매출원가를 뺀 이익인 당기순이익은 과소 계상됩니다. 왜냐하면
+  매출원가가 더 높아지면 이익은 줄어들기 때문입니다.  , 상품재고액을 과대 계상한 경우 매출원가는 과대 계상되고, 당기순이익은 과소 계상됩니다.
+  ''따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_accounting

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemical_engineering.yaml

@@ -0,0 +1,121 @@
+dataset_name: chemical_engineering
+doc_to_text: '질문: 이상기체의 내부에너지에 대한 설명으로 옳은 것은?
+
+  A.온도만의 함수이다.
+
+  B.압력만의 함수이다.
+
+  C.압력과 온도의 함수이다.
+
+  D.압력이나 온도의 함수가 아니다.
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상기체의 내부에너지는 이상기체의 성질을 나타내는 중요한
+  요소 중 하나입니다. 이상기체는 기체 분자들 사이의 상호작용을 무시하고 분자들이 차지하는 부피를 무시하는 가정하에 만들어진 기체 모델입니다. 이
+  모델에서 기체의 내부에너지는 온도에만 의존한다고 알려져 있습니다. 선택지 (A)는 이상기체의 내부에너지가 온도만의 함수라는 내용으로, 이는 이상기체의
+  성질을 정확하게 반영하고 있습니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로 압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (B)는
+  이상기체의 내부에너지가 압력만의 함수라는 내용으로, 이는 이상기체의 성질을 잘못 이해한 것입니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로
+  압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (C)는 이상기체의 내부에너지가 압력과 온도의 함수라는 내용으로, 이 역시 이상기체의 성질을
+  잘못 이해한 것입니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로 압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (D)는 이상기체의
+  내부에너지가 압력이나 온도의 함수가 아니라는 내용으로, 이는 이상기체의 성질에 대한 잘못된 이해를 반영하고 있습니다. 이상기체의 내부에너지는 온도에만
+  의존합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 기체가 단열 팽창한다면 엔트로피는 어떻게 되는가?
+
+  A.감소 또는 불변
+
+  B.증가 또는 불변
+
+  C.불변
+
+  D.증가와 감소를 반복
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 기체의 단열 팽창에 대해 생각해보면, 단열 팽창은 외부와의
+  열 교환 없이 기체가 팽창하는 것을 의미합니다. 이러한 과정에서 기체의 엔트로피는 어떻게 될까요? 먼저 엔트로피의 개념을 이해해야 합니다. 엔트로피는
+  물질의 무질서함을 나타내는 물리량으로, 시스템의 상태가 더 많은 방향으로 분산될 수록 엔트로피는 증가합니다. 이런 관점에서 보면, 기체가 단열
+  팽창하면 기체 분자들이 차지하는 공간이 더 커지므로 더 많은 상태를 가질 수 있게 되어 엔트로피가 증가할 것입니다. 또한, 열역학의 두 번째 법칙에
+  따르면, 고립된 시스템의 엔트로피는 항상 증가하거나 일정하게 유지됩니다. 단열 팽창 과정에서는 외부와의 열 교환 없이 일어나므로 이 과정을 고립된
+  시스템으로 볼 수 있습니다.   이 경우 엔트로피는 증가하거나 일정하게 유지될 것입니다. 이를 바탕으로 선택지를 보면, (B) 증가 또는 불변이
+  가장 적절한 답변으로 보입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 100기압의 이상기체가 들어 있는 탱크에 수렴노즐(convergent nozzle)을 연결하여 기체를 가장 단시간에 뽑아내려고 한다. 제2탱크의
+  최대 허용압력은 약 몇 기압인가? (단, 비열비는 1.3 이다.)
+
+  A.55
+
+  B.77
+
+  C.90
+
+  D.100
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 문제는 이상기체가 수렴노즐을 통해 빠져나갈 때의 허용압력을
+  묻는 문제입니다. 이를 계산하기 위해서는 수렴노즐을 통해 이상기체가 흐를 때의 기체 동력학에 대한 이해가 필요합니다. 기본적으로, 이상기체가 수렴노즐을
+  통해 흐를 때, 노즐의 출구에서의 압력은 주변 압력에 도달할 때까지 계속 감소합니다. 이 때의 압력 감소율은 기체의 비열비에 의해 결정됩니다.
+  문제에서 주어진 비열비는 1.3이므로, 이를 이용하여 계산할 수 있습니다. 이상기체의 동력학에서, 수렴노즐을 통해 기체가 흐를 때의 압력비는 다음과
+  같이 주어집니다: P2/P1 = (2/(n+1))^(n/(n-1)) 여기서 P1은 초기 압력 (100기압), P2는 최종 압력 (제2탱크의 최대
+  허용압력), n은 비열비 (1.3)입니다. 이 식을 이용하여 P2를 계산하면 다음과 같습니다: P2 = P1 * (2/(n+1))^(n/(n-1))  ,
+  계산 결과를 얻기 위해 주어진 값을 대입해보겠습니다. P2 = 100 * (2/(1.3+1))^(1.3/(1.3-1)) 이를 계산하면, P2의
+  값은 약 54.6가 나��는데, 이는 선택지 중에서 가장 가까운 55에 해당합니다.   제2탱크의 최대 허용압력은 약 55기압이 됩니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 성분1과 성분2가 기-액 평형을 이루는 계에 대하여 라울(Raoult)의 법칙을 만족하는 기포점 압력 계산을 수행하였다. 계산결과에 대한
+  설명 중 틀린 것은?
+
+  A.기포점 압력계산으로 P-x-y 선도를 나타낼 수 있다.
+
+  B.기포점 압력 계산 결과에서 기상의 조성선은 직선이다.
+
+  C.성분 1의 조성이 1 일 때의 압력은 성분 1의 증기압이다.
+
+  D.공비점의 형성을 나타낼 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 라울의 법칙에 대해 알아보겠습니다. 라울의 법칙은
+  이상 기체에서의 부분 압력을 설명하는 법칙으로, 이는 순수 액체의 증기압과 그 액체의 몰 분율에 비례한다고 합니다. 이를 기반으로 각 선택지를
+  살펴보겠습니다. (A) 기포점 압력계산으로 P-x-y 선도를 나타낼 수 있다. P-x-y 선도는 이성분 혼합물의 기-액 평형을 그래프로 나타낸
+  것입니다. x와 y는 각각 액상과 기상의 몰 분율을, P는 총압을 나타냅니다. 라울의 법칙을 이용하면 이러한 P-x-y 선도를 그릴 수 있습니다.
+  (B) 기포점 압력 계산 결과에서 기상의 조성선은 직선이다. 라울의 법칙에 따르면, 기상의 조성선은 직선이 아닌 곡선 형태를 보입니다.   이
+  설명은 잘못되었습니다. (C) 성분 1의 조성이 1 일 때의 압력은 성분 1의 증기압이다. 이 설명은 맞습니다. 라울의 법칙에 따르면, 성분의
+  조성이 1, 즉 순수한 성분일 때 그 성분의 압력은 그 성분의 증기압과 같습니다. (D) 공비점의 형성을 나타낼 수 없다. 공비점은 두 성분이
+  혼합되어 있을 때, 특정 조건에서 기상과 액상의 조성이 같아지는 점을 말합니다. 라울의 법칙을 이용하면 이러한 공비점을 나타낼 수 있습니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 정압열용량 Cp는 7/2R이고 정적열용량 Cv는 5/2R인 1몰의 이상기체가 압력 10bar, 부피 0.05m3에서 압력 1bar로 정용과정을
+  거쳐 변화할 때 기계적인 가역과정으로 가정하면 이 계에 부가된 열량 Q와 이 계가 한 일 W는 각각 얼마인가?
+
+  A.Q=-11250J, W=0
+
+  B.Q=-15750J, W=0
+
+  C.Q=0, W=-11250J
+
+  D.Q=0, W=-15750J
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상기체의 정용과정에서는 부피가 일정하므로, 열량 Q는
+  계가 한 일 W와 동일하게 됩니다. 이는 열역학의 제1법칙에 따른 것입니다. 이상기체의 정용과정에서 열량 Q는 Cv(T2-T1)이며, 여기서 Cv는
+  정적열용량, T1과 T2는 각각 초기와 최종 온도입니다. 이상기체방정식 PV=nRT를 이용하여 초기 온도 T1을 구할 수 있습니다. 여기서 P는
+  압력, V는 부피, n은 몰수, R은 기체상수입니다. 초기 상태에서 압력 P1은 10bar, 부피 V는 0.05m3, 몰수 n은 1mol, 기체상수
+  R은 8.314J/(mol·K)입니다.   T1 = P1V/nR = (10×10^5 Pa)(0.05m^3)/(1mol)(8.314J/(mol·K))
+  = 6015K입니다. 최종 상태에서 압력 P2는 1bar이므로, 이상기체방정식을 이용하여 최종 온도 T2를 구하면, T2 = P2V/nR = (1×10^5
+  Pa)(0.05m^3)/(1mol)(8.314J/(mol·K)) = 601.5K입니다.   열량 Q는 Cv(T2-T1) = (5/2R)(T2-T1)
+  = (5/2)(8.314J/(mol·K))(601.5K - 6015K) = -11250J입니다. 기계적인 가역과정에서 이상기체가 한 일 W는 -P1Vln(P2/P1)로
+  주어지며, 이때 ln은 자연로그를 의미합니다. 여기서 P1은 초기 압력, P2는 최종 압력, V는 부피입니다.   W = -P1Vln(P2/P1)
+  = -(10×10^5 Pa)(0.05m^3)ln((1×10^5 Pa)/(10×10^5 Pa)) = 0입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_chemical_engineering

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_construction.yaml

@@ -0,0 +1,115 @@
+dataset_name: construction
+doc_to_text: '질문: 디젤기관에서 질소 산화물(NOX)의 발생을 억제하려면 어떻게 해야 하는가?
+
+  A.흡기온도를 높인다.
+
+  B.산소(O2)의 농도를 낮춘다.
+
+  C.연소온도를 높인다.
+
+  D.반응시간을 길게한다.
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 디젤 엔진에서 질소 산화물(NOx)의 발생을 억제하려면 연소
+  과정에서의 조건을 조절해야 합니다. 질소 산화물은 고온에서 산소와 질소가 결합할 때 생성되는데, 이는 디젤 엔진의 연소 과정에서 일어납니다. (A)
+  흡기 온도를 높인다: 흡기 온도를 높이면, 공기와 연료의 혼합물이 더욱 빠르게 연소하게 되고 이는 연소 온도를 높이게 됩니다.   NOx의 생성을
+  증가시킬 수 있습니다. (B) 산소(O2)의 농도를 낮춘다: 산소 농도를 낮추면, 연소 과정에서 산소와 질소가 결합하여 NOx를 생성하는 것을
+  줄일 수 있습니다.   NOx의 발생을 억제하는데 도움이 될 수 있습니다. (C) 연소 온도를 높인다: 연소 온도를 높이면, NOx의 생성이 증가합니다.
+  이는 NOx가 고온에서 산소와 질소가 결합할 때 생성되기 때문입니다. (D) 반응 시간을 길게 한다: 이론적으로, 반응 시간을 길게 하면 연소
+  과정이 더욱 완전해지고, 이는 NOx의 생성을 줄일 수 있습니다. 그러나 실제로는 연소 시간이 길어지면 엔진의 효율이 떨어질 수 있으므로, 이
+  방법이 항상 적용 가능한 것은 아닙니다.  , 산소의 농도를 낮추는 것이 디젤 엔진에서 NOx의 발생을 억제하는 가장 효과적인 방법으로 보입니다.
+  이는 연소 과정에서 산소와 질소가 결합하여 NOx를 생성하는 것을 줄일 수 있기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 전자제어 기관에서 산소센서가 피드백이 되는 조건은?
+
+  A.냉각수온이 낮을 때
+
+  B.시동시
+
+  C.연료차단시
+
+  D.공전시
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 산소센서가 피드백 되는 조건을 파악하기 위해 전자제어
+  기관에서의 산소센서 역할을 이해해야 합니다. 산소센서는 배기가스 중 산소 농도를 검출하여 ECU(전자제어장치)에 전달하는 역할을 합니다. 이를
+  통해 ECU는 엔진의 상태를 파악하고, 최적의 공연비를 유지할 수 있도록 제어합니다. 산소센서가 피드백 되는 조건은 다음과 같습니다. - 엔진이
+  가동 중일 때: 산소센서는 엔진이 가동 중일 때만 작동합니다. - 공연비가 적절할 때: 산소센서는 공연비가 적절할 때만 피드백 됩니다. 공연비란,
+  공기와 연료의 비율을 말합니다. - 냉각수온이 정상일 때: 냉각수온이 낮으면 산소센서의 작동에 영향을 미칠 수 있습니다. 위의 조건을 바탕으로
+  선택지를 검토해보겠습니다. (A) 냉각수온이 낮을 때: 냉각수온이 낮으면 산소센서의 작동에 영향을 미칠 수 있으므로, 이는 피드백이 되는 조건이
+  아닙니다. (B) 시동시: 시동 시에는 엔진이 가동 중이지만, 공연비가 적절하지 않을 수 있으므로, 이는 피드백이 되는 조건이 아닙니다. (C)
+  연료차단시: 연료차단시에는 엔진이 가동 중이지만, 공연비가 적절하지 않을 수 있으므로, 이는 피드백이 되는 조건이 아닙니다. (D) 공전시: 공전시에는
+  엔진이 가동 중이고, 공연비가 적절하게 유지되므로, 이는 피드백이 되는 조건입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 크랭크축 메인저널의 외경이 규정보다 작을 때 일어나는 현상으로 가장 적당한 것은?
+
+  A.오일유압의 압력저하로 적당한 오일의 공급량이 적어 오일의 오염도가 적다.
+
+  B.오일간극이 적어 베어링의 소결이 생긴다.
+
+  C.오일압력의 상승으로 각부에 윤활공급이 확실하다.
+
+  D.운행중 소음이 많이 발생된다.
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 크랭크축 메인저널의 외경이 규정보다 작을 때의 현상을 생각해보면,
+  이는 크랭크축과 베어링 사이의 간극이 커지는 상황을 의미합니다. 크랭크축과 베어링 사이의 간극이 커지면, 이 간극 사이를 통과하는 엔진오일의 양이
+  많아지게 됩니다. 이로 인해 오일 압력이 감소하게 될 것입니다. 하지만, 선택지 A의 ''오일유압의 압력저하로 적당한 오일의 공급량이 적어 오일의
+  오염도가 적다''는 설명은 오일 압력이 감소했지만, 오일의 공급량이 적어지는 것은 아니며, 오염도가 적어지는 ���도 아닙니다. 선택지 B의 ''오일간극이
+  적어 베어링의 소결이 생긴다''는 설명은 크랭크축의 외경이 작아져 오일간극이 커진 상황과는 반대의 상황을 설명하고 있습니다. 선택지 C의 ''오일압력의
+  상승으로 각부에 윤활공급이 확실하다''는 설명은 크랭크축의 외경이 작아져 오일 압력이 감소하는 상황과는 반대의 상황을 설명하고 있습니다. 선택지
+  D의 ''운행중 소음이 많이 발생된다''는 설명은 크랭크축과 베어링 사이의 간극이 커져서 오일이 제대로 윤활을 하지 못하면, 마찰로 인해 소음이
+  발생할 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 디젤엔진의 공기여과기가 막혔을 때 나타나는 현상이 아닌 것은?
+
+  A.가속 불량
+
+  B.연료소비 과다
+
+  C.매연 과다배출
+
+  D.엔진오일 연소
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 디젤엔진의 공기여과기는 엔진이 외부에서 공기를 빨아들일 때
+  그 공기에 포함된 먼지나 이물질을 걸러내는 역할을 합니다. 이 공기여과기가 막혔을 때, 공기 흐름이 제대로 이루어지지 않아 엔진의 효율이 떨어질
+  수 있습니다. (A) 가속 불량: 공기여과기가 막혀 공기의 흐름이 제대로 이루어지지 않으면, 연료의 완전한 연소를 방해하게 되어 엔진의 출력이
+  떨어지고, 결국 가속력이 떨어질 수 있습니다.   이는 맞는 설명입니다. (B) 연료소비 과다: 엔진의 효율이 떨어지면 연료의 소비량이 증가하게
+  됩니다. 이는 공기여과기가 막힘으로 인해 공기와 연료의 비율이 제대로 맞지 않아 연료가 완전히 연소되지 않고 일부가 낭비되기 때문입니다.   이는
+  맞는 설명입니다. (C) 매연 과다배출: 공기여과기가 막혀 연료의 완전한 연소가 이루어지지 않으면, 미연소 연료가 배기가스와 함께 배출되어 매연이
+  증가하게 됩니다.   이는 맞는 설명입니다. (D) 엔진오일 연소: 엔진오일의 연소는 엔진오일이 엔진실린더 내로 유입되어 연소되는 현상을 말합니다.
+  이는 주로 엔진의 내부 부품이 마모되거나 오일 밀봉부가 손상되어 발생하는 현상으로, 공기여과기의 상태와는 직접적인 관련이 없습니다.   이는 디젤엔진의
+  공기여과기가 막혔을 때 나타나는 현상이 아닌 것으로 보입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 행정체적이 240cc이고 압축비가 9일 때 연소실 체적은 몇 cc인가?
+
+  A.20cc
+
+  B.30cc
+
+  C.40cc
+
+  D.65cc
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 압축비는 피스톤이 최하단에서 최상단으로 이동했을 때 실린더
+  내부의 전체 부피와 피스톤이 최상단에 있을 때 남는 연소실의 부피의 비율을 나타냅니다. 수학적으로 표현하면: \[ \text{압축비} = \frac{\text{행정체적}
+  + \text{연소실 체적}}{\text{연소실 체적}} \] 이 식을 연소실 체적에 대해 풀면: \[ \text{연소실 체적} = \frac{\text{행정체적}}{\text{압축비}
+  - 1} \] 여기서 주어진 값은 행정체적이 240cc이고 압축비가 9입니다. 이를 식에 대입하여 연소실 체적을 계산해 보겠습니다. 행정체적 =
+  240 압축비 = 9 연소실_체적 = 행정체적 / (압축비 - 1) = 240 / 8 = 30 연소실의 체적은 30cc입니다. 따라서, 정답은
+  (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_construction

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_criminal_law.yaml

@@ -0,0 +1,136 @@
+dataset_name: criminal_law
+doc_to_text: '질문: 책임능력에 대한 설명으로 옳은 것은?
+
+  A.심 신장애는 생물학적 요소 외에 심리학적 요소로서 정신병 또는 비정상적 정신 상태와 같은 정신적 장애로 말 미암아 사물에 대한 변별 능력과
+  그에 따른 행위 통제능력이 결여되거나 감소되었음을 요한다.
+
+  B.심 신장애인의 행위인지 여부는 전문가의 감정, 그 행위의 전 후 사정이나 기록에 나타난 제반 자료를 종합하여 인정하되 , 공판정 에서의 피고인의
+  태도를 고려하여서는 안 된다.
+
+  C.성적 측면에서의 성격적 결함에 따른 소아기 호증은 그 증상이 심각하여 원래의 의 미의 정신병이 있는 사람과 동 등하다고 평가할 수 있더라도
+  심신장애를 인정할 여지는 없다.
+
+  D.위험의 발생을 예견할 수 있었는데도 자의로 심신장애를 야기한 경우는 원인에 있어서 자유로운 행위에 관한 형 법 제10조 제3항의 적용 대상이
+  아니다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 책임능력은 행위자가 자신의 행위의 결과를 인식하고 그에
+  대한 책임을 질 수 있는 능력을 말합니다. 이는 생물학적 요소와 심리학적 요소로 구성됩니다. 생물학적 요소는 신체적 또는 정신적 질환이나 장애를
+  의미하며, 심리학적 요소는 사물에 대한 변별 능력과 그에 따른 행위 통제능력을 의미합니다. 사물에 대한 변별 능력은 행위의 옳고 그름을 판단할
+  수 있는 능력을 말합니다. 행위 통제능력은 자신의 행동을 통제할 수 있는 능력을 말합니다. 이러한 능력이 결여되거나 감소된 경우에는 책임능력이
+  없다고 판단됩니다. (B)는 공판정에서의 피고인의 태도를 고려하지 않는다는 부분이 옳지 않습니다. 피고인의 태도는 책임능력을 판단하는 데 중요한
+  요소 중 하나입니다. (C)는 성적 측면에서의 성격적 결함에 따른 소아기호증은 심신장애를 인정할 여지가 있다는 것이 최근 대법원 판례의 입장입니다.   옳지
+  않습니다. (D)는 위험의 발생을 예견할 수 있었는데도 자의로 심신장애를 야기한 경우는 원인에 있어서 자유로운 행위에 관한 형법 제10조 제3항의
+  적용 대상이 됩니다.   옳지 않습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 형법상 가석방 제도에 대한 설명으로 옳은 것은?
+
+  A.형기에 산입된 판결 선고 전 구금의 일수는 가석방에 있어서 집행을 경과한 기간에 산입하지 아니한다.
+
+  B.가석방의 기간은 무기형에 있어서는 20년으로 하고, 유기형에 있어서는 남은 형기로 하되, 그 기간은 10년을 초과할 수 없다.
+
+  C.징역 또는 금고의 집행 중에 있는 자가 그 행상이 양호하여 개전의 정이 현저한 때에는 무기에 있어서는 10년, 유기에 있어서는 형기의 2분의
+  1을 경과한 후 행정처분으로 가석방을 할 수 있다.
+
+  D.가석방의 처분을 받은 자가감시에 관한 규칙을 위배하거나, 보호관찰의 준수사항을 위반하고 그 정도가 무거운 때에는 가석방 처분을 취소할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 형법 제57조 제1항에 따르면, 형기에 산입된 판결
+  선고 전 구금의 일수는 가석방에 있어서 집행을 경과한 기간에 산입한다고 명시되어 있습니다.   (A)는 옳지 않습니다. (B) 형법 제73조의2에
+  따르면, 가석방의 기간은 무기형에 있어서는 10년으로 하고, 유기형에 있어서는 남은 형기로 하되, 그 기간은 10년을 초과할 수 없다고 명시되어
+  있습니다.   (B)는 옳지 않습니다. (C) 형법 제72조 제1항에 따르면, 징역 또는 금고의 집행 중에 있는 자가 그 행상이 양호하여 개전의
+  정이 현저한 때에는 무기에 있어서는 10년, 유기에 있어서는 형기의 3분의 1을 경과한 후 행정처분으로 가석방을 할 수 있다고 명시되어 있습니다.   (C)는
+  옳지 않습니다. (D) 형법 제75조에 따르면, 가석방의 처분을 받은 자가 감시에 관한 규칙을 위배하거나, 보호관찰의 준수사항을 위반하고 그 정도가
+  무거운 때에는 가석방 처분을 취소할 수 있다고 명시되어 있습니다.   (D)는 옳은 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 공소시효에 대한 설명으로 옳지 않은 것은?
+
+  A.범죄 후 법률의 개정에 의하여 법정형이 가 벼워진 경우에는 형법 제1조 제2항에 의하여 당해 범죄 사실에 적용될 가벼운 법정형인 신법의 법정형이
+  공소시효 기간의 기준이 된��.
+
+  B.1개의 행위가 형법 상 사기죄와 변호사법 위반죄에 해당하고 양 죄가 상상적 경합 관계에 있는 경우, 변호사법 위반죄의 공소시효가 완성되었다면
+  사기죄의 공소시효도 완성된 것으로 보아야 한다.
+
+  C.공범의 1인으로 기소된 자가 범죄의 증명이 없다는 이유로 무죄의 확정 판결을 선 고 받은 경우, 그는 공범이라고 할 수 없으므로 그에 대하여
+  제기된 공소는 진범에 대한 공소시효를 정 지시키는 효력이 없다.
+
+  D.공범의 1인에 대한 공소시효 정지는 다른 공범자에게 대하여 그 효력이 미치는데 , 여기의 ‘공범’에는 뇌물공여죄와 뇌물수수죄 사이와 같은 대
+  향범 관계에 있는 자는 포함되지 않는다 .
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지가 어떤 내용을 담고 있는지 확인해봅시다. (A)는
+  범죄 후 법률의 개정에 따라 법정형이 가벼워진 경우, 가벼운 법정형의 신법이 공소시효 기간의 기준이 된다는 내용입니다. 형법 제1조 제2항에 따르면,
+  범죄를 저지른 후 법률이 변경되어 처벌이 가벼워진 경우에는 그 가벼운 처벌을 적용해야 한다는 내용이므로 이는 맞는 내용입니다. (B)는 1개의
+  행위가 사기죄와 변호사법 위반죄에 해당하며, 두 죄가 상상적 경합 관계에 있는 경우, 변호사법 위반죄의 공소시효가 완성되면 사기죄의 공소시효도
+  완성된다는 내용입니다. 상상적 경합이란 하나의 행위로 여러 죄가 동시에 성립하는 경우를 말합니다. 그러나 각각의 죄는 독립적으로 공소시효가 적용되므로,
+  한 죄의 공소시효가 완성되었다고 해서 다른 죄의 공소시효가 완성되는 것은 아닙니다. (C)는 공범에 대한 공소시효에 대한 내용입니다. 이 내용은
+  공범이 무죄 판결을 받은 경우, 그 공범에 대한 공소가 다른 진범에 대한 공소시효를 정지시키지 않는다는 내용입니다. 이는 형법의 공소시효에 대한
+  일반적인 원칙과 일치합니다. 공범이 무죄 판결을 받았다면, 그는 법적으로 공범이 아니므로 그에 대한 공소가 다른 진범에 대한 공소시효를 정지시키는
+  효력은 없습니다. (D)는 공범 중 한 명에 대한 공소시효 정지가 다른 공범에게 그 효력이 미치지만, 뇌물공여죄와 뇌물수수죄 사이와 같은 대향범
+  관계에 있는 자는 포함되지 않는다는 내용입니다. 이는 맞는 내용입니다. 대향범 관계는 한 죄를 저지른 자와 그 죄를 교사하거나 선동한 자 등이
+  서로 다른 죄를 저지른 관계를 말하며, 이 경우 각각의 죄는 독립적으로 공소시효가 적용됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 상소심에 대한 설명으로 옳지 않은 것은?
+
+  A.피고인이 공소 기각의 판결에 대하여 무죄를 주장하며 상소하는 것은 상소 이익이 없으므로 허용되지 않는다 .
+
+  B.상고심 판결의 파기 이유가 된 사실상의 판단은 당해 사건의 하급심에 대하여 기 속력을 가지며 , 이 경우에 파기 판결의 기 속력은 파기의 직접
+  이유가 된 원 심판결에 대한 소극적인 부정 판단에 한하여 생긴 다 .
+
+  C.피고인이 제1심 판결에 대하여 양형 부당만을 항소이유로 내세워 항소하였다가 기각된 경우, 피고인은 그 항소심 판결에 대하여 사실 오인 또는
+  법리 오해의 위법이 있다는 것을 상고 이유로 삼을 수 없다.
+
+  D.법률의 해석 ㆍ 적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 항소심 판결에 대하여 검사만이 다른 사유를 들어 상고를 제기하였고 검사의
+  상고가 피고인의 이익을 위하여 제기된 것이 아님이 명백한 경우라면 , 상고법원은 직권으로 심판하여 무죄의 취지로 항소심 판결을 파기할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지를 하나씩 살펴보겠습니다. (A)는 피고인이
+  공소 기각의 판결에 대해 무죄를 주장하며 상소하는 것은 상소 이익이 없으므로 허용되지 않는다는 내용입니다. 이는 피고인이 이미 공소 기각, 즉
+  무죄 판결을 받았음에도 무죄를 주장하며 상소하는 것은 실질적인 이익이 없으므로 상소가 허용되지 않는다는 법리를 설명하고 있습니다. 이는 법적으로
+  옳은 설명입니다. (B)는 상고심 판결의 파기 이유가 된 사실상의 판단은 당해 사건의 하급심에 대하여 기 속력을 가지며, 이 경우에 파기 판결의
+  기 속력은 파기의 직접 이유가 된 원 심판결에 대한 소극적인 부정 판단에 ��하여 생긴다는 내용입니다. 이는 상고심 판결의 파기 이유가 된 사실
+  판단이 하급심에 대한 기속력을 가진다는 법리를 설명하고 있으며, 이는 법적으로 옳은 설명입니다. (C)는 피고인이 제1심 판결에 대하여 양형 부당만을
+  항소이유로 내세워 항소하였다가 기각된 경우, 피고인은 그 항소심 판결에 대하여 사실 오인 또는 법리 오해의 위법이 있다는 것을 상고 이유로 삼을
+  수 없다는 내용입니다. 이는 피고인이 양형 부당만을 항소이유로 내세웠다가 기각된 경우, 그 항소심 판결에 대해 새로운 상고 이유를 제시할 수 없다는
+  법리를 설명하고 있습니다. 이 역시 법적으로 옳은 설명입니다. (D)는 법률의 해석ㆍ적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 항소심 판결에
+  대하여 검사만이 다른 사유를 들어 상고를 제기하였고 검사의 상고가 피고인의 이익을 위하여 제기된 것이 아님이 명백한 경우라면, 상고법원은 직권으로
+  심판하여 무죄의 취지로 항소심 판결을 파기할 수 없다는 내용입니다. 하지만, 법률의 해석ㆍ적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 경우라면,
+  상고법원은 검사의 상고가 피고인의 이익을 위하여 제기된 것이 아님에도 불구하고 직권으로 심판하여 무죄의 취지로 항소심 판결을 파기할 수 있습니다.   이
+  선택지는 잘못된 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 형법 제1조 제2항에 대한 설명으로 옳지 않은 것은?
+
+  A.범죄 후 법률의 변경이 있더라도 형의 변경이 없는 경우에는 형법 제1조 제1항에 따라 행위 시법을 적용해야 한다.
+
+  B.형의 경중의 비교는 원칙적으로 법정형을 표준으로 하고, 처단형이나 선고형에 의할 것은 아니다 .
+
+  C.범죄 후 형벌법규의 위임을 받은 법령의 변경에 따라 범죄를 구성하지 아니하게 된 경우, 종전 법령이 범죄로 정하여 처벌한 것이 부당하였다는
+  반성적 고려에 따라 변경된 경우에 한하여 형 법 제1조 제2항이 적용된 다 .
+
+  D.행위 시 양벌규정에는 법인에 대한 면책 규정이 없었으나 법률 개정으로 면책 규정이 추가된 경우, 법원은 형법 제1조 제2항에 따라 피고인에게
+  개정된 양벌규정을 적용해야 한다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 형법 제1조 제2항에 따르면, 범죄 후 법률의 변경에 의하여
+  그 행위가 범죄를 구성하지 아니하거나 형이 구법보다 경한 때에는 신법에 의한다고 규정하고 있습니다. 즉, 법률이 변경된 경우에는 그 변경된 법률을
+  적용해야 한다는 것입니다. (A)는 옳은 설명입니다. 범죄 후 법률의 변경이 있더라도 형의 변경이 없는 경우에는 형법 제1조 제1항에 따라 행위
+  시법을 적용해야 합니다. (B)는 옳은 설명입니다. 형의 경중의 비교는 원칙적으로 법정형을 표준으로 하고, 처단형이나 선고형에 의할 것은 아닙니다.
+  (D)는 옳은 설명입니다. 행위 시 양벌규정에는 법인에 대한 면책 규정이 없었으나 법률 개정으로 면책 규정이 추가된 경우, 법원은 형법 제1조
+  제2항에 따라 피고인에게 개정된 양벌규정을 적용해야 합니다. (C)는 옳지 않은 설명입니다. 범죄 후 형벌법규의 위임을 받은 법령의 변경에 따라
+  범죄를 구성하지 아니하게 된 경우, 종전 법령이 범죄로 정하여 처벌한 것이 부당하였다는 반성적 고려에 따라 변경된 경우에 형법 제1조 제2항이
+  적용되는 것은 맞지만, 법령의 변경이 있더라도 그것이 반성적 고려에서 비롯된 것이 아니라면 형법 제1조 제2항이 적용되지 않습니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_criminal_law

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_education.yaml

@@ -0,0 +1,115 @@
+dataset_name: education
+doc_to_text: '질문: 신 교육 사회학에 대한 설명으로 옳지 않은 것은?
+
+  A.학교 교육과정 또는 교육내용에 주목한다.
+
+  B.불평등의 문제를 학교 교육 안에서 찾는다.
+
+  C.학교에서 가르치는 지식의 사회적 성격을 탐구한다.
+
+  D.구조기능주의에 기반하여 교육의 사회적 기능을 탐구한다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 신 교육 사회학은 학교 교육에 대한 사회학적 연구로서,
+  학교 교육이 사회적으로 어떻게 구성되고 어떤 영향을 미치는지에 대한 탐구를 수행합니다. 이를 바탕으로 선택지를 살펴보겠습니다. (A) 학교 교육과정
+  또는 교육내용에 주목한다는 것은 신 교육 사회학의 주요한 특징 중 하나입니다. 신 교육 사회학은 교육과정이 사회적으로 구성되어 있으며, 이에 따라
+  학생들이 습득하는 지식과 가치가 영향을 받는다고 주장합니다. (B) 불평등의 문제를 학교 교육 안에서 찾는다는 것도 신 교육 사회학의 중요한 특징
+  중 하나입니다. 신 교육 사회학은 학교 교육이 사회적 불평등을 재생산하는 데에 기여한다고 주장합니다. (C) 학교에서 가르치는 지식의 사회적 성격을
+  탐구한다는 것은 신 교육 사회학의 핵심적인 주장 중 하나입니다. 신 교육 사회학은 지식이 사회적으로 구성되어 있으며, 학교에서 가르치는 지식 역시
+  사회적 맥락에 따라 형성된다고 주장합니다. (D) 구조기능주의에 기반하여 교육의 사회적 기능을 탐구한다는 것은 신 교육 사회학의 특징이 아닙니다.
+  신 교육 사회학은 구조기능주의에 비판적이며, 교육의 사회적 기능을 다른 관점에서 해석합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 피들러(Fiedler)의 리더십 상황이론에서 강조하는 ‘상황’ 요소에 포함되지 않는 것은?
+
+  A.구성원의 성숙도
+
+  B.과업의 구조화 정도
+
+  C.지도자와 구성원의 관계
+
+  D.지도자가 구성원에 대해 가지고 있는 영향력의 정도
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 피들러의 리더십 상황이론은 리더의 성향과 상황 요소를 중심으로
+  한 이론입니다. 이 이론에 따르면, 리더의 성향과 상황 요소의 적절한 조합이 효과적인 리더십을 만들어낸다는 것이 핵심입니다. 상황 요소에는 ''과업의
+  구조화 정도'', ''지도자와 구성원의 관계'', ''지도자가 구성원에 대해 가지고 있는 영향력의 정도'' 등이 포함됩니다. ''과업의 구조화
+  정도''는 과업이 얼마나 명확하게 정의되고, 어떻게 수행되어야 하는지에 대한 정도를 의미합니다. ''지도자와 구성원의 관계''는 상호 신뢰, 존경,
+  감정적 애착 등을 포함합니다. ''지도자가 구성원에 대해 가지고 있는 영향력의 정도''는 리더의 권위와 영향력을 의미합니다. 그러나 ''구성원의
+  성숙도''는 허시-블랜차드의 리더십 이론에서 중요한 요소로 다루어지는 개념입니다. 이 이론에서는 구성원의 역량과 동기에 따라 리더십 스타일을 조절해야
+  한다는 주장을 하고 있습니다.  , 피들러의 리더십 상황이론에서 강조하는 ''상황'' 요소에는 ''구성원의 성숙도''가 포함되지 않습니다. 이는
+  허시-블랜차드의 리더십 이론에서 중요하게 다루어지는 요소입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 교육행정의 원리에 대한 설명으로 옳지 않은 것은?
+
+  A.안정성 의 원리는 교육정책을 일관되고 지속적으로 추진해야 한다는 것이다.
+
+  B.효율성 의 원리는 교육에 투입되는 비용을 상대적으로 적게 하면서 교육 목표를 달성하려는 것이다.
+
+  C.자주 성의 원리는 지역의 특수성과 다양성을 반영하여 주민의 적극적인 의사와 자발적인 참여를 강조하는 것이다.
+
+  D.민주성 의 원리는 이해당사자들의 의사를 적극적으로 반영하고 그들을 의사결정 과정에 적절하게 참여시켜야 한다는 것이다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 교육행정의 원리에 대해 알아보겠습니다. 우선 교육행정의 원리는
+  합법성, 기회균등, 자주성 존중, 지방분권, 민주성, 공공성, 효율성, 안정성 유지, 전문성 보장의 원리로 이루어진 9가지가 존재합니다. (A)
+  안정성의 원리는 교육정책을 일관되고 지속적으로 추진해야 한다는 것으로, 교육의 효과를 높이고 사회적 안정을 유지하기 위해 중요합니다. (B) 효율성의
+  원리는 교육에 투입되는 비용을 상대적으로 적게 하면서 교육 목표를 달성하려는 것으로, 교육 예산을 효율적으로 활용하고 교육의 성과를 높이기 위해
+  중요합니다. (D) 민주성의 원리는 이해당사자들의 의사를 적극적으로 반영하고 그들을 의사결정 과정에 적절하게 참여시켜야 한다는 것으로, 교육행정의
+  공정성과 투명성을 높이고 교육의 발전을 이루기 위해 중요합니다. 하지만, (C) 자주성의 원리는 교육행정의 원리에 해당하지 않습니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: 문화실조론의 주장으로 옳지 않은 것은?
+
+  A.학생의 학습 실패 중요 요인으로 학생의 문화적 경험 부족을 지목한다.
+
+  B.문화적 상대주의 관점이며, 학생 간의 교육격차가 문화적 결핍 보다는 문화적 차이 때문이라고 본다.
+
+  C.빈곤 가정의 결핍된 문화적 환경을 보상하기 위한 프로그램 중 하나가 헤드스타트 프로그램이다.
+
+  D.학교에서 학생들의 성공과 실패는 유전적으로 결정된 것이 아니라고 본다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 문화실조론에 대해 알아보겠습니다. 문화실조론은 1960년대
+  미국에서 빈곤층 아동들의 학업 성적 저하를 설명하기 위해 제기된 이론입니다. 이 이론은 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족이 주된 원인이라고 주장합니다. 이에 따라 빈곤층 아동들의 문화적 경험을 풍부하게 하기 위한 여러 프로그램들이 제안되었는데, 그 중 하나가
+  헤드스타트 프로그램입니다. 선택지 (A)는 문화실조론의 주요 주장을 잘 나타내고 있습니다. 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족 때문이라는 것이 이론의 핵심입니다.   (A)는 문화실조론의 주장입니다. 선택지 (B)는 문화적 상대주의 관점을 언급하고 있습니다. 이는
+  문화실조론과는 약간 다른 관점입니다. 문화적 상대주의는 모든 문화가 동등하다는 주장이며, 이는 문화실조론이 주장하는 ''문화적 결핍''과는 상반되는
+  개념입니다. 문화실조론은 특정 문화(여기서는 빈곤층 아동들의 문화)가 결핍되었다고 보는 반면, 문화적 상대주의는 모든 문화가 동등하다고 보기 때문입니다.   (B)는
+  문화실조론의 주장이 아닙니다. 선택지 (C)는 문화실조론이 주장하는 바를 잘 나타내고 있습니다. 빈곤층 아동들의 문화적 경험을 풍부하게 하기 위한
+  프로그램 중 하나가 헤드스타트 프로그램이라는 것이 이론의 주장입니다. 마지막으로 선택지 (D)는 학교에서 학생들의 성공과 실패는 유전적으로 결정된
+  것이 아니라고 보는 것입니다. 이는 문화실조론이 주장하는 바와 일치합니다. 문화실조론은 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족이 주된 원인이라고 보기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 평생교육법 상평생학습도시에 대한 설명으로 옳지 않은 것은?
+
+  A.평생학습도시의 지정 및 지원에 필요한 사항은 교육부 장관이 정한다.
+
+  B.전국평생학습도시협의회의 구성 및 운영에 필요한 사항은 교육부령으로 정한다.
+
+  C.평생학습도 시 간의 연계․ 협력 및 정보교류의 증진을 위하여 전국 평생학습도시협의회를 둘 수 있다.
+
+  D.국가는 지역사회의 평생교육 활성화를 위하여 시․군 및 자치구를 대상으로 평생학습도시를 지정 및 지원할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 우선, 평생교육법을 확인해야 합니다. 평생교육법 제24조에
+  따르면, 국가는 지역사회의 평생교육 활성화를 위하여 시․군 및 자치구를 대상으로 평생학습도시를 지정 및 지원할 수 있다. 이를 통해 선택지 (D)는
+  정확하다는 것을 알 수 있습니다. 그리고 평생교육법 제24조의2에는 평생학습도시의 지정 및 지원에 필요한 사항은 교육부 장관이 정한다는 내용이
+  있습니다. 이를 통해 선택지 (A)도 옳다는 것을 확인할 수 있습니다. 또한, 평생교육법 제24조의3에서는 평생학습도시 간의 연계․협력 및 정보교류의
+  증진을 위하여 전국 평생학습도시협의회를 둘 수 있다는 내용이 있습니다.   선택지 (C)도 옳다는 것을 확인할 수 있습니다. 하지만, 평생교육법에는
+  전국평생학습도시협의회의 구성 및 운영에 필요한 사항은 교육부령으로 정한다는 내용은 없습니다. 이를 통해 선택지 (B)가 평생교육법 상평생학습도시에
+  대한 설명으로 옳지 않다는 것을 알 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_education

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_gas_technology_and_engineering.yaml

@@ -0,0 +1,118 @@
+dataset_name: gas_technology_and_engineering
+doc_to_text: '질문: 건축물 내 도시가스 매설배관으로 부적합한 것은?
+
+  A.동관
+
+  B.강관
+
+  C.스테인리스강
+
+  D.가스용 금속플렉시블호스
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 건축물 내에서 도시가스 매설배관에 사용되는 재료에
+  대한 규정에 따르면, 스테인리스강관, 동관, 가스용 금속플렉시블호스가 적절한 재료로 규정되어 있습니다. 이러한 규정은 배관의 안전성과 관련하여
+  매우 중요한 부분으로, 배관이 올바르게 설치되고 유지되는 것이 필수적입니다. 각 재료는 특정한 조건과 기준에 따라 설치되어야 하며, 예를 들어
+  동관은 금속제 보호관이나 보호판을 통해 추가적인 보호조치를 받아야 합니다. 선택지를 살펴보면, 강관이 명시적으로 부적합한 재료로 규정되지 않았습니다.  ,
+  정답은 강관(B)이 아닙니다. 다른 선택지들인 동관(A), 스테인리스강(C), 그리고 가스용 금속플렉시블호스(D)는 모두 건축물 내 도시가스 매설배관으로
+  사용될 수 있는 재료로 지정되어 있습니다. 이러한 정보에 기반하여, 건축물 내 도시가스 매설배관으로 부적합한 것은 강관(B)이라는 결론에 도달할
+  수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 시안화수소를 충전한 용기는 충전 후 몇 시간 정치한 뒤 가스의 누출검사를 해야 하는가?
+
+  A.6
+
+  B.12
+
+  C.18
+
+  D.24
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 시안화수소(Hydrogen Cyanide)에
+  대해 알아보겠습니다. 시안화수소는 매우 독성이 강한 가스로, 사람의 건강에 해로울 뿐만 아니라 환경에도 유해합니다.   이 가스를 다룰 때는 매우
+  주의해야 합니다. 그 다음으로, 가스를 충전한 용기의 누출 검사에 대해 알아보겠습니다. 가스 용기는 충전 후 안전하게 보관되어야 하며, 누출이
+  없는지 꼼꼼히 확인해야 합니다. 이는 가스의 종류에 관계없이 일반적으로 적용되는 안전 규정입니다. 하지만, 시안화수소를 충전한 용기가 충전 후
+  몇 시간 정치한 뒤에 누출 검사를 해야 하는지에 대한 구체적인 정보는 일반적인 지식으로는 알 수 없습니다. 이에 대한 정확한 정보를 얻기 위해서는
+  가스 기술 및 엔지니어링에 대한 전문적인 지식이 필요하며, 해당 분야의 규정이나 가이드라인을 참조해야 합니다. 시안화수소 가스를 충전한 용기에
+  대한 누출 검사 시기는 특정 업체나 기관의 내부 규정에 따라 다를 수 있습니다. 그러나 일반적으로 가스를 충전한 용기의 누출 검사는 충전 직후,
+  그리고 정기적으로 수행되어야 합니다. 이는 가스의 독성 뿐만 아니라 압력 등의 위험성 때문입니다.   가장 안전한 방법은 가스를 충전한 직후,
+  그리고 가능한 한 자주 누출 검사를 수행하는 것입니다. 하지만 이 질문에 대한 구체적인 답변을 제공하기 위해선, 각 선택지에 대한 구체적인 근거가
+  필요하며, 이를 위해선 시안화수소 가스를 다루는 특정 업체나 기관의 내부 규정을 참조해야 합니다.  , 이 질문에 대한 정확한 답변을 제공하기는
+  어렵습니다. 이런 경우에는, 가장 일반적이고 안전한 방법을 선택하는 것이 가장 좋습니다. 가스를 충전한 용기의 누출 검사는 충전 직후, 그리고
+  가능한 한 자주 수행되어야 하므로, 가장 긴 시간을 선택하는 것이 가장 안전할 것입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 도시가스공급시설의 공사계획 승인 및 신고대상에 대한 설명으로 틀린 것은?
+
+  A.제조소 안에서 액화가스용저장탱크의 위치변경 공사는 공사계획 신고대상이다.
+
+  B.밸브기지의 위치변경 공사는 공사계획 신고대상이다.
+
+  C.호칭지름이 50㎜ 이하인 저압의 공급관을 설치하는 공사는 공사계획 신고대상에서 제외한다.
+
+  D.저압인 사용자공급관 50m를 변경하는 공사는 공사계획 신고대상이다.
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 질문에 대한 정확한 답변을 위해 각 선택지에
+  대한 도시가스공급시설의 공사계획 승인 및 신고대상에 관한 규정을 살펴보겠습니다. (A) 제조소 안에서 액화가스용저장탱크의 위치변경 공사: 일반적으로
+  이러한 종류의 공사는 중요하며 신고 대상일 가능성이 높습니다. (B) 밸브기지의 위치변경 공사: 밸브기지 내 배관 관련 공사는 공사계획 신고대상에
+  포함되지 않습니다. (C) 호칭지름이 50㎜ 이하인 저압의 공급관을 설치하는 공사: 호칭지름 50밀리미터 이하인 저압의 공급관 관련 공사는 공사계획
+  신고대상입니다. (D) 저압인 사용자공급관 50m를 변경하는 공사: 길이 50미터 미만인 저압 사용자공급관 관련 공사는 공사계획 신고대상입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 고압가스용 냉동기에 설치하는 안전장치의 구조에 대한 설명으로 틀린 것은?
+
+  A.고압차단장치는 그 설정압력이 눈으로 판별할 수 있는 것으로 한다.
+
+  B.고압차단장치는 원칙적으로 자동복귀방식으로 한다.
+
+  C.안전밸브는 작동압력을 설정한 후 봉인될 수 있는 구조로 한다.
+
+  D.안전밸브 각부의 가스통과 면적은 안전밸브의 구경면적 이상으로 한다.
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 설명을 이해하고, 그것이
+  고압가스용 냉동기에 설치하는 안전장치의 구조에 대한 일반적인 규칙과 일치하는지 확인해야 합니다. (A) 고압차단장치는 그 설정압력이 눈으로 판별할
+  수 있는 것으로 한다. - 고압차단장치는 가스의 압력이 설정 압력 이상으로 상승하면 자동으로 가스 흐름을 차단하는 장치입니다. 이는 과도한 압력으로
+  인한 사고를 방지합니다. 설정 압력이 눈으로 확인 가능하다는 것은 사용자가 안전장치의 작동 압력을 쉽게 확인하고 조정할 수 있음을 의미합니다.
+  이는 일반적으로 안전장치의 중요한 기능 중 하나입니다. (B) 고압차단장치는 원칙적으로 자동복귀방식으로 한다. - 자동복귀방식이란 일시적으로 고압
+  상태가 해소되면 자동으로 원래 상태로 복귀하는 방식을 의미합니다. 하지만, 원칙적으로는 고압차단 장치는 수동복귀 방식으로 해야합니다. 이는 고압차당
+  장치의 중요한 특징중 하나입니다. (C) 안전밸브는 작동압력을 설정한 후 봉인될 수 있는 구조로 한다. - 안전밸브는 과도한 압력이 발생하면 자동으로
+  열려 압력을 해소하는 장치입니다. 작동 압력을 설정한 후 봉인한다는 것은 이 압력 설정이 임의로 변경되는 것을 방지하기 위함입니다. 이는 안전밸브의
+  중요한 특성 중 하나입니다. (D) 안전밸브 각부의 가스통과 면적은 안전밸브의 구경면적 이상으로 한다. - 이는 가스가 안전밸브를 통과할 때 발생할
+  수 있는 압력 감소를 최소화하기 위한 설계 원칙입니다. 즉, 안전밸브의 각 부분에서 가스의 통과 면적이 구경 면적보다 크게 설계되어야 합니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 염소(Cl2)의 재해 방지용으로서 흡수제 및 재해제가 아닌 것은?
+
+  A.가성소다 수용액
+
+  B.소석회
+
+  C.탄산소다 수용액
+
+  D.물
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 염소(Cl2)는 가연성이 없지만, 강력한
+  산화제이며, 인체에 치명적일 수 있는 독성 가스입니다.   염소의 누출이나 사고를 방지하고, 그로 인한 피해를 최소화하기 위해 다양한 흡수제나
+  재해제가 사용됩니다. (A) 가성소다 수용액은 염소 가스를 흡수하는 데 효과적입니다. 염소와 가성소다가 반응하면 무해한 염화나트륨과 물이 생성되므로,
+  염소 가스의 누출을 방지하는 데 사용됩니다. (B) 소석회 역시 염소 가스를 흡수하는 데 효과적입니다. 소석회는 염소와 반응하여 염화칼슘을 생성하며,
+  이는 무해한 화합물입니다. (C) 탄산소다 수용액도 염소 가스를 흡수하는 데 사용됩니다. 탄산소다는 염소와 반응하여 염화나트륨과 이산화탄소, 그리고
+  물을 생성합니다. 이 반응은 염소 가스를 안전하게 제거하는 데 도움이 됩니다. (D) 물은 염소 가스를 흡수하는 능력이 있지만, 그 효과는 위의
+  세 가지 물질에 비해 상대적으로 약합니다. 또한, 물과 염소가 반응하면 염산과 산소가 생성되는데, 이들은 모두 환경에 해롭습니다.   물은 염소
+  가스의 재해 방지용으로서의 흡수제나 재해제로서 적합하지 않습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_gas_technology_and_engineering

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_interior_architecture_and_design.yaml

@@ -0,0 +1,123 @@
+dataset_name: interior_architecture_and_design
+doc_to_text: '질문: 실내디자인의 원리 중 조화ㆍ통일ㆍ변화에 대한 설명으로 옳지 않은 것은?
+
+  A.조화란 전체적인 조립방법이 모순없이 질서를 잡는 것을 말한다.
+
+  B.조화에는 시각적으로 동일한 요소간에 이루어지는 유사조화와 이질적인 요소간에 이루어지는 대비조화가 있다.
+
+  C.통일은 변화와 함께 모든 조형에 대한 미의 근원이 되는 원리이다.
+
+  D.통일과 변화는 각각 독립된 것으로 상호대립관계에 있다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 내용을 확인해보겠습니다. (A)
+  조화란 전체적인 조립방법이 모순없이 질서를 잡는 것을 말한다. - 이는 조화의 정의에 부합합니다. 조화는 디자인 요소들이 서로 잘 어우러져 전체적인
+  질서와 균형을 이루는 것을 의미합니다. (B) 조화에는 시각적으로 동일한 요소간에 이루어지는 유사조화와 이질적인 요소간에 이루어지는 대비조화가
+  있다. - 이 역시 조화의 한 형태를 설명하고 있습니다. 유사조화는 같은 종류의 요소들이 서로 조화를 이루는 것을, 대비조화는 서로 다른 요소들이
+  조화를 이루는 것을 의미합니다. (C) 통일은 변화와 함께 모든 조형에 대한 미의 근원이 되는 원리이다. - 통일은 디자인 요소들이 일관성을 가지고
+  전체적으로 연결되는 것을 의미하며, 변화는 디자인에 다양성과 흥미를 더하는 요소입니다. 두 원리는 모두 디자인의 미를 창출하는 중요한 요소입니다.
+  (D) 통일과 변화는 각각 독립된 것으로 상호대립관계에 있다. - 이 선택지는 잘못된 내용입니다. 통일과 변화는 디자인의 중요한 원리로서, 상호
+  보완적인 관계에 있습니다. 통일 없이 변화만 있다면 디자인은 혼란스러울 것이고, 반대로 변화 없이 통일만 있다면 디자인은 단조로울 것입니다.   둘은
+  상호대립하는 것이 아니라, 상호보완적인 관계에 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 건물과 일체화해서 만든 가구로서, 가구배치의 혼란을 없애고 공간을 최대한 활용할 수 있는 것은?
+
+  A.모듈러 가구
+
+  B.가동 가구
+
+  C.유닛 가구
+
+  D.붙박이 가구
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지의 정의를 이해하는 것이 중요합니다.
+  (A). 모듈러 가구: 모듈러 가구는 미리 제작된 독립적인 부품을 조립하여 사용하는 가구를 말합니다. 이 가구는 사용자의 필요에 따라 자유롭게
+  조립하거나 변경할 수 있습니다. (B). 가동 가구: 가동 가구는 위치를 쉽게 이동시킬 수 있는 가구를 말합니다. 이 가구는 공간의 배치를 쉽게
+  변경할 수 있어 유연성을 제공합니다. (C). 유닛 가구: 유닛 가구는 부분을 조립하여 다양한 형태를 만들 수 있는 가구를 의미합니다. 이 가구는
+  공간을 효율적으로 활용할 수 있습니다. (D). 붙박이 가구: 붙박이 가구는 건물의 일부로 설계되고 설치되는 가구를 말합니다. 이 가구는 공간을
+  최대한 활용하고 가구 배치의 혼란을 없앨 수 있습니다. 질문의 키워드는 ''건물과 일체화해서 만든 가구''와 ''가구배치의 혼란을 없애고 공간을
+  최대한 활용''입니다. 이 키워드를 기반으로 선택지를 살펴보면, 붙박이 가구가 가장 적합한 것으로 보입니다. 붙박이 가구는 건물과 일체화되어 설계되고,
+  공간을 최대한 활용하며 가구 배치의 혼란을 없앨 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 개보수(Renovation) 작업시 고려해야 할 사항으로 옳은 것은?
+
+  A.현장 실측 조사를 통해 기존 공간의 현황을 명확하게 파악하여야 한다.
+
+  B.기존 도면이 있을 경우 별도의 현장실측은 필요하지 않다.
+
+  C.기존 건축 구조의 영향을 전혀 받지 않는다.
+
+  D.전기 및 설비 관련사항에 대한 검토는 필요 없다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 개보수(Renovation) 작업은 기존의 건물이나
+  공간을 새롭게 개선하거나 수정하는 작업을 말합니다. 이를 위해서는 다음과 같은 사항들을 고려해야 합니다. (A) 선택지에서는 현장 실측 조사를
+  통해 기존 공간의 현황을 명확하게 파악해야 한다고 합니다. 이는 매우 중요한 점입니다. 현장 실측 조사는 실제 공간의 구조, 크기, 위치 등을
+  정확하게 파악하는 것을 돕습니다. 이를 통해 설계 도면을 만들거나 기존 도면을 수정하는데 필요한 정확한 정보를 얻을 수 있습니다.   이는 개보수
+  작업시 반드시 고려해야 할 사항입니다. (B) 선택지에서는 기존 도면이 있을 경우 별도의 현장실측은 필요하지 않다고 합니다. 하지만 이는 옳지
+  않습니다. 기존 도면이 있더라도 현장의 실제 상황과 도면이 일치하지 않을 수 있습니다. 또한, 건물의 사용 중에 생긴 변화나 손상 등을 파악하기
+  위해서도 현장 실측이 필요합니다. (C) 선택지에서는 기존 건축 구조의 영향을 전혀 받지 않는다고 합니다. 하지만 이는 잘못된 정보입니다. 기존
+  건축 구조는 개보수 작업에 큰 영향을 미칩니다. 구조의 안전성, 변경 가능성 등을 고려해야 하며, 구조를 무시하고 개보수를 진행하면 안전 문제가
+  발생할 수 있습니다. (D) 선택지에서는 전기 및 설비 관련사항에 대한 검토는 필요 없다고 합니다. 하지만 이 역시 옳지 않습니다. 전기 및 설비
+  시스템은 건물의 중요한 부분으로, 이들의 상태와 기능을 확인하고 필요한 경우 개선하거나 변경해야 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 전시공간 전시실의 순회 유형에 대한 설명으로 옳은 것은?
+
+  A.연속 순회형 : 순서별로 관람하기 때문에 지루하나 개개의 전시실을 폐쇄시키기에 유리하다.
+
+  B.갤러리 및 복도형 : 하나의 전시실을 패쇄시키면 전체 동선의 흐름이 막히게 되므로 비교적 소규모 전시실에 적합하다.
+
+  C.중앙홀형 : 중앙홀이 크면 동선의 혼란은 없으나 장래의 확장에는 무리가 있다.
+
+  D.갤러리 및 복도형 : 별도의 전시실 없이 복도만을 전시장으로 사용하며 뉴욕의 근대미술관, 구겐하임 미술관 등이 대표적이다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 개념을 정확히 이해하고 그에
+  따른 전시공간 전시실의 순회 유형을 분석해야 합니다. (A) 연속 순회형: 이 유형은 관람객이 한 방향으로만 움직이도록 설계된 공간을 의미합니다.
+  이는 관람객이 전시작품을 순서대로 볼 수 있게 해주지만, 각각의 전시실을 폐쇄하는 것이 용이하다는 점에서 장점이 있습니다. 그러나 이는 반드시
+  지루하다는 의미는 아닙니다. (B) 갤러리 및 복도형: 이 유형은 각 전시실이 복도를 통해 연결되어 있어, 한 전시실이 폐쇄되면 전체 동선의 흐름이
+  막히게 되는 구조를 의미합니다. 이는 소규모 전시실에 적합하다고 할 수 있습니다. (C) 중앙홀형: 이 유형은 중앙에 큰 공간이 위치하고, 그
+  주변에 전시실이 배치된 구조를 의미합니다. 중앙홀이 크면 동선의 혼란은 없지만, 장래의 확장에는 어려움이 있을 수 있습니다. (D) 갤러리 및
+  복도형: 이 유형은 별도의 전시실 없이 복도만을 전시장으로 사용하는 구조를 의미합니다. 이는 뉴욕의 근대미술관, 구겐하임 미술관 등에서 볼 수
+  있습니다. 각 선택지를 분석한 결과, (A) 선택지의 ''지루하다''는 표현은 연속 순회형의 특징을 정확하게 반영하지 않습니다. (B) 선택지는
+  갤러리 및 복도형의 특징을 잘 설명하고 있습니다. (C) 선택지는 중앙홀형의 특징을 잘 설명하고 있습니다. (D) 선택지는 복도만을 전시장으로
+  사용하는 갤러리 및 복도형의 특징을 잘 설명하고 있습니다.  , 정확한 설명을 한 것은 (B), (C), (D) 선택지입니다. 그러나 질문에서는
+  ''옳은 것''을 물어보고 있으므로 하나의 정답만 선택해야 합니다. 이 중에서 가장 일반적인 특징을 잘 설명하고 있는 것은 (C) 중앙홀형입니다.
+  이는 중앙홀이 크면 동선의 혼란은 없으나, 장래의 확장에는 무리가 있다는 특징을 잘 반영하고 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 공간의 최적치수 선정방법에 해당되지 않은 것은?
+
+  A.최소값 +α의 방법
+
+  B.최대값 -α의 방법
+
+  C.조정값 ±α의 방법
+
+  D.목표값 ±α의 방법
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 공간의 최적치수 선정방법을 평가할 때, 각 옵션의 의미와
+  일반적인 설계 및 계획 과정에서 사용되는 방법론을 고려해야 합니다. 각 옵션을 살펴보겠습니다: (A) 최소값 +α의 방법: 이 방법은 주어진 공간에
+  대한 최소 요구치수에 어떤 마진(α)을 더하여 최적치수를 결정하는 방식입니다. 이는 안전 마진을 고려한 보수적인 접근법으로 볼 수 있습니다. (B)
+  최대값 -α의 방법: 이 방법은 가능한 최대치수에서 어떤 마진(α)을 빼서 최적치수를 결정하는 방식입니다. 이 역시 마진을 고려하는 접근법으로,
+  과도한 공간 활용을 방지하기 위한 것일 수 있습니다. (C) 조정값 ±α의 방법: 이 방법은 특정 조정값에 대해 상하로 일정 범위(±α) 내에서
+  최적치수를 결정하는 방식입니다. 이는 유연성을 제공하는 동시에 특정 범위 내에서 조정을 허용하는 방식으로 해석될 수 있습니다. (D) 목표값 ±α의
+  방법: 이 방법은 특정 목표치수에 대해 상하로 일정 범위(±α) 내에서 최적치수를 결정하는 방식입니다. 이는 목표치에 대한 허용 오차를 고려한
+  방법으로, 실제 설계 및 계획 과정에서 흔히 사용됩니다. 이 중에서 "조정값 ±α의 방법" (C)은 다소 모호하고 일반적인 설계 및 계획 방법론과
+  다를 수 있습니다. "조정값"이라는 용어는 특정 기준이나 목표치를 명확하게 지칭하지 않으며, 실제 설계 및 계획 과정에서는 보통 최소값, 최대값,
+  또는 목표값과 같이 더 구체적이고 명확한 기준을 바탕으로 최적치수를 결정합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_interior_architecture_and_design

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_refrigerating_machinery.yaml

@@ -0,0 +1,119 @@
+dataset_name: refrigerating_machinery
+doc_to_text: '질문: 보일러 입구의 압력이 9800 kN/m2 이고, 응축기의 압력이 4900 N/m2 일 때 펌프 일은 약 몇 kJ/kg
+  인가? (단, 물의 비체적은 0.001 m3/kg 이다.)
+
+  A.-9.79
+
+  B.-15.17
+
+  C.-87.25
+
+  D.-180.52
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 펌프 일은 펌프에 의해 수행되는 일을 나타내며, 보일러와
+  응축기 간의 압력 차이에 의해 발생합니다. 펌프 일은 보통 펌프 입구와 출구 사이의 압력 차이와 물의 비체적을 곱하여 계산됩니다. 펌프 일(Wp)은
+  다음과 같은 공식으로 계산할 수 있습니다. Wp = v * (P2 - P1) 여기서 v는 물의 비체적(0.001 m3/kg), P2는 보일러의
+  압력(9800 kN/m2 = 9800000 N/m2), P1은 응축기의 압력(4900 N/m2)입니다.  , 펌프 일은 다음과 같이 계산됩니다.
+  Wp = 0.001 m3/kg * (9800000 N/m2 - 4900 N/m2) = 9795100 J/kg = 9795.1 kJ/kg 하지만,
+  이 값은 양수인데, 선택지 모두 음수입니다. 이는 펌프 일을 구할 때 압력 단위를 맞추지 않아서 발생한 문제입니다. 펌프 입구와 출구의 압력 단위를
+  같게 맞추어 계산해야 합니다.  , 보일러의 압력을 N/m2 단위로 변환하면 9800 kN/m2 = 9800000 N/m2입니다. 그러므로, 펌프
+  일은 다음과 같이 다시 계산됩니다. Wp = 0.001 m3/kg * (9800000 N/m2 - 4900 N/m2) = 9795100 J/kg
+  = 9.7951 kJ/kg 그러나 이 값도 선택지에 없습니다. 문제가 있는 것 같습니다. 다시 확인해보니, 펌프 일의 부호가 음수인 이유를 찾았습니다.
+  펌프 일은 시스템에 에너지를 공급하는 것이므로, 일반적으로 음수로 표시됩니다.  , 계산한 펌프 일에 음수 부호를 붙여주면 됩니다. 그래서, 펌프
+  일은 -9.7951 kJ/kg로 계산되며, 이는 선택지 A에 가장 가까운 값입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 피스턴-실린더 장치 내에 있는 공기가 0.3m3에서 0.1m3으로 압축되었다. 압축되는 동안 압력과 체적 사이에 P=aV-2의 관계가 성립하며,
+  계수 a=6 kPaㆍm2 이다. 이 과정 동안 공기가 한 일은 얼마인가?
+
+  A.-53.3 kJ
+
+  B.-1.1 kJ
+
+  C.253 kJ
+
+  D.-40 kJ
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 공기가 수행하는 일을 계산하는 문제입니다.
+  주어진 정보를 바탕으로 공기가 수행하는 일을 계산하는 공식을 이용하면 됩니다. 피스턴-실린더 장치에서의 공기가 수행하는 일은 보통 압력과 체적의
+  변화에 따라 결정됩니다. 이 문제에서는 압력과 체적 사이에 P=aV-2의 관계가 성립한다고 주어졌습니다. 이 관계식은 압력이 체적의 제곱에 반비례하며,
+  계수 a는 6 kPaㆍm2로 주어졌습니다. 일반적으로 가스의 압축에 의해 수행되는 일은 압력과 체적의 변화에 따른 적분으로 계산할 수 있습니다.
+  즉, 공기가 수행하는 일 W는 다음과 같이 표현됩니다: W = ∫PdV 여기서 P는 압력, V는 체적, dV는 체적의 미소 변화량입니다. 이 경우,
+  압력 P는 체적 V에 대한 함수로 주어졌으므로, 이를 대입하여 적분을 수행하면 됩니다.  , 공기가 수행하는 일 W는 다음과 같이 계산됩니다:
+  W = ∫PdV = ∫(aV-2)dV = a∫V-2dV = a[V-1/-1] (체적이 0.3m3에서 0.1m3으로 변할 때) = -6[(0.1)^-1
+  - (0.3)^-1] kJ = -6[10 - 3.33] kJ = -6*6.67 kJ = -40 kJ  , 공기가 수행하는 일은 -40 kJ입니다.
+  이는 압축 과정에서 공기가 일을 하는 것이 아니라, 일을 받는 것을 의미합니다. 즉, 외부에서 공기를 압축하기 위해 40 kJ의 에너지를 공급받았다는
+  것을 의미합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 어떤 유체의 밀도가 741 kg/m3 이다. 이 유체의 비체적은 약 몇 m3kg인가?
+
+  A.0.78×10-3
+
+  B.1.35×10-3
+
+  C.2.35×10-3
+
+  D.2.98×10-3
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 비체적이란 무엇인지 알아야 합니다. 비체적은 어떤
+  물질의 질량 당 부피를 나타내는 물리량으로, 그 단위는 m3/kg입니다.   이는 밀도의 역수와 같습니다. 이 문제에서 주어진 유체의 밀도는 741
+  kg/m3입니다. 비체적을 구하려면 이 밀도의 역수를 취하면 됩니다. 즉, 1/741 m3/kg를 계산하면 됩니다. 1/741을 계산하면 약 0.00135
+  m3/kg가 나옵니다. 이를 지수 표기법으로 표현하면 1.35×10-3 m3/kg입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 1 kg의 기체가 압력 50 kPa, 체적 2.5m3 상태에서 압력 1.2 MPa, 체적 0.2m3의 상태로 변하였다. 엔탈피의 변화량은
+  약 몇 kJ 인가? (단, 내부���너지의 증가 U2-U1=0이다.)
+
+  A.306
+
+  B.206
+
+  C.155
+
+  D.115
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 열역학의 첫 번째 법칙에 관한 문제입니다.
+  열역학의 첫 번째 법칙은 에너지 보존의 법칙을 표현한 것으로, 고립 시스템의 총 에너지는 일정하다는 내용입니다. 문제에서 주어진 내부에너지의 증가
+  U2-U1=0이라는 정보는 이 시스템에서 내부에너지의 변화가 없다는 것을 의미합니다. 그 다음으로 엔탈피의 변화량을 알아내기 위해서는 엔탈피의
+  정의를 알아야 합니다. 엔탈피 H는 시스템의 내부에너지 U와 그 시스템의 압력 P와 체적 V의 곱의 합으로 정의됩니다. 즉, H = U + PV입니다.   엔탈피의
+  변화 ΔH는 내부에너지의 변화 ΔU와 압력-체적 작용의 변화 Δ(PV)의 합이 됩니다. 문제에서 내부에너지의 변화는 0이므로, ΔH는 Δ(PV)와
+  같습니다. 압력-체적 작용의 변화는 최종 상태의 PV 값에서 초기 상태의 PV 값을 뺀 것입니다. 즉, Δ(PV) = (P2V2) - (P1V1)입니다.
+  여기서 주의할 점은 압력과 체적의 단위입니다. 문제에서 주어진 압력의 단위는 kPa와 MPa이고, 체적의 단위는 m3입니다. 이를 모두 같은 단위로
+  맞추어야 합니다. 1 MPa = 1000 kPa이므로, 1.2 MPa는 1200 kPa입니다.  , Δ(PV) = (1200 kPa * 0.2
+  m3) - (50 kPa * 2.5 m3) = 240 kPa*m3 - 125 kPa*m3 = 115 kPa*m3입니다. 마지막으로, kPa*m3를
+  kJ로 변환해야 합니다. 1 kPa*m3는 1 kJ와 같습니다.  , ΔH는 115 kJ입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 주위의 온도가 27℃일 때, -73℃에서 1kJ의 냉동효과를 얻으려 한다. 냉동 사이클을 구동하는데 필요한 최소일은 얼마인가?
+
+  A.2 kJ
+
+  B.1.5 kJ
+
+  C.1 kJ
+
+  D.0.5 kJ
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 이 문제는 냉동 사이클에 대한 문제이며, 냉동 사이클의
+  성능을 평가하는 지표 중 하나인 ''최소일''에 대한 문제입니다. 냉동 사이클에서 최소일은 카르노 사이클에 의해 결정되며, 이는 절대온도에 비례하여
+  결정됩니다. 카르노 사이클에서 냉동효과(Qc)를 얻기 위해 필요한 일(W)는 다음의 공식에 의해 결정됩니다: W = Qc * (Th - Tc)
+  / Tc 여기서 Th는 높은 온도(절대온도로 표현)이며, Tc는 낮은 온도(절대온도로 표현)입니다. 이 문제에서는 Th가 27℃, Tc가 -73℃입니다.
+  그러나 이 온도들은 절대온도로 변환해야 합니다. 절대온도는 켈빈(K)으로 표현되며, 섭씨온도를 켈빈으로 변환하는 공식은 K = ℃ + 273.15입니다.   Th
+  = 27℃ + 273.15 = 300.15K, Tc = -73℃ + 273.15 = 200.15K입니다. 그러므로, W = 1kJ * (300.15K
+  - 200.15K) / 200.15K = 0.5kJ입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_refrigerating_machinery

lm-evaluation/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_social_welfare.yaml

@@ -0,0 +1,122 @@
+dataset_name: social_welfare
+doc_to_text: '질문: 우리나라 사회보장제도 운영주체의 책임에 관한 원칙으로 옳은 것은?
+
+  A.사회보험은 국가의 책임으로 시행한다.
+
+  B.공공부조는 지방자치단체가 전적으로 책임지고 시행한다.
+
+  C.사회서비스는 지방자치단체만의 책임으로 시행한다.
+
+  D.국가는 사회보장에 관하여 민간단체의 참여를 제한한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회보장제도 운영주체의 책임에 관한 원칙을 확인하기
+  위해 사회보장기본법을 찾아보겠습니다. 사회보장기본법 제5조에 따르면, "국가와 지방자치단체는 국가발전의 수준에 부응하는 사회보장제도를 확립하고
+  매년 이에 필요한 재원을 조달하여야 한다."고 명시되어 있습니다. 또한, 제27조에는 "사회보험은 국가의 책임으로 시행한다."고 되어 있습니다.  ,
+  선택지 중에서 (A) 사회보험은 국가의 책임으로 시행한다. 가 옳은 것으로 확인됩니다. (B) 공공부조는 지방자치단체가 전적으로 책임지고 시행한다는
+  것은 옳지 않습니다. 사회보장기본법 제24조에 따르면, "국가 및 지방자치단체는 생활유지능력이 없거나 생활이 어려운 국민의 보호와 지원을 위하여
+  필요한 경우에는 공공부조를 실시한다."고 되어 있습니다. 이는 공공부조가 국가와 지방자치단체의 공동 책임으로 시행되는 것을 의미합니다. (C)
+  사회서비스는 지방자치단체만의 책임으로 시행한다는 것도 옳지 않습니다. 사회보장기본법 제28조에 따르면, "국가 및 지방자치단체는 사회서비스를 국가발전에
+  필요한 사회서비스의 원활한 제공과 국민의 복지증진을 위하여 적정한 수준으로 제공하여야 한다."고 되어 있습니다. 이는 사회서비스가 국가와 지방자치단체의
+  공동 책임으로 시행되는 것을 의미합니다. (D) 국가는 사회보장에 관하여 민간단체의 참여를 제한한다는 것도 옳지 않습니다. 사회보장기본법 제40조에
+  따르면, "국가와 지방자치단체는 사회보장에 대한 민간부문의 참여를 조장할 수 있도록 정책을 개발·시행하고 그 여건을 조성하여야 한다."고 되어
+  있습니다. 이는 국가가 사회보장에 관하여 민간단체의 참여를 조장하고 참여를 유도해야 한다는 것을 의미합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 1942년 베버리지 보고서에서 규정한 5대 악에 해당되지 않는 것은?
+
+  A.무지
+
+  B.질병
+
+  C.산업재해
+
+  D.나태
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 1942년에 발표된 베버리지 보고서는 사회복지의 기본적인
+  원칙을 제시했으며, 이 보고서에서는 ''5대 악''이라는 개념을 도입했습니다. ''5대 악''은 사회복지의 목표가 해결해야 할 문제로, 궁핍(want),
+  질병(disease), 무지(ignorance), 불결(squalor), 나태(idleness) 을 지칭합니다. 이 중에서 선택지에 주어진 것들을
+  확인해보면, 무지(A), 질병(B), 나태(D)는 베버리지 보고서의 ''5대 악''에 포함되어 있습니다. 반면에 산업재해(C)는 ''5대 악''에
+  직접적으로 언급된 내용이 아닙니다.  , 1942년 베버리지 보고서에서 규정한 5대 악에 해당되지 않는 것은 ''산업재해''입니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 사회보험과 민영보험의 차이점에 관한 설명으로 옳지 않은 것은?
+
+  A.사회보험은 현금급여를 원칙으로 하고, 민영보험은 현물급여를 원칙으로 한다.
+
+  B.사회보험은 대부분 국가 또는 공법인이 운영하지만 민영보험은 사기업이 운영한다.
+
+  C.사회보험은 강제로 가입되지만 민영보험은 임의로 가입한다.
+
+  D.사회보험은 국가가 주로 독점하지만 민영보험은 사기업들이 경쟁한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회보험과 민영보험의 차이점을 비교해보겠습니다.
+  - 사회보험은 국민에게 발생하는 사회적 위험을 보험의 방식으로 대처함으로써 국민의 건강과 소득을 보장하는 제도입니다. 이는 국가가 법에 의해 가입을
+  의무화하고 있으며, 대부분의 재원을 국가가 부담합니다. - 반면에 민영보험은 개인이나 기업이 자신의 필요에 따라 가입하는 보험으로, 보험회사가
+  운영하며 보험료를 개인이나 기업이 부담합니다. 이제 선택지를 하나씩 살펴보겠습니다. (A) 사회보험은 현금급여를 원칙으로 하고, 민영보험은 현물급여를
+  원칙으로 한다는 설명은 옳지 않습니다. 사회보험과 민영보험 모두 현금급여와 현물급여를 제공할 수 있습니다. 예를 들어, 국민건강보험은 의료서비스를
+  제공하는 현물급여와 함께 진료비를 지급하는 현금급여를 제공하고, 자동차보험은 수리비나 치료비 등의 현금급여와 함께 차량 수리나 치료 등의 현물급여를
+  제공합니다. (B) 사회보험은 대부분 국가 또는 공법인이 운영하지만 민영보험은 사기업이 운영한다는 설명은 맞습니다. 사회보험은 국민의 복지를 증진하기
+  위한 것으로, 국가가 운영하는 것이 일반적입니다. 반면에 민영보험은 이윤을 추구하는 사기업이 운영합니다. (C) 사회보험은 강제로 가입되지만 민영보험은
+  임의로 가입한다는 설명도 맞습니다. 사회보험은 국민의 사회적 위험을 대비하기 위해 강제로 가입해야 합니다. 반면에 민영보험은 개인이나 기업이 자신의
+  필요에 따라 가입 여부를 결정할 수 있습니다. (D) 사회보험은 국가가 주로 독점하지만 민영보험은 사기업들이 경쟁한다는 설명도 맞습니다. 사회보험은
+  국민의 복지를 증진하기 위해 국가가 독점적으로 운영하는 것이 일반적입니다. 반면에 민영보험은 사기업들이 경쟁을 통해 운영됩니다. 따라서, 정답은
+  (A) 입니다.
+
+
+  질문: 조지와 윌딩(V. George & P. Wilding, 1976; 1994)의 사회복지모형에서 복지국가의 확대를 가장 지지하는 이념은?
+
+  A.신우파
+
+  B.반집합주의
+
+  C.마르크스주의
+
+  D.페이비언 사회주의
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 조지와 윌딩(V. George & P. Wilding,
+  1976; 1994)의 사회복지모형은 다음과 같이 4가지 이념으로 구성되어 있습니다. 1. 반집합주의(Anti-Collectivism): 개인주의에
+  기반하여 국가의 개입을 최소화하고 시장경제를 강조하며, 사회복지는 개인의 책임으로 간주합니다. 2. 소극적 집합주의(Reluctant Collectivism):
+  자유주의에 기반하여 국가 개입의 필요성은 인정하나, 최소한의 수준에 그쳐야 한다고 주장하며, 사회복지는 기본적인 욕구를 충족시키는 것으로 제한합니다.
+  3. 페이비언 사회주의(Fabian Socialism): 점진적 개혁을 추구하며, 국가의 적극적인 개입을 통해 평등과 사회적 정의를 실현하고자
+  합니다. 이를 위해 누진세, 사회보험 등의 정책을 지지합니다. 4. 마르크스주의(Marxism): 자본주의를 부정하고, 국가의 개입을 통해 평등한
+  사회를 구현하고자 하며, 이를 위해 생산수단의 공유화를 주장합니다. 이러한 이념들 중에서 복지국가의 확대를 가장 지지하는 이념은 페이비언 사회주의입니다.
+  페이비언 사회주의는 국가의 적극적인 개입을 통해 평등과 사회적 정의를 실현하고자 하며, 이를 위해 누진세, 사회보험 등의 정책을 지지합니다. 이러한
+  정책들은 복지국가의 확대를 뒷받침하는 중요한 요소들입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 사회복지정책의 원칙과 기능에 관한 설명으로 옳지 않은 것은?
+
+  A.소득을 재분배하는 기능을 한다.
+
+  B.능력에 비례한 배분을 원칙으로 한다.
+
+  C.경제의 자동안정화 기능을 한다.
+
+  D.국민의 최저생활을 보장하는 기능을 한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회복지정책의 원칙과 기능에 대해 알아보겠습니다.
+  사회복지정책은 사회적 불평등을 해소하고, 모든 사람이 기본적인 생활을 유지할 수 있도록 지원하는 정책입니다. 이러한 정책은 국가나 지역 사회의
+  복지를 향상시키는 데 중점을 두고 있습니다. 선택지를 하나씩 살펴보겠습니다. (A) 소득을 재분배하는 기능을 한다. - 이는 사회복지정책의 주요
+  기능 중 하나입니다. 소득재분배를 통해 사회적 불평등을 해소하려는 목표를 가지고 있습니다. (B) 능력에 비례한 배분을 원칙으로 한다. - 이는
+  사회복지정책의 원칙과는 거리가 먼 개념입니다. 사회복지정책은 능력이 아닌 필요에 따라 지원을 하는 것이 원칙입니다. (C) 경제의 자동안정화 기능을
+  한다. - 이 역시 사회복지정책의 중요한 기능 중 하나입니다. 사회복지정책은 경제적 불안정을 완화하고, 경제의 안정화에 기여합니다. (D) 국민의
+  최저생활을 보장하는 기능을 한다. - 이 역시 사회복지정책의 중요한 기능입니다. 국민의 최저생활 보장은 사회복지정책의 핵심적인 ���표입니다.  ,
+  사회복지정책의 원칙과 기능에 관한 설명으로 옳지 않은 것은 ''능력에 비례한 배분을 원칙으로 한다''는 (B) 선택지입니다. 이는 사회복지정책의
+  본질적인 목표와 원칙을 반영하지 못하고 있습니다. 사회복지정책은 능력이 아닌 필요에 따라 지원을 하는 것이 원칙이며, 이를 통해 사회적 불평등을
+  해소하고 모든 사람이 기본적인 생활을 유지할 수 있도록 지원하는 것이 목표입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_social_welfare

lm-evaluation/lm_eval/tasks/kmmlu/hard/kmmlu_hard_accounting.yaml

@@ -0,0 +1,3 @@
+dataset_name: accounting
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_accounting