Add files using upload-large-folder tool

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/_cot_kmmlu_yaml

@@ -0,0 +1,31 @@
+group:
+    - kmmlu
+    - kmmlu_hard_cot
+dataset_path: HAERAE-HUB/KMMLU-HARD
+output_type: generate_until
+validation_split: dev # not meant to be used, only here to silence warnings
+test_split: test
+doc_to_target: "{{['A', 'B', 'C', 'D'][answer-1]}}"
+metric_list:
+  - metric: exact_match
+    aggregation: mean
+    higher_is_better: true
+    ignore_case: true
+    ignore_punctuation: true
+generation_kwargs:
+  until:
+    - "질문:"
+  do_sample: false
+  max_gen_toks: 2048
+  temperature: 0.0
+num_fewshot: 0
+filter_list:
+  - name: "get-answer"
+    filter:
+      - function: "regex"
+        regex_pattern: "(?<=정답은)(.*)(?=입니다.)"
+        regex_pattern: "(?<=정답은)\\s*[(]?(A|B|C|D)[)]?.*(?=입니다.)"
+      - function: "take_first"
+metadata:
+  version: 2.0
+  num_fewshot: 5

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_agricultural_sciences.yaml

@@ -0,0 +1,113 @@
+dataset_name: agricultural_sciences
+doc_to_text: '질문: 지하발아형 종자가 아닌 것은?
+
+  A.콩
+
+  B.완두
+
+  C.보리
+
+  D.옥수수
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 지하발아형(상배축신장형) 종자는 배유종자와 무배유종자로
+  나눌 수 있습니다. 배유종자에는 벼, 보리, 밀, 귀리, 옥수수가 포함되며, 무배유종자에는 완두, 잠두, 팥, 상추가 포함됩니다. 하지만 콩은
+  지하발아형 종자가 아니라 지상발아형 종자입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 종자의 습윤저온층적(濕潤低溫層積) 저장 설명으로 가장 적합한 것은?
+
+  A.습한 자루에 3∼6 ℃에서 1∼2주 처리
+
+  B.습한 모래에 1∼10 ℃에서 3∼4주 처리
+
+  C.습한 진흙에 2∼9 ℃에서 2∼3주 처리
+
+  D.습한 짚 속에 6∼10 ℃에서 1∼2주 처리
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 종자의 습윤저온층적(濕潤低溫層積)이란, 일정한 기간 동안
+  종자를 습하고 저온의 환경에서 보관하여 종자 내부의 생리적, 생화학적 변화를 일으키는 처리 방법을 말합니다. 이는 종자의 발아를 촉진하거나 동조화시키는
+  데 사용됩니다. 먼저 각 선택지에 대해 검토해보겠습니다. (A) 선택지는 습한 자루에 3∼6 ℃에서 1∼2주 처리하는 방법을 제시하고 있습니다.
+  이 방법은 습윤저온층적에 필요한 습도와 저온을 제공할 수 있지만, 종자의 종류에 따라 처리 기간이 충분하지 않을 수 있습니다. (B) 선택지는
+  습한 모래에 1∼10 ℃에서 3∼4주 처리하는 방법을 제시하고 있습니다. 이 방법은 습윤저온층적에 필요한 습도와 저온을 제공하며, 처리 기간도
+  상대적으로 길어 종자의 변화를 촉진시키는 데 충분할 수 있습니다. (C) 선택지는 습한 진흙에 2∼9 ℃에서 2∼3주 처리하는 방법을 제시하고
+  있습니다. 이 방법은 습윤저온층적에 필요한 습도와 저온을 제공하지만, 진흙은 종자에 부적절한 압력을 가하거나 종자를 손상시킬 수 있습니다. (D)
+  선택지는 습한 짚 속에 6∼10 ℃에서 1∼2주 처리하는 방법을 제시하고 있습니다. 이 방법은 습윤저온층적에 필요한 습도를 제공할 수 있지만,
+  온도 범위가 상대적으로 높고 처리 기간이 짧아 종자의 변화를 촉진시키는 데 충분하지 않을 수 있습니다.  , 종자의 습윤저온층적 저장 설명으로
+  가장 적합한 것은 습한 모래에 1∼10 ℃에서 3∼4주 처리하는 방법인 (B) 선택지일 것으로 보입니다. 이 방법은 습윤저온층적에 필요한 조건을
+  충족시키며, 처리 기간도 종자의 변화를 촉진시키는 데 충분합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 옥수수 복교잡종의 특징이 아닌 것은?
+
+  A.종자값이 저렴하다.
+
+  B.여러 환경조건에 대한 완충능력이 있다.
+
+  C.개화기간이 길어 다른 교잡종보다 수분기회가 많아 이삭이 충실해진다.
+
+  D.불량 환경조건일 때 종자의 균일도가 단교잡종이나 삼원교잡종 종자보다 낮다.
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 옥수수 복교잡종의 특징에 대해 알아보겠습니다.
+  복교잡종은 두 개의 서로 다른 교잡종을 교배하여 만든 품종으로, 다양한 환경 조건에 대한 완충 능력이 있고, 개화 기간이 길어 다른 교잡종보다
+  수분 기회가 많아 이삭이 충실해지는 특징이 있습니다. 선택지를 하나씩 살펴보겠습니다. (A) 종자값이 저렴하다. - 복교잡종은 두 개의 교잡종을
+  교배하여 만들기 때문에, 단교잡종이나 삼원교잡종에 비해 종자값이 저렴할 수 있습니다. (B) 여러 환경조건에 대한 완충능력이 있다. - 복교잡종은
+  다양한 환경 조건에 대한 완충 능력이 있어, 불량 환경 조건에서도 비교적 높은 생산량을 유지할 수 있습니다. (C) 개화기간이 길어 다른 교잡종보다
+  수분기회가 많아 이삭이 충실해진다. - 복교잡종은 개화 기간이 길어 다른 교잡종보다 수분 기회가 많기 때문에 이삭이 충실해지는 특징이 있습니다.
+  (D) 불량 환경조건일 때 종자의 균일도가 단교잡종이나 삼원교잡종 종자보다 낮다. - 불량 환경 조건에서는 복교잡종의 종자 균일도가 단교잡종이나
+  삼원교잡종 종자보다 낮을 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 완두 종자를 AㆍB 창고에 보관한 후 전기전도도 조사를 실시한 결과, A창고에 보관한 완 두 종자의 침출액이 더 많았다. 종자퇴화는 어느
+  것이 더 진전되었는가?
+
+  A.OPTION창고 완두 종자가 더 퇴화되었다.
+
+  B.OPTION창고 완두 종자가 더 퇴화되었다.
+
+  C.OPTION창고와 OPTION창고 완두 종자의 퇴화는 똑같다.
+
+  D.비교할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 완두 종자의 퇴화와 전기전도도 조사의 관계를 이해해야
+  합니다. 종자의 퇴화는 씨앗의 생명력이나 발아력이 감소하는 현상을 말합니다. 이는 보관 상태, 온도, 습도 등 여러 요인에 의해 영향을 받습니다.
+  전기전도도 조사는 종자의 퇴화 정도를 판단하는 데 널리 사용되는 방법 중 하나입니다. 이 방법은 종자에서 침출된 이온의 양을 측정하여 종자의 생체막
+  손상 정도를 판단하는 방법입니다. 즉, 전기전도도가 높으면 종자에서 많은 양의 이온이 침출되었음을 의미하며, 이는 종자의 생체막이 손상되었음을
+  나타냅니다.  , A창고에 보관한 완두 종자의 침출액이 더 많았다는 것은 전기전도도가 높았음을 의미하며, 이는 A창고의 완두 종자가 더 많은 생체막
+  손상을 입었음을 나타냅니다. 이는 A창고의 완두 종자가 더 많이 퇴화되었음을 의미합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 우량종자를 생산하는 방법으로 잘못된 것은?
+
+  A.격리재배를 통하여 이종의 혼입을 막는다.
+
+  B.무병지에서 채종한다.
+
+  C.감자의 바이러스 병을 막기 위해 평지에서 채종한다.
+
+  D.벼 종자는 평야지보다 분지에서 생산된 것이 임실이 좋아서 종자가치가 높다.
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 이해를 해보겠습니다. (A) 선택지는
+  우량종자를 생산하는 방법 중 하나로 격리재배를 통해 이종의 혼입을 막는 방법을 말합니다. 이는 종자의 품질을 보장하기 위해 필요한 과정이므로 올바른
+  방법입니다. (B) 선택지는 무병지에서 채종하는 방법을 말합니다. 무병지는 병원균이 없는 땅을 의미하며, 병원균이 없는 상태에서 채종을 하면 병에
+  강한 우량종자를 얻을 수 있으므로 이 역시 올바른 방법입니다. (C) 선택지는 감자의 바이러스 병을 막기 위해 평지에서 채종한다는 내용입니다.
+  감자는 바이러스 병에 취약한 식물로 알려져 있습니다. 하지만 그것이 평지에서 채종을 해야 한다는 것과 직접적인 연관성은 없습니다. 감자의 바이러스
+  병 예방은 주로 바이러스 자체를 통제하거나, 바이러스에 강한 품종을 선택하는 것 등이 중요하다고 알려져 있습니다. (D) 선택지는 벼 종자는 평야지보다
+  분지에서 생산된 것이 임실이 좋아서 종자가치가 높다는 내용입니다. 벼는 물을 많이 필요로 하는 식물로, 일반적으로 물이 잘 공급되는 분지에서 재배되는
+  것이 좋다고 알려져 있습니다.   이 역시 올바른 방법입니다.  , 각 선택지를 분석한 결과 (C) 선택지인 ''감자의 바이러스 병을 막기 위해
+  평지에서 채종한다.''가 가장 잘못된 방법으로 보입니다. 이는 감자의 바이러스 병 예방과 평지에서의 채종 사이에 직접적인 연관성이 없기 때문입니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_agricultural_sciences

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_aviation_engineering_and_maintenance.yaml

@@ -0,0 +1,120 @@
+dataset_name: aviation_engineering_and_maintenance
+doc_to_text: '질문: 수평 등속도로 비행하는 항공기에 작용하는 공기력에 대한 설명으로 옳은것은?
+
+  A.추력이 항력보다 크다.
+
+  B.추력과 항력은 같다.
+
+  C.양력이 비행기의 무게보다 크다.
+
+  D.양력이 비행기의 무게보다 작다.
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 항공기가 수평 등속도로 비행하려면 모든 힘이 균형을
+  이루어야 합니다. 이는 뉴턴의 제1법칙, 즉 ''힘이 작용하지 않는 물체는 휴면 상태에서 계속 휴면 상태를 유지하거나, 균일한 속도로 직선 운동을
+  계속한다''에 따릅니다.  , 항공기가 수평 등속도로 비행하려면 다음 두 가지 조건이 충족되어야 합니다. 1. 추력과 항력이 같아야 합니다. 추력은
+  엔진에서 나오는 힘으로 항공기를 전진시키고, 항력은 항공기가 공기를 통과하면서 겪는 저항입니다. 이 두 힘이 균형을 이루어야 항공기는 직선으로
+  일정한 속도로 비행할 수 있습니다. 2. 양력과 무게가 같아야 합니다. 양력은 항공기의 날개가 생성하는 힘으로 위로 작용하고, 무게는 중력으로
+  아래로 작용합니다. 이 두 힘이 균형을 이루어야 항공기는 수평 비행을 유지할 수 있습니다. 선택지를 살펴보면, (A). 추력이 항력보다 크다.
+  - 이 경우, 항공기는 가속하게 됩니다.  , 이는 수평 등속도 비행과는 맞지 않습니다. (B). 추력과 항력은 같다. - 이는 수평 등속도 비행에
+  필요한 조건 중 하나입니다. (C). 양력이 비행기의 무게보다 크다. - 이 경우, 항공기는 상승하게 됩니다.  , 이는 수평 등속도 비행과는
+  맞지 않습니다. (D). 양력이 비행기의 무게보다 작다. - 이 경우, 항공기는 하강하게 됩니다.  , 이는 수평 등속도 비행과는 맞지 않습니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 헬리콥터 비행시 역풍지역이 가장 커지게 되는 비행 상태는?
+
+  A.정지비행
+
+  B.상승가속비행
+
+  C.자동회전비행
+
+  D.전진가속비행
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 헬리콥터의 비행 상태는 주로 로터의 회전과 헬리콥터의
+  속도에 따라 결정됩니다. 헬리콥터의 역풍지역은 주로 로터 블레이드가 후진하는 영역을 말하며, 이 영역은 헬리콥터의 속도에 크게 영향을 받습니다.
+  (A) 정지비행에서는 헬리콥터가 고정된 위치에서 공중에 머무르는 상태를 말합니다. 이 상태에서는 로터 블레이드가 공기를 밀어내어 상승력을 생성하며,
+  헬리콥터는 정지 상태에 있기 때문에 전방으로의 속도는 없습니다.   역풍지역은 상대적으로 작을 것입니다. (B) 상승가속비행에서는 헬리콥터가 위로
+  상승하면서 동시에 속도를 높이는 상태를 말합니다. 이 상태에서는 로터 블레이드가 공기를 밀어내어 상승력을 생성하고, 동시에 전방으로 가속하면서
+  속도를 높입니다.   역풍지역은 증가할 것입니다. (C) 자동회전비행에서는 엔진의 동력을 잃었을 때 로터 블레이드가 자유회전하면서 헬리콥터를 지탱하는
+  상태를 말합니다. 이 상태에서는 로터 블레이드의 회전이 공기 저항에 의해 유지되므로 역풍지역은 상대적으로 작을 것입니다. (D) 전진가속비행에서는
+  헬리콥터가 전방으로 속도를 높이는 상태를 말합니다. 이 상태에서는 헬리콥터의 전진 속도가 증가하므로, 로터 블레이드가 후진하는 영역인 역풍지역은
+  더욱 커질 것입니다. 이는 로터 블레이드의 한쪽이 전진하고 다른 한쪽이 후진하면서 생기는 디스크의 회전에 따른 현상입니다.   전진가속비행 상태에서
+  역풍지역이 가장 커질 것으로 예상됩니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: A,B,C 3대의 비행기가 각각 10000m, 5000m, 1000m 의 고도에서 동일한 속도로 비행하고 있다. 각 비행기의 마하계가 지시하는
+  마하수의 크기를 비교한 것으로 옳은 것은?
+
+  A.OPTION < OPTION < OPTION
+
+  B.OPTION > OPTION > OPTION
+
+  C.OPTION > OPTION > OPTION
+
+  D.OPTION = OPTION = OPTION
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 마하수는 속도를 음속으로 나눈 값으로, 비행기의 속도를
+  측정하는 데 사용되는 단위입니다. 그러나 마하수는 고도에 따라 변하게 됩니다. 왜냐하면 대기의 밀도가 고도에 따라 변하기 때문입니다. 고도가 높아질수록
+  대기의 밀도가 낮아지고,   음속이 줄어들게 됩니다. 이로 인해 동일한 속도로 비행하는 비행기의 마하수는 고도가 높아질수록 커지게 됩니다. 즉,
+  고도가 높은 A 비행기의 마하수가 가장 크고, 그 다음은 B, 마지막으로 가장 낮은 고도에서 비행하는 C 비행기의 마하수가 가장 작을 것입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 비행기 날개의 양력에 관한 설명으로 틀린 것은?
+
+  A.양력은 날개 면적에 비례한다.
+
+  B.양력은 유체의 밀도에 비례한다.
+
+  C.양력은 날개의 무게에 비례한다.
+
+  D.양력은 비행기 속도제곱에 비례한다.
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 양력은 비행기가 하늘을 날 수 있게 하는 중요한
+  힘입니다. 양력은 베르누이의 원리에 기반하여 생성되며, 이는 유체가 빠르게 움직일수록 그 유체의 압력이 낮아지는 원리를 설명합니다. 이 원리에
+  따르면, 비행기의 날개는 위쪽 표면(상부)이 아래쪽 표면(하부)보다 길게 설계되어 있어, 공기가 상부를 통과하는데 더 많은 시간이 소요됩니다.  ,
+  날개 상부의 공기 압력은 날개 하부의 공기 압력보다 낮아지며, 이 차이로 인해 양력이 발생합니다. 이제 선택지를 하나씩 살펴보겠습니다. (A)
+  양력은 날개 면적에 비례한다: 이는 맞는 말입니다. 날개의 면적이 클수록 더 많은 공기를 밀어내고,   더 큰 양력을 생성할 수 있습니다. (B)
+  양력은 유체의 밀도에 비례한다: 이 역시 맞는 말입니다. 유체(여기서는 공기)의 밀도가 높을수록, 날개는 더 많은 양력을 생성할 수 있습니다.
+  (D) 양력은 비행기 속도제곱에 비례한다: 이는 맞는 말입니다. 양력은 비행기의 속도에 비례하는 것이 아니라, 비행기의 속도 제곱에 비례합니다.
+  이는 양력 공식 L = 0.5 * Cl * p * V^2 * A에서 알 수 있습니다. 여기서 L은 양력, Cl은 리프트 계수, p는 공기 밀도,
+  V는 속도, A는 날개 면적입니다. (C) 양력은 날개의 무게에 비례한다: 이는 틀린 말입니다. 양력은 비행기의 무게에 직접적으로 비례하지 않습니다.
+  사실, 양력은 비행기를 공중에 띄우기 위해 반드시 비행기의 무게를 초과해야 합니다.  , 양력은 날개의 무게에 비례한다는 말은 틀린 말입니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 항공기 날개에 쳐든각을 주는 주된 목적은?
+
+  A.선회성능을 좋게 하기 위해서
+
+  B.날개저항을 적게 하기 위해서
+
+  C.날개끝 실속을 방지하기 위해서
+
+  D.옆놀이의 안정성 향상을 위해서
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 항공기 날개에 쳐든각을 주는 것을 ''날개 트위스트''라고
+  부릅니다. 날개 트위스트는 항공기의 날개가 루트(날개의 가장 안쪽 부분)에서 팁(날개의 가장 바깥쪽 부분)까지 각도가 점차 변하는 것을 의미합니다.
+  이는 주로 항공기의 안정성을 높이기 위해 사용되며, 특히 고속에서의 안정성을 향상시키는 데 도움이 됩니다. 선택지를 보면, (A) 선회성능을 좋게
+  하기 위해서는 날개의 트위스트와는 직접적인 관련이 없습니다. 선회성능은 주로 항공기의 조종면과 엔진 출력 등에 의해 결정됩니다. (B) 날개저항을
+  적게 하기 위해서는 트위스트가 직접적으로 영향을 주지 않습니다. 저항은 주로 항공기의 형상, 크기, 속도 등에 의해 결정되며, 날개의 트위스트는
+  이러한 요소들과는 별개의 요소입니다. (C) 날개끝 실속을 방지하기 위해서는 트위스트가 일부 도움이 될 수 있지만, 이는 주된 목적이 아닙니다.
+  날개끝 실속은 주로 날개의 설계와 관련이 있으며, 트위스트는 이를 완전히 방지할 수 없습니다. (D) 옆놀이의 안정성 향상을 위해서는 트위스트가
+  중요한 역할을 합니다. 트위스트는 날개 팁 부분의 각도를 조절하여, 항공기가 고속에서도 안정적으로 비행할 수 있도록 돕습니다. 따라서, 정답은
+  (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_aviation_engineering_and_maintenance

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemical_engineering.yaml

@@ -0,0 +1,121 @@
+dataset_name: chemical_engineering
+doc_to_text: '질문: 이상기체의 내부에너지에 대한 설명으로 옳은 것은?
+
+  A.온도만의 함수이다.
+
+  B.압력만의 함수이다.
+
+  C.압력과 온도의 함수이다.
+
+  D.압력이나 온도의 함수가 아니다.
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상기체의 내부에너지는 이상기체의 성질을 나타내는 중요한
+  요소 중 하나입니다. 이상기체는 기체 분자들 사이의 상호작용을 무시하고 분자들이 차지하는 부피를 무시하는 가정하에 만들어진 기체 모델입니다. 이
+  모델에서 기체의 내부에너지는 온도에만 의존한다고 알려져 있습니다. 선택지 (A)는 이상기체의 내부에너지가 온도만의 함수라는 내용으로, 이는 이상기체의
+  성질을 정확하게 반영하고 있습니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로 압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (B)는
+  이상기체의 내부에너지가 압력만의 함수라는 내용으로, 이는 이상기체의 성질을 잘못 이해한 것입니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로
+  압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (C)는 이상기체의 내부에너지가 압력과 온도의 함수라는 내용으로, 이 역시 이상기체의 성질을
+  잘못 이해한 것입니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로 압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (D)는 이상기체의
+  내부에너지가 압력이나 온도의 함수가 아니라는 내용으로, 이는 이상기체의 성질에 대한 잘못된 이해를 반영하고 있습니다. 이상기체의 내부에너지는 온도에만
+  의존합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 기체가 단열 팽창한다면 엔트로피는 어떻게 되는가?
+
+  A.감소 또는 불변
+
+  B.증가 또는 불변
+
+  C.불변
+
+  D.증가와 감소를 반복
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 기체의 단열 팽창에 대해 생각해보면, 단열 팽창은 외부와의
+  열 교환 없이 기체가 팽창하는 것을 의미합니다. 이러한 과정에서 기체의 엔트로피는 어떻게 될까요? 먼저 엔트로피의 개념을 이해해야 합니다. 엔트로피는
+  물질의 무질서함을 나타내는 물리량으로, 시스템의 상태가 더 많은 방향으로 분산될 수록 엔트로피는 증가합니다. 이런 관점에서 보면, 기체가 단열
+  팽창하면 기체 분자들이 차지하는 공간이 더 커지므로 더 많은 상태를 가질 수 있게 되어 엔트로피가 증가할 것입니다. 또한, 열역학의 두 번째 법칙에
+  따르면, 고립된 시스템의 엔트로피는 항상 증가하거나 일정하게 유지됩니다. 단열 팽창 과정에서는 외부와의 열 교환 없이 일어나므로 이 과정을 고립된
+  시스템으로 볼 수 있습니다.   이 경우 엔트로피는 증가하거나 일정하게 유지될 것입니다. 이를 바탕으로 선택지를 보면, (B) 증가 또는 불변이
+  가장 적절한 답변으로 보입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 100기압의 이상기체가 들어 있는 탱크에 수렴노즐(convergent nozzle)을 연결하여 기체를 가장 단시간에 뽑아내려고 한다. 제2탱크의
+  최대 허용압력은 약 몇 기압인가? (단, 비열비는 1.3 이다.)
+
+  A.55
+
+  B.77
+
+  C.90
+
+  D.100
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 문제는 이상기체가 수렴노즐을 통해 빠져나갈 때의 허용압력을
+  묻는 문제입니다. 이를 계산하기 위해서는 수렴노즐을 통해 이상기체가 흐를 때의 기체 동력학에 대한 이해가 필요합니다. 기본적으로, 이상기체가 수렴노즐을
+  통해 흐를 때, 노즐의 출구에서의 압력은 주변 압력에 도달할 때까지 계속 감소합니다. 이 때의 압력 감소율은 기체의 비열비에 의해 결정됩니다.
+  문제에서 주어진 비열비는 1.3이므로, 이를 이용하여 계산할 수 있습니다. 이상기체의 동력학에서, 수렴노즐을 통해 기체가 흐를 때의 압력비는 다음과
+  같이 주어집니다: P2/P1 = (2/(n+1))^(n/(n-1)) 여기서 P1은 초기 압력 (100기압), P2는 최종 압력 (제2탱크의 최대
+  허용압력), n은 비열비 (1.3)입니다. 이 식을 이용하여 P2를 계산하면 다음과 같습니다: P2 = P1 * (2/(n+1))^(n/(n-1))  ,
+  계산 결과를 얻기 위해 주어진 값을 대입해보겠습니다. P2 = 100 * (2/(1.3+1))^(1.3/(1.3-1)) 이를 계산하면, P2의
+  값은 약 54.6가 나��는데, 이는 선택지 중에서 가장 가까운 55에 해당합니다.   제2탱크의 최대 허용압력은 약 55기압이 됩니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 성분1과 성분2가 기-액 평형을 이루는 계에 대하여 라울(Raoult)의 법칙을 만족하는 기포점 압력 계산을 수행하였다. 계산결과에 대한
+  설명 중 틀린 것은?
+
+  A.기포점 압력계산으로 P-x-y 선도를 나타낼 수 있다.
+
+  B.기포점 압력 계산 결과에서 기상의 조성선은 직선이다.
+
+  C.성분 1의 조성이 1 일 때의 압력은 성분 1의 증기압이다.
+
+  D.공비점의 형성을 나타낼 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 라울의 법칙에 대해 알아보겠습니다. 라울의 법칙은
+  이상 기체에서의 부분 압력을 설명하는 법칙으로, 이는 순수 액체의 증기압과 그 액체의 몰 분율에 비례한다고 합니다. 이를 기반으로 각 선택지를
+  살펴보겠습니다. (A) 기포점 압력계산으로 P-x-y 선도를 나타낼 수 있다. P-x-y 선도는 이성분 혼합물의 기-액 평형을 그래프로 나타낸
+  것입니다. x와 y는 각각 액상과 기상의 몰 분율을, P는 총압을 나타냅니다. 라울의 법칙을 이용하면 이러한 P-x-y 선도를 그릴 수 있습니다.
+  (B) 기포점 압력 계산 결과에서 기상의 조성선은 직선이다. 라울의 법칙에 따르면, 기상의 조성선은 직선이 아닌 곡선 형태를 보입니다.   이
+  설명은 잘못되었습니다. (C) 성분 1의 조성이 1 일 때의 압력은 성분 1의 증기압이다. 이 설명은 맞습니다. 라울의 법칙에 따르면, 성분의
+  조성이 1, 즉 순수한 성분일 때 그 성분의 압력은 그 성분의 증기압과 같습니다. (D) 공비점의 형성을 나타낼 수 없다. 공비점은 두 성분이
+  혼합되어 있을 때, 특정 조건에서 기상과 액상의 조성이 같아지는 점을 말합니다. 라울의 법칙을 이용하면 이러한 공비점을 나타낼 수 있습니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 정압열용량 Cp는 7/2R이고 정적열용량 Cv는 5/2R인 1몰의 이상기체가 압력 10bar, 부피 0.05m3에서 압력 1bar로 정용과정을
+  거쳐 변화할 때 기계적인 가역과정으로 가정하면 이 계에 부가된 열량 Q와 이 계가 한 일 W는 각각 얼마인가?
+
+  A.Q=-11250J, W=0
+
+  B.Q=-15750J, W=0
+
+  C.Q=0, W=-11250J
+
+  D.Q=0, W=-15750J
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상기체의 정용과정에서는 부피가 일정하므로, 열량 Q는
+  계가 한 일 W와 동일하게 됩니다. 이는 열역학의 제1법칙에 따른 것입니다. 이상기체의 정용과정에서 열량 Q는 Cv(T2-T1)이며, 여기서 Cv는
+  정적열용량, T1과 T2는 각각 초기와 최종 온도입니다. 이상기체방정식 PV=nRT를 이용하여 초기 온도 T1을 구할 수 있습니다. 여기서 P는
+  압력, V는 부피, n은 몰수, R은 기체상수입니다. 초기 상태에서 압력 P1은 10bar, 부피 V는 0.05m3, 몰수 n은 1mol, 기체상수
+  R은 8.314J/(mol·K)입니다.   T1 = P1V/nR = (10×10^5 Pa)(0.05m^3)/(1mol)(8.314J/(mol·K))
+  = 6015K입니다. 최종 상태에서 압력 P2는 1bar이므로, 이상기체방정식을 이용하여 최종 온도 T2를 구하면, T2 = P2V/nR = (1×10^5
+  Pa)(0.05m^3)/(1mol)(8.314J/(mol·K)) = 601.5K입니다.   열량 Q는 Cv(T2-T1) = (5/2R)(T2-T1)
+  = (5/2)(8.314J/(mol·K))(601.5K - 6015K) = -11250J입니다. 기계적인 가역과정에서 이상기체가 한 일 W는 -P1Vln(P2/P1)로
+  주어지며, 이때 ln은 자연로그를 의미합니다. 여기서 P1은 초기 압력, P2는 최종 압력, V는 부피입니다.   W = -P1Vln(P2/P1)
+  = -(10×10^5 Pa)(0.05m^3)ln((1×10^5 Pa)/(10×10^5 Pa)) = 0입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_chemical_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_civil_engineering.yaml

@@ -0,0 +1,129 @@
+dataset_name: civil_engineering
+doc_to_text: '질문: 도시의 새로운 계획 패러다임의 방향이 아닌 것은?
+
+  A.도 · 농 통합적 계획으로의 전환
+
+  B.에너지 절약형 도시개발로의 전환
+
+  C.입체적 · 기능 통합적 토지이용관리
+
+  D.시민참여의 확대와 계획 및 개발주체의 단일화
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 도시 계획의 새로운 패러다임은 주로 지속 가능한 개발과
+  더불어 사회, 경제, 환경의 균형을 유지하려는 방향으로 변화하고 있습니다. (A) 도·농 통합적 계획으로의 전환은 도시와 농촌 간의 균형있는 발전을
+  위한 방향으로, 지속 가능한 개발을 위한 중요한 패러다임입니다. 이는 도시와 농촌 간의 상호 의존성을 인식하고, 두 지역 간의 경제적, 사회적,
+  환경적 균형을 추구합니다. (B) 에너지 절약형 도시개발로의 전환은 에너지 효율성을 높이고, 에너지 소비를 줄이는 것을 목표로 합니다. 이는 환경
+  보호와 지속 가능한 개발을 위한 중요한 패러다임입니다. (C) 입체적 · 기능 통합적 토지이용관리는 다양한 기능과 활동을 효율적으로 수용하고,
+  토지 이용의 다양성을 증진시키는 것을 목표로 합니다. 이는 토지 자원의 효율적인 활용을 위한 중요한 패러다임입니다. (D) 시민참여의 확대와 계획
+  및 개발주체의 단일화는 다소 상반되는 개념입니다. 시민 참여의 확대는 도시 계획과 개발 과정에서 시민들의 의견을 더욱 존중하고, 그들의 요구와
+  필요를 반영하는 것을 목표로 합니다. 반면에, 계획 및 개발주체의 단일화는 주로 효율성과 통합성을 추구하는 경향이 있습니다. 이 두 가지 개념은
+  동시에 존재하기 어렵습니다. 시민 참여의 확대는 다양한 의견과 요구를 수용하려는 노력을 필요로 하지만, 개발주체의 단일화는 주로 결정권을 한 곳에
+  집중시키려는 경향이 있습니다.  , 도시의 새로운 계획 패러다임의 방향이 아닌 것은 ''시민참여의 확대와 계획 및 개발주체의 단일화''입니다.
+  이 두 가지는 동시에 존재하기 어렵습니다. 시민 참여의 확대는 다양한 의견과 요구를 수용하려는 노력을 필요로 하지만, 개발주체의 단일화는 주로
+  결정권을 한 곳에 집중시키려는 경향이 있습니다. 이 두 가지 개념은 서로 상반되는 경향이 있어 동시에 존재하기 어렵습니다. 따라서, 정답은 (D)
+  입니다.
+
+
+  질문: 개별 필지에 대한 규제사항 및 토지이용계획사항을 확인하는 것으로, 해당 토지에 대한 용도지역ㆍ지구ㆍ구역, 도시ㆍ군계획시설, 도시계획사업과
+  입안내용, 그리고 각종 규제에 대한 저축 여부 등을 확인할 수 있는 자료는?
+
+  A.토지대장
+
+  B.건축물대장
+
+  C.토지특성조사표
+
+  D.토지이용계획확인서
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 개별 필지에 대한 규제사항 및 토지이용계획사항을 확인하는
+  자료를 찾아야 합니다. (A) 토지대장은 토지의 소유자, 소재지, 지목, 면적 등 토지의 기본적인 사항을 기록한 공적인 증명서입니다. 이는 토지의
+  기본적인 정보를 제공하지만, 규제사항이나 토지이용계획사항에 대한 정보는 포함하지 않습니다. (B) 건축물대장은 건축물의 위치, 구조, 용도, 면적
+  등 건축물에 관한 사항을 기록한 공적인 증명서입니다. 이는 건축물에 대한 정보를 제공하지만, 토지에 대한 규제사항이나 이용계획사항에 대한 정보는
+  포함하지 않습니다. (C) 토지특성조사표는 토지의 지리적, 지질학적 특성을 조사하여 작성한 표입니다. 이는 토지의 특성에 대한 정보를 제공하지만,
+  규제사항이나 이용계획사항에 대한 정보는 포함하지 않습니다. (D) 토지이용계획확인서는 토지의 용도지역, 지구, 구역, 도시, 군계획시설, 도시계획사업과
+  입안내용, 그리고 각종 규제에 대한 저축 여부 등을 확인할 수 있는 공적인 증명서입니다. 이는 토지에 대한 규제사항 및 이용계획사항을 확인하는데
+  필요한 모든 정보를 포함하고 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 중세시대 이슬람도시의 특성을 나타내고 있는 도시와 국가의 연결이 틀린 것은?
+
+  A.바스라(OPTIONasra) - 튀니지
+
+  B.라바트(Rabat) - 모로코
+
+  C.푸스타트(Fustat) - 이집트
+
+  D.코르도바(OPTIONordoba) - 스페인
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선택지에 나와 있는 도시들이 중세시대 이슬람 도시의
+  특성을 나타내는 도시인지 확인해보겠습니다. (A) 바스라(Basra)는 이라크에 위치한 도시로, 중세 이슬람 시대에 바그다드와 함께 중요한 도시
+  중 하나였습니다. (B) 라바트(Rabat)는 모로코의 수도로, 중세 이슬람 시대에는 페스와 함께 모로코의 대표적인 도시였습니다. (C) 푸스타트(Fustat)는
+  이집트 카이로에 위치한 도시로, 중세 이슬람 시대에 건설된 도시 중 하나입니다. (D) 코르도바(Cordoba)는 스페인에 위치한 도시로, 중세
+  이슬람 시대에는 유럽에서 가장 큰 도시 중 하나였습니다. 이제 각 도시와 국가의 연결이 맞는지 확인해보겠습니다. (A) 바스라(Basra)는 이라크에
+  위치한 도시로, 튀니지와 연결되어 있지 않습니다. (B) 라바트(Rabat)는 모로코에 위치한 도시로, 모로코와 연결되어 있습니다. (C) 푸스타트(Fustat)는
+  이집트에 위치한 도시로, 이집트와 연결되어 있습니다. (D) 코르도바(Cordoba)는 스페인에 위치한 도시로, 스페인과 연결되어 있습니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 새로운 도시계획 패러다임으로 적절하지 않은 것은?
+
+  A.도ㆍ농 통합적 계획 지향
+
+  B.지속가능한 도시개발 지향
+
+  C.성장위주의 경제논리가 지배하는 도시개발 지향
+
+  D.시민참여 확대와 계획 및 개발주체의 다양화 지향
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지가 무엇을 의미하는지 살펴보겠습니다. (A)
+  도ㆍ농 통합적 계획 지향: 이는 도시와 농촌이 서로 독립적으로 발전하는 것이 아니라, 상호보완적이고 균형있는 발전을 추구하는 것을 의미합니다.
+  즉, 도시와 농촌이 서로에게 필요한 자원과 기능을 제공하며, 상호 의존적인 관계를 유지하도록 계획하는 것입니다. (B) 지속가능한 도시개발 지향:
+  이는 환경, 경제, 사회 등 다양한 측면에서 지속 가능한 도시 개발을 추구하는 것을 의미합니다. 즉, 현재 세대의 필요를 충족시키는 동시에 미래
+  세대의 필요를 충족시킬 수 있도록 도시를 계획하고 개발하는 것입니다. (D) 시민참여 확대와 계획 및 개발주체의 다양화 지향: 이는 도시계획과
+  개발 과정에서 시민들의 의견을 적극적으로 수렴하고, 다양한 주체들이 도시계획과 개발에 참여하는 것을 추구하는 것을 의미합니다. (C) 성장위주의
+  경제논리가 지배하는 도시개발 지향: 이는 경제적 성장을 최우선 목표로 삼고, 그를 위해 도시를 계획하고 개발하는 것을 의미합니다. 이는 단기적인
+  경제적 이익을 추구하는 경향이 있으며, 이로 인해 환경 파괴, 사회적 불평등 등의 문제가 발생할 수 있습니다.  , 새로운 도시계획 패러다임에서는
+  지속가능성, 균형, 다양성 등을 중요하게 생각합니다. 이에 비해 성장위주의 경제논리가 지배하는 도시개발 지향은 단기적인 경제적 이익을 우선시하는
+  경향이 있어, 이는 새로운 도시계획 패러다임과는 맞지 않는 것으로 보입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 부동산 소유자간 또는 개발업자와 구입자 사이에 체결되는 민사계약으로 지역제보다 훨씬 상세하고 엄격한 규정으로 되어 있으며, 일반적으로 토지ㆍ건물대장
+  및 권리서에 기재되어 부동산 매매 시 신규 구입자에게로 승계되는 것으로, 미국의 근대도시계획 성립기에 지역제의 바탕이 된 제도는?
+
+  A.협약(covenant)
+
+  B.획지분할규제(subdivision control)
+
+  C.공도(official mapping)
+
+  D.성장관리(growth management)
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 문제에서 요구하는 것은 부동산 소유자간 또는 개발업자와
+  구입자 사이에 체결되는 민사계약이며, 이 계약은 지역제보다 훨씬 상세하고 엄격한 규정으로 되어 있다는 것입니다. 그리고 이 계약은 토지, 건물대장
+  및 권리서에 기재되어 부동산 매매 시 신규 구입자에게로 승계되는 것입니다. 마지막으로, 이 계약은 미국의 근대도시계획 성립기에 지역제의 바탕이
+  된 제도라고 합니다. 선택지를 살펴보면, (A) 협약(covenant), (B) 획지분할규제(subdivision control), (C) 공도(official
+  mapping), (D) 성장관리(growth management)가 있습니다. (A) 협약(covenant)은 일반적으로 두 당사자 사이에 체결되는
+  계약을 의미하며, 부동산 매매에 있어서도 이용됩니다. 또한, 이 협약은 토지, 건물대장 및 권리서에 기재되어 부동산 매매 시 신규 구입자에게로
+  승계되는 것이 일반적입니다. (B) 획지분할규제(subdivision control)는 부동산 개발 과정에서 적용되는 규제로, 토지를 분할하여
+  개발하는 경우에 적용되는 규제입니다. 이 규제는 개발자가 토지를 분할하여 팔 때 적용되는 것이므로, 이는 부동산 소유자간의 계약이 아니라 개발업자와
+  구입자 사이의 계약에 더 가깝습니다. (C) 공도(official mapping)는 도시 계획을 위한 지도를 의미하며, 이는 도시의 미래 발전을
+  계획하는 데 사용됩니다. 이는 부동산 계약과는 직접적인 관련이 없습니다. (D) 성장관리(growth management)는 도시의 성장을 관리하고
+  통제하는 데 사용되는 정책이나 기법을 의미합니다. 이는 부동산 계약과는 직접적인 관련이 없습니다.  , 문제에서 요구하는 부동산 소유자간 또는
+  개발업자와 구입자 사이에 체결되는 민사계약이며, 이 계약은 지역제보다 훨씬 상세하고 엄격한 규정으로 되어 있으며, 이 계약은 토지, 건물대장 및
+  권리서에 기재되어 부동산 매매 시 신규 구입자에게로 승계되는 것이며, 이 계약은 미국의 근대도시계획 성립기에 지역제의 바탕이 된 제도는 (A)
+  협약(covenant)이 가장 적절한 선택입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_civil_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_computer_science.yaml

@@ -0,0 +1,128 @@
+dataset_name: computer_science
+doc_to_text: '질문: 암호 프로토콜 서비스에 대한 설명 중 옳지 않은 것은?
+
+  A.비밀성 : 자료 유출의 방지
+
+  B.접근제어 : 프로토콜 데이터 부분의 접근 제어
+
+  C.무결성 : 메시지의 변조를 방지
+
+  D.부인봉쇄 : 송수신 사실의 부정 방지
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 정확한 정의를 이해하는 것이
+  중요합니다. (A) 비밀성: 이는 데이터가 전송 중에 외부로부터 보호되어, 오직 수신자만이 그 내용을 이해할 수 있게 하는 것을 의미합니다. 이는
+  ''자료 유출의 방지''와 일치하는 설명입니다. (B) 접근제어: 이는 데이터나 리소스에 대한 접근을 제어하는 것을 의미합니다. 이는 일반적으로
+  사용자의 권한을 확인하고, 해당 권한에 따라 데이터나 리소스에 접근할 수 있는지를 결정합니다. 하지만, ''프로토콜 데이터 부분의 접근 제어''라는
+  설명은 정확하지 않습니다. 접근제어는 일반적으로 데이터나 리소스에 대해 적용되지, 특정 프로토콜 데이터 부분에 대해 적용되지는 않습니다. (C)
+  무결성: 이는 데이터가 전송 중에 변경되거나 손상되는 것을 방지하는 것을 의미합니다. 이는 ''메시지의 변조를 방지''와 일치하는 설명입니다.
+  (D) 부인봉쇄: 이는 데이터의 송수신 사실을 부정할 수 없게 하는 것을 의미합니다. 이는 ''송수신 사실의 부정 방지''와 일치하는 설명입니다.  ,
+  정확하지 않은 설명은 (B) 접근제어: 프로토콜 데이터 부분의 접근 제어입니다. ''프로토콜 데이터 부분의 접근 제어''라는 설명은 접근제어의
+  정의와 일치하지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 인터넷상에서 시스템 보안 문제는 중요한 부분이다. 보안이 필요한 네트워크 통로를 단일화하여 이 출구를 보안 관리함으로써 외부로부터의 불법적인
+  접근을 막는 시스템은?
+
+  A.해킹
+
+  B.펌웨어
+
+  C.크래킹
+
+  D.방화벽
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 인터넷상에서 시스템 보안 문제를 해결하기 위한 방법에
+  대한 질문입니다. 각 선택지를 분석해보겠습니다. (A) 해킹: 해킹은 시스템의 보안을 침해하는 행위를 의미합니다. 해킹은 보안 문제를 해결하는
+  방법이 아니라 보안 문제를 일으키는 원인 중 하나입니다.   이 선택지는 정답이 될 수 없습니다. (B) 펌웨어: 펌웨어는 컴퓨터나 장치의 제어
+  및 운영에 필요한 소프트웨어를 의미합니다. 펌웨어는 장치의 기능을 실행하는데 필요하지만, 직접적으로 보안을 관리하는 시스템은 아닙니다.   이
+  선택지도 정답이 아닙니다. (C) 크래킹: 크래킹은 보안 시스템을 무력화하거나 소프트웨어의 보호 기능을 제거하는 행위를 의미합니다. 해킹과 마찬가지로
+  크래킹도 보안 문제를 일으키는 원인 중 하나이므로 이 선택지도 정답이 아닙니다. (D) 방화벽: 방화벽은 네트워크의 보안을 유지하기 위해 설계된
+  시스템입니다. 네트워크 통로를 단일화하여 이 출구를 보안 관리함으로써 외부로부터의 불법적인 접근을 막습니다. 이 설명은 질문에서 요구하는 시스템의
+  기능과 일치합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 인터넷에서 일어날 수 있는 대표적인 보안사고 유형으로 어떤 침입 행위를 시도하기 위해 일정기간 위장한 상태를 유지하며, 코드 형태로 시스템의
+  특정 프로그램 내부에 존재 하는 것은?
+
+  A.논리 폭탄
+
+  B.웜
+
+  C.트로이 목마
+
+  D.잠입
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 질문은 인터넷 보안에 관한 것으로, 특정한 침입
+  행위를 위해 일정 기간 동안 위장하고, 코드 형태로 시스템의 특정 프로그램 내부에 존재하는 보안사고 유형에 대한 것입니다. 선택지를 하나씩 살펴보면,
+  (A) 논리 폭탄은 특정 조건이 충족될 때까지 자신의 존재를 숨기고 그 조건이 만족되면 행동을 시작하는 프로그램을 의미합니다. 하지만 이는 특정
+  시간 동안 위장하는 것이 아니라 특정 조건이 충족될 때까지 대기하는 것이므로 이 질문의 답이 아닙니다. (B) 웜은 네트워크를 통해 시스템에 침입하고
+  자신을 복제하여 다른 시스템에 전파하는 코드를 의미합니다. 웜은 자동으로 전파되지만 특정 프로그램 내부에 숨어있다가 공격하는 것은 아니므로 이
+  질문의 답이 아닙니다. (C) 트로이 목마는 사용자가 원하는 프로그램처럼 보이지만 실제로는 시스템에 해를 끼치는 코드를 실행하는 악성 프로그램입니다.
+  트로이 목마는 사용자가 원하는 프로그램으로 위장하여 시스템에 침입하고, 일정 시간 동안 그 상태를 유지할 수 있습니다. (D) 잠입은 시스템에
+  무단으로 들어가 정보를 훔치는 행위를 의미합니다. 하지만 이는 특정 프로그램 내부에 숨어있다가 공격하는 것이 아니라 시스템 자체에 침입하는 것이므로
+  이 질문의 답이 아닙니다.  , 이 질문의 답은 (C) 트로이 목마입니다. 이 악성 프로그램은 사용자가 원하는 프로그램으로 위장하여 시스템에 침입하고,
+  일정 시간 동안 그 상태를 유지할 수 있습니다. 이는 질문에서 언급한 "일정 기간 동안 위장하고, 코드 형태로 시스템의 특정 프로그램 내부에 존재하는"
+  보안사고 유형을 가장 잘 설명합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: DNS(Domain Name System) 서버 종류에 속하지 않는 것은?
+
+  A.Primary Server
+
+  B.OPTIONache Server
+
+  C.Expert Server
+
+  D.Master Name Server
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. DNS(Domain Name System)는 웹 브라우징에
+  있어 핵심적인 역할을 하는 시스템입니다. 이 시스템은 사람이 읽을 수 있는 도메인 이름을 컴퓨터가 이해할 수 있는 IP 주소로 변환하는 역할을
+  합니다. 이렇게 하면 사용자가 웹사이트의 IP 주소를 외우지 않고도 웹사이트를 방문할 수 있습니다. DNS 서버의 종류에 대해 알아보면 다음과
+  같습니다. (A). Primary Server: 이는 DNS 구조의 가장 중요한 서버입니다. 모든 DNS 레코드를 저장하고, 이 정보를 다른 DNS
+  서버에 제공합니다. (B). Cache Server: 이 서버는 DNS 요청에 대한 응답을 임시로 저장하는 역할을 합니다. 이를 통해 같은 요청이
+  들어올 때마다 Primary Server에 접속하지 않고 빠르게 응답할 수 있습니다. (D). Master Name Server: 이는 Primary
+  Server와 같은 역할을 합니다. DNS 구조에서 가장 중요한 서버로, 모든 DNS 레코드를 저장하고, 이 정보를 다른 DNS 서버에 제공합니다.
+  그러나, (C). Expert Server는 DNS 서버의 종류로 존재하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 보안 OS(Secure OS)에 대한 설명 중 가장 옳지 않은 것은?
+
+  A.OPTION1급은 보안에 대한 기능이 없는 것으로, MS-OPTIONOS 등이 이에 해당한다.
+
+  B.OPTION1급은 사용자의 접근제어, OPTIONuditing, Shadow Password 등의 부가적인 기능이 제공된다.
+
+  C.OPTION급의 보안OS는 다단계 보안을 제공하며, 필수적인 접근제어 등이 제공된다.
+
+  D.OPTION급은 검증된 설계 수준으로서 수학적인 검증 과정이 요구된다.
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 보안 운영 체제(Secure OS)의 분류에 대한 설명
+  중에서 가장 옳지 않은 것을 찾으려면, 각 옵션에 제시된 내용을 TCSEC(Trusted Computer System Evaluation Criteria)의
+  기준에 따라 검토해야 합니다. TCSEC은 미국 국방부에서 개발한 시스템 보안 등급을 정의한 기준입니다. 각 등급은 다음과 같은 특징을 가집니다:
+  D등급 (Minimal Protection): 보안 설정이 전혀 이루어지지 않은 시스템. C1등급 (Discretionary Security Protection):
+  일반적인 로그인 과정이 있으며, 사용자 간 침범이 차단됨. 사용자는 자신이 생성한 파일에 대한 권한 설정이 가능. C2등급 (Controlled
+  Access Protection): 계정별 로그인 가능, 그룹별 통제가 가능한 시스템. B1등급 (Labeled Security): 시스템에 보안
+  정책 적용 가능, 데이터에 보안 레벨 설정 가능. B2등급 (Structured Protection): B1 등급의 기능을 모두 포함, 정형화된
+  보안 정책 존재. B3등급 (Security Domains): 운영체제상 불필요한 영역 제거, 모듈별 분석 및 테스트 가능. 시스템 파일 및 디렉터리에
+  대한 접근 방식 지정, 위험 동작 사용자에 대한 백업 자동화. A1등급 (Verified Design): 수학적으로 완벽한 시스템 설계. 이 정보를
+  바탕으로 각 옵션을 검토해 보면: (A) D1급은 보안 기능이 없는 것으로 설명되어 있는데, 실제로 D등급은 보안 설정이 전혀 이루어지지 않은
+  시스템을 의미합니다. (B) C1급은 사용자의 접근 제어, 감사 추적(Auditing), Shadow Password 등의 부가적인 기능이 제공된다고
+  설명되어 있으나, 실제 C1 등급은 일반적인 로그인 과정이 있고 사용자 간 침범을 차단��는 정도의 기능을 제공합니다. 감사 추적이나 Shadow
+  Password는 C1에서 특별히 언급되지 않습니다. (C) B급의 보안 OS는 다단계 보안을 제공하며, 필수적인 접근제어 등이 제공된다고 설명되어
+  있으며, 이는 B등급의 특징을 정확하게 반영합니다. (D) A급은 검증된 설계 수준으로서 수학적인 검증 과정이 요구된다고 설명되어 있으며, 이는
+  A1등급의 특징을 정확하게 반영합니다. 그러나, C1급은 주어진 설명에서 언급된 감사 추적(Auditing)이나 Shadow Password와
+  같은 부가적인 기능보다는 사용자 간 침범 차단과 사용자별 파일 권한 설정에 초점을 맞춘 것으로 정의됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_computer_science

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_criminal_law.yaml

@@ -0,0 +1,136 @@
+dataset_name: criminal_law
+doc_to_text: '질문: 책임능력에 대한 설명으로 옳은 것은?
+
+  A.심 신장애는 생물학적 요소 외에 심리학적 요소로서 정신병 또는 비정상적 정신 상태와 같은 정신적 장애로 말 미암아 사물에 대한 변별 능력과
+  그에 따른 행위 통제능력이 결여되거나 감소되었음을 요한다.
+
+  B.심 신장애인의 행위인지 여부는 전문가의 감정, 그 행위의 전 후 사정이나 기록에 나타난 제반 자료를 종합하여 인정하되 , 공판정 에서의 피고인의
+  태도를 고려하여서는 안 된다.
+
+  C.성적 측면에서의 성격적 결함에 따른 소아기 호증은 그 증상이 심각하여 원래의 의 미의 정신병이 있는 사람과 동 등하다고 평가할 수 있더라도
+  심신장애를 인정할 여지는 없다.
+
+  D.위험의 발생을 예견할 수 있었는데도 자의로 심신장애를 야기한 경우는 원인에 있어서 자유로운 행위에 관한 형 법 제10조 제3항의 적용 대상이
+  아니다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 책임능력은 행위자가 자신의 행위의 결과를 인식하고 그에
+  대한 책임을 질 수 있는 능력을 말합니다. 이는 생물학적 요소와 심리학적 요소로 구성됩니다. 생물학적 요소는 신체적 또는 정신적 질환이나 장애를
+  의미하며, 심리학적 요소는 사물에 대한 변별 능력과 그에 따른 행위 통제능력을 의미합니다. 사물에 대한 변별 능력은 행위의 옳고 그름을 판단할
+  수 있는 능력을 말합니다. 행위 통제능력은 자신의 행동을 통제할 수 있는 능력을 말합니다. 이러한 능력이 결여되거나 감소된 경우에는 책임능력이
+  없다고 판단됩니다. (B)는 공판정에서의 피고인의 태도를 고려하지 않는다는 부분이 옳지 않습니다. 피고인의 태도는 책임능력을 판단하는 데 중요한
+  요소 중 하나입니다. (C)는 성적 측면에서의 성격적 결함에 따른 소아기호증은 심신장애를 인정할 여지가 있다는 것이 최근 대법원 판례의 입장입니다.   옳지
+  않습니다. (D)는 위험의 발생을 예견할 수 있었는데도 자의로 심신장애를 야기한 경우는 원인에 있어서 자유로운 행위에 관한 형법 제10조 제3항의
+  적용 대상이 됩니다.   옳지 않습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 형법상 가석방 제도에 대한 설명으로 옳은 것은?
+
+  A.형기에 산입된 판결 선고 전 구금의 일수는 가석방에 있어서 집행을 경과한 기간에 산입하지 아니한다.
+
+  B.가석방의 기간은 무기형에 있어서는 20년으로 하고, 유기형에 있어서는 남은 형기로 하되, 그 기간은 10년을 초과할 수 없다.
+
+  C.징역 또는 금고의 집행 중에 있는 자가 그 행상이 양호하여 개전의 정이 현저한 때에는 무기에 있어서는 10년, 유기에 있어서는 형기의 2분의
+  1을 경과한 후 행정처분으로 가석방을 할 수 있다.
+
+  D.가석방의 처분을 받은 자가감시에 관한 규칙을 위배하거나, 보호관찰의 준수사항을 위반하고 그 정도가 무거운 때에는 가석방 처분을 취소할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 형법 제57조 제1항에 따르면, 형기에 산입된 판결
+  선고 전 구금의 일수는 가석방에 있어서 집행을 경과한 기간에 산입한다고 명시되어 있습니다.   (A)는 옳지 않습니다. (B) 형법 제73조의2에
+  따르면, 가석방의 기간은 무기형에 있어서는 10년으로 하고, 유기형에 있어서는 남은 형기로 하되, 그 기간은 10년을 초과할 수 없다고 명시되어
+  있습니다.   (B)는 옳지 않습니다. (C) 형법 제72조 제1항에 따르면, 징역 또는 금고의 집행 중에 있는 자가 그 행상이 양호하여 개전의
+  정이 현저한 때에는 무기에 있어서는 10년, 유기에 있어서는 형기의 3분의 1을 경과한 후 행정처분으로 가석방을 할 수 있다고 명시되어 있습니다.   (C)는
+  옳지 않습니다. (D) 형법 제75조에 따르면, 가석방의 처분을 받은 자가 감시에 관한 규칙을 위배하거나, 보호관찰의 준수사항을 위반하고 그 정도가
+  무거운 때에는 가석방 처분을 취소할 수 있다고 명시되어 있습니다.   (D)는 옳은 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 공소시효에 대한 설명으로 옳지 않은 것은?
+
+  A.범죄 후 법률의 개정에 의하여 법정형이 가 벼워진 경우에는 형법 제1조 제2항에 의하여 당해 범죄 사실에 적용될 가벼운 법정형인 신법의 법정형이
+  공소시효 기간의 기준이 된��.
+
+  B.1개의 행위가 형법 상 사기죄와 변호사법 위반죄에 해당하고 양 죄가 상상적 경합 관계에 있는 경우, 변호사법 위반죄의 공소시효가 완성되었다면
+  사기죄의 공소시효도 완성된 것으로 보아야 한다.
+
+  C.공범의 1인으로 기소된 자가 범죄의 증명이 없다는 이유로 무죄의 확정 판결을 선 고 받은 경우, 그는 공범이라고 할 수 없으므로 그에 대하여
+  제기된 공소는 진범에 대한 공소시효를 정 지시키는 효력이 없다.
+
+  D.공범의 1인에 대한 공소시효 정지는 다른 공범자에게 대하여 그 효력이 미치는데 , 여기의 ‘공범’에는 뇌물공여죄와 뇌물수수죄 사이와 같은 대
+  향범 관계에 있는 자는 포함되지 않는다 .
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지가 어떤 내용을 담고 있는지 확인해봅시다. (A)는
+  범죄 후 법률의 개정에 따라 법정형이 가벼워진 경우, 가벼운 법정형의 신법이 공소시효 기간의 기준이 된다는 내용입니다. 형법 제1조 제2항에 따르면,
+  범죄를 저지른 후 법률이 변경되어 처벌이 가벼워진 경우에는 그 가벼운 처벌을 적용해야 한다는 내용이므로 이는 맞는 내용입니다. (B)는 1개의
+  행위가 사기죄와 변호사법 위반죄에 해당하며, 두 죄가 상상적 경합 관계에 있는 경우, 변호사법 위반죄의 공소시효가 완성되면 사기죄의 공소시효도
+  완성된다는 내용입니다. 상상적 경합이란 하나의 행위로 여러 죄가 동시에 성립하는 경우를 말합니다. 그러나 각각의 죄는 독립적으로 공소시효가 적용되므로,
+  한 죄의 공소시효가 완성되었다고 해서 다른 죄의 공소시효가 완성되는 것은 아닙니다. (C)는 공범에 대한 공소시효에 대한 내용입니다. 이 내용은
+  공범이 무죄 판결을 받은 경우, 그 공범에 대한 공소가 다른 진범에 대한 공소시효를 정지시키지 않는다는 내용입니다. 이는 형법의 공소시효에 대한
+  일반적인 원칙과 일치합니다. 공범이 무죄 판결을 받았다면, 그는 법적으로 공범이 아니므로 그에 대한 공소가 다른 진범에 대한 공소시효를 정지시키는
+  효력은 없습니다. (D)는 공범 중 한 명에 대한 공소시효 정지가 다른 공범에게 그 효력이 미치지만, 뇌물공여죄와 뇌물수수죄 사이와 같은 대향범
+  관계에 있는 자는 포함되지 않는다는 내용입니다. 이는 맞는 내용입니다. 대향범 관계는 한 죄를 저지른 자와 그 죄를 교사하거나 선동한 자 등이
+  서로 다른 죄를 저지른 관계를 말하며, 이 경우 각각의 죄는 독립적으로 공소시효가 적용됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 상소심에 대한 설명으로 옳지 않은 것은?
+
+  A.피고인이 공소 기각의 판결에 대하여 무죄를 주장하며 상소하는 것은 상소 이익이 없으므로 허용되지 않는다 .
+
+  B.상고심 판결의 파기 이유가 된 사실상의 판단은 당해 사건의 하급심에 대하여 기 속력을 가지며 , 이 경우에 파기 판결의 기 속력은 파기의 직접
+  이유가 된 원 심판결에 대한 소극적인 부정 판단에 한하여 생긴 다 .
+
+  C.피고인이 제1심 판결에 대하여 양형 부당만을 항소이유로 내세워 항소하였다가 기각된 경우, 피고인은 그 항소심 판결에 대하여 사실 오인 또는
+  법리 오해의 위법이 있다는 것을 상고 이유로 삼을 수 없다.
+
+  D.법률의 해석 ㆍ 적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 항소심 판결에 대하여 검사만이 다른 사유를 들어 상고를 제기하였고 검사의
+  상고가 피고인의 이익을 위하여 제기된 것이 아님이 명백한 경우라면 , 상고법원은 직권으로 심판하여 무죄의 취지로 항소심 판결을 파기할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지를 하나씩 살펴보겠습니다. (A)는 피고인이
+  공소 기각의 판결에 대해 무죄를 주장하며 상소하는 것은 상소 이익이 없으므로 허용되지 않는다는 내용입니다. 이는 피고인이 이미 공소 기각, 즉
+  무죄 판결을 받았음에도 무죄를 주장하며 상소하는 것은 실질적인 이익이 없으므로 상소가 허용되지 않는다는 법리를 설명하고 있습니다. 이는 법적으로
+  옳은 설명입니다. (B)는 상고심 판결의 파기 이유가 된 사실상의 판단은 당해 사건의 하급심에 대하여 기 속력을 가지며, 이 경우에 파기 판결의
+  기 속력은 파기의 직접 이유가 된 원 심판결에 대한 소극적인 부정 판단에 ��하여 생긴다는 내용입니다. 이는 상고심 판결의 파기 이유가 된 사실
+  판단이 하급심에 대한 기속력을 가진다는 법리를 설명하고 있으며, 이는 법적으로 옳은 설명입니다. (C)는 피고인이 제1심 판결에 대하여 양형 부당만을
+  항소이유로 내세워 항소하였다가 기각된 경우, 피고인은 그 항소심 판결에 대하여 사실 오인 또는 법리 오해의 위법이 있다는 것을 상고 이유로 삼을
+  수 없다는 내용입니다. 이는 피고인이 양형 부당만을 항소이유로 내세웠다가 기각된 경우, 그 항소심 판결에 대해 새로운 상고 이유를 제시할 수 없다는
+  법리를 설명하고 있습니다. 이 역시 법적으로 옳은 설명입니다. (D)는 법률의 해석ㆍ적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 항소심 판결에
+  대하여 검사만이 다른 사유를 들어 상고를 제기하였고 검사의 상고가 피고인의 이익을 위하여 제기된 것이 아님이 명백한 경우라면, 상고법원은 직권으로
+  심판하여 무죄의 취지로 항소심 판결을 파기할 수 없다는 내용입니다. 하지만, 법률의 해석ㆍ적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 경우라면,
+  상고법원은 검사의 상고가 피고인의 이익을 위하여 제기된 것이 아님에도 불구하고 직권으로 심판하여 무죄의 취지로 항소심 판결을 파기할 수 있습니다.   이
+  선택지는 잘못된 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 형법 제1조 제2항에 대한 설명으로 옳지 않은 것은?
+
+  A.범죄 후 법률의 변경이 있더라도 형의 변경이 없는 경우에는 형법 제1조 제1항에 따라 행위 시법을 적용해야 한다.
+
+  B.형의 경중의 비교는 원칙적으로 법정형을 표준으로 하고, 처단형이나 선고형에 의할 것은 아니다 .
+
+  C.범죄 후 형벌법규의 위임을 받은 법령의 변경에 따라 범죄를 구성하지 아니하게 된 경우, 종전 법령이 범죄로 정하여 처벌한 것이 부당하였다는
+  반성적 고려에 따라 변경된 경우에 한하여 형 법 제1조 제2항이 적용된 다 .
+
+  D.행위 시 양벌규정에는 법인에 대한 면책 규정이 없었으나 법률 개정으로 면책 규정이 추가된 경우, 법원은 형법 제1조 제2항에 따라 피고인에게
+  개정된 양벌규정을 적용해야 한다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 형법 제1조 제2항에 따르면, 범죄 후 법률의 변경에 의하여
+  그 행위가 범죄를 구성하지 아니하거나 형이 구법보다 경한 때에는 신법에 의한다고 규정하고 있습니다. 즉, 법률이 변경된 경우에는 그 변경된 법률을
+  적용해야 한다는 것입니다. (A)는 옳은 설명입니다. 범죄 후 법률의 변경이 있더라도 형의 변경이 없는 경우에는 형법 제1조 제1항에 따라 행위
+  시법을 적용해야 합니다. (B)는 옳은 설명입니다. 형의 경중의 비교는 원칙적으로 법정형을 표준으로 하고, 처단형이나 선고형에 의할 것은 아닙니다.
+  (D)는 옳은 설명입니다. 행위 시 양벌규정에는 법인에 대한 면책 규정이 없었으나 법률 개정으로 면책 규정이 추가된 경우, 법원은 형법 제1조
+  제2항에 따라 피고인에게 개정된 양벌규정을 적용해야 합니다. (C)는 옳지 않은 설명입니다. 범죄 후 형벌법규의 위임을 받은 법령의 변경에 따라
+  범죄를 구성하지 아니하게 된 경우, 종전 법령이 범죄로 정하여 처벌한 것이 부당하였다는 반성적 고려에 따라 변경된 경우에 형법 제1조 제2항이
+  적용되는 것은 맞지만, 법령의 변경이 있더라도 그것이 반성적 고려에서 비롯된 것이 아니라면 형법 제1조 제2항이 적용되지 않습니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_criminal_law

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_economics.yaml

@@ -0,0 +1,122 @@
+dataset_name: economics
+doc_to_text: '질문: 기업실체의 이해 관계자가 유용한 의사결정을 하기 위해서는 적시성 있는 정보가 필요하다. 이러한 정보수요를 충족시키기
+  위하여 기업 실체의 존속기간을 일정한 기간 단위로 분할하여 재무제표를 작성하는 기본가정은 무엇인가?
+
+  A.기간별 보고
+
+  B.목적적합성
+
+  C.화폐단위의 안정
+
+  D.신뢰성
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 기업실체의 이해 관계자가 유용한 의사결정을 하기 위해서는
+  적시성 있는 정보가 필요하다는 말은 기업의 재무 상황에 대한 정보가 시간적으로 지연 없이 제공되어야 한다는 것을 의미합니다. 이를 위해 기업 실체의
+  존속기간을 일정한 기간 단위로 분할하여 재무제표를 작성하는 기본가정을 찾아야 합니다. (A) 기간별 보고는 기업의 존속기간을 일정한 기간으로 분할하여
+  재무제표를 작성하고 이를 이해관계자에게 보고해야 한다는 원칙을 의미합니다. 이 원칙은 적시성 있는 정보 제공을 보장하며, 이해관계자가 유용한 의사결정을
+  할 수 있도록 돕습니다.  , 기업실체의 존속기간을 일정한 기간 단위로 분할하여 재무제표를 작성하는 기본가정은 ''기간별 보고''가 가장 적합하다고
+  볼 수 있습니다. (B) 목적적합성은 재무정보가 특정 목적에 적합해야 한다는 원칙을 의미합니다. 이 원칙은 재무정보가 의사결정에 도움이 되기 위해
+  필요하지만, 이 경우에는 적시성과 직접적인 연관성이 없습니다. (C) 화폐단위의 안정은 재무정보가 안정된 화폐 단위로 표시되어야 한다는 원칙을
+  의미합니다. 이 원칙은 재무제표의 비교 가능성을 보장하지만, 이 경우에는 적시성과 직접적인 연관성이 없습니다. (D) 신뢰성은 재무정보가 정확하고
+  오류가 없어야 한다는 원칙을 의미합니다. 이 원칙은 재무제표가 신뢰성을 가질 때만 의사결정에 도움이 되지만, 이 경우에는 적시성에 직접적으로 관련되어
+  있지 않습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 유형자산의 감가상각에 대한 설명으로 옳은 않은 것은?
+
+  A.감가상각이란 감가상각대상금액을 내용연수에 걸쳐 합리적이고 체계적으로 배분하는 것을 말한다.
+
+  B.감가상각대상금액은 취득원가에서 잔존가치를 차감한 금액으로 한다.
+
+  C.정액법은 유형자산의 내용연수 동안 일정액의 감가상각액을 인식하는 방법이다.
+
+  D.정률법을 적용하면 내용연수 초기보다 후기에 감가상각비를 더 많이 인식하게 된다.
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 내용을 확인해봅시다. (A) 선택지는
+  감가상각에 대한 일반적인 정의를 제공합니다. 감가상각이란 기업이 자산을 사용함에 따라 그 가치가 감소하는 것을 회계적으로 반영하는 것을 말합니다.
+  이는 자산의 사용기간 동안 체계적이고 합리적인 방식으로 이루어집니다.   이 선택지는 옳습니다. (B) 선택지는 감가상각 대상 금액에 대해 설명하고
+  있습니다. 감가상각 대상 금액은 일반적으로 자산의 취득원가에서 잔존가치를 뺀 금액입니다. 잔존가치는 자산의 사용기간이 끝난 후에도 여전히 가지고
+  있는 가치를 의미합니다.   이 선택지도 옳습니다. (C) 선택지는 정액법에 대해 설명하고 있습니다. 정액법은 감가상각의 한 방법으로, 이는 각
+  회계기간 동안 일정한 금액의 감가상각비를 인식하는 방법입니다.   이 선택지도 옳습니다. (D) 선택지는 정률법에 대해 설명하고 있습니다. 정률법은
+  감가상각의 한 방법으로, 자산의 장부가치에 일정한 비율을 적용하여 감가상각비를 계산하는 방법입니다. 이 방법을 사용하면, 사용기간이 길어질수록
+  감가상각비가 감소하게 됩니다. 이는 정률법이 장부가치(취득원가에서 누적 감가상각비를 뺀 금액)에 기반하기 때문입니다.  , 이 선택지는 옳지 않습니다.
+  따라서, 정답은 (D) 입니다.
+
+
+  질문: (주)한공은 (주)서울 소유의 건물을 3년간 사용하기로 하는 전세계약을 체결하고, 전세금 10,000,000원을 지급하였다. (주)한공은
+  전세금 10,000,000원을 비유동자산 중 어떤 계정과목으로 표시하여야 하는가?
+
+  A.장기외상매출금
+
+  B.구축물
+
+  C.임대보증금
+
+  D.임차보증금
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니��. 먼저, 전세계약이란 임차인이 일정 기간 동안 건물 등을 사용할
+  권리를 얻기 위해 임대인에게 일정 금액을 지급하는 계약을 말합니다. 여기서 (주)한공은 임차인의 입장이며, (주)서울은 임대인의 입장입니다. 다음으로,
+  전세금은 임차인이 임대인에게 건물 등을 사용할 권리를 얻기 위해 지급하는 금액을 말합니다.   이 금액은 임차인인 (주)한공이 임대인인 (주)서울에게
+  지급한 금액이므로, 이는 (주)한공의 비유동자산 중 하나로 간주될 수 있습니다. 선택지를 보면, (A) 장기외상매출금, (B) 구축물, (C)
+  임대보증금, (D) 임차보증금이 있습니다. (A) 장기외상매출금은 장기적으로 회수가 예정된 매출금을 말하며, 이는 (주)한공이 전세금을 지급한
+  상황과는 관련이 없습니다. (B) 구축물은 (주)한공이 직접 건물을 건설하거나 개선하는 경우에 해당되므로, 이 역시 전세금을 지급한 상황과는 관련이
+  없습니다. (C) 임대보증금은 임대인이 임차인에게 보증금을 지급하는 경우에 해당되므로, 이는 (주)한공이 전세금을 지급한 상황과는 관련이 없습니다.
+  (D) 임차보증금은 임차인이 임대인에게 건물 등을 사용할 권리를 얻기 위해 지급하는 금액을 말합니다.   이는 (주)한공이 전세금 10,000,000원을
+  지급한 상황과 일치합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 개인일반과세자 甲은 2014년 2월 10일에 부동산임대업을 폐업하였다. 甲이 2014년 1월 1일부터 2014년 2월 10일까지의 거래에
+  대한 부가가치세 확정 신고기한으로 옳은 것은?
+
+  A.2014년 2월 25일
+
+  B.2014년 3월 25일
+
+  C.2014년 4월 25일
+
+  D.2014년 7월 25일
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 개인일반과세자의 부가가치세 확정 신고 기간은 제1기(1월
+  1일부터 6월 30일까지)와 제2기(7월 1일부터 12월 31일까지)로 구분되며, 각 기의 확정 신고 기한은 다음과 같습니다. - 제1기 확정
+  신고: 매년 7월 1일부터 7월 25일까지 - 제2기 확정 신고: 매년 1월 1일부터 1월 25일까지 그러나, 이는 일반적인 사업 연도에 대한
+  확정신고기한이며, 폐업한 경우에는 다르게 적용됩니다. 폐업한 경우에는, 폐업일이 속하는 달의 말일로부터 25일 이내에 부가가치세 확정신고를 해야
+  합니다. 이를 바탕으로 질문에 대해 생각해보면, 甲이 2014년 2월 10일에 부동산임대업을 폐업하였으므로, 폐업일이 속하는 2월의 말일로부터
+  25일 이내인 2014년 3월 25일까지 확정신고를 해야 합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: (주)한공은 종원원이 퇴사하여 퇴직금 10,000,000원을 보통예금계좌에서 지급하였다. 이 거래를 회계처리한 후 나타나는 결과로 옳은
+  것은? (단, 종업원 퇴사직전 퇴직급여충당부채 잔액은 7,000,000원이다.)
+
+  A.자산이 증가한다.
+
+  B.자본금이 증가한다.
+
+  C.부채가 감소한다.
+
+  D.이익잉여금이 증가한다.
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, (주)한공이 종업원인 종원원에게 퇴직금 10,000,000원을
+  지급하였다고 합니다. 이는 회사의 자산인 ''보통예금''에서 10,000,000원이 줄어들었다는 의미입니다.   자산은 감소하였습니다. 이로 인해
+  선택지 A는 옳지 않습니다. 다음으로, 자본금이란 주주들이 회사에 투자한 금액을 말합니다. 이 경우에는 종원원의 퇴직금 지급과 관련하여 주주들이
+  추가적으로 회사에 투자한 내용이 없으므로, 자본금은 변동하지 않습니다.   선택지 B도 옳지 않습니다. 다음으로, 퇴직급여충당부채 잔액이 7,000,000원이었다고
+  합니다. 퇴직급여충당부채란 회사가 직원의 퇴직금을 지급할 의무를 미리 인식하고 이를 부채로 계상하는 것을 말합니다. 즉, 이는 회사의 부채입니다.
+  종원원에게 퇴직금을 지급함으로써 이 부채는 감소하게 됩니다. 하지만, 퇴직금 10,000,000원 중에서 부채로 계상되어 있던 7,000,000원을
+  지급한 것이므로, 부채는 7,000,000원 감소하게 됩니다.   선택지 C는 옳습니다. 그런데 퇴직금 10,000,000원 중에서 부채로 계상되어
+  있던 금액을 초과하는 3,000,000원 (10,000,000원 - 7,000,000원)은 어떻게 처리되었을까요? 이 금액은 회사의 이익에서 차감되어야
+  합니다. 이는 이익잉여금, 즉 회사가 벌어들인 이익에서 퇴직금 등을 지급한 후 남은 금액이 감소한다는 의미입니다.   선택지 D는 옳지 않습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_economics

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_education.yaml

@@ -0,0 +1,115 @@
+dataset_name: education
+doc_to_text: '질문: 신 교육 사회학에 대한 설명으로 옳지 않은 것은?
+
+  A.학교 교육과정 또는 교육내용에 주목한다.
+
+  B.불평등의 문제를 학교 교육 안에서 찾는다.
+
+  C.학교에서 가르치는 지식의 사회적 성격을 탐구한다.
+
+  D.구조기능주의에 기반하여 교육의 사회적 기능을 탐구한다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 신 교육 사회학은 학교 교육에 대한 사회학적 연구로서,
+  학교 교육이 사회적으로 어떻게 구성되고 어떤 영향을 미치는지에 대한 탐구를 수행합니다. 이를 바탕으로 선택지를 살펴보겠습니다. (A) 학교 교육과정
+  또는 교육내용에 주목한다는 것은 신 교육 사회학의 주요한 특징 중 하나입니다. 신 교육 사회학은 교육과정이 사회적으로 구성되어 있으며, 이에 따라
+  학생들이 습득하는 지식과 가치가 영향을 받는다고 주장합니다. (B) 불평등의 문제를 학교 교육 안에서 찾는다는 것도 신 교육 사회학의 중요한 특징
+  중 하나입니다. 신 교육 사회학은 학교 교육이 사회적 불평등을 재생산하는 데에 기여한다고 주장합니다. (C) 학교에서 가르치는 지식의 사회적 성격을
+  탐구한다는 것은 신 교육 사회학의 핵심적인 주장 중 하나입니다. 신 교육 사회학은 지식이 사회적으로 구성되어 있으며, 학교에서 가르치는 지식 역시
+  사회적 맥락에 따라 형성된다고 주장합니다. (D) 구조기능주의에 기반하여 교육의 사회적 기능을 탐구한다는 것은 신 교육 사회학의 특징이 아닙니다.
+  신 교육 사회학은 구조기능주의에 비판적이며, 교육의 사회적 기능을 다른 관점에서 해석합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 피들러(Fiedler)의 리더십 상황이론에서 강조하는 ‘상황’ 요소에 포함되지 않는 것은?
+
+  A.구성원의 성숙도
+
+  B.과업의 구조화 정도
+
+  C.지도자와 구성원의 관계
+
+  D.지도자가 구성원에 대해 가지고 있는 영향력의 정도
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 피들러의 리더십 상황이론은 리더의 성향과 상황 요소를 중심으로
+  한 이론입니다. 이 이론에 따르면, 리더의 성향과 상황 요소의 적절한 조합이 효과적인 리더십을 만들어낸다는 것이 핵심입니다. 상황 요소에는 ''과업의
+  구조화 정도'', ''지도자와 구성원의 관계'', ''지도자가 구성원에 대해 가지고 있는 영향력의 정도'' 등이 포함됩니다. ''과업의 구조화
+  정도''는 과업이 얼마나 명확하게 정의되고, 어떻게 수행되어야 하는지에 대한 정도를 의미합니다. ''지도자와 구성원의 관계''는 상호 신뢰, 존경,
+  감정적 애착 등을 포함합니다. ''지도자가 구성원에 대해 가지고 있는 영향력의 정도''는 리더의 권위와 영향력을 의미합니다. 그러나 ''구성원의
+  성숙도''는 허시-블랜차드의 리더십 이론에서 중요한 요소로 다루어지는 개념입니다. 이 이론에서는 구성원의 역량과 동기에 따라 리더십 스타일을 조절해야
+  한다는 주장을 하고 있습니다.  , 피들러의 리더십 상황이론에서 강조하는 ''상황'' 요소에는 ''구성원의 성숙도''가 포함되지 않습니다. 이는
+  허시-블랜차드의 리더십 이론에서 중요하게 다루어지는 요소입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 교육행정의 원리에 대한 설명으로 옳지 않은 것은?
+
+  A.안정성 의 원리는 교육정책을 일관되고 지속적으로 추진해야 한다는 것이다.
+
+  B.효율성 의 원리는 교육에 투입되는 비용을 상대적으로 적게 하면서 교육 목표를 달성하려는 것이다.
+
+  C.자주 성의 원리는 지역의 특수성과 다양성을 반영하여 주민의 적극적인 의사와 자발적인 참여를 강조하는 것이다.
+
+  D.민주성 의 원리는 이해당사자들의 의사를 적극적으로 반영하고 그들을 의사결정 과정에 적절하게 참여시켜야 한다는 것이다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 교육행정의 원리에 대해 알아보겠습니다. 우선 교육행정의 원리는
+  합법성, 기회균등, 자주성 존중, 지방분권, 민주성, 공공성, 효율성, 안정성 유지, 전문성 보장의 원리로 이루어진 9가지가 존재합니다. (A)
+  안정성의 원리는 교육정책을 일관되고 지속적으로 추진해야 한다는 것으로, 교육의 효과를 높이고 사회적 안정을 유지하기 위해 중요합니다. (B) 효율성의
+  원리는 교육에 투입되는 비용을 상대적으로 적게 하면서 교육 목표를 달성하려는 것으로, 교육 예산을 효율적으로 활용하고 교육의 성과를 높이기 위해
+  중요합니다. (D) 민주성의 원리는 이해당사자들의 의사를 적극적으로 반영하고 그들을 의사결정 과정에 적절하게 참여시켜야 한다는 것으로, 교육행정의
+  공정성과 투명성을 높이고 교육의 발전을 이루기 위해 중요합니다. 하지만, (C) 자주성의 원리는 교육행정의 원리에 해당하지 않습니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: 문화실조론의 주장으로 옳지 않은 것은?
+
+  A.학생의 학습 실패 중요 요인으로 학생의 문화적 경험 부족을 지목한다.
+
+  B.문화적 상대주의 관점이며, 학생 간의 교육격차가 문화적 결핍 보다는 문화적 차이 때문이라고 본다.
+
+  C.빈곤 가정의 결핍된 문화적 환경을 보상하기 위한 프로그램 중 하나가 헤드스타트 프로그램이다.
+
+  D.학교에서 학생들의 성공과 실패는 유전적으로 결정된 것이 아니라고 본다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 문화실조론에 대해 알아보겠습니다. 문화실조론은 1960년대
+  미국에서 빈곤층 아동들의 학업 성적 저하를 설명하기 위해 제기된 이론입니다. 이 이론은 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족이 주된 원인이라고 주장합니다. 이에 따라 빈곤층 아동들의 문화적 경험을 풍부하게 하기 위한 여러 프로그램들이 제안되었는데, 그 중 하나가
+  헤드스타트 프로그램입니다. 선택지 (A)는 문화실조론의 주요 주장을 잘 나타내고 있습니다. 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족 때문이라는 것이 이론의 핵심입니다.   (A)는 문화실조론의 주장입니다. 선택지 (B)는 문화적 상대주의 관점을 언급하고 있습니다. 이는
+  문화실조론과는 약간 다른 관점입니다. 문화적 상대주의는 모든 문화가 동등하다는 주장이며, 이는 문화실조론이 주장하는 ''문화적 결핍''과는 상반되는
+  개념입니다. 문화실조론은 특정 문화(여기서는 빈곤층 아동들의 문화)가 결핍되었다고 보는 반면, 문화적 상대주의는 모든 문화가 동등하다고 보기 때문입니다.   (B)는
+  문화실조론의 주장이 아닙니다. 선택지 (C)는 문화실조론이 주장하는 바를 잘 나타내고 있습니다. 빈곤층 아동들의 문화적 경험을 풍부하게 하기 위한
+  프로그램 중 하나가 헤드스타트 프로그램이라는 것이 이론의 주장입니다. 마지막으로 선택지 (D)는 학교에서 학생들의 성공과 실패는 유전적으로 결정된
+  것이 아니라고 보는 것입니다. 이는 문화실조론이 주장하는 바와 일치합니다. 문화실조론은 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족이 주된 원인이라고 보기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 평생교육법 상평생학습도시에 대한 설명으로 옳지 않은 것은?
+
+  A.평생학습도시의 지정 및 지원에 필요한 사항은 교육부 장관이 정한다.
+
+  B.전국평생학습도시협의회의 구성 및 운영에 필요한 사항은 교육부령으로 정한다.
+
+  C.평생학습도 시 간의 연계․ 협력 및 정보교류의 증진을 위하여 전국 평생학습도시협의회를 둘 수 있다.
+
+  D.국가는 지역사회의 평생교육 활성화를 위하여 시․군 및 자치구를 대상으로 평생학습도시를 지정 및 지원할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 우선, 평생교육법을 확인해야 합니다. 평생교육법 제24조에
+  따르면, 국가는 지역사회의 평생교육 활성화를 위하여 시․군 및 자치구를 대상으로 평생학습도시를 지정 및 지원할 수 있다. 이를 통해 선택지 (D)는
+  정확하다는 것을 알 수 있습니다. 그리고 평생교육법 제24조의2에는 평생학습도시의 지정 및 지원에 필요한 사항은 교육부 장관이 정한다는 내용이
+  있습니다. 이를 통해 선택지 (A)도 옳다는 것을 확인할 수 있습니다. 또한, 평생교육법 제24조의3에서는 평생학습도시 간의 연계․협력 및 정보교류의
+  증진을 위하여 전국 평생학습도시협의회를 둘 수 있다는 내용이 있습니다.   선택지 (C)도 옳다는 것을 확인할 수 있습니다. 하지만, 평생교육법에는
+  전국평생학습도시협의회의 구성 및 운영에 필요한 사항은 교육부령으로 정한다는 내용은 없습니다. 이를 통해 선택지 (B)가 평생교육법 상평생학습도시에
+  대한 설명으로 옳지 않다는 것을 알 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_education

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_environmental_science.yaml

@@ -0,0 +1,116 @@
+dataset_name: environmental_science
+doc_to_text: '질문: 혐기성 소화에서 독성을 유발 시킬 수 있느 물질의 농도(mg/L)로 가장 적절한 것은?
+
+  A.Fe : 1000
+
+  B.Na : 3500
+
+  C.OPTIONa : 1500
+
+  D.Mg : 800
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 혐기성 소화는 미생물이 산소 없이 유기물을 분해하는 과정입니다.
+  이 과정에서 다양한 미네랄이 필요하며, 그 중 철(Fe), 나트륨(Na), 칼슘(Ca), 마그네슘(Mg) 등이 있습니다. 이들 미네랄의 적절한
+  농도는 혐기성 소화 과정의 효율성을 결정하며, 농도가 너무 높으면 독성을 유발할 수 있습니다.  , 이 질문의 답을 찾기 위해서는 각 미네랄의
+  독성 농도를 확인해야 합니다. - 철(Fe)의 경우, 물에 대한 독성 농도는 1000mg/L 이상일 때 발생한다고 합니다. - 나트륨(Na)의
+  경우, 물에 대한 독성 농도는 2300mg/L 이상일 때 발생한다고 합니다. - 칼슘(Ca)의 경우, 물에 대한 독성 농도는 2000mg/L 이상일
+  때 발생한다고 합니다. - 마그네슘(Mg)의 경우, 물에 대한 독성 농도는 1250mg/L 이상일 때 발생한다고 합니다. 위의 정보를 바탕으로
+  보았을 때, 주어진 선택지 중에서 가장 적절한 독성 농도는 철(Fe)의 1000mg/L입니다. 이는 철(Fe)의 독성 농도가 1000mg/L 이상일
+  때 발생한다는 정보와 일치하기 때문입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 도시폐기물의 유기성 성분 중 셀룰로오스에 해당하는 것은?
+
+  A.6탄당의 중합체
+
+  B.아미노산 중합체
+
+  C.당, 전분 등
+
+  D.방향환과 메톡실기를 포함한 중합체
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 셀룰로오스는 식물 세포벽의 주요 구성요소로, 대부분의
+  식물 세포에 존재합니다. 셀룰로오스는 탄수화물의 한 종류로, 긴 사슬 모양의 구조를 가지고 있습니다. 이 사슬은 당류인 글루코스의 수천 개 단위가
+  연결된 것으로 이루어져 있습니다. 이 글루코스 단위들은 화학적으로 연결되어 있어서, 셀룰로오스는 매우 강하고 튼튼한 물질이 됩니다. 선택지를 보면,
+  (A) 6탄당의 중합체, (B) 아미노산 중합체, (C) 당, 전분 등, (D) 방향환과 메톡실기를 포함한 중합체가 있습니다. (A) 6탄당의
+  중합체는 셀룰로오스의 정의에 가장 가깝습니다. 셀룰로오스는 기본적으로 6탄당인 글루코스의 중합체입니다. (B) 아미노산 중합체는 단백질을 형성하는
+  요소로, 셀룰로오스와는 무관합니다. (C) 당, 전분 등은 셀룰로오스의 구성 요소인 글루코스와 관련이 있지만, 셀룰로오스 자체를 정의하는 것은
+  아닙니다. (D) 방향환과 메톡실기를 포함한 중합체는 리그닌의 구조를 설명하는 것으로, 셀룰로오스와는 다른 식물 세포벽의 구성요소입니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 완전히 건조시킨 폐기물 20g을 채취해 회분함량을 분석하였더니 5g 이었다. 폐기물의 함수율이 40% 이었다면, 습량기준으로 회분 중량비(%)는?
+  (단, 비중 = 1.0)
+
+  A.5
+
+  B.10
+
+  C.15
+
+  D.20
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 문제에서 주어진 정보를 이해해보겠습니다. 1. 건조시킨
+  폐기물의 무게는 20g입니다. 2. 그 중 회분함량이 5g입니다. 3. 폐기물의 습도는 40%입니다. 여기서 회분 중량비를 구하라고 했는데, 회분
+  중량비는 회분함량을 습기를 포함한 전체 무게로 나눈 것을 퍼센트로 표현한 것입니다.  , 먼저 습기를 포함한 전체 무게를 구해야 합니다. 건조시킨
+  폐기물의 무게는 20g이고, 이는 습도를 제거한 상태이므로, 이 무게는 전체 무게의 60%(100% - 40% = 60%)에 해당합니다.   전체
+  무게는 20g / 0.6 = 약 33.33g입니다. 이제 회분 중량비를 구할 수 있습니다. 회분 중량비 = (회분함량 / 습기를 포함한 전체 무게)
+  * 100% = (5g / 33.33g) * 100% = 약 15%입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 소각방식 중 회전로(Rotary Kiln)에 대한 설명으로 옳지 않은 것은?
+
+  A.넓은 범위의 액상, 고상 폐기물은 소각할 수 있다.
+
+  B.일반적으로 회전속도는 0.3~1.5 rpm, 주변속도는 5~25 mm/sec 정도이다.
+
+  C.예열, 혼합, 파쇄 등 전처리를 거쳐야만 주입이 가능하다.
+
+  D.회전하는 원통형 소각로로서 경사진 구조로 되어있으며 길이와 직경의 비는 2~10 정도이다.
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하��습니다. 먼저, 회전로(Rotary Kiln)에 대한 기본적인
+  정보를 확인해보겠습니다. 회전로는 원통형의 소각로로서 경사진 구조로 되어 있습니다. 그리고 이 회전로의 길이와 직경의 비는 일반적으로 2~10
+  정도로 알려져 있습니다.   선택지 (D)는 회전로에 대한 정확한 설명입니다. 다음으로, 회전로는 넓은 범위의 액상, 고상 폐기물을 소각할 수
+  있는 장점이 있습니다. 이는 회전로의 작동 원리와 관련이 있습니다. 회전로는 원통 내부에서 폐기물을 높은 온도로 가열하면서 소각하는 방식이기 때문에
+  다양한 종류의 폐기물을 처리할 수 있습니다.   선택지 (A)는 옳은 설명입니다. 회전로의 회전속도는 일반적으로 0.3~1.5 rpm, 주변속도는
+  5~25 mm/sec 정도로 알려져 있습니다. 이는 폐기물이 고르게 분배되어 효율적으로 소각되도록 하는데 필요한 조건입니다.   선택지 (B)
+  역시 옳은 설명입니다. 마지막으로, 회전로에서 폐기물을 소각하기 전에는 예열, 혼합, 파쇄 등의 전처리 과정이 필요합니다. 하지만 이는 모든 폐기물에
+  적용되는 것은 아닙니다. 일부 폐기물은 이러한 전처리 과정 없이도 바로 회전로에 주입될 수 있습니다.   선택지 (C)는 ''모든 폐기물이 전처리를
+  거쳐야만 주입이 가능하다''는 점에서 부정확한 설명입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 전과정평가(LCA)의 구성요소로 가장 거리가 먼 것은?
+
+  A.개선평가
+
+  B.영향평가
+
+  C.과정분석
+
+  D.목록분석
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 전과정평가(Life Cycle Assessment, LCA)의
+  주요 구성요소를 이해하고 각 옵션을 평가해보겠습니다. LCA는 제품이나 서비스의 전체 생애주기 동안의 환경적 영향을 평가하는 과정입니다. 일반적으로
+  LCA는 다음 네 가지 주요 단계로 구성됩니다: 목적 및 범위 정의: LCA의 목적과 범위를 명확히 하는 단계입니다. 목록분석 (Inventory
+  Analysis): 제품이나 서비스의 생애주기 동안 발생하는 모든 입력(원자재, 에너지 등)과 출력(배출물, 폐기물 등)을 수집하는 과정입니다.
+  영향평가 (Impact Assessment): 수집된 데이터를 바탕으로 환경적 영향을 평가하는 단계입니다. 해석: 수집된 데이터와 평가 결과를
+  분석하고 해석하는 단계입니다. 주어진 옵션들을 이러한 단계들과 비교해보면: (A) 개선평가: 이는 LCA의 일반적인 단계는 아닙니다. 하지만 LCA
+  결과를 바탕으로 제품이나 과정의 환경적 영향을 개선하는 방안을 고려할 수 있습니다. (B) 영향평가 (Impact Assessment): 이는
+  LCA의 주요 단계 중 하나입니다. (C) 과정분석: 이는 목록분석과 유사하게 들리지만, LCA의 전통적인 구성요소는 아닙니다. 과정분석은 보다
+  일반적인 용어로, 다양한 맥락에서 사용될 수 있습니다. (D) 목록분석 (Inventory Analysis): 이 역시 LCA의 핵심 단계 중
+  하나입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_environmental_science

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_gas_technology_and_engineering.yaml

@@ -0,0 +1,118 @@
+dataset_name: gas_technology_and_engineering
+doc_to_text: '질문: 건축물 내 도시가스 매설배관으로 부적합한 것은?
+
+  A.동관
+
+  B.강관
+
+  C.스테인리스강
+
+  D.가스용 금속플렉시블호스
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 건축물 내에서 도시가스 매설배관에 사용되는 재료에
+  대한 규정에 따르면, 스테인리스강관, 동관, 가스용 금속플렉시블호스가 적절한 재료로 규정되어 있습니다. 이러한 규정은 배관의 안전성과 관련하여
+  매우 중요한 부분으로, 배관이 올바르게 설치되고 유지되는 것이 필수적입니다. 각 재료는 특정한 조건과 기준에 따라 설치되어야 하며, 예를 들어
+  동관은 금속제 보호관이나 보호판을 통해 추가적인 보호조치를 받아야 합니다. 선택지를 살펴보면, 강관이 명시적으로 부적합한 재료로 규정되지 않았습니다.  ,
+  정답은 강관(B)이 아닙니다. 다른 선택지들인 동관(A), 스테인리스강(C), 그리고 가스용 금속플렉시블호스(D)는 모두 건축물 내 도시가스 매설배관으로
+  사용될 수 있는 재료로 지정되어 있습니다. 이러한 정보에 기반하여, 건축물 내 도시가스 매설배관으로 부적합한 것은 강관(B)이라는 결론에 도달할
+  수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 시안화수소를 충전한 용기는 충전 후 몇 시간 정치한 뒤 가스의 누출검사를 해야 하는가?
+
+  A.6
+
+  B.12
+
+  C.18
+
+  D.24
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 시안화수소(Hydrogen Cyanide)에
+  대해 알아보겠습니다. 시안화수소는 매우 독성이 강한 가스로, 사람의 건강에 해로울 뿐만 아니라 환경에도 유해합니다.   이 가스를 다룰 때는 매우
+  주의해야 합니다. 그 다음으로, 가스를 충전한 용기의 누출 검사에 대해 알아보겠습니다. 가스 용기는 충전 후 안전하게 보관되어야 하며, 누출이
+  없는지 꼼꼼히 확인해야 합니다. 이는 가스의 종류에 관계없이 일반적으로 적용되는 안전 규정입니다. 하지만, 시안화수소를 충전한 용기가 충전 후
+  몇 시간 정치한 뒤에 누출 검사를 해야 하는지에 대한 구체적인 정보는 일반적인 지식으로는 알 수 없습니다. 이에 대한 정확한 정보를 얻기 위해서는
+  가스 기술 및 엔지니어링에 대한 전문적인 지식이 필요하며, 해당 분야의 규정이나 가이드라인을 참조해야 합니다. 시안화수소 가스를 충전한 용기에
+  대한 누출 검사 시기는 특정 업체나 기관의 내부 규정에 따라 다를 수 있습니다. 그러나 일반적으로 가스를 충전한 용기의 누출 검사는 충전 직후,
+  그리고 정기적으로 수행되어야 합니다. 이는 가스의 독성 뿐만 아니라 압력 등의 위험성 때문입니다.   가장 안전한 방법은 가스를 충전한 직후,
+  그리고 가능한 한 자주 누출 검사를 수행하는 것입니다. 하지만 이 질문에 대한 구체적인 답변을 제공하기 위해선, 각 선택지에 대한 구체적인 근거가
+  필요하며, 이를 위해선 시안화수소 가스를 다루는 특정 업체나 기관의 내부 규정을 참조해야 합니다.  , 이 질문에 대한 정확한 답변을 제공하기는
+  어렵습니다. 이런 경우에는, 가장 일반적이고 안전한 방법을 선택하는 것이 가장 좋습니다. 가스를 충전한 용기의 누출 검사는 충전 직후, 그리고
+  가능한 한 자주 수행되어야 하므로, 가장 긴 시간을 선택하는 것이 가장 안전할 것입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 도시가스공급시설의 공사계획 승인 및 신고대상에 대한 설명으로 틀린 것은?
+
+  A.제조소 안에서 액화가스용저장탱크의 위치변경 공사는 공사계획 신고대상이다.
+
+  B.밸브기지의 위치변경 공사는 공사계획 신고대상이다.
+
+  C.호칭지름이 50㎜ 이하인 저압의 공급관을 설치하는 공사는 공사계획 신고대상에서 제외한다.
+
+  D.저압인 사용자공급관 50m를 변경하는 공사는 공사계획 신고대상이다.
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 질문에 대한 정확한 답변을 위해 각 선택지에
+  대한 도시가스공급시설의 공사계획 승인 및 신고대상에 관한 규정을 살펴보겠습니다. (A) 제조소 안에서 액화가스용저장탱크의 위치변경 공사: 일반적으로
+  이러한 종류의 공사는 중요하며 신고 대상일 가능성이 높습니다. (B) 밸브기지의 위치변경 공사: 밸브기지 내 배관 관련 공사는 공사계획 신고대상에
+  포함되지 않습니다. (C) 호칭지름이 50㎜ 이하인 저압의 공급관을 설치하는 공사: 호칭지름 50밀리미터 이하인 저압의 공급관 관련 공사는 공사계획
+  신고대상입니다. (D) 저압인 사용자공급관 50m를 변경하는 공사: 길이 50미터 미만인 저압 사용자공급관 관련 공사는 공사계획 신고대상입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 고압가스용 냉동기에 설치하는 안전장치의 구조에 대한 설명으로 틀린 것은?
+
+  A.고압차단장치는 그 설정압력이 눈으로 판별할 수 있는 것으로 한다.
+
+  B.고압차단장치는 원칙적으로 자동복귀방식으로 한다.
+
+  C.안전밸브는 작동압력을 설정한 후 봉인될 수 있는 구조로 한다.
+
+  D.안전밸브 각부의 가스통과 면적은 안전밸브의 구경면적 이상으로 한다.
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 설명을 이해하고, 그것이
+  고압가스용 냉동기에 설치하는 안전장치의 구조에 대한 일반적인 규칙과 일치하는지 확인해야 합니다. (A) 고압차단장치는 그 설정압력이 눈으로 판별할
+  수 있는 것으로 한다. - 고압차단장치는 가스의 압력이 설정 압력 이상으로 상승하면 자동으로 가스 흐름을 차단하는 장치입니다. 이는 과도한 압력으로
+  인한 사고를 방지합니다. 설정 압력이 눈으로 확인 가능하다는 것은 사용자가 안전장치의 작동 압력을 쉽게 확인하고 조정할 수 있음을 의미합니다.
+  이는 일반적으로 안전장치의 중요한 기능 중 하나입니다. (B) 고압차단장치는 원칙적으로 자동복귀방식으로 한다. - 자동복귀방식이란 일시적으로 고압
+  상태가 해소되면 자동으로 원래 상태로 복귀하는 방식을 의미합니다. 하지만, 원칙적으로는 고압차단 장치는 수동복귀 방식으로 해야합니다. 이는 고압차당
+  장치의 중요한 특징중 하나입니다. (C) 안전밸브는 작동압력을 설정한 후 봉인될 수 있는 구조로 한다. - 안전밸브는 과도한 압력이 발생하면 자동으로
+  열려 압력을 해소하는 장치입니다. 작동 압력을 설정한 후 봉인한다는 것은 이 압력 설정이 임의로 변경되는 것을 방지하기 위함입니다. 이는 안전밸브의
+  중요한 특성 중 하나입니다. (D) 안전밸브 각부의 가스통과 면적은 안전밸브의 구경면적 이상으로 한다. - 이는 가스가 안전밸브를 통과할 때 발생할
+  수 있는 압력 감소를 최소화하기 위한 설계 원칙입니다. 즉, 안전밸브의 각 부분에서 가스의 통과 면적이 구경 면적보다 크게 설계되어야 합니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 염소(Cl2)의 재해 방지용으로서 흡수제 및 재해제가 아닌 것은?
+
+  A.가성소다 수용액
+
+  B.소석회
+
+  C.탄산소다 수용액
+
+  D.물
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 염소(Cl2)는 가연성이 없지만, 강력한
+  산화제이며, 인체에 치명적일 수 있는 독성 가스입니다.   염소의 누출이나 사고를 방지하고, 그로 인한 피해를 최소화하기 위해 다양한 흡수제나
+  재해제가 사용됩니다. (A) 가성소다 수용액은 염소 가스를 흡수하는 데 효과적입니다. 염소와 가성소다가 반응하면 무해한 염화나트륨과 물이 생성되므로,
+  염소 가스의 누출을 방지하는 데 사용됩니다. (B) 소석회 역시 염소 가스를 흡수하는 데 효과적입니다. 소석회는 염소와 반응하여 염화칼슘을 생성하며,
+  이는 무해한 화합물입니다. (C) 탄산소다 수용액도 염소 가스를 흡수하는 데 사용됩니다. 탄산소다는 염소와 반응하여 염화나트륨과 이산화탄소, 그리고
+  물을 생성합니다. 이 반응은 염소 가스를 안전하게 제거하는 데 도움이 됩니다. (D) 물은 염소 가스를 흡수하는 능력이 있지만, 그 효과는 위의
+  세 가지 물질에 비해 상대적으로 약합니다. 또한, 물과 염소가 반응하면 염산과 산소가 생성되는데, 이들은 모두 환경에 해롭습니다.   물은 염소
+  가스의 재해 방지용으로서의 흡수제나 재해제로서 적합하지 않습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_gas_technology_and_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_geomatics.yaml

@@ -0,0 +1,110 @@
+dataset_name: geomatics
+doc_to_text: '질문: 일람도 제도에서 붉은색 0.2mm 폭의 2선으로 제도하는 것은?
+
+  A.수도용지
+
+  B.기타도로
+
+  C.철도용지
+
+  D.하천
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 일람도 제도에서 사용되는 선의 종류와 색깔, 그리고 폭은
+  특정한 의미를 가지고 있습니다. 이를 통해 각 선이 표현하는 것이 무엇인지 파악할 수 있습니다. 일람도 제도 규정에 따르면, 붉은색 0.2mm
+  폭의 2선은 ''철도용지''를 나타냅니다. 일람도는 지리 정보를 시각적으로 표현하는 방법 중 하나로, 각 선의 색상, 폭, 형태 등은 특정한 의미를
+  지니고 있습니다. 이러한 선들은 특정한 규칙에 따라 사용되며, 이 규칙은 일반적으로 국가나 기관의 표준에 따라 정해집니다. 붉은색 0.2mm 폭의
+  2선은 일반적으로 철도용지를 나타내는데 사용됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 방위가 S 20° 20′ W인 측선에 대한 방위각은?
+
+  A.100° 20′
+
+  B.159° 40′
+
+  C.200° 20′
+
+  D.249° 40′
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 방위각은 보통 북쪽을 기준으로 시계방향으로 측정하는 각도를
+  의미합니다. 주어진 방위는 ''S 20° 20′ W''인데, 이는 남쪽을 기준으로 서쪽으로 20° 20′ 회전한 방향을 의미합니다. 우리는 이를
+  북쪽을 기준으로 바꾸어 생각해야 합니다. 그러므로, 북쪽에서 시계방향으로 얼마나 회전해야 이 방향에 도달할 수 있는지 계산해야 합니다. 남쪽은
+  북쪽에서 시계방향으로 180° 회전한 방향입니다.  , 남쪽에서 시계방향으로 20° 20′ 회전한 방향은 북쪽에서 시계방향으로 180° + 20°
+  20′ 회전한 방향과 같습니다. 이를 계산하면, 200° 20′가 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 경위의측량방법으로 세부측량을 한 지역의 필지별 면적측정 방법으로 옳은 것은?
+
+  A.전자면적측정기법
+
+  B.좌표면적계산법
+
+  C.축척자삼사법
+
+  D.방안지조사법
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대해 이해를 해보겠습니다. (A) 전자면적측정기법:
+  이 방법은 전자적인 장비를 사용하여 면적을 측정하는 방법입니다. 보통 건물의 내부 공간이나 토지 등의 면적을 측정할 때 사용됩니다. (B) 좌표면적계산법:
+  이 방법은 지도상의 좌표를 이용하여 면적을 계산하는 방법입니다. 지도상의 여러 지점의 좌표를 알고 있을 때, 이 좌표들을 이용하여 다각형의 면적을
+  계산할 수 있습니다. (C) 축척자삼사법: 이 방법은 지도상의 축척을 이용하여 면적을 측정하는 방법입니다. 지도의 축척과 실제 토지의 면적 사이의
+  관계를 이용하여 면적을 측정합니다. (D) 방안지조사법: 이 방법은 현장에서 직접 조사하여 면적을 측정하는 방법입니다. 토지의 실제 면적을 측정하거나
+  건물의 내부 공간을 측정할 때 사용됩니다. 그런데 여기서 ''경위의측량방법으로 세부측량을 한 지역의 필지별 면적측정 방법''이라는 질문에서 주목해야
+  할 부분은 ''경위의측량방법''입니다. 경위의측량은 지구의 곡률을 고려하지 않고, 평면상에서의 측량을 의미합니다. 이를 고려하면, 필지별 면적측정
+  방법으로 가장 적합한 것은 ''좌표를 이용한 면적계산법''이 될 것입니다. 왜냐하면, 좌표를 이용하면 평면상에서의 면적을 가장 정확하게 계산할
+  수 있기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 목장용지의 부호 표기로 옳은 것은?
+
+  A.전
+
+  B.장
+
+  C.목
+
+  D.용
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 Geomatics는 지리 정보과학을 의미하며, 지도학,
+  측량학, GPS 기술 등을 포괄하는 학문입니다. 이 질문은 Geomatics의 한 분야인 지도학과 관련이 있습니다. 지도학에서는 특정 지역의 특성을
+  표현하기 위해 다양한 부호를 사용합니다. ''목장용지''는 주로 가축이 방목되는 땅을 의미하며, 이를 지도 상에서 표현할 때는 특정한 부호를 사용합니다.
+  선택지 중에서 목장용지를 가장 잘 표현할 수 있는 부호를 찾아야 합니다. (A) 전: 일반적으로 ''전''은 농작물을 재배하는 농지를 의미합니다.   이는
+  목장용지를 표현하기에 적합하지 않습니다. (B) 장: ''장''은 일반적으로 장소나 공간을 의미하는 ���로, 특정한 의미를 가지고 있지 않습니다.   이는
+  목장용지를 표현하기에 적합하지 않습니다. (C) 목: ''목''은 일반적으로 목장을 의미하는 말로, 가축이 방목되는 땅을 의미합니다.   이는
+  목장용지를 표현하기에 적합해 보입니다. (D) 용: ''용''은 일반적으로 용도를 의미하는 말로, 특정한 의미를 가지고 있지 않습니다.   이는
+  목장용지를 표현하기에 적합하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 전자면적측정기에 따른 면적측정을 하는 경우, 교차를 구하기 위한 A = 0.0232M√F 공식 중 M의 값으로 옳은 것은?
+
+  A.허용면적
+
+  B.축척분모
+
+  C.산출면적
+
+  D.보정계수
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 전자면적측정기에 따른 면적측정 공식에서 M의 값에 대해 이해하려면,
+  먼저 해당 공식이 어떤 것인지, 그리고 각 요소가 무엇을 의미하는지 알아야 합니다. 이 공식은 전자면적측정기를 사용하여 지형의 면적을 측정할 때
+  사용되는 공식입니다. 공식의 각 부분을 분석해보면, A는 측정된 면적, F는 측정된 거리를 의미하며, 0.0232는 상수입니다. 그렇다면 M은
+  무엇을 의미할까요? 선택지 중에서 M이 의미할 수 있는 것은 ''허용면적'', ''축척분모'', ''산출면적'', ''보정계수'' 네 가지입니다.
+  ''허용면적''이나 ''산출면적''은 면적을 나타내는 값이므로, 이 값들이 M에 해당할 가능성은 낮습니다. ''보정계수''는 측정값을 조정하는
+  데 사용되는 값이지만, 이 경우에는 M이 면적이 아닌 거리에 대한 값을 나타내는 것으로 보입니다.  , ''축척분모''가 가장 가능성이 높습니다.
+  축척분모는 지도의 축척을 나타내는 값으로, 실제 거리와 지도 상의 거리 사이의 비율을 의미합니다. 이 값이 M에 해당한다면, 공식은 실제 거리의
+  제곱근에 축척분모를 곱한 값이 측정된 면적이 될 것입니다. 이렇게 보면, 공식이 의미하는 바를 잘 나타내는 것 같습니다. 따라서, 정답은 (B)
+  입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_geomatics

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_industrial_engineer.yaml

@@ -0,0 +1,113 @@
+dataset_name: industrial_engineer
+doc_to_text: '질문: 수평밀링머신의 니(knee) 위에 전후 방향으로 이동하는 안내면의 명칭은?
+
+  A.컬럼
+
+  B.아버
+
+  C.새들
+
+  D.커터
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 수평밀링머신의 구조를 이해하겠습니다. 수평밀링머신은
+  주로 금속 가공에 사용되는 기계로, 회전하는 커터를 사용하여 원하는 모양과 크기의 제품을 만들어냅니다. 이 기계의 주요 구성 요소 중 하나가 ''니''라는
+  부분인데, 이는 일반적으로 기계의 테이블을 지지하는 부분을 가리킵니다. 선택지를 보면, (A) 컬럼, (B) 아버, (C) 새들, (D) 커터라는
+  항목들이 있습니다. 이 중에서 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭을 찾아야 합니다. - 컬럼(Column)은 기계의 주요 구조를
+  이루는 세로형태의 부분을 가리킵니다.   이는 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭이 아닙니다. - 아버(Arbor)는 밀링 머신에서
+  커터를 지지하는 축을 가리킵니다. 이 역시 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭이 아닙니다. - 새들(Saddle)은 밀링 머신에서
+  ''니''와 ''테이블'' 사이에 위치하며, 테이블을 전후 방향으로 이동시키는 부분을 가리킵니다. - 커터(Cutter)는 밀링 머신에서 제품을
+  가공하는 데 사용되는 회전하는 부분을 가리킵니다. 이 역시 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭이 아닙니다.  , ''니'' 위에
+  전후 방향으로 이동하는 안내면의 명칭은 ''새들''이 맞습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 일반적으로 밀링 머신의 크기를 표시하는 방법에 해당되지 않는 것은?
+
+  A.스핀들의 지름 또는 최대 이동거리
+
+  B.테이블의 최대 좌우 이동거리
+
+  C.테이블의 최대 전후 이동거리
+
+  D.테이블의 최대 상하 이동거리
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 밀링 머신의 크기를 표시하는 방법은 일반적으로 머신의
+  이동 가능한 범위와 스핀들의 크기를 나타냅니다. 이동 가능한 범위는 테이블의 이동 거리를 통해 나타내며, 이는 테이블이 좌우로 이동하는 거리(X축),
+  전후로 이동하는 거리(Y축), 상하로 이동하는 거리(Z축)를 포함합니다.   선택지 B, C, D는 밀링 머신의 크기를 표시하는 방법에 해당됩니다.
+  스핀들의 크기도 밀링 머신의 크기를 표시하는 중요한 요소 중 하나입니다. 스핀들의 크기는 일반적으로 스핀들의 지름을 통해 나타냅니다. 하지만 ''스핀들의
+  최대 이동거리''라는 표현은 일반적으로 밀링 머신의 크기를 나타내는 방법에 해당되지 않습니다. 스핀들의 이동거리는 밀링 머신의 작동 범위를 나타내는
+  것이 아니라, 스핀들이 회전하는 축의 이동 거리를 의미합니다. 이는 크기를 나타내는 측정치가 아니며,   이 선택지는 문제의 질문에 해당되지 않습니다.
+  따라서, 정답은 (A) 입니다.
+
+
+  질문: 숫돌바퀴를 표시하는 방법으로 WA 60 K m V에서 60이 나타내는 것은?
+
+  A.입도
+
+  B.조직
+
+  C.결합도
+
+  D.숫돌 입자
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, ''WA 60 K m V''는 숫돌바퀴의 표기
+  방법 중 하나입니다. 여기서 각 문자와 숫자는 다음을 의미합니다: - ''WA''는 연마재의 종류를 나타냅니다. 여기서 ''W''는 흰색을 의미하고
+  ''A''는 알루미늄 산화물을 의미합니다. - ''60''은 입도를 나타냅니다. 입도는 연마재 입자의 크기를 나타내는 값으로, 숫자가 작을수록
+  입자의 크기가 큽니다. - ''K''는 경도를 나타냅니다. 경도는 연마재의 경도를 나타내는 값으로, 알파벳이 뒤로 갈수록 경도가 높아집니다. -
+  ''m''은 조직을 나타냅니다. 조직은 연마재 입자가 바퀴에 얼마나 밀집하게 분포하는지를 나타내는 값입니다. - ''V''는 결합도를 나타냅니다.
+  결합도는 연마재 입자를 바퀴에 고정시키는 물질의 강도를 나타내는 값입니다.  , ''WA 60 K m V''에서 ''60''은 연마재 입자의 크기를
+  나타내는 입도를 의미합니다. 이에 따라 객관식 질문에서 ''60''이 나타내는 것은 입도입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 측정점 검출기가 좌표를 검출하고 그 데이터를 컴퓨터가 처리하여 위치, 크기, 방향, 윤곽, 형상 등을 측정하는데 사용하는 측정기는?
+
+  A.오토콜리메이터
+
+  B.3차원 측정기
+
+  C.광학식 각도기
+
+  D.광학식 클리노미터
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 설명을 찾아보겠습니다. (A)
+  오토콜리메이터는 각도를 정확하게 측정하는 장치입니다. 이 장치는 주로 광학 실험에서 사용되며, 빛의 반사각을 측정하는 데 사용됩니다. (B) 3차원
+  측정기는 3차원 공간에서 객체의 위치와 크기를 측정하는 장치입니다. 이 장치는 주로 공학 및 제조 분야에서 사용되며, 정밀한 측정이 필요한 경우에
+  사용됩니다. (C) 광학식 각도기는 빛의 각도를 측정하는 장치입니다. 이 장치는 주로 광학 실험에서 사용되며, 빛의 굴절률을 측정하는 데 사용됩니다.
+  (D) 광학식 클리노미터는 각도를 측정하는 장치입니다. 이 장치는 주로 지질학에서 사용되며, 경사 각도를 측정하는 데 사용됩니다. 질문에서는 측정점
+  검출기가 좌표를 검출하고 그 데이터를 컴퓨터가 처리하여 위치, 크기, 방향, 윤곽, 형상 등을 측정하는데 사용하는 측정기에 대해 묻고 있습니다.
+  이러한 기능을 가장 잘 수행할 수 있는 장치는 3차원 측정기입니다. 왜냐하면 3차원 측정기는 3차원 공간에서 객체의 위치와 크기를 측정할 수 있으며,
+  이는 위치, 크기, 방향, 윤곽, 형상 등의 측정에 필요한 기능들을 모두 포함하고 있기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 선반에서 절삭저항의 분력 중 탄소강을 가공할 때 가장 큰 절삭저항은?
+
+  A.배분력
+
+  B.이송분력
+
+  C.횡분력
+
+  D.주분력
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 절삭저항의 분력에 대해 이해해야 합니다. 절삭저항의
+  분력은 절삭 과정에서 발생하는 저항을 묘사하는데 사용되는 개념입니다. 이는 절삭 도구와 가공재 사이의 상호작용을 설명하는 데 사용되며, 절삭 과정의
+  효율성과 가공 품질에 중요한 영향을 미칩니다. 절삭저항의 분력에는 주로 네 가지가 있습니다: 배분력, 이송분력, 횡분력, 그리고 주분력입니다.
+  이 중에서 가장 큰 절삭저항을 주는 것이 무엇인지 알아보기 위해, 각 분력에 대해 간략히 이해해 보겠습니다. - 배분력: 절삭면에서 도구를 밀어내려는
+  힘입니다. - 이송분력: 절삭면에 수직으로 작용하는 힘으로, 주로 칩의 이동을 제어합니다. - 횡분력: 절삭면에 수평으로 작용하는 힘으로, 도구를
+  절삭면에서 벗어나게 만드는 힘입니다. - 주분력: 절삭면에 작용하는 가장 주요한 힘으로, 절삭저항의 대부분을 차지합니다. 이러한 정보를 바탕으로,
+  주분력이 절삭저항의 대부분을 차지하므로, 탄소강을 가공할 때 가장 큰 절삭저항을 주는 것은 주분력일 것이라고 추론할 수 있습니다. 따라서, 정답은
+  (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_industrial_engineer

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_information_technology.yaml

@@ -0,0 +1,111 @@
+dataset_name: information_technology
+doc_to_text: '질문: 실제 펄스 파형의 구간별 명칭에 대한 설명으로 틀린 것은?
+
+  A.상승 시간(rise time)이란 입력 펄스의 최대 진폭의 10%에서 90%까지 상승하는데 걸리는 시간
+
+  B.하강 시간(fall time)이란 펄스의 하강 속도를 나타내는 척도로서 최대 90%에서 10%까지 하강하는데 소요되는 시간
+
+  C.새그(sag)란 이상적인 펄스 파형의 상승하는 부분이 기준 레벨보다 높은 부분
+
+  D.링잉(ringing)은 높은 주파수에서 공진되기 때문에 발생하는 것으로 펄스 상승 부분의 진동의 정도
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 정확한 정의를 확인해보겠습니다.
+  (A) 상승 시간(rise time)은 일반적으로 펄스가 최저 수준에서 최고 수준까지 도달하는 데 걸리는 시간을 의미합니다. 특히, 입력 펄스의
+  최대 진폭의 10%에서 90%까지 상승하는데 걸리는 시간을 가리킵니다. 이 정의는 선택지와 일치합니다. (B) 하강 시간(fall time)은
+  펄스가 최고 수준에서 최저 수준까지 도달하는 데 걸리는 시간을 의미합니다. 특히, 최대 90%에서 10%까지 하강하는데 소요되는 시간을 가리킵니다.
+  이 정의는 선택지와 일치합니다. (C) 새그(sag)는 전력 공급에서 전압이 일시적으로 떨어지는 현상을 의미합니다. 이상적인 펄스 파형의 상승하는
+  부분이 기준 레벨보다 높은 부분을 의미하는 것은 새그(sag)의 정의와 일치하지 않습니다. (D) 링잉(ringing)은 펄스의 상승 또는 하강
+  부분에서 발생하는 과도한 진동을 의미합니다. 높은 주파수에서 공진되기 때문에 발생하는 것이라는 설명은 링잉(ringing)의 원인 중 하나로 볼
+  수 있습니다.  , 각 선택지의 정의를 확인한 결과, 새그(sag)의 정의가 문제의 선택지와 일치하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 진폭 변조에서 변조된 파형의 최대값 전압이 35 V 이고 최소값 전압이 5 V 일 때 변조도는?
+
+  A.0.60
+
+  B.0.65
+
+  C.0.70
+
+  D.0.75
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 진폭 변조에서 변조도를 계산하는 공식을 알아야
+  합니다. 변조도는 원래 신호의 진폭과 변조된 신호의 진폭의 차이를 나타내는 값입니다. 이는 변조된 신호의 진폭이 원래 신호의 진폭보다 얼마나 변했는지를
+  나타냅니다. 변조도는 다음과 같은 공식으로 계산됩니다: 변조도 = (변조된 파형의 최대값 전압 - 변조된 파형의 최소값 전압) / (변조된 파형의
+  최대값 전압 + 변조된 파형의 최소값 전압) 이 경우, 변조된 파형의 최대값 전압이 35V이고 최소값 전압이 5V입니다.  , 이 값을 위의 공식에
+  대입하면 다음과 같습니다: 변조도 = (35V - 5V) / (35V + 5V) = 30V / 40V = 0.75 따라서, 정답은 (D) 입니다.
+
+
+  질문: 6Ω과 3Ω의 저항을 직렬로 접속할 경우는 병렬로 접속할 경우의 몇 배가 되는가?
+
+  A.3
+
+  B.4.5
+
+  C.6
+
+  D.7.5
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 저항의 직렬 연결과 병렬 연결에 대한 이해가 필요합니다.
+  1. 직렬 연결: 저항들이 한 줄로 연결되어 있을 때, 총 저항은 각 저항의 합과 같습니다. R_total = R1 + R2 + ... + Rn
+  2. 병렬 연결: 저항들이 병렬로 연결되어 있을 때, 총 저항은 각 저항의 역수의 합의 역수와 같습니다. 1/R_total = 1/R1 + 1/R2
+  + ... + 1/Rn 이 문제에서 주어진 저항은 6Ω과 3Ω입니다. 직렬 연결의 경우, 총 저항은 각 저항의 합, 즉 6Ω + 3Ω = 9Ω가
+  됩니다. 병렬 연결의 경우, 총 저항은 각 저항의 역수의 합의 역수로, 1/(1/6 + 1/3) = 2Ω가 됩니다.  , 직렬 연결의 저항은 병렬
+  연결의 저항의 몇 배인지를 묻는 문제이므로, 9Ω / 2Ω = 4.5배가 됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 이상적인 연산 증폭기의 특징에 대한 설명으로 틀린 것은?
+
+  A.주파수 대역폭이 무한대(∞)이다.
+
+  B.입력 임피던스가 무한대(∞)이다.
+
+  C.동상 이득은 무한대(∞)이다.
+
+  D.오픈 루프 전압 이득이 무한대(∞)이다.
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 하나씩 살펴보겠습니다. (A)
+  선택지는 ''주파수 대역폭이 무한대(∞)이다''를 주장합니다. 이상적인 연산 증폭기의 경우, 주파수에 관계없이 동일한 이득을 유지하므로, 이는
+  사���상 무한대의 대역폭을 의미합니다.   이 선택지는 올바른 설명입니다. (B) 선택지는 ''입력 임피던스가 무한대(∞)이다''를 주장합니다.
+  이상적인 연산 증폭기는 입력 부분에 아무런 전류가 흐르지 않도록 설계되어 있습니다. 이는 입력 임피던스가 무한대라는 것을 의미합니다.   이 선택지
+  역시 올바른 설명입니다. (C) 선택지는 ''동상 이득은 무한대(∞)이다''를 주장합니다. 하지만 이는 틀린 설명입니다. 동상 이득(common-mode
+  gain)은 두 입력 사이의 차이가 아닌, 두 입력이 동시에 변할 때 증폭기의 반응을 설명하는 데 사용됩니다. 이상적인 연산 증폭기에서는 두 입력이
+  동시에 변하더라도 출력이 변하지 않아야 하므로, 동상 이득은 0이어야 합니다.   이 선택지는 잘못된 설명입니다. (D) 선택지는 ''오픈 루프
+  전압 이득이 무한대(∞)이다''를 주장합니다. 이상적인 연산 증폭기는 입력과 출력 사이의 전압 차이를 최대한 크게 만들기 위해 오픈 루프 전압
+  이득이 무한대로 설계되어 있습니다.   이 선택지는 올바른 설명입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 수정 발진 회로 중 피어스 B-E형 발진 회로는 컬렉터-이미터 간의 임피던스가 어떻게 될 때가 가장 안정한 발진을 지속하는가?
+
+  A.용량성
+
+  B.유도성
+
+  C.저항성
+
+  D.용량성 혹은 저항성
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 피어스 B-E형 발진 회로는 BJT(비접점 트랜지스터)를
+  사용하는 발진 회로 중 하나입니다. 이 회로에서는 컬렉터와 이미터 사이의 임피던스 특성이 발진의 안정성에 중요한 역할을 합니다. 용량성, 유도성,
+  저항성 중 어떤 임피던스가 발진의 안정성에 가장 좋을지 고려해보겠습니다. 용량성 임피던스는 주파수가 높아질수록 저항이 감소하는 특성을 가지고 있습니다.
+  이런 특성 때문에 발진 회로에서는 주파수가 높아질수록 회로의 안정성이 떨어질 수 있습니다.   용량성 임피던스는 발진의 안정성에 좋지 않습니다.
+  유도성 임피던스는 주파수가 높아질수록 저항이 증가하는 특성을 가지고 있습니다. 이런 특성 때문에 발진 회로에서는 주파수가 높아질수록 회로의 안정성이
+  증가할 수 있습니다.   유도성 임피던스는 발진의 안정성에 좋습니다. 저항성 임피던스는 주파수에 관계없이 일정한 저항 값을 가지고 있습니다. 이런
+  특성 때문에 발진 회로에서는 주파수가 변화해도 회로의 안정성이 유지될 수 있습니다. 하지만, 발진 회로에서는 주파수의 변화에 따른 임피던스의 변화가
+  필요하기 때문에 저항성 임피던스만으로는 안정적인 발진을 유지하기 어렵습니다.  , 피어스 B-E형 발진 회로에서는 컬렉터-이미터 간의 임피던스가
+  유도성일 때 가장 안정한 발진을 지속할 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_information_technology

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_interior_architecture_and_design.yaml

@@ -0,0 +1,123 @@
+dataset_name: interior_architecture_and_design
+doc_to_text: '질문: 실내디자인의 원리 중 조화ㆍ통일ㆍ변화에 대한 설명으로 옳지 않은 것은?
+
+  A.조화란 전체적인 조립방법이 모순없이 질서를 잡는 것을 말한다.
+
+  B.조화에는 시각적으로 동일한 요소간에 이루어지는 유사조화와 이질적인 요소간에 이루어지는 대비조화가 있다.
+
+  C.통일은 변화와 함께 모든 조형에 대한 미의 근원이 되는 원리이다.
+
+  D.통일과 변화는 각각 독립된 것으로 상호대립관계에 있다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 내용을 확인해보겠습니다. (A)
+  조화란 전체적인 조립방법이 모순없이 질서를 잡는 것을 말한다. - 이는 조화의 정의에 부합합니다. 조화는 디자인 요소들이 서로 잘 어우러져 전체적인
+  질서와 균형을 이루는 것을 의미합니다. (B) 조화에는 시각적으로 동일한 요소간에 이루어지는 유사조화와 이질적인 요소간에 이루어지는 대비조화가
+  있다. - 이 역시 조화의 한 형태를 설명하고 있습니다. 유사조화는 같은 종류의 요소들이 서로 조화를 이루는 것을, 대비조화는 서로 다른 요소들이
+  조화를 이루는 것을 의미합니다. (C) 통일은 변화와 함께 모든 조형에 대한 미의 근원이 되는 원리이다. - 통일은 디자인 요소들이 일관성을 가지고
+  전체적으로 연결되는 것을 의미하며, 변화는 디자인에 다양성과 흥미를 더하는 요소입니다. 두 원리는 모두 디자인의 미를 창출하는 중요한 요소입니다.
+  (D) 통일과 변화는 각각 독립된 것으로 상호대립관계에 있다. - 이 선택지는 잘못된 내용입니다. 통일과 변화는 디자인의 중요한 원리로서, 상호
+  보완적인 관계에 있습니다. 통일 없이 변화만 있다면 디자인은 혼란스러울 것이고, 반대로 변화 없이 통일만 있다면 디자인은 단조로울 것입니다.   둘은
+  상호대립하는 것이 아니라, 상호보완적인 관계에 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 건물과 일체화해서 만든 가구로서, 가구배치의 혼란을 없애고 공간을 최대한 활용할 수 있는 것은?
+
+  A.모듈러 가구
+
+  B.가동 가구
+
+  C.유닛 가구
+
+  D.붙박이 가구
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지의 정의를 이해하는 것이 중요합니다.
+  (A). 모듈러 가구: 모듈러 가구는 미리 제작된 독립적인 부품을 조립하여 사용하는 가구를 말합니다. 이 가구는 사용자의 필요에 따라 자유롭게
+  조립하거나 변경할 수 있습니다. (B). 가동 가구: 가동 가구는 위치를 쉽게 이동시킬 수 있는 가구를 말합니다. 이 가구는 공간의 배치를 쉽게
+  변경할 수 있어 유연성을 제공합니다. (C). 유닛 가구: 유닛 가구는 부분을 조립하여 다양한 형태를 만들 수 있는 가구를 의미합니다. 이 가구는
+  공간을 효율적으로 활용할 수 있습니다. (D). 붙박이 가구: 붙박이 가구는 건물의 일부로 설계되고 설치되는 가구를 말합니다. 이 가구는 공간을
+  최대한 활용하고 가구 배치의 혼란을 없앨 수 있습니다. 질문의 키워드는 ''건물과 일체화해서 만든 가구''와 ''가구배치의 혼란을 없애고 공간을
+  최대한 활용''입니다. 이 키워드를 기반으로 선택지를 살펴보면, 붙박이 가구가 가장 적합한 것으로 보입니다. 붙박이 가구는 건물과 일체화되어 설계되고,
+  공간을 최대한 활용하며 가구 배치의 혼란을 없앨 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 개보수(Renovation) 작업시 고려해야 할 사항으로 옳은 것은?
+
+  A.현장 실측 조사를 통해 기존 공간의 현황을 명확하게 파악하여야 한다.
+
+  B.기존 도면이 있을 경우 별도의 현장실측은 필요하지 않다.
+
+  C.기존 건축 구조의 영향을 전혀 받지 않는다.
+
+  D.전기 및 설비 관련사항에 대한 검토는 필요 없다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 개보수(Renovation) 작업은 기존의 건물이나
+  공간을 새롭게 개선하거나 수정하는 작업을 말합니다. 이를 위해서는 다음과 같은 사항들을 고려해야 합니다. (A) 선택지에서는 현장 실측 조사를
+  통해 기존 공간의 현황을 명확하게 파악해야 한다고 합니다. 이는 매우 중요한 점입니다. 현장 실측 조사는 실제 공간의 구조, 크기, 위치 등을
+  정확하게 파악하는 것을 돕습니다. 이를 통해 설계 도면을 만들거나 기존 도면을 수정하는데 필요한 정확한 정보를 얻을 수 있습니다.   이는 개보수
+  작업시 반드시 고려해야 할 사항입니다. (B) 선택지에서는 기존 도면이 있을 경우 별도의 현장실측은 필요하지 않다고 합니다. 하지만 이는 옳지
+  않습니다. 기존 도면이 있더라도 현장의 실제 상황과 도면이 일치하지 않을 수 있습니다. 또한, 건물의 사용 중에 생긴 변화나 손상 등을 파악하기
+  위해서도 현장 실측이 필요합니다. (C) 선택지에서는 기존 건축 구조의 영향을 전혀 받지 않는다고 합니다. 하지만 이는 잘못된 정보입니다. 기존
+  건축 구조는 개보수 작업에 큰 영향을 미칩니다. 구조의 안전성, 변경 가능성 등을 고려해야 하며, 구조를 무시하고 개보수를 진행하면 안전 문제가
+  발생할 수 있습니다. (D) 선택지에서는 전기 및 설비 관련사항에 대한 검토는 필요 없다고 합니다. 하지만 이 역시 옳지 않습니다. 전기 및 설비
+  시스템은 건물의 중요한 부분으로, 이들의 상태와 기능을 확인하고 필요한 경우 개선하거나 변경해야 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 전시공간 전시실의 순회 유형에 대한 설명으로 옳은 것은?
+
+  A.연속 순회형 : 순서별로 관람하기 때문에 지루하나 개개의 전시실을 폐쇄시키기에 유리하다.
+
+  B.갤러리 및 복도형 : 하나의 전시실을 패쇄시키면 전체 동선의 흐름이 막히게 되므로 비교적 소규모 전시실에 적합하다.
+
+  C.중앙홀형 : 중앙홀이 크면 동선의 혼란은 없으나 장래의 확장에는 무리가 있다.
+
+  D.갤러리 및 복도형 : 별도의 전시실 없이 복도만을 전시장으로 사용하며 뉴욕의 근대미술관, 구겐하임 미술관 등이 대표적이다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 개념을 정확히 이해하고 그에
+  따른 전시공간 전시실의 순회 유형을 분석해야 합니다. (A) 연속 순회형: 이 유형은 관람객이 한 방향으로만 움직이도록 설계된 공간을 의미합니다.
+  이는 관람객이 전시작품을 순서대로 볼 수 있게 해주지만, 각각의 전시실을 폐쇄하는 것이 용이하다는 점에서 장점이 있습니다. 그러나 이는 반드시
+  지루하다는 의미는 아닙니다. (B) 갤러리 및 복도형: 이 유형은 각 전시실이 복도를 통해 연결되어 있어, 한 전시실이 폐쇄되면 전체 동선의 흐름이
+  막히게 되는 구조를 의미합니다. 이는 소규모 전시실에 적합하다고 할 수 있습니다. (C) 중앙홀형: 이 유형은 중앙에 큰 공간이 위치하고, 그
+  주변에 전시실이 배치된 구조를 의미합니다. 중앙홀이 크면 동선의 혼란은 없지만, 장래의 확장에는 어려움이 있을 수 있습니다. (D) 갤러리 및
+  복도형: 이 유형은 별도의 전시실 없이 복도만을 전시장으로 사용하는 구조를 의미합니다. 이는 뉴욕의 근대미술관, 구겐하임 미술관 등에서 볼 수
+  있습니다. 각 선택지를 분석한 결과, (A) 선택지의 ''지루하다''는 표현은 연속 순회형의 특징을 정확하게 반영하지 않습니다. (B) 선택지는
+  갤러리 및 복도형의 특징을 잘 설명하고 있습니다. (C) 선택지는 중앙홀형의 특징을 잘 설명하고 있습니다. (D) 선택지는 복도만을 전시장으로
+  사용하는 갤러리 및 복도형의 특징을 잘 설명하고 있습니다.  , 정확한 설명을 한 것은 (B), (C), (D) 선택지입니다. 그러나 질문에서는
+  ''옳은 것''을 물어보고 있으므로 하나의 정답만 선택해야 합니다. 이 중에서 가장 일반적인 특징을 잘 설명하고 있는 것은 (C) 중앙홀형입니다.
+  이는 중앙홀이 크면 동선의 혼란은 없으나, 장래의 확장에는 무리가 있다는 특징을 잘 반영하고 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 공간의 최적치수 선정방법에 해당되지 않은 것은?
+
+  A.최소값 +α의 방법
+
+  B.최대값 -α의 방법
+
+  C.조정값 ±α의 방법
+
+  D.목표값 ±α의 방법
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 공간의 최적치수 선정방법을 평가할 때, 각 옵션의 의미와
+  일반적인 설계 및 계획 과정에서 사용되는 방법론을 고려해야 합니다. 각 옵션을 살펴보겠습니다: (A) 최소값 +α의 방법: 이 방법은 주어진 공간에
+  대한 최소 요구치수에 어떤 마진(α)을 더하여 최적치수를 결정하는 방식입니다. 이는 안전 마진을 고려한 보수적인 접근법으로 볼 수 있습니다. (B)
+  최대값 -α의 방법: 이 방법은 가능한 최대치수에서 어떤 마진(α)을 빼서 최적치수를 결정하는 방식입니다. 이 역시 마진을 고려하는 접근법으로,
+  과도한 공간 활용을 방지하기 위한 것일 수 있습니다. (C) 조정값 ±α의 방법: 이 방법은 특정 조정값에 대해 상하로 일정 범위(±α) 내에서
+  최적치수를 결정하는 방식입니다. 이는 유연성을 제공하는 동시에 특정 범위 내에서 조정을 허용하는 방식으로 해석될 수 있습니다. (D) 목표값 ±α의
+  방법: 이 방법은 특정 목표치수에 대해 상하로 일정 범위(±α) 내에서 최적치수를 결정하는 방식입니다. 이는 목표치에 대한 허용 오차를 고려한
+  방법으로, 실제 설계 및 계획 과정에서 흔히 사용됩니다. 이 중에서 "조정값 ±α의 방법" (C)은 다소 모호하고 일반적인 설계 및 계획 방법론과
+  다를 수 있습니다. "조정값"이라는 용어는 특정 기준이나 목표치를 명확하게 지칭하지 않으며, 실제 설계 및 계획 과정에서는 보통 최소값, 최대값,
+  또는 목표값과 같이 더 구체적이고 명확한 기준을 바탕으로 최적치수를 결정합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_interior_architecture_and_design

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_law.yaml

@@ -0,0 +1,114 @@
+dataset_name: law
+doc_to_text: '질문: “악법도 법이다”라는 말이 강조하고 있는 법의 이념은?
+
+  A.법적 타당성
+
+  B.법적 안정성
+
+  C.법적 형평성
+
+  D.법적 효율성
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A). 법적 타당성은 법이 윤리적, 논리적으로 옳은 것을
+  의미합니다. "악법도 법이다"라는 말은 법의 내용이 적절하지 않더라도 법을 존중하고 따라야 한다는 것을 강조하므로 법적 타당성을 강조하는 것은
+  아닙니다. (B) "악법도 법이다"라는 말은 고대 그리스의 철학자 소크라테스가 한 말로 알려져 있습니다. 이 말은 법적 안정성을 강조하는 것으로
+  해석됩니다. 법적 안정성은 법이 명확하고 일관되게 적용되어야 하며, 사람들이 법을 신뢰하고 따를 수 있어야 한다는 이념입니다. 악법도 법으로 인정하고
+  따라야 한다는 것은, 법적 안정성을 유지하기 위해서는 법의 내용이 적절하지 않더라도 일단은 법을 존중하고 따라야 한다는 것을 의미합니다. (C).
+  법적 형평성은 법이 모든 사람에게 공정하게 적용되는 것을 의미합니다. "악법도 법이다"라는 말은 법의 내용이 적절하지 않더라도 법을 존중하고 따라야
+  한다는 것을 강조하므로 법적 형평성을 강조하는 것은 아닙니다. (D). 법적 효율성은 법이 사회적 목적을 효율적으로 달성하는 것을 의미합니다.
+  "악법도 법이다"라는 말은 법의 내용이 적절하지 않더라도 법을 존중하고 따라야 한다는 것을 강조하므로 법적 효율성을 강조하는 것은 아닙니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 고소와 고발에 관한 설명으로 옳지 않은 것은?
+
+  A.피해자가 아니면 고발할 수 없다.
+
+  B.고소를 취소한 자는 다시 고소하지 못한다.
+
+  C.고소의 취소는 대리인으로 하여금 하게 할 수 있다.
+
+  D.고소와 고발은 서면 또는 구술로써 검사 또는 사법경찰관에게 해야 한다.
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 피해자가 아니면 고발할 수 없다. - 이는 사실이 아닙니다.
+  고발은 범죄가 있다고 생각하는 사람이면 누구나 할 수 있습니다. (B) 고소를 취소한 자는 다시 고소하지 못한다. - 이는 사실입니다. 형사소송법
+  제232조 제2항에 따르면, 고소를 취소한 자는 다시 고소하지 못합니다. (C) 고소의 취소는 대리인으로 하여금 하게 할 수 있다. - 이는 사실입니다.
+  형사소송법 제236조에 따르면, 고소 또는 그 취소는 대리인으로 하여금 하게 할 수 있습니다. (D) 고소와 고발은 서면 또는 구술로써 검사 또는
+  사법경찰관에게 해야 한다. - 이는 사실입니다. 형사소송법 제237조에 따르면, 고소 또는 고발은 서면 또는 구술로써 검사 또는 사법경찰관에게
+  하여야 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 민법상 소멸시효기간이 3년인 것은?
+
+  A.의복의 사용료 채권
+
+  B.여관의 숙박료 채권
+
+  C.연예인의 임금 채권
+
+  D.도급받은 자의 공사에 관한 채권
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 관련 법인 민법 제163조(3년의 단기소멸시효)에 대해
+  살펴보겠습니다. 다음 각호의 채권은 3년간 행사하지 아니하면 소멸시효가 완성한다. 1. 이자, 부양료, 급료, 사용료 기타 1년 이내의 기간으로
+  정한 금전 또는 물건의 지급을 목적으로 한 채권 2. 의사, 조산사, 간호사 및 약사의 치료, 근로 및 조제에 관한 채권 3. 도급받은 자, 기사
+  기타 공사의 설계 또는 감독에 종사하는 자의 공사에 관한 채권 4. 변호사, 변리사, 공증인, 공인회계사 및 법무사에 대한 직무상 보관한 서류의
+  반환을 청구하는 채권 5. 변호사, 변리사, 공증인, 공인회계사 및 법무사의 직무에 관한 채권 6. 생산자 및 상인이 판매한 생산물 및 상품의
+  대가 7. 수공업자 및 제조자의 업무에 관한 채권. 이제 각 선택지를 보겠습니다. (A) 의복의 사용료 채권은 이에 해당하지 않습니다. (B)
+  여관의 숙박료 채권은 이에 해당하지 않습니다. (C) 연예인의 임금 채권은 이에 해당하지 않습니다. (D) 도급받은 자의 공사에 관한 채권: 도급받은
+  자의 공사에 관한 채권은 민법 제163조 제3호에 따라 3년의 단기소멸시효에 해당합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 경비업법령상 집단민원현장으로 옳지 않은 것은?
+
+  A.「노동조합 및 노동관계조정법」에 따라 노동관계 당사자가 노동쟁의 조정신청을 한 사업장 또는 쟁의행위가 발생한 사업장
+
+  B.「공유토지분할에 관한 특례법」에 따라 공유토지에 대한 소유권행사와 토지의 이용에 문제가 있는 장소
+
+  C.「도시 및 주거환경정비법」에 따른 정비사업과 관련하여 이해대립이 있어 다툼이 있는 장소
+
+  D.「행정대집행법」에 따라 대집행을 하는 장소
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 경비업법이란, 경비업의 설립·운영 및 경비원의 교육 등에
+  관한 사항을 규정하여 경비업의 건전한 발전을 도모하고 국민생활의 안전을 유지하기 위한 법률입니다. 이 법률은 경비업체가 수행해야 하는 업무와 경비원의
+  역할, 그리고 그들이 준수해야 하는 규정들을 명시하고 있습니다. 경비업법에 따르면 집단민원현장이란 노동쟁의, 집회, 시위 등 대량의 사람들이 모여
+  문제를 일으키는 장소를 의미합니다. 그리고 이러한 장소에서는 경비원들이 경비업무를 수행하게 됩니다. 선택지를 보면, (A)는 노동조합 및 노동관계조정법에
+  따라 노동쟁의 조정신청을 한 사업장 또는 쟁의행위가 발생한 사업장, (B)는 공유토지분할에 관한 특례법에 따라 공유토지에 대한 소유권행사와 토지의
+  이용에 문제가 있는 장소, (C)는 도시 및 주거환경정비법에 따른 정비사업과 관련하여 이해대립이 있어 다툼이 있는 장소, 그리고 (D)는 행정대집행법에
+  따라 대집행을 하는 장소입니다. 이 중에서 (B)의 경우, 공유토지에 대한 소유권행사와 토지의 이용에 문제가 있는 장소는 집단민원현장에 해당되지
+  않습니다. 공유토지에 대한 소유권 행사와 토지의 이용에 문제가 있는 장소는 소유권자 간의 민사적인 문제를 다루는 장소로, 경비업법에서 정의하는
+  ''집단민원현장''에는 해당되지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 컴퓨터범죄의 관리상 안전대책으로 옳은 것은?
+
+  A.사후 구제방법이 우선적으로 수립되어야 한다.
+
+  B.전체적인 시각에서 단기적으로 추진되어야 한다.
+
+  C.예기치 못한 사고에 대비하기 위해 시스템 백업과 프로그램 백업이 필요하다.
+
+  D.네트워크 취약성으로 발생하는 문제는 물리적 통제절차의 개선으로 해결해야 한다.
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. 컴퓨터 범죄의 관리상 안전대책은 다양한 측면에서 고려되어야
+  합니다. (A) 사후 구제방법이 우선적으로 수립되어야 한다는 것은 범죄가 발생한 후에 대처하는 방법으로, 예방보다는 대응에 초점을 맞춘 것입니다.
+  이는 적극적인 대처 방법이지만, 예방적인 측면에서는 부족할 수 있습니다. (B) 전체적인 시각에서 단기적으로 추진되어야 한다는 것은, 컴퓨터 범죄의
+  안전대책을 전체적인 시각에서 바라보되, 시간적으로는 단기적인 관점에서 추진해야 한다는 것입니다. 이는 효율적인 대처 방법이지만, 장기적인 관점에서의
+  지속적인 개선이 필요할 수 있습니다. (C) 예기치 못한 사고에 대비하기 위해 시스템 백업과 프로그램 백업이 필요하다는 것은, 컴퓨터 시스템이나
+  프로그램이 손상되거나 파괴되는 경우를 대비하여 백업을 해두는 것입니다. 이는 매우 중요한 안전대책 중 하나입니다. (D) 네트워크 취약성으로 발생하는
+  문제는 물리적 통제절차의 개선으로 해결해야 한다는 것은, 네트워크 보안 문제를 해결하기 위해 물리적인 통제 절차를 개선하는 것입니다. 이는 네트워크
+  보안을 강화하는 데 매우 중요한 역할을 합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_law

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_management.yaml

@@ -0,0 +1,107 @@
+dataset_name: management
+doc_to_text: '질문: ERP 도입의 최종 목적으로 가장 적합한 것은 무엇인가?
+
+  A.조직문화 혁신
+
+  B.경영혁신의 수단
+
+  C.고객만족과 이윤극대화
+
+  D.기업 내부의 정보인프라 구축
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. ERP (Enterprise Resource Planning)
+  시스템 도입의 최종 목적을 이해하기 위해서는 ERP의 기본 개념과 목표에 대해 살펴볼 필요가 있습니다. ERP 시스템은 기업의 다양한 업무 프로세스를
+  통합하고 관리하는 소프트웨어입니다. 이는 기업 내부의 자원을 효율적으로 관리하고, 기업 전체의 업무 과정을 유기적으로 연결하는 역할을 합니다.
+  ERP 시스템은 비즈니스 프로세스의 표준화와 단순화를 통해 비효율을 줄이고, 중복 업무를 축소합니다. 이러한 시스템은 실시간으로 정보를 관리하며,
+  기업의 의사결정을 지원하는 경영 정보 시스템의 역할을 수행합니다. ERP 도입의 주요 목적은 고객 만족과 이윤 극대화에 있습니다. 이는 잘못된
+  관행의 제거, 비부가가치 업무의 축소, 재고비용 절감, 납기 단축, 정보 공유를 통한 매출 증대 등을 통해 달성됩니다. 또한, 경쟁력 강화 및
+  투명 경영을 실현하고 글로벌 경쟁에 대응하는 데에도 중요한 역할을 합니다.  , ERP 도입의 최종 목적은 다양한 측면이 있지만, 가장 핵심적인
+  목적은 ''고객만족과 이윤 극대화''로 볼 수 있습니다. 이를 통해 기업의 경쟁력을 강화하고, 글로벌 시장에서의 지속 가능한 성장을 도모할 수
+  있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 재무상태표의 유동자산 항목에 해당하지 않는 것은?
+
+  A.현금
+
+  B.투자자산
+
+  C.재고자산
+
+  D.매출채권
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. 재무상태표는 기업의 일정 시점의 재무상태를 나타내는 표로,
+  자산, 부채, 자본으로 구성됩니다. 자산은 유동자산과 비유동자산으로 구분되는데, 유동자산은 1년 이내에 현금화할 수 있는 자산을 의미합니다. (A)
+  현금: 통화 및 통화 대용증권을 포함한 즉시 현금으로 전환이 가능한 자산입니다. (B) 투자자산은 재무상태표의 유동자산 항목에 해당하지 않습니다.
+  투자자산은 기업이 장기적인 투자수익을 얻기 위해 보유하는 자산으로, 1년 이내에 현금화할 수 없기 때문에 유동자산에 해당하지 않습니다. 대표적인
+  투자자산으로는 주식, 채권, 부동산 등이 있습니다. (C) 재고자산: 판매를 목적으로 보유하고 있는 자산으로, 상품, 제품, 원재료 등이 해당됩니다.
+  (D) 매출채권: 제품이나 상품을 판매하고 아직 대금을 회수하지 못한 채권입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 중소기업기본법상 중소기업 옴부즈만에 관한 설명으로 옳은 것은?
+
+  A.임기는 3년으로 하되, 한 번만 연임할 수 있다.
+
+  B.업무에 관한 활동 결과보고서를 작성하여 매년 12월 말까지 규제개혁위원회와 중소벤처기업부 및 국회에 보고하여야 한다.
+
+  C.중소기업 및 규제 분야의 학식과 경험이 많은 자 중에서 중소벤처기업부장관이 위촉한다.
+
+  D.판사의 직에 5년 이상 있었던 사람은 중소기업 옴부즈만이 될 자격이 있다.
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 중소기업 옴부즈만에 대해 알아야 합니다. 중소기업
+  옴부즈만은 중소기업기본법 제22조에 따라 중소기업에 영향을 주는 규제 및 애로사항을 개선하기 위해 중소벤처기업부장관이 위촉하는 독립적인 전문가입니다.
+  이제 선택지를 보겠습니다. (A)를 살펴보면, 중소기업 옴부즈만은 국무총리가 위촉되는 임기 3년의 독립적 정부기관이다. 한 번 연임이 가능하며,
+  다른 중소기업청 관계 기관과는 달리, 규제개혁위원회의 동의를 받아 임명됩니다.   이는 옳은 설명입니다. (B)를 살펴보면, 중소기업기본법 제22조에
+  따라 중소기업 옴부즈만은 업무에 관한 활동 결과보고서를 작성하여 매년 1월 말까지 규제개혁위원회와 중소벤처기업부 및 국회에 보고하여야 한다고 명시되어
+  있습니다.   이는 틀린 설명입니다. (C)를 살펴보면, 중소기업 옴부즈만은 중소기업 및 규제 분야의 학식과 경험이 풍부한 사람 중에서 국무총리가
+  위촉한다고 명시되어 있습니다.   이는 틀린 설명입니다. (D)를 살펴보면, 중소기업기본법 제22조에 판사의 직에 5년 이상 있었던 사람은 중소기업
+  옴부즈만이 될 자격이 있다는 내용은 명시되어 있지 않습니다.   이는 옳지 않은 설명입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 임금체계에 대한 설명으로 옳지 않은 것은?
+
+  A.직무급은 종업원이 맡은 직무의 상대적 가치에 따라 임금을 결정하는 방식이다.
+
+  B.연봉제란 개인의 능력발휘와 기여도(업적평가결과)에 따라 차등적인 임금을 결정하는 방식이다.
+
+  C.직무성과급이란 기본급이 직무급이고, 고과승급과 인센티브를 운영하는 임금체계이다.
+
+  D.직능급은 종업원이 수행하는 직무의 난이도를 기준으로 임금을 결정하는 방식이다.
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 먼저, 직무급은 종업원이 맡은 직무의 상대적 가치에
+  따라 임금을 결정하는 방식입니다. 이는 직무의 중요도와 난이도, 책임 등을 평가하여 결정됩니다. (B) 다음으로, 연봉제는 개인의 능력발휘와 기여도(업적평가결과)에
+  따라 차등적인 임금을 결정하는 방식입니다. 이는 개인의 성과와 업적에 따라 임금이 변동될 수 있습니다. (C) 직무성과급은 기본급이 직무급이고,
+  고과승급과 인센티브를 운영하는 임금체계입니다. 이는 직무의 가치와 성과에 따라 임금이 결정됩니다. (D) 마지막으로, 직능급은 종업원이 수행하는
+  직무의 난이도를 기준으로 임금을 결정하는 방식이 아니라, 종업원의 직무수행능력에 따라 임금을 결정하는 방식입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 물류시스템에 관한 설명으로 옳은 것은?
+
+  A.고객의 주문에 신속하게 반응할 수 있도록 재고를 최대한으로 유지한다.
+
+  B.물류시스템을 생산지에서 소비지까지 연계되도록 구축한다.
+
+  C.기업의 총비용을 최소화하기 위해 물류서비스 수준을 최대로 유지한다.
+
+  D.물류합리화를 위해 기업내 각 부문별로 목표를 정하고 분산된 시스템을 구축한다.
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 고객의 주문에 신속하게 반응하기 위해 재고를 최대한으로
+  유지하는 것은 물류 시스템의 목적 중 하나일 수 있지만, 이는 과도한 재고 유지 비용을 초래할 수 있습니다. (B) 물류시스템은 생산지에서 소비지까지
+  연계되도록 구축하는 것이 가장 중요한 역할 중 하나입니다. (C) 기업의 총비용을 최소화하기 위해 물류서비스 수준을 최대로 유지하는 것은 물류
+  시스템의 목적 중 하나일 수 있지만, 이는 고객 만족도를 저하시킬 수 있습니다. (D) 물류합리화를 위해 기업내 각 부문별로 목표를 정하고 분산된
+  시스템을 구축하는 것은 물류 시스템의 효율성을 높일 수 있지만, 이는 통합적인 관리가 어려울 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_management

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_marketing.yaml

@@ -0,0 +1,122 @@
+dataset_name: marketing
+doc_to_text: '질문: e-CRM상에서 고객유지를 위한 전략으로 맞지 않는 것은?
+
+  A.주문에 대한 신속하고 정확한 대응
+
+  B.품질이 낮아도 저렴한 제품의 대량공급
+
+  C.배송 등 철저한 사후관리
+
+  D.기술적인 지원체제 구축
+
+  정답: 차근 차근 생각해봅시다. 마케팅 관련 정보를 위해 위키피디아를 참조하겠습니다. e-CRM(Electronic Customer Relationship
+  Management)은 인터넷을 기반으로 한 고객관계관리를 의미합니다. 고객 유지를 위한 전략은 고객 만족도를 높이고 이탈을 방지하는 것이 목적입니다.
+  선택지를 하나씩 살펴보겠습니다. (A). 주문에 대한 신속하고 정확한 대응: 고객이 주문한 제품이나 서비스를 빠르게 제공하고 정확하게 처리하는
+  것은 고객 만족도를 높일 수 있습니다.  , 이는 고객 유지를 위한 전략으로 적합합니다. (B). 품질이 낮아도 저렴한 제품의 대량공급: 고객
+  만족도를 높이기 위해서는 제품의 품질이 중요합니다. 저렴한 제품을 대량 공급하는 것은 단기적으로는 고객을 유치할 수 있지만, 장기적으로는 고객
+  이탈을 유발할 수 있습니다.  , 이는 고객 유지를 위한 전략으로 적합하지 않습니다. (C). 배송 등 철저한 사후관리: 제품을 배송한 후에도
+  고객의 요구에 적극적으로 대응하고, 문제가 발생한 경우 신속하게 해결하는 것은 고객 만족도를 높일 수 있습니다.  , 이는 고객 유지를 위한 전략으로
+  적합합니다. (D). 기술적인 지원체제 구축: 고객이 제품이나 서비스를 이용하는 데 있어서 기술적인 문제가 발생한 경우, 이를 해결할 수 있는
+  지원체제를 구축하는 것은 고객 만족도를 높일 수 있습니다.  , 이는 고객 유지를 위한 전략으로 적합합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 데이터베이스 마케팅에서 사용되는 RFM의 세 가지 기준이 아닌 것은?
+
+  A.얼마나 오랫동안 우리와 거래했는가?
+
+  B.얼마나 최근에 우리 제품을 구매했는가?
+
+  C.얼마나 자주 우리 제품을 구입하는가?
+
+  D.우리 제품의 구입에 어느 정도의 돈을 쓰는가?
+
+  정답: 차근 차근 생각해봅시다. 마케팅 관련 정보를 위해 위키피디아를 참조하겠습니다. RFM은 데이터베이스 마케팅에서 중요한 개념으로, 고객의
+  가치를 평가하는 데 사용되는 세 가지 기준을 나타냅니다. RFM은 Recency(최근성), Frequency(빈도), Monetary Value(금액)의
+  약자입니다. (A) "얼마나 오랫동안 우리와 거래했는가?"는 고객이 얼마나 오래된 고객인지를 나타내는 지표이지만, RFM 모델에서는 직접적으로
+  고려되지 않습니다. RFM 모델은 최근에 고객이 얼마나 활동적이었는지(Recency), 고객이 얼마나 자주 구매했는지(Frequency), 그리고
+  고객이 얼마나 많은 돈을 썼는지(Monetary Value)를 중점적으로 보는 모델입니다. (B) "얼마나 최근에 우리 제품을 구매했는가?"는
+  RFM 모델의 R인 Recency를 나타냅니다. 이는 고객이 가장 최근에 구매한 시점을 의미하며, 이는 고객의 최근 구매 행동을 반영합니다. (C)
+  "얼마나 자주 우리 제품을 구입하는가?"는 RFM 모델의 F인 Frequency를 나타냅니다. 이는 고객이 얼마나 자주 구매하는지를 의미하며,
+  이는 고객의 구매 빈도를 반영합니다. (D) "우리 제품의 구입에 어느 정도의 돈을 쓰는가?"는 RFM 모델의 M인 Monetary Value를
+  나타냅니다. 이는 고객이 얼마나 많은 돈을 소비했는지를 의미하며, 이는 고객의 구매력을 반영합니다.  , RFM 모델에서 직접적으로 고려되지 않는
+  것은 (A) "얼마나 오랫동안 우리와 거래했는가?"입니다. 이는 고객의 거래 기간을 나타내지만, RFM 모델은 최근성, 빈도, 금액에 초점을 맞추고
+  있습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 아웃바운드 텔레마케팅에서 잠재고객을 구매고객으로 전환시키는 방법으로 볼 수 없는 것은?
+
+  A.고객을 이해시키고 실질적 혜택 부여
+
+  B.무조건 가격할인을 통한 유도
+
+  C.관심이 많은 고객을 집중적으로 설득
+
+  D.쌍방간 커뮤니케이션 강화
+
+  정답: 차근 차근 생각해봅시다. 마케팅 관련 정보를 위해 위키피디아를 참조하겠습니다. 아웃바운드 텔레마케팅은 기업이 직접 고객에게 연락하여 제품이나
+  서비스를 판매하는 방식을 말합니다. 이때, 잠재 고객을 구매 고객으로 전환시키는 방법에는 여러 가지가 있습니다. (A) 고객을 이해시키고 실질적
+  혜택 부여는 잠재 고객을 구매 고객으로 전환시키는 중요한 방법 중 하나입니다. 고객이 제품��나 서비스에 대한 이해를 가지고, 그것이 자신에게 어떤
+  실질적인 혜택을 줄 수 있는지를 알게 되면, 구매로 이어질 가능성이 높아집니다. (C) 관심이 많은 고객을 집중적으로 설득하는 것도 잠재 고객을
+  구매 고객으로 전환시키는 효과적인 방법입니다. 이미 제품이나 서비스에 대한 관심이 있는 고객을 대상으로 하면, 그들을 구매로 이끌 가능성이 더욱
+  높아집니다. (D) 쌍방간 커뮤니케이션 강화 역시 잠재 고객을 구매 고객으로 전환시키는 데 중요한 역할을 합니다. 고객과의 커뮤니케이션을 통해
+  고객의 필요와 원하는 것을 파악하고, 그에 맞는 제품이나 서비스를 제공하면 고객의 구매 결정을 유도할 수 있습니다. 그러나, (B) 무조건 가격할인을
+  통한 유도는 잠재 고객을 구매 고객으로 전환시키는 방법으로 적절하지 않을 수 있습니다. 가격할인은 단기적으로는 고객의 구매를 유도할 수 있지만,
+  장기적으로는 기업의 이익을 해칠 수 있으며, 고객이 제품이나 서비스의 진정한 가치를 인지하지 못하게 만들 수 있습니다. 또한, 가격만으로 고객을
+  유도하는 것은 고객의 브랜드 충성도를 낮추고, 가격 경쟁에 빠져 기업의 경쟁력을 약화시킬 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 회사가 제품에 대한 가격을 결정할 때 제품의 저가전략이 적합한 경우가 아닌 것은?
+
+  A.시장수요의 가격탄력성이 낮을 때
+
+  B.경쟁기업에 비해 원가우위를 확보하고 있을 때
+
+  C.경쟁사가 많을 때
+
+  D.소비자들의 수요를 자극하고자 할 때
+
+  정답: 차근 차근 생각해봅시다. 마케팅 관련 정보를 위해 위키피디아를 참조하겠습니다. 가장 먼저 저가전략이란 것은 회사가 제품의 가격을 낮추어
+  소비자들의 수요를 끌어들이거나, 경쟁사에 대한 가격 경쟁력을 확보하기 위해 사용하는 전략입니다. (A) 선택지를 보면, ''시장수요의 가격탄력성이
+  낮을 때''라고 되어 있습니다. 가격탄력성이란 가격 변동에 따른 수요 변동률을 의미하는데, 이 값이 낮다는 것은 가격이 변해도 소비자들의 수요에
+  크게 영향을 주지 않는다는 것을 의미합니다. 즉, 가격을 낮춰도 소비자들의 수요가 크게 증가하지 않을 것이므로, 이 경우 저가전략을 사용하는 것은
+  적합하지 않을 수 있습니다. (B) 선택지인 ''경쟁기업에 비해 원가우위를 확보하고 있을 때''는 저가전략을 사용하기 좋은 상황입니다. 원가우위를
+  확보하고 있다는 것은 동일한 제품을 더 낮은 비용으로 생산할 수 있다는 것을 의미하므로, 이 경우 회사는 가격을 낮추어도 이익을 낼 수 있습니다.   이
+  경우 저가전략이 적합합니다. (C) 선택지인 ''경쟁사가 많을 때''도 저가전략을 사용하기 좋은 상황입니다. 경쟁사가 많을 경우 소비자들의 선택권이
+  넓어지므로, 가격 경쟁력을 확보하기 위해 저가전략을 사용할 수 있습니다. (D) 선택지인 ''소비자들의 수요를 자극하고자 할 때''는 저가전략의
+  주요 목표 중 하나입니다. 가격을 낮추면 소비자들의 구매욕구를 자극할 수 있으므로, 이 경우에도 저가전략이 적합합니다.  , 이러한 사항들을 종합해
+  보았을 때, 저가전략이 적합하지 않은 경우는 ''시장수요의 가격탄력성이 낮을 때''입니다. 이 경우에는 가격을 낮추어도 소비자들의 수요에 큰 영향을
+  미치지 못하므로, 저가전략을 사용하는 것은 효과적이지 않을 수 있습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 아웃바운드 텔레마케팅의 판매촉진 강화를 위한 방안으로 잘못된 것은?
+
+  A.상담원은 고객의 요구만을 열심히 경청하게 한다.
+
+  B.상담원들에게 상품에 대한 사전지식을 철저히 준비토록 한다.
+
+  C.고객에게 호감을 줄 수 있는 커뮤니케이션 기술을 갖추도록 한다.
+
+  D.상담원은 고객의 반론에 대한 자연스러운 대응력을 갖추도록 한다.
+
+  정답: 차근 차근 생각해봅시다. 마케팅 관련 정보를 위해 위키피디아를 참조하겠습니다. 정답 해설: 아웃바운드 텔레마케팅은 고객에게 먼저 전화를
+  걸어 상품을 판매하거나 서비스를 제공하는 마케팅 방식입니다.  , 판매촉진 강화를 위해서는 상담원이 적극적으로 고객을 설득하고, 상품에 대한 정보를
+  제공하는 것이 중요합니다. (A)는 고객의 요구만을 열심히 경청하게 한다는 것은 아웃바운드 텔레마케팅의 목적인 판매촉진 강화에 부합하지 않습니다.
+  이는 고객의 요구를 파악하는 데에는 도움이 될 수 있지만, ���매를 이끌어내는 데에는 한계가 있습니다. (B), (C), (D)는 모두 아웃바운드
+  텔레마케팅의 판매촉진 강화를 위한 방안으로 적절한 것들입니다. 상담원이 상품에 대한 사전지식을 철저히 준비하면 고객에게 정확한 정보를 제공할 수
+  있고, 고객에게 호감을 줄 수 있는 커뮤니케이션 기술을 갖추면 고객과의 소통을 원활하게 할 수 있으며, 상담원이 고객의 반론에 대한 자연스러운
+  대응력을 갖추면 고객의 불만이나 반대를 효과적으로 처리할 수 있습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 마케팅 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_marketing

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_materials_engineering.yaml

@@ -0,0 +1,118 @@
+dataset_name: materials_engineering
+doc_to_text: '질문: 실온까지 온도를 내려서 다른 형상으로 변형시켰다가 다시 온도를 상승시키면 어느 일정한 온도이상에서 다시 원래의 형상으로
+  변화하는 합금은
+
+  A.제진합금
+
+  B.방진합금
+
+  C.비정질합금
+
+  D.형상기억합금
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 합금의 특성을 이해해야 합니다.
+  (A). 제진합금: 제진합금은 주로 금속을 가공하는 과정에서 발생하는 열을 효과적으로 제거하는 데 사용되는 합금입니다.  , 이 질문의 합금 특성과는
+  관련이 없어 보입니다. (B). 방진합금: 방진합금은 소음이나 진동을 줄이는 데 효과적인 합금입니다. 이 역시 질문의 합금 특성과는 관련이 없어
+  보입니다. (C). 비정질합금: 비정질합금은 금속 원자들이 정렬되지 않은 상태, 즉 비정질 상태로 고정되어 있어 특별한 기계적 특성을 가진 합금입니다.
+  하지만 이 합금은 온도에 따라 형상이 변화하는 특성은 없습니다. (D). 형상기억합금: 형상기억합금은 특정 온도 이상에서 원래의 형상으로 돌아가는
+  특성을 가진 합금입니다. 이 합금은 ''형상기억 효과''라는 고유한 특성 때문에 특정 온도에서 물체의 형태가 변하고, 그 온도가 다시 내려가면
+  원래의 형태로 돌아오는 특성을 가집니다.  , 질문에서 요구하는 ''실온까지 온도를 내려서 다른 형상으로 변형시켰다가 다시 온도를 상승시키면 어느
+  일정한 온도이상에서 다시 원래의 형상으로 변화하는 합금''은 형상기억합금이 가장 적합해 보입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 잔류 오스테나이트를 마텐자이트로 변화시키는 열처리 방법은?
+
+  A.연속냉각 변태 처리
+
+  B.등온 변태 처리
+
+  C.항온 변태 처리
+
+  D.심랭 처리
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 잔류 오스테나이트와 마텐자이트에 대해 이해해야
+  합니다. 잔류 오스테나이트는 강철의 오스테나이트 구조가 완전히 변태되지 않아 잔류한 상태를 말하며, 마텐자이트는 강철의 오스테나이트 구조가 빠른
+  냉각에 의해 변태된 것을 말합니다. 이제 각 선택지에 대해 살펴보겠습니다. (A) 연속냉각 변태 처리는 강철을 연속적으로 냉각시켜 구조를 변화시키는
+  방법입니다. 이 방법은 오스테나이트를 마텐자이트로 변화시키는데 효과적일 수 있습니다. (B) 등온 변태 처리는 강철을 일정한 온도에서 변태시키는
+  방법입니다. 이 방법은 오스테나이트를 페라이트나 베이나이트로 변화시키는데 주로 사용됩니다. (C) 항온 변태 처리는 강철을 변태 온도에서 일정
+  시간 동안 유지하는 방법입니다. 이 방법은 오스테나이트를 페라이트나 베이나이트로 변화시키는데 주로 사용됩니다. (D) 심랭 처리는 강철을 매우
+  빠르게 냉각시키는 방법입니다. 이 방법은 오스테나이트를 마텐자이트로 변화시키는데 효과적입니다.  , 잔류 오스테나이트를 마텐자이트로 변화시키는
+  열처리 방법은 연속냉각 변태 처리나 심랭 처리일 가능성이 높습니다. 하지만 심랭 처리가 더 빠른 냉각을 통해 마텐자이트로의 변화를 촉진시키므로,
+  이 방법이 더 적합하다고 판단됩니다. 잔류 오스테나이트를 마텐자이트로 변화시키는 가장 효과적인 방법은 심랭 처리인데, 이는 오스테나이트가 빠른
+  냉각 과정에서 마텐자이트로 변태되기 때문입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 면심입방격자의 배위수는 몇 개인가?
+
+  A.8
+
+  B.12
+
+  C.16
+
+  D.24
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 면심입방격자(face-centered cubic lattice,
+  FCC)는 각 면의 중심과 모서리에 원자가 위치한 입방격자입니다. 이 구조에서 한 원자는 주변에 있는 다른 원자 12개와 접촉하게 되므로, 배위수는
+  12입니다. 이를 자세히 설명하면, 면심입방격자는 입방격자의 8개 꼭지점에 원자가 하나씩 위치하고, 6개 면의 중심에도 원자가 하나씩 위치합니다.
+  이때, 각 면의 중심에 위치한 원자는 그 면에 인접한 4개 꼭지점의 원자와 접촉하게 됩니다.   면 중심에 위치한 원자는 총 4개의 원자와 접촉하게
+  되며, 이는 총 6개의 면에 대해 동일하므로 4*6=24개의 원자와 접촉하는 것처럼 보입니다. 그러나, 각 면 중심의 원자는 ��로 공유되므로 실제로
+  한 원자가 접촉하는 원자의 수는 24/2=12개가 됩니다. 이로써, 면심입방격자의 배위수는 12라는 결론을 도출할 수 있습니다. 따라서, 정답은
+  (B) 입니다.
+
+
+  질문: 금속재료에 외부의 힘을 가하여 원하는 형태로 변형시킴과 동시에 재료의 기계적 성질을 개선하는 가공법을 무엇이라 하는가?
+
+  A.용접
+
+  B.절삭가공
+
+  C.소성가공
+
+  D.분말 야금
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 이해해보겠습니다. (A). 용접:
+  두 개 이상의 금속을 고온으로 가열하여 붙이는 방법입니다. 이는 주로 두 개의 금속을 연결하는데 사용되며, 이 과정에서 금속의 형태를 변형시키거나
+  기계적 성질을 개선하는 것은 아닙니다. (B). 절삭가공: 금속을 절단하거나 깎아내어 원하는 형태로 만드는 가공법입니다. 이 방법은 주로 금속의
+  형태를 변형시키는 데 사용되지만, 재료의 기계적 성질을 개선하는 것은 아닙니다. (C). 소성가공: 금속재료에 외부의 힘을 가하여 원하는 형태로
+  변형시키고, 이 과정에서 재료의 기계적 성질을 개선하는 가공법입니다. 소성가공은 압력을 이용해 금속을 변형시키며, 이 과정에서 금속의 결정 구조가
+  재배열되어 기계적 성질이 개선됩니다. (D). 분말 야금: 금속 분말을 고온에서 가압하여 원하는 형태로 만드는 방법입니다. 이 방법은 주로 복잡한
+  형태의 금속 부품을 제조하는 데 사용되며, 이 과정에서 금속의 형태를 변형시키지만, 재료의 기계적 성질을 개선하는 것은 아닙니다.  , 질문에서
+  주어진 정보를 기반으로 할 때, 금속재료에 외부의 힘을 가하여 원하는 형태로 변형시킴과 동시에 재료의 기계적 성질을 개선하는 가공법은 ''소성가공''이라
+  할 수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 냉간가공과 열간가공을 구별하는 기준이 되는 것은?
+
+  A.변태점
+
+  B.탄성한도
+
+  C.재결성 온도
+
+  D.마무리 온도
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 냉간가공과 열간가공의 차이를 알아보겠습니다. 냉간가공은
+  금속을 녹이지 않고, 상온에서 가공하는 방법을 말하며, 열간가공은 금속을 가열하여 가공하는 방법을 말합니다. 이 두 가공 방법의 차이는 가공하는
+  과정에서 금속의 온도에 있습니다. 그럼 이제 선택지를 하나씩 살펴보겠습니다. (A) 변태점: 이는 금속이 상태를 변화시키는 온도를 의미합니다.
+  이는 냉간가공과 열간가공의 구별 기준이 될 수 없습니다. (B) 탄성한도: 이는 재료가 더 이상 탄성 변형을 견디지 못하고 비탄성 변형을 일으키기
+  시작하는 응력을 말합니다. 이 역시 냉간가공과 열간가공의 구별 기준이 될 수 없습니다. (D) 마무리 온도: 이는 열간가공 과정에서 마지막으로
+  도달하는 온도를 의미합니다. 이는 열간가공의 과정을 설명하는 용어로, 냉간가공과 열간가공을 구별하는 기준이 될 수 없습니다. (C) 재결성 온도:
+  이는 금속이 냉간 가공에 의한 변형에서 회복되기 시작하는 온도를 말합니다. 이는 냉간가공과 열간가공을 구별하는 데 사용될 수 있습니다. 냉간가공은
+  재결성 온도 이하에서 이루어지며, 열간가공은 재결성 온도 이상에서 이루어집니다.  , 냉간가공과 열간가공을 구별하는 기준은 재결성 온도라고 할
+  수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_materials_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_patent.yaml

@@ -0,0 +1,142 @@
+dataset_name: patent
+doc_to_text: '질문: 특허협력조약(PCT)에 따른 국제특허출원에 관한 설명으로 옳지 않은 것은?
+
+  A.국제특허출원의 출원인은 국내서면제출기간에 출원인의 성명 및 주소, 발명의 명칭 등을 기재한 서면을 특허청장에게 제출하여야 하는데, 그 서면을
+  국내서면제출기간에 제출하지 아니한 경우 특허청장은 보정기간을 정하여 보정을 명하여야 한다.
+
+  B.특허법 제201조(국제특허출원의 국어번역문)제1항에 따라 국어번역문을 제출한 출원인은 국내서면제출기간(제201조제1항 단서에 따라 취지를 적은
+  서면이 제출된 경우에는 연장된 국어번역문 제출기간을 말한다)에 그 국어번역문을 갈음하여 새로운 국어번역문을 제출할 수 있으나 출원인이 출원심사의
+  청구를 한 후에는 허용되지 않는다.
+
+  C.국제특허출원을 외국어로 출원한 출원인이 국내서면제출기간(제201조제1항 단서에 따라 취지를 적은 서면이 제출된 경우에는 연장된 국어번역문 제출기간을
+  말한다)에 발명의 설명 및 청구범위의 국어번역문을 제출하지 아니하면 그 국제특허출원을 취하한 것으로 본다.
+
+  D.미국 기업이 미국 특허청을 수리관청으로 국제특허출원하고, 한국을 지정국으로 한 경우, 한국 출원일은 한국 특허청에 발명의 설명ㆍ청구범위ㆍ도면의
+  국어번역문을 제출한 날로 본다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선택지 (A)를 보면, 국제특허출원의 출원인은 국내서면제출기간에
+  출원인의 성명 및 주소, 발명의 명칭 등을 기재한 서면을 특허청장에게 제출하여야 하는데, 그 서면을 국내서면제출기간에 제출하지 아니한 경우 특허청장은
+  보정기간을 정하여 보정을 명하여야 한다고 설명하고 있습니다. 이는 PCT 조약 제21조에 따른 내용으로, 출원인은 국내서면제출기간에 필요한 정보를
+  제출해야 하며, 그렇지 않은 경우 보정기간이 부여된다는 것은 옳은 설명입니다. 다음으로, 선택지 (B)를 보면, 특허법 제201조(국제특허출원의
+  국어번역문)제1항에 따라 국어번역문을 제출한 출원인은 국내서면제출기간(제201조제1항 단서에 따라 취지를 적은 서면이 제출된 경우에는 연장된 국어번역문
+  제출기간을 말한다)에 그 국어번역문을 갈음하여 새로운 국어번역문을 제출할 수 있으나 출원인이 출원심사의 청구를 한 후에는 허용되지 않는다고 설명하고
+  있습니다. 이는 특허법 제201조에 따른 내용으로, 출원인은 국내서면제출기간 내에 새로운 국어번역문을 제출할 수 있지만, 출원심사 청구 후에는
+  허용되지 않는다는 것은 옳은 설명입니다. 선택지 (C)를 보면, 국제특허출원을 외국어로 출원한 출원인이 국내서면제출기간(제201조제1항 단서에
+  따라 취지를 적은 서면이 제출된 경우에는 연장된 국어번역문 제출기간을 말한다)에 발명의 설명 및 청구범위의 국어번역문을 제출하지 아니하면 그 국제특허출원을
+  취하한 것으로 본다고 설명하고 있습니다. 이는 특허법 제201조 제4항에 따른 내용으로, 출원인이 국어번역문을 제출하지 않은 경우 해당 출원은
+  취하된 것으로 간주된다는 것은 옳은 설명입니다. 마지막으로, 선택지 (D)를 보면, 미국 기업이 미국 특허청을 수리관청으로 국제특허출원하고, 한국을
+  지정국으로 한 경우, 한국 출원일은 한국 특허청에 발명의 설명ᆞ청구범위ᆞ도면의 국어번역문을 제출한 날로 본다고 설명하고 있습니다. 그러나, PCT
+  조약에 따르면, 국제출원의 한국 출원일은 국제출원일이 됩니다.  , 이 설명은 옳지 않습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 특허권 존속기간의 연장에 관한 설명으로 옳은 것은?
+
+  A.특허출원에 대하여 출원심사청구일부터 4년과 특허출원일부터 3년 중 늦은 날보다 지연되어 특허권의 설정등록이 이루어지는 경우에는 그 지연된 기간만큼
+  해당 특허권의 존속기간을 연장할 수 있다.
+
+  B.등록지연에 따른 특허권 존속기간의 연장등록출원이 있는 때에는 그 존속기간은 연장된 것으로 보나, 그 출원에 관하여 연장등록거절결정이 확정된
+  때에는 그러하지 아니하다.
+
+  C.등록지연에 따른 특허권 존속기간의 연장등록출원은 특허권의 설정등록일부터 3개월 이내에 출원하여야 한다.
+
+  D.특허발명의 실시를 위하여 다른 법령의 규정에 의하여 허가등이 필요한 경우 이를 위한 활성ㆍ안전성 등의 시험으로 인하여 실시할 수 없었던 모든
+  기간만큼 그 특허권의 존속기간을 연장할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 특허권의 설정등록일로부터 3개월 이내에 특허권 존속기간의
+  연장등록출원을 해야 한다는 말은 정확합니다. 이는 특허권의 설정등록이 지연된 경우에 적용되는 연장등록출원에 관한 설명입니다. 이 연장등록출원은
+  특허권의 설정등록이 특허출원일로부터 4년 또는 심사청구일로부터 3년 중 늦은 날로부터 지연된에 가능합니다. 이 연장등록출원은 설정등록일로부터 3개월
+  이내에 제출해야 하며, 연장기간에 대한 제한은 없습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 특허권 침해의 손해배상에 관한 설명으로 옳지 않은 것은? (다툼이 있는 경우 에는 판례에 의함)
+
+  A.법원은 특허권의 침해소송에서 당사자의 신청에 의하여 타당사자에 대하여 당해 침해행위로 인한 손해의 계산을 하는 데에 필요한 서류의 제출을 명할
+  수 있으며, 법원의 제출명령에도 불구하고 그 서류의 소지자가 그 제출을 거절할 정당한 이유가 있는 때에는 그 서류를 제출하지 않을 수 있다.
+
+  B.특허법 제128조(손해액의 추정등) 제1항 규정을 적용함에 있어서 특허권자가 그 일실이익 손해액을 입증하기 위해서는 적어도 침해자가 침해행위를
+  하게 한 물건의 양도수량과 당해 침해행위가 없었다면 판매할 수 있었던 물건의 단위수량당 이익액을 입증하여야 한다.
+
+  C.특허법 제128조(손해액의 추정등) 제2항에서의 침해행위에 의한 이익은 침해자가 특허침해행위에 의하여 얻게 된 것을 말하는데, 그 침해행위에도
+  불구하고 특허권자에게 손해가 없는 경우에도 침해자가 침해행위로 인하여 이익을 받았으면 이 규정을 적용할 수 있다.
+
+  D.특허법 제128조(손해액의 추정등) 제3항에 의하여 특허발명의 실시에 대하여 통상받을 수 있는 금액에 상당하는 액을 결정함에 있어 당해 특허발명에
+  대하여 특허권자가 제3자와의 사이에 특허권 실시계약을 맺고 실시료를 받은 바 있다면 그 계약내용을 침해자에게도 유추적용하는 것이 현저하게 불합리하다는
+  특별한 사정이 없는 한 그 실시계약에서 정한 실시료를 참작하여 위 금액을 산정하여야 한다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지가 어떤 내용인지 파악해봅시다. (A) 선택지는
+  법원이 특허권 침해 손해의 계산을 위해 필요한 서류 제출을 요청할 수 있고, 서류 제출을 거부할 정당한 이유가 있는 경우에는 제출하지 않을 수
+  있다는 내용입니다. (B) 선택지는 특허법 제128조 제1항을 적용할 때, 특허권자가 손해액을 입증하기 위해 침해자가 침해행위를 통해 판매한 물건의
+  수량과, 침해행위가 없었다면 판매할 수 있었던 물건의 단위수량당 이익액을 입증해야 한다는 내용입니다. (C) 선택지는 특허법 제128조 제2항에서의
+  침해행위에 의한 이익은 침해자가 특허침해행위에 의해 얻은 것을 의미하며, 특허권자에게 손해가 없는 경우에도 침해자가 침해행위로 인해 이익을 얻었다면
+  이 규정을 적용할 수 있다는 내용입니다. (D) 선택지는 특허법 제128조 제3항에 따라 특허발명의 실시에 대해 통상적으로 받을 수 있는 금액을
+  결정할 때, 특허권자가 제3자와 특허권 실시계약을 맺고 실시료를 받은 경우, 그 계약 내용을 참고하여 금액을 산정해야 한다는 내용입니다. 이 중에서
+  특허권 침해의 손해배상에 관한 설명으로 옳지 않은 것은 (C) 선택지입니다. 왜냐하면, 특허법 제128조 제2항에서는 침해행위에 의한 이익이란
+  침해자가 특허침해행위에 의해 얻은 이익을 의미하는 것은 맞지만, 특허권자에게 손해가 없는 경우에도 침해자가 침해행위로 인해 이익을 얻었다면 이
+  규정을 적용할 수 있다는 내용은 틀립니다. 특허권 침해의 손해배상은 특허권자가 손해를 입었을 때만 적용될 수 있습니다. 따라서, 정답은 (C)
+  입니다.
+
+
+  질문: 특허법상 대리인에 관한 설명으로 옳지 않은 것은?
+
+  A.특허에 관한 절차를 밟는 자의 위임에 의한 대리인의 대리권은 본인의 사망이나 능력의 상실, 본인인 법인의 합병에 의한 소멸로 인하여 당연히
+  소멸한다.
+
+  B.행위능력 또는 법정대리권이 없거나 특허에 관한 절차를 밟음에 필요한 수권이 흠결된 자가 밟은 절차는 보정된 당사자나 법정대리인의 추인이 있는
+  때에는 행위시에 소급하여 그 효력이 발생한다.
+
+  C.특허에 관한 절차를 밟는 자의 대리인의 대리권은 이를 서면으로써 증명하여야 한다.
+
+  D.특허에 관한 절차를 밟는 자의 대리인이 수인이 있는 때에는 특허청 또는 특허심판원에 대하여 각자가 본인을 대리한다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선택지 (A)를 살펴보면, 특허에 관한 절차를 밟는
+  자의 위임에 의한 대리인의 대리권은 본인의 사망이나 능력의 상실, 본인인 법인의 합병에 의한 소멸로 인하여 당연히 소멸한다고 설명하고 있습니다.
+  이는 특허법 제5조 제2항에 규정된 내용으로, 대리인의 대리권은 본인의 사망이나 능력의 상실 등의 사유로 인해 소멸하는 것이 맞습니다. 다음으로,
+  선택지 (B)를 살펴보면, 행위능력 또는 법정대리권이 없거나 특허에 관한 절차를 밟음에 필요한 수권이 흠결된 자가 밟은 절차는 보정된 당사자나
+  법정대리인의 추인이 있는 때에는 행위시에 소급하여 그 효력이 발생한다고 설명하고 있습니다. 이는 특허법 제5조 제3항에 규정된 내용으로, 대리권이
+  없는 자가 밟은 절차도 당사자나 법정대리인의 추인이 있으면 소급하여 효력이 발생하는 것이 맞습니다. 선택지 (C)를 살펴보면, 특허에 관한 절차를
+  밟는 자의 대리인의 대리권은 이를 서면으로써 증명하여야 한다고 설명하고 있습니다. 이는 특허법 제5조 제1항에 규정된 내용으로, 대리인의 대리권은
+  서면으로 증명되어야 하는 것이 맞습니다. 마지막으로, 선택지 (D)를 살펴보면, 특허에 관한 절차를 밟는 자의 대리인이 수인이 있는 때에는 특허청
+  또는 특허심판원에 대하여 각자가 본인을 대리한다고 설명하고 있습니다. 이는 특허법 제6조 제1항에 규정된 내용으로, 대리인이 여러 명인 경우 각자가
+  본인을 대리하는 것이 맞습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 특허법 제30조(공지 등이 되지 아니한 발명으로 보는 경우)에 관한 설명으로 옳지 않은 것은?
+
+  A.공지 등이 있는 날로부터 12개월 이내에 공지예외적용 신청을 수반하여 선출원을 한 경우, 해당 선출원을 기초로 한 국내우선권 주장출원을 위
+  공지 등이 있는 날로부터 12개월 이내에 하여야 특허법 제30조를 적용 받을 수 있다.
+
+  B.특허법 제30조제1항제1호의 규정을 적용 받으려면 출원서에 그 취지를 적어야 하고 이를 증명할 수 있는 서류를 출원일로부터 30일 이내에 특허청장에게
+  제출하여야 한다.
+
+  C.특허법 제30조는 발명이 출원 전에 공지되었다 하더라도 일정요건을 갖춘 경우 신규성이나 진보성에 관한 규정을 적용할 때 그 발명을 선행기술로
+  사용하지 않도록 하는 규정이지 출원일이 소급되는 것은 아니다.
+
+  D.甲의 발명이 공개된 후 12개월 이내에 동일 발명을 출원하여 공지예외규정을 적용 받았고, 상기 출원일과 같은 날에 동일 발명에 대하여 乙이
+  출원을 한 경우, 특허법 제36조(선출원)를 적용하지 않더라도 乙은 특허를 받을 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A)는 공지 등이 있는 날로부터 12개월 이내에 공지예외적용
+  신청을 수반하여 선출원을 한 경우, 해당 선출원을 기초로 한 국내우선권 주장출원을 위 공지 등이 있는 날로부터 12개월 이내에 하여야 특허법 제30조를
+  적용 받을 수 있다고 설명하고 있습니다. 그러나, 특허법 제30조 제1항에서는 선출원을 기초로 하지 않은 경우에도 공지예외적용을 신청할 수 있다고
+  규정하고 있습니다.  , (A)는 옳지 않은 설명입니다. (B)는 특허법 제30조제1항제1호의 규정을 적용 받으려면 출원서에 그 취지를 적어야
+  하고 이를 증명할 수 있는 서류를 출원일로부터 30일 이내에 특허청장에게 제출하여야 한다고 설명하고 있습니다. 이는 특허법 제30조 제2항에 규정된
+  내용으로 옳은 설명입니다. (C)는 특허법 제30조는 발명이 출원 전에 공지되었다 하더라도 일정요건을 갖춘 경우 신규성이나 진보성에 관한 규정을
+  적용할 때 그 발명을 선행기술로 사용하지 않도록 하는 규정이지 출원일이 소급되는 것은 아니라고 설명하고 있습니다. 이는 특허법 제30조의 취지와
+  내용을 정확히 설명하고 있는 옳은 설명입니다. (D)는 甲�� 발명이 공개된 후 12개월 이내에 동일 발명을 출원(A)하여 공지예외규정을 적용 받았고,
+  상기 출원일과 같은 날에 동일 발명에 대하여 乙이 출원(B)을 한 경우, 특허법 제36조(선출원)를 적용하지 않더라도 乙은 특허를 받을 수 없다고
+  설명하고 있습니다. 그러나, 특허법 제36조에서는 동일한 발명에 대해서는 먼저 출원한 자만이 특허를 받을 수 있다고 규정하고 있으므로, 乙은 특허를
+  받을 수 없습니다.  , (D)는 옳은 설명입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_patent

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_political_science_and_sociology.yaml

@@ -0,0 +1,123 @@
+dataset_name: political_science_and_sociology
+doc_to_text: '질문: 실질소득이 증가할수록 해당 재화에 대한 수요가 감소하는 재화를 지칭하는 용어로 옳은 것은?
+
+  A.대체재
+
+  B.보완재
+
+  C.열등재
+
+  D.정상재
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 정답 해설: 실질소득이 증가할 때 해당 재화에 대한 수요가
+  감소하는 재화를 지칭하는 용어를 찾기 위해 각 선택지를 살펴보겠습니다. (A). 대체재는 한 재화의 가격이 상승할 때 다른 재화의 수요가 증가하는
+  관계를 가진 두 재화를 의미합니다. 실질소득과 직접적인 관련이 없으므로 정답이 아닙니다. (B). 보완재는 한 재화의 수요가 증가할 때 함께 수요가
+  증가하는 재화를 의미합니다. 실질소득과 직접적인 관련이 없으므로 정답이 아닙니다. (C). 열등재는 실질소득이 증가할 때 해당 재화의 수요가 감소하는
+  재화를 의미합니다. 이는 소득이 증가함에 따라 더 좋은 재화를 소비하게 되기 때문입니다.  , 정답은 (C) 열등재입니다. (D). 정상재는 실질소득이
+  증가할 때 해당 재화의 수요가 증가하는 재화를 의미합니다. 이는 소득이 증가함에 따라 더 많은 재화를 소비하게 되기 때문입니다. 이는 우리가 일반적으로
+  생각하는 대부분의 재화에 해당합니다. 하지만, 이 문제에서는 실질소득이 증가할 때 해당 재화의 수요가 감소하는 재화를 찾아야 하므로 정답이 아닙니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 하향식(top-down)과 상향식(bottom-up) 지역발전전략을 비교한 설명으로 옳지 않은 것은?
+
+  A.하향식 전략은 효율성을 중시하는 반면, 상향식 전략은 민주성을 강조한다.
+
+  B.하향식 전략은 외부 수요와 시장에 의존하는 반면, 상향식 전략은 지역 자원 활용의 극대화에 초점을 두고 있다.
+
+  C.하향식 전략은 중심지역의 성장을 주변 지역으로 확산시키고, 상향식 전략은 대규모 지역사회의 발전을 자극할 수 있다.
+
+  D.하향식 전략은 개별 지역의 특성을 반영하기 어렵다는 단점이 있으며, 상향식 전략은 개발도상국에서는 실천 가능성이 낮다는 단점이 있다.
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 하향식(top-down) 전략과 상향식(bottom-up)
+  전략은 지역 발전 전략의 두 가지 주요 접근법입니다. (A) 선택지는 하향식 전략이 효율성을 중시하고, 상향식 전략이 민주성을 강조한다고 합니다.
+  이는 사실입니다. 하향식 전략은 주로 중앙 정부 또는 주요 기관에서 정책이나 계획을 결정하고 이를 하위 조직에 전달하는 방식이므로 효율성이 중요합니다.
+  반면에 상향식 전략은 지역 주민이나 조직에서 정책이나 계획을 제안하고 이를 상위 조직에 제출하는 방식이므로 민주성이 강조됩니다. (B) 선택지는
+  하향식 전략이 외부 수요와 시장에 의존하고, 상향식 전략이 지역 자원 활용의 극대화에 초점을 두고 있다고 합니다. 이 또한 사실입니다. 하향식
+  전략은 대부분 외부에서 결정된 정책이나 계획을 실행하기 때문에 외부 수요와 시장에 의존하는 경향이 있습니다. 반면에 상향식 전략은 지역의 자원과
+  능력을 최대한 활용하려는 노력이 중요하므로 지역 자원 활용의 극대화에 초점을 둡니다. (D) 선택지는 하향식 전략이 개별 지역의 특성을 반영하기
+  어렵다는 단점이 있고, 상향식 전략은 개발도상국에서는 실천 가능성이 낮다는 단점이 있다고 합니다. 이 역시 사실입니다. 하향식 전략은 중앙에서
+  결정된 정책이나 계획을 지역에 적용하기 때문에 개별 지역의 특성을 반영하기 어려울 수 있습니다. 반면에 상향식 전략은 지역의 참여와 자원을 필요로
+  하기 때문에 개발도상국에서는 자원 부족 등의 이유로 실천 가능성이 낮을 수 있습니다. 하지만 (C) 선택지는 하향식 전략이 중심지역의 성장을 주변
+  지역으로 확산시키고, 상향식 전략이 대규모 지역사회의 발전을 자극할 수 있다고 합니다. 이는 부정확합니다. 하향식 전략이 중심지역의 성장을 주변
+  지역으로 확산시키는 것은 사실이지만, 상향식 전략이 반드시 대규모 지역사회의 발전을 자극하는 것은 아닙니다. 상향식 전략은 지역사회의 참여와 지역
+  자원 활용에 초점을 맞추며, 이는 대규모 지역사회의 발전보다는 각 지역사회의 독특한 특성과 자원을 활용한 지역 개발에 더 집중하는 경향이 ��습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 변이할 당 분석(shift-sh areanalysis)에서 가정하는 지역 산업 성장의 세 가지 요인이 아닌 것은?
+
+  A.세계 경제 발전 효과(worlddevelopm enteffect)
+
+  B.국가경제성장 효과(nationalgrowtheffect)
+
+  C.산업구조 효과(industrialmixeffect)
+
+  D.지역 할당 효과(regionalshareeffect)
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 변이할 당 분석(shift-share analysis)에
+  대해 이해해야 합니다. 변이할 당 분석은 지역의 경제 성장을 설명하기 위한 방법 중 하나로, 그 경제 성장을 여러 요인으로 분해하여 각각의 영향력을
+  분석하는 방법입니다. 변이할 당 분석에서는 보통 세 가지 주요 요인을 고려합니다. 1. 국가경제성장 효과(nationalgrowtheffect):
+  이는 국가 전체의 경제 성장률이 지역 경제에 미치는 영향을 나타냅니다. 국가 전체의 경제 성장이 있으면, 그 영향력은 모든 지역에 미칩니다. 2.
+  산업구조 효과(industrialmixeffect): 이는 특정 지역의 산업 구조가 그 지역의 경제 성장에 어떤 영향을 미치는지를 나타냅니다.
+  예를 들어, 어떤 지역이 빠르게 성장하는 산업에 집중되어 있다면, 그 지역의 경제 성장률은 국가 평균보다 높을 수 있습니다. 3. 지역 할당 효과(regionalshareeffect):
+  이는 특정 지역이 특정 산업에 대해 어떤 비중을 차지하고 있는지를 나타냅니다. 특정 산업이 그 지역에서 큰 비중을 차지하고 있다면, 그 산업의
+  성장률이 그 지역의 경제 성장에 큰 영향을 미칠 수 있습니다. 이 세 가지 요인을 고려하여 지역의 경제 성장을 분석하는 것이 변이할 당 분석의
+  기본적인 아이디어입니다. 그러나 선택지 중 ''세계 경제 발전 효과(worlddevelopmenteffect)''는 변이할 당 분석에서 고려되는
+  요인이 아닙니다. 세계 경제의 발전 효과는 지역 경제에 영향을 미칠 수 있지만, 변이할 당 분석의 틀 안에서는 고려되지 않는 요인입니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 지역보건법 시행령 상 지방자치단체장이 매년 보건소를 통하여 지역 주민을 대상으로 실시한 지역사회 건강실태조사 결과를 통보해야 하는 대상은
+  ?
+
+  A.행정안전부 장관
+
+  B.질병관리청장
+
+  C.한국건강증진개발원장
+
+  D.보건복지부 장관
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. "지역보건법 시행령" 제22조에는 "지방자치단체장은 매년
+  보건소를 통하여 지역 주민을 대상으로 실시한 지역사회 건강실태조사 결과를 질병관리청장에게 통보하여야 한다."라고 명시되어 있습니다.  , 정확한
+  답변은 질병관리청장이 되겠습니다. 그 이유는 질병관리청이 우리나라에서 감염병의 예방 및 관리, 공중보건 업무, 보건의료 연구 등을 담당하고 있기
+  때문입니다. 이러한 역할을 수행하기 위해 지역사회의 건강실태를 파악하는 것이 중요하고, 이를 위해 지방자치단체장이 실시한 조사 결과를 받아야 합니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 도시마케팅(citym arketing)에 대한 설명으로 옳지 않은 것은?
+
+  A.도시를 하나의 상품이라고 인식하는 것으로 도시가 다른 도시들과 시장을 형성하여 경쟁한다고 본다.
+
+  B.도시마케팅의 대상에는 투자기업이나 관광객뿐만 아니라 방문객 및 기존의 주민도 포함된다.
+
+  C.지역 정체성의 확립은 도시마케팅의 등장과 함께 더욱 중요해지고 있다.
+
+  D.내생적 전략의 성격을 갖기 때문에 도시마케팅의 공간적 범위는 국내로 한정된다.
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 도시마케팅에 대한 개념을 이해하기 위해 각 선택지를 분석해보겠습니다.
+  (A) 도시를 하나의 상품이라고 인식하는 것으로 도시가 다른 도시들과 시장을 형성하여 경쟁한다고 본다. 이 설명은 도시마케팅의 핵심 개념을 잘
+  반영하고 있습니다. 도시마케팅은 도시를 마치 상품처럼 판매하려는 시도로, 다른 도시들과 경쟁하는 시장을 형성한다는 점에서 맞습니다. (B) 도시마케팅의
+  대상에는 투자기업이나 관광객뿐만 아니라 방문객 및 기존의 주민도 포함된다. 도시마케팅의 목표는 다양한 이해관계자를 대상으로 도시의 이미지를 향상시키고,
+  투자, 관광 등을 유도하는 것입니다.   투자기업, 관광객, 방문객, 기존 주민 모두 도시마케팅의 대상이 될 수 있습니��. (C) 지역 정체성의
+  확립은 도시마케팅의 등장과 함께 더욱 중요해지고 있다. 지역 정체성의 확립은 도시마케팅에서 중요한 요소입니다. 도시마케팅은 도시의 독특한 특성과
+  장점을 강조하여 그 도시를 독특하게 만드는데, 이는 지역 정체성의 확립을 통해 이루어집니다. (D) 내생적 전략의 성격을 갖기 때문에 도시마케팅의
+  공간적 범위는 국내로 한정된다. 도시마케팅은 국내뿐만 아니라 국제적인 범위에서도 활용되는 전략입니다. 도시의 이미지를 국제적으로 홍보하고, 외국인
+  투자자나 관광객을 유치하는 것이 도시마케팅의 일부이기 때문입니다.   도시마케팅의 공간적 범위가 국내로만 한정되어 있다는 것은 잘못된 설명입니다.
+  따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_political_science_and_sociology

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_psychology.yaml

@@ -0,0 +1,127 @@
+dataset_name: psychology
+doc_to_text: '질문: 정서적인 아픔이 너무 커서 그 일이 전혀 기억이 나지 않거나 그 일의 일부 조각들만이 기억되는 현상은?
+
+  A.억압(repression)
+
+  B.간섭(interference)
+
+  C.인출실패(retrieval failure)
+
+  D.쇠퇴(decay)
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 정서적인 아픔이 너무 커서 그 일이 전혀 기억이 나지 않거나
+  그 일의 일부 조각들만이 기억되는 현상에 대한 선택지 중에서 가장 적합한 것을 찾아보겠습니다. (A) 억압(repression): 이는 프로이트의
+  이론에서 나온 개념으로, 불쾌한 사건이나 경험을 잊어버리려는 무의식적인 노력을 의미합니다. 이는 주로 트라우마적인 경험을 다루는 방식으로, 사람들이
+  그 경험을 기억하지 못하게 하는 방식입니다. (B) 간섭(interference): 이는 새로운 정보가 기존의 정보를 잊게 하는 현상을 의미합니다.
+  예를 들어, 당신이 새로운 전화번호를 배우면서 이전의 전화번호를 잊어버리는 것과 같은 현상입니다. 이는 질문의 상황과는 맞지 않습니다. (C)
+  인출실패(retrieval failure): 이는 기억은 존재하지만 그것을 떠올리는 데 실패하는 현상을 의미합니다. 이는 주로 장기기억에 영향을
+  미칩니다. 하지만, 이 현상은 주로 기억의 접근성 문제와 관련이 있으며, 질문의 상황과는 맞지 않습니다. (D) 쇠퇴(decay): 이는 정보가
+  시간이 지나면서 잊혀지는 현상을 의미합니다. 이는 주로 단기기억에 영향을 미칩니다. 하지만, 이 현상은 주로 시간의 흐름과 관련이 있으며, 질문의
+  상황과는 맞지 않습니다.  , 위의 해설을 바탕으로 보았을 때, 정서적인 아픔이 너무 커서 그 일이 전혀 기억이 나지 않거나 그 일의 일부 조각들만이
+  기억되는 현상은 ''억압(repression)''이 가장 적합한 것으로 보입니다. 이는 불쾌한 사건이나 경험을 잊어버리려는 무의식적인 노력을 의미하며,
+  이 현상은 주로 트라우마적인 경험을 다루는 방식으로, 사람들이 그 경험을 기억하지 못하게 하는 방식입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 반두라(A. Bandura)의 관찰학습에 관한 설명으로 옳지 않은 것은?
+
+  A.모델의 행동에 집중한다면 반드시 모방하게 된다.
+
+  B.모델은 반드시 실제 인물이 아니라도 효과가 있다.
+
+  C.학습이 이루어지기 위해서는 모델의 행동을 기억해야 한다.
+
+  D.행동, 환경, 개인은 서로 양방향적 영향을 미친다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 반두라의 관찰학습 이론에 대해 간략히 설명하겠습니다.
+  관찰학습 이론은 사람이 다른 사람의 행동을 관찰하고, 그 결과를 보고 학습하는 과정을 설명합니다. 이 이론에 따르면, 학습은 반드시 행동의 결과를
+  경험하거나 보상을 받아야만 이루어지는 것은 아닙니다. 단지 다른 사람의 행동을 관찰하는 것만으로도 학습이 가능하다는 것이죠. 선택지를 하나씩 살펴보겠습니다.
+  (A) 모델의 행동에 집중한다면 반드시 모방하게 된다. 반두라의 관찰학습 이론에서는 모델의 행동에 집중하면 학습이 이루어진다고 설명하지만, 반드시
+  모방하게 된다는 것은 아닙니다. 관찰자는 모델의 행동을 관찰하고, 그 결과를 평가한 후에 스스로의 행동을 결정합니다. 즉, 모델의 행동을 그대로
+  모방하는 것이 아니라, 그 행동의 결과를 고려하여 자신의 행동을 결정하게 됩니다. (B) 모델은 반드시 실제 인물이 아니라도 효과가 있다. 이
+  설명은 옳습니다. 반두라는 모델이 반드시 실제 인물일 필요는 없다고 말했습니다. 즉, 모델은 실제 사람일 수도 있고, 애니메이션 캐릭터나 동물
+  등 다양한 형태가 될 수 있습니다. (C) 학습이 이루어지기 위해서는 모델의 행동을 기억해야 한다. 이 설명도 옳습니다. 관찰학습 이론에 따르면,
+  관찰자는 모델의 행동을 관찰하고, 그 행동을 기억해야 합니다. 그래야 나중에 그 행동을 모방하거나, 그 행동의 결과를 고려하여 자신의 행동을 결정할
+  수 있습니다. (D) 행동, 환경, 개인은 서로 양방향적 영향을 미친다. 이 설명은 반두라의 ''삼위일체 이론''에 해당하는 내용입니다. 이 이론은
+  행동, 개인(인지적 요인 포함), 그리고 환경이 서로 상호작용하여 행동을 결정한다는 것을 주장합니다. 이 세 가지 요인은 동등한 위치에 있으며,
+  한 가지 요인이 변하면 다른 요인들도 변하게 ��다는 것이 이 이론의 핵심입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 숙달목표지향성과 수행목표지향성에 관한 설명으로 옳지 않은 것은?
+
+  A.수행목표지향성이 높은 학생은 타인과의 비교를 통하여 자신의 성공여부를 판단한다.
+
+  B.숙달목표지향성이 낮은 학생은 도전적 과제를 선호한다.
+
+  C.규준지향평가는 숙달목표지향성 발달에 부정적 영향을 미친다.
+
+  D.숙달목표지향성이 높은 학생은 지능에 대한 고정 신념(entity beliefs)보다 증가 신념(incremental beliefs)이 강하다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 숙달목표지향성(mastery goal orientation)과
+  수행목표지향성(performance goal orientation)에 대해 이해해야 합니다. 숙달목표지향성은 개인이 자신의 능력을 개발하고, 실력을
+  향상시키는 것에 초점을 맞추는 경향을 의미합니다. 반면, 수행목표지향성은 개인이 자신의 능력을 타인과 비교하며, 자신의 성공을 측정하는 경향을
+  의미합니다. 선택지를 보면, (A) 수행목표지향성이 높은 학생이 타인과의 비교를 통해 자신의 성공여부를 판단한다는 설명은 맞습니다. 수행목표지향성은
+  타인과의 비교를 통해 자신의 능력을 측정하는 경향이 있기 때문입니다. (B) 숙달목표지향성이 낮은 학생이 도전적 과제를 선호한다는 말은 일반적으로
+  틀린 설명입니다. 왜냐하면 숙달목표지향성이 높은 학생들이 자신의 능력을 개발하고 싶어하는 경향이 있기 때문에 새로운 도전이나 어려운 과제를 선호하는
+  경향이 있습니다. (C) 규준지향평가는 숙달목표지향성 발달에 부정적 영향을 미친다는 설명도 맞습니다. 규준지향평가는 개인의 성과를 표준이나 기준에
+  따라 평가하는 것을 의미하며, 이는 개인의 능력 개발보다는 타인과의 비교에 초점을 맞추게 되므로 숙달목표지향성에는 부정적인 영향을 미칠 수 있습니다.
+  (D) 숙달목표지향성이 높은 학생은 지능에 대한 고정 신념(entity beliefs)보다 증가 신념(incremental beliefs)이 강하다는
+  설명도 맞습니다. 숙달목표지향성이 높은 학생들은 자신의 능력이 시간과 노력에 따라 발전할 수 있다는 증가 신념을 가지는 경향이 있습니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 수퍼비전에 관한 설명으로 옳지 않은 것은?
+
+  A.수퍼비전 관계는 수퍼비전이 진행되면서 변화한다.
+
+  B.내담자를 보호하는 것은 수퍼비전의 중요한 목적이다.
+
+  C.프로이트(S. Freud)의 수요모임이 수퍼비전의 시발점이라 할 수 있다.
+
+  D.수퍼바이저가 평가할 경우에 생산적인 수퍼비전 관계가 이루어지지 않는다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 수퍼비전에 관한 설명으로 옳지 않은 것을 고르는 문제입니다.
+  (A) 수퍼비전 관계는 수퍼비전이 진행되면서 변화한다는 것은 맞는 말입니다. 수퍼비전 초기에는 수퍼바이저와 수퍼바이지 간에 신뢰를 구축하고, 역할을
+  명확하게 정의하는 등의 작업이 필요하며, 이러한 과정을 통해 서로를 이해하고 신뢰하게 되면서 수퍼비전 관계가 발전합니다. (B) 내담자를 보호하는
+  것은 수퍼비전의 중요한 목적 중 하나입니다. 수퍼바이저는 수퍼바이지가 내담자를 적절히 다루지 못할 위험이 있는 경우, 이를 미리 파악하고 적절한
+  조치를 취할 수 있도록 도와주어야 합니다. (C) 프로이트(S. Freud)의 수요모임이 수퍼비전의 시발점이라 할 수 있다는 것은 맞는 말입니다.
+  프로이트는 자신의 이론을 발전시키는 과정에서 자신의 제자들과 함께 수요모임을 진행하였고, 이를 통해 제자들에게 자신의 이론을 전달하고, 제자들의
+  임상 경험을 공유하였습니다. (D) 수퍼바이저가 평가할 경우에 생산적인 수퍼비전 관계가 이루어지지 않는다는 것은 옳지 않은 말입니다. 수퍼바이저는
+  수퍼바이지의 행동이나 성과를 평가하고, 이에 대한 피드백을 제공해야 합니다. 평가가 없다면 수퍼바이지의 성장과 발전을 기대하기 어렵습니다. 따라서,
+  정답은 (D) 입니다.
+
+
+  질문: 고급 상담자의 상담 특징은?
+
+  A.내담자를 이해하기 보다는 상담자로서 어떻게 반응해야 하는지를 더 생각한다.
+
+  B.자신과 타인에 대한 감정을 알아차리기 힘들어 불안해한다.
+
+  C.내담자에게 의도적으로 주의를 기울이고 중요한 정보를 수집하고 인식할 수 있다.
+
+  D.내담자와 상담자의 ���호관계에 대한 역동을 이해하기 힘들어 한다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 분석을 해보겠습니다. (A) 선택지는
+  상담자가 내담자를 이해하기 보다는 상담자로서 어떻게 반응해야 하는지를 더 생각한다는 내용입니다. 이는 상담자가 내담자를 이해하려는 노력보다는 자신의
+  반응에 더 집중한다는 내용으로, 고급 상담자라면 내담자를 이해하려는 노력이 먼저일 것입니다. (B) 선택지는 상담자가 자신과 타인에 대한 감정을
+  알아차리기 힘들어 불안해한다는 내용입니다. 이는 상담자의 역량을 의심하는 내용으로, 고급 상담자라면 자신과 타인의 감정을 잘 알아차리고 이를 상담에
+  활용할 수 있어야 합니다. (C) 선택지는 상담자가 내담자에게 주의를 기울이고 중요한 정보를 수집하고 인식할 수 있다는 내용입니다. 이는 상담자의
+  기본적인 역량 중 하나로 보입니다. 고급 상담자라면 더욱 더 이러한 역량을 갖추고 있을 것입니다. (D) 선택지는 상담자가 내담자와 상담자의 상호관계에
+  대한 역동을 이해하기 힘들어 한다는 내용입니다. 이는 상담자가 상담 과정에서의 관계 역동을 이해하는 데 어려움을 겪는다는 내용으로, 고급 상담자라면
+  이러한 관계 역동을 잘 이해하고 이를 상담에 활용할 수 있어야 합니다.  , 이러한 분석을 통해 고급 상담자의 특징은 (C) 내담자에게 의도적으로
+  주의를 기울이고 중요한 정보를 수집하고 인식할 수 있다는 것으로 보입니다. 이는 상담자의 기본적인 역량을 넘어서서 고급 상담자가 갖추어야 할 능력으로
+  보입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_psychology

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_public_safety.yaml

@@ -0,0 +1,123 @@
+dataset_name: public_safety
+doc_to_text: '질문: 산업안전보건법령상 법령 요지의 게시 등과 안전ㆍ보건표지의 부착 등에 관한 설명으로 옳지 않은 것은?
+
+  A.근로자대표는 작업환경측정의 결과를 통지할 것을 사업주에게 요청할 수 있고, 사업주는 이에 성실히 응하여야 한다.
+
+  B.야간에 필요한 안전ㆍ보건표지는 야광물질을 사용하는 등 쉽게 알아볼 수 있도록 제작하여야 한다.
+
+  C.안전ㆍ보건표지의 표시를 명백히 하기 위하여 필요한 경우에는 안전ㆍ보건표지의 주위에 표시사항을 글자로 덧붙여 적을 수 있으며, 이 경우 글자는
+  노란색 바탕에 검은색 한글고딕체로 표기하여야 한다.
+
+  D.안전ㆍ보건표지의 성질상 설치하거나 부착하는 것이 곤란한 경우에는 해당 물체에 직접 도장(塗裝)할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 내용을 살펴보겠습니다. (A)
+  선택지는 근로자대표가 작업환경 측정 결과를 사업주에게 통지 요청을 할 수 있고, 사업주는 이에 성실히 응해야 한다는 내용입니다. 이 내용은 산업안전보건법
+  제28조의2에 명시되어 있습니다.   이 선택지는 옳습니다. (B) 선택지는 야간에 필요한 안전ㆍ보건표지는 야광물질을 사용하는 등 쉽게 알아볼
+  수 있도록 제작해야 한다는 내용입니다. 이 내용은 산업안전보건법 시행규칙 제77조의2에 따라, 야간에는 야광물질을 사용하여 쉽게 알아볼 수 있도록
+  해야 한다고 명시되어 있습니다.   이 선택지는 옳습니다. (C) 선택지는 안전ㆍ보건표지의 표시를 명백히 하기 위하여 필요한 경우에는 안전ㆍ보건표지의
+  주위에 표시사항을 글자로 덧붙여 적을 수 있으며, 이 경우 글자는 노란색 바탕에 검은색 한글고딕체로 표기해야 한다는 내용입니다. 하지만, 산업안전보건법
+  시행규칙 제77조의2에서는 글자 색상이나 폰트에 대한 구체적인 규정을 하지 않았습니다.   이 선택지는 옳지 않습니다. (D) 선택지는 안전ㆍ보건표지의
+  성질상 설치하거나 부착하는 것이 곤란한 경우에는 해당 물체에 직접 도장(塗裝)할 수 있다는 내용입니다. 이 내용은 산업안전보건법 시행규칙 제77조의2에
+  따라, 안전표지의 성질상 설치하거나 부착하기 어려운 경우에는 해당 물체에 직접 도장할 수 있다고 명시되어 있습니다.   이 선택지는 옳습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 사업주 갑(甲)의 사업장에 산업재해가 발생하였다. 이 경우 갑(甲)이 기록ㆍ보존해야 할 사항으로 산업안전보건법령상 명시되지 않은 것은?
+  (다만, 법령에 따른 산업재해조사표 사본을 보존하거나 요양신청서의 사본에 재해 재발방지 계획을 첨부하여 보존한 경우에 해당하지 아니 한다.)
+
+  A.사업장의 개요
+
+  B.근로자의 인적 사항 및 재산 보유현황
+
+  C.재해 발생의 일시 및 장소
+
+  D.재해 발생의 원인 및 과정
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 산업안전보건법은 산업재해의 예방 및 산업재해로 인한 근로자의
+  보호를 위해 필요한 사항을 규정하고 있습니다. 사업주가 기록 및 보존해야 하는 사항에 대해 살펴보면, (A) 사업장의 개요: 사업장의 규모, 종류,
+  위치 등에 대한 정보는 산업재해의 상황 파악 및 예방에 중요한 요소이므로 이는 기록 및 보존해야 하는 사항에 해당합니다. (B) 근로자의 인적
+  사항 및 재산 보유현황: 이는 산업재해의 발생 원인이나 예방과 직접적인 연관성이 없습니다. 산업재해의 발생과 근로자의 재산 보유현황은 별개의 사항이며,
+  이를 기록 및 보존하는 것은 산업안전보건법에서 요구하는 사항이 아닙니다. (C) 재해 발생의 일시 및 장소: 재해 발생 시간과 장소는 재해의 원인
+  분석 및 예방책 수립에 중요한 정보이므로 이 역시 기록 및 보존해야 하는 사항입니다. (D) 재해 발생의 원인 및 과정: 재해의 원인과 과정을
+  기록하는 것은 재해의 원인을 파악하고, 비슷한 상황에서의 재해를 예방하기 위한 중요한 절차입니다.   이 역시 기록 및 보존해야 하는 사항입니다.  ,
+  사업주 갑(甲)이 기록ㆍ보존해야 할 사항으로 산업안전보건법령상 명시되지 않은 것은 ''근로자의 인적 사항 및 재산 보유현황''입니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 산업안전보건법령상 안전ㆍ보건 관리체제에 관한 설명으��� 옳지 않은 것은?
+
+  A.사업주는 안전보건관리책임자를 선임하였을 때에는 그 선임 사실 및 법령에 따른 업무의 수행내용을 증명할 수 있는 서류를 갖춰 둬야 한다.
+
+  B.안전보건관리책임자는 안전관리자와 보건관리자를 지휘ㆍ감독한다.
+
+  C.사업주는 안전보건조정자로 하여금 근로자의 건강진단 등 건강관리에 관한 업무를 총괄관리하도록 하여야 한다.
+
+  D.사업주는 관리감독자에게 법령에 따른 업무 수행에 필요한 권한을 부여하고 시설ㆍ장비ㆍ예산, 그 밖의 업무수행에 필요한 지원을 하여야 한다.
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지를 하나씩 분석해보겠습니다. (A) 선택지는
+  사업주가 안전보건관리책임자를 선임하였을 때, 그 선임 사실 및 법령에 따른 업무의 수행내용을 증명할 수 있는 서류를 갖추어야 한다고 되어있습니다.
+  이 내용은 산업안전보건법에 따라 사업주가 안전보건관리체제를 운영하는데 필요한 요건 중 하나입니다.   이 선택지는 옳습니다. (B) 선택지는 안전보건관리책임자가
+  안전관리자와 보건관리자를 지휘ㆍ감독한다고 되어있습니다. 이 역시 산업안전보건법에 따라 안전보건관리책임자의 역할 중 하나입니다.   이 선택지는
+  옳습니다. (C) 선택지는 사업주가 안전보건조정자로 하여금 근로자의 건강진단 등 건강관리에 관한 업무를 총괄관리하도록 하여야 한다고 되어있습니다.
+  하지만, 산업안전보건법에 따르면, 안전보건조정자의 역할은 안전보건관리체제의 운영을 총괄하고, 사업주와 안전보건관리책임자 사이의 조정 역할을 수행하는
+  것이며, 근로자의 건강진단 등 건강관리에 관한 업무를 총괄하는 것은 보건관리자의 역할입니다.   이 선택지는 옳지 않습니다. (D) 선택지는 사업주가
+  관리감독자에게 법령에 따른 업무 수행에 필요한 권한을 부여하고 시설ㆍ장비ㆍ예산, 그 밖의 업무수행에 필요한 지원을 하여야 한다고 되어있습니다.
+  이 역시 산업안전보건법에 따라 사업주의 의무 중 하나입니다.   이 선택지는 옳습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 산업안전보건법령상 안전보건관리규정에 관한 설명으로 옳지 않은 것은?
+
+  A.소프트웨어 개발 및 공급업에서 상시 근로자 100명을 사용하는 사업장은 안전보건관리규정을 작성하여야 한다.
+
+  B.안전보건관리규정의 내용에는 작업지휘자 배치 등에 관한 사항이 포함되어야 한다.
+
+  C.안전보건관리규정은 해당 사업장에 적용되는 단체협약 및 취업규칙에 반할 수 없다.
+
+  D.안전보건관리규정에 관하여는 산업안전보건법에서 규정한 것을 제외하고는 그 성질에 반하지 아니하는 범위에서 「근로기준법」의 취업규칙에 관한 규정을
+  준용한다.
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대해 검토해보겠습니다. (A) 선택지는
+  산업안전보건법 제25조의1에서 "사업주는 사업장의 안전 및 보건을 유지하기 위하여 다음 각 호의 사항이 포함된 안전보건관리규정을 작성하여야 한다."라고
+  규정하고 있습니다. 소프트웨어 개발 및 공급업의 경우 상시 근로자가 300명을 초과할때 안전보건관리규정을 작성해야 합니다. (B) 선택지는 산업안전보건법
+  제26조의2에서 "안전보건관리규정의 내용에는 작업지휘자 배치 등에 관한 사항이 포함되어야 한다."라고 명시하고 있습니다.   이 선택지는 정확한
+  내용입니다. (C) 선택지는 안전보건관리규정이 단체협약 및 취업규칙에 반할 수 없다는 내용입니다. 이는 사업장의 안전보건을 위한 기본적인 원칙이므로
+  이 선택지는 정확한 내용입니다. (D) 선택지는 안전보건관리규정에 관하여는 산업안전보건법에서 규정한 것을 제외하고는 그 성질에 반하지 아니하는
+  범위에서 「근로기준법」의 취업규칙에 관한 규정을 준용한다는 내용입니다. 이 역시 안전보건관리규정의 성질을 반영한 내용이므로 이 선택지는 정확한
+  내용입니다.  , 위 내용을 종합하면 (A) 선택지가 산업안전보건법령상 안전보건관리규정에 관한 설명으로 옳지 않은 것입니다. 이는 산업안전보건법에서
+  규정한 대로 특정 업종과 근로자 수에 따라 안전보건관리규정을 작성해야 하는데, 이를 정확히 반영하지 않았기 때문입니다. 따라서, 정답은 (A)
+  입니다.
+
+
+  질��: 산업안전보건법령상 산업안전보건위원회의 심의ㆍ의결을 거쳐야 하는 사항에 해당하지 않는 것은?
+
+  A.유해하거나 위험한 기계ㆍ기구와 그 밖의 설비를 도입한 경우 안전ㆍ보건조치에 관한 사항
+
+  B.안전ㆍ보건과 관련된 안전장치 구입 시의 적격품 여부 확인에 관한 사항
+
+  C.산업재해에 관한 통계의 기록 및 유지에 관한 사항
+
+  D.산업재해 예방계획의 수립에 관한 사항
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 산업안전보건법령에 따르면, 산업안전보건위원회의 심의ᆞ의결을
+  거쳐야 하는 사항은 다음과 같습니다. 1. 안전 및 보건에 관한 중요 사항 2. 유해하거나 위험한 기계ᆞ기구와 그 밖의 설비를 도입한 경우 안전ᆞ보건조치에
+  관한 사항 3. 안전ᆞ보건과 관련된 안전장치 및 보호구 구입 시의 적격품 여부 확인에 관한 사항 4. 산업재해에 관한 통계의 기록 및 유지에 관한
+  사항 5. 안전ᆞ보건 관련 인력ᆞ시설 및 장비 등의 현황 파악과 관리에 관한 사항 6. 산업재해 예방 및 재발 방지대책 수립에 관한 사항 7.
+  안전ᆞ보건에 관한 규정의 제정 또는 개정에 관한 사항 8. 작업환경의 측정 등 작업환경의 점검 및 개선에 관한 사항 9. 근로자의 건강진단 등
+  건강관리에 관한 사항 10. 중대재해의 원인조사 및 재발 방지대책 수립에 관한 사항 11. 산업안전ᆞ보건과 관련된 그 밖의 사항  , 선택지 중에서
+  산업안전보건위원회의 심의ᆞ의결을 거치지 않아도 되는 사항은 (B) 안전ᆞ보건과 관련된 안전장치 구입 시의 적격품 여부 확인에 관한 사항입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_public_safety

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_railway_and_automotive_engineering.yaml

@@ -0,0 +1,118 @@
+dataset_name: railway_and_automotive_engineering
+doc_to_text: '질문: 경유를 사용하는 자동차에서 배출되는 오염물질과 가장 거리가 먼 것은?
+
+  A.매연
+
+  B.알데히드
+
+  C.입자상물질
+
+  D.질소산화물
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 경유를 사용하는 자동차에서 배출되는 오염물질을
+  알아보겠습니다. 경유를 사용하는 자동차는 주로 디젤 엔진을 사용하는데, 이 엔진은 고온 고압의 환경에서 연료를 연소시키기 때문에 다양한 오염물질을
+  배출합니다. 대표적인 오염물질로는 매연, 입자상물질, 질소산화물 등이 있습니다. (A) 매연은 연료가 불완전하게 연소하면서 발생하는 검은 연기로,
+  대기오염을 유발하는 대표적인 물질 중 하나입니다. (C) 입자상물질은 경유가 연소하면서 발생하는 미세한 입자로, 대기 중에 떠다니며 호흡기 질환
+  등을 유발할 수 있습니다. (D) 질소산화물은 고온 고압의 환경에서 질소가 산소와 결합하여 발생하는 물질로, 대기 중에서 화학 반응을 일으켜 미세먼지
+  등의 2차 오염물질을 생성할 수 있습니다. 반면, (B) 알데히드는 주로 휘발성 유기화합물(VOC)이 산화하면서 발생하는 물질로, 경유를 사용하는
+  자동차에서는 배출되지 않는 물질입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 믹서 방식의 LPG엔진과 비교한 LPI엔진의 장점으로 틀린 것은?
+
+  A.연료의 보관성 향상
+
+  B.역화 발생 문제 개선
+
+  C.겨울철 냉간 시동성 향상
+
+  D.정밀한 공연비 제어로 연비 향상
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 믹서 방식의 LPG엔진과 비교한 LPI엔진의 장점을 살펴보면,
+  (A) 연료의 보관성 향상: LPG는 액화된 상태에서 보관되며, 믹서 방식과 LPI 방식 모두 연료의 보관성에는 큰 차이가 없습니다. LPI는
+  액체 연료를 직접 분사하는 방식이므로, 연료의 보관성이 더욱 향상될 수 있습니다. (B) 역화 발생 문제 개선: LPG엔진에서는 역화라는 현상이
+  발생할 수 있는데, 이는 연료가 기화되지 않고 액체 상태로 존재하면서 발생하는 문제입니다. LPI엔진은 연료를 직접 분사하는 방식을 사용하므로,
+  이런 역화 현상을 개선할 수 있습니다. (C) 겨울철 냉간 시동성 향상: LPG는 냉간에서 기화하기 어려운 성질이 있어, 겨울철 냉간 시동성이
+  떨어질 수 있습니다. 그러나 LPI엔진은 연료를 직접 분사하는 방식을 사용하므로, 이런 문제를 해결하고 냉간 시동성을 향상시킬 수 있습니다. (D)
+  정밀한 공연비 제어로 연비 향상: LPI엔진은 연료를 직접 분사하는 방식을 사용하므로, 연료의 분사와 혼합을 더욱 정밀하게 제어할 수 있습니다.
+  이로 인해 연비를 향상시킬 수 있습니다.  , 모든 선택지가 LPI엔진의 장점을 정확하게 나타내고 있습니다. 그러나 문제에서 요구하는 것은 잘못된
+  장점을 찾는 것이므로, 이를 고려하면 선택지 중에서 가장 덜 중요한 장점을 찾아야 합니다. 이 경우, (A) 연료의 보관성 향상이 LPG엔진과
+  LPI엔진 간에 가장 큰 차이를 만들지 못하는 요소일 수 있습니다. 왜냐하면 LPG는 원래 액화되어 보관되는 연료이기 때문에, 믹서 방식과 LPI
+  방식 사이에 연료의 보관성에 큰 차이를 만들지는 못합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 실린더 지름과 행정이 70×70㎜이고, 회전속도가 3000rpm인 기관의 밸브 지름은 약 몇 ㎜ 인가? (단, 밸브를 통과하는 가스의 속도는
+  50m/sec이다.)
+
+  A.12.2
+
+  B.26.2
+
+  C.32.5
+
+  D.46.5
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 밸브의 지름을 찾기 위해서는 밸브를 통과하는 가스의
+  체적 흐름률을 알아야 합니다. 체적 흐름률은 실린더의 퇴적 체적과 엔진의 회전 속도에 의해 결정됩니다. 실린더의 퇴적 체적은 π/4 * 실린더
+  지름^2 * 행정입니다. 문제에서 주어진 실린더 지름과 행정은 각각 70mm입니다.  , 실린더의 퇴적 체적은 π/4 * 70mm^2 * 70mm
+  = 269,391 mm^3 또는 0.269391 m^3입니다. 엔진의 회전속도는 3000rpm입니다. 이는 분당 3000회전을 의미하므로, 초당
+  회전수는 3000/60 = 50회전입니다.  , 밸브를 통과하는 가스의 체적 흐름률은 실린더의 퇴적 체적 * 엔진의 회전속도 = 0.269391
+  m^3/회전 * 50회전/초 = 13.46955 m^3/sec입니다. 밸브를 통과하는 가스의 속도는 50m/sec로 주어졌습니다.  , 밸브의
+  지름은 체적 흐름률 / (π/4 * 가스의 속도)의 제곱근으로 계산할 수 있습니다. 이를 계산하면, 밸브의 지름 = (13.46955 m^3/sec
+  / (π/4 * 50m/sec))^0.5 = 0.262 m 또는 262 mm입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 행정 체적이 800cc, 크랭크축 회전수 1000rpm, 체적효율 80%, 2행정 사이클 기관의 흡기중량 유량은 몇 g/s인가? (단,
+  흡기의 비중량은 1.25kg/m3이다.)
+
+  A.11.67
+
+  B.13.33
+
+  C.16.67
+
+  D.20.33
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 기관의 흡기 중량 유량을 계산하는 것입니다.
+  흡기 중량 유량은 기관이 흡입하는 공기의 양을 의미합니다. 문제에서 주어진 정보를 바탕으로 계산해보겠습니다. 행정 체적(V)은 800cc, 크랭크축
+  회전수(N)는 1000rpm, 체적효율(ηv)는 80%, 2행정 사이클 기관이므로, 이 모든 정보를 토대로 흡기중량 유량(Qm)을 계산할 수 있습니다.
+  그리고 흡기의 비중량(ρ)은 1.25kg/m3입니다. 흡기 중량 유량은 다음과 같이 계산할 수 있습니다. Qm = (V * N * ηv * ρ)
+  / (2 * 60) 먼저, 행정 체적(V)은 cc에서 m3로 변환해야 합니다. 1m3 = 10^6 cc이므로, V = 800cc = 0.0008
+  m3입니다. 그 다음, 체적효율(ηv)는 퍼센트에서 소수로 변환해야 합니다. ηv = 80% = 0.8입니다. 이제 모든 값을 대입하여 계산해보겠습니다.
+  Qm = (0.0008 m3 * 1000 rpm * 0.8 * 1.25 kg/m3) / (2 * 60) = 0.01333 kg/s 이 값을 g/s로
+  변환하려면 1kg = 1000g을 사용하면 됩니다.  , Qm = 0.01333 kg/s = 13.33 g/s입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 유체 커플링식 냉각 팬에 대한 설명으로 틀린 것은?
+
+  A.라디에이터 앞쪽에 설치
+
+  B.물 펌프축과 일체로 회전
+
+  C.라디에이터 통풍을 도와줌
+
+  D.기관의 과냉 및 소음방지를 위해 일정 회전수이상 시 슬립 발생
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 유체 커플링식 냉각 팬이 무엇인지부터 알아야 합니다.
+  유체 커플링식 냉각 팬은 유체 커플링을 이용하여 물 펌프와 일체로 회전하는 냉각 팬입니다. 유체 커플링은 기관의 회전수에 따라 자동으로 회전수를
+  조절하여 기관의 과냉 및 소음 방지를 위해 일정 회전수 이상 시 슬립이 발생하도록 합니다. 이제 선택지를 하나씩 살펴보겠습니다. (A) 라디에이터
+  앞쪽에 설치: 유체 커플링식 냉각 팬은 팬과 물펌프 사이에 설치됩니다.   이는 틀린 설명입니다. (B) 물 펌프축과 일체로 회전: 유체 커플링식
+  냉각 팬은 물 펌프축과 일체로 회전합니다. 이는 유체 커플링을 이용하여 물 펌프와 함께 회전하기 때문입니다. (C) 라디에이터 통풍을 도와줌:
+  유체 커플링식 냉각 팬은 라디에이터의 통풍을 도와줍니다. 이는 엔진의 열을 효과적으로 식혀주기 위한 것입니다. (D) 기관의 과냉 및 소음방지를
+  위해 일정 회전수 이상 시 슬립 발생: 유체 커플링식 냉각 팬은 기관의 과냉 및 소음 방지를 위해 일정 회전수 이상 시 슬립이 발생합니다. 이는
+  유체 커플링의 특성 때문입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_railway_and_automotive_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_real_estate.yaml

@@ -0,0 +1,121 @@
+dataset_name: real_estate
+doc_to_text: '질문: 공인중개사법령상 법인인 개업공인중개사의 중개사무소등록증 원본 또는 사본이 첨부되어야 하는 경우에 해당하지 않는 것은?
+
+  A.중개사무소 이전신고
+
+  B.중개사무소 폐업신고
+
+  C.분사무소 설치신고
+
+  D.분사무소 폐업신고
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공인중개사법에 따르면, 법인인 개업공인중개사가 중개사무소를
+  등록하려면 등록증의 원본 또는 사본을 첨부해야 합니다. 이 규정은 중개사무소의 설치, 이전, 폐업 등의 경우에 모두 적용됩니다. (A) 중개사무소
+  이전신고의 경우, 중개사무소의 위치가 변경되는 것이므로, 중개사무소등록증의 원본 또는 사본을 첨부해야 합니다. (B) 중개사무소 폐업신고의 경우에도,
+  중개사무소의 운영을 중단하는 것이므로, 중개사무소등록증의 원본 또는 사본을 첨부해야 합니다. (C) 분사무소 설치신고의 경우에는 중개사무소등록증을
+  필요로 하지 않습니다. 중개사무소등록증은 분사무소의 휴업과 폐업에만 요구됩니다. (D) 분사무소 폐업신고의 경우, 분사무소의 운영을 중단하는 것이므로,
+  중개사무소등록증의 원본 또는 사본을 첨부해야 합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 공인중개사법령상 중개대상물의 표시ㆍ광고 및 모니터링에 관한 설명으로 틀린 것은?
+
+  A.개업공인중개사는 의뢰받은 중개대상물에 대하여 표시ㆍ광고를 하려면 개업공인중개사, 소속공인중개사 및 중개보조원에 관한 사항을 명시해야 한다.
+
+  B.개업공인중개사는 중개대상물이 존재하지 않아서 실제로 거래를 할 수 없는 중개대상물에 대한 광고와 같은 부당한 표시ㆍ광고를 해서는 안 된다.
+
+  C.개업공인중개사는 중개대상물의 가격 등 내용을 과장되게 하는 부당한 표시ㆍ광고를 해서는 안 된다.
+
+  D.국토교통부장관은 인터넷을 이용한 중개대상물에 대한 표시ㆍ광고의 규정준수 여부에 관하여 기본 모니터링과 수시 모니터링을 할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공인중개사법령에 따라 중개대상물의 표시·광고 및 모니터링에
+  관한 규정을 살펴보겠습니다. (A) 개업공인중개사가 의뢰받은 중개대상물에 대해 표시·광고를 할 때, 소속공인중개사나 중개보조원에 관한 사항을 명시해야
+  하는 것은 의무가 아닙니다. (B) 개업공인중개사는 중개대상물이 존재하지 않아서 실제로 거래를 할 수 없는 중개대상물에 대한 광고와 같은 부당한
+  표시·광고를 해서는 안 됩니다. 이는 소비자의 피해를 방지하고, 중개시장의 공정성을 유지하기 위한 것입니다. (C) 개업공인중개사는 중개대상물의
+  가격 등 내용을 과장되게 하는 부당한 표시·광고를 해서는 안 됩니다. 이 역시 소비자의 피해를 방지하고, 중개시장의 공정성을 유지하기 위한 것입니다.
+  (D) 국토교통부장관은 인터넷을 이용한 중개대상물에 대한 표시·광고의 규정 준수 여부에 관하여 기본 모니터링과 수시 모니터링을 할 수 있습니다.
+  이는 중개대상물에 대한 표시·광고가 규정에 맞게 이루어지고 있는지 확인하고, 부당한 표시·광고를 방지하기 위한 것입니다. 따라서, 정답은 (A)
+  입니다.
+
+
+  질문: 공인중개사법령상 중개사무소 명청에 관한 설명으로 옳은 것은?
+
+  A.공인중개사인 개업공인중개사는 그 사무소의 명칭에 "공인중개사사무소" 또는 "부동산중개"라는 문자를 사용하여야 한다.
+
+  B.공인중개사가 중개사무소의 개설등록을 하지 않은 경우, 그 사무소에 "공인중개사사부소"라는 명칭을 사용할 수 없지만, "부동산중개"라는 명칭은
+  사용할 수 있다.
+
+  C.공인중개사인 개업공인중개사가 관련 법령에 따른 옥외광고물을 설치하는 경우, 중개사무소등록증에 표기된 개업공인중개사의 성명을 표기할 필요는 없다.
+
+  D.중개사무소 개설등록을 하지 않은 공인중개사가 "부동산중개"라는 명칭을 사용한 경우, 국토교통부장관은 그 명칭이 사용된 간판 등의 철거를 명할
+  수 있다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공인중개사법령상 중개사무소 명칭에 관한 설명으로 옳은
+  것을 찾아야 합니다. (A) 선택지를 보면, 공인중개사인 개업공인중개사는 그 사무���의 명칭에 "공인중개사사무소" 또는 "부동산중개"라는 문자를
+  사용하여야 한다고 명시되어 있습니다. 이는 공인중개사법 제 18조 제1항에 규정되어 있는 내용으로 옳은 설명입니다. (B) 선택지를 보면, 공인중개사가
+  중개사무소의 개설등록을 하지 않은 경우, 그 사무소에 "공인중개사사무소"라는 명칭을 사용할 수 없지만, "부동산중개"라는 명칭은 사용할 수 있다고
+  되어 있습니다. 이는 옳지 않은 설명입니다. 공인중개사법 제 18조 제2항에 따르면, 중개사무소의 개설등록을 하지 않은 자는 "공인중개사사무소",
+  "부동산중개" 또는 이와 유사한 명칭을 사용하여서는 아니된다고 규정되어 있습니다. (C) 선택지를 보면, 공인중개사인 개업공인중개사가 관련 법령에
+  따른 옥외광고물을 설치하는 경우, 중개사무소등록증에 표기된 개업공인중개사의 성명을 표기할 필요는 없다고 되어 있습니다. 이는 옳지 않은 설명입니다.
+  공인중개사법 시행령 제 17조의 2에 따르면, 개업공인중개사가 법 제18조제3항에 따라 옥외광고물을 설치하는 경우 중개사무소등록증에 표기된 개업공인중개사의
+  성명을 표기하여야 합니다. (D) 선택지를 보면, 중개사무소 개설등록을 하지 않은 공인중개사가 "부동산중개"라는 명칭을 사용한 경우, 국토교통부장관은
+  그 명칭이 사용된 간판 등의 철거를 명할 수 있다고 되어 있습니다. 이는 옳지 않은 설명입니다. 공인중개사가 아닌 자는 "공인중개사사무소", "부동산중개"
+  또는 이와 유사한 명칭을 사용하여서는 아니되지만, 이를 위반한 경우 국토교통부장관이 아닌 해당 등록관청이 철거를 명하게 됩니다. 따라서, 정답은
+  (A) 입니다.
+
+
+  질문: 공인중개사법령상 공인중개사 자격시험 등에 관한 설명으로 옳은 것은?
+
+  A.국토교통부장관이 직접 시험을 시행하려는 경우에는 미리 공인중개사 정책심의위원회의 의결을 거치지 않아도 된다.
+
+  B.공인중개사자격증의 재교부를 신청하는 자는 재교부신청서를 국토교통부장관에게 제출해야 한다.
+
+  C.국토교통부장관은 공인중개사시험의 합격자에게 공인중개사자격증을 교부해야 한다.
+
+  D.시험시행기관장은 시험에서 부정한 행위를 한 응시자에 대해서는 그 시험을 무효로 하고, 그 처분이 있은 날부터 5년간 시험응시자격을 정지한다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 공인중개사법령상 공인중개사 자격시험 등에 관한 설명으로 옳은
+  것을 고르는 문제입니다. 선택지를 하나씩 살펴보며 정답을 찾아보겠습니다. (A) 국토교통부장관이 직접 시험을 시행하려는 경우에는 미리 공인중개사
+  정책심의위원회의 의결을 거치지 않아도 된다. - 공인중개사 정책심의위원회는 공인중개사의 시험 등에 관한 사항을 심의하는 기관으로, 국토교통부장관이
+  시험을 시행할 때는 이 위원회의 의결을 거쳐야 합니다.   이 선택지는 옳지 않습니다. (B) 공인중개사자격증의 재교부를 신청하는 자는 재교부신청서를
+  국토교통부장관에게 제출해야 한다. - 공인중개사 자격증의 재교부를 신청하는 경우, 재교부신청서를 작성하여 시·도지사에게 제출해야 합니다.   이
+  선택지도 옳지 않습니다. (C) 국토교통부장관은 공인중개사시험의 합격자에게 공인중개사자격증을 교부해야 한다. - 공인중개사 자격시험에 합격한 사람은
+  시·도지사로부터 자격증을 교부받아야 합니다.   이 선택지도 옳지 않습니다. (D) 시험시행기관장은 시험에서 부정한 행위를 한 응시자에 대해서는
+  그 시험을 무효로 하고, 그 처분이 있은 날부터 5년간 시험응시자격을 정지한다. - 공인중개사법령에 따르면 시험시행기관장은 시험에서 부정한 행위를
+  한 응시자에 대해 그 시험을 무효로 하고, 처분일로부터 5년간 응시자격을 정지할 수 있습니다.   이 선택지는 옳은 설명입니다. 따라서, 정답은
+  (D) 입니다.
+
+
+  질문: 공인중개사법령상 중개사무소의 설치 등에 관한 설명으로 틀린 것은?
+
+  A.개업공인중개사는 그 등록관천의 관할구역안에 1개의 중개사무소만을 둘수 있다.
+
+  B.개업공인중개사는 천막 그 밖에 이동이 용이한 임시 중개시설물을 설치하여서는 아니된다.
+
+  C.법인이 아닌 개업공인중개사는 분사무소를 둘수 없다.
+
+  D.개업공인중개사는 등록관청의 관할구역 외의 지역에 있는 중개대상물을 중개할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 내용을 확인하겠습니다. (A) 개업공인중개사는
+  그 등록관청의 관할구역안에 1개의 중개사무소만을 둘 수 있다. 이 내용은 공인중개사법에 따라 개업공인중개사가 등록한 관할구역 안에 1개의 중개사무소를
+  설치해야 한다는 것을 의미합니다. 이는 공인중개사법에 따라 올바른 내용입니다. (B) 개업공인중개사는 천막 그 밖에 이동이 용이한 임시 중개시설물을
+  설치하여서는 아니된다. 이 내용은 공인중개사법에 따라 개업공인중개사가 천막이나 이동이 용이한 임시 중개시설물을 설치해서는 안된다는 것을 의미합니다.
+  이는 공인중개사법에 따라 올바른 내용입니다. (C) 법인이 아닌 개업공인중개사는 분사무소를 둘 수 없다. 이 내용은 공인중개사법에 따라 법인이
+  아닌 개업공인중개사는 분사무소를 설치할 수 없다는 것을 의미합니다. 이는 공인중개사법에 따라 올바른 내용입니다. (D) 개업공인중개사는 등록관청의
+  관할구역 외의 지역에 있는 중개대상물을 중개할 수 없다. 이 내용은 공인중개사법에 따라 개업공인중개사가 등록한 관할구역 외의 지역에 있는 중개대상물을
+  중개할 수 없다는 것을 의미합니다. 하지만, 공인중개사법에 따르면 개업공인중개사는 등록한 관할구역 외의 지역에 있는 중개대상물을 중개할 수 있습니다.   이
+  내용은 잘못된 내용입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_real_estate

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_social_welfare.yaml

@@ -0,0 +1,122 @@
+dataset_name: social_welfare
+doc_to_text: '질문: 우리나라 사회보장제도 운영주체의 책임에 관한 원칙으로 옳은 것은?
+
+  A.사회보험은 국가의 책임으로 시행한다.
+
+  B.공공부조는 지방자치단체가 전적으로 책임지고 시행한다.
+
+  C.사회서비스는 지방자치단체만의 책임으로 시행한다.
+
+  D.국가는 사회보장에 관하여 민간단체의 참여를 제한한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회보장제도 운영주체의 책임에 관한 원칙을 확인하기
+  위해 사회보장기본법을 찾아보겠습니다. 사회보장기본법 제5조에 따르면, "국가와 지방자치단체는 국가발전의 수준에 부응하는 사회보장제도를 확립하고
+  매년 이에 필요한 재원을 조달하여야 한다."고 명시되어 있습니다. 또한, 제27조에는 "사회보험은 국가의 책임으로 시행한다."고 되어 있습니다.  ,
+  선택지 중에서 (A) 사회보험은 국가의 책임으로 시행한다. 가 옳은 것으로 확인됩니다. (B) 공공부조는 지방자치단체가 전적으로 책임지고 시행한다는
+  것은 옳지 않습니다. 사회보장기본법 제24조에 따르면, "국가 및 지방자치단체는 생활유지능력이 없거나 생활이 어려운 국민의 보호와 지원을 위하여
+  필요한 경우에는 공공부조를 실시한다."고 되어 있습니다. 이는 공공부조가 국가와 지방자치단체의 공동 책임으로 시행되는 것을 의미합니다. (C)
+  사회서비스는 지방자치단체만의 책임으로 시행한다는 것도 옳지 않습니다. 사회보장기본법 제28조에 따르면, "국가 및 지방자치단체는 사회서비스를 국가발전에
+  필요한 사회서비스의 원활한 제공과 국민의 복지증진을 위하여 적정한 수준으로 제공하여야 한다."고 되어 있습니다. 이는 사회서비스가 국가와 지방자치단체의
+  공동 책임으로 시행되는 것을 의미합니다. (D) 국가는 사회보장에 관하여 민간단체의 참여를 제한한다는 것도 옳지 않습니다. 사회보장기본법 제40조에
+  따르면, "국가와 지방자치단체는 사회보장에 대한 민간부문의 참여를 조장할 수 있도록 정책을 개발·시행하고 그 여건을 조성하여야 한다."고 되어
+  있습니다. 이는 국가가 사회보장에 관하여 민간단체의 참여를 조장하고 참여를 유도해야 한다는 것을 의미합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 1942년 베버리지 보고서에서 규정한 5대 악에 해당되지 않는 것은?
+
+  A.무지
+
+  B.질병
+
+  C.산업재해
+
+  D.나태
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 1942년에 발표된 베버리지 보고서는 사회복지의 기본적인
+  원칙을 제시했으며, 이 보고서에서는 ''5대 악''이라는 개념을 도입했습니다. ''5대 악''은 사회복지의 목표가 해결해야 할 문제로, 궁핍(want),
+  질병(disease), 무지(ignorance), 불결(squalor), 나태(idleness) 을 지칭합니다. 이 중에서 선택지에 주어진 것들을
+  확인해보면, 무지(A), 질병(B), 나태(D)는 베버리지 보고서의 ''5대 악''에 포함되어 있습니다. 반면에 산업재해(C)는 ''5대 악''에
+  직접적으로 언급된 내용이 아닙니다.  , 1942년 베버리지 보고서에서 규정한 5대 악에 해당되지 않는 것은 ''산업재해''입니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 사회보험과 민영보험의 차이점에 관한 설명으로 옳지 않은 것은?
+
+  A.사회보험은 현금급여를 원칙으로 하고, 민영보험은 현물급여를 원칙으로 한다.
+
+  B.사회보험은 대부분 국가 또는 공법인이 운영하지만 민영보험은 사기업이 운영한다.
+
+  C.사회보험은 강제로 가입되지만 민영보험은 임의로 가입한다.
+
+  D.사회보험은 국가가 주로 독점하지만 민영보험은 사기업들이 경쟁한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회보험과 민영보험의 차이점을 비교해보겠습니다.
+  - 사회보험은 국민에게 발생하는 사회적 위험을 보험의 방식으로 대처함으로써 국민의 건강과 소득을 보장하는 제도입니다. 이는 국가가 법에 의해 가입을
+  의무화하고 있으며, 대부분의 재원을 국가가 부담합니다. - 반면에 민영보험은 개인이나 기업이 자신의 필요에 따라 가입하는 보험으로, 보험회사가
+  운영하며 보험료를 개인이나 기업이 부담합니다. 이제 선택지를 하나씩 살펴보겠습니다. (A) 사회보험은 현금급여를 원칙으로 하고, 민영보험은 현물급여를
+  원칙으로 한다는 설명은 옳지 않습니다. 사회보험과 민영보험 모두 현금급여와 현물급여를 제공할 수 있습니다. 예를 들어, 국민건강보험은 의료서비스를
+  제공하는 현물급여와 함께 진료비를 지급하는 현금급여를 제공하고, 자동차보험은 수리비나 치료비 등의 현금급여와 함께 차량 수리나 치료 등의 현물급여를
+  제공합니다. (B) 사회보험은 대부분 국가 또는 공법인이 운영하지만 민영보험은 사기업이 운영한다는 설명은 맞습니다. 사회보험은 국민의 복지를 증진하기
+  위한 것으로, 국가가 운영하는 것이 일반적입니다. 반면에 민영보험은 이윤을 추구하는 사기업이 운영합니다. (C) 사회보험은 강제로 가입되지만 민영보험은
+  임의로 가입한다는 설명도 맞습니다. 사회보험은 국민의 사회적 위험을 대비하기 위해 강제로 가입해야 합니다. 반면에 민영보험은 개인이나 기업이 자신의
+  필요에 따라 가입 여부를 결정할 수 있습니다. (D) 사회보험은 국가가 주로 독점하지만 민영보험은 사기업들이 경쟁한다는 설명도 맞습니다. 사회보험은
+  국민의 복지를 증진하기 위해 국가가 독점적으로 운영하는 것이 일반적입니다. 반면에 민영보험은 사기업들이 경쟁을 통해 운영됩니다. 따라서, 정답은
+  (A) 입니다.
+
+
+  질문: 조지와 윌딩(V. George & P. Wilding, 1976; 1994)의 사회복지모형에서 복지국가의 확대를 가장 지지하는 이념은?
+
+  A.신우파
+
+  B.반집합주의
+
+  C.마르크스주의
+
+  D.페이비언 사회주의
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 조지와 윌딩(V. George & P. Wilding,
+  1976; 1994)의 사회복지모형은 다음과 같이 4가지 이념으로 구성되어 있습니다. 1. 반집합주의(Anti-Collectivism): 개인주의에
+  기반하여 국가의 개입을 최소화하고 시장경제를 강조하며, 사회복지는 개인의 책임으로 간주합니다. 2. 소극적 집합주의(Reluctant Collectivism):
+  자유주의에 기반하여 국가 개입의 필요성은 인정하나, 최소한의 수준에 그쳐야 한다고 주장하며, 사회복지는 기본적인 욕구를 충족시키는 것으로 제한합니다.
+  3. 페이비언 사회주의(Fabian Socialism): 점진적 개혁을 추구하며, 국가의 적극적인 개입을 통해 평등과 사회적 정의를 실현하고자
+  합니다. 이를 위해 누진세, 사회보험 등의 정책을 지지합니다. 4. 마르크스주의(Marxism): 자본주의를 부정하고, 국가의 개입을 통해 평등한
+  사회를 구현하고자 하며, 이를 위해 생산수단의 공유화를 주장합니다. 이러한 이념들 중에서 복지국가의 확대를 가장 지지하는 이념은 페이비언 사회주의입니다.
+  페이비언 사회주의는 국가의 적극적인 개입을 통해 평등과 사회적 정의를 실현하고자 하며, 이를 위해 누진세, 사회보험 등의 정책을 지지합니다. 이러한
+  정책들은 복지국가의 확대를 뒷받침하는 중요한 요소들입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 사회복지정책의 원칙과 기능에 관한 설명으로 옳지 않은 것은?
+
+  A.소득을 재분배하는 기능을 한다.
+
+  B.능력에 비례한 배분을 원칙으로 한다.
+
+  C.경제의 자동안정화 기능을 한다.
+
+  D.국민의 최저생활을 보장하는 기능을 한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회복지정책의 원칙과 기능에 대해 알아보겠습니다.
+  사회복지정책은 사회적 불평등을 해소하고, 모든 사람이 기본적인 생활을 유지할 수 있도록 지원하는 정책입니다. 이러한 정책은 국가나 지역 사회의
+  복지를 향상시키는 데 중점을 두고 있습니다. 선택지를 하나씩 살펴보겠습니다. (A) 소득을 재분배하는 기능을 한다. - 이는 사회복지정책의 주요
+  기능 중 하나입니다. 소득재분배를 통해 사회적 불평등을 해소하려는 목표를 가지고 있습니다. (B) 능력에 비례한 배분을 원칙으로 한다. - 이는
+  사회복지정책의 원칙과는 거리가 먼 개념입니다. 사회복지정책은 능력이 아닌 필요에 따라 지원을 하는 것이 원칙입니다. (C) 경제의 자동안정화 기능을
+  한다. - 이 역시 사회복지정책의 중요한 기능 중 하나입니다. 사회복지정책은 경제적 불안정을 완화하고, 경제의 안정화에 기여합니다. (D) 국민의
+  최저생활을 보장하는 기능을 한다. - 이 역시 사회복지정책의 중요한 기능입니다. 국민의 최저생활 보장은 사회복지정책의 핵심적인 ���표입니다.  ,
+  사회복지정책의 원칙과 기능에 관한 설명으로 옳지 않은 것은 ''능력에 비례한 배분을 원칙으로 한다''는 (B) 선택지입니다. 이는 사회복지정책의
+  본질적인 목표와 원칙을 반영하지 못하고 있습니다. 사회복지정책은 능력이 아닌 필요에 따라 지원을 하는 것이 원칙이며, 이를 통해 사회적 불평등을
+  해소하고 모든 사람이 기본적인 생활을 유지할 수 있도록 지원하는 것이 목표입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_social_welfare

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/_direct_hard_kmmlu_yaml

@@ -0,0 +1,27 @@
+group:
+    - kmmlu
+    - kmmlu_hard_direct
+dataset_path: HAERAE-HUB/KMMLU-HARD
+output_type: generate_until
+test_split: test
+fewshot_split: dev
+doc_to_text: "{{question.strip()}}\nA. {{A}}\nB. {{B}}\nC. {{C}}\nD. {{D}}\n정답："
+doc_to_target: "{{['A', 'B', 'C', 'D'][answer-1]}}"
+metric_list:
+  - metric: exact_match
+    aggregation: mean
+    higher_is_better: true
+    ignore_case: true
+    ignore_punctuation: true
+    regexes_to_ignore:
+          - " "
+generation_kwargs:
+  until:
+    - "Q:"
+    - "\n\n"
+    - "</s>"
+    - "."
+  do_sample: false
+  temperature: 0.0
+metadata:
+  version: 2.0

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_accounting.yaml

@@ -0,0 +1,3 @@
+dataset_name: accounting
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_accounting

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_agricultural_sciences.yaml

@@ -0,0 +1,3 @@
+dataset_name: agricultural_sciences
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_agricultural_sciences

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_aviation_engineering_and_maintenance.yaml

@@ -0,0 +1,3 @@
+dataset_name: aviation_engineering_and_maintenance
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_aviation_engineering_and_maintenance

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_biology.yaml

@@ -0,0 +1,3 @@
+dataset_name: biology
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_biology

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemical_engineering.yaml

@@ -0,0 +1,3 @@
+dataset_name: chemical_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_chemical_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemistry.yaml

@@ -0,0 +1,3 @@
+dataset_name: chemistry
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_chemistry

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_civil_engineering.yaml

@@ -0,0 +1,3 @@
+dataset_name: civil_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_civil_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_computer_science.yaml

@@ -0,0 +1,3 @@
+dataset_name: computer_science
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_computer_science

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_construction.yaml

@@ -0,0 +1,3 @@
+dataset_name: construction
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_construction

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_criminal_law.yaml

@@ -0,0 +1,3 @@
+dataset_name: criminal_law
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_criminal_law

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_ecology.yaml

@@ -0,0 +1,3 @@
+dataset_name: ecology
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_ecology

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_economics.yaml

@@ -0,0 +1,3 @@
+dataset_name: economics
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_economics

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_education.yaml

@@ -0,0 +1,3 @@
+dataset_name: education
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_education

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electrical_engineering.yaml

@@ -0,0 +1,3 @@
+dataset_name: electrical_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_electrical_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electronics_engineering.yaml

@@ -0,0 +1,3 @@
+dataset_name: electronics_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_electronics_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_energy_management.yaml

@@ -0,0 +1,3 @@
+dataset_name: energy_management
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_energy_management

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_environmental_science.yaml

@@ -0,0 +1,3 @@
+dataset_name: environmental_science
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_environmental_science

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_fashion.yaml

@@ -0,0 +1,3 @@
+dataset_name: fashion
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_fashion

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_food_processing.yaml

@@ -0,0 +1,3 @@
+dataset_name: food_processing
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_food_processing

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_gas_technology_and_engineering.yaml

@@ -0,0 +1,3 @@
+dataset_name: gas_technology_and_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_gas_technology_and_engineering

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_geomatics.yaml

@@ -0,0 +1,3 @@
+dataset_name: geomatics
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_geomatics

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_health.yaml

@@ -0,0 +1,3 @@
+dataset_name: health
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_health

lm-evaluation/build/lib/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_industrial_engineer.yaml

@@ -0,0 +1,3 @@
+dataset_name: industrial_engineer
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_industrial_engineer