diff --git a/.gitattributes b/.gitattributes
index a4e464354809cea3b2e3c7b8deb653cf9feef0bf..3fdff382d981d1078661ace4736362f2b5bef2e3 100644
--- a/.gitattributes
+++ b/.gitattributes
@@ -126,3 +126,4 @@ lm-evaluation-harness/wandb/run-20240608_122925-vmbmpokf/run-vmbmpokf.wandb filt
 lm-evaluation-harness/wandb/run-20240605_110038-lwgnduuo/run-lwgnduuo.wandb filter=lfs diff=lfs merge=lfs -text
 lm-evaluation-harness/wandb/run-20240605_140919-mkdnls2x/run-mkdnls2x.wandb filter=lfs diff=lfs merge=lfs -text
 lm-evaluation-harness/wandb/run-20240605_093020-laxetjfu/run-laxetjfu.wandb filter=lfs diff=lfs merge=lfs -text
+lm-evaluation-harness/wandb/run-20240606_045127-vb760voe/run-vb760voe.wandb filter=lfs diff=lfs merge=lfs -text
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/_cot_kmmlu_yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/_cot_kmmlu_yaml
new file mode 100644
index 0000000000000000000000000000000000000000..116cb6b89edab312f9737551ac859f6c05984525
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/_cot_kmmlu_yaml
@@ -0,0 +1,31 @@
+group:
+    - kmmlu
+    - kmmlu_hard_cot
+dataset_path: HAERAE-HUB/KMMLU-HARD
+output_type: generate_until
+validation_split: dev # not meant to be used, only here to silence warnings
+test_split: test
+doc_to_target: "{{['A', 'B', 'C', 'D'][answer-1]}}"
+metric_list:
+  - metric: exact_match
+    aggregation: mean
+    higher_is_better: true
+    ignore_case: true
+    ignore_punctuation: true
+generation_kwargs:
+  until:
+    - "질문:"
+  do_sample: false
+  max_gen_toks: 2048
+  temperature: 0.0
+num_fewshot: 0
+filter_list:
+  - name: "get-answer"
+    filter:
+      - function: "regex"
+        regex_pattern: "(?<=정답은)(.*)(?=입니다.)"
+        regex_pattern: "(?<=정답은)\\s*[(]?(A|B|C|D)[)]?.*(?=입니다.)"
+      - function: "take_first"
+metadata:
+  version: 2.0
+  num_fewshot: 5
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_civil_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_civil_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..fc5ca33de839fecc12586bf64dd2c6d9affe4051
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_civil_engineering.yaml
@@ -0,0 +1,129 @@
+dataset_name: civil_engineering
+doc_to_text: '질문: 도시의 새로운 계획 패러다임의 방향이 아닌 것은?
+
+  A.도 · 농 통합적 계획으로의 전환
+
+  B.에너지 절약형 도시개발로의 전환
+
+  C.입체적 · 기능 통합적 토지이용관리
+
+  D.시민참여의 확대와 계획 및 개발주체의 단일화
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 도시 계획의 새로운 패러다임은 주로 지속 가능한 개발과
+  더불어 사회, 경제, 환경의 균형을 유지하려는 방향으로 변화하고 있습니다. (A) 도·농 통합적 계획으로의 전환은 도시와 농촌 간의 균형있는 발전을
+  위한 방향으로, 지속 가능한 개발을 위한 중요한 패러다임입니다. 이는 도시와 농촌 간의 상호 의존성을 인식하고, 두 지역 간의 경제적, 사회적,
+  환경적 균형을 추구합니다. (B) 에너지 절약형 도시개발로의 전환은 에너지 효율성을 높이고, 에너지 소비를 줄이는 것을 목표로 합니다. 이는 환경
+  보호와 지속 가능한 개발을 위한 중요한 패러다임입니다. (C) 입체적 · 기능 통합적 토지이용관리는 다양한 기능과 활동을 효율적으로 수용하고,
+  토지 이용의 다양성을 증진시키는 것을 목표로 합니다. 이는 토지 자원의 효율적인 활용을 위한 중요한 패러다임입니다. (D) 시민참여의 확대와 계획
+  및 개발주체의 단일화는 다소 상반되는 개념입니다. 시민 참여의 확대는 도시 계획과 개발 과정에서 시민들의 의견을 더욱 존중하고, 그들의 요구와
+  필요를 반영하는 것을 목표로 합니다. 반면에, 계획 및 개발주체의 단일화는 주로 효율성과 통합성을 추구하는 경향이 있습니다. 이 두 가지 개념은
+  동시에 존재하기 어렵습니다. 시민 참여의 확대는 다양한 의견과 요구를 수용하려는 노력을 필요로 하지만, 개발주체의 단일화는 주로 결정권을 한 곳에
+  집중시키려는 경향이 있습니다.  , 도시의 새로운 계획 패러다임의 방향이 아닌 것은 ''시민참여의 확대와 계획 및 개발주체의 단일화''입니다.
+  이 두 가지는 동시에 존재하기 어렵습니다. 시민 참여의 확대는 다양한 의견과 요구를 수용하려는 노력을 필요로 하지만, 개발주체의 단일화는 주로
+  결정권을 한 곳에 집중시키려는 경향이 있습니다. 이 두 가지 개념은 서로 상반되는 경향이 있어 동시에 존재하기 어렵습니다. 따라서, 정답은 (D)
+  입니다.
+
+
+  질문: 개별 필지에 대한 규제사항 및 토지이용계획사항을 확인하는 것으로, 해당 토지에 대한 용도지역ㆍ지구ㆍ구역, 도시ㆍ군계획시설, 도시계획사업과
+  입안내용, 그리고 각종 규제에 대한 저축 여부 등을 확인할 수 있는 자료는?
+
+  A.토지대장
+
+  B.건축물대장
+
+  C.토지특성조사표
+
+  D.토지이용계획확인서
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 개별 필지에 대한 규제사항 및 토지이용계획사항을 확인하는
+  자료를 찾아야 합니다. (A) 토지대장은 토지의 소유자, 소재지, 지목, 면적 등 토지의 기본적인 사항을 기록한 공적인 증명서입니다. 이는 토지의
+  기본적인 정보를 제공하지만, 규제사항이나 토지이용계획사항에 대한 정보는 포함하지 않습니다. (B) 건축물대장은 건축물의 위치, 구조, 용도, 면적
+  등 건축물에 관한 사항을 기록한 공적인 증명서입니다. 이는 건축물에 대한 정보를 제공하지만, 토지에 대한 규제사항이나 이용계획사항에 대한 정보는
+  포함하지 않습니다. (C) 토지특성조사표는 토지의 지리적, 지질학적 특성을 조사하여 작성한 표입니다. 이는 토지의 특성에 대한 정보를 제공하지만,
+  규제사항이나 이용계획사항에 대한 정보는 포함하지 않습니다. (D) 토지이용계획확인서는 토지의 용도지역, 지구, 구역, 도시, 군계획시설, 도시계획사업과
+  입안내용, 그리고 각종 규제에 대한 저축 여부 등을 확인할 수 있는 공적인 증명서입니다. 이는 토지에 대한 규제사항 및 이용계획사항을 확인하는데
+  필요한 모든 정보를 포함하고 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 중세시대 이슬람도시의 특성을 나타내고 있는 도시와 국가의 연결이 틀린 것은?
+
+  A.바스라(OPTIONasra) - 튀니지
+
+  B.라바트(Rabat) - 모로코
+
+  C.푸스타트(Fustat) - 이집트
+
+  D.코르도바(OPTIONordoba) - 스페인
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선택지에 나와 있는 도시들이 중세시대 이슬람 도시의
+  특성을 나타내는 도시인지 확인해보겠습니다. (A) 바스라(Basra)는 이라크에 위치한 도시로, 중세 이슬람 시대에 바그다드와 함께 중요한 도시
+  중 하나였습니다. (B) 라바트(Rabat)는 모로코의 수도로, 중세 이슬람 시대에는 페스와 함께 모로코의 대표적인 도시였습니다. (C) 푸스타트(Fustat)는
+  이집트 카이로에 위치한 도시로, 중세 이슬람 시대에 건설된 도시 중 하나입니다. (D) 코르도바(Cordoba)는 스페인에 위치한 도시로, 중세
+  이슬람 시대에는 유럽에서 가장 큰 도시 중 하나였습니다. 이제 각 도시와 국가의 연결이 맞는지 확인해보겠습니다. (A) 바스라(Basra)는 이라크에
+  위치한 도시로, 튀니지와 연결되어 있지 않습니다. (B) 라바트(Rabat)는 모로코에 위치한 도시로, 모로코와 연결되어 있습니다. (C) 푸스타트(Fustat)는
+  이집트에 위치한 도시로, 이집트와 연결되어 있습니다. (D) 코르도바(Cordoba)는 스페인에 위치한 도시로, 스페인과 연결되어 있습니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 새로운 도시계획 패러다임으로 적절하지 않은 것은?
+
+  A.도ㆍ농 통합적 계획 지향
+
+  B.지속가능한 도시개발 지향
+
+  C.성장위주의 경제논리가 지배하는 도시개발 지향
+
+  D.시민참여 확대와 계획 및 개발주체의 다양화 지향
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지가 무엇을 의미하는지 살펴보겠습니다. (A)
+  도ㆍ농 통합적 계획 지향: 이는 도시와 농촌이 서로 독립적으로 발전하는 것이 아니라, 상호보완적이고 균형있는 발전을 추구하는 것을 의미합니다.
+  즉, 도시와 농촌이 서로에게 필요한 자원과 기능을 제공하며, 상호 의존적인 관계를 유지하도록 계획하는 것입니다. (B) 지속가능한 도시개발 지향:
+  이는 환경, 경제, 사회 등 다양한 측면에서 지속 가능한 도시 개발을 추구하는 것을 의미합니다. 즉, 현재 세대의 필요를 충족시키는 동시에 미래
+  세대의 필요를 충족시킬 수 있도록 도시를 계획하고 개발하는 것입니다. (D) 시민참여 확대와 계획 및 개발주체의 다양화 지향: 이는 도시계획과
+  개발 과정에서 시민들의 의견을 적극적으로 수렴하고, 다양한 주체들이 도시계획과 개발에 참여하는 것을 추구하는 것을 의미합니다. (C) 성장위주의
+  경제논리가 지배하는 도시개발 지향: 이는 경제적 성장을 최우선 목표로 삼고, 그를 위해 도시를 계획하고 개발하는 것을 의미합니다. 이는 단기적인
+  경제적 이익을 추구하는 경향이 있으며, 이로 인해 환경 파괴, 사회적 불평등 등의 문제가 발생할 수 있습니다.  , 새로운 도시계획 패러다임에서는
+  지속가능성, 균형, 다양성 등을 중요하게 생각합니다. 이에 비해 성장위주의 경제논리가 지배하는 도시개발 지향은 단기적인 경제적 이익을 우선시하는
+  경향이 있어, 이는 새로운 도시계획 패러다임과는 맞지 않는 것으로 보입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 부동산 소유자간 또는 개발업자와 구입자 사이에 체결되는 민사계약으로 지역제보다 훨씬 상세하고 엄격한 규정으로 되어 있으며, 일반적으로 토지ㆍ건물대장
+  및 권리서에 기재되어 부동산 매매 시 신규 구입자에게로 승계되는 것으로, 미국의 근대도시계획 성립기에 지역제의 바탕이 된 제도는?
+
+  A.협약(covenant)
+
+  B.획지분할규제(subdivision control)
+
+  C.공도(official mapping)
+
+  D.성장관리(growth management)
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 문제에서 요구하는 것은 부동산 소유자간 또는 개발업자와
+  구입자 사이에 체결되는 민사계약이며, 이 계약은 지역제보다 훨씬 상세하고 엄격한 규정으로 되어 있다는 것입니다. 그리고 이 계약은 토지, 건물대장
+  및 권리서에 기재되어 부동산 매매 시 신규 구입자에게로 승계되는 것입니다. 마지막으로, 이 계약은 미국의 근대도시계획 성립기에 지역제의 바탕이
+  된 제도라고 합니다. 선택지를 살펴보면, (A) 협약(covenant), (B) 획지분할규제(subdivision control), (C) 공도(official
+  mapping), (D) 성장관리(growth management)가 있습니다. (A) 협약(covenant)은 일반적으로 두 당사자 사이에 체결되는
+  계약을 의미하며, 부동산 매매에 있어서도 이용됩니다. 또한, 이 협약은 토지, 건물대장 및 권리서에 기재되어 부동산 매매 시 신규 구입자에게로
+  승계되는 것이 일반적입니다. (B) 획지분할규제(subdivision control)는 부동산 개발 과정에서 적용되는 규제로, 토지를 분할하여
+  개발하는 경우에 적용되는 규제입니다. 이 규제는 개발자가 토지를 분할하여 팔 때 적용되는 것이므로, 이는 부동산 소유자간의 계약이 아니라 개발업자와
+  구입자 사이의 계약에 더 가깝습니다. (C) 공도(official mapping)는 도시 계획을 위한 지도를 의미하며, 이는 도시의 미래 발전을
+  계획하는 데 사용됩니다. 이는 부동산 계약과는 직접적인 관련이 없습니다. (D) 성장관리(growth management)는 도시의 성장을 관리하고
+  통제하는 데 사용되는 정책이나 기법을 의미합니다. 이는 부동산 계약과는 직접적인 관련이 없습니다.  , 문제에서 요구하는 부동산 소유자간 또는
+  개발업자와 구입자 사이에 체결되는 민사계약이며, 이 계약은 지역제보다 훨씬 상세하고 엄격한 규정으로 되어 있으며, 이 계약은 토지, 건물대장 및
+  권리서에 기재되어 부동산 매매 시 신규 구입자에게로 승계되는 것이며, 이 계약은 미국의 근대도시계획 성립기에 지역제의 바탕이 된 제도는 (A)
+  협약(covenant)이 가장 적절한 선택입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 토목 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_civil_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_fashion.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_fashion.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3c6bb38544bcd1d213ca784db64cdd6b1e076107
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_fashion.yaml
@@ -0,0 +1,114 @@
+dataset_name: fashion
+doc_to_text: '질문: 오점의 성분 중 충해의 원인이 되는 것은?
+
+  A.단백질
+
+  B.무기물
+
+  C.염류
+
+  D.요소
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 오점의 성분 중 충해의 원인이 되는 것을 찾기 위해서는 먼저
+  충해의 원인이 되는 성분이 무엇인지 알아야 합니다. 충해는 일반적으로 곤충이나 벌레 등이 식물이나 동물 등에 피해를 입히는 것을 말합니다. 이러한
+  충해의 원인은 다양하지만, 일반적으로 단백질과 같은 영양분이 충해의 원인이 되는 경우가 많습니다. 충해를 일으키는 곤충이나 벌레들은 대부분 단백질을
+  필요로 하기 때문에, 식물이나 동물의 단백질을 먹이로 삼습니다.  , 오점의 성분 중 단백질이 충해의 원인이 될 가능성이 높습니다. 무기물, 염류,
+  요소 등은 충해의 원인이 될 가능성이 상대적으로 낮습니다. 무기물은 식물이나 동물의 성장에 필요한 성분 중 하나이지만, 충해의 원인이 되는 경우는
+  드물며, 염류는 식물의 성장에 영향을 미칠 수 있지만, 충해의 원인이 되는 경우는 거의 없습니다. 요소는 단백질을 구성하는 성분 중 하나이지만,
+  충해의 원인이 되는 경우는 거의 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 비누의 특성 중 장점이 아닌 것은?
+
+  A.산성용액에서도 사용할 수 있다.
+
+  B.세탁한 직물의 촉감이 양호하다.
+
+  C.합성세제보다 환경을 적게 오염시킨다.
+
+  D.거품이 잘 생기고 헹굴 때에는 거품이 사라진다.
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 검토해보겠습니다. (A) 비누는 기본적으로
+  알칼리성이기 때문에 산성 용액에서는 잘 작동하지 않습니다. 산과 알칼리는 서로 중화 반응을 일으키므로, 산성 용액에서 비누를 사용하면 비누의 세정력이
+  크게 떨어질 수 있습니다. (B) 비누는 일반적으로 세탁한 직물의 촉감을 부드럽게 만드는 특성이 있습니다. 이는 비누가 직물의 섬유 사이에 들어가서
+  섬유들이 서로 마찰하지 않도록 하는 역할을 하기 때문입니다. (C) 비누는 합성세제보다 환경 오염을 덜 일으키는 것으로 알려져 있습니다. 이는
+  비누가 자연에서 잘 분해되기 때문입니다. 반면 합성세제는 자연에서 잘 분해되지 않아 환경 오염을 일으킬 수 있습니다. (D) 비누는 거품이 잘
+  생기는 특성이 있습니다. 이는 비누가 물과 함께 사용될 때 표면 활성 효과를 일으켜 거품을 만들기 때문입니다. 또한 헹굴 때에는 이 거품이 사라지는
+  특성이 있습니다.   이 모든 정보를 종합해 보면, 비누의 특성 중 장점이 아닌 것은 ''산성용액에서도 사용할 수 있다''입니다. 왜냐하면 비누는
+  알칼리성이기 때문에 산성 용액에서는 잘 작동하지 않기 때문입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 피복의 오염 부착 상태에 대한 설명 중 틀린 것은?
+
+  A.화학결합에 의한 부착 : 섬유표면에 오염이 부착된 후 섬유와 오점 간에 결합이 화학결합하여 부착된 것이다.
+
+  B.정전기에 의한 부착 : 오염입자와 섬유가 서로 다른 대전성(+ -로 나타나는 정전기 성질)을 띄고 있을 때 오염입자가 섬유에 부착된 것이다.
+
+  C.분자 간 인력에 의한 부착 : 오염물질의 분자와 섬유 분자 간의 인력에 의해서 부착된 것이며 강한 분자간의 인력으로 인하여 쉽게 제거되지 아니한다.
+
+  D.유지결합에 의한 부착 : 오염에 입자가 물의 엷은 막을 통해서 섬유에 부착된 것이다.
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 우선, 각 선택지에 대해 이해를 높이기 위해 각 부착 방식에
+  대해 자세히 알아보겠습니다. (A) 화학결합에 의한 부착: 이는 오염물질이 섬유 표면에 부착된 후, 섬유와 오염물질 간에 화학적인 결합이 이루어져
+  부착되는 경우를 말합니다. 이는 일반적으로 세탁이 어려운 경우에 해당합니다. (B) 정전기에 의한 부착: 오염 입자와 섬유가 서로 다른 대전성을
+  띠고 있을 때, 즉 한쪽이 양전하고 다른 한쪽이 음전할 때 오염 입자가 섬유에 부착되는 경우를 말합니다. 이는 일반적으로 건조한 환경에서 더 잘
+  일어납니다. (C) 분자 간 인력에 의한 부착: 이는 오염물질의 분자와 섬유 분자 간의 물리적인 인력(반발력이나 인력 등)에 의해 부착되는 경우를
+  말합니다. 이는 섬유와 오염물질 간의 인력이 강하여 세탁으로 쉽게 제거되지 않는 경우에 해당합니다. (D) 유지결합에 의한 부착: 이는 오염 입자가
+  물의 얇은 막을 통해 섬유에 부착되는 경우를 말합니다. 각 부착 방식에 대해 알아본 결과, (D)의 유지결합에 의한 부착의 설명이 부정확한 것으로
+  보입니다. 유지결합은 오염물질이 섬유 표면에 직접적으로 부착되는 것이 아니라, 물이나 기타 액체의 막을 통해 간접적으로 부착되는 경우를 말합니다.
+  하지만, 선택지 (D)에서는 오염 입자가 ''물의 엷은 막을 통해서 섬유에 부착된 것''이라고 설명하고 있습니다. 이는 유지결합의 정의와 일치하지
+  않습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 의류의 푸새가공에 사용하는 풀에 해당되지 않는 것은?
+
+  A.전분
+
+  B.OPTION.M.OPTION
+
+  C.L.OPTION.S
+
+  D.P.V.OPTION
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 의류의 푸새가공에 사용하는 풀은 의류의 완성도를 높이고 제품의
+  품질을 유지하기 위해 사용됩니다. 이러한 풀에는 다양한 종류가 있습니다. (A) 전분: 전분은 식물의 줄기와 뿌리에서 발견되는 탄수화물의 한 종류로,
+  의류 산업에서는 풀로 사용됩니다. 이는 옷에 바르면 품질을 유지하고 주름을 방지하는 데 도움이 됩니다. (B) C.M.C (Carboxymethyl
+  Cellulose): C.M.C는 셀룰로스 유도체 중 하나로, 의류 산업에서는 풀로 사용됩니다. C.M.C는 물에 잘 녹는 특성 때문에 의류에
+  사용되며, 의류의 완성도를 높이는 데 도움이 됩니다. (D) P.V.A (Polyvinyl Alcohol): P.V.A는 합성 수지의 일종으로,
+  물에 잘 녹는 특성 때문에 의류 산업에서는 풀로 사용됩니다. P.V.A는 의류에 사용되면 품질을 유지하고 주름을 방지하는 데 도움이 됩니다. 그러나
+  (C) L.A.S (Linear Alkylbenzene Sulfonate)는 합성 세제의 주요 성분 중 하나로, 의류 산업에서 풀로 사용되지 않습니다.
+  L.A.S는 주로 세탁제, 식기세척제 등에 사용되며, 그것은 강력한 세척력과 풍부한 거품을 제공합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 클리닝 서비스 중 특수 서비스에 해당되는 것은?
+
+  A.모 제품만 세정하는 서비스
+
+  B.웨트클리닝 서비스
+
+  C.워싱(Washing) 서비스
+
+  D.패션 케어(Fashion care) 서비스
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다. 클리닝 서비스는 일반적으로 의류나 직물 제품을 세정하는 서비스를
+  말합니다. 이에는 다양한 방법이 있을 수 있습니다. (A) 선택지인 ''모 제품만 세정하는 서비스''는 특정 제품을 세정하는 서비스를 말하는 것
+  같습니다. 이는 특수 서비스라기 보다는 일반적인 클리닝 서비스에 해당할 것입니다. (B) 선택지인 ''웨트클리닝 서비스''는 물을 이용한 세탁
+  방식을 의미합니다. 이는 일반적인 세탁 방식 중 하나이므로 특수 서비스라고 보기 어렵습니다. (C) 선택지인 ''워싱(Washing) 서비스''도
+  물을 이용한 일반적인 세탁 방식을 의미합니다. 이 역시 특수 서비스라고 보기는 어렵습니다. (D) 선택지인 ''패션 케어(Fashion care)
+  서비스''는 패션 아이템에 대한 전반적인 관리를 의미하는 것 같습니다. 이는 일반적인 세탁 방식이 아닌, 의류의 보관, 관리, 수선 등을 포함한
+  종합적인 서비스를 제공하는 것으로 보입니다. 이는 일반적인 클리닝 서비스와는 차별화된 서비스라고 볼 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 의류학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_fashion
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_geomatics.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_geomatics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..811e41d81cfda3ab74440c035aad738dfb5a8b6b
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_geomatics.yaml
@@ -0,0 +1,110 @@
+dataset_name: geomatics
+doc_to_text: '질문: 일람도 제도에서 붉은색 0.2mm 폭의 2선으로 제도하는 것은?
+
+  A.수도용지
+
+  B.기타도로
+
+  C.철도용지
+
+  D.하천
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 일람도 제도에서 사용되는 선의 종류와 색깔, 그리고 폭은
+  특정한 의미를 가지고 있습니다. 이를 통해 각 선이 표현하는 것이 무엇인지 파악할 수 있습니다. 일람도 제도 규정에 따르면, 붉은색 0.2mm
+  폭의 2선은 ''철도용지''를 나타냅니다. 일람도는 지리 정보를 시각적으로 표현하는 방법 중 하나로, 각 선의 색상, 폭, 형태 등은 특정한 의미를
+  지니고 있습니다. 이러한 선들은 특정한 규칙에 따라 사용되며, 이 규칙은 일반적으로 국가나 기관의 표준에 따라 정해집니다. 붉은색 0.2mm 폭의
+  2선은 일반적으로 철도용지를 나타내는데 사용됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 방위가 S 20° 20′ W인 측선에 대한 방위각은?
+
+  A.100° 20′
+
+  B.159° 40′
+
+  C.200° 20′
+
+  D.249° 40′
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 방위각은 보통 북쪽을 기준으로 시계방향으로 측정하는 각도를
+  의미합니다. 주어진 방위는 ''S 20° 20′ W''인데, 이는 남쪽을 기준으로 서쪽으로 20° 20′ 회전한 방향을 의미합니다. 우리는 이를
+  북쪽을 기준으로 바꾸어 생각해야 합니다. 그러므로, 북쪽에서 시계방향으로 얼마나 회전해야 이 방향에 도달할 수 있는지 계산해야 합니다. 남쪽은
+  북쪽에서 시계방향으로 180° 회전한 방향입니다.  , 남쪽에서 시계방향으로 20° 20′ 회전한 방향은 북쪽에서 시계방향으로 180° + 20°
+  20′ 회전한 방향과 같습니다. 이를 계산하면, 200° 20′가 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 경위의측량방법으로 세부측량을 한 지역의 필지별 면적측정 방법으로 옳은 것은?
+
+  A.전자면적측정기법
+
+  B.좌표면적계산법
+
+  C.축척자삼사법
+
+  D.방안지조사법
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대해 이해를 해보겠습니다. (A) 전자면적측정기법:
+  이 방법은 전자적인 장비를 사용하여 면적을 측정하는 방법입니다. 보통 건물의 내부 공간이나 토지 등의 면적을 측정할 때 사용됩니다. (B) 좌표면적계산법:
+  이 방법은 지도상의 좌표를 이용하여 면적을 계산하는 방법입니다. 지도상의 여러 지점의 좌표를 알고 있을 때, 이 좌표들을 이용하여 다각형의 면적을
+  계산할 수 있습니다. (C) 축척자삼사법: 이 방법은 지도상의 축척을 이용하여 면적을 측정하는 방법입니다. 지도의 축척과 실제 토지의 면적 사이의
+  관계를 이용하여 면적을 측정합니다. (D) 방안지조사법: 이 방법은 현장에서 직접 조사하여 면적을 측정하는 방법입니다. 토지의 실제 면적을 측정하거나
+  건물의 내부 공간을 측정할 때 사용됩니다. 그런데 여기서 ''경위의측량방법으로 세부측량을 한 지역의 필지별 면적측정 방법''이라는 질문에서 주목해야
+  할 부분은 ''경위의측량방법''입니다. 경위의측량은 지구의 곡률을 고려하지 않고, 평면상에서의 측량을 의미합니다. 이를 고려하면, 필지별 면적측정
+  방법으로 가장 적합한 것은 ''좌표를 이용한 면적계산법''이 될 것입니다. 왜냐하면, 좌표를 이용하면 평면상에서의 면적을 가장 정확하게 계산할
+  수 있기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 목장용지의 부호 표기로 옳은 것은?
+
+  A.전
+
+  B.장
+
+  C.목
+
+  D.용
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 Geomatics는 지리 정보과학을 의미하며, 지도학,
+  측량학, GPS 기술 등을 포괄하는 학문입니다. 이 질문은 Geomatics의 한 분야인 지도학과 관련이 있습니다. 지도학에서는 특정 지역의 특성을
+  표현하기 위해 다양한 부호를 사용합니다. ''목장용지''는 주로 가축이 방목되는 땅을 의미하며, 이를 지도 상에서 표현할 때는 특정한 부호를 사용합니다.
+  선택지 중에서 목장용지를 가장 잘 표현할 수 있는 부호를 찾아야 합니다. (A) 전: 일반적으로 ''전''은 농작물을 재배하는 농지를 의미합니다.   이는
+  목장용지를 표현하기에 적합하지 않습니다. (B) 장: ''장''은 일반적으로 장소나 공간을 의미하는 말로, 특정한 의미를 가지고 있지 않습니다.   이는
+  목장용지를 표현하기에 적합하지 않습니다. (C) 목: ''목''은 일반적으로 목장을 의미하는 말로, 가축이 방목되는 땅을 의미합니다.   이는
+  목장용지를 표현하기에 적합해 보입니다. (D) 용: ''용''은 일반적으로 용도를 의미하는 말로, 특정한 의미를 가지고 있지 않습니다.   이는
+  목장용지를 표현하기에 적합하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 전자면적측정기에 따른 면적측정을 하는 경우, 교차를 구하기 위한 A = 0.0232M√F 공식 중 M의 값으로 옳은 것은?
+
+  A.허용면적
+
+  B.축척분모
+
+  C.산출면적
+
+  D.보정계수
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다. 전자면적측정기에 따른 면적측정 공식에서 M의 값에 대해 이해하려면,
+  먼저 해당 공식이 어떤 것인지, 그리고 각 요소가 무엇을 의미하는지 알아야 합니다. 이 공식은 전자면적측정기를 사용하여 지형의 면적을 측정할 때
+  사용되는 공식입니다. 공식의 각 부분을 분석해보면, A는 측정된 면적, F는 측정된 거리를 의미하며, 0.0232는 상수입니다. 그렇다면 M은
+  무엇을 의미할까요? 선택지 중에서 M이 의미할 수 있는 것은 ''허용면적'', ''축척분모'', ''산출면적'', ''보정계수'' 네 가지입니다.
+  ''허용면적''이나 ''산출면적''은 면적을 나타내는 값이므로, 이 값들이 M에 해당할 가능성은 낮습니다. ''보정계수''는 측정값을 조정하는
+  데 사용되는 값이지만, 이 경우에는 M이 면적이 아닌 거리에 대한 값을 나타내는 것으로 보입니다.  , ''축척분모''가 가장 가능성이 높습니다.
+  축척분모는 지도의 축척을 나타내는 값으로, 실제 거리와 지도 상의 거리 사이의 비율을 의미합니다. 이 값이 M에 해당한다면, 공식은 실제 거리의
+  제곱근에 축척분모를 곱한 값이 측정된 면적이 될 것입니다. 이렇게 보면, 공식이 의미하는 바를 잘 나타내는 것 같습니다. 따라서, 정답은 (B)
+  입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 기하학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_geomatics
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_math.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_math.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ab0a86811626e68c7bf8387b360e2d8e83910e51
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_math.yaml
@@ -0,0 +1,126 @@
+dataset_name: math
+doc_to_text: '질문: 이차방정식 x2 - 5x + 3 = 0의 두 근이 log5α와 log5β일 때, logαβ + logβα의 값은?
+
+  A.17/3
+
+  B.19/3
+
+  C.21/5
+
+  D.23/5
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이차방정식 \( x^2 - 5x + 3 = 0 \)의 두 근이
+  \( \log_5 \alpha \)와 \( \log_5 \beta \)일 때, \( \log \alpha \beta + \log \beta \alpha
+  \)의 값을 찾는 문제입니다. 이차방정식의 해에 대한 비에타의 공식에 따르면, 두 근의 합은 \(-\frac{b}{a}\)이고, 두 근의 곱은
+  \(\frac{c}{a}\)입니다. 여기서 \(a\), \(b\), \(c\)는 각각 이차방정식의 계수입니다. 주어진 방정식 \( x^2 - 5x
+  + 3 = 0 \)에서, \(a = 1\), \(b = -5\), \(c = 3\)이므로, 두 근의 합은 \(5\)이고, 두 근의 곱은 \(3\)입니다.
+  이제, \( \log_5 \alpha \)와 \( \log_5 \beta \)가 근이므로 다음과 같은 두 조건을 갖습니다: 1. \( \log_5
+  \alpha + \log_5 \beta = 5 \) 2. \( \log_5 \alpha \cdot \log_5 \beta = 3 \) 로그의 성질에
+  따라, \( \log \alpha \beta + \log \beta \alpha \)는 \( \log \alpha^2 \beta^2 \)로 표현할
+  수 있고, 이는 \( \log (\alpha \beta)^2 \)와 같습니다. \( \alpha \beta = 5^3 \) 이므로 (근의 곱에서),
+  이는 다음과 같이 됩니다: \[ \log 5^6 \] \[ 6 \cdot \log 5 \] \( \log 5 \)는 1이므로, 이 식은 단순히
+  6이 됩니다. 그러나 주어진 식에는 \( \log_5 \alpha \)와 \( \log_5 \beta \)로 나누는 추가 연산과 이차식 전개가
+  포함되어 있습니다. 이미지에서 보여지는 식에 따라 계산을 해보면, 분수의 형태로 나타나는 두 로그의 합은 실제로 로그의 법칙을 사용하여 단순화할
+  수 있습니다. 그리고 이차식의 전개는 근의 합과 근의 곱으로 표현된 값을 사용하여 계산할 수 있습니다. 최종적으로, 이 식은 근의 합과 근의 곱의
+  관계를 사용하여 해를 구할 수 있으며, 식을 단순화한 결과 \( \frac{19}{3} \)이 답으로 나올 것입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 좌표평면에서 원 (x-1)2 + (y-1)2 = 1을 y축에 대하여 대칭이동한 후 y축의 방향으로 1만큼 평행이동한 원 위의 임의의 점과
+  원점 사이의 거리의 최댓값을 a, 최솟값을 b라 할 때, a+b의 값은?
+
+  A.√5
+
+  B.2√5
+
+  C.3√5
+
+  D.4√5
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 주어진 원의 중심은 (1, 1)이고 반지름은 1입니다.
+  그런 다음 원을 y축에 대하여 대칭이동하면, 원의 중심은 (-1, 1)이 됩니다. 이는 y축에 대해 대칭이기 때문에 x좌표만 바뀌고 y좌표는 그대로입니다.
+  그 다음으로 원을 y축의 방향으로 1만큼 평행이동하면, 원의 중심은 (-1, 2)가 됩니다. 이는 y축의 방향으로 평행이동하기 때문에 y좌표만
+  바뀌고 x좌표는 그대로입니다. 이제 원점과 이동한 원 위의 임의의 점과의 거리의 최댓값과 최솟값을 구해야 합니다. 원의 반지름이 1이므로, 원점과
+  원 위의 점 사이의 거리의 최댓값은 중심에서 원점까지의 거리에 반지름을 더한 값이고, 최솟값은 중심에서 원점까지의 거리에서 반지름을 뺀 값입니다.
+  원의 중심 (-1, 2)와 원점 (0, 0) 사이의 거리는 √((-1-0)^2 + (2-0)^2) = √5입니다.   거리의 최댓값은 √5 +
+  1, 최솟값은 √5 - 1입니다. 그러므로 a+b의 값은 (√5 + 1) + (√5 - 1) = 2√5입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: log3(-n3 + 15n2 - 66n + 80)의 값이 존재하도록 하는 모든 자연수 n의 값의 합은?
+
+  A.8
+
+  B.10
+
+  C.12
+
+  D.14
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 문제는 log3(-n³ + 15n² - 66n + 80)의
+  값이 존재하도록 하는 모든 자연수 n의 합을 구하는 것이었습니다. 우선, 로그 함수 내부의 값이 양수가 되어야 합니다. 즉, -n³ + 15n²
+  - 66n + 80 > 0 이어야 합니다. 이 부등식을 풀기 위해서는, 우선 주어진 식을 인수분해할 필요가 있습니다. 식을 인수분해해보겠습니다:
+  - -n³ + 15n² - 66n + 80 - = -(n³ - 15n² + 66n - 80) 이제 n³ - 15n² + 66n - 80 = 0의
+  해를 구해야 합니다. 이는 3차 방정식이므로, 해를 찾기 위해서는 실제 계산이 필요합니다. 우선 간단한 정수해를 찾기 위해 n = 1, 2, 3,
+  ... 등을 대입해 볼 수 있습니다. 1, 2, 3, ... 등을 대입해 보며 식이 0이 되는 n의 값을 찾아보겠습니다. 그리고 그 값들을 기반으로
+  부등식 -n³ + 15n² - 66n + 80 > 0을 만족하는 n의 범위를 확인할 수 있습니다. 이제 필요한 계산을 해보겠습니다. 방정식 -n³
+  + 15n² - 66n + 80 > 0을 만족하는 n의 값은 1, 6, 7입니다. 이는 이들 값에 대해 방정식의 결과가 양수가 되는 것을 의미합니다.  ,
+  이러한 n의 값들의 합은 1 + 6 + 7 = 14입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 점 C(2, -1)을 중심으로 하고 반지름의 길이가 √17인 원 위의 점 P(3, 3)에서의 접선과 점 Q(6, -2)에서의 접선이 만나는
+  점을 R이라 할 때, 사각형 CQRP의 넓이는?
+
+  A.√17
+
+  B.2√17
+
+  C.17
+
+  D.34
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 점 C(2, -1)을 중심으로 하고 반지름의 길이가
+  √17인 원 위의 점 P(3, 3)에서의 접선과 점 Q(6, -2)에서의 접선이 만나는 점을 R이라 할 때, 이 점들이 이루는 사각형 CQRP의
+  넓이를 구하는 문제입니다. 원의 중심과 접점을 잇는 선분은 접선에 수직이라는 성질을 이용하면, 점 P에서의 접선의 기울기는 PC와 수직이므로,
+  점 P와 C의 좌표를 이용하여 PC의 기울기를 구하면, PC의 기울기는 (3 - (-1)) / (3 - 2) = 4 이고, 이에 수직인 접선의
+  기울기는 -1/4가 됩니다. 마찬가지로 점 Q에서의 접선의 기울기를 구하면, 점 Q와 C의 좌표를 이용하여 QC의 기울기는 (-2 - (-1))
+  / (6 - 2) = -1/4 이고, 이에 수직인 접선의 기울기는 4가 됩니다.   점 P에서의 접선의 방정식은 y - 3 = -1/4 * (x
+  - 3), 점 Q에서의 접선의 방정식은 y + 2 = 4 * (x - 6) 이 됩니다. 이 두 접선이 만나는 점 R을 구하기 위해 두 접선의 방정식을
+  연립하여 풀면, x = 8/3, y = 5/3가 됩니다. 그리고 원의 중심 C와 점 P, Q, R의 거리를 구하면 CP = CQ = √17, CR
+  = √((8/3 - 2)^2 + (5/3 - (-1))^2) = √17이 됩니다.  , 사각형 CQRP는 실제로는 정사각형이며, 그 넓이는 한
+  변의 길이의 제곱이므로 17이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: x3 - 1 = 0의 한 허근을 ω라 할 때, ω + ω3 + ω5 + … + ω2017 + ω2019을 간단히 하면?
+
+  A.0
+
+  B.ω
+
+  C.ω+1
+
+  D.1
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다. x^3 - 1 = 0의 한 허근을 ω라고 하였으므로, ω^3
+  = 1이 됩니다. 이제, 주어진 식을 보면 ω + ω^3 + ω^5 + ... + ω2017 + ω2019 입니다. ω^3 = 1이므로, ω^3,
+  ω^6, ω^9, ..., ω2016은 모두 1이 됩니다.  , 주어진 식은 ω + 1 + ω^2 + ω^4 + ... + ω2018 + ω2020이
+  됩니다. ω^3 = 1이므로, ω^3, ω^6, ω^9, ..., ω2016은 모두 1이 됩니다.  , ω^2 + ω^4 + ... + ω2018
+  = (ω^2 + ω^4 + ... + ω2016) + ω^2017 + ω^2019 = ω^2017 + ω^2019 입니다. 주어진 식에 ω^2017
+  + ω^2019를 대입하면 ω + 1 + (ω^2017 + ω^2019) + ω^2018 + ω^2020이 됩니다. ω^3 = 1이므로 ω^3n
+  = 1 (n은 3의 배수) 입니다.  , ω^2018 = ω^3*672 = 1이고 ω^2020 = ω^3*670 = 1입니다. 주어진 식에 대입하면
+  ω + 1 + (ω^2017 + ω^2019) + 1 + 1이 됩니다. ω^2017 + ω^2019 = ω^2 + ω^4 = (ω^2 + ω^4
+  + ω^6 + ... + ω2016) + ω2017 + ω2019 = ω2017 + ω2019 입니다.  , ω^2017 + ω^2019 = ω
+  + 1 입니다. 주어진 식에 ω + 1을 대입하면 ω + 1 + ω + 1 + 1 + 1이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 수학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_math
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_public_safety.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_public_safety.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..86942ef3b44e189ee0ab022d214126dac578fe54
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_public_safety.yaml
@@ -0,0 +1,123 @@
+dataset_name: public_safety
+doc_to_text: '질문: 산업안전보건법령상 법령 요지의 게시 등과 안전ㆍ보건표지의 부착 등에 관한 설명으로 옳지 않은 것은?
+
+  A.근로자대표는 작업환경측정의 결과를 통지할 것을 사업주에게 요청할 수 있고, 사업주는 이에 성실히 응하여야 한다.
+
+  B.야간에 필요한 안전ㆍ보건표지는 야광물질을 사용하는 등 쉽게 알아볼 수 있도록 제작하여야 한다.
+
+  C.안전ㆍ보건표지의 표시를 명백히 하기 위하여 필요한 경우에는 안전ㆍ보건표지의 주위에 표시사항을 글자로 덧붙여 적을 수 있으며, 이 경우 글자는
+  노란색 바탕에 검은색 한글고딕체로 표기하여야 한다.
+
+  D.안전ㆍ보건표지의 성질상 설치하거나 부착하는 것이 곤란한 경우에는 해당 물체에 직접 도장(塗裝)할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 내용을 살펴보겠습니다. (A)
+  선택지는 근로자대표가 작업환경 측정 결과를 사업주에게 통지 요청을 할 수 있고, 사업주는 이에 성실히 응해야 한다는 내용입니다. 이 내용은 산업안전보건법
+  제28조의2에 명시되어 있습니다.   이 선택지는 옳습니다. (B) 선택지는 야간에 필요한 안전ㆍ보건표지는 야광물질을 사용하는 등 쉽게 알아볼
+  수 있도록 제작해야 한다는 내용입니다. 이 내용은 산업안전보건법 시행규칙 제77조의2에 따라, 야간에는 야광물질을 사용하여 쉽게 알아볼 수 있도록
+  해야 한다고 명시되어 있습니다.   이 선택지는 옳습니다. (C) 선택지는 안전ㆍ보건표지의 표시를 명백히 하기 위하여 필요한 경우에는 안전ㆍ보건표지의
+  주위에 표시사항을 글자로 덧붙여 적을 수 있으며, 이 경우 글자는 노란색 바탕에 검은색 한글고딕체로 표기해야 한다는 내용입니다. 하지만, 산업안전보건법
+  시행규칙 제77조의2에서는 글자 색상이나 폰트에 대한 구체적인 규정을 하지 않았습니다.   이 선택지는 옳지 않습니다. (D) 선택지는 안전ㆍ보건표지의
+  성질상 설치하거나 부착하는 것이 곤란한 경우에는 해당 물체에 직접 도장(塗裝)할 수 있다는 내용입니다. 이 내용은 산업안전보건법 시행규칙 제77조의2에
+  따라, 안전표지의 성질상 설치하거나 부착하기 어려운 경우에는 해당 물체에 직접 도장할 수 있다고 명시되어 있습니다.   이 선택지는 옳습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 사업주 갑(甲)의 사업장에 산업재해가 발생하였다. 이 경우 갑(甲)이 기록ㆍ보존해야 할 사항으로 산업안전보건법령상 명시되지 않은 것은?
+  (다만, 법령에 따른 산업재해조사표 사본을 보존하거나 요양신청서의 사본에 재해 재발방지 계획을 첨부하여 보존한 경우에 해당하지 아니 한다.)
+
+  A.사업장의 개요
+
+  B.근로자의 인적 사항 및 재산 보유현황
+
+  C.재해 발생의 일시 및 장소
+
+  D.재해 발생의 원인 및 과정
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 산업안전보건법은 산업재해의 예방 및 산업재해로 인한 근로자의
+  보호를 위해 필요한 사항을 규정하고 있습니다. 사업주가 기록 및 보존해야 하는 사항에 대해 살펴보면, (A) 사업장의 개요: 사업장의 규모, 종류,
+  위치 등에 대한 정보는 산업재해의 상황 파악 및 예방에 중요한 요소이므로 이는 기록 및 보존해야 하는 사항에 해당합니다. (B) 근로자의 인적
+  사항 및 재산 보유현황: 이는 산업재해의 발생 원인이나 예방과 직접적인 연관성이 없습니다. 산업재해의 발생과 근로자의 재산 보유현황은 별개의 사항이며,
+  이를 기록 및 보존하는 것은 산업안전보건법에서 요구하는 사항이 아닙니다. (C) 재해 발생의 일시 및 장소: 재해 발생 시간과 장소는 재해의 원인
+  분석 및 예방책 수립에 중요한 정보이므로 이 역시 기록 및 보존해야 하는 사항입니다. (D) 재해 발생의 원인 및 과정: 재해의 원인과 과정을
+  기록하는 것은 재해의 원인을 파악하고, 비슷한 상황에서의 재해를 예방하기 위한 중요한 절차입니다.   이 역시 기록 및 보존해야 하는 사항입니다.  ,
+  사업주 갑(甲)이 기록ㆍ보존해야 할 사항으로 산업안전보건법령상 명시되지 않은 것은 ''근로자의 인적 사항 및 재산 보유현황''입니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 산업안전보건법령상 안전ㆍ보건 관리체제에 관한 설명으로 옳지 않은 것은?
+
+  A.사업주는 안전보건관리책임자를 선임하였을 때에는 그 선임 사실 및 법령에 따른 업무의 수행내용을 증명할 수 있는 서류를 갖춰 둬야 한다.
+
+  B.안전보건관리책임자는 안전관리자와 보건관리자를 지휘ㆍ감독한다.
+
+  C.사업주는 안전보건조정자로 하여금 근로자의 건강진단 등 건강관리에 관한 업무를 총괄관리하도록 하여야 한다.
+
+  D.사업주는 관리감독자에게 법령에 따른 업무 수행에 필요한 권한을 부여하고 시설ㆍ장비ㆍ예산, 그 밖의 업무수행에 필요한 지원을 하여야 한다.
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지를 하나씩 분석해보겠습니다. (A) 선택지는
+  사업주가 안전보건관리책임자를 선임하였을 때, 그 선임 사실 및 법령에 따른 업무의 수행내용을 증명할 수 있는 서류를 갖추어야 한다고 되어있습니다.
+  이 내용은 산업안전보건법에 따라 사업주가 안전보건관리체제를 운영하는데 필요한 요건 중 하나입니다.   이 선택지는 옳습니다. (B) 선택지는 안전보건관리책임자가
+  안전관리자와 보건관리자를 지휘ㆍ감독한다고 되어있습니다. 이 역시 산업안전보건법에 따라 안전보건관리책임자의 역할 중 하나입니다.   이 선택지는
+  옳습니다. (C) 선택지는 사업주가 안전보건조정자로 하여금 근로자의 건강진단 등 건강관리에 관한 업무를 총괄관리하도록 하여야 한다고 되어있습니다.
+  하지만, 산업안전보건법에 따르면, 안전보건조정자의 역할은 안전보건관리체제의 운영을 총괄하고, 사업주와 안전보건관리책임자 사이의 조정 역할을 수행하는
+  것이며, 근로자의 건강진단 등 건강관리에 관한 업무를 총괄하는 것은 보건관리자의 역할입니다.   이 선택지는 옳지 않습니다. (D) 선택지는 사업주가
+  관리감독자에게 법령에 따른 업무 수행에 필요한 권한을 부여하고 시설ㆍ장비ㆍ예산, 그 밖의 업무수행에 필요한 지원을 하여야 한다고 되어있습니다.
+  이 역시 산업안전보건법에 따라 사업주의 의무 중 하나입니다.   이 선택지는 옳습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 산업안전보건법령상 안전보건관리규정에 관한 설명으로 옳지 않은 것은?
+
+  A.소프트웨어 개발 및 공급업에서 상시 근로자 100명을 사용하는 사업장은 안전보건관리규정을 작성하여야 한다.
+
+  B.안전보건관리규정의 내용에는 작업지휘자 배치 등에 관한 사항이 포함되어야 한다.
+
+  C.안전보건관리규정은 해당 사업장에 적용되는 단체협약 및 취업규칙에 반할 수 없다.
+
+  D.안전보건관리규정에 관하여는 산업안전보건법에서 규정한 것을 제외하고는 그 성질에 반하지 아니하는 범위에서 「근로기준법」의 취업규칙에 관한 규정을
+  준용한다.
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대해 검토해보겠습니다. (A) 선택지는
+  산업안전보건법 제25조의1에서 "사업주는 사업장의 안전 및 보건을 유지하기 위하여 다음 각 호의 사항이 포함된 안전보건관리규정을 작성하여야 한다."라고
+  규정하고 있습니다. 소프트웨어 개발 및 공급업의 경우 상시 근로자가 300명을 초과할때 안전보건관리규정을 작성해야 합니다. (B) 선택지는 산업안전보건법
+  제26조의2에서 "안전보건관리규정의 내용에는 작업지휘자 배치 등에 관한 사항이 포함되어야 한다."라고 명시하고 있습니다.   이 선택지는 정확한
+  내용입니다. (C) 선택지는 안전보건관리규정이 단체협약 및 취업규칙에 반할 수 없다는 내용입니다. 이는 사업장의 안전보건을 위한 기본적인 원칙이므로
+  이 선택지는 정확한 내용입니다. (D) 선택지는 안전보건관리규정에 관하여는 산업안전보건법에서 규정한 것을 제외하고는 그 성질에 반하지 아니하는
+  범위에서 「근로기준법」의 취업규칙에 관한 규정을 준용한다는 내용입니다. 이 역시 안전보건관리규정의 성질을 반영한 내용이므로 이 선택지는 정확한
+  내용입니다.  , 위 내용을 종합하면 (A) 선택지가 산업안전보건법령상 안전보건관리규정에 관한 설명으로 옳지 않은 것입니다. 이는 산업안전보건법에서
+  규정한 대로 특정 업종과 근로자 수에 따라 안전보건관리규정을 작성해야 하는데, 이를 정확히 반영하지 않았기 때문입니다. 따라서, 정답은 (A)
+  입니다.
+
+
+  질문: 산업안전보건법령상 산업안전보건위원회의 심의ㆍ의결을 거쳐야 하는 사항에 해당하지 않는 것은?
+
+  A.유해하거나 위험한 기계ㆍ기구와 그 밖의 설비를 도입한 경우 안전ㆍ보건조치에 관한 사항
+
+  B.안전ㆍ보건과 관련된 안전장치 구입 시의 적격품 여부 확인에 관한 사항
+
+  C.산업재해에 관한 통계의 기록 및 유지에 관한 사항
+
+  D.산업재해 예방계획의 수립에 관한 사항
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다. 산업안전보건법령에 따르면, 산업안전보건위원회의 심의ᆞ의결을
+  거쳐야 하는 사항은 다음과 같습니다. 1. 안전 및 보건에 관한 중요 사항 2. 유해하거나 위험한 기계ᆞ기구와 그 밖의 설비를 도입한 경우 안전ᆞ보건조치에
+  관한 사항 3. 안전ᆞ보건과 관련된 안전장치 및 보호구 구입 시의 적격품 여부 확인에 관한 사항 4. 산업재해에 관한 통계의 기록 및 유지에 관한
+  사항 5. 안전ᆞ보건 관련 인력ᆞ시설 및 장비 등의 현황 파악과 관리에 관한 사항 6. 산업재해 예방 및 재발 방지대책 수립에 관한 사항 7.
+  안전ᆞ보건에 관한 규정의 제정 또는 개정에 관한 사항 8. 작업환경의 측정 등 작업환경의 점검 및 개선에 관한 사항 9. 근로자의 건강진단 등
+  건강관리에 관한 사항 10. 중대재해의 원인조사 및 재발 방지대책 수립에 관한 사항 11. 산업안전ᆞ보건과 관련된 그 밖의 사항  , 선택지 중에서
+  산업안전보건위원회의 심의ᆞ의결을 거치지 않아도 되는 사항은 (B) 안전ᆞ보건과 관련된 안전장치 구입 시의 적격품 여부 확인에 관한 사항입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 공공 안전 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_public_safety
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_railway_and_automotive_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_railway_and_automotive_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ec538789af0f3a4ee7f65c139ea748ee3ed8bd34
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_railway_and_automotive_engineering.yaml
@@ -0,0 +1,118 @@
+dataset_name: railway_and_automotive_engineering
+doc_to_text: '질문: 경유를 사용하는 자동차에서 배출되는 오염물질과 가장 거리가 먼 것은?
+
+  A.매연
+
+  B.알데히드
+
+  C.입자상물질
+
+  D.질소산화물
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 경유를 사용하는 자동차에서 배출되는 오염물질을
+  알아보겠습니다. 경유를 사용하는 자동차는 주로 디젤 엔진을 사용하는데, 이 엔진은 고온 고압의 환경에서 연료를 연소시키기 때문에 다양한 오염물질을
+  배출합니다. 대표적인 오염물질로는 매연, 입자상물질, 질소산화물 등이 있습니다. (A) 매연은 연료가 불완전하게 연소하면서 발생하는 검은 연기로,
+  대기오염을 유발하는 대표적인 물질 중 하나입니다. (C) 입자상물질은 경유가 연소하면서 발생하는 미세한 입자로, 대기 중에 떠다니며 호흡기 질환
+  등을 유발할 수 있습니다. (D) 질소산화물은 고온 고압의 환경에서 질소가 산소와 결합하여 발생하는 물질로, 대기 중에서 화학 반응을 일으켜 미세먼지
+  등의 2차 오염물질을 생성할 수 있습니다. 반면, (B) 알데히드는 주로 휘발성 유기화합물(VOC)이 산화하면서 발생하는 물질로, 경유를 사용하는
+  자동차에서는 배출되지 않는 물질입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 믹서 방식의 LPG엔진과 비교한 LPI엔진의 장점으로 틀린 것은?
+
+  A.연료의 보관성 향상
+
+  B.역화 발생 문제 개선
+
+  C.겨울철 냉간 시동성 향상
+
+  D.정밀한 공연비 제어로 연비 향상
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 믹서 방식의 LPG엔진과 비교한 LPI엔진의 장점을 살펴보면,
+  (A) 연료의 보관성 향상: LPG는 액화된 상태에서 보관되며, 믹서 방식과 LPI 방식 모두 연료의 보관성에는 큰 차이가 없습니다. LPI는
+  액체 연료를 직접 분사하는 방식이므로, 연료의 보관성이 더욱 향상될 수 있습니다. (B) 역화 발생 문제 개선: LPG엔진에서는 역화라는 현상이
+  발생할 수 있는데, 이는 연료가 기화되지 않고 액체 상태로 존재하면서 발생하는 문제입니다. LPI엔진은 연료를 직접 분사하는 방식을 사용하므로,
+  이런 역화 현상을 개선할 수 있습니다. (C) 겨울철 냉간 시동성 향상: LPG는 냉간에서 기화하기 어려운 성질이 있어, 겨울철 냉간 시동성이
+  떨어질 수 있습니다. 그러나 LPI엔진은 연료를 직접 분사하는 방식을 사용하므로, 이런 문제를 해결하고 냉간 시동성을 향상시킬 수 있습니다. (D)
+  정밀한 공연비 제어로 연비 향상: LPI엔진은 연료를 직접 분사하는 방식을 사용하므로, 연료의 분사와 혼합을 더욱 정밀하게 제어할 수 있습니다.
+  이로 인해 연비를 향상시킬 수 있습니다.  , 모든 선택지가 LPI엔진의 장점을 정확하게 나타내고 있습니다. 그러나 문제에서 요구하는 것은 잘못된
+  장점을 찾는 것이므로, 이를 고려하면 선택지 중에서 가장 덜 중요한 장점을 찾아야 합니다. 이 경우, (A) 연료의 보관성 향상이 LPG엔진과
+  LPI엔진 간에 가장 큰 차이를 만들지 못하는 요소일 수 있습니다. 왜냐하면 LPG는 원래 액화되어 보관되는 연료이기 때문에, 믹서 방식과 LPI
+  방식 사이에 연료의 보관성에 큰 차이를 만들지는 못합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 실린더 지름과 행정이 70×70㎜이고, 회전속도가 3000rpm인 기관의 밸브 지름은 약 몇 ㎜ 인가? (단, 밸브를 통과하는 가스의 속도는
+  50m/sec이다.)
+
+  A.12.2
+
+  B.26.2
+
+  C.32.5
+
+  D.46.5
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 밸브의 지름을 찾기 위해서는 밸브를 통과하는 가스의
+  체적 흐름률을 알아야 합니다. 체적 흐름률은 실린더의 퇴적 체적과 엔진의 회전 속도에 의해 결정됩니다. 실린더의 퇴적 체적은 π/4 * 실린더
+  지름^2 * 행정입니다. 문제에서 주어진 실린더 지름과 행정은 각각 70mm입니다.  , 실린더의 퇴적 체적은 π/4 * 70mm^2 * 70mm
+  = 269,391 mm^3 또는 0.269391 m^3입니다. 엔진의 회전속도는 3000rpm입니다. 이는 분당 3000회전을 의미하므로, 초당
+  회전수는 3000/60 = 50회전입니다.  , 밸브를 통과하는 가스의 체적 흐름률은 실린더의 퇴적 체적 * 엔진의 회전속도 = 0.269391
+  m^3/회전 * 50회전/초 = 13.46955 m^3/sec입니다. 밸브를 통과하는 가스의 속도는 50m/sec로 주어졌습니다.  , 밸브의
+  지름은 체적 흐름률 / (π/4 * 가스의 속도)의 제곱근으로 계산할 수 있습니다. 이를 계산하면, 밸브의 지름 = (13.46955 m^3/sec
+  / (π/4 * 50m/sec))^0.5 = 0.262 m 또는 262 mm입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 행정 체적이 800cc, 크랭크축 회전수 1000rpm, 체적효율 80%, 2행정 사이클 기관의 흡기중량 유량은 몇 g/s인가? (단,
+  흡기의 비중량은 1.25kg/m3이다.)
+
+  A.11.67
+
+  B.13.33
+
+  C.16.67
+
+  D.20.33
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 기관의 흡기 중량 유량을 계산하는 것입니다.
+  흡기 중량 유량은 기관이 흡입하는 공기의 양을 의미합니다. 문제에서 주어진 정보를 바탕으로 계산해보겠습니다. 행정 체적(V)은 800cc, 크랭크축
+  회전수(N)는 1000rpm, 체적효율(ηv)는 80%, 2행정 사이클 기관이므로, 이 모든 정보를 토대로 흡기중량 유량(Qm)을 계산할 수 있습니다.
+  그리고 흡기의 비중량(ρ)은 1.25kg/m3입니다. 흡기 중량 유량은 다음과 같이 계산할 수 있습니다. Qm = (V * N * ηv * ρ)
+  / (2 * 60) 먼저, 행정 체적(V)은 cc에서 m3로 변환해야 합니다. 1m3 = 10^6 cc이므로, V = 800cc = 0.0008
+  m3입니다. 그 다음, 체적효율(ηv)는 퍼센트에서 소수로 변환해야 합니다. ηv = 80% = 0.8입니다. 이제 모든 값을 대입하여 계산해보겠습니다.
+  Qm = (0.0008 m3 * 1000 rpm * 0.8 * 1.25 kg/m3) / (2 * 60) = 0.01333 kg/s 이 값을 g/s로
+  변환하려면 1kg = 1000g을 사용하면 됩니다.  , Qm = 0.01333 kg/s = 13.33 g/s입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 유체 커플링식 냉각 팬에 대한 설명으로 틀린 것은?
+
+  A.라디에이터 앞쪽에 설치
+
+  B.물 펌프축과 일체로 회전
+
+  C.라디에이터 통풍을 도와줌
+
+  D.기관의 과냉 및 소음방지를 위해 일정 회전수이상 시 슬립 발생
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 유체 커플링식 냉각 팬이 무엇인지부터 알아야 합니다.
+  유체 커플링식 냉각 팬은 유체 커플링을 이용하여 물 펌프와 일체로 회전하는 냉각 팬입니다. 유체 커플링은 기관의 회전수에 따라 자동으로 회전수를
+  조절하여 기관의 과냉 및 소음 방지를 위해 일정 회전수 이상 시 슬립이 발생하도록 합니다. 이제 선택지를 하나씩 살펴보겠습니다. (A) 라디에이터
+  앞쪽에 설치: 유체 커플링식 냉각 팬은 팬과 물펌프 사이에 설치됩니다.   이는 틀린 설명입니다. (B) 물 펌프축과 일체로 회전: 유체 커플링식
+  냉각 팬은 물 펌프축과 일체로 회전합니다. 이는 유체 커플링을 이용하여 물 펌프와 함께 회전하기 때문입니다. (C) 라디에이터 통풍을 도와줌:
+  유체 커플링식 냉각 팬은 라디에이터의 통풍을 도와줍니다. 이는 엔진의 열을 효과적으로 식혀주기 위한 것입니다. (D) 기관의 과냉 및 소음방지를
+  위해 일정 회전수 이상 시 슬립 발생: 유체 커플링식 냉각 팬은 기관의 과냉 및 소음 방지를 위해 일정 회전수 이상 시 슬립이 발생합니다. 이는
+  유체 커플링의 특성 때문입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 철도 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_railway_and_automotive_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_social_welfare.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_social_welfare.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9e62e78a4aa83a6136bd7f4b33827e1202db4bf9
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_social_welfare.yaml
@@ -0,0 +1,122 @@
+dataset_name: social_welfare
+doc_to_text: '질문: 우리나라 사회보장제도 운영주체의 책임에 관한 원칙으로 옳은 것은?
+
+  A.사회보험은 국가의 책임으로 시행한다.
+
+  B.공공부조는 지방자치단체가 전적으로 책임지고 시행한다.
+
+  C.사회서비스는 지방자치단체만의 책임으로 시행한다.
+
+  D.국가는 사회보장에 관하여 민간단체의 참여를 제한한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회보장제도 운영주체의 책임에 관한 원칙을 확인하기
+  위해 사회보장기본법을 찾아보겠습니다. 사회보장기본법 제5조에 따르면, "국가와 지방자치단체는 국가발전의 수준에 부응하는 사회보장제도를 확립하고
+  매년 이에 필요한 재원을 조달하여야 한다."고 명시되어 있습니다. 또한, 제27조에는 "사회보험은 국가의 책임으로 시행한다."고 되어 있습니다.  ,
+  선택지 중에서 (A) 사회보험은 국가의 책임으로 시행한다. 가 옳은 것으로 확인됩니다. (B) 공공부조는 지방자치단체가 전적으로 책임지고 시행한다는
+  것은 옳지 않습니다. 사회보장기본법 제24조에 따르면, "국가 및 지방자치단체는 생활유지능력이 없거나 생활이 어려운 국민의 보호와 지원을 위하여
+  필요한 경우에는 공공부조를 실시한다."고 되어 있습니다. 이는 공공부조가 국가와 지방자치단체의 공동 책임으로 시행되는 것을 의미합니다. (C)
+  사회서비스는 지방자치단체만의 책임으로 시행한다는 것도 옳지 않습니다. 사회보장기본법 제28조에 따르면, "국가 및 지방자치단체는 사회서비스를 국가발전에
+  필요한 사회서비스의 원활한 제공과 국민의 복지증진을 위하여 적정한 수준으로 제공하여야 한다."고 되어 있습니다. 이는 사회서비스가 국가와 지방자치단체의
+  공동 책임으로 시행되는 것을 의미합니다. (D) 국가는 사회보장에 관하여 민간단체의 참여를 제한한다는 것도 옳지 않습니다. 사회보장기본법 제40조에
+  따르면, "국가와 지방자치단체는 사회보장에 대한 민간부문의 참여를 조장할 수 있도록 정책을 개발·시행하고 그 여건을 조성하여야 한다."고 되어
+  있습니다. 이는 국가가 사회보장에 관하여 민간단체의 참여를 조장하고 참여를 유도해야 한다는 것을 의미합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 1942년 베버리지 보고서에서 규정한 5대 악에 해당되지 않는 것은?
+
+  A.무지
+
+  B.질병
+
+  C.산업재해
+
+  D.나태
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 1942년에 발표된 베버리지 보고서는 사회복지의 기본적인
+  원칙을 제시했으며, 이 보고서에서는 ''5대 악''이라는 개념을 도입했습니다. ''5대 악''은 사회복지의 목표가 해결해야 할 문제로, 궁핍(want),
+  질병(disease), 무지(ignorance), 불결(squalor), 나태(idleness) 을 지칭합니다. 이 중에서 선택지에 주어진 것들을
+  확인해보면, 무지(A), 질병(B), 나태(D)는 베버리지 보고서의 ''5대 악''에 포함되어 있습니다. 반면에 산업재해(C)는 ''5대 악''에
+  직접적으로 언급된 내용이 아닙니다.  , 1942년 베버리지 보고서에서 규정한 5대 악에 해당되지 않는 것은 ''산업재해''입니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 사회보험과 민영보험의 차이점에 관한 설명으로 옳지 않은 것은?
+
+  A.사회보험은 현금급여를 원칙으로 하고, 민영보험은 현물급여를 원칙으로 한다.
+
+  B.사회보험은 대부분 국가 또는 공법인이 운영하지만 민영보험은 사기업이 운영한다.
+
+  C.사회보험은 강제로 가입되지만 민영보험은 임의로 가입한다.
+
+  D.사회보험은 국가가 주로 독점하지만 민영보험은 사기업들이 경쟁한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회보험과 민영보험의 차이점을 비교해보겠습니다.
+  - 사회보험은 국민에게 발생하는 사회적 위험을 보험의 방식으로 대처함으로써 국민의 건강과 소득을 보장하는 제도입니다. 이는 국가가 법에 의해 가입을
+  의무화하고 있으며, 대부분의 재원을 국가가 부담합니다. - 반면에 민영보험은 개인이나 기업이 자신의 필요에 따라 가입하는 보험으로, 보험회사가
+  운영하며 보험료를 개인이나 기업이 부담합니다. 이제 선택지를 하나씩 살펴보겠습니다. (A) 사회보험은 현금급여를 원칙으로 하고, 민영보험은 현물급여를
+  원칙으로 한다는 설명은 옳지 않습니다. 사회보험과 민영보험 모두 현금급여와 현물급여를 제공할 수 있습니다. 예를 들어, 국민건강보험은 의료서비스를
+  제공하는 현물급여와 함께 진료비를 지급하는 현금급여를 제공하고, 자동차보험은 수리비나 치료비 등의 현금급여와 함께 차량 수리나 치료 등의 현물급여를
+  제공합니다. (B) 사회보험은 대부분 국가 또는 공법인이 운영하지만 민영보험은 사기업이 운영한다는 설명은 맞습니다. 사회보험은 국민의 복지를 증진하기
+  위한 것으로, 국가가 운영하는 것이 일반적입니다. 반면에 민영보험은 이윤을 추구하는 사기업이 운영합니다. (C) 사회보험은 강제로 가입되지만 민영보험은
+  임의로 가입한다는 설명도 맞습니다. 사회보험은 국민의 사회적 위험을 대비하기 위해 강제로 가입해야 합니다. 반면에 민영보험은 개인이나 기업이 자신의
+  필요에 따라 가입 여부를 결정할 수 있습니다. (D) 사회보험은 국가가 주로 독점하지만 민영보험은 사기업들이 경쟁한다는 설명도 맞습니다. 사회보험은
+  국민의 복지를 증진하기 위해 국가가 독점적으로 운영하는 것이 일반적입니다. 반면에 민영보험은 사기업들이 경쟁을 통해 운영됩니다. 따라서, 정답은
+  (A) 입니다.
+
+
+  질문: 조지와 윌딩(V. George & P. Wilding, 1976; 1994)의 사회복지모형에서 복지국가의 확대를 가장 지지하는 이념은?
+
+  A.신우파
+
+  B.반집합주의
+
+  C.마르크스주의
+
+  D.페이비언 사회주의
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 조지와 윌딩(V. George & P. Wilding,
+  1976; 1994)의 사회복지모형은 다음과 같이 4가지 이념으로 구성되어 있습니다. 1. 반집합주의(Anti-Collectivism): 개인주의에
+  기반하여 국가의 개입을 최소화하고 시장경제를 강조하며, 사회복지는 개인의 책임으로 간주합니다. 2. 소극적 집합주의(Reluctant Collectivism):
+  자유주의에 기반하여 국가 개입의 필요성은 인정하나, 최소한의 수준에 그쳐야 한다고 주장하며, 사회복지는 기본적인 욕구를 충족시키는 것으로 제한합니다.
+  3. 페이비언 사회주의(Fabian Socialism): 점진적 개혁을 추구하며, 국가의 적극적인 개입을 통해 평등과 사회적 정의를 실현하고자
+  합니다. 이를 위해 누진세, 사회보험 등의 정책을 지지합니다. 4. 마르크스주의(Marxism): 자본주의를 부정하고, 국가의 개입을 통해 평등한
+  사회를 구현하고자 하며, 이를 위해 생산수단의 공유화를 주장합니다. 이러한 이념들 중에서 복지국가의 확대를 가장 지지하는 이념은 페이비언 사회주의입니다.
+  페이비언 사회주의는 국가의 적극적인 개입을 통해 평등과 사회적 정의를 실현하고자 하며, 이를 위해 누진세, 사회보험 등의 정책을 지지합니다. 이러한
+  정책들은 복지국가의 확대를 뒷받침하는 중요한 요소들입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 사회복지정책의 원칙과 기능에 관한 설명으로 옳지 않은 것은?
+
+  A.소득을 재분배하는 기능을 한다.
+
+  B.능력에 비례한 배분을 원칙으로 한다.
+
+  C.경제의 자동안정화 기능을 한다.
+
+  D.국민의 최저생활을 보장하는 기능을 한다.
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 사회복지정책의 원칙과 기능에 대해 알아보겠습니다.
+  사회복지정책은 사회적 불평등을 해소하고, 모든 사람이 기본적인 생활을 유지할 수 있도록 지원하는 정책입니다. 이러한 정책은 국가나 지역 사회의
+  복지를 향상시키는 데 중점을 두고 있습니다. 선택지를 하나씩 살펴보겠습니다. (A) 소득을 재분배하는 기능을 한다. - 이는 사회복지정책의 주요
+  기능 중 하나입니다. 소득재분배를 통해 사회적 불평등을 해소하려는 목표를 가지고 있습니다. (B) 능력에 비례한 배분을 원칙으로 한다. - 이는
+  사회복지정책의 원칙과는 거리가 먼 개념입니다. 사회복지정책은 능력이 아닌 필요에 따라 지원을 하는 것이 원칙입니다. (C) 경제의 자동안정화 기능을
+  한다. - 이 역시 사회복지정책의 중요한 기능 중 하나입니다. 사회복지정책은 경제적 불안정을 완화하고, 경제의 안정화에 기여합니다. (D) 국민의
+  최저생활을 보장하는 기능을 한다. - 이 역시 사회복지정책의 중요한 기능입니다. 국민의 최저생활 보장은 사회복지정책의 핵심적인 목표입니다.  ,
+  사회복지정책의 원칙과 기능에 관한 설명으로 옳지 않은 것은 ''능력에 비례한 배분을 원칙으로 한다''는 (B) 선택지입니다. 이는 사회복지정책의
+  본질적인 목표와 원칙을 반영하지 못하고 있습니다. 사회복지정책은 능력이 아닌 필요에 따라 지원을 하는 것이 원칙이며, 이를 통해 사회적 불평등을
+  해소하고 모든 사람이 기본적인 생활을 유지할 수 있도록 지원하는 것이 목표입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 사회 복지 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_social_welfare
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_taxation.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_taxation.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..0248f108d6546a2ee3335a5541617d5493acd23b
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_taxation.yaml
@@ -0,0 +1,133 @@
+dataset_name: taxation
+doc_to_text: '질문: 지방세기본법 상 서류의 송달에 대한 설명으로 옳은 것은?
+
+  A.연대 납세의무자에게 대표자가 없으면 납세의 고지와 독촉에 관한 서류는 연대 납세의무자 중 지방세를 징수하기 유리한 자에게만 송달하여야 한다.
+
+  B.서류를 교부하였을 때에는 수령인이 서명 또는 날인을 거부하면 그 사실을 송달서에 적어야 한다.
+
+  C.서류의 송달을 받아야 할 자가 사전 반대한 경우가 아니면 전자 송달의 방식으로 서류를 송달할 수 있다.
+
+  D.서류를 송달받을 자가 주소, 거소, 사무소 및 영업소 외의 다른 장소를 송달받을 장소로 요청한 경우 그 장소에 송달하여야 한다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 연대 납세의무자에게 대표자가 없으면 납세의 고지와 독촉에
+  관한 서류는 연대 납세의무자 중 지방세를 징수하기 유리한 자에게만 송달하여야 한다는 설명은 옳지 않습니다. 연대납세의무자에게 대표자가 없으면 연대납세의무자
+  모두에게 서류를 송달해야 합니다. (B) 서류를 교부하였을 때에는 수령인이 서명 또는 날인을 거부하면 그 사실을 송달서에 적어야 한다는 설명은
+  옳은 설명입니다. 지방세기본법 제24조에 따르면 송달하는 서류에 수령인이 서명 또는 날인을 거부하면 그 사실을 송달서에 적어야 합니다. (C)
+  서류의 송달을 받아야 할 자가 사전에 반대한 경우가 아니면 전자 송달의 방식으로 서류를 송달할 수 있다는 설명은 옳지 않습니다. 서류의 송달을
+  받아야 할 자가 동의한 경우에만 전자송달을 할 수 있습니다. (D) 서류를 송달받을 자가 주소, 거소, 사무소 및 영업소 외의 다른 장소를 송달받을
+  장소로 요청한 경우 그 장소에 송달하여야 한다는 설명은 옳지 않습니다. 서류를 송달받을 자가 송달받을 장소를 지정한 경우에는 그 장소에 송달해야
+  하지만, 송달받을 장소를 지정하지 않은 경우에는 주소, 거소, 영업소 또는 사무소에 송달해야 합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 관세법상 통관의 통칙에 대한 설명으로 옳지 않은 것은?
+
+  A.세관장은 다른 법령에 따라 수입 후 특정한 용도로 사용하여야 하는 등의 의무가 부가되어 있는 물품에 대하여는 문서로써 해당의무를 이행할 것을
+  요구할 수 있다.
+
+  B.세관장은 관세 보전을 위하여 필요하다고 인정할 때에는 대통령령으로 정하는 바에 따라 수입하는 물품에 통관표지를 첨부할 것을 명할 수 있다.
+
+  C.관세청장이나 세관장은 감시에 필요하다고 인정될 때에는 통관역 ․통관장 또는 특정한 세관에서 통관할 수 있는 물품을 제한할 수 있다.
+
+  D.세관장은 외국 물품의 일시 양륙에 따라 일시적으로 육지에 내려진 외국 물품의 원산지가 우리나라로 허위표시된 물품 이더라도 유치할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 관세법상 통관의 통칙에 대한 설명으로 옳지 않은 것을 찾기
+  위해 각 선택지를 검토해보겠습니다. (A) 선택지는 "세관장은 다른 법령에 따라 수입 후 특정한 용도로 사용하여야 하는 등의 의무가 부가되어 있는
+  물품에 대하여는 문서로써 해당 의무를 이행할 것을 요구할 수 있다"는 내용을 담고 있습니다. 이는 관세법 제 227조에 명시되어 있으며, 세관장은
+  수입신고가 수리된 물품이 다른 법령에 따라 수입 후 특정 용도로 사용하거나 그 밖의 조건을 충족해야 하는 경우 해당 법령에서 정하는 바에 따라
+  필요한 조치를 할 수 있습니다.   (A) 선택지는 옳은 설명입니다. (B) 선택지는 "세관장은 관세 보전을 위하여 필요하다고 인정할 때에는 대통령령으로
+  정하는 바에 따라 수입하는 물품에 통관표지를 첨부할 것을 명할 수 있다"는 내용을 담고 있습니다. 이는 관세법 제228조에 명시되어 있으며, 세관장은
+  관세의 부과·징수를 위해 필요하다고 인정되면 수입신고 대상 물품에 통관표지를 첨부할 것을 명할 수 있습니다.   (B) 선택지도 옳은 설명입니다.
+  (C) 선택지는 "관세청장이나 세관장은 감시에 필요하다고 인정될 때에는 통관역 .통관장 또는 특정한 세관에서 통관할 수 있는 물품을 제한할 수
+  있다"는 내용을 담고 있습니다. 이는 관세법 제236조에 명시되어 있으며, 관세청장이나 세관장은 감시상 필요하다고 인정되면 통관역·통관장 또는
+  특정 세관에서 통관할 수 있는 물품을 제한할 수 있습니다.   (C) 선택지도 옳은 설명입니다. (D) 선택지는 "세관장은 외국 물품의 일시 양륙에
+  따라 일시적으로 육지에 내려진 외국 물품의 원산지가 우리나라로 허위표시된 물품 이더라도 유치할 수 없다"는 내용을 담고 있습니다. 그러나 이는
+  사실이 아닙니다. 관세법 제231조에 따르면, 세관장은 외국 물품이 원산지의 표시가 명확하지 아니하거나 그 밖에 대통령령으로 정하는 원산지표시의
+  요건을 갖추지 아니한 경우에는 그 외국 물품을 유치할 수 있습니다.   (D) 선택지는 옳지 않은 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 관세법령상 세액의 확정에 대한 설명으로 옳지 않은 것은?
+
+  A.납세의무자는 신고납부한 세액이 부족하다는 것을 알게 되었을 때에는 신고납부한 날부터 6개월 이내에 대통령령으로 정하는 바에 따라 해당 세액을
+  보정하여 줄 것을 세관장에게 신청할 수 있다.
+
+  B.납세의무자는 신고납부한 세액이 과다한 것을 알게 되었을 때에는 최초로 납세신고를 한 날부터 5년 이내에 대통령령으로 정하는 바에 따라 신고한
+  세액의 경정을 세관장에게 청구할 수 있다.
+
+  C.경정청구에 따른 세관장의 통지에 이의가 있는 청구인은 그 통지를 받은 날부터 2개월 이내에 관세청장에게 국세의 정상 가격과 관세의 과세가 격간의
+  조정을 신청할 수 있다.
+
+  D.세관장은 납세의무자가 납부하여야 하는 세액이 1만원 미만인 경우에는 이를 징수하지 아니한다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 내용을 분석해보겠습니다. (A) 선택지는
+  납세의무자가 신고납부한 세액이 부족하다는 것을 알게 되었을 때, 6개월 이내에 해당 세액을 보정하여 줄 것을 세관장에게 신청할 수 있다는 내용입니다.
+  이 내용은 관세법 제30조에 따라 납세의무자가 신고한 세액이 부족하다는 사실을 알게 된 경우, 그 부족한 세액을 보충납부할 수 있다는 규정이 있습니다.   이
+  선택지는 옳습니다. (B) 선택지는 납세의무자가 신고납부한 세액이 과다하다는 것을 알게 되었을 때, 5년 이내에 신고한 세액의 경정을 세관장에게
+  청구할 수 있다는 내용입니다. 이 내용은 관세법 제38조에 따라 납세의무자가 신고한 세액이 과다하다는 사실을 알게 된 경우, 그 과다한 세액의
+  반환을 청구할 수 있다는 규정이 있습니다.   이 선택지는 옳습니다. (C) 선택지는 경정청구에 따른 세관장의 통지에 이의가 있는 청구인이, 통지를
+  받은 날부터 2개월 이내에 관세청장에게 국세의 정상 가격과 관세의 과세가 격간의 조정을 신청할 수 있다는 내용입니다. 이 내용은 관세법 제38조의2에
+  따라 납세의무자가 세관장의 결정에 불복할 경우 이의신청을 할 수 있으며, 이의신청은 통지를 받은 날로부터 90일 이내에 하여야 합니다. 그러나
+  이 선택지에서는 ''2개월 이내''라고 명시하고 있어, 이 부분이 잘못된 정보입니다. (D) 선택지는 세관장이 납세의무자가 납부하여야 하는 세액이
+  1만원 미만인 경우에는 이를 징수하지 않는다는 내용입니다. 이 내용은 관세법 제29조에 따라 세액이 1만원 미만인 경우에는 징수하지 않는다는 규정이
+  있습니다.   이 선택지는 옳습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 관세법령상 기간과 기한에 대한 설명으로 옳은 것은?
+
+  A.관세법 에 따른 기간을 계산할 때 관세법 제252조(수입신고 수리 전반출)에 따른 수입신고 수리 전반 출 승인을 받은 경우에는 그승인 일을
+  수입신고의 수리일로 본다.
+
+  B.관세법 에 따른 기간의 계산은 관세법 에 특별한 규정이 있는 것을 제외하고는 민원처리에 관한 법률 에 따른다.
+
+  C.관세법 시행령 제1조의 5(월별 납부) 제2항의 규정에 의하여 월별 납부의 승인을 받은 납세의무자가 관세를 납부기한까지 납부하지 아니하는 때에는,
+  세관장은 월별 납부의 승인을 취소할 수 있다.
+
+  D.세관장은 관세법 제10조(천재지변 등으로 인한 기한의 연장)에 따라 납부기한을 연장하는 때에는 기획재정부 장관이 정하는 기준에 의하여야 하며,
+  납부자의 신청으로 납부기한을 연장하는 경우 관세법 제39조(부과고지)에 따른 납부고지를 생략할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 관세법령상 기간과 기한에 대한 설명으로 옳은 것을 찾기 위해서는
+  각 선택지를 검토해야 합니다. (A) 선택지는 관세법 제252조(수입신고 수리 전반출)에 따른 수입신고 수리 전반 출 승인을 받은 경우에는 그
+  승인 일을 수입신고의 수리일로 본다는 내용입니다. 이는 관세법령상 기간과 기한에 대한 설명으로 적절하므로, (A) 선택지는 정답일 가능성이 높습니다.
+  (B) 선택지는 관세법에 따른 기간의 계산은 관세법에 특별한 규정이 있는 것을 제외하고는 민원처리에 관한 법률에 따른다는 내용입니다. 이는 관세법령상
+  기간과 기한에 대한 설명으로 적절하지 않습니다.  , (B) 선택지는 정답이 아닙니다. (C) 선택지는 관세법 시행령 제1조의 5(월별 납부)
+  제2항의 규정에 의하여 월별 납부의 승인을 받은 납세의무자가 관세를 납부기한까지 납부하지 아니하는 때에는 세관장은 월별 납부의 승인을 취소할 수
+  있다는 내용입니다. 이는 관세법령상 기간과 기한에 대한 설명으로 적절하지 않으므로, (C) 선택지는 정답이 아닙니다. (D) 선택지는 세관장은
+  관세법 제10조(천재지변 등으로 인한 기한의 연장)에 따라 납부기한을 연장하는 때에는 기획재정부 장관이 정하는 기준에 의하여야 하며, 납부자의
+  신청으로 납부기한을 연장하는 경우 관세법 제39조(부과고지)에 따른 납부고지를 생략할 수 있다는 내용입니다. 이는 관세법령상 기간과 기한에 대한
+  설명으로 적절하지 않으므로, (D) 선택지는 정답이 아닙니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 관세법상 ‘정부용품 등의 면세’를 적용받을 수 있는 물품에 해당하지 않는 것은?
+
+  A.정보처리 기술을 응용한 공장 자동화기계 ․기구 ․설비 및 그 핵심 부분품으로서 기획재정부령으로 정하는 물품
+
+  B.과학기술 정보통신부 장관이 국가의 안전보장을 위하여 긴요하다고 인정하여 수입하는 비상통신용 물품
+
+  C.상수도 수질을 측정하기 위하 여 지방자치단체가 수입하는 물품으로서 기획재정부령으로 정하는 물품
+
+  D.국가정보원장이 국가의 안전보장 목적의 수행상 긴요하다고 인정하여 수입하는 물품
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 관세법상 ''정부용품 등의 면세''에 대해 알아보겠습니다.
+  ''정부용품 등의 면세''는 특정 목적을 위해 정부가 수입하는 물품에 대해 관세를 면제하는 것을 말합니다. 이는 국가의 공공적인 목적을 위해 수입하는
+  물품에 대한 경제적 부담을 줄이기 위한 조치입니다. 다음으로 각 선택지에 대해 분석해보겠습니다. (A) 선택지는 정보처리 기술을 응용한 공장 자동화기계
+  등의 물품으로, 기획재정부령으로 정하는 물품을 의미합니다. 해당 선택지의 경우에는 정보처리 기술을 응용한 공장 자동화기계 등의 물품이지만, 이
+  물품이 반드시 기획재정부령으로 정해진 특정 물품이어야 면세를 적용받을 수 있다는 점이 특이하게 보입니다.  , 이 선택지의 물품이 기획재정부령으로
+  정해진 특정 물품이 아닌 경우에는 면세를 적용받을 수 없을 것으로 판단됩니다. (B) 선택지는 과학기술 정보통신부 장관이 국가의 안전보장을 위해
+  긴요하다고 인정하여 수입하는 비상통신용 물품을 의미합니다. 이 또한 국가의 안전보장을 위해 필요한 물품이므로 면세 대상에 해당할 것으로 보입니다.
+  (C) 선택지는 상수도 수질을 측정하기 위해 지방자치단체가 수입하는 물품으로, 기획재정부령으로 정하는 물품을 의미합니다. 이는 공공의 안전과 건강을
+  위해 필요한 물품이므로 면세 대상에 해당할 것으로 보입니다. (D) 선택지는 국가정보원장이 국가의 안전보장 목적의 수행상 긴요하다고 인정하여 수입하는
+  물품을 의미합니다. 이 또한 국가의 안전보장을 위해 필요한 물품이므로 면세 대상에 해당할 것으로 보입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 세법 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_taxation
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_accounting.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_accounting.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..d7736e8d5b918f58ffc4dfa19e3e6bd6af898980
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_accounting.yaml
@@ -0,0 +1,3 @@
+dataset_name: Accounting
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_accounting
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_agricultural_sciences.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_agricultural_sciences.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5bf1fa4b56fdc58cd4219164cc90b11f50886bc1
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_agricultural_sciences.yaml
@@ -0,0 +1,3 @@
+dataset_name: Agricultural-Sciences
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_agricultural_sciences
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_aviation_engineering_and_maintenance.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_aviation_engineering_and_maintenance.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a9a621931a8f387085557e741fc5c22c9755cb7b
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_aviation_engineering_and_maintenance.yaml
@@ -0,0 +1,3 @@
+dataset_name: Aviation-Engineering-and-Maintenance
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_aviation_engineering_and_maintenance
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_biology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_biology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ebe1765b34a3fe774d45869552d0f69e80285896
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_biology.yaml
@@ -0,0 +1,3 @@
+dataset_name: Biology
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_biology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_chemistry.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_chemistry.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..edabfb67dd089798dcc001db737136e55eed0efe
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_chemistry.yaml
@@ -0,0 +1,3 @@
+dataset_name: Chemistry
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_chemistry
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_computer_science.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_computer_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..c546e738d68db7e281b5d70bbf9771bced6c1300
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_computer_science.yaml
@@ -0,0 +1,3 @@
+dataset_name: Computer-Science
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_computer_science
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_electronics_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_electronics_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..b45aa3083cb269c964b4beff2c48a9d1cfcc973c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_electronics_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: Electronics-Engineering
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_electronics_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_environmental_science.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_environmental_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1670ff16bae6d41096f2b9c86f8361455f4c347e
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_environmental_science.yaml
@@ -0,0 +1,3 @@
+dataset_name: Environmental-Science
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_environmental_science
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_fashion.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_fashion.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..aef8043aa4605573b074b96b711b6f321d179f44
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_fashion.yaml
@@ -0,0 +1,3 @@
+dataset_name: Fashion
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_fashion
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_food_processing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_food_processing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f49b087fc288187a9a3363260a17bda1a68ce9bb
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_food_processing.yaml
@@ -0,0 +1,3 @@
+dataset_name: Food-Processing
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_food_processing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_geomatics.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_geomatics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5d8dc70db5eabc1af2e29d3c8588dfb04b8dedb1
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_geomatics.yaml
@@ -0,0 +1,3 @@
+dataset_name: Geomatics
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_geomatics
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_health.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_health.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3f0d77eb78a61cd2b7b00b80311b59b011abc47e
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_health.yaml
@@ -0,0 +1,3 @@
+dataset_name: Health
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_health
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_industrial_engineer.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_industrial_engineer.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..39ea0bcf054c6dfef197beef942a16feffca338b
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_industrial_engineer.yaml
@@ -0,0 +1,3 @@
+dataset_name: Industrial-Engineer
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_industrial_engineer
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_interior_architecture_and_design.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_interior_architecture_and_design.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..842534aa0a4e87d6aa4bb43b0261b85b7e47676f
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_interior_architecture_and_design.yaml
@@ -0,0 +1,3 @@
+dataset_name: Interior-Architecture-and-Design
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_interior_architecture_and_design
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_korean_history.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_korean_history.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f1aa277a70d03a617e673c27bba1cc2d7440d156
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_korean_history.yaml
@@ -0,0 +1,3 @@
+dataset_name: Korean-History
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_korean_history
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_law.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_law.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..602f8982f6ca939766cf0d87f0546eef5a4452de
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_law.yaml
@@ -0,0 +1,3 @@
+dataset_name: Law
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_law
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_machine_design_and_manufacturing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_machine_design_and_manufacturing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..bfb923c2a9ac76515f3796a5a8c73770ed9fc586
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_machine_design_and_manufacturing.yaml
@@ -0,0 +1,3 @@
+dataset_name: Machine-Design-and-Manufacturing
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_machine_design_and_manufacturing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_management.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_management.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..7352a1360b2a0cb32a85e88351cccfad62c142d3
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_management.yaml
@@ -0,0 +1,3 @@
+dataset_name: Management
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_management
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_maritime_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_maritime_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..fa0c8f319f35d3343ec4cd5b3be8247fa8fe3e61
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_maritime_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: Maritime-Engineering
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_maritime_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_marketing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_marketing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..c3b524d853c19b9943c0e50bf8842632e8971344
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_marketing.yaml
@@ -0,0 +1,3 @@
+dataset_name: Marketing
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_marketing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_math.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_math.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..6c5d28af05edd5bb5c3c9207930c1994068ce1fe
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_math.yaml
@@ -0,0 +1,3 @@
+dataset_name: Math
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_math
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_mechanical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_mechanical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a253535adb6c44a8fa8340b106539205cbe6c689
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_mechanical_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: Mechanical-Engineering
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_mechanical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_nondestructive_testing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_nondestructive_testing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3b8dc7e7845394754ede20b72534fe889c7c564f
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_nondestructive_testing.yaml
@@ -0,0 +1,3 @@
+dataset_name: Nondestructive-Testing
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_nondestructive_testing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_patent.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_patent.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..2afff2c373a4e5a201a233de96d71baf6d980937
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_patent.yaml
@@ -0,0 +1,3 @@
+dataset_name: Patent
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_patent
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_political_science_and_sociology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_political_science_and_sociology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..2209abbf05d8f78017fdcdc6b4178d5c48a2305a
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_political_science_and_sociology.yaml
@@ -0,0 +1,3 @@
+dataset_name: Political-Science-and-Sociology
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_political_science_and_sociology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_psychology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_psychology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..140302d01f32ab5d0e55cfe01748659536a2262c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_psychology.yaml
@@ -0,0 +1,3 @@
+dataset_name: Psychology
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_psychology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_public_safety.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_public_safety.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5bb16a90d1f5303b919e8f348b3eb79a9f7cf296
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_public_safety.yaml
@@ -0,0 +1,3 @@
+dataset_name: Public-Safety
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_public_safety
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_railway_and_automotive_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_railway_and_automotive_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..2a13204a23bbb4be1de93fceb697cb37d8319ae6
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_railway_and_automotive_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: Railway-and-Automotive-Engineering
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_railway_and_automotive_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_real_estate.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_real_estate.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5a5202b65d8c9ba693f470e953b22ea3b721e84a
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_real_estate.yaml
@@ -0,0 +1,3 @@
+dataset_name: Real-Estate
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_real_estate
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_refrigerating_machinery.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_refrigerating_machinery.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..44f9e428bbd8d8c7eb33617a6498d2856a6e1c1a
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_refrigerating_machinery.yaml
@@ -0,0 +1,3 @@
+dataset_name: Refrigerating-Machinery
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_refrigerating_machinery
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_telecommunications_and_wireless_technology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_telecommunications_and_wireless_technology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f4d1fd05c876bf269c0aae1f3590f8801f7e9955
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_telecommunications_and_wireless_technology.yaml
@@ -0,0 +1,3 @@
+dataset_name: Telecommunications-and-Wireless-Technology
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_telecommunications_and_wireless_technology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_agricultural_sciences.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_agricultural_sciences.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..7348344468bf57bb54a15063d5e59483c17a22c1
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_agricultural_sciences.yaml
@@ -0,0 +1,3 @@
+dataset_name: agricultural_sciences
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_agricultural_sciences
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_biology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_biology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a7bc8417b030a06bfd2308384525e6a5b4dcacc4
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_biology.yaml
@@ -0,0 +1,3 @@
+dataset_name: biology
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_biology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..063974afd2f1ba984722043d50b6c4aaabbc1323
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemical_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: chemical_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_chemical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemistry.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemistry.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..371db7bfbffb6dfee72baf0482be6d2acea883e4
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_chemistry.yaml
@@ -0,0 +1,3 @@
+dataset_name: chemistry
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_chemistry
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_civil_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_civil_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ba2c23b2d1866b4b0dfe71304758e26e94a42a89
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_civil_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: civil_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_civil_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_computer_science.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_computer_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..2a388ff474281c525b8e674f204376c16e522641
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_computer_science.yaml
@@ -0,0 +1,3 @@
+dataset_name: computer_science
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_computer_science
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_construction.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_construction.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..faab391b9012efdf167a43105649313cb46a1c47
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_construction.yaml
@@ -0,0 +1,3 @@
+dataset_name: construction
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_construction
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_education.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_education.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9c90432fe26075d1c14f84f5765f8e3198deb2ed
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_education.yaml
@@ -0,0 +1,3 @@
+dataset_name: education
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_education
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electrical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electrical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..780dad2268fc86c7eb5b590764fd4859997dc7a0
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electrical_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: electrical_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_electrical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electronics_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electronics_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..e01781549fd0bf1982b895ba2041c3d6f9ec9644
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_electronics_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: electronics_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_electronics_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_environmental_science.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_environmental_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..de511a09f02c411dedba2ac816a34c11b6805caa
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_environmental_science.yaml
@@ -0,0 +1,3 @@
+dataset_name: environmental_science
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_environmental_science
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_food_processing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_food_processing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..e48143d2c3bc7a69db87ac5d68f4a8951c1d391d
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_food_processing.yaml
@@ -0,0 +1,3 @@
+dataset_name: food_processing
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_food_processing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_gas_technology_and_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_gas_technology_and_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..eb5211ad857bfe99cc41062f21b8c47d008c3c64
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_gas_technology_and_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: gas_technology_and_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_gas_technology_and_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_geomatics.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_geomatics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..a25f3c1a7eefe75cd11ce6d45f62ab898f30922b
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_geomatics.yaml
@@ -0,0 +1,3 @@
+dataset_name: geomatics
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_geomatics
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_machine_design_and_manufacturing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_machine_design_and_manufacturing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..73665b1bc0721e918c06ecc7b4256aceda23f704
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_machine_design_and_manufacturing.yaml
@@ -0,0 +1,3 @@
+dataset_name: machine_design_and_manufacturing
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_machine_design_and_manufacturing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_marketing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_marketing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..37d62bb1bad3e89181247bc4dfa0d8b9d4abbaaf
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_marketing.yaml
@@ -0,0 +1,3 @@
+dataset_name: marketing
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_marketing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_materials_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_materials_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..c1e2645c2b68fb818df88b589c6bc3c87e2fa4ca
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_materials_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: materials_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_materials_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_math.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_math.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f5f3373a8aee37d793e49693b53a5c6bd514cb78
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_math.yaml
@@ -0,0 +1,3 @@
+dataset_name: math
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_math
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_political_science_and_sociology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_political_science_and_sociology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..8a5d96b6000a27ff3631fbf4c42b89ea3a41fc9a
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_political_science_and_sociology.yaml
@@ -0,0 +1,3 @@
+dataset_name: political_science_and_sociology
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_political_science_and_sociology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_railway_and_automotive_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_railway_and_automotive_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..0eb534e579c125e2e9951443649a5fbc084da47f
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_railway_and_automotive_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: railway_and_automotive_engineering
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_railway_and_automotive_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_real_estate.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_real_estate.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9c3df599ee0bae86ec979fabd1b3b118c3034c08
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_real_estate.yaml
@@ -0,0 +1,3 @@
+dataset_name: real_estate
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_real_estate
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_refrigerating_machinery.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_refrigerating_machinery.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f62e8e9559fb0f0cb8795afd7027093b65d822f1
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_refrigerating_machinery.yaml
@@ -0,0 +1,3 @@
+dataset_name: refrigerating_machinery
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_refrigerating_machinery
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_social_welfare.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_social_welfare.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ad4dc2cf373aab0a4ee7e56c9e5ec66b5cd7bcec
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_social_welfare.yaml
@@ -0,0 +1,3 @@
+dataset_name: social_welfare
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_social_welfare
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_taxation.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_taxation.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..445ab693d6a3064ea35a169d2d7327f6f0942687
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_taxation.yaml
@@ -0,0 +1,3 @@
+dataset_name: taxation
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_taxation
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_telecommunications_and_wireless_technology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_telecommunications_and_wireless_technology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..498b2fb2d661089325953ea8de407e08fb9d4934
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct_hard/kmmlu_direct_hard_telecommunications_and_wireless_technology.yaml
@@ -0,0 +1,3 @@
+dataset_name: telecommunications_and_wireless_technology
+include: _direct_hard_kmmlu_yaml
+task: kmmlu_hard_direct_telecommunications_and_wireless_technology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_chemical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_chemical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..8fc448a81ab4d883e1e7fe6456d5371541356f1e
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_chemical_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: chemical_engineering
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_chemical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_ecology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_ecology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..6542c1eef98cbb3080777ed7583d19c7b71659ee
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_ecology.yaml
@@ -0,0 +1,3 @@
+dataset_name: ecology
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_ecology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_environmental_science.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_environmental_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..d7f32dc5b518796f78896eec6fdd2e1dbf3d2b83
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_environmental_science.yaml
@@ -0,0 +1,3 @@
+dataset_name: environmental_science
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_environmental_science
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_food_processing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_food_processing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..138920efbc29906fd6975b29c9107f6fa80bceda
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_food_processing.yaml
@@ -0,0 +1,3 @@
+dataset_name: food_processing
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_food_processing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_industrial_engineer.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_industrial_engineer.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..d3cbef78bfe12d8ac674972b6ae9ebab0ce5ff67
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_industrial_engineer.yaml
@@ -0,0 +1,3 @@
+dataset_name: industrial_engineer
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_industrial_engineer
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_materials_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_materials_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..4582b0f3b407a9f11a960826104c3aac196e7177
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_materials_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: materials_engineering
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_materials_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_political_science_and_sociology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_political_science_and_sociology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..6bb907cb10792070f6043eeeed8f629cd503cbe9
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_political_science_and_sociology.yaml
@@ -0,0 +1,3 @@
+dataset_name: political_science_and_sociology
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_political_science_and_sociology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_psychology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_psychology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..c79cef1f1c2b776fe20f95acd6bf80703a6f48af
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_psychology.yaml
@@ -0,0 +1,3 @@
+dataset_name: psychology
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_psychology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_railway_and_automotive_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_railway_and_automotive_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..31b610f75ea9c23ff71a375c3396d8cfa695517d
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_railway_and_automotive_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: railway_and_automotive_engineering
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_railway_and_automotive_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_real_estate.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_real_estate.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..bd1b32c85885bdb7530bb80857e0da2ee0797136
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_real_estate.yaml
@@ -0,0 +1,3 @@
+dataset_name: real_estate
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_real_estate
diff --git a/lm-evaluation-harness/wandb/run-20240606_045127-vb760voe/run-vb760voe.wandb b/lm-evaluation-harness/wandb/run-20240606_045127-vb760voe/run-vb760voe.wandb
new file mode 100644
index 0000000000000000000000000000000000000000..05eb43c49f86afd720446cdc9cc523d736771874
--- /dev/null
+++ b/lm-evaluation-harness/wandb/run-20240606_045127-vb760voe/run-vb760voe.wandb
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:059dc3578b2833dac22e9d7560c31272241160ff5de9bb7b3bcc90c0c08df57f
+size 1303745