diff --git a/ckpts/universal/global_step20/zero/21.mlp.dense_h_to_4h.weight/exp_avg.pt b/ckpts/universal/global_step20/zero/21.mlp.dense_h_to_4h.weight/exp_avg.pt
new file mode 100644
index 0000000000000000000000000000000000000000..781090d3d86736cc8d07e08e13b811b9b8401991
--- /dev/null
+++ b/ckpts/universal/global_step20/zero/21.mlp.dense_h_to_4h.weight/exp_avg.pt
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:34cbf8a37fda4353c0e0b959e2fed45bee461a8dfea8f67aac55f7124f1b775c
+size 33555612
diff --git a/ckpts/universal/global_step20/zero/26.mlp.dense_4h_to_h.weight/exp_avg.pt b/ckpts/universal/global_step20/zero/26.mlp.dense_4h_to_h.weight/exp_avg.pt
new file mode 100644
index 0000000000000000000000000000000000000000..c46bb3516f9b4c9da8b57570b7b7f6b46fdff86b
--- /dev/null
+++ b/ckpts/universal/global_step20/zero/26.mlp.dense_4h_to_h.weight/exp_avg.pt
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f69c93d8bd3231fe6637df3db7e3349cc89bfdbe7c5b3783923c051cb844f7f6
+size 33555612
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_accounting.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_accounting.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..5e9b90e0e7df00150cde95b820d84725c3045b62
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_accounting.yaml
@@ -0,0 +1,113 @@
+dataset_name: accounting
+doc_to_text: '질문: 수정 전 잔액시산표의 차변 합계액은 ￦1,000,000이다. 보험료 미경과액 ￦30,000과 이자수익 미수액 ￦20,000을
+  계상한 후의 수정 후 잔액시산표 차변 합계액은 얼마인가?
+
+  A.￦970,000
+
+  B.￦990,000
+
+  C.￦1,020,000
+
+  D.￦1,050,000
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 주어진 문제는 수정 후 시산표의 합계에 영향을 주는 요소와
+  주지 않는 요소를 구분하고 이해하는 문제입니다. 이 경우, 보험료 미경과액과 이자수익 미수액이 추가되었습니다. 보험료 미경과액은 차변에 계상되어
+  있는 보험료(비용)을 감소 하면서 자산계정인 선급보험료가 동일금액이 차변에 증가하므로 영향을 주지 않습니다. 다음으로 이자수익 미수액 ￦20,000은
+  아직 받지 않은 이자를 의미합니다. 이자미수액은 잔액시산표에서 차변에 기록됩니다.  , 원래의 차변 합계액 ￦1,000,000에 이자수익 미수액
+  ￦20,000을 더하면, 수정 후의 차변 합계액은 ￦1,020,000이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 제조업을 영위하는 (주)상공이 결산 시 이자비용 미지급분에 대한 거래를 누락하였을 경우 재무제표에 미치는 영향으로 옳은 것은?
+
+  A.매출총이익이 과소계상된다.
+
+  B.영업이익이 과대계상된다.
+
+  C.비유동부채가 과소계상된다.
+
+  D.당기순이익이 과대계상된다.
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이자비용 미지급분이란, 회사가 이자를 지급해야 하지만
+  아직 지급하지 않은 금액을 말합니다. 이는 기업의 부채로 간주되며, 이를 누락하게 되면 회계상의 문제가 발생할 수 있습니다. (A) 선택지의 매출총이익은
+  판매액에서 제조비용을 뺀 금액으로, 이자비용과는 직접적인 관련이 없습니다.   이자비용 미지급분을 누락하였다고 해서 매출총이익이 과소계상되는 것은
+  아닙니다. (B) 선택지의 영업이익은 매출총이익에서 판매비와 관리비를 뺀 금액입니다. 이자비용은 판매비나 관리비에 포함되지 않으므로, 이자비용
+  미지급분을 누락하였다고 해서 영업이익이 과대계상되는 것은 아닙니다. (C) 선택지의 비유동부채는 장기적으로 변제해야 하는 부채를 말합니다. 이자비용
+  미지급분은 단기적으로 변제해야 하는 부채로 간주될 수 있으나, 이를 누락하게 되면 전체 부채가 과소계상되는 결과를 초래할 수 있습니다. (D)
+  선택지의 당기순이익은 수익에서 모든 비용을 뺀 금액입니다. 이자비용 미지급분을 누락하게 되면 이자비용이 과소계상되어 당기순이익이 과대계상되는 결과를
+  초래할 수 있습니다.  , 이자비용 미지급분을 누락하였을 경우, 비유동부채와 당기순이익에 영향을 미칠 수 있습니다. 하지만, 주어진 선택지 중에서는
+  비유동부채가 아닌 당기순이익이 과대계상되는 것이 더 정확한 표현일 것입니다. 이는 이자비용이 누락되었을 때 비용이 과소계상되므로 순이익이 과대계상되기
+  때문입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 현금및현금성자산에 대한 설명으로 옳지 않은 것은?
+
+  A.현금성자산은 단기의 현금수요를 충족하기 위한 목적으로 보유한다.
+
+  B.현금성자산으로 분류되기 위해서는 확정된 금액이 현금으로의 전환이 용이하고, 가치변동의 위험이 경미하여야 한다.
+
+  C.취득당시 장기로 분류되었던 국ㆍ공채 중 결산일 현재 만기일이 3개월 이내인 국·공채를 현금성자산으로 분류한다.
+
+  D.상환일이 정해져 있고 취득일로부터 상환일까지 기간이 3개월 이내인 우선주의 경우 현금성자산으로 처리한다.
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 현금성자산은 단기의 현금수요를 충족하기 위한 목적으로
+  보유하는 자산으로, 큰 거래비용 없이 현금으로 전환이 용이하고, 이자율 변동에 따른 가치 변동의 위험이 크지 않은 금융상품으로서, 취득 당시 만기일
+  또는 상환일이 3개월 이내인 것을 말합니다. (A)는 현금성자산의 정의와 일치하므로 옳은 설명입니다. (B)도 현금성자산의 분류 기준을 설명하고
+  있으므로 옳은 설명입니다. (C)의 경우, 취득당시 장기로 분류되었던 국ᆞ공채 중 결산일 현재 만기일이 3개월 이내인 국·공채는 단기금융상품으로
+  분류됩니다.   이 설명은 옳지 않습니다. (D)의 경우, 상환일이 정해져 있고 취득일로부터 상환일까지 기간이 3개월 이내인 우선주의 경우 현금성자산으로
+  처리할 수 있습니다.   이 설명도 옳은 설명입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 금융자산과 금융부채에 속하는 항목으로 바르게 나타낸 것은?
+
+  A.(금융자산) 선급금, (금융부채) 미지급비용
+
+  B.(금융자산) 미수금, (금융부채) 선수금
+
+  C.(금융자산) 단기대여금, (금융부채) 장기차입금
+
+  D.(금융자산) 재고자산, (금융부채) 선수수익
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 금융자산과 금융부채는 기업이 자금을 조달하고 운용하는 과정에서
+  발생하는 자산과 부채를 말합니다. 이 때, 금융자산은 기업이 보유하고 있는 자산 중에서 현금이나 현금성자산으로 전환이 용이하고, 가치변동의 위험이
+  상대적으로 작은 자산을 말합니다. 반면에 금융부채는 기업이 상환해야 할 의무가 있는 부채 중에서 금융기관으로부터 차입한 차입금이나 사채 등을 말합니다.
+  각 선택지를 살펴 보겠습니다. (A) 선급금은 상품이나 원재료 등을 매입하기 위해 미리 지급한 금액으로, 금융자산이 아닌 재고자산으로 분류됩니다.
+  미지급비용은 이미 발생한 비용 중에서 아직 지급하지 않은 금액으로, 금융부채가 아닌 부채로 분류됩니다. (B) 미수금은 상품이나 제품 등을 판매하고
+  아직 받지 못한 금액으로, 금융자산에 해당됩니다. 선수금은 상품이나 제품 등을 주문받고 미리 받은 금액으로, 금융부채가 아닌 부채로 분류됩니다.
+  (C) 단기대여금은 상대방에게 대여한 금액 중에서 1년 이내에 회수할 예정인 금액으로, 금융자산에 해당됩니다. 장기차입금은 금융기관으로부터 차입한
+  차입금 중에서 1년 이후에 상환할 예정인 금액으로, 금융부채에 해당됩니다. (D) 재고자산은 기업이 판매를 목적으로 보유하고 있는 상품이나 제품,
+  원재료 등을 말합니다. 선수수익은 고객으로부터 미리 받은 수익 중에서 아직 제공하지 않은 용역에 대한 대가로, 부채에 해당됩니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 전기 말에 상품재고액 \560,000을 \650,000으로 잘못 계상한 경우, 당기의 매출원가와 당기순이익에 미치는 영향으로 옳은 것은?
+  (단, 재고자산 평가는 실지재고조사법을 적용 한다.)
+
+  A.(매출원가) 과대, (당기순이익) 과소
+
+  B.(매출원가) 과대, (당기순이익) 과대
+
+  C.(매출원가) 과소, (당기순이익) 과소
+
+  D.(매출원가) 과소, (당기순이익) 과대
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 매출원가와 당기순이익에 대해 이해해야 합니다. 매출원가는
+  판매된 상품을 생산하는 데 들어간 비용을 의미하며, 당기순이익은 매출에서 모든 비용을 뺀 순수익을 의미합니다. 상품재고액을 과대 계상한 경우,
+  이는 회사가 실제로 보유하고 있는 재고보다 더 많은 재고를 보유하고 있다고 잘못 표시한 것을 의미합니다. 이는 재고자산의 가치를 과대평가한 것이므로,
+  이에 따른 비용(매출원가) 역시 과대 계상됩니다. 매출원가가 과대 계상되면, 매출에서 매출원가를 뺀 이익인 당기순이익은 과소 계상됩니다. 왜냐하면
+  매출원가가 더 높아지면 이익은 줄어들기 때문입니다.  , 상품재고액을 과대 계상한 경우 매출원가는 과대 계상되고, 당기순이익은 과소 계상됩니다.
+  ''따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 회계학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_accounting
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_agricultural_sciences.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_agricultural_sciences.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9f953507028efffa6fc09eb295276bfed28ad003
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_agricultural_sciences.yaml
@@ -0,0 +1,113 @@
+dataset_name: agricultural_sciences
+doc_to_text: '질문: 지하발아형 종자가 아닌 것은?
+
+  A.콩
+
+  B.완두
+
+  C.보리
+
+  D.옥수수
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 지하발아형(상배축신장형) 종자는 배유종자와 무배유종자로
+  나눌 수 있습니다. 배유종자에는 벼, 보리, 밀, 귀리, 옥수수가 포함되며, 무배유종자에는 완두, 잠두, 팥, 상추가 포함됩니다. 하지만 콩은
+  지하발아형 종자가 아니라 지상발아형 종자입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 종자의 습윤저온층적(濕潤低溫層積) 저장 설명으로 가장 적합한 것은?
+
+  A.습한 자루에 3∼6 ℃에서 1∼2주 처리
+
+  B.습한 모래에 1∼10 ℃에서 3∼4주 처리
+
+  C.습한 진흙에 2∼9 ℃에서 2∼3주 처리
+
+  D.습한 짚 속에 6∼10 ℃에서 1∼2주 처리
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 종자의 습윤저온층적(濕潤低溫層積)이란, 일정한 기간 동안
+  종자를 습하고 저온의 환경에서 보관하여 종자 내부의 생리적, 생화학적 변화를 일으키는 처리 방법을 말합니다. 이는 종자의 발아를 촉진하거나 동조화시키는
+  데 사용됩니다. 먼저 각 선택지에 대해 검토해보겠습니다. (A) 선택지는 습한 자루에 3∼6 ℃에서 1∼2주 처리하는 방법을 제시하고 있습니다.
+  이 방법은 습윤저온층적에 필요한 습도와 저온을 제공할 수 있지만, 종자의 종류에 따라 처리 기간이 충분하지 않을 수 있습니다. (B) 선택지는
+  습한 모래에 1∼10 ℃에서 3∼4주 처리하는 방법을 제시하고 있습니다. 이 방법은 습윤저온층적에 필요한 습도와 저온을 제공하며, 처리 기간도
+  상대적으로 길어 종자의 변화를 촉진시키는 데 충분할 수 있습니다. (C) 선택지는 습한 진흙에 2∼9 ℃에서 2∼3주 처리하는 방법을 제시하고
+  있습니다. 이 방법은 습윤저온층적에 필요한 습도와 저온을 제공하지만, 진흙은 종자에 부적절한 압력을 가하거나 종자를 손상시킬 수 있습니다. (D)
+  선택지는 습한 짚 속에 6∼10 ℃에서 1∼2주 처리하는 방법을 제시하고 있습니다. 이 방법은 습윤저온층적에 필요한 습도를 제공할 수 있지만,
+  온도 범위가 상대적으로 높고 처리 기간이 짧아 종자의 변화를 촉진시키는 데 충분하지 않을 수 있습니다.  , 종자의 습윤저온층적 저장 설명으로
+  가장 적합한 것은 습한 모래에 1∼10 ℃에서 3∼4주 처리하는 방법인 (B) 선택지일 것으로 보입니다. 이 방법은 습윤저온층적에 필요한 조건을
+  충족시키며, 처리 기간도 종자의 변화를 촉진시키는 데 충분합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 옥수수 복교잡종의 특징이 아닌 것은?
+
+  A.종자값이 저렴하다.
+
+  B.여러 환경조건에 대한 완충능력이 있다.
+
+  C.개화기간이 길어 다른 교잡종보다 수분기회가 많아 이삭이 충실해진다.
+
+  D.불량 환경조건일 때 종자의 균일도가 단교잡종이나 삼원교잡종 종자보다 낮다.
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 옥수수 복교잡종의 특징에 대해 알아보겠습니다.
+  복교잡종은 두 개의 서로 다른 교잡종을 교배하여 만든 품종으로, 다양한 환경 조건에 대한 완충 능력이 있고, 개화 기간이 길어 다른 교잡종보다
+  수분 기회가 많아 이삭이 충실해지는 특징이 있습니다. 선택지를 하나씩 살펴보겠습니다. (A) 종자값이 저렴하다. - 복교잡종은 두 개의 교잡종을
+  교배하여 만들기 때문에, 단교잡종이나 삼원교잡종에 비해 종자값이 저렴할 수 있습니다. (B) 여러 환경조건에 대한 완충능력이 있다. - 복교잡종은
+  다양한 환경 조건에 대한 완충 능력이 있어, 불량 환경 조건에서도 비교적 높은 생산량을 유지할 수 있습니다. (C) 개화기간이 길어 다른 교잡종보다
+  수분기회가 많아 이삭이 충실해진다. - 복교잡종은 개화 기간이 길어 다른 교잡종보다 수분 기회가 많기 때문에 이삭이 충실해지는 특징이 있습니다.
+  (D) 불량 환경조건일 때 종자의 균일도가 단교잡종이나 삼원교잡종 종자보다 낮다. - 불량 환경 조건에서는 복교잡종의 종자 균일도가 단교잡종이나
+  삼원교잡종 종자보다 낮을 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 완두 종자를 AㆍB 창고에 보관한 후 전기전도도 조사를 실시한 결과, A창고에 보관한 완 두 종자의 침출액이 더 많았다. 종자퇴화는 어느
+  것이 더 진전되었는가?
+
+  A.OPTION창고 완두 종자가 더 퇴화되었다.
+
+  B.OPTION창고 완두 종자가 더 퇴화되었다.
+
+  C.OPTION창고와 OPTION창고 완두 종자의 퇴화는 똑같다.
+
+  D.비교할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 완두 종자의 퇴화와 전기전도도 조사의 관계를 이해해야
+  합니다. 종자의 퇴화는 씨앗의 생명력이나 발아력이 감소하는 현상을 말합니다. 이는 보관 상태, 온도, 습도 등 여러 요인에 의해 영향을 받습니다.
+  전기전도도 조사는 종자의 퇴화 정도를 판단하는 데 널리 사용되는 방법 중 하나입니다. 이 방법은 종자에서 침출된 이온의 양을 측정하여 종자의 생체막
+  손상 정도를 판단하는 방법입니다. 즉, 전기전도도가 높으면 종자에서 많은 양의 이온이 침출되었음을 의미하며, 이는 종자의 생체막이 손상되었음을
+  나타냅니다.  , A창고에 보관한 완두 종자의 침출액이 더 많았다는 것은 전기전도도가 높았음을 의미하며, 이는 A창고의 완두 종자가 더 많은 생체막
+  손상을 입었음을 나타냅니다. 이는 A창고의 완두 종자가 더 많이 퇴화되었음을 의미합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 우량종자를 생산하는 방법으로 잘못된 것은?
+
+  A.격리재배를 통하여 이종의 혼입을 막는다.
+
+  B.무병지에서 채종한다.
+
+  C.감자의 바이러스 병을 막기 위해 평지에서 채종한다.
+
+  D.벼 종자는 평야지보다 분지에서 생산된 것이 임실이 좋아서 종자가치가 높다.
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 이해를 해보겠습니다. (A) 선택지는
+  우량종자를 생산하는 방법 중 하나로 격리재배를 통해 이종의 혼입을 막는 방법을 말합니다. 이는 종자의 품질을 보장하기 위해 필요한 과정이므로 올바른
+  방법입니다. (B) 선택지는 무병지에서 채종하는 방법을 말합니다. 무병지는 병원균이 없는 땅을 의미하며, 병원균이 없는 상태에서 채종을 하면 병에
+  강한 우량종자를 얻을 수 있으므로 이 역시 올바른 방법입니다. (C) 선택지는 감자의 바이러스 병을 막기 위해 평지에서 채종한다는 내용입니다.
+  감자는 바이러스 병에 취약한 식물로 알려져 있습니다. 하지만 그것이 평지에서 채종을 해야 한다는 것과 직접적인 연관성은 없습니다. 감자의 바이러스
+  병 예방은 주로 바이러스 자체를 통제하거나, 바이러스에 강한 품종을 선택하는 것 등이 중요하다고 알려져 있습니다. (D) 선택지는 벼 종자는 평야지보다
+  분지에서 생산된 것이 임실이 좋아서 종자가치가 높다는 내용입니다. 벼는 물을 많이 필요로 하는 식물로, 일반적으로 물이 잘 공급되는 분지에서 재배되는
+  것이 좋다고 알려져 있습니다.   이 역시 올바른 방법입니다.  , 각 선택지를 분석한 결과 (C) 선택지인 ''감자의 바이러스 병을 막기 위해
+  평지에서 채종한다.''가 가장 잘못된 방법으로 보입니다. 이는 감자의 바이러스 병 예방과 평지에서의 채종 사이에 직접적인 연관성이 없기 때문입니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 농업 과학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_agricultural_sciences
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_aviation_engineering_and_maintenance.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_aviation_engineering_and_maintenance.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..e7e9c089c9cfd05b0839a65ec90af2da9607f1ab
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_aviation_engineering_and_maintenance.yaml
@@ -0,0 +1,120 @@
+dataset_name: aviation_engineering_and_maintenance
+doc_to_text: '질문: 수평 등속도로 비행하는 항공기에 작용하는 공기력에 대한 설명으로 옳은것은?
+
+  A.추력이 항력보다 크다.
+
+  B.추력과 항력은 같다.
+
+  C.양력이 비행기의 무게보다 크다.
+
+  D.양력이 비행기의 무게보다 작다.
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 항공기가 수평 등속도로 비행하려면 모든 힘이 균형을
+  이루어야 합니다. 이는 뉴턴의 제1법칙, 즉 ''힘이 작용하지 않는 물체는 휴면 상태에서 계속 휴면 상태를 유지하거나, 균일한 속도로 직선 운동을
+  계속한다''에 따릅니다.  , 항공기가 수평 등속도로 비행하려면 다음 두 가지 조건이 충족되어야 합니다. 1. 추력과 항력이 같아야 합니다. 추력은
+  엔진에서 나오는 힘으로 항공기를 전진시키고, 항력은 항공기가 공기를 통과하면서 겪는 저항입니다. 이 두 힘이 균형을 이루어야 항공기는 직선으로
+  일정한 속도로 비행할 수 있습니다. 2. 양력과 무게가 같아야 합니다. 양력은 항공기의 날개가 생성하는 힘으로 위로 작용하고, 무게는 중력으로
+  아래로 작용합니다. 이 두 힘이 균형을 이루어야 항공기는 수평 비행을 유지할 수 있습니다. 선택지를 살펴보면, (A). 추력이 항력보다 크다.
+  - 이 경우, 항공기는 가속하게 됩니다.  , 이는 수평 등속도 비행과는 맞지 않습니다. (B). 추력과 항력은 같다. - 이는 수평 등속도 비행에
+  필요한 조건 중 하나입니다. (C). 양력이 비행기의 무게보다 크다. - 이 경우, 항공기는 상승하게 됩니다.  , 이는 수평 등속도 비행과는
+  맞지 않습니다. (D). 양력이 비행기의 무게보다 작다. - 이 경우, 항공기는 하강하게 됩니다.  , 이는 수평 등속도 비행과는 맞지 않습니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 헬리콥터 비행시 역풍지역이 가장 커지게 되는 비행 상태는?
+
+  A.정지비행
+
+  B.상승가속비행
+
+  C.자동회전비행
+
+  D.전진가속비행
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 헬리콥터의 비행 상태는 주로 로터의 회전과 헬리콥터의
+  속도에 따라 결정됩니다. 헬리콥터의 역풍지역은 주로 로터 블레이드가 후진하는 영역을 말하며, 이 영역은 헬리콥터의 속도에 크게 영향을 받습니다.
+  (A) 정지비행에서는 헬리콥터가 고정된 위치에서 공중에 머무르는 상태를 말합니다. 이 상태에서는 로터 블레이드가 공기를 밀어내어 상승력을 생성하며,
+  헬리콥터는 정지 상태에 있기 때문에 전방으로의 속도는 없습니다.   역풍지역은 상대적으로 작을 것입니다. (B) 상승가속비행에서는 헬리콥터가 위로
+  상승하면서 동시에 속도를 높이는 상태를 말합니다. 이 상태에서는 로터 블레이드가 공기를 밀어내어 상승력을 생성하고, 동시에 전방으로 가속하면서
+  속도를 높입니다.   역풍지역은 증가할 것입니다. (C) 자동회전비행에서는 엔진의 동력을 잃었을 때 로터 블레이드가 자유회전하면서 헬리콥터를 지탱하는
+  상태를 말합니다. 이 상태에서는 로터 블레이드의 회전이 공기 저항에 의해 유지되므로 역풍지역은 상대적으로 작을 것입니다. (D) 전진가속비행에서는
+  헬리콥터가 전방으로 속도를 높이는 상태를 말합니다. 이 상태에서는 헬리콥터의 전진 속도가 증가하므로, 로터 블레이드가 후진하는 영역인 역풍지역은
+  더욱 커질 것입니다. 이는 로터 블레이드의 한쪽이 전진하고 다른 한쪽이 후진하면서 생기는 디스크의 회전에 따른 현상입니다.   전진가속비행 상태에서
+  역풍지역이 가장 커질 것으로 예상됩니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: A,B,C 3대의 비행기가 각각 10000m, 5000m, 1000m 의 고도에서 동일한 속도로 비행하고 있다. 각 비행기의 마하계가 지시하는
+  마하수의 크기를 비교한 것으로 옳은 것은?
+
+  A.OPTION < OPTION < OPTION
+
+  B.OPTION > OPTION > OPTION
+
+  C.OPTION > OPTION > OPTION
+
+  D.OPTION = OPTION = OPTION
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 마하수는 속도를 음속으로 나눈 값으로, 비행기의 속도를
+  측정하는 데 사용되는 단위입니다. 그러나 마하수는 고도에 따라 변하게 됩니다. 왜냐하면 대기의 밀도가 고도에 따라 변하기 때문입니다. 고도가 높아질수록
+  대기의 밀도가 낮아지고,   음속이 줄어들게 됩니다. 이로 인해 동일한 속도로 비행하는 비행기의 마하수는 고도가 높아질수록 커지게 됩니다. 즉,
+  고도가 높은 A 비행기의 마하수가 가장 크고, 그 다음은 B, 마지막으로 가장 낮은 고도에서 비행하는 C 비행기의 마하수가 가장 작을 것입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 비행기 날개의 양력에 관한 설명으로 틀린 것은?
+
+  A.양력은 날개 면적에 비례한다.
+
+  B.양력은 유체의 밀도에 비례한다.
+
+  C.양력은 날개의 무게에 비례한다.
+
+  D.양력은 비행기 속도제곱에 비례한다.
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 양력은 비행기가 하늘을 날 수 있게 하는 중요한
+  힘입니다. 양력은 베르누이의 원리에 기반하여 생성되며, 이는 유체가 빠르게 움직일수록 그 유체의 압력이 낮아지는 원리를 설명합니다. 이 원리에
+  따르면, 비행기의 날개는 위쪽 표면(상부)이 아래쪽 표면(하부)보다 길게 설계되어 있어, 공기가 상부를 통과하는데 더 많은 시간이 소요됩니다.  ,
+  날개 상부의 공기 압력은 날개 하부의 공기 압력보다 낮아지며, 이 차이로 인해 양력이 발생합니다. 이제 선택지를 하나씩 살펴보겠습니다. (A)
+  양력은 날개 면적에 비례한다: 이는 맞는 말입니다. 날개의 면적이 클수록 더 많은 공기를 밀어내고,   더 큰 양력을 생성할 수 있습니다. (B)
+  양력은 유체의 밀도에 비례한다: 이 역시 맞는 말입니다. 유체(여기서는 공기)의 밀도가 높을수록, 날개는 더 많은 양력을 생성할 수 있습니다.
+  (D) 양력은 비행기 속도제곱에 비례한다: 이는 맞는 말입니다. 양력은 비행기의 속도에 비례하는 것이 아니라, 비행기의 속도 제곱에 비례합니다.
+  이는 양력 공식 L = 0.5 * Cl * p * V^2 * A에서 알 수 있습니다. 여기서 L은 양력, Cl은 리프트 계수, p는 공기 밀도,
+  V는 속도, A는 날개 면적입니다. (C) 양력은 날개의 무게에 비례한다: 이는 틀린 말입니다. 양력은 비행기의 무게에 직접적으로 비례하지 않습니다.
+  사실, 양력은 비행기를 공중에 띄우기 위해 반드시 비행기의 무게를 초과해야 합니다.  , 양력은 날개의 무게에 비례한다는 말은 틀린 말입니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 항공기 날개에 쳐든각을 주는 주된 목적은?
+
+  A.선회성능을 좋게 하기 위해서
+
+  B.날개저항을 적게 하기 위해서
+
+  C.날개끝 실속을 방지하기 위해서
+
+  D.옆놀이의 안정성 향상을 위해서
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 항공기 날개에 쳐든각을 주는 것을 ''날개 트위스트''라고
+  부릅니다. 날개 트위스트는 항공기의 날개가 루트(날개의 가장 안쪽 부분)에서 팁(날개의 가장 바깥쪽 부분)까지 각도가 점차 변하는 것을 의미합니다.
+  이는 주로 항공기의 안정성을 높이기 위해 사용되며, 특히 고속에서의 안정성을 향상시키는 데 도움이 됩니다. 선택지를 보면, (A) 선회성능을 좋게
+  하기 위해서는 날개의 트위스트와는 직접적인 관련이 없습니다. 선회성능은 주로 항공기의 조종면과 엔진 출력 등에 의해 결정됩니다. (B) 날개저항을
+  적게 하기 위해서는 트위스트가 직접적으로 영향을 주지 않습니다. 저항은 주로 항공기의 형상, 크기, 속도 등에 의해 결정되며, 날개의 트위스트는
+  이러한 요소들과는 별개의 요소입니다. (C) 날개끝 실속을 방지하기 위해서는 트위스트가 일부 도움이 될 수 있지만, 이는 주된 목적이 아닙니다.
+  날개끝 실속은 주로 날개의 설계와 관련이 있으며, 트위스트는 이를 완전히 방지할 수 없습니다. (D) 옆놀이의 안정성 향상을 위해서는 트위스트가
+  중요한 역할을 합니다. 트위스트는 날개 팁 부분의 각도를 조절하여, 항공기가 고속에서도 안정적으로 비행할 수 있도록 돕습니다. 따라서, 정답은
+  (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 항공 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_aviation_engineering_and_maintenance
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_biology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_biology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..12cba9a7a689d338852b201c296583a6014f07c9
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_biology.yaml
@@ -0,0 +1,112 @@
+dataset_name: biology
+doc_to_text: '질문: 포도당의 특성이 아닌 것은?
+
+  A.환원당
+
+  B.알도오스
+
+  C.헥소오스
+
+  D.퓨라노오스
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 포도당은 가장 기본적인 단당류로, 생물학적 에너지의 주요한
+  원천입니다. (A) 환원당: 포도당은 환원당입니다. 환원당은 카르보닐 그룹이 있는 당류로, 이 카르보닐 그룹이 다른 화합물을 환원할 수 있는 특성을
+  가지고 있습니다. 포도당은 이러한 환원 반응을 일으킬 수 있으므로 환원당입니다. (B) 알도오스: 포도당은 알도오스입니다. 알도오스는 알데히드
+  그룹(-CHO)을 가진 당류를 의미합니다. 포도당은 이 알데히드 그룹을 가지고 있으므로 알도오스입니다. (C) 헥소오스: 포도당은 헥소오스입니다.
+  헥소오스는 6개의 탄소 원자를 가진 당류를 의미합니다. 포도당은 6개의 탄소 원자를 가지고 있으므로 헥소오스입니다. (D) 퓨라노오스: 이것은
+  포도당의 특성이 아닙니다. 퓨라노오스는 5원 고리 구조를 가진 당류를 의미합니다. 포도당은 헥소오스 즉, 6원 고리 구조를 가지는 것이 일반적입니다.  ,
+  포도당은 퓨라노오스가 아닙니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 미생물을 보존하는 방법 중 승화에 의한 수분이 제거되는 원리를 이용하는 것은?
+
+  A.현탄액법
+
+  B.동결보존법
+
+  C.동결건조법
+
+  D.액체질소 보존법
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 승화에 대해 알아보겠습니다. 승화는 물질이 고체 상태에서
+  기체 상태로 변화하는 것을 말합니다. 이는 수분이 제거되는 원리를 사용하는 방법 중 하나입니다. (A). 현탄액법은 미생물을 보존하는 방법 중
+  하나로, 미생물을 현탄액에 담가 보존하는 방법입니다. 이 방법은 승화의 원리를 사용하지 않습니다. (B). 동결보존법은 미생물을 극저온에서 보존하는
+  방법입니다. 이 방법은 미생물을 액체 질소 등의 극저온 환경에 노출시켜 보존하는 방법으로, 승화의 원리를 사용하지 않습니다. (C). 동결건조법은
+  미생물을 빠르게 동결한 후, 진공 상태에서 물을 제거하여 보존하는 방법입니다. 이 방법은 승화의 원리를 사용하여 물을 제거합니다. 동결된 미생물에서
+  물이 직접 기체 상태로 변화하게 되는데, 이것이 바로 승화입니다. (D). 액체질소 보존법은 미생물을 액체 질소에서 보존하는 방법입니다. 이 방법은
+  극저온에서 미생물을 보존하는 방법으로, 승화의 원리를 사용하지 않습니다.  , 승화에 의한 수분이 제거되는 원리를 이용하는 미생물 보존 방법은
+  동결건조법입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 세포가 한번 분열하는데 30분이 걸린다면, 1개의 세포가 2048개로 분열하는데 걸리는 시간은? (단, 세포는 죽지 않는다고 가정한다.)
+
+  A.4시간 30분
+
+  B.5시간
+
+  C.5시간 30분
+
+  D.6시간
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 세포가 분열하는데 30분이 걸린다는 것은, 1개의 세포가
+  2개로 분열하는데 30분이 필요하다는 것을 의미합니다. 이런 패턴이 계속된다면, 세포의 수는 2의 지수 형태로 증가하게 됩니다. 즉, 1, 2,
+  4, 8, 16, 32, 64, 128, 256, 512, 1024, 2048 순으로 증가하게 됩니다. 이러한 증가 방식을 보면, 세포가 처음
+  1개에서 2개로 분열하는데 30분이 걸리고, 그 다음 2개에서 4개로 분열하는데 추가로 30분이 걸립니다. 이런 식으로 세포의 수가 2배로 증가할
+  때마다 30분씩 추가로 걸립니다.  , 1개의 세포가 2048개로 분열하는데 걸리는 시간을 계산하려면, 2048이 2의 몇 승인지 알아내면 됩니다.
+  2048은 2의 11승이므로, 11번의 분열이 필요하다는 것을 알 수 있습니다. 각 분열이 30분씩 걸리므로, 총 시간은 11 * 30 = 330분이
+  됩니다. 330분을 시간과 분으로 변환하면, 5시간 30분이 됩니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 10-6 N NaOH 수용액의 pH는?
+
+  A.8
+
+  B.10
+
+  C.12
+
+  D.14
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, NaOH는 강염기로 알려져 있습니다. 강염기는 수용액에서
+  완전히 이온화되어 수산화 이온(OH-)을 생성합니다.   NaOH의 농도가 pH에 직접적인 영향을 미칩니다. pH는 아래의 공식을 사용하여 계산됩니다.
+  pH = -log[H+] 여기서 [H+]는 수산화 이온의 농도입니다. 그러나 우리는 NaOH의 농도를 알고 있으며, 이는 수산화 이온의 농도와
+  동일합니다.   우리는 이를 pOH로 변환해야 합니다. pOH는 아래의 공식을 사용하여 계산됩니다. pOH = -log[OH-] 여기서 [OH-]는
+  수산화 이온의 농도입니다. 주어진 문제에서 NaOH의 농도는 10^-6 N입니다. 이것을 pOH 공식에 대입하면, pOH = -log(10^-6)
+  = 6 이를 통해 알 수 있는 것은, 이 수용액의 pOH는 6이라는 것입니다. 그러나 우리는 pH를 찾고 있습니다. pH와 pOH는 다음과 같은
+  관계를 가지고 있습니다. pH + pOH = 14   pH는 14 - pOH = 14 - 6 = 8입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 세포막의 안정성을 유지하기 위하여 고농도의 수소이온을 필요로 하며 중성 pH에서는 세포막이 파괴되어 성장할 수 없는 미생물은?
+
+  A.절대호산성 미생물
+
+  B.통성호산성 미생물
+
+  C.통성호염성 미생물
+
+  D.절대호염성 미생물
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 이해가 필요합니다. (A). 절대호산성
+  미생물: 이들은 극도의 산성 환경에서만 생존할 수 있는 미생물입니다. 즉, 중성의 환경에서 전혀 생육이 불가능합니다. (B). 통성호산성 미생물:
+  이들은 산성 환경에서 성장하지만, 중성 또는 약 알칼리성 환경에서도 성장할 수 있는 미생물입니다. (C). 통성호염성 미생물: 이들은 염분이 많은
+  환경에서 성장하지만, 염분이 적은 환경에서도 성장할 수 있는 미생물입니다. (D). 절대호염성 미생물: 이들은 염분이 많은 환경에서만 성장할 수
+  있는 미생물입니다. 질문에서는 세포막의 안정성을 유지하기 위해 고농도의 수소이온이 필요하며, 중성 pH에서는 세포막이 파괴되어 성장할 수 없는
+  미생물에 대해 묻고 있습니다. 수소 이온의 농도는 pH와 관련이 있습니다. pH가 낮을수록 수소 이온의 농도가 높아지며, 이는 산성 환경을 의미합니다.  ,
+  고농도의 수소 이온을 필요로 하는 미생물은 산성 환경에서 성장하는 미생물일 것입니다. 또한, 중성 pH에서 세포막이 파괴되어 성장할 수 없다는
+  점을 고려하면, 이 미생물은 중성 또는 알칼리성 환경에서는 성장할 수 없어야 합니다. 이러한 조건을 충족하는 미생물은 절대호산성 미생물입니다.
+  절대호산성 미생물은 극도로 산성 환경에서만 생존할 수 있으며, 중성 또는 알칼리성 환경에서는 성장할 수 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 생물학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_biology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..504517ea7951263d93ca25493daf8eb8c1495b88
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemical_engineering.yaml
@@ -0,0 +1,121 @@
+dataset_name: chemical_engineering
+doc_to_text: '질문: 이상기체의 내부에너지에 대한 설명으로 옳은 것은?
+
+  A.온도만의 함수이다.
+
+  B.압력만의 함수이다.
+
+  C.압력과 온도의 함수이다.
+
+  D.압력이나 온도의 함수가 아니다.
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상기체의 내부에너지는 이상기체의 성질을 나타내는 중요한
+  요소 중 하나입니다. 이상기체는 기체 분자들 사이의 상호작용을 무시하고 분자들이 차지하는 부피를 무시하는 가정하에 만들어진 기체 모델입니다. 이
+  모델에서 기체의 내부에너지는 온도에만 의존한다고 알려져 있습니다. 선택지 (A)는 이상기체의 내부에너지가 온도만의 함수라는 내용으로, 이는 이상기체의
+  성질을 정확하게 반영하고 있습니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로 압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (B)는
+  이상기체의 내부에너지가 압력만의 함수라는 내용으로, 이는 이상기체의 성질을 잘못 이해한 것입니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로
+  압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (C)는 이상기체의 내부에너지가 압력과 온도의 함수라는 내용으로, 이 역시 이상기체의 성질을
+  잘못 이해한 것입니다. 이상기체에서는 분자들 사이의 상호작용이 없으므로 압력은 내부에너지에 영향을 미치지 않습니다. 선택지 (D)는 이상기체의
+  내부에너지가 압력이나 온도의 함수가 아니라는 내용으로, 이는 이상기체의 성질에 대한 잘못된 이해를 반영하고 있습니다. 이상기체의 내부에너지는 온도에만
+  의존합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 기체가 단열 팽창한다면 엔트로피는 어떻게 되는가?
+
+  A.감소 또는 불변
+
+  B.증가 또는 불변
+
+  C.불변
+
+  D.증가와 감소를 반복
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 기체의 단열 팽창에 대해 생각해보면, 단열 팽창은 외부와의
+  열 교환 없이 기체가 팽창하는 것을 의미합니다. 이러한 과정에서 기체의 엔트로피는 어떻게 될까요? 먼저 엔트로피의 개념을 이해해야 합니다. 엔트로피는
+  물질의 무질서함을 나타내는 물리량으로, 시스템의 상태가 더 많은 방향으로 분산될 수록 엔트로피는 증가합니다. 이런 관점에서 보면, 기체가 단열
+  팽창하면 기체 분자들이 차지하는 공간이 더 커지므로 더 많은 상태를 가질 수 있게 되어 엔트로피가 증가할 것입니다. 또한, 열역학의 두 번째 법칙에
+  따르면, 고립된 시스템의 엔트로피는 항상 증가하거나 일정하게 유지됩니다. 단열 팽창 과정에서는 외부와의 열 교환 없이 일어나므로 이 과정을 고립된
+  시스템으로 볼 수 있습니다.   이 경우 엔트로피는 증가하거나 일정하게 유지될 것입니다. 이를 바탕으로 선택지를 보면, (B) 증가 또는 불변이
+  가장 적절한 답변으로 보입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 100기압의 이상기체가 들어 있는 탱크에 수렴노즐(convergent nozzle)을 연결하여 기체를 가장 단시간에 뽑아내려고 한다. 제2탱크의
+  최대 허용압력은 약 몇 기압인가? (단, 비열비는 1.3 이다.)
+
+  A.55
+
+  B.77
+
+  C.90
+
+  D.100
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 문제는 이상기체가 수렴노즐을 통해 빠져나갈 때의 허용압력을
+  묻는 문제입니다. 이를 계산하기 위해서는 수렴노즐을 통해 이상기체가 흐를 때의 기체 동력학에 대한 이해가 필요합니다. 기본적으로, 이상기체가 수렴노즐을
+  통해 흐를 때, 노즐의 출구에서의 압력은 주변 압력에 도달할 때까지 계속 감소합니다. 이 때의 압력 감소율은 기체의 비열비에 의해 결정됩니다.
+  문제에서 주어진 비열비는 1.3이므로, 이를 이용하여 계산할 수 있습니다. 이상기체의 동력학에서, 수렴노즐을 통해 기체가 흐를 때의 압력비는 다음과
+  같이 주어집니다: P2/P1 = (2/(n+1))^(n/(n-1)) 여기서 P1은 초기 압력 (100기압), P2는 최종 압력 (제2탱크의 최대
+  허용압력), n은 비열비 (1.3)입니다. 이 식을 이용하여 P2를 계산하면 다음과 같습니다: P2 = P1 * (2/(n+1))^(n/(n-1))  ,
+  계산 결과를 얻기 위해 주어진 값을 대입해보겠습니다. P2 = 100 * (2/(1.3+1))^(1.3/(1.3-1)) 이를 계산하면, P2의
+  값은 약 54.6가 나오는데, 이는 선택지 중에서 가장 가까운 55에 해당합니다.   제2탱크의 최대 허용압력은 약 55기압이 됩니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 성분1과 성분2가 기-액 평형을 이루는 계에 대하여 라울(Raoult)의 법칙을 만족하는 기포점 압력 계산을 수행하였다. 계산결과에 대한
+  설명 중 틀린 것은?
+
+  A.기포점 압력계산으로 P-x-y 선도를 나타낼 수 있다.
+
+  B.기포점 압력 계산 결과에서 기상의 조성선은 직선이다.
+
+  C.성분 1의 조성이 1 일 때의 압력은 성분 1의 증기압이다.
+
+  D.공비점의 형성을 나타낼 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 라울의 법칙에 대해 알아보겠습니다. 라울의 법칙은
+  이상 기체에서의 부분 압력을 설명하는 법칙으로, 이는 순수 액체의 증기압과 그 액체의 몰 분율에 비례한다고 합니다. 이를 기반으로 각 선택지를
+  살펴보겠습니다. (A) 기포점 압력계산으로 P-x-y 선도를 나타낼 수 있다. P-x-y 선도는 이성분 혼합물의 기-액 평형을 그래프로 나타낸
+  것입니다. x와 y는 각각 액상과 기상의 몰 분율을, P는 총압을 나타냅니다. 라울의 법칙을 이용하면 이러한 P-x-y 선도를 그릴 수 있습니다.
+  (B) 기포점 압력 계산 결과에서 기상의 조성선은 직선이다. 라울의 법칙에 따르면, 기상의 조성선은 직선이 아닌 곡선 형태를 보입니다.   이
+  설명은 잘못되었습니다. (C) 성분 1의 조성이 1 일 때의 압력은 성분 1의 증기압이다. 이 설명은 맞습니다. 라울의 법칙에 따르면, 성분의
+  조성이 1, 즉 순수한 성분일 때 그 성분의 압력은 그 성분의 증기압과 같습니다. (D) 공비점의 형성을 나타낼 수 없다. 공비점은 두 성분이
+  혼합되어 있을 때, 특정 조건에서 기상과 액상의 조성이 같아지는 점을 말합니다. 라울의 법칙을 이용하면 이러한 공비점을 나타낼 수 있습니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 정압열용량 Cp는 7/2R이고 정적열용량 Cv는 5/2R인 1몰의 이상기체가 압력 10bar, 부피 0.05m3에서 압력 1bar로 정용과정을
+  거쳐 변화할 때 기계적인 가역과정으로 가정하면 이 계에 부가된 열량 Q와 이 계가 한 일 W는 각각 얼마인가?
+
+  A.Q=-11250J, W=0
+
+  B.Q=-15750J, W=0
+
+  C.Q=0, W=-11250J
+
+  D.Q=0, W=-15750J
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상기체의 정용과정에서는 부피가 일정하므로, 열량 Q는
+  계가 한 일 W와 동일하게 됩니다. 이는 열역학의 제1법칙에 따른 것입니다. 이상기체의 정용과정에서 열량 Q는 Cv(T2-T1)이며, 여기서 Cv는
+  정적열용량, T1과 T2는 각각 초기와 최종 온도입니다. 이상기체방정식 PV=nRT를 이용하여 초기 온도 T1을 구할 수 있습니다. 여기서 P는
+  압력, V는 부피, n은 몰수, R은 기체상수입니다. 초기 상태에서 압력 P1은 10bar, 부피 V는 0.05m3, 몰수 n은 1mol, 기체상수
+  R은 8.314J/(mol·K)입니다.   T1 = P1V/nR = (10×10^5 Pa)(0.05m^3)/(1mol)(8.314J/(mol·K))
+  = 6015K입니다. 최종 상태에서 압력 P2는 1bar이므로, 이상기체방정식을 이용하여 최종 온도 T2를 구하면, T2 = P2V/nR = (1×10^5
+  Pa)(0.05m^3)/(1mol)(8.314J/(mol·K)) = 601.5K입니다.   열량 Q는 Cv(T2-T1) = (5/2R)(T2-T1)
+  = (5/2)(8.314J/(mol·K))(601.5K - 6015K) = -11250J입니다. 기계적인 가역과정에서 이상기체가 한 일 W는 -P1Vln(P2/P1)로
+  주어지며, 이때 ln은 자연로그를 의미합니다. 여기서 P1은 초기 압력, P2는 최종 압력, V는 부피입니다.   W = -P1Vln(P2/P1)
+  = -(10×10^5 Pa)(0.05m^3)ln((1×10^5 Pa)/(10×10^5 Pa)) = 0입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 화학 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_chemical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemistry.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemistry.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..44a6f52596d449aae64cd9a09b3fe523667e00df
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_chemistry.yaml
@@ -0,0 +1,110 @@
+dataset_name: chemistry
+doc_to_text: '질문: 수산화나트륨(NaOH) 80g을 물에 녹여 전체 부피가 1000mL가 되게 하였다. 이 용액의 N농도는 얼마인가?
+  (단, 수산화나트륨의 분자량은 40 이다.)
+
+  A.0.08N
+
+  B.1N
+
+  C.2N
+
+  D.4N
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, N농도는 몰농도를 의미하는 M농도에 수산화나트륨의 이온화
+  수를 곱한 것입니다. 수산화나트륨(NaOH)의 이온화 수는 1입니다. 물에 녹인 수산화나트륨의 몰농도를 계산해보겠습니다. 몰농도는 몰 수를 용액의
+  부피(L)로 나눈 값입니다. 수산화나트륨의 몰 수는 주어진 물질의 질량을 그 물질의 분자량으로 나눈 값입니다. 여기서 수산화나트륨의 질량은 80g,
+  분자량은 40이므로 몰 수는 80g / 40 = 2mol입니다. 용액의 부피는 1000mL, 즉 1L입니다.   수산화나트륨의 몰농도는 몰 수
+  2mol을 용액의 부피 1L로 나눈 값, 즉 2M입니다. 수산화나트륨의 N농도는 이 몰농도에 이온화 수를 곱한 값이므로, 2M x 1 = 2N입니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 칼륨(K) 원자는 19개의 양성자와 20개의 중성자를 가지고 있다. 원자번호와 질량수는 각각 얼마인가?
+
+  A.9, 19
+
+  B.9, 39
+
+  C.19, 20
+
+  D.19, 39
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 원자의 기본 구조를 이해하면 이 질문에 답할 수 있습니다.
+  원자번호는 원자의 핵에 있는 양성자의 수를 나타내며, 이는 원소의 고유한 특성을 결정합니다.  , 칼륨(K) 원자가 19개의 양성자를 가지고 있다면,
+  원자번호는 19입니다. 다음으로, 질량수는 원자의 핵에 있는 양성자와 중성자의 총 수를 나타냅니다. 칼륨(K) 원자가 19개의 양성자와 20개의
+  중성자를 가지고 있다면, 질량수는 양성자 19개와 중성자 20개를 합친 39입니다.  , 칼륨(K) 원자의 원자번호는 19이고 질량수는 39입니다.
+  이를 선택지와 비교하면, (D) 19, 39가 정답입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: “어떠한 화학반응이라도 반응물 전체의 질량과 생성물 전체의 질량은 서로 차이가 없고 완전히 같다” 라고 설명할 수 있는 법칙은?
+
+  A.일정성분비의 법칙
+
+  B.배수비례의 법칙
+
+  C.질량보존의 법칙
+
+  D.기체반응의 법칙
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 질문은 화학의 기본 법칙 중 하나에 대한 것입니다. 먼저
+  선택지를 하나씩 살펴보겠습니다. (A) 일정성분비의 법칙: 이 법칙은 특정 화합물을 구성하는 원소들 사이의 질량비가 일정하다는 것을 말합니다.
+  예를 들어, 물은 항상 수소와 산소의 질량비가 1:8로 일정하다는 것입니다. (B) 배수비례의 법칙: 이 법칙은 같은 원소가 다른 질량비를 가질
+  때, 그 비율이 정수배 관계에 있다는 것을 말합니다. 예를 들어, 수소와 산소가 반응하여 물을 만들 때와 수소과산화물을 만들 때, 산소의 질량비는
+  1:2로 배수 관계에 있다는 것입니다. (C) 질량보존의 법칙: 이 법칙은 화학 반응에서 반응물의 총 질량이 생성물의 총 질량과 같다는 것을 말합니다.
+  즉, 어떠한 화학 반응에서도 질량은 보존된다는 것입니다. (D) 기체반응의 법칙: 이 법칙은 기체의 부피, 압력, 온도 등에 관한 법칙입니다.
+  특히, 동일한 조건에서 같은 양의 기체는 동일한 수의 분자를 가진다는 것을 말합니다. 이렇게 각 선택지를 살펴본 결과, “어떠한 화학반응이라도
+  반응물 전체의 질량과 생성물 전체의 질량은 서로 차이가 없고 완전히 같다” 라는 설명은 질량보존의 법칙에 가장 부합하는 것으로 보입니다. 이 법칙은
+  화학 반응에서 질량의 변화가 없음을 의미하며, 이는 질문에서 요구하는 내용과 일치합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 할로겐원소의 성질 중 원자번호가 증가할수록 작아지는 것은?
+
+  A.금속성
+
+  B.반지름
+
+  C.이온화에너지
+
+  D.녹는점
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 할로겐 원소는 주기율표의 17족에 속하며, 플루오린(F),
+  클로린(Cl), 브로민(Br), 요오드(I), 아스타틴(At) 등이 있습니다. 원자번호가 증가하면서 이들 원소의 성질이 어떻게 변하는지 살펴보겠습니다.
+  (A) 금속성: 원자번호가 증가함에 따라 할로겐 원소의 금속성은 증가합니다. 플루오린과 클로린은 비금속이지만, 아스타틴은 반금속으로 분류되기도
+  합니다.   원자번호가 증가할수록 금속성은 작아지지 않습니다. (B) 반지름: 원자번호가 증가하면서 원자의 껍질이 늘어나기 때문에 원자 반지름은
+  증가합니다.   원자번호가 증가할수록 반지름은 작아지지 않습니다. (C) 이온화에너지: 이온화 에너지는 원자의 전자를 떼어내는 데 필요한 에너지를
+  말합니다. 원자번호가 증가하면 원자 반지름이 커지고, 이에 따라 전자와 핵 사이의 거리가 멀어져 이온화 에너지가 줄어듭니다.   원자번호가 증가할수록
+  이온화 에너지는 작아집니다. (D) 녹는점: 할로겐 원소의 녹는점은 원자번호가 증가함에 따라 일반적으로 증가하는 경향이 있습니다. 플루오린의 녹는점은
+  -219.67℃, 클로린은 -101.5℃, 브로민은 -7.2℃, 요오드는 113.7℃입니다.   원자번호가 증가할수록 녹는점은 작아지지 않습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 황산 49g을 물에 녹여 용액 1L을 만들었다. 이 수용액의 물 농도는 얼마인가? (단, 황산의 분자량은 98이다.)
+
+  A.0.5 M
+
+  B.1 M
+
+  C.1.5 M
+
+  D.2 M
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 농도의 정의를 알아야 합니다. 농도는 용액의 단위 부피당
+  용질의 양을 의미합니다. 일반적으로 몰/리터(M) 단위로 표현합니다. 그리고 몰은 물질의 양을 나타내는 SI 단위로, 1몰은 6.02214076×10^23개의
+  입자를 가지고 있습니다. 이는 아보가드로 수라고 불리는 값입니다. 이 문제에서는 황산의 몰 수를 구하고 이를 용액의 부피인 1L로 나눠주면 됩니다.
+  황산의 몰 수는 주어진 황산의 질량을 황산의 분자량으로 나눠주면 됩니다. 황산의 질량은 49g이고, 황산의 분자량은 98g/mol입니다.   황산의
+  몰 수는 49g ÷ 98g/mol = 0.5mol입니다.   이 수용액의 물 농도는 0.5mol/1L = 0.5M입니다. 따라서, 정답은 (A)
+  입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 화학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_chemistry
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_computer_science.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_computer_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..928b3a63fd00518a978f3d3d81e3791cc4d7bd7a
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_computer_science.yaml
@@ -0,0 +1,128 @@
+dataset_name: computer_science
+doc_to_text: '질문: 암호 프로토콜 서비스에 대한 설명 중 옳지 않은 것은?
+
+  A.비밀성 : 자료 유출의 방지
+
+  B.접근제어 : 프로토콜 데이터 부분의 접근 제어
+
+  C.무결성 : 메시지의 변조를 방지
+
+  D.부인봉쇄 : 송수신 사실의 부정 방지
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 정확한 정의를 이해하는 것이
+  중요합니다. (A) 비밀성: 이는 데이터가 전송 중에 외부로부터 보호되어, 오직 수신자만이 그 내용을 이해할 수 있게 하는 것을 의미합니다. 이는
+  ''자료 유출의 방지''와 일치하는 설명입니다. (B) 접근제어: 이는 데이터나 리소스에 대한 접근을 제어하는 것을 의미합니다. 이는 일반적으로
+  사용자의 권한을 확인하고, 해당 권한에 따라 데이터나 리소스에 접근할 수 있는지를 결정합니다. 하지만, ''프로토콜 데이터 부분의 접근 제어''라는
+  설명은 정확하지 않습니다. 접근제어는 일반적으로 데이터나 리소스에 대해 적용되지, 특정 프로토콜 데이터 부분에 대해 적용되지는 않습니다. (C)
+  무결성: 이는 데이터가 전송 중에 변경되거나 손상되는 것을 방지하는 것을 의미합니다. 이는 ''메시지의 변조를 방지''와 일치하는 설명입니다.
+  (D) 부인봉쇄: 이는 데이터의 송수신 사실을 부정할 수 없게 하는 것을 의미합니다. 이는 ''송수신 사실의 부정 방지''와 일치하는 설명입니다.  ,
+  정확하지 않은 설명은 (B) 접근제어: 프로토콜 데이터 부분의 접근 제어입니다. ''프로토콜 데이터 부분의 접근 제어''라는 설명은 접근제어의
+  정의와 일치하지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 인터넷상에서 시스템 보안 문제는 중요한 부분이다. 보안이 필요한 네트워크 통로를 단일화하여 이 출구를 보안 관리함으로써 외부로부터의 불법적인
+  접근을 막는 시스템은?
+
+  A.해킹
+
+  B.펌웨어
+
+  C.크래킹
+
+  D.방화벽
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 인터넷상에서 시스템 보안 문제를 해결하기 위한 방법에
+  대한 질문입니다. 각 선택지를 분석해보겠습니다. (A) 해킹: 해킹은 시스템의 보안을 침해하는 행위를 의미합니다. 해킹은 보안 문제를 해결하는
+  방법이 아니라 보안 문제를 일으키는 원인 중 하나입니다.   이 선택지는 정답이 될 수 없습니다. (B) 펌웨어: 펌웨어는 컴퓨터나 장치의 제어
+  및 운영에 필요한 소프트웨어를 의미합니다. 펌웨어는 장치의 기능을 실행하는데 필요하지만, 직접적으로 보안을 관리하는 시스템은 아닙니다.   이
+  선택지도 정답이 아닙니다. (C) 크래킹: 크래킹은 보안 시스템을 무력화하거나 소프트웨어의 보호 기능을 제거하는 행위를 의미합니다. 해킹과 마찬가지로
+  크래킹도 보안 문제를 일으키는 원인 중 하나이므로 이 선택지도 정답이 아닙니다. (D) 방화벽: 방화벽은 네트워크의 보안을 유지하기 위해 설계된
+  시스템입니다. 네트워크 통로를 단일화하여 이 출구를 보안 관리함으로써 외부로부터의 불법적인 접근을 막습니다. 이 설명은 질문에서 요구하는 시스템의
+  기능과 일치합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 인터넷에서 일어날 수 있는 대표적인 보안사고 유형으로 어떤 침입 행위를 시도하기 위해 일정기간 위장한 상태를 유지하며, 코드 형태로 시스템의
+  특정 프로그램 내부에 존재 하는 것은?
+
+  A.논리 폭탄
+
+  B.웜
+
+  C.트로이 목마
+
+  D.잠입
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 질문은 인터넷 보안에 관한 것으로, 특정한 침입
+  행위를 위해 일정 기간 동안 위장하고, 코드 형태로 시스템의 특정 프로그램 내부에 존재하는 보안사고 유형에 대한 것입니다. 선택지를 하나씩 살펴보면,
+  (A) 논리 폭탄은 특정 조건이 충족될 때까지 자신의 존재를 숨기고 그 조건이 만족되면 행동을 시작하는 프로그램을 의미합니다. 하지만 이는 특정
+  시간 동안 위장하는 것이 아니라 특정 조건이 충족될 때까지 대기하는 것이므로 이 질문의 답이 아닙니다. (B) 웜은 네트워크를 통해 시스템에 침입하고
+  자신을 복제하여 다른 시스템에 전파하는 코드를 의미합니다. 웜은 자동으로 전파되지만 특정 프로그램 내부에 숨어있다가 공격하는 것은 아니므로 이
+  질문의 답이 아닙니다. (C) 트로이 목마는 사용자가 원하는 프로그램처럼 보이지만 실제로는 시스템에 해를 끼치는 코드를 실행하는 악성 프로그램입니다.
+  트로이 목마는 사용자가 원하는 프로그램으로 위장하여 시스템에 침입하고, 일정 시간 동안 그 상태를 유지할 수 있습니다. (D) 잠입은 시스템에
+  무단으로 들어가 정보를 훔치는 행위를 의미합니다. 하지만 이는 특정 프로그램 내부에 숨어있다가 공격하는 것이 아니라 시스템 자체에 침입하는 것이므로
+  이 질문의 답이 아닙니다.  , 이 질문의 답은 (C) 트로이 목마입니다. 이 악성 프로그램은 사용자가 원하는 프로그램으로 위장하여 시스템에 침입하고,
+  일정 시간 동안 그 상태를 유지할 수 있습니다. 이는 질문에서 언급한 "일정 기간 동안 위장하고, 코드 형태로 시스템의 특정 프로그램 내부에 존재하는"
+  보안사고 유형을 가장 잘 설명합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: DNS(Domain Name System) 서버 종류에 속하지 않는 것은?
+
+  A.Primary Server
+
+  B.OPTIONache Server
+
+  C.Expert Server
+
+  D.Master Name Server
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. DNS(Domain Name System)는 웹 브라우징에
+  있어 핵심적인 역할을 하는 시스템입니다. 이 시스템은 사람이 읽을 수 있는 도메인 이름을 컴퓨터가 이해할 수 있는 IP 주소로 변환하는 역할을
+  합니다. 이렇게 하면 사용자가 웹사이트의 IP 주소를 외우지 않고도 웹사이트를 방문할 수 있습니다. DNS 서버의 종류에 대해 알아보면 다음과
+  같습니다. (A). Primary Server: 이는 DNS 구조의 가장 중요한 서버입니다. 모든 DNS 레코드를 저장하고, 이 정보를 다른 DNS
+  서버에 제공합니다. (B). Cache Server: 이 서버는 DNS 요청에 대한 응답을 임시로 저장하는 역할을 합니다. 이를 통해 같은 요청이
+  들어올 때마다 Primary Server에 접속하지 않고 빠르게 응답할 수 있습니다. (D). Master Name Server: 이는 Primary
+  Server와 같은 역할을 합니다. DNS 구조에서 가장 중요한 서버로, 모든 DNS 레코드를 저장하고, 이 정보를 다른 DNS 서버에 제공합니다.
+  그러나, (C). Expert Server는 DNS 서버의 종류로 존재하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 보안 OS(Secure OS)에 대한 설명 중 가장 옳지 않은 것은?
+
+  A.OPTION1급은 보안에 대한 기능이 없는 것으로, MS-OPTIONOS 등이 이에 해당한다.
+
+  B.OPTION1급은 사용자의 접근제어, OPTIONuditing, Shadow Password 등의 부가적인 기능이 제공된다.
+
+  C.OPTION급의 보안OS는 다단계 보안을 제공하며, 필수적인 접근제어 등이 제공된다.
+
+  D.OPTION급은 검증된 설계 수준으로서 수학적인 검증 과정이 요구된다.
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 보안 운영 체제(Secure OS)의 분류에 대한 설명
+  중에서 가장 옳지 않은 것을 찾으려면, 각 옵션에 제시된 내용을 TCSEC(Trusted Computer System Evaluation Criteria)의
+  기준에 따라 검토해야 합니다. TCSEC은 미국 국방부에서 개발한 시스템 보안 등급을 정의한 기준입니다. 각 등급은 다음과 같은 특징을 가집니다:
+  D등급 (Minimal Protection): 보안 설정이 전혀 이루어지지 않은 시스템. C1등급 (Discretionary Security Protection):
+  일반적인 로그인 과정이 있으며, 사용자 간 침범이 차단됨. 사용자는 자신이 생성한 파일에 대한 권한 설정이 가능. C2등급 (Controlled
+  Access Protection): 계정별 로그인 가능, 그룹별 통제가 가능한 시스템. B1등급 (Labeled Security): 시스템에 보안
+  정책 적용 가능, 데이터에 보안 레벨 설정 가능. B2등급 (Structured Protection): B1 등급의 기능을 모두 포함, 정형화된
+  보안 정책 존재. B3등급 (Security Domains): 운영체제상 불필요한 영역 제거, 모듈별 분석 및 테스트 가능. 시스템 파일 및 디렉터리에
+  대한 접근 방식 지정, 위험 동작 사용자에 대한 백업 자동화. A1등급 (Verified Design): 수학적으로 완벽한 시스템 설계. 이 정보를
+  바탕으로 각 옵션을 검토해 보면: (A) D1급은 보안 기능이 없는 것으로 설명되어 있는데, 실제로 D등급은 보안 설정이 전혀 이루어지지 않은
+  시스템을 의미합니다. (B) C1급은 사용자의 접근 제어, 감사 추적(Auditing), Shadow Password 등의 부가적인 기능이 제공된다고
+  설명되어 있으나, 실제 C1 등급은 일반적인 로그인 과정이 있고 사용자 간 침범을 차단하는 정도의 기능을 제공합니다. 감사 추적이나 Shadow
+  Password는 C1에서 특별히 언급되지 않습니다. (C) B급의 보안 OS는 다단계 보안을 제공하며, 필수적인 접근제어 등이 제공된다고 설명되어
+  있으며, 이는 B등급의 특징을 정확하게 반영합니다. (D) A급은 검증된 설계 수준으로서 수학적인 검증 과정이 요구된다고 설명되어 있으며, 이는
+  A1등급의 특징을 정확하게 반영합니다. 그러나, C1급은 주어진 설명에서 언급된 감사 추적(Auditing)이나 Shadow Password와
+  같은 부가적인 기능보다는 사용자 간 침범 차단과 사용자별 파일 권한 설정에 초점을 맞춘 것으로 정의됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 컴퓨터 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_computer_science
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_construction.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_construction.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..dcb53c1b9bca67fd4241735ad817aa6c21111297
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_construction.yaml
@@ -0,0 +1,115 @@
+dataset_name: construction
+doc_to_text: '질문: 디젤기관에서 질소 산화물(NOX)의 발생을 억제하려면 어떻게 해야 하는가?
+
+  A.흡기온도를 높인다.
+
+  B.산소(O2)의 농도를 낮춘다.
+
+  C.연소온도를 높인다.
+
+  D.반응시간을 길게한다.
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 디젤 엔진에서 질소 산화물(NOx)의 발생을 억제하려면 연소
+  과정에서의 조건을 조절해야 합니다. 질소 산화물은 고온에서 산소와 질소가 결합할 때 생성되는데, 이는 디젤 엔진의 연소 과정에서 일어납니다. (A)
+  흡기 온도를 높인다: 흡기 온도를 높이면, 공기와 연료의 혼합물이 더욱 빠르게 연소하게 되고 이는 연소 온도를 높이게 됩니다.   NOx의 생성을
+  증가시킬 수 있습니다. (B) 산소(O2)의 농도를 낮춘다: 산소 농도를 낮추면, 연소 과정에서 산소와 질소가 결합하여 NOx를 생성하는 것을
+  줄일 수 있습니다.   NOx의 발생을 억제하는데 도움이 될 수 있습니다. (C) 연소 온도를 높인다: 연소 온도를 높이면, NOx의 생성이 증가합니다.
+  이는 NOx가 고온에서 산소와 질소가 결합할 때 생성되기 때문입니다. (D) 반응 시간을 길게 한다: 이론적으로, 반응 시간을 길게 하면 연소
+  과정이 더욱 완전해지고, 이는 NOx의 생성을 줄일 수 있습니다. 그러나 실제로는 연소 시간이 길어지면 엔진의 효율이 떨어질 수 있으므로, 이
+  방법이 항상 적용 가능한 것은 아닙니다.  , 산소의 농도를 낮추는 것이 디젤 엔진에서 NOx의 발생을 억제하는 가장 효과적인 방법으로 보입니다.
+  이는 연소 과정에서 산소와 질소가 결합하여 NOx를 생성하는 것을 줄일 수 있기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 전자제어 기관에서 산소센서가 피드백이 되는 조건은?
+
+  A.냉각수온이 낮을 때
+
+  B.시동시
+
+  C.연료차단시
+
+  D.공전시
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 산소센서가 피드백 되는 조건을 파악하기 위해 전자제어
+  기관에서의 산소센서 역할을 이해해야 합니다. 산소센서는 배기가스 중 산소 농도를 검출하여 ECU(전자제어장치)에 전달하는 역할을 합니다. 이를
+  통해 ECU는 엔진의 상태를 파악하고, 최적의 공연비를 유지할 수 있도록 제어합니다. 산소센서가 피드백 되는 조건은 다음과 같습니다. - 엔진이
+  가동 중일 때: 산소센서는 엔진이 가동 중일 때만 작동합니다. - 공연비가 적절할 때: 산소센서는 공연비가 적절할 때만 피드백 됩니다. 공연비란,
+  공기와 연료의 비율을 말합니다. - 냉각수온이 정상일 때: 냉각수온이 낮으면 산소센서의 작동에 영향을 미칠 수 있습니다. 위의 조건을 바탕으로
+  선택지를 검토해보겠습니다. (A) 냉각수온이 낮을 때: 냉각수온이 낮으면 산소센서의 작동에 영향을 미칠 수 있으므로, 이는 피드백이 되는 조건이
+  아닙니다. (B) 시동시: 시동 시에는 엔진이 가동 중이지만, 공연비가 적절하지 않을 수 있으므로, 이는 피드백이 되는 조건이 아닙니다. (C)
+  연료차단시: 연료차단시에는 엔진이 가동 중이지만, 공연비가 적절하지 않을 수 있으므로, 이는 피드백이 되는 조건이 아닙니다. (D) 공전시: 공전시에는
+  엔진이 가동 중이고, 공연비가 적절하게 유지되므로, 이는 피드백이 되는 조건입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 크랭크축 메인저널의 외경이 규정보다 작을 때 일어나는 현상으로 가장 적당한 것은?
+
+  A.오일유압의 압력저하로 적당한 오일의 공급량이 적어 오일의 오염도가 적다.
+
+  B.오일간극이 적어 베어링의 소결이 생긴다.
+
+  C.오일압력의 상승으로 각부에 윤활공급이 확실하다.
+
+  D.운행중 소음이 많이 발생된다.
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 크랭크축 메인저널의 외경이 규정보다 작을 때의 현상을 생각해보면,
+  이는 크랭크축과 베어링 사이의 간극이 커지는 상황을 의미합니다. 크랭크축과 베어링 사이의 간극이 커지면, 이 간극 사이를 통과하는 엔진오일의 양이
+  많아지게 됩니다. 이로 인해 오일 압력이 감소하게 될 것입니다. 하지만, 선택지 A의 ''오일유압의 압력저하로 적당한 오일의 공급량이 적어 오일의
+  오염도가 적다''는 설명은 오일 압력이 감소했지만, 오일의 공급량이 적어지는 것은 아니며, 오염도가 적어지는 것도 아닙니다. 선택지 B의 ''오일간극이
+  적어 베어링의 소결이 생긴다''는 설명은 크랭크축의 외경이 작아져 오일간극이 커진 상황과는 반대의 상황을 설명하고 있습니다. 선택지 C의 ''오일압력의
+  상승으로 각부에 윤활공급이 확실하다''는 설명은 크랭크축의 외경이 작아져 오일 압력이 감소하는 상황과는 반대의 상황을 설명하고 있습니다. 선택지
+  D의 ''운행중 소음이 많이 발생된다''는 설명은 크랭크축과 베어링 사이의 간극이 커져서 오일이 제대로 윤활을 하지 못하면, 마찰로 인해 소음이
+  발생할 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 디젤엔진의 공기여과기가 막혔을 때 나타나는 현상이 아닌 것은?
+
+  A.가속 불량
+
+  B.연료소비 과다
+
+  C.매연 과다배출
+
+  D.엔진오일 연소
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 디젤엔진의 공기여과기는 엔진이 외부에서 공기를 빨아들일 때
+  그 공기에 포함된 먼지나 이물질을 걸러내는 역할을 합니다. 이 공기여과기가 막혔을 때, 공기 흐름이 제대로 이루어지지 않아 엔진의 효율이 떨어질
+  수 있습니다. (A) 가속 불량: 공기여과기가 막혀 공기의 흐름이 제대로 이루어지지 않으면, 연료의 완전한 연소를 방해하게 되어 엔진의 출력이
+  떨어지고, 결국 가속력이 떨어질 수 있습니다.   이는 맞는 설명입니다. (B) 연료소비 과다: 엔진의 효율이 떨어지면 연료의 소비량이 증가하게
+  됩니다. 이는 공기여과기가 막힘으로 인해 공기와 연료의 비율이 제대로 맞지 않아 연료가 완전히 연소되지 않고 일부가 낭비되기 때문입니다.   이는
+  맞는 설명입니다. (C) 매연 과다배출: 공기여과기가 막혀 연료의 완전한 연소가 이루어지지 않으면, 미연소 연료가 배기가스와 함께 배출되어 매연이
+  증가하게 됩니다.   이는 맞는 설명입니다. (D) 엔진오일 연소: 엔진오일의 연소는 엔진오일이 엔진실린더 내로 유입되어 연소되는 현상을 말합니다.
+  이는 주로 엔진의 내부 부품이 마모되거나 오일 밀봉부가 손상되어 발생하는 현상으로, 공기여과기의 상태와는 직접적인 관련이 없습니다.   이는 디젤엔진의
+  공기여과기가 막혔을 때 나타나는 현상이 아닌 것으로 보입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 행정체적이 240cc이고 압축비가 9일 때 연소실 체적은 몇 cc인가?
+
+  A.20cc
+
+  B.30cc
+
+  C.40cc
+
+  D.65cc
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다. 압축비는 피스톤이 최하단에서 최상단으로 이동했을 때 실린더
+  내부의 전체 부피와 피스톤이 최상단에 있을 때 남는 연소실의 부피의 비율을 나타냅니다. 수학적으로 표현하면: \[ \text{압축비} = \frac{\text{행정체적}
+  + \text{연소실 체적}}{\text{연소실 체적}} \] 이 식을 연소실 체적에 대해 풀면: \[ \text{연소실 체적} = \frac{\text{행정체적}}{\text{압축비}
+  - 1} \] 여기서 주어진 값은 행정체적이 240cc이고 압축비가 9입니다. 이를 식에 대입하여 연소실 체적을 계산해 보겠습니다. 행정체적 =
+  240 압축비 = 9 연소실_체적 = 행정체적 / (압축비 - 1) = 240 / 8 = 30 연소실의 체적은 30cc입니다. 따라서, 정답은
+  (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건설 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_construction
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_criminal_law.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_criminal_law.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..94e3c9e4748b7094928b5348d43f16f9155b6139
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_criminal_law.yaml
@@ -0,0 +1,136 @@
+dataset_name: criminal_law
+doc_to_text: '질문: 책임능력에 대한 설명으로 옳은 것은?
+
+  A.심 신장애는 생물학적 요소 외에 심리학적 요소로서 정신병 또는 비정상적 정신 상태와 같은 정신적 장애로 말 미암아 사물에 대한 변별 능력과
+  그에 따른 행위 통제능력이 결여되거나 감소되었음을 요한다.
+
+  B.심 신장애인의 행위인지 여부는 전문가의 감정, 그 행위의 전 후 사정이나 기록에 나타난 제반 자료를 종합하여 인정하되 , 공판정 에서의 피고인의
+  태도를 고려하여서는 안 된다.
+
+  C.성적 측면에서의 성격적 결함에 따른 소아기 호증은 그 증상이 심각하여 원래의 의 미의 정신병이 있는 사람과 동 등하다고 평가할 수 있더라도
+  심신장애를 인정할 여지는 없다.
+
+  D.위험의 발생을 예견할 수 있었는데도 자의로 심신장애를 야기한 경우는 원인에 있어서 자유로운 행위에 관한 형 법 제10조 제3항의 적용 대상이
+  아니다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 책임능력은 행위자가 자신의 행위의 결과를 인식하고 그에
+  대한 책임을 질 수 있는 능력을 말합니다. 이는 생물학적 요소와 심리학적 요소로 구성됩니다. 생물학적 요소는 신체적 또는 정신적 질환이나 장애를
+  의미하며, 심리학적 요소는 사물에 대한 변별 능력과 그에 따른 행위 통제능력을 의미합니다. 사물에 대한 변별 능력은 행위의 옳고 그름을 판단할
+  수 있는 능력을 말합니다. 행위 통제능력은 자신의 행동을 통제할 수 있는 능력을 말합니다. 이러한 능력이 결여되거나 감소된 경우에는 책임능력이
+  없다고 판단됩니다. (B)는 공판정에서의 피고인의 태도를 고려하지 않는다는 부분이 옳지 않습니다. 피고인의 태도는 책임능력을 판단하는 데 중요한
+  요소 중 하나입니다. (C)는 성적 측면에서의 성격적 결함에 따른 소아기호증은 심신장애를 인정할 여지가 있다는 것이 최근 대법원 판례의 입장입니다.   옳지
+  않습니다. (D)는 위험의 발생을 예견할 수 있었는데도 자의로 심신장애를 야기한 경우는 원인에 있어서 자유로운 행위에 관한 형법 제10조 제3항의
+  적용 대상이 됩니다.   옳지 않습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 형법상 가석방 제도에 대한 설명으로 옳은 것은?
+
+  A.형기에 산입된 판결 선고 전 구금의 일수는 가석방에 있어서 집행을 경과한 기간에 산입하지 아니한다.
+
+  B.가석방의 기간은 무기형에 있어서는 20년으로 하고, 유기형에 있어서는 남은 형기로 하되, 그 기간은 10년을 초과할 수 없다.
+
+  C.징역 또는 금고의 집행 중에 있는 자가 그 행상이 양호하여 개전의 정이 현저한 때에는 무기에 있어서는 10년, 유기에 있어서는 형기의 2분의
+  1을 경과한 후 행정처분으로 가석방을 할 수 있다.
+
+  D.가석방의 처분을 받은 자가감시에 관한 규칙을 위배하거나, 보호관찰의 준수사항을 위반하고 그 정도가 무거운 때에는 가석방 처분을 취소할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 형법 제57조 제1항에 따르면, 형기에 산입된 판결
+  선고 전 구금의 일수는 가석방에 있어서 집행을 경과한 기간에 산입한다고 명시되어 있습니다.   (A)는 옳지 않습니다. (B) 형법 제73조의2에
+  따르면, 가석방의 기간은 무기형에 있어서는 10년으로 하고, 유기형에 있어서는 남은 형기로 하되, 그 기간은 10년을 초과할 수 없다고 명시되어
+  있습니다.   (B)는 옳지 않습니다. (C) 형법 제72조 제1항에 따르면, 징역 또는 금고의 집행 중에 있는 자가 그 행상이 양호하여 개전의
+  정이 현저한 때에는 무기에 있어서는 10년, 유기에 있어서는 형기의 3분의 1을 경과한 후 행정처분으로 가석방을 할 수 있다고 명시되어 있습니다.   (C)는
+  옳지 않습니다. (D) 형법 제75조에 따르면, 가석방의 처분을 받은 자가 감시에 관한 규칙을 위배하거나, 보호관찰의 준수사항을 위반하고 그 정도가
+  무거운 때에는 가석방 처분을 취소할 수 있다고 명시되어 있습니다.   (D)는 옳은 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 공소시효에 대한 설명으로 옳지 않은 것은?
+
+  A.범죄 후 법률의 개정에 의하여 법정형이 가 벼워진 경우에는 형법 제1조 제2항에 의하여 당해 범죄 사실에 적용될 가벼운 법정형인 신법의 법정형이
+  공소시효 기간의 기준이 된다.
+
+  B.1개의 행위가 형법 상 사기죄와 변호사법 위반죄에 해당하고 양 죄가 상상적 경합 관계에 있는 경우, 변호사법 위반죄의 공소시효가 완성되었다면
+  사기죄의 공소시효도 완성된 것으로 보아야 한다.
+
+  C.공범의 1인으로 기소된 자가 범죄의 증명이 없다는 이유로 무죄의 확정 판결을 선 고 받은 경우, 그는 공범이라고 할 수 없으므로 그에 대하여
+  제기된 공소는 진범에 대한 공소시효를 정 지시키는 효력이 없다.
+
+  D.공범의 1인에 대한 공소시효 정지는 다른 공범자에게 대하여 그 효력이 미치는데 , 여기의 ‘공범’에는 뇌물공여죄와 뇌물수수죄 사이와 같은 대
+  향범 관계에 있는 자는 포함되지 않는다 .
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지가 어떤 내용을 담고 있는지 확인해봅시다. (A)는
+  범죄 후 법률의 개정에 따라 법정형이 가벼워진 경우, 가벼운 법정형의 신법이 공소시효 기간의 기준이 된다는 내용입니다. 형법 제1조 제2항에 따르면,
+  범죄를 저지른 후 법률이 변경되어 처벌이 가벼워진 경우에는 그 가벼운 처벌을 적용해야 한다는 내용이므로 이는 맞는 내용입니다. (B)는 1개의
+  행위가 사기죄와 변호사법 위반죄에 해당하며, 두 죄가 상상적 경합 관계에 있는 경우, 변호사법 위반죄의 공소시효가 완성되면 사기죄의 공소시효도
+  완성된다는 내용입니다. 상상적 경합이란 하나의 행위로 여러 죄가 동시에 성립하는 경우를 말합니다. 그러나 각각의 죄는 독립적으로 공소시효가 적용되므로,
+  한 죄의 공소시효가 완성되었다고 해서 다른 죄의 공소시효가 완성되는 것은 아닙니다. (C)는 공범에 대한 공소시효에 대한 내용입니다. 이 내용은
+  공범이 무죄 판결을 받은 경우, 그 공범에 대한 공소가 다른 진범에 대한 공소시효를 정지시키지 않는다는 내용입니다. 이는 형법의 공소시효에 대한
+  일반적인 원칙과 일치합니다. 공범이 무죄 판결을 받았다면, 그는 법적으로 공범이 아니므로 그에 대한 공소가 다른 진범에 대한 공소시효를 정지시키는
+  효력은 없습니다. (D)는 공범 중 한 명에 대한 공소시효 정지가 다른 공범에게 그 효력이 미치지만, 뇌물공여죄와 뇌물수수죄 사이와 같은 대향범
+  관계에 있는 자는 포함되지 않는다는 내용입니다. 이는 맞는 내용입니다. 대향범 관계는 한 죄를 저지른 자와 그 죄를 교사하거나 선동한 자 등이
+  서로 다른 죄를 저지른 관계를 말하며, 이 경우 각각의 죄는 독립적으로 공소시효가 적용됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 상소심에 대한 설명으로 옳지 않은 것은?
+
+  A.피고인이 공소 기각의 판결에 대하여 무죄를 주장하며 상소하는 것은 상소 이익이 없으므로 허용되지 않는다 .
+
+  B.상고심 판결의 파기 이유가 된 사실상의 판단은 당해 사건의 하급심에 대하여 기 속력을 가지며 , 이 경우에 파기 판결의 기 속력은 파기의 직접
+  이유가 된 원 심판결에 대한 소극적인 부정 판단에 한하여 생긴 다 .
+
+  C.피고인이 제1심 판결에 대하여 양형 부당만을 항소이유로 내세워 항소하였다가 기각된 경우, 피고인은 그 항소심 판결에 대하여 사실 오인 또는
+  법리 오해의 위법이 있다는 것을 상고 이유로 삼을 수 없다.
+
+  D.법률의 해석 ㆍ 적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 항소심 판결에 대하여 검사만이 다른 사유를 들어 상고를 제기하였고 검사의
+  상고가 피고인의 이익을 위하여 제기된 것이 아님이 명백한 경우라면 , 상고법원은 직권으로 심판하여 무죄의 취지로 항소심 판결을 파기할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지를 하나씩 살펴보겠습니다. (A)는 피고인이
+  공소 기각의 판결에 대해 무죄를 주장하며 상소하는 것은 상소 이익이 없으므로 허용되지 않는다는 내용입니다. 이는 피고인이 이미 공소 기각, 즉
+  무죄 판결을 받았음에도 무죄를 주장하며 상소하는 것은 실질적인 이익이 없으므로 상소가 허용되지 않는다는 법리를 설명하고 있습니다. 이는 법적으로
+  옳은 설명입니다. (B)는 상고심 판결의 파기 이유가 된 사실상의 판단은 당해 사건의 하급심에 대하여 기 속력을 가지며, 이 경우에 파기 판결의
+  기 속력은 파기의 직접 이유가 된 원 심판결에 대한 소극적인 부정 판단에 한하여 생긴다는 내용입니다. 이는 상고심 판결의 파기 이유가 된 사실
+  판단이 하급심에 대한 기속력을 가진다는 법리를 설명하고 있으며, 이는 법적으로 옳은 설명입니다. (C)는 피고인이 제1심 판결에 대하여 양형 부당만을
+  항소이유로 내세워 항소하였다가 기각된 경우, 피고인은 그 항소심 판결에 대하여 사실 오인 또는 법리 오해의 위법이 있다는 것을 상고 이유로 삼을
+  수 없다는 내용입니다. 이는 피고인이 양형 부당만을 항소이유로 내세웠다가 기각된 경우, 그 항소심 판결에 대해 새로운 상고 이유를 제시할 수 없다는
+  법리를 설명하고 있습니다. 이 역시 법적으로 옳은 설명입니다. (D)는 법률의 해석ㆍ적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 항소심 판결에
+  대하여 검사만이 다른 사유를 들어 상고를 제기하였고 검사의 상고가 피고인의 이익을 위하여 제기된 것이 아님이 명백한 경우라면, 상고법원은 직권으로
+  심판하여 무죄의 취지로 항소심 판결을 파기할 수 없다는 내용입니다. 하지만, 법률의 해석ㆍ적용을 그르친 나머지 피고인을 유죄로 잘못 인정한 경우라면,
+  상고법원은 검사의 상고가 피고인의 이익을 위하여 제기된 것이 아님에도 불구하고 직권으로 심판하여 무죄의 취지로 항소심 판결을 파기할 수 있습니다.   이
+  선택지는 잘못된 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 형법 제1조 제2항에 대한 설명으로 옳지 않은 것은?
+
+  A.범죄 후 법률의 변경이 있더라도 형의 변경이 없는 경우에는 형법 제1조 제1항에 따라 행위 시법을 적용해야 한다.
+
+  B.형의 경중의 비교는 원칙적으로 법정형을 표준으로 하고, 처단형이나 선고형에 의할 것은 아니다 .
+
+  C.범죄 후 형벌법규의 위임을 받은 법령의 변경에 따라 범죄를 구성하지 아니하게 된 경우, 종전 법령이 범죄로 정하여 처벌한 것이 부당하였다는
+  반성적 고려에 따라 변경된 경우에 한하여 형 법 제1조 제2항이 적용된 다 .
+
+  D.행위 시 양벌규정에는 법인에 대한 면책 규정이 없었으나 법률 개정으로 면책 규정이 추가된 경우, 법원은 형법 제1조 제2항에 따라 피고인에게
+  개정된 양벌규정을 적용해야 한다.
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다. 형법 제1조 제2항에 따르면, 범죄 후 법률의 변경에 의하여
+  그 행위가 범죄를 구성하지 아니하거나 형이 구법보다 경한 때에는 신법에 의한다고 규정하고 있습니다. 즉, 법률이 변경된 경우에는 그 변경된 법률을
+  적용해야 한다는 것입니다. (A)는 옳은 설명입니다. 범죄 후 법률의 변경이 있더라도 형의 변경이 없는 경우에는 형법 제1조 제1항에 따라 행위
+  시법을 적용해야 합니다. (B)는 옳은 설명입니다. 형의 경중의 비교는 원칙적으로 법정형을 표준으로 하고, 처단형이나 선고형에 의할 것은 아닙니다.
+  (D)는 옳은 설명입니다. 행위 시 양벌규정에는 법인에 대한 면책 규정이 없었으나 법률 개정으로 면책 규정이 추가된 경우, 법원은 형법 제1조
+  제2항에 따라 피고인에게 개정된 양벌규정을 적용해야 합니다. (C)는 옳지 않은 설명입니다. 범죄 후 형벌법규의 위임을 받은 법령의 변경에 따라
+  범죄를 구성하지 아니하게 된 경우, 종전 법령이 범죄로 정하여 처벌한 것이 부당하였다는 반성적 고려에 따라 변경된 경우에 형법 제1조 제2항이
+  적용되는 것은 맞지만, 법령의 변경이 있더라도 그것이 반성적 고려에서 비롯된 것이 아니라면 형법 제1조 제2항이 적용되지 않습니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 형법 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_criminal_law
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_ecology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_ecology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..619042d1dfb23b7e7cc7bf9dbf12d89b48c4c56c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_ecology.yaml
@@ -0,0 +1,121 @@
+dataset_name: ecology
+doc_to_text: '질문: 탄소순환에 관한 설명으로 옳은 것은?
+
+  A.대기권에서 탄소는 주로 OPTIONO2, OPTIONO의 형태로 존재한다.
+
+  B.생물체가 죽으면 미생물에 의하여 분해되어 유기태탄 소로 돌아간다.
+
+  C.지구에서 탄소를 가장 많이 보유하고 있는 부분은 산림이다.
+
+  D.녹색식물에 의하여 유기태탄소가 무기태탄소로 전환 된다.
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 하나씩 살펴보겠습니다. (A) 대기권에서
+  탄소는 주로 CO2, CO의 형태로 존재한다. - 이 설명은 맞습니다. 대기권에서 탄소는 주로 이산화탄소(CO2)와 일산화탄소(CO)의 형태로
+  존재합니다. (B) 생물체가 죽으면 미생물에 의하여 분해되어 유기태탄 소로 돌아간다. - 이 설명도 맞습니다. 생물체가 죽으면 미생물에 의해 분해되어
+  다시 유기 탄소로 변환됩니다. (C) 지구에서 탄소를 가장 많이 보유하고 있는 부분은 산림이다. - 이 설명은 틀린 것 같습니다. 지구에서 가장
+  많은 탄소를 보유하고 있는 곳은 바다입니다. 바다는 지구 상에서 가장 큰 탄소 저장고로, 해양 생물체와 해양 퇴적물에 의해 대량의 탄소가 저장됩니다.
+  (D) 녹색식물에 의하여 유기태탄소가 무기태탄소로 전환 된다. - 이 설명은 틀립니다. 실제로는 녹색 식물이 무기 탄소를 유기 탄소로 전환합니다.
+  이 과정은 광합성을 통해 이루어지며, 이 때 탄소는 대기 중의 이산화탄소에서 녹색 식물의 유기물로 전환됩니다.  , 정확한 설명은 (A) 대기권에서
+  탄소는 주로 CO2, CO의 형태로 존재한다와 (B) 생물체가 죽으면 미생물에 의하여 분해되어 유기태탄 소로 돌아간다입니다. 그러나 이 중 하나만
+  선택해야 한다면, (A) 대기권에서 탄소는 주로 CO2, CO의 형태로 존재한다가 탄소순환에 대한 가장 기본적인 사실을 설명하고 있으므로 이를
+  선택하겠습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 지표면으로부터 10-45km의 성층권에 존재하며 태양 으로부터 오는 자외선의 99%이상을 차단하여 피부암과 백내장 등의 발생을 막아주는
+  역할을 하는 물질은?
+
+  A.오존
+
+  B.이산화탄소
+
+  C.프레온가스
+
+  D.양성자 α선
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 질문에서 주어진 정보를 확인해보겠습니다. 질문에서는
+  ''지표면으로부터 10-45km의 성층권에 존재하며 태양으로부터 오는 자외선의 99% 이상을 차단하여 피부암과 백내장 등의 발생을 막아주는 역할을
+  하는 물질''에 대해 묻고 있습니다. (A) 오존에 대해 생각해보면, 오존은 대기 중에 존재하며 자외선을 차단하는 역할을 하는 것으로 알려져 있습니다.
+  오존층은 지구 대기권 중에서 성층권에 위치해 있으며, 태양으로부터 오는 자외선 중 유해한 자외선 B를 흡수해줍니다. (B) 이산화탄소는 지구 대기
+  중에 존재하는 주요 온실가스 중 하나이지만, 자외선을 차단하는 역할에 대해서는 특별히 언급되지 않습니다. (C) 프레온가스는 냉장고나 에어컨 등에
+  사용되는 냉매로, 오존층 파괴에 기여하는 것으로 알려져 있습니다. 이 물질 자체가 자외선을 차단하는 역할을 하는 것은 아닙니다. (D) 양성자
+  α선은 방사선의 일종으로, 이 물질이 자외선을 차단하는 역할을 하는 것은 아닙니다.  , 위의 정보를 바탕으로 볼 때, 성층권에 존재하며 태양으로부터
+  오는 자외선의 99% 이상을 차단하여 피부암과 백내장 등의 발생을 막아주는 역할을 하는 물질은 오존입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 콩과식물과 뿌리혹박테리아와 같이 두 종의 생물이 서로 상호작용하며 이익을 주고받는 관계를 의미하는 용어는?
+
+  A.편리공생
+
+  B.상리공생
+
+  C.편해공생
+
+  D.자원이용
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 질문에서 언급된 콩과식물과 뿌리혹박테리아의 관계를
+  생각해보겠습니다. 이 두 종의 생물이 서로 상호작용하며 이익을 주고받는 관계라는 점이 중요한 힌트입니다. 이런 관계를 일반적으로 공생관계라고 부릅니다.
+  (A). 편리공생은 한 종이 다른 종에 의해 이익을 받는 반면, 다른 종에게는 특별한 영향을 미치지 않는 관계를 의미합니다.  , 이 용어는 두
+  종 모두가 이익을 얻는 상황을 설명하지 않습니다. (B). 상리공생은 두 종이 서로 이익을 주고받는 관계를 의미합니다. 이 용어는 콩과식물과 뿌리혹박테리아의
+  관계를 잘 설명하는 것 같습니다. (C). 편해공생은 한 종이 다른 종에게 해를 끼치는 반면, 다른 종에게는 특별한 영향을 미치지 않는 관계를
+  의미합니다.  , 이 용어는 두 종 모두가 이익을 얻는 상황을 설명하지 않습니다. (D). 자원이용은 생물이 자신의 생존과 번식을 위해 주변 환경의
+  자원을 이용하는 행동을 의미합니다. 이 용어는 공생관계를 설명하는 것이 아니라, 생물의 일반적인 행동을 설명하는 용어입니다.  , 콩과식물과 뿌리혹박테리아의
+  관계를 가장 잘 설명하는 용어는 ''상리공생''입니다. ''상리공생''은 두 종이 서로 이익을 주고받는 관계를 의미하므로, 이 용어가 이 질문의
+  정답일 것입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 수은(Hg)을 함유하는 폐수가 방류되어 오염된 바다에서 잡은 어패류를 섭취함으로서 발생하는 병은?
+
+  A.골연화증
+
+  B.미나마타병
+
+  C.피부흑색병
+
+  D.이따이이따이병
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 수은(Hg)은 무거운 금속 중 하나로, 인체에 치명적인
+  독성을 가지고 있습니다. 그리고 어패류를 통해 인체에 들어오는 경우가 많습니다. 이에 대한 정보를 바탕으로 각 선택지를 살펴보겠습니다. (A)
+  골연화증은 뼈가 약해지는 병으로, 일반적으로 고령화, 비타민 D 결핍, 칼슘 결핍 등으로 인해 발생합니다. 수은 오염과는 직접적인 관련성이 없습니다.
+  (B) 미나마타병은 1950년대 일본 미나마타시에서 처음 발생한 병으로, 수은 중독에 의해 발생하는 것으로 알려져 있습니다. 당시, 미나마타 시의
+  쿠니스토 가공 공장에서 아크릴아미드를 생산하는 과정에서 발생한 수은이 하수와 함께 바다로 유입되었고, 이로 인해 바다 생태계가 오염되었습니다.
+  이렇게 오염된 바다에서 잡은 어패류를 섭취한 주민들이 미나마타병이라는 심각한 수은 중독 증상을 보였습니다. (C) 피부흑색병은 피부에 색소 침착이
+  일어나 피부가 검게 변하는 병으로, 일반적으로 피부에 직접적인 손상이나 특정 약물, 호르몬 불균형 등으로 인해 발생합니다. 수은 오염과는 직접적인
+  관련성이 없습니다. (D) 이따이이따이병은 실제로 존재하지 않는 병입니다.  , 수은을 함유하는 폐수가 방류되어 오염된 바다에서 잡은 어패류를
+  섭취함으로서 발생하는 병은 미나마타병이라 할 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 생태계의 구성요소에 관한 설명으로 틀린 것은?
+
+  A.미량원소에는 몰리브덴, 망간, 철 등이 있다.
+
+  B.생물계 안에는 탄소, 질소, 아연, 코발트와 같은 다량 원소가 있다.
+
+  C.유기물질은 토성 및 물과 무기염류들의 보유력을 증진시킨다.
+
+  D.다량원소들은 주로 유기체들이 직접 이용할 수 있는 이산화탄소, 물과 같은 간단한 화합물로 존재한다.
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다. 생태계의 구성요소에 대한 설명을 확인해보겠습니다. (A)
+  옵션은 미량원소에 몰리브덴, 망간, 철 등이 있다고 말하고 있습니다. 미량원소는 생물체가 생존하고 성장하는데 필요한 원소 중에서 그 양이 매우
+  적은 것을 말합니다. 몰리브덴, 망간, 철은 실제로 미량원소로 분류되므로 이 설명은 올바릅니다. (B) 옵션은 생물계 안에는 탄소, 질소, 아연,
+  코발트와 같은 다량 원소가 있다고 말하고 있습니다. 다량원소는 생물체가 생존하고 성장하는데 필요한 원소 중에서 그 양이 많은 것을 말합니다. 탄소와
+  질소는 확실히 다량원소로 분류되지만, 아연과 코발트는 일반적으로 미량원소로 분류됩니다.   이 설명에는 문제가 있어 보입니다. (C) 옵션은 유기물질이
+  토성 및 물과 무기염류들의 보유력을 증진시킨다고 말하고 있습니다. 유기물질은 토양의 물 분포, 구조, 영양소 보유력 등에 중요한 역할을 합니다.   이
+  설명은 올바릅니다. (D) 옵션은 다량원소들이 주로 유기체들이 직접 이용할 수 있는 이산화탄소, 물과 같은 간단한 화합물로 존재한다고 말하고 있습니다.
+  이는 사실입니다. 예를 들어, 탄소는 이산화탄소의 형태로, 질소는 질소 가스나 암모니아의 형태로 존재합니다.  , 위의 분석에 따르면, (B)
+  옵션의 설명이 잘못되었습니다. 아연과 코발트는 일반적으로 미량원소로 분류되지만, 이 설명에서는 그들을 다량 원소로 잘못 분류하고 있습니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 생태학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_ecology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_economics.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_economics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1159bc7d9d5ea4aa409a36867333b49101022519
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_economics.yaml
@@ -0,0 +1,122 @@
+dataset_name: economics
+doc_to_text: '질문: 기업실체의 이해 관계자가 유용한 의사결정을 하기 위해서는 적시성 있는 정보가 필요하다. 이러한 정보수요를 충족시키기
+  위하여 기업 실체의 존속기간을 일정한 기간 단위로 분할하여 재무제표를 작성하는 기본가정은 무엇인가?
+
+  A.기간별 보고
+
+  B.목적적합성
+
+  C.화폐단위의 안정
+
+  D.신뢰성
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 기업실체의 이해 관계자가 유용한 의사결정을 하기 위해서는
+  적시성 있는 정보가 필요하다는 말은 기업의 재무 상황에 대한 정보가 시간적으로 지연 없이 제공되어야 한다는 것을 의미합니다. 이를 위해 기업 실체의
+  존속기간을 일정한 기간 단위로 분할하여 재무제표를 작성하는 기본가정을 찾아야 합니다. (A) 기간별 보고는 기업의 존속기간을 일정한 기간으로 분할하여
+  재무제표를 작성하고 이를 이해관계자에게 보고해야 한다는 원칙을 의미합니다. 이 원칙은 적시성 있는 정보 제공을 보장하며, 이해관계자가 유용한 의사결정을
+  할 수 있도록 돕습니다.  , 기업실체의 존속기간을 일정한 기간 단위로 분할하여 재무제표를 작성하는 기본가정은 ''기간별 보고''가 가장 적합하다고
+  볼 수 있습니다. (B) 목적적합성은 재무정보가 특정 목적에 적합해야 한다는 원칙을 의미합니다. 이 원칙은 재무정보가 의사결정에 도움이 되기 위해
+  필요하지만, 이 경우에는 적시성과 직접적인 연관성이 없습니다. (C) 화폐단위의 안정은 재무정보가 안정된 화폐 단위로 표시되어야 한다는 원칙을
+  의미합니다. 이 원칙은 재무제표의 비교 가능성을 보장하지만, 이 경우에는 적시성과 직접적인 연관성이 없습니다. (D) 신뢰성은 재무정보가 정확하고
+  오류가 없어야 한다는 원칙을 의미합니다. 이 원칙은 재무제표가 신뢰성을 가질 때만 의사결정에 도움이 되지만, 이 경우에는 적시성에 직접적으로 관련되어
+  있지 않습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 유형자산의 감가상각에 대한 설명으로 옳은 않은 것은?
+
+  A.감가상각이란 감가상각대상금액을 내용연수에 걸쳐 합리적이고 체계적으로 배분하는 것을 말한다.
+
+  B.감가상각대상금액은 취득원가에서 잔존가치를 차감한 금액으로 한다.
+
+  C.정액법은 유형자산의 내용연수 동안 일정액의 감가상각액을 인식하는 방법이다.
+
+  D.정률법을 적용하면 내용연수 초기보다 후기에 감가상각비를 더 많이 인식하게 된다.
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 내용을 확인해봅시다. (A) 선택지는
+  감가상각에 대한 일반적인 정의를 제공합니다. 감가상각이란 기업이 자산을 사용함에 따라 그 가치가 감소하는 것을 회계적으로 반영하는 것을 말합니다.
+  이는 자산의 사용기간 동안 체계적이고 합리적인 방식으로 이루어집니다.   이 선택지는 옳습니다. (B) 선택지는 감가상각 대상 금액에 대해 설명하고
+  있습니다. 감가상각 대상 금액은 일반적으로 자산의 취득원가에서 잔존가치를 뺀 금액입니다. 잔존가치는 자산의 사용기간이 끝난 후에도 여전히 가지고
+  있는 가치를 의미합니다.   이 선택지도 옳습니다. (C) 선택지는 정액법에 대해 설명하고 있습니다. 정액법은 감가상각의 한 방법으로, 이는 각
+  회계기간 동안 일정한 금액의 감가상각비를 인식하는 방법입니다.   이 선택지도 옳습니다. (D) 선택지는 정률법에 대해 설명하고 있습니다. 정률법은
+  감가상각의 한 방법으로, 자산의 장부가치에 일정한 비율을 적용하여 감가상각비를 계산하는 방법입니다. 이 방법을 사용하면, 사용기간이 길어질수록
+  감가상각비가 감소하게 됩니다. 이는 정률법이 장부가치(취득원가에서 누적 감가상각비를 뺀 금액)에 기반하기 때문입니다.  , 이 선택지는 옳지 않습니다.
+  따라서, 정답은 (D) 입니다.
+
+
+  질문: (주)한공은 (주)서울 소유의 건물을 3년간 사용하기로 하는 전세계약을 체결하고, 전세금 10,000,000원을 지급하였다. (주)한공은
+  전세금 10,000,000원을 비유동자산 중 어떤 계정과목으로 표시하여야 하는가?
+
+  A.장기외상매출금
+
+  B.구축물
+
+  C.임대보증금
+
+  D.임차보증금
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 전세계약이란 임차인이 일정 기간 동안 건물 등을 사용할
+  권리를 얻기 위해 임대인에게 일정 금액을 지급하는 계약을 말합니다. 여기서 (주)한공은 임차인의 입장이며, (주)서울은 임대인의 입장입니다. 다음으로,
+  전세금은 임차인이 임대인에게 건물 등을 사용할 권리를 얻기 위해 지급하는 금액을 말합니다.   이 금액은 임차인인 (주)한공이 임대인인 (주)서울에게
+  지급한 금액이므로, 이는 (주)한공의 비유동자산 중 하나로 간주될 수 있습니다. 선택지를 보면, (A) 장기외상매출금, (B) 구축물, (C)
+  임대보증금, (D) 임차보증금이 있습니다. (A) 장기외상매출금은 장기적으로 회수가 예정된 매출금을 말하며, 이는 (주)한공이 전세금을 지급한
+  상황과는 관련이 없습니다. (B) 구축물은 (주)한공이 직접 건물을 건설하거나 개선하는 경우에 해당되므로, 이 역시 전세금을 지급한 상황과는 관련이
+  없습니다. (C) 임대보증금은 임대인이 임차인에게 보증금을 지급하는 경우에 해당되므로, 이는 (주)한공이 전세금을 지급한 상황과는 관련이 없습니다.
+  (D) 임차보증금은 임차인이 임대인에게 건물 등을 사용할 권리를 얻기 위해 지급하는 금액을 말합니다.   이는 (주)한공이 전세금 10,000,000원을
+  지급한 상황과 일치합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 개인일반과세자 甲은 2014년 2월 10일에 부동산임대업을 폐업하였다. 甲이 2014년 1월 1일부터 2014년 2월 10일까지의 거래에
+  대한 부가가치세 확정 신고기한으로 옳은 것은?
+
+  A.2014년 2월 25일
+
+  B.2014년 3월 25일
+
+  C.2014년 4월 25일
+
+  D.2014년 7월 25일
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 개인일반과세자의 부가가치세 확정 신고 기간은 제1기(1월
+  1일부터 6월 30일까지)와 제2기(7월 1일부터 12월 31일까지)로 구분되며, 각 기의 확정 신고 기한은 다음과 같습니다. - 제1기 확정
+  신고: 매년 7월 1일부터 7월 25일까지 - 제2기 확정 신고: 매년 1월 1일부터 1월 25일까지 그러나, 이는 일반적인 사업 연도에 대한
+  확정신고기한이며, 폐업한 경우에는 다르게 적용됩니다. 폐업한 경우에는, 폐업일이 속하는 달의 말일로부터 25일 이내에 부가가치세 확정신고를 해야
+  합니다. 이를 바탕으로 질문에 대해 생각해보면, 甲이 2014년 2월 10일에 부동산임대업을 폐업하였으므로, 폐업일이 속하는 2월의 말일로부터
+  25일 이내인 2014년 3월 25일까지 확정신고를 해야 합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: (주)한공은 종원원이 퇴사하여 퇴직금 10,000,000원을 보통예금계좌에서 지급하였다. 이 거래를 회계처리한 후 나타나는 결과로 옳은
+  것은? (단, 종업원 퇴사직전 퇴직급여충당부채 잔액은 7,000,000원이다.)
+
+  A.자산이 증가한다.
+
+  B.자본금이 증가한다.
+
+  C.부채가 감소한다.
+
+  D.이익잉여금이 증가한다.
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, (주)한공이 종업원인 종원원에게 퇴직금 10,000,000원을
+  지급하였다고 합니다. 이는 회사의 자산인 ''보통예금''에서 10,000,000원이 줄어들었다는 의미입니다.   자산은 감소하였습니다. 이로 인해
+  선택지 A는 옳지 않습니다. 다음으로, 자본금이란 주주들이 회사에 투자한 금액을 말합니다. 이 경우에는 종원원의 퇴직금 지급과 관련하여 주주들이
+  추가적으로 회사에 투자한 내용이 없으므로, 자본금은 변동하지 않습니다.   선택지 B도 옳지 않습니다. 다음으로, 퇴직급여충당부채 잔액이 7,000,000원이었다고
+  합니다. 퇴직급여충당부채란 회사가 직원의 퇴직금을 지급할 의무를 미리 인식하고 이를 부채로 계상하는 것을 말합니다. 즉, 이는 회사의 부채입니다.
+  종원원에게 퇴직금을 지급함으로써 이 부채는 감소하게 됩니다. 하지만, 퇴직금 10,000,000원 중에서 부채로 계상되어 있던 7,000,000원을
+  지급한 것이므로, 부채는 7,000,000원 감소하게 됩니다.   선택지 C는 옳습니다. 그런데 퇴직금 10,000,000원 중에서 부채로 계상되어
+  있던 금액을 초과하는 3,000,000원 (10,000,000원 - 7,000,000원)은 어떻게 처리되었을까요? 이 금액은 회사의 이익에서 차감되어야
+  합니다. 이는 이익잉여금, 즉 회사가 벌어들인 이익에서 퇴직금 등을 지급한 후 남은 금액이 감소한다는 의미입니다.   선택지 D는 옳지 않습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 경제학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_economics
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_education.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_education.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..745ad0b91b56a61fdfb1f58cb29fa5bb969bb4d0
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_education.yaml
@@ -0,0 +1,115 @@
+dataset_name: education
+doc_to_text: '질문: 신 교육 사회학에 대한 설명으로 옳지 않은 것은?
+
+  A.학교 교육과정 또는 교육내용에 주목한다.
+
+  B.불평등의 문제를 학교 교육 안에서 찾는다.
+
+  C.학교에서 가르치는 지식의 사회적 성격을 탐구한다.
+
+  D.구조기능주의에 기반하여 교육의 사회적 기능을 탐구한다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 신 교육 사회학은 학교 교육에 대한 사회학적 연구로서,
+  학교 교육이 사회적으로 어떻게 구성되고 어떤 영향을 미치는지에 대한 탐구를 수행합니다. 이를 바탕으로 선택지를 살펴보겠습니다. (A) 학교 교육과정
+  또는 교육내용에 주목한다는 것은 신 교육 사회학의 주요한 특징 중 하나입니다. 신 교육 사회학은 교육과정이 사회적으로 구성되어 있으며, 이에 따라
+  학생들이 습득하는 지식과 가치가 영향을 받는다고 주장합니다. (B) 불평등의 문제를 학교 교육 안에서 찾는다는 것도 신 교육 사회학의 중요한 특징
+  중 하나입니다. 신 교육 사회학은 학교 교육이 사회적 불평등을 재생산하는 데에 기여한다고 주장합니다. (C) 학교에서 가르치는 지식의 사회적 성격을
+  탐구한다는 것은 신 교육 사회학의 핵심적인 주장 중 하나입니다. 신 교육 사회학은 지식이 사회적으로 구성되어 있으며, 학교에서 가르치는 지식 역시
+  사회적 맥락에 따라 형성된다고 주장합니다. (D) 구조기능주의에 기반하여 교육의 사회적 기능을 탐구한다는 것은 신 교육 사회학의 특징이 아닙니다.
+  신 교육 사회학은 구조기능주의에 비판적이며, 교육의 사회적 기능을 다른 관점에서 해석합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 피들러(Fiedler)의 리더십 상황이론에서 강조하는 ‘상황’ 요소에 포함되지 않는 것은?
+
+  A.구성원의 성숙도
+
+  B.과업의 구조화 정도
+
+  C.지도자와 구성원의 관계
+
+  D.지도자가 구성원에 대해 가지고 있는 영향력의 정도
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 피들러의 리더십 상황이론은 리더의 성향과 상황 요소를 중심으로
+  한 이론입니다. 이 이론에 따르면, 리더의 성향과 상황 요소의 적절한 조합이 효과적인 리더십을 만들어낸다는 것이 핵심입니다. 상황 요소에는 ''과업의
+  구조화 정도'', ''지도자와 구성원의 관계'', ''지도자가 구성원에 대해 가지고 있는 영향력의 정도'' 등이 포함됩니다. ''과업의 구조화
+  정도''는 과업이 얼마나 명확하게 정의되고, 어떻게 수행되어야 하는지에 대한 정도를 의미합니다. ''지도자와 구성원의 관계''는 상호 신뢰, 존경,
+  감정적 애착 등을 포함합니다. ''지도자가 구성원에 대해 가지고 있는 영향력의 정도''는 리더의 권위와 영향력을 의미합니다. 그러나 ''구성원의
+  성숙도''는 허시-블랜차드의 리더십 이론에서 중요한 요소로 다루어지는 개념입니다. 이 이론에서는 구성원의 역량과 동기에 따라 리더십 스타일을 조절해야
+  한다는 주장을 하고 있습니다.  , 피들러의 리더십 상황이론에서 강조하는 ''상황'' 요소에는 ''구성원의 성숙도''가 포함되지 않습니다. 이는
+  허시-블랜차드의 리더십 이론에서 중요하게 다루어지는 요소입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 교육행정의 원리에 대한 설명으로 옳지 않은 것은?
+
+  A.안정성 의 원리는 교육정책을 일관되고 지속적으로 추진해야 한다는 것이다.
+
+  B.효율성 의 원리는 교육에 투입되는 비용을 상대적으로 적게 하면서 교육 목표를 달성하려는 것이다.
+
+  C.자주 성의 원리는 지역의 특수성과 다양성을 반영하여 주민의 적극적인 의사와 자발적인 참여를 강조하는 것이다.
+
+  D.민주성 의 원리는 이해당사자들의 의사를 적극적으로 반영하고 그들을 의사결정 과정에 적절하게 참여시켜야 한다는 것이다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 교육행정의 원리에 대해 알아보겠습니다. 우선 교육행정의 원리는
+  합법성, 기회균등, 자주성 존중, 지방분권, 민주성, 공공성, 효율성, 안정성 유지, 전문성 보장의 원리로 이루어진 9가지가 존재합니다. (A)
+  안정성의 원리는 교육정책을 일관되고 지속적으로 추진해야 한다는 것으로, 교육의 효과를 높이고 사회적 안정을 유지하기 위해 중요합니다. (B) 효율성의
+  원리는 교육에 투입되는 비용을 상대적으로 적게 하면서 교육 목표를 달성하려는 것으로, 교육 예산을 효율적으로 활용하고 교육의 성과를 높이기 위해
+  중요합니다. (D) 민주성의 원리는 이해당사자들의 의사를 적극적으로 반영하고 그들을 의사결정 과정에 적절하게 참여시켜야 한다는 것으로, 교육행정의
+  공정성과 투명성을 높이고 교육의 발전을 이루기 위해 중요합니다. 하지만, (C) 자주성의 원리는 교육행정의 원리에 해당하지 않습니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: 문화실조론의 주장으로 옳지 않은 것은?
+
+  A.학생의 학습 실패 중요 요인으로 학생의 문화적 경험 부족을 지목한다.
+
+  B.문화적 상대주의 관점이며, 학생 간의 교육격차가 문화적 결핍 보다는 문화적 차이 때문이라고 본다.
+
+  C.빈곤 가정의 결핍된 문화적 환경을 보상하기 위한 프로그램 중 하나가 헤드스타트 프로그램이다.
+
+  D.학교에서 학생들의 성공과 실패는 유전적으로 결정된 것이 아니라고 본다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 문화실조론에 대해 알아보겠습니다. 문화실조론은 1960년대
+  미국에서 빈곤층 아동들의 학업 성적 저하를 설명하기 위해 제기된 이론입니다. 이 이론은 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족이 주된 원인이라고 주장합니다. 이에 따라 빈곤층 아동들의 문화적 경험을 풍부하게 하기 위한 여러 프로그램들이 제안되었는데, 그 중 하나가
+  헤드스타트 프로그램입니다. 선택지 (A)는 문화실조론의 주요 주장을 잘 나타내고 있습니다. 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족 때문이라는 것이 이론의 핵심입니다.   (A)는 문화실조론의 주장입니다. 선택지 (B)는 문화적 상대주의 관점을 언급하고 있습니다. 이는
+  문화실조론과는 약간 다른 관점입니다. 문화적 상대주의는 모든 문화가 동등하다는 주장이며, 이는 문화실조론이 주장하는 ''문화적 결핍''과는 상반되는
+  개념입니다. 문화실조론은 특정 문화(여기서는 빈곤층 아동들의 문화)가 결핍되었다고 보는 반면, 문화적 상대주의는 모든 문화가 동등하다고 보기 때문입니다.   (B)는
+  문화실조론의 주장이 아닙니다. 선택지 (C)는 문화실조론이 주장하는 바를 잘 나타내고 있습니다. 빈곤층 아동들의 문화적 경험을 풍부하게 하기 위한
+  프로그램 중 하나가 헤드스타트 프로그램이라는 것이 이론의 주장입니다. 마지막으로 선택지 (D)는 학교에서 학생들의 성공과 실패는 유전적으로 결정된
+  것이 아니라고 보는 것입니다. 이는 문화실조론이 주장하는 바와 일치합니다. 문화실조론은 학생들의 학업 성적 저하는 학생들이 가진 문화적 경험의
+  부족이 주된 원인이라고 보기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 평생교육법 상평생학습도시에 대한 설명으로 옳지 않은 것은?
+
+  A.평생학습도시의 지정 및 지원에 필요한 사항은 교육부 장관이 정한다.
+
+  B.전국평생학습도시협의회의 구성 및 운영에 필요한 사항은 교육부령으로 정한다.
+
+  C.평생학습도 시 간의 연계․ 협력 및 정보교류의 증진을 위하여 전국 평생학습도시협의회를 둘 수 있다.
+
+  D.국가는 지역사회의 평생교육 활성화를 위하여 시․군 및 자치구를 대상으로 평생학습도시를 지정 및 지원할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다. 우선, 평생교육법을 확인해야 합니다. 평생교육법 제24조에
+  따르면, 국가는 지역사회의 평생교육 활성화를 위하여 시․군 및 자치구를 대상으로 평생학습도시를 지정 및 지원할 수 있다. 이를 통해 선택지 (D)는
+  정확하다는 것을 알 수 있습니다. 그리고 평생교육법 제24조의2에는 평생학습도시의 지정 및 지원에 필요한 사항은 교육부 장관이 정한다는 내용이
+  있습니다. 이를 통해 선택지 (A)도 옳다는 것을 확인할 수 있습니다. 또한, 평생교육법 제24조의3에서는 평생학습도시 간의 연계․협력 및 정보교류의
+  증진을 위하여 전국 평생학습도시협의회를 둘 수 있다는 내용이 있습니다.   선택지 (C)도 옳다는 것을 확인할 수 있습니다. 하지만, 평생교육법에는
+  전국평생학습도시협의회의 구성 및 운영에 필요한 사항은 교육부령으로 정한다는 내용은 없습니다. 이를 통해 선택지 (B)가 평생교육법 상평생학습도시에
+  대한 설명으로 옳지 않다는 것을 알 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 교육학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_education
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electrical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electrical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f6b81c0cf4e9a2186a7ec5fe2bc5d85d291c45d0
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electrical_engineering.yaml
@@ -0,0 +1,124 @@
+dataset_name: electrical_engineering
+doc_to_text: '질문: 곡선도로 조명상 조명기구의 배치 조건이 가장 적당한 것은?
+
+  A.양측 배치의 경우는 지그재그식으로 한다.
+
+  B.한쪽만 배치하는 경우는 커브 바깥쪽에 배치한다.
+
+  C.직선도로에서 보다 등 간격을 조금 더 넓게 한다.
+
+  D.곡선도로의 곡률 반지름이 클수록 등 간격을 짧게 한다.
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 검토를 해보겠습니다. (A) 양측
+  배치의 경우는 지그재그식으로 한다. 지그재그식 배치는 보통 도로의 양측에 조명기구를 배치할 때 사용하는 방식입니다. 이 방식은 두 조명기구 사이의
+  거리를 적절하게 유지하면서도 도로의 전체적인 밝기를 유지할 수 있게 해줍니다. 하지만 이것이 곡선도로에서도 반드시 적용되는지에 대한 정보는 확인이
+  필요합니다. (B) 한쪽만 배치하는 경우는 커브 바깥쪽에 배치한다. 이 선택지는 로드 라이팅 디자인의 기본 원칙 중 하나로 보입니다. 곡선 도로에서
+  커브 바깥쪽에 조명을 배치하면, 운전자가 도로를 더 잘 볼 수 있습니다. 이는 운전자가 도로의 곡률을 더 잘 인식하게 하고, 사고 위험을 줄이는
+  데 도움이 됩니다. (C) 직선도로에서 보다 등 간격을 조금 더 넓게 한다. 이 선택지는 조명기구의 배치 간격에 관한 것입니다. 직선 도로에서는
+  조명기구 간의 거리가 일정하게 유지되지만, 곡선 도로에서는 조명기구 간의 거리를 넓게 유지해야 할 수도 있습니다. 이는 곡선 도로에서 운전자의
+  시야를 확보하기 위한 것일 수 있습니다. (D) 곡선도로의 곡률 반지름이 클수록 등 간격을 짧게 한다. 이 선택지는 곡선도로의 곡률 반지름에 따라
+  조명기구의 배치 간격을 조정하는 것을 제안하고 있습니다. 곡률 반지름이 큰 곡선도로에서는 도로가 덜 굽어 있으므로, 조명기구 간의 거리를 짧게
+  유지할 수 있습니다. 이는 도로의 밝기를 일정하게 유지하는 데 도움이 될 수 있습니다. 각 선택지를 분석한 결과, (B) 한쪽만 배치하는 경우는
+  커브 바깥쪽에 배치한다는 가장 합리적인 배치 방법으로 보입니다. 이 방법은 곡선 도로에서 운전자의 시야를 가장 잘 확보할 수 있게 해주기 때문입니다.
+  다른 선택지들은 곡선 도로에서의 조명기구 배치에 대한 구체적인 가이드라인을 제공하지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 휘도 B[sb], 반지름 r[m]인 등휘도 완전 확산성 구 광원의 전광속 F[lm]은 얼마인가?
+
+  A.4r2OPTION
+
+  B.πr2OPTION
+
+  C.π2r2OPTION
+
+  D.4π2r2OPTION
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 등휘도 완전 확산성 구 광원에 대해 이해해야 합니다.
+  이는 구 형태의 광원에서 모든 방향으로 동일한 강도의 빛이 발산되는 것을 의미합니다. 휘도(B)는 광도(I)를 표면적(A)으로 나눈 값으로 정의됩니다.
+  즉, B = I/A입니다. 여기서 광도(I)는 빛의 강도를 나타내며, 단위는 루멘(lm)입니다. 표면적(A)는 단위 면적당 빛의 양을 나타내며,
+  단위는 제곱미터(m^2)입니다. 등휘도 완전 확산성 구 광원의 경우, 모든 방향으로 동일한 강도의 빛이 발산되므로, 전광속(F)은 광원의 모든
+  표면에서 발산되는 총 빛의 양을 나타냅니다. 구의 표면적(A)은 4πr^2로 계산됩니다.  , 광도(I)는 휘도(B)와 표면적(A)의 곱, 즉
+  I = B * A이므로, I = B * 4πr^2가 됩니다. 전광속(F)는 광원의 모든 표면에서 발산되는 총 빛의 양이므로, 광도(I)와 동일합니다.  ,
+  F = I = B * 4πr^2입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 200W 전구를 우유색 구형 글로브에 넣었을 경우 우유색 유리의 반사율은 40%, 투과율은 50%라고 할 때 글로브의 효율은 약 몇 %인가?
+
+  A.20
+
+  B.40
+
+  C.50
+
+  D.83
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 우선, 글로브의 효율을 계산하기 위해 우리는 먼저 어떤
+  양이 글로브를 통과하거나 반사되는지 알아야 합니다. 문제에서 주어진 것은 우유색 유리의 반사율이 40%, 투과율이 50%라는 것입니다. 이것은
+  우유색 유리가 받은 전체 에너지 중 40%는 반사되고, 50%는 통과한다는 것을 의미합니다. 그럼 남은 10%는 어디로 갔을까요? 이 부분은 문제에서
+  명시적으로 언급되지 않았지만, 일반적으로 이러한 유형의 문제에서는 나머지 에너지가 흡수되었다고 가정합니다.  , 200W 전구의 경우, 40%는
+  반사되어 80W가 되고, 50%는 통과하여 100W가 됩니다. 글로브의 효율은 통과된 에너지와 반사된 에너지의 합을 전체 에너지로 나눈 것이므로,
+  (80W + 100W) / 200W = 0.9 또는 90%가 됩니다. 그러나 선택지 중에 90%는 없습니다. 이 경우, 문제의 정보가 잘못되었거나
+  제가 무언가를 잘못 이해하고 있는 것일 수 있습니다. 이러한 상황에서는 문제를 다시 확인하거나 추가 정보를 찾아보는 것이 좋습니다. 그러나 이
+  경우에는 추가 정보를 찾을 수 없으므로, 주어진 정보를 바탕으로 가장 가능성이 높은 답변을 선택해야 합니다. 이 문제에서는 글로브의 효율이 90%라고
+  계산되었지만, 선택지 중에서는 83%가 가장 가까운 값입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 폭 24m인 거리의 양쪽에 20m의 간격으로 지그재그식으로 등주를 배치하여 도로상의 평균 조도를 5[lx]로 하고자 한다. 각 등주상에
+  몇 [lm]의 전구가 필요한가? (단, 도로면에서의 광속 이용률은 25%이다.)
+
+  A.4000
+
+  B.4500
+
+  C.4800
+
+  D.5000
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제를 해결하기 위해 조도와 플럭스에 대한
+  개념을 이해해야 합니다. 조도(lux, lx)는 단위 면적당 광속(lumen, lm)을 나타내는 단위입니다.   조도는 광속을 면적으로 나눈 값이라고
+  할 수 있습니다. 문제에서 주어진 정보를 바탕으로 필요한 광속을 계산해보겠습니다. 우선, 도로의 폭이 24m이고, 등주의 간격이 20m라는 정보를
+  통해 도로의 면적을 계산할 수 있습니다. 면적은 폭과 길이를 곱한 값이므로, 도로의 면적은 24m * 20m = 480m²입니다. 다음으로, 도로상의
+  평균 조도가 5lx라는 정보를 통해 필요한 총 광속을 계산할 수 있습니다. 조도가 면적당 광속이므로, 총 광속은 조도 * 면적입니다.   필요한
+  총 광속은 5lx * 480m² = 2400lm입니다. 그러나, 도로면에서의 광속 이용률이 25%라는 정보를 고려해야 합니다. 이는 도로에 비추어지는
+  전체 광속 중 실제로 도로면에서 이용되는 광속의 비율을 의미합니다.   실제로 필요한 광속은 계산된 총 광속을 이용률로 나눈 값이 됩니다. 즉,
+  필요한 광속은 2400lm / 0.25 = 9600lm입니다. 하지만, 이는 도로 전체에 필요한 광속이므로, 등주 하나에 필요한 광속을 계산해야
+  합니다. 등주가 지그재그식으로 배치되어 있으므로, 하나의 등주는 2개의 도로 면적을 비추게 됩니다.   하나의 등주에 필요한 광속은 9600lm
+  / 2 = 4800lm입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 플랭크의 방사법칙을 이용하여 온도를 측정하는 것은?
+
+  A.광고온계
+
+  B.방사 온도계
+
+  C.열전 온도계
+
+  D.저항 온도계
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 플랭크의 방사법칙은 물체가 방출하는 전자기 복사의 스펙트럼과
+  세기가 그 물체의 온도와 관련이 있다는 원리를 설명합니다. 이 원리를 이용하여 온도를 측정하는 장치는 물체가 방출하는 복사 에너지를 측정하여 온도를
+  결정합니다. 주어진 옵션들 중에서: (A) 광고온계 (Optical Pyrometer): 이 장치는 특정 파장(여기서는 0.65μm의 적색 단파장)의
+  가시광선을 이용해 온도를 측정합니다. 열원으로부터 방사되는 빛과 기기 내의 표준 열원으로부터 나오는 같은 파장의 빛의 강도를 비교함으로써 온도를
+  측정합니다. 이 방법은 비앙(Wien)의 분배법칙에 바탕을 두고 있으며, 흑체 또는 흑체 조건에서 방사되는 열 에너지의 파장과 강도가 온도에 따라
+  변화하는 원리를 이용합니다. (B) 방사 온도계 (Radiation Pyrometer): 이 장치는 물체로부터 방출되는 열방사(적외선)를 받아들여
+  온도를 측정합니다. 이 방법은 열전도를 이용하는 온도계와는 다르게 비접촉 방식이며, 고속으로 온도를 측정할 수 있습니다. (C) 열전 온도계 (Thermocouple):
+  이 장치는 두 다른 금속의 접합점에서 발생하는 전압 변화를 측정하여 온도를 결정합니다. (D) 저항 온도계 (Resistance Thermometer):
+  이 장치는 온도에 따라 변하는 재료의 전기 저항을 측정하여 온도를 결정합니다. 주어진 옵션들 중에서, 플랭크의 방사법칙을 이용하여 온도를 측정하는
+  장치는 광고온계(Optical Pyrometer)입니다. 이는 흑체 또는 비슷한 조건의 물체로부터 방사되는 가시광선의 강도를 통해 온도를 측정하는
+  방식을 사용하며, 흑체의 방사율을 1로 설정하여 보정하는 원리를 기반으로 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 전기 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_electrical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electronics_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electronics_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..532067268053e13892fc8e3e4ff8092a0139e352
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_electronics_engineering.yaml
@@ -0,0 +1,114 @@
+dataset_name: electronics_engineering
+doc_to_text: '질문: C 언어에서 사용되는 자료형이 아닌 것은?
+
+  A.double
+
+  B.short
+
+  C.integer
+
+  D.float
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. C 언어에서는 여러가지 기본 자료형을 제공하고 있습니다.
+  (A) double은 C 언어에서 실수를 표현하는 자료형 중 하나로, float보다 더 넓은 범위의 실수를 표현할 수 있습니다.   이는 C 언어의
+  자료형입니다. (B) short는 C 언어에서 정수를 표현하는 자료형 중 하나로, int보다 작은 범위의 정수를 표현할 수 있습니다. 이 역시
+  C 언어의 자료형입니다. (D) float은 C 언어에서 실수를 표현하는 자료형으로, double보다 작은 범위의 실수를 표현할 수 있습니다.
+  이 역시 C 언어의 자료형입니다. 그러나 (C) integer는 C 언어의 자료형이 아닙니다. C 언어에서 정수를 표현하는 자료형은 int, short,
+  long 등이 있지만 ''integer''라는 자료형은 존재하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 원시 프로그램을 컴파일러가 수행되는 기계에 대한 기계어로 번역하는 것이 아니라, 다른 기종에 대한 기계어로 번역하는 것은?
+
+  A.linker
+
+  B.debugger
+
+  C.cross-compiler
+
+  D.preprocessor
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 설명을 해보겠습니다. (A)
+  링커(linker)는 여러 개의 오브젝트 파일들을 연결시켜 하나의 실행 파일을 만드는 역할을 합니다. 이는 컴파일 과정의 마지막 단계에서 일어나는
+  작업입니다. (B) 디버거(debugger)는 프로그램의 오류를 찾고 수정하는 데 사용되는 소프트웨어 도구입니다. 이는 실행 중인 프로그램을 모니터링하고,
+  필요한 경우 중단시켜 변수의 값을 검사하거나 변경할 수 있습니다. (C) 크로스 컴파일러(cross-compiler)는 한 기종의 컴퓨터에서 실행되지만,
+  다른 기종의 컴퓨터에서 실행될 수 있는 코드를 생성하는 컴파일러입니다. 이는 다른 하드웨어 아키텍처를 대상으로 코드를 생성할 때 사용됩니다. (D)
+  프리프로세서(preprocessor)는 컴파일러가 소스 코드를 컴파일하기 전에 처리하는 프로그램입니다. 이는 주로 소스 코드 내의 매크로를 확장하거나,
+  조건부 컴파일 지시자를 처리하는 데 사용됩니다. 질문에서는 ''원시 프로그램을 컴파일러가 수행되는 기계에 대한 기계어로 번역하는 것이 아니라,
+  다른 기종에 대한 기계어로 번역하는 것''을 묻고 있습니다. 이 설명은 크로스 컴파일러(cross-compiler)의 기능과 일치합니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: BNF 심볼 중 택일을 의미하는 것은?
+
+  A.::=
+
+  B.＜＞
+
+  C.|
+
+  D.#
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. BNF(Backus-Naur Form)는 문법을 정의하는
+  메타 문법입니다. 이는 프로그래밍 언어나 데이터 구조의 문법을 표현하는 데 사용됩니다. BNF에서 사용되는 심볼들은 각각 특정한 의미를 가지고
+  있습니다. 선택지를 하나씩 살펴보면, (A) ::= 심볼은 BNF에서 "정의한다"는 의미를 가집니다. 즉, 왼쪽에 있는 식이나 요소가 오른쪽에
+  있는 식이나 요소로 정의된다는 것을 나타냅니다. (B) ＜＞ 심볼은 BNF에서 비터미널을 표현하는 데 사용됩니다. 비터미널이란, 규칙에 의해 다른
+  심볼로 대체될 수 있는 심볼을 의미합니다. (C). | : 이 심볼은 BNF에서 여러 선택 사항 중 하나를 선택할 수 있음을 나타냅니다. 예를
+  들어, A | B는 A나 B 중 하나를 선택할 수 있음을 의미합니다. (D) # 심볼은 일반적으로 BNF에서 사용되지 않는 심볼입니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: 로더(Loader)의 기능으로 볼 수 없는 것은?
+
+  A.할당(allocation)
+
+  B.연결(link)
+
+  C.번역(translation)
+
+  D.재배치(relocation)
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 로더(loader)는 컴퓨터 시스템에서 실행할 프로그램을
+  메모리에 적재하는 역할을 하는 프로그램입니다. 이를 위해 로더는 크게 세 가지 주요 기능을 수행합니다. 1. 할당(Allocation): 로더는
+  프로그램이 메모리 내에서 어디에 위치할지 결정합니다. 이를 위해 프로그램이 필요로 하는 메모리 공간을 찾아 할당하는 작업을 수행합니다.  , ''할당''은
+  로더의 기능 중 하나입니다. 2. 연결(Linking): 프로그램은 여러 개의 모듈로 분할될 수 있습니다. 로더는 이러한 모듈들을 연결하여 하나의
+  실행 가능한 프로그램을 만듭니다.  , ''연결'' 또한 로더의 기능 중 하나입니다. 3. 재배치(Relocation): 프로그램이 메모리 내의
+  특정 위치에 적재되면, 그 프로그램 내의 모든 주소는 적재된 위치를 기준으로 재배치됩니다. 이러한 작업을 로더가 수행하므로, ''재배치'' 또한
+  로더의 기능입니다. 그러나 ''번역(Translation)''은 로더의 기능이 아닙니다. 번역은 주로 컴파일러나 인터프리터가 수행하는 작업으로,
+  고급 언어로 작성된 소스 코드를 저급 언어인 기계어로 변환하는 과정을 의미합니다. 이는 로더의 역할 범위를 벗어난 작업입니다. 따라서, 정답은
+  (C) 입니다.
+
+
+  질문: 운영체제가 제공하는 서비스로 볼 수 없는 것은?
+
+  A.프로그래머가 작성한 응용 프로그램에 대한 오류를 자동으로 수정한다.
+
+  B.파일의 생성, 판독, 삭제 등의 파일에 대한 조작을 지원한다.
+
+  C.각종 자원에 대한 사용 내역이나 응답시간과 같은 성능향상을 위한 요소들을 기록하여 관리한다.
+
+  D.컴퓨터 시스템의 하드웨어 오류를 발견하고 그에 대한 적절한 조치를 한다.
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 운영체제는 컴퓨터 시스템의 자원을 관리하고 응용 프로그램과
+  하드웨어 사이의 인터페이스 역할을 하는 소프트웨어입니다. 선택지 (A)는 프로그래머가 작성한 응용 프로그램에 대한 오류를 자동으로 수정한다는 내용입니다.
+  하지만, 이는 운영체제의 기능이 아닙니다. 프로그램의 오류는 프로그래머나 개발자가 디버깅 과정을 통해 찾아내고 수정해야 합니다. 운영체제는 오류가
+  발생하면 그 정보를 프로그래머에게 전달할 수 있지만, 자동으로 수정하는 것은 아닙니다. 선택지 (B)는 파일의 생성, 판독, 삭제 등의 파일에
+  대한 조작을 지원한다는 내용입니다. 이는 운영체제의 핵심 기능 중 하나로, 파일 시스템 관리를 통해 사용자가 파일을 효과적으로 관리하고 사용할
+  수 있게 지원합니다. 선택지 (C)는 각종 자원에 대한 사용 내역이나 응답시간과 같은 성능향상을 위한 요소들을 기록하여 관리한다는 내용입니다.
+  이 또한 운영체제의 중요한 기능 중 하나로, 시스템 성능을 모니터링하고 최적화하는 역할을 합니다. 마지막으로 선택지 (D)는 컴퓨터 시스템의 하드웨어
+  오류를 발견하고 그에 대한 적절한 조치를 한다는 내용입니다. 이 역시 운영체제의 기능으로, 하드웨어 오류를 감지하고 적절한 처리를 하여 시스템의
+  안정성을 유지하는 역할을 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 전자 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_electronics_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_energy_management.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_energy_management.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..0c1687d684f41e0e6f8e400d4f833432c1edbfa1
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_energy_management.yaml
@@ -0,0 +1,118 @@
+dataset_name: energy_management
+doc_to_text: '질문: 이상적인 변압기에 대한 설명으로 옳은 것은?
+
+  A.단자 전류의 비 I2/I1는 권수비와 같다.
+
+  B.단자 전압의 비 V2/V1는 코일의 권수비와 같다.
+
+  C.1차측 복소전력은 2차측 부하의 복소전력과 같다.
+
+  D.1차측 단자에서 본 전체 임피던스는 부하 임피던스에 권수비의 자승의 역수를 곱한 것과 같다.
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 이상적인 변압기에 대한 설명을 분석하기 위해 각 선택지를
+  살펴보겠습니다. (A) "단자 전류의 비 I2/I1는 권수비와 같다"는 이상적인 변압기에 대한 설명입니다. 이상적인 변압기에서는 1차측과 2차측의
+  권수비가 전류 비율을 결정합니다. 예를 들어, 1차측에 100회 권선, 2차측에 200회 권선이 있다면, 2차측의 전류는 1차측의 전류의 절반만큼
+  흐를 것입니다. 이것은 변압기의 근본적인 원리 중 하나입니다. (B) 선택지는 변압기의 단자 전압의 비는 코일의 권수비와 같다고 말하고 있습니다.
+  이는 사실이 아닙니다. (C) 선택지는 "1차측 복소전력은 2차측 부하의 복소전력과 같다"고 합니다. 이상적인 변압기에서는 1차측과 2차측의 전력이
+  동일해야 합니다. 하지만 이는 복소전력에 관한 진술이므로, 더 구체적인 맥락이 필요합니다. (D) 선택지는 "1차측 단자에서 본 전체 임피던스는
+  부하 임피던스에 권수비의 자승의 역수를 곱한 것과 같다"고 합니다. 이것은 변압기의 임피던스 리플렉션 원리를 설명하지만 사실이 아닙니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 어떤 회로에 E=200+j50(V)인 전압을 가했을 때 I=5+j5(A)의 전류가 흘렀다면 이 회로의 임피던스는 약 몇 Ω인가?
+
+  A.0
+
+  B.∞
+
+  C.70+j30
+
+  D.25-j15
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 회로의 임피던스 Z를 구하는 방법에 대해 알아보겠습니다.
+  회로에서의 임피던스 Z는 전압 E를 전류 I로 나눈 값으로 구할 수 있습니다. 즉, Z = E/I 입니다. 여기서 주어진 E는 200+j50(V),
+  I는 5+j5(A)입니다.  , Z = (200+j50) / (5+j5)를 계산하면 됩니다. 복소수의 나눗셈을 수행하기 위해서는 분모의 복소수를
+  켤레 복소수로 곱하여 실수로 만든 후 분자에도 같은 켤레 복소수를 곱합니다. 즉, Z = (200+j50) * (5-j5) / (5+j5) *
+  (5-j5)를 계산하면 됩니다. 분자를 계산하면 200*5 + 200*(-j5) + j50*5 + j50*(-j5) = 1000 - j1000
+  + j250 + 250 = 1250 - j750 입니다. 분모를 계산하면 5*5 + 5*(-j5) + j5*5 + j5*(-j5) = 25 -
+  j25 + j25 + 25 = 50 입니다.  , Z = (1250 - j750) / 50 = 25 - j15 입니다. 따라서, 정답은 (D)
+  입니다.
+
+
+  질문: 태양광발전 전지에서 직렬저항이 발생하는 원인이 아닌 것은?
+
+  A.전면 및 후면 금속전극의 저항
+
+  B.태양광발전 전지 내의 누설전류
+
+  C.금속전극과 에미터, 베이스 사이의 접촉저항
+
+  D.태양광발전 전지의 에미터와 베이스를 통한 전류 흐름
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 정답 해설: 먼저, 직렬저항이 무엇인지 알아야 합니다.
+  직렬저항은 전기 회로에서 여러 개의 저항이 연속적으로 연결되어 있는 것을 말합니다. 태양광발전 전지에서 직렬저항이 발생하는 원인은 다음과 같습니다.
+  (A) 전면 및 후면 금속전극의 저항: 태양광발전 전지의 전면과 후면에는 금속전극이 있습니다. 이 금속전극은 태양광발전 전지의 전기적 특성을 결정하는
+  중요한 요소 중 하나입니다. 하지만 금속전극 자체의 저항이 존재하기 때문에, 태양광발전 전지의 직렬저항이 발생할 수 있습니다. (B) 태양광발전
+  전지 내의 누설전류: 태양광발전 전지 내의 누설전류는 전지 내부에서 전류가 새어나가는 것을 말합니다. 이 누설전류는 태양광발전 전지의 효율을 저하시키고,
+  수명을 단축시키는 원인 중 하나이지만, 직렬저항과는 직접적인 관련이 없습니다. (C) 금속전극과 에미터, 베이스 사이의 접촉저항: 태양광발전 전지의
+  금속전극과 에미터, 베이스 사이에는 접촉저항이 존재합니다. 이 접촉저항은 금속전극과 반도체 물질 사이의 접촉이 불완전할 때 발생하며, 태양광발전
+  전지의 효율을 저하시키는 원인 중 하나입니다. (D) 태양광발전 전지의 에미터와 베이스를 통한 전류 흐름: 태양광발전 전지의 에미터와 베이스는
+  전류가 흐르는 경로 중 하나입니다. 이 경로에서 전류가 흐르면 저항이 발생하며, 이 저항이 태양광발전 전지의 직렬저항을 증가시킬 수 있습니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 서로 다른 두 종류의 금속을 접촉하여 두 접점의 온도를 다르게 하면 온도차에 의해서 열 기전력이 발생하고 미세한 전류가 흐르는 현상은?
+
+  A.홀 효과(Hall effect)
+
+  B.펠티에 효과(Peltier effect)
+
+  C.제베크 효과(Seebeck effect)
+
+  D.광도전 효과((photo-conductivity effect)
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 서로 다른 두 종류의 금속을 접촉하여 두 접점의 온도를
+  다르게 하면 온도차에 의해서 열 기전력이 발생하고 미세한 전류가 흐르는 현상을 찾기 위해서는 각 선택지를 자세히 알아볼 필요가 있습니다. (A).
+  홀 효과(Hall effect)는 자기장이 인가된 물질에 전류를 흘렸을 때, 자기장과 전류에 수직인 방향으로 전기적인 힘이 발생하는 현상을 말합니다.
+  이는 전하 운반체의 종류와 밀도, 그리고 자기장의 세기에 의존합니다. (B). 펠티에 효과(Peltier effect)는 서로 다른 금속을 접합하여
+  전기를 흘렸을 때, 접합부의 양쪽에 열의 흡수 또는 발생이 일어나는 현상을 말합니다. 이는 전기 에너지가 열 에너지로 변환되는 현상으로, 열전
+  효과의 일종입니다. (C). 제베크 효과(Seebeck effect)는 서로 다른 금속 또는 반도체를 접합하여 전기를 흘렸을 때, 접합부의 양쪽에
+  온도차가 있으면 열기전력이 발생하는 현상을 말합니다. 이는 열 에너지가 전기 에너지로 변환되는 현상으로, 열전 효과의 일종입니다. (D). 광도전
+  효과((photo-conductivity effect)는 물질에 빛을 비추었을 때, 물질 내부의 전자가 빛 에너지를 받아 이동하면서 전기 전도도가
+  증가하는 현상을 말합니다. 이는 광전자 효과의 일종입니다. 위의 선택지 중에서 서로 다른 두 종류의 금속을 접촉하여 두 접점의 온도를 다르게 하면
+  온도차에 의해서 열 기전력이 발생하고 미세한 전류가 흐르는 현상을 설명하는 것은 (C). 제베크 효과(Seebeck effect)입니다. 따라서,
+  정답은 (C) 입니다.
+
+
+  질문: 태양광발전 모듈의 I-V 특성곡선에서 일사량에 따라 가장 많이 변화하는 것은?
+
+  A.전압
+
+  B.전류
+
+  C.저항
+
+  D.커패시턴스
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다. 태양광발전 모듈의 I-V 특성곡선은 전류(I)와 전압(V)의
+  관계를 나타내는 곡선입니다. 이 곡선은 태양광 모듈의 작동 특성을 보여주며, 일사량, 온도 등의 변화에 따라 그 형태가 변합니다. 일사량은 태양의
+  빛이 얼마나 강하게 닿는지를 나타내는 값으로, 태양광발전 모듈의 전력 출력에 중요한 영향을 미칩니다. 일사량이 증가하면 태양광 모듈이 흡수하는
+  에너지가 증가하므로 전류가 증가합니다. 반면, 전압은 일사량에 상대적으로 덜 민감하며, 일사량이 변해도 전압의 변화는 그다지 크지 않습니다. 저항과
+  커패시턴스는 전자회로의 물리적 특성을 나타내는 값들로, 태양광발전 모듈의 I-V 특성곡선과는 직접적인 관련이 없습니다. 태양광발전 모듈의 저항은
+  일반적으로 일사량에 따라 변하지 않으며, 커패시턴스 역시 태양광발전 모듈의 출력에 영향을 주는 주요 요인이 아닙니다.  , 태양광발전 모듈의 I-V
+  특성곡선에서 일사량에 따라 가장 많이 변화하는 것은 전류입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 에너지 관리 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_energy_management
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_environmental_science.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_environmental_science.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..0febb13015946c919549f27028bf29efb324a1ca
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_environmental_science.yaml
@@ -0,0 +1,116 @@
+dataset_name: environmental_science
+doc_to_text: '질문: 혐기성 소화에서 독성을 유발 시킬 수 있느 물질의 농도(mg/L)로 가장 적절한 것은?
+
+  A.Fe : 1000
+
+  B.Na : 3500
+
+  C.OPTIONa : 1500
+
+  D.Mg : 800
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 혐기성 소화는 미생물이 산소 없이 유기물을 분해하는 과정입니다.
+  이 과정에서 다양한 미네랄이 필요하며, 그 중 철(Fe), 나트륨(Na), 칼슘(Ca), 마그네슘(Mg) 등이 있습니다. 이들 미네랄의 적절한
+  농도는 혐기성 소화 과정의 효율성을 결정하며, 농도가 너무 높으면 독성을 유발할 수 있습니다.  , 이 질문의 답을 찾기 위해서는 각 미네랄의
+  독성 농도를 확인해야 합니다. - 철(Fe)의 경우, 물에 대한 독성 농도는 1000mg/L 이상일 때 발생한다고 합니다. - 나트륨(Na)의
+  경우, 물에 대한 독성 농도는 2300mg/L 이상일 때 발생한다고 합니다. - 칼슘(Ca)의 경우, 물에 대한 독성 농도는 2000mg/L 이상일
+  때 발생한다고 합니다. - 마그네슘(Mg)의 경우, 물에 대한 독성 농도는 1250mg/L 이상일 때 발생한다고 합니다. 위의 정보를 바탕으로
+  보았을 때, 주어진 선택지 중에서 가장 적절한 독성 농도는 철(Fe)의 1000mg/L입니다. 이는 철(Fe)의 독성 농도가 1000mg/L 이상일
+  때 발생한다는 정보와 일치하기 때문입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 도시폐기물의 유기성 성분 중 셀룰로오스에 해당하는 것은?
+
+  A.6탄당의 중합체
+
+  B.아미노산 중합체
+
+  C.당, 전분 등
+
+  D.방향환과 메톡실기를 포함한 중합체
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 셀룰로오스는 식물 세포벽의 주요 구성요소로, 대부분의
+  식물 세포에 존재합니다. 셀룰로오스는 탄수화물의 한 종류로, 긴 사슬 모양의 구조를 가지고 있습니다. 이 사슬은 당류인 글루코스의 수천 개 단위가
+  연결된 것으로 이루어져 있습니다. 이 글루코스 단위들은 화학적으로 연결되어 있어서, 셀룰로오스는 매우 강하고 튼튼한 물질이 됩니다. 선택지를 보면,
+  (A) 6탄당의 중합체, (B) 아미노산 중합체, (C) 당, 전분 등, (D) 방향환과 메톡실기를 포함한 중합체가 있습니다. (A) 6탄당의
+  중합체는 셀룰로오스의 정의에 가장 가깝습니다. 셀룰로오스는 기본적으로 6탄당인 글루코스의 중합체입니다. (B) 아미노산 중합체는 단백질을 형성하는
+  요소로, 셀룰로오스와는 무관합니다. (C) 당, 전분 등은 셀룰로오스의 구성 요소인 글루코스와 관련이 있지만, 셀룰로오스 자체를 정의하는 것은
+  아닙니다. (D) 방향환과 메톡실기를 포함한 중합체는 리그닌의 구조를 설명하는 것으로, 셀룰로오스와는 다른 식물 세포벽의 구성요소입니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 완전히 건조시킨 폐기물 20g을 채취해 회분함량을 분석하였더니 5g 이었다. 폐기물의 함수율이 40% 이었다면, 습량기준으로 회분 중량비(%)는?
+  (단, 비중 = 1.0)
+
+  A.5
+
+  B.10
+
+  C.15
+
+  D.20
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 문제에서 주어진 정보를 이해해보겠습니다. 1. 건조시킨
+  폐기물의 무게는 20g입니다. 2. 그 중 회분함량이 5g입니다. 3. 폐기물의 습도는 40%입니다. 여기서 회분 중량비를 구하라고 했는데, 회분
+  중량비는 회분함량을 습기를 포함한 전체 무게로 나눈 것을 퍼센트로 표현한 것입니다.  , 먼저 습기를 포함한 전체 무게를 구해야 합니다. 건조시킨
+  폐기물의 무게는 20g이고, 이는 습도를 제거한 상태이므로, 이 무게는 전체 무게의 60%(100% - 40% = 60%)에 해당합니다.   전체
+  무게는 20g / 0.6 = 약 33.33g입니다. 이제 회분 중량비를 구할 수 있습니다. 회분 중량비 = (회분함량 / 습기를 포함한 전체 무게)
+  * 100% = (5g / 33.33g) * 100% = 약 15%입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 소각방식 중 회전로(Rotary Kiln)에 대한 설명으로 옳지 않은 것은?
+
+  A.넓은 범위의 액상, 고상 폐기물은 소각할 수 있다.
+
+  B.일반적으로 회전속도는 0.3~1.5 rpm, 주변속도는 5~25 mm/sec 정도이다.
+
+  C.예열, 혼합, 파쇄 등 전처리를 거쳐야만 주입이 가능하다.
+
+  D.회전하는 원통형 소각로로서 경사진 구조로 되어있으며 길이와 직경의 비는 2~10 정도이다.
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 회전로(Rotary Kiln)에 대한 기본적인
+  정보를 확인해보겠습니다. 회전로는 원통형의 소각로로서 경사진 구조로 되어 있습니다. 그리고 이 회전로의 길이와 직경의 비는 일반적으로 2~10
+  정도로 알려져 있습니다.   선택지 (D)는 회전로에 대한 정확한 설명입니다. 다음으로, 회전로는 넓은 범위의 액상, 고상 폐기물을 소각할 수
+  있는 장점이 있습니다. 이는 회전로의 작동 원리와 관련이 있습니다. 회전로는 원통 내부에서 폐기물을 높은 온도로 가열하면서 소각하는 방식이기 때문에
+  다양한 종류의 폐기물을 처리할 수 있습니다.   선택지 (A)는 옳은 설명입니다. 회전로의 회전속도는 일반적으로 0.3~1.5 rpm, 주변속도는
+  5~25 mm/sec 정도로 알려져 있습니다. 이는 폐기물이 고르게 분배되어 효율적으로 소각되도록 하는데 필요한 조건입니다.   선택지 (B)
+  역시 옳은 설명입니다. 마지막으로, 회전로에서 폐기물을 소각하기 전에는 예열, 혼합, 파쇄 등의 전처리 과정이 필요합니다. 하지만 이는 모든 폐기물에
+  적용되는 것은 아닙니다. 일부 폐기물은 이러한 전처리 과정 없이도 바로 회전로에 주입될 수 있습니다.   선택지 (C)는 ''모든 폐기물이 전처리를
+  거쳐야만 주입이 가능하다''는 점에서 부정확한 설명입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 전과정평가(LCA)의 구성요소로 가장 거리가 먼 것은?
+
+  A.개선평가
+
+  B.영향평가
+
+  C.과정분석
+
+  D.목록분석
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다. 전과정평가(Life Cycle Assessment, LCA)의
+  주요 구성요소를 이해하고 각 옵션을 평가해보겠습니다. LCA는 제품이나 서비스의 전체 생애주기 동안의 환경적 영향을 평가하는 과정입니다. 일반적으로
+  LCA는 다음 네 가지 주요 단계로 구성됩니다: 목적 및 범위 정의: LCA의 목적과 범위를 명확히 하는 단계입니다. 목록분석 (Inventory
+  Analysis): 제품이나 서비스의 생애주기 동안 발생하는 모든 입력(원자재, 에너지 등)과 출력(배출물, 폐기물 등)을 수집하는 과정입니다.
+  영향평가 (Impact Assessment): 수집된 데이터를 바탕으로 환경적 영향을 평가하는 단계입니다. 해석: 수집된 데이터와 평가 결과를
+  분석하고 해석하는 단계입니다. 주어진 옵션들을 이러한 단계들과 비교해보면: (A) 개선평가: 이는 LCA의 일반적인 단계는 아닙니다. 하지만 LCA
+  결과를 바탕으로 제품이나 과정의 환경적 영향을 개선하는 방안을 고려할 수 있습니다. (B) 영향평가 (Impact Assessment): 이는
+  LCA의 주요 단계 중 하나입니다. (C) 과정분석: 이는 목록분석과 유사하게 들리지만, LCA의 전통적인 구성요소는 아닙니다. 과정분석은 보다
+  일반적인 용어로, 다양한 맥락에서 사용될 수 있습니다. (D) 목록분석 (Inventory Analysis): 이 역시 LCA의 핵심 단계 중
+  하나입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 환경 과학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_environmental_science
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_food_processing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_food_processing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..dbcd196390e939d2924b6931c8ed15a961d2bd15
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_food_processing.yaml
@@ -0,0 +1,112 @@
+dataset_name: food_processing
+doc_to_text: '질문: 작물이 주로 이용하는 토양수분의 형태는?
+
+  A.흡습수
+
+  B.모관수
+
+  C.중력수
+
+  D.지하수
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 토양수분에는 크게 네 가지 형태가 있습니다. 그것은
+  흡습수, 모관수, 중력수, 지하수입니다. 각각의 정의를 알아보겠습니다. 흡습수는 토양 입자 사이의 공기 중에 물 분자가 흡착되어 있는 형태의 물입니다.
+  흡습력에 의해 토양 입자 표면에 밀착되어 있어 식물의 뿌리가 이를 흡수하기 어렵습니다. 모관수는 토양의 모관(미세한 틈)에 들어가 있는 물을 말합니다.
+  이 물은 식물의 뿌리가 쉽게 흡수할 수 있으며, 식물이 생장하는 데 필요한 주요 수분 공급원입니다. 중력수는 토양의 모관을 통해 중력에 의해 아래로
+  흘러가는 물을 말합니다. 이 물은 토양 깊숙한 곳으로 흘러가거나 지하수로 변하게 됩니다. 지하수는 토양 표면 아래에 있는 물을 말합니다. 이 물은
+  일반적으로 식물의 뿌리가 닿지 못하는 깊이에 위치해 있습니다. 이러한 정보를 바탕으로, 작물이 주로 이용하는 토양수분의 형태를 생각해보면, 작물의
+  뿌리가 쉽게 흡수할 수 있는 형태의 물이어야 합니다. 그렇기 때문에, 작물이 주로 이용하는 토양수분의 형태는 모관수입니다. 따라서, 정답은 (B)
+  입니다.
+
+
+  질문: 신품종의 구비조건으로 틀린 것은?
+
+  A.구별성
+
+  B.독립성
+
+  C.균일성
+
+  D.안정성
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 신품종의 구비조건에 대해 이해하려면, 신품종이란
+  무엇인지 알아야 합니다. 신품종이란 기존에 알려진 품종과는 다른 새로운 품종을 말합니다. 그리고 이 신품종을 식물품종보호법에 따라 등록하려면 일정한
+  요건을 충족해야 합니다. 이를 ''신품종의 구비조건''이라고 합니다. 선택지를 보면, 구별성, 독립성, 균일성, 안정성이 있습니다. 이 중에서
+  어떤 것이 신품종의 구비조건이 아닌지 알아보겠습니다. (A) 구별성: 신품종은 기존의 품종과 구별될 수 있는 특성이 있어야 합니다.   구별성은
+  신품종의 구비조건 중 하나입니다. (B) 독립성: 이는 일반적으로 품종의 구비조건으로 언급되지 않습니다. 품종이 독립적이라는 것은 그 자체로 독립적인
+  특성을 가지고 있음을 의미하는 것 같지만, 실제로 신품종의 구비조건으로는 언급되지 않습니다. (C) 균일성: 신품종은 그 품종 내의 개체들이 일정한
+  특성을 보여야 합니다. 즉, 품종 내의 개체들이 균일하게 특성을 나타내야 합니다.   균일성은 신품종의 구비조건 중 하나입니다. (D) 안정성:
+  신품종은 세대를 거치더라도 그 특성이 안정적으로 유지되어야 합니다.   안정성은 신품종의 구비조건 중 하나입니다.  , 신품종의 구비조건으로 틀린
+  것은 ''독립성''입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 씨감자의 병리적 퇴화의 주요 원인은?
+
+  A.효소의 활력저하
+
+  B.비료 부족
+
+  C.바이러스 감염
+
+  D.이형 종자의 기계적 혼입
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 씨감자의 병리적 퇴화는 여러 요인에 의해 발생할 수 있습니다.
+  (A) 효소의 활력저하: 씨감자는 식물이므로 효소의 활성이 저하되면 생장에 문제가 생길 수 있습니다. 그러나 효소 활성 저하는 일반적으로 특정
+  병리적 상태를 나타내기보다는 식물의 자연적인 노화 과정에서 일어나는 현상입니다.   이는 씨감자의 병리적 퇴화의 주요 원인이라고 보기 어렵습니다.
+  (B) 비료 부족: 비료는 식물의 건강한 성장을 돕는 중요한 요소입니다. 그러나 비료 부족은 씨감자의 성장을 저해할 수 있지만, 이는 병리적 퇴화를
+  직접적으로 초래하는 주요 원인이라고 보기는 어렵습니다. (C) 바이러스 감염: 바이러스는 식물의 병리적 퇴화를 초래할 수 있는 주요 요인 중 하나입니다.
+  특히 씨감자는 바이러스에 매우 취약하며, 감염이 일단 시작되면 식물 전체에 빠르게 퍼져 병리적 퇴화를 일으킬 수 있습니다. (D) 이형 종자의
+  기계적 혼입: 이형 종자의 기계적 혼입은 씨감자의 품질을 저하시킬 수 있지만, 이는 병리적 퇴화의 주요 원인이라고 보기는 어렵습니다. 특히 씨감자는
+  감자 Y 바이러스(Potato Y virus) 등 여러 종류의 바이러스에 의해 병리적 퇴화를 겪는 경우가 많습니다. , 이러한 고려를 통해 바이러스
+  감염이 씨감자의 병리적 퇴화의 주요 원인일 가능성이 가장 높다고 볼 수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 괴경으로 번식하는 작물은?
+
+  A.생강
+
+  B.마늘
+
+  C.감자
+
+  D.고구마
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 정답 해설: 괴경으로 번식하는 작물을 찾기 위해서는 먼저
+  괴경의 뜻을 알아야 합니다. 괴경은 땅속줄기의 일부가 비대해져 저장양분을 축적하여 발달한 것으로, 덩이줄기라고도 합니다. 이러한 특징을 가진 작물을
+  선택지에서 찾아보면 다음과 같습니다. (A) 생강: 생강은 덩이줄기가 아닌 근경(뿌리줄기)으로 번식하는 작물입니다. (B) 마늘: 마늘도 생강과
+  마찬가지로 근경으로 번식하는 작물입니다. (C) 감자: 감자는 대표적인 괴경 작물로, 땅 속에서 자라는 덩이줄기가 번식에 사용됩니다. (D) 고구마:
+  고구마는 괴근(덩이뿌리)으로 번식하는 작물입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 기상생태형으로 분류할 때 우리나라 벼의 조생종은 어디에 속하는가?
+
+  A.OPTIONlt형
+
+  B.bLt형
+
+  C.OPTIONLt형
+
+  D.blT형
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다. 기상생태형으로 분류할 때 벼의 조생종이 속하는 유형을
+  파악하기 위해서는 기상생태형의 분류 방식을 이해해야 합니다. 기상생태형은 일반적으로 벼 등의 식물이 자라는 기후 조건을 기반으로 분류됩니다. 이
+  분류는 주로 온도(Temperature)와 일조 시간(Light)을 고려하여 이루어집니다. 한국의 기후 특성을 고려할 때, 여름철에는 일반적으로
+  온도가 높고 습도가 높은 편입니다. blT형은 기본영양생장성과 감광성이 작고(Little basic nutrition growth, Little
+  light sensitivity), 감온성이 큰(Big temperature sensitivity) 품종을 의미하는데 이 품종은 상대적으로 높은
+  온도에 더 민감하게 반응하며, 일장의 변화에는 덜 민감한 특성을 가지고 있어 한국의 기후 특성에서 효과적으로 성장할 수 있는 조건을 가지고 있습니다.
+  따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 식품 처리 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_food_processing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_gas_technology_and_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_gas_technology_and_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1cb308030ce7f3676a309e50d05f7a15e9ff466c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_gas_technology_and_engineering.yaml
@@ -0,0 +1,118 @@
+dataset_name: gas_technology_and_engineering
+doc_to_text: '질문: 건축물 내 도시가스 매설배관으로 부적합한 것은?
+
+  A.동관
+
+  B.강관
+
+  C.스테인리스강
+
+  D.가스용 금속플렉시블호스
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 건축물 내에서 도시가스 매설배관에 사용되는 재료에
+  대한 규정에 따르면, 스테인리스강관, 동관, 가스용 금속플렉시블호스가 적절한 재료로 규정되어 있습니다. 이러한 규정은 배관의 안전성과 관련하여
+  매우 중요한 부분으로, 배관이 올바르게 설치되고 유지되는 것이 필수적입니다. 각 재료는 특정한 조건과 기준에 따라 설치되어야 하며, 예를 들어
+  동관은 금속제 보호관이나 보호판을 통해 추가적인 보호조치를 받아야 합니다. 선택지를 살펴보면, 강관이 명시적으로 부적합한 재료로 규정되지 않았습니다.  ,
+  정답은 강관(B)이 아닙니다. 다른 선택지들인 동관(A), 스테인리스강(C), 그리고 가스용 금속플렉시블호스(D)는 모두 건축물 내 도시가스 매설배관으로
+  사용될 수 있는 재료로 지정되어 있습니다. 이러한 정보에 기반하여, 건축물 내 도시가스 매설배관으로 부적합한 것은 강관(B)이라는 결론에 도달할
+  수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 시안화수소를 충전한 용기는 충전 후 몇 시간 정치한 뒤 가스의 누출검사를 해야 하는가?
+
+  A.6
+
+  B.12
+
+  C.18
+
+  D.24
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 시안화수소(Hydrogen Cyanide)에
+  대해 알아보겠습니다. 시안화수소는 매우 독성이 강한 가스로, 사람의 건강에 해로울 뿐만 아니라 환경에도 유해합니다.   이 가스를 다룰 때는 매우
+  주의해야 합니다. 그 다음으로, 가스를 충전한 용기의 누출 검사에 대해 알아보겠습니다. 가스 용기는 충전 후 안전하게 보관되어야 하며, 누출이
+  없는지 꼼꼼히 확인해야 합니다. 이는 가스의 종류에 관계없이 일반적으로 적용되는 안전 규정입니다. 하지만, 시안화수소를 충전한 용기가 충전 후
+  몇 시간 정치한 뒤에 누출 검사를 해야 하는지에 대한 구체적인 정보는 일반적인 지식으로는 알 수 없습니다. 이에 대한 정확한 정보를 얻기 위해서는
+  가스 기술 및 엔지니어링에 대한 전문적인 지식이 필요하며, 해당 분야의 규정이나 가이드라인을 참조해야 합니다. 시안화수소 가스를 충전한 용기에
+  대한 누출 검사 시기는 특정 업체나 기관의 내부 규정에 따라 다를 수 있습니다. 그러나 일반적으로 가스를 충전한 용기의 누출 검사는 충전 직후,
+  그리고 정기적으로 수행되어야 합니다. 이는 가스의 독성 뿐만 아니라 압력 등의 위험성 때문입니다.   가장 안전한 방법은 가스를 충전한 직후,
+  그리고 가능한 한 자주 누출 검사를 수행하는 것입니다. 하지만 이 질문에 대한 구체적인 답변을 제공하기 위해선, 각 선택지에 대한 구체적인 근거가
+  필요하며, 이를 위해선 시안화수소 가스를 다루는 특정 업체나 기관의 내부 규정을 참조해야 합니다.  , 이 질문에 대한 정확한 답변을 제공하기는
+  어렵습니다. 이런 경우에는, 가장 일반적이고 안전한 방법을 선택하는 것이 가장 좋습니다. 가스를 충전한 용기의 누출 검사는 충전 직후, 그리고
+  가능한 한 자주 수행되어야 하므로, 가장 긴 시간을 선택하는 것이 가장 안전할 것입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 도시가스공급시설의 공사계획 승인 및 신고대상에 대한 설명으로 틀린 것은?
+
+  A.제조소 안에서 액화가스용저장탱크의 위치변경 공사는 공사계획 신고대상이다.
+
+  B.밸브기지의 위치변경 공사는 공사계획 신고대상이다.
+
+  C.호칭지름이 50㎜ 이하인 저압의 공급관을 설치하는 공사는 공사계획 신고대상에서 제외한다.
+
+  D.저압인 사용자공급관 50m를 변경하는 공사는 공사계획 신고대상이다.
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 이 질문에 대한 정확한 답변을 위해 각 선택지에
+  대한 도시가스공급시설의 공사계획 승인 및 신고대상에 관한 규정을 살펴보겠습니다. (A) 제조소 안에서 액화가스용저장탱크의 위치변경 공사: 일반적으로
+  이러한 종류의 공사는 중요하며 신고 대상일 가능성이 높습니다. (B) 밸브기지의 위치변경 공사: 밸브기지 내 배관 관련 공사는 공사계획 신고대상에
+  포함되지 않습니다. (C) 호칭지름이 50㎜ 이하인 저압의 공급관을 설치하는 공사: 호칭지름 50밀리미터 이하인 저압의 공급관 관련 공사는 공사계획
+  신고대상입니다. (D) 저압인 사용자공급관 50m를 변경하는 공사: 길이 50미터 미만인 저압 사용자공급관 관련 공사는 공사계획 신고대상입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 고압가스용 냉동기에 설치하는 안전장치의 구조에 대한 설명으로 틀린 것은?
+
+  A.고압차단장치는 그 설정압력이 눈으로 판별할 수 있는 것으로 한다.
+
+  B.고압차단장치는 원칙적으로 자동복귀방식으로 한다.
+
+  C.안전밸브는 작동압력을 설정한 후 봉인될 수 있는 구조로 한다.
+
+  D.안전밸브 각부의 가스통과 면적은 안전밸브의 구경면적 이상으로 한다.
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 설명을 이해하고, 그것이
+  고압가스용 냉동기에 설치하는 안전장치의 구조에 대한 일반적인 규칙과 일치하는지 확인해야 합니다. (A) 고압차단장치는 그 설정압력이 눈으로 판별할
+  수 있는 것으로 한다. - 고압차단장치는 가스의 압력이 설정 압력 이상으로 상승하면 자동으로 가스 흐름을 차단하는 장치입니다. 이는 과도한 압력으로
+  인한 사고를 방지합니다. 설정 압력이 눈으로 확인 가능하다는 것은 사용자가 안전장치의 작동 압력을 쉽게 확인하고 조정할 수 있음을 의미합니다.
+  이는 일반적으로 안전장치의 중요한 기능 중 하나입니다. (B) 고압차단장치는 원칙적으로 자동복귀방식으로 한다. - 자동복귀방식이란 일시적으로 고압
+  상태가 해소되면 자동으로 원래 상태로 복귀하는 방식을 의미합니다. 하지만, 원칙적으로는 고압차단 장치는 수동복귀 방식으로 해야합니다. 이는 고압차당
+  장치의 중요한 특징중 하나입니다. (C) 안전밸브는 작동압력을 설정한 후 봉인될 수 있는 구조로 한다. - 안전밸브는 과도한 압력이 발생하면 자동으로
+  열려 압력을 해소하는 장치입니다. 작동 압력을 설정한 후 봉인한다는 것은 이 압력 설정이 임의로 변경되는 것을 방지하기 위함입니다. 이는 안전밸브의
+  중요한 특성 중 하나입니다. (D) 안전밸브 각부의 가스통과 면적은 안전밸브의 구경면적 이상으로 한다. - 이는 가스가 안전밸브를 통과할 때 발생할
+  수 있는 압력 감소를 최소화하기 위한 설계 원칙입니다. 즉, 안전밸브의 각 부분에서 가스의 통과 면적이 구경 면적보다 크게 설계되어야 합니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 염소(Cl2)의 재해 방지용으로서 흡수제 및 재해제가 아닌 것은?
+
+  A.가성소다 수용액
+
+  B.소석회
+
+  C.탄산소다 수용액
+
+  D.물
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 염소(Cl2)는 가연성이 없지만, 강력한
+  산화제이며, 인체에 치명적일 수 있는 독성 가스입니다.   염소의 누출이나 사고를 방지하고, 그로 인한 피해를 최소화하기 위해 다양한 흡수제나
+  재해제가 사용됩니다. (A) 가성소다 수용액은 염소 가스를 흡수하는 데 효과적입니다. 염소와 가성소다가 반응하면 무해한 염화나트륨과 물이 생성되므로,
+  염소 가스의 누출을 방지하는 데 사용됩니다. (B) 소석회 역시 염소 가스를 흡수하는 데 효과적입니다. 소석회는 염소와 반응하여 염화칼슘을 생성하며,
+  이는 무해한 화합물입니다. (C) 탄산소다 수용액도 염소 가스를 흡수하는 데 사용됩니다. 탄산소다는 염소와 반응하여 염화나트륨과 이산화탄소, 그리고
+  물을 생성합니다. 이 반응은 염소 가스를 안전하게 제거하는 데 도움이 됩니다. (D) 물은 염소 가스를 흡수하는 능력이 있지만, 그 효과는 위의
+  세 가지 물질에 비해 상대적으로 약합니다. 또한, 물과 염소가 반응하면 염산과 산소가 생성되는데, 이들은 모두 환경에 해롭습니다.   물은 염소
+  가스의 재해 방지용으로서의 흡수제나 재해제로서 적합하지 않습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 가스 기술 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_gas_technology_and_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_health.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_health.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..85267712d83c21126a5a54dbf39a74753a50bb58
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_health.yaml
@@ -0,0 +1,117 @@
+dataset_name: health
+doc_to_text: '질문: 도나베디안 (Donabedian) 의 보건의료 서비스 질 평가 중 구조적 접근은?
+
+  A.면허제도
+
+  B.고객만족도
+
+  C.임상진료지침
+
+  D.의료 이용도 조사
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 도나베디안의 보건의료 서비스 질 평가는 구조(Structure),
+  과정(Process), 결과(Outcome)의 세 가지 요소로 이루어져 있습니다. 이 중에서 구조적 접근은 ''보건의료 서비스의 질을 평가하는
+  데 필요한 자원과 시스템을 말합니다. 이러한 구조적 접근은 의료기관의 물리적, 인적 자원, 그리고 그 자원을 운영하기 위한 시스템과 절차를 포함합니다.
+  예를 들어, 의료기관의 시설과 장비, 의료인력의 수와 자격, 의료 서비스 제공을 위한 정책과 절차 등이 구조적 접근에 해당합니다. 선택지 중에서
+  (A) 면허제도는 의료인력의 자격을 보장하는 시스템으로, 구조적 접근의 일부로 볼 수 있습니다. 반면에 (B) 고객만족도, (C) 임상진료지침,
+  (D) 의료 이용도 조사는 과정이나 결과에 더 가깝게 연관되어 있습니다. 고객만족도는 의료 서비스의 결과를 평가하는 한 가지 방법이며, 임상진료지침은
+  의료 서비스의 과정을 지침하는 도구입니다. 의료 이용도 조사는 의료 서비스의 이용 상황을 파악하는 방법으로, 과정이나 결과를 이해하는 데 도움이
+  됩니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 국민건강보험 요양급여의 기준에 관한 규칙 상 상급종합병원에서 1단계 요양급여를 제공받을 수 있는 경우는 ?
+
+  A.혈우병 환자가 요양급여를 받는 경우
+
+  B.해당 상급 종합병원 직원의 직계 존 ․비속이 요양급여를 받는 경우
+
+  C.정신건강의학과에서 요양급여를 받는 경우
+
+  D.산전 진찰을 목적으로 요양급여를 받는 경우
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 국민건강보험 요양급여의 기준에 관한 규칙에 따르면, 상급종합병원에서
+  1단계 요양급여를 받을 수 있는 경우는 다음과 같습니다. - 응급의료에 관한 법률 제2조제1호에 해당하는 응급환자 - 분만 시의 조산아 및 저체중아
+  - 치과에서 요양급여를 받는 경우 - 장애인복지법 제32조에 따른 등록 장애인 또는 단순 물리치료가 아닌 작업치료ᆞ운동치료 등의 재활치료가 필요하다고
+  인정되는 자가 재활의학과에서 요양급여를 받는 경우 - 가정의학과에서 요양급여를 받는 경우 - 혈우병 환자가 요양급여를 받는 경우  , 위의 조건에
+  해당하지 않는 선택지인 (B). 해당 상급 종합병원 직원의 직계 존 .비속이 요양급여를 받는 경우와 (C). 정신건강의학과에서 요양급여를 받는
+  경우, (D). 산전 진찰을 목적으로 요양급여를 받는 경우는 상급종합병원에서 1단계 요양급여를 받을 수 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 건강보험 재원 구성에 대한 설명으로 옳은 것은?
+
+  A.건강보험 재원 중 가장 큰 비중을 차지하는 수입원은 국고 지원이 다 .
+
+  B.매년 국민건강증진기금에서 당해 연도 보험료 예상 수입액의 6%에 상당하는 금액을 국민건강보험공단에 지원한 다 .
+
+  C.매년 보험료 예상 수입액의 20%에 상당하는 금액을 국고로 지원하여 건강보험의 재정건전성을 확보하고 있다.
+
+  D.건강보험 재정의 대부분은 지역가입자가 내는 보험료이다 .
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 건강보험의 재원 구성에 대해 알아야 합니다. 건강보험의
+  재원은 크게 가입자가 내는 보험료와 국고 지원으로 나눌 수 있습니다. (A)는 국고 지원이 건강보험 재원 중 가장 큰 비중을 차지한다고 주장하고
+  있습니다. 하지만, 건강보험 재원 중 가장 큰 비중을 차지하는 것은 가입자가 내는 보험료입니다.  , (A)는 옳지 않습니다. (B)는 매년 국민건강증진기금에서
+  당해 연도 보험료 예상 수입액의 6%에 상당하는 금액을 국민건강보험공단에 지원한다고 주장하고 있습니다. 이는 사실입니다. 국민건강증진기금은 건강보험의
+  재원 중 하나로, 매년 일정한 금액을 국민건강보험공단에 지원하고 있습니다.  , (B)는 옳은 설명입니다. (C)는 매년 보험료 예상 수입액의
+  20%에 상당하는 금액을 국고로 지원하여 건강보험의 재정 건전성을 확보하고 있다고 주장하고 있습니다. 하지만, 이는 사실이 아닙니다. 국고 지원은
+  보험료 예상 수입액의 20%가 아니라, 14%를 지원하고 있습니다.  , (C)는 옳지 않습니다. (D)는 건강보험 재정의 대부분은 지역가입자가
+  내는 보험료라고 주장하고 있습니다. 하지만, 건강보험 재정의 대부분은 직장가입자가 내는 보험료로 이루어져 있습니다. 지역가입자가 내는 보험료는
+  건강보험 재정에서 차지하는 비중이 상대적으로 작습니다.  , (D)는 옳지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 4병상으로 OECD 회원국 평균 4 4병상에 비해 약 2 8배 많았다 ① 효율성 (efficiency) ② 통합성 (integration)
+  ③ 양적 공급(quantity) ④ 분포(dist ribution coverage) 문 12 예산 집행 과정 중 중앙예산기관으로부터 배정된 예산을
+  각 중앙 부처의 장이 그 하부기관에게 나누어 주는 것은?
+
+  A.예산의 편성
+
+  B.예산의 배정
+
+  C.예산의 재배정
+
+  D.지출원인행위
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 질문의 내용을 정리해보겠습니다. 질문은 두 가지 부분으로
+  나누어져 있는데, 첫 번째 부분은 4병상에 대한 내용이고, 두 번째 부분은 예산 집행 과정 중 중앙예산기관으로부터 배정된 예산을 각 중앙 부처의
+  장이 그 하부기관에게 나누어 주는 것에 대한 내용입니다. 첫 번째 부분은 질문의 문맥이 불완전하여 정확한 해석이 어렵습니다. 또한 이 부분은 선택지와
+  연관성이 없는 것으로 보입니다.   이 부분은 무시하고 두 번째 부분에 집중하겠습니다. 두 번째 부분의 질문은 예산 집행 과정 중 중앙예산기관으로부터
+  배정된 예산을 각 중앙 부처의 장이 그 하부기관에게 나누어 주는 것이 무엇인지에 대한 것입니다. 이에 대한 답을 찾기 위해 각 선택지의 의미를
+  살펴보겠습니다. (A). 예산의 편성: 예산을 작성하고 결정하는 과정을 말합니다. 이는 예산의 계획 단계에 해당합니다. (B). 예산의 배정:
+  중앙예산기관이 각 부처에 예산을 배정하는 과정을 말합니다. (C). 예산의 재배정: 이미 배정된 예산을 다시 분배하는 과정을 말합니다. 이는 중앙
+  부처의 장이 그 하부기관에게 예산을 나누어 주는 과정에 해당합니다. (D). 지출원인행위: 예산이 지출되는 원인과 그에 따른 행위를 말합니다.
+  이는 예산의 실행 단계에 해당합니다.  , 중앙예산기관으로부터 배정된 예산을 각 중앙 부처의 장이 그 하부기관에게 나누어 주는 것은 ''예산의
+  재배정''에 해당합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 국민건강증진법 상 명시된 국민건강증진기금의 사용 범위에 해당하지 않는 것은?
+
+  A.건강생활지원사업
+
+  B.국민영양관리사업
+
+  C.구강건강관리사업
+
+  D.사업장 건강검진사업
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, ''국민건강증진법''에 대해 검색하여 이 법률이 무엇인지,
+  그리고 ''국민건강증진기금''이 어떻게 사용되는지에 대한 정보를 찾아보겠습니다. 이를 통해 각 선택지가 기금 사용 범위에 포함되는지 여부를 확인할
+  수 있습니다. ''국민건강증진법''은 국민의 건강증진을 위한 기본적인 방향과 기본적인 조치를 제시하는 법률이며, ''국민건강증진기금''은 이 법률에
+  따라 설립된 기금으로, 국민의 건강증진을 위한 다양한 사업에 사용됩니다. 이제 각 선택지를 하나씩 살펴보겠습니다. (A) 건강생활지원사업: 이는
+  국민의 건강한 생활습관 형성을 위한 사업으로, 국민건강증진기금의 사용 범위에 포함됩니다. (B) 국민영양관리사업: 이는 국민의 영양 상태 개선을
+  위한 사업으로, 국민건강증진기금의 사용 범위에 포함됩니다. (C) 구강건강관리사업: 이는 구강건강을 증진하기 위한 사업으로, 국민건강증진기금의
+  사용 범위에 포함됩니다. (D) 사업장 건강검진사업: 이는 사업장에서 근로자의 건강을 관리하기 위한 사업으로, 일반적으로는 사업장에서 자체적으로
+  실시하는 것이 일반적입니다.  , 국민건강증진기금의 사용 범위에는 포함되지 않을 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건강학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_health
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_industrial_engineer.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_industrial_engineer.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..876c5f6d9de9d104efffd639607c04b0f2c73c5d
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_industrial_engineer.yaml
@@ -0,0 +1,113 @@
+dataset_name: industrial_engineer
+doc_to_text: '질문: 수평밀링머신의 니(knee) 위에 전후 방향으로 이동하는 안내면의 명칭은?
+
+  A.컬럼
+
+  B.아버
+
+  C.새들
+
+  D.커터
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 수평밀링머신의 구조를 이해하겠습니다. 수평밀링머신은
+  주로 금속 가공에 사용되는 기계로, 회전하는 커터를 사용하여 원하는 모양과 크기의 제품을 만들어냅니다. 이 기계의 주요 구성 요소 중 하나가 ''니''라는
+  부분인데, 이는 일반적으로 기계의 테이블을 지지하는 부분을 가리킵니다. 선택지를 보면, (A) 컬럼, (B) 아버, (C) 새들, (D) 커터라는
+  항목들이 있습니다. 이 중에서 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭을 찾아야 합니다. - 컬럼(Column)은 기계의 주요 구조를
+  이루는 세로형태의 부분을 가리킵니다.   이는 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭이 아닙니다. - 아버(Arbor)는 밀링 머신에서
+  커터를 지지하는 축을 가리킵니다. 이 역시 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭이 아닙니다. - 새들(Saddle)은 밀링 머신에서
+  ''니''와 ''테이블'' 사이에 위치하며, 테이블을 전후 방향으로 이동시키는 부분을 가리킵니다. - 커터(Cutter)는 밀링 머신에서 제품을
+  가공하는 데 사용되는 회전하는 부분을 가리킵니다. 이 역시 ''니'' 위에 전후 방향으로 이동하는 안내면의 명칭이 아닙니다.  , ''니'' 위에
+  전후 방향으로 이동하는 안내면의 명칭은 ''새들''이 맞습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 일반적으로 밀링 머신의 크기를 표시하는 방법에 해당되지 않는 것은?
+
+  A.스핀들의 지름 또는 최대 이동거리
+
+  B.테이블의 최대 좌우 이동거리
+
+  C.테이블의 최대 전후 이동거리
+
+  D.테이블의 최대 상하 이동거리
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 밀링 머신의 크기를 표시하는 방법은 일반적으로 머신의
+  이동 가능한 범위와 스핀들의 크기를 나타냅니다. 이동 가능한 범위는 테이블의 이동 거리를 통해 나타내며, 이는 테이블이 좌우로 이동하는 거리(X축),
+  전후로 이동하는 거리(Y축), 상하로 이동하는 거리(Z축)를 포함합니다.   선택지 B, C, D는 밀링 머신의 크기를 표시하는 방법에 해당됩니다.
+  스핀들의 크기도 밀링 머신의 크기를 표시하는 중요한 요소 중 하나입니다. 스핀들의 크기는 일반적으로 스핀들의 지름을 통해 나타냅니다. 하지만 ''스핀들의
+  최대 이동거리''라는 표현은 일반적으로 밀링 머신의 크기를 나타내는 방법에 해당되지 않습니다. 스핀들의 이동거리는 밀링 머신의 작동 범위를 나타내는
+  것이 아니라, 스핀들이 회전하는 축의 이동 거리를 의미합니다. 이는 크기를 나타내는 측정치가 아니며,   이 선택지는 문제의 질문에 해당되지 않습니다.
+  따라서, 정답은 (A) 입니다.
+
+
+  질문: 숫돌바퀴를 표시하는 방법으로 WA 60 K m V에서 60이 나타내는 것은?
+
+  A.입도
+
+  B.조직
+
+  C.결합도
+
+  D.숫돌 입자
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, ''WA 60 K m V''는 숫돌바퀴의 표기
+  방법 중 하나입니다. 여기서 각 문자와 숫자는 다음을 의미합니다: - ''WA''는 연마재의 종류를 나타냅니다. 여기서 ''W''는 흰색을 의미하고
+  ''A''는 알루미늄 산화물을 의미합니다. - ''60''은 입도를 나타냅니다. 입도는 연마재 입자의 크기를 나타내는 값으로, 숫자가 작을수록
+  입자의 크기가 큽니다. - ''K''는 경도를 나타냅니다. 경도는 연마재의 경도를 나타내는 값으로, 알파벳이 뒤로 갈수록 경도가 높아집니다. -
+  ''m''은 조직을 나타냅니다. 조직은 연마재 입자가 바퀴에 얼마나 밀집하게 분포하는지를 나타내는 값입니다. - ''V''는 결합도를 나타냅니다.
+  결합도는 연마재 입자를 바퀴에 고정시키는 물질의 강도를 나타내는 값입니다.  , ''WA 60 K m V''에서 ''60''은 연마재 입자의 크기를
+  나타내는 입도를 의미합니다. 이에 따라 객관식 질문에서 ''60''이 나타내는 것은 입도입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 측정점 검출기가 좌표를 검출하고 그 데이터를 컴퓨터가 처리하여 위치, 크기, 방향, 윤곽, 형상 등을 측정하는데 사용하는 측정기는?
+
+  A.오토콜리메이터
+
+  B.3차원 측정기
+
+  C.광학식 각도기
+
+  D.광학식 클리노미터
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 설명을 찾아보겠습니다. (A)
+  오토콜리메이터는 각도를 정확하게 측정하는 장치입니다. 이 장치는 주로 광학 실험에서 사용되며, 빛의 반사각을 측정하는 데 사용됩니다. (B) 3차원
+  측정기는 3차원 공간에서 객체의 위치와 크기를 측정하는 장치입니다. 이 장치는 주로 공학 및 제조 분야에서 사용되며, 정밀한 측정이 필요한 경우에
+  사용됩니다. (C) 광학식 각도기는 빛의 각도를 측정하는 장치입니다. 이 장치는 주로 광학 실험에서 사용되며, 빛의 굴절률을 측정하는 데 사용됩니다.
+  (D) 광학식 클리노미터는 각도를 측정하는 장치입니다. 이 장치는 주로 지질학에서 사용되며, 경사 각도를 측정하는 데 사용됩니다. 질문에서는 측정점
+  검출기가 좌표를 검출하고 그 데이터를 컴퓨터가 처리하여 위치, 크기, 방향, 윤곽, 형상 등을 측정하는데 사용하는 측정기에 대해 묻고 있습니다.
+  이러한 기능을 가장 잘 수행할 수 있는 장치는 3차원 측정기입니다. 왜냐하면 3차원 측정기는 3차원 공간에서 객체의 위치와 크기를 측정할 수 있으며,
+  이는 위치, 크기, 방향, 윤곽, 형상 등의 측정에 필요한 기능들을 모두 포함하고 있기 때문입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 선반에서 절삭저항의 분력 중 탄소강을 가공할 때 가장 큰 절삭저항은?
+
+  A.배분력
+
+  B.이송분력
+
+  C.횡분력
+
+  D.주분력
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 절삭저항의 분력에 대해 이해해야 합니다. 절삭저항의
+  분력은 절삭 과정에서 발생하는 저항을 묘사하는데 사용되는 개념입니다. 이는 절삭 도구와 가공재 사이의 상호작용을 설명하는 데 사용되며, 절삭 과정의
+  효율성과 가공 품질에 중요한 영향을 미칩니다. 절삭저항의 분력에는 주로 네 가지가 있습니다: 배분력, 이송분력, 횡분력, 그리고 주분력입니다.
+  이 중에서 가장 큰 절삭저항을 주는 것이 무엇인지 알아보기 위해, 각 분력에 대해 간략히 이해해 보겠습니다. - 배분력: 절삭면에서 도구를 밀어내려는
+  힘입니다. - 이송분력: 절삭면에 수직으로 작용하는 힘으로, 주로 칩의 이동을 제어합니다. - 횡분력: 절삭면에 수평으로 작용하는 힘으로, 도구를
+  절삭면에서 벗어나게 만드는 힘입니다. - 주분력: 절삭면에 작용하는 가장 주요한 힘으로, 절삭저항의 대부분을 차지합니다. 이러한 정보를 바탕으로,
+  주분력이 절삭저항의 대부분을 차지하므로, 탄소강을 가공할 때 가장 큰 절삭저항을 주는 것은 주분력일 것이라고 추론할 수 있습니다. 따라서, 정답은
+  (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 산업 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_industrial_engineer
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_information_technology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_information_technology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..c26d6e40ab426d7a016e116b9c08217816e4786d
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_information_technology.yaml
@@ -0,0 +1,111 @@
+dataset_name: information_technology
+doc_to_text: '질문: 실제 펄스 파형의 구간별 명칭에 대한 설명으로 틀린 것은?
+
+  A.상승 시간(rise time)이란 입력 펄스의 최대 진폭의 10%에서 90%까지 상승하는데 걸리는 시간
+
+  B.하강 시간(fall time)이란 펄스의 하강 속도를 나타내는 척도로서 최대 90%에서 10%까지 하강하는데 소요되는 시간
+
+  C.새그(sag)란 이상적인 펄스 파형의 상승하는 부분이 기준 레벨보다 높은 부분
+
+  D.링잉(ringing)은 높은 주파수에서 공진되기 때문에 발생하는 것으로 펄스 상승 부분의 진동의 정도
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 정확한 정의를 확인해보겠습니다.
+  (A) 상승 시간(rise time)은 일반적으로 펄스가 최저 수준에서 최고 수준까지 도달하는 데 걸리는 시간을 의미합니다. 특히, 입력 펄스의
+  최대 진폭의 10%에서 90%까지 상승하는데 걸리는 시간을 가리킵니다. 이 정의는 선택지와 일치합니다. (B) 하강 시간(fall time)은
+  펄스가 최고 수준에서 최저 수준까지 도달하는 데 걸리는 시간을 의미합니다. 특히, 최대 90%에서 10%까지 하강하는데 소요되는 시간을 가리킵니다.
+  이 정의는 선택지와 일치합니다. (C) 새그(sag)는 전력 공급에서 전압이 일시적으로 떨어지는 현상을 의미합니다. 이상적인 펄스 파형의 상승하는
+  부분이 기준 레벨보다 높은 부분을 의미하는 것은 새그(sag)의 정의와 일치하지 않습니다. (D) 링잉(ringing)은 펄스의 상승 또는 하강
+  부분에서 발생하는 과도한 진동을 의미합니다. 높은 주파수에서 공진되기 때문에 발생하는 것이라는 설명은 링잉(ringing)의 원인 중 하나로 볼
+  수 있습니다.  , 각 선택지의 정의를 확인한 결과, 새그(sag)의 정의가 문제의 선택지와 일치하지 않습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 진폭 변조에서 변조된 파형의 최대값 전압이 35 V 이고 최소값 전압이 5 V 일 때 변조도는?
+
+  A.0.60
+
+  B.0.65
+
+  C.0.70
+
+  D.0.75
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 진폭 변조에서 변조도를 계산하는 공식을 알아야
+  합니다. 변조도는 원래 신호의 진폭과 변조된 신호의 진폭의 차이를 나타내는 값입니다. 이는 변조된 신호의 진폭이 원래 신호의 진폭보다 얼마나 변했는지를
+  나타냅니다. 변조도는 다음과 같은 공식으로 계산됩니다: 변조도 = (변조된 파형의 최대값 전압 - 변조된 파형의 최소값 전압) / (변조된 파형의
+  최대값 전압 + 변조된 파형의 최소값 전압) 이 경우, 변조된 파형의 최대값 전압이 35V이고 최소값 전압이 5V입니다.  , 이 값을 위의 공식에
+  대입하면 다음과 같습니다: 변조도 = (35V - 5V) / (35V + 5V) = 30V / 40V = 0.75 따라서, 정답은 (D) 입니다.
+
+
+  질문: 6Ω과 3Ω의 저항을 직렬로 접속할 경우는 병렬로 접속할 경우의 몇 배가 되는가?
+
+  A.3
+
+  B.4.5
+
+  C.6
+
+  D.7.5
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 저항의 직렬 연결과 병렬 연결에 대한 이해가 필요합니다.
+  1. 직렬 연결: 저항들이 한 줄로 연결되어 있을 때, 총 저항은 각 저항의 합과 같습니다. R_total = R1 + R2 + ... + Rn
+  2. 병렬 연결: 저항들이 병렬로 연결되어 있을 때, 총 저항은 각 저항의 역수의 합의 역수와 같습니다. 1/R_total = 1/R1 + 1/R2
+  + ... + 1/Rn 이 문제에서 주어진 저항은 6Ω과 3Ω입니다. 직렬 연결의 경우, 총 저항은 각 저항의 합, 즉 6Ω + 3Ω = 9Ω가
+  됩니다. 병렬 연결의 경우, 총 저항은 각 저항의 역수의 합의 역수로, 1/(1/6 + 1/3) = 2Ω가 됩니다.  , 직렬 연결의 저항은 병렬
+  연결의 저항의 몇 배인지를 묻는 문제이므로, 9Ω / 2Ω = 4.5배가 됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 이상적인 연산 증폭기의 특징에 대한 설명으로 틀린 것은?
+
+  A.주파수 대역폭이 무한대(∞)이다.
+
+  B.입력 임피던스가 무한대(∞)이다.
+
+  C.동상 이득은 무한대(∞)이다.
+
+  D.오픈 루프 전압 이득이 무한대(∞)이다.
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 하나씩 살펴보겠습니다. (A)
+  선택지는 ''주파수 대역폭이 무한대(∞)이다''를 주장합니다. 이상적인 연산 증폭기의 경우, 주파수에 관계없이 동일한 이득을 유지하므로, 이는
+  사실상 무한대의 대역폭을 의미합니다.   이 선택지는 올바른 설명입니다. (B) 선택지는 ''입력 임피던스가 무한대(∞)이다''를 주장합니다.
+  이상적인 연산 증폭기는 입력 부분에 아무런 전류가 흐르지 않도록 설계되어 있습니다. 이는 입력 임피던스가 무한대라는 것을 의미합니다.   이 선택지
+  역시 올바른 설명입니다. (C) 선택지는 ''동상 이득은 무한대(∞)이다''를 주장합니다. 하지만 이는 틀린 설명입니다. 동상 이득(common-mode
+  gain)은 두 입력 사이의 차이가 아닌, 두 입력이 동시에 변할 때 증폭기의 반응을 설명하는 데 사용됩니다. 이상적인 연산 증폭기에서는 두 입력이
+  동시에 변하더라도 출력이 변하지 않아야 하므로, 동상 이득은 0이어야 합니다.   이 선택지는 잘못된 설명입니다. (D) 선택지는 ''오픈 루프
+  전압 이득이 무한대(∞)이다''를 주장합니다. 이상적인 연산 증폭기는 입력과 출력 사이의 전압 차이를 최대한 크게 만들기 위해 오픈 루프 전압
+  이득이 무한대로 설계되어 있습니다.   이 선택지는 올바른 설명입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 수정 발진 회로 중 피어스 B-E형 발진 회로는 컬렉터-이미터 간의 임피던스가 어떻게 될 때가 가장 안정한 발진을 지속하는가?
+
+  A.용량성
+
+  B.유도성
+
+  C.저항성
+
+  D.용량성 혹은 저항성
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다. 피어스 B-E형 발진 회로는 BJT(비접점 트랜지스터)를
+  사용하는 발진 회로 중 하나입니다. 이 회로에서는 컬렉터와 이미터 사이의 임피던스 특성이 발진의 안정성에 중요한 역할을 합니다. 용량성, 유도성,
+  저항성 중 어떤 임피던스가 발진의 안정성에 가장 좋을지 고려해보겠습니다. 용량성 임피던스는 주파수가 높아질수록 저항이 감소하는 특성을 가지고 있습니다.
+  이런 특성 때문에 발진 회로에서는 주파수가 높아질수록 회로의 안정성이 떨어질 수 있습니다.   용량성 임피던스는 발진의 안정성에 좋지 않습니다.
+  유도성 임피던스는 주파수가 높아질수록 저항이 증가하는 특성을 가지고 있습니다. 이런 특성 때문에 발진 회로에서는 주파수가 높아질수록 회로의 안정성이
+  증가할 수 있습니다.   유도성 임피던스는 발진의 안정성에 좋습니다. 저항성 임피던스는 주파수에 관계없이 일정한 저항 값을 가지고 있습니다. 이런
+  특성 때문에 발진 회로에서는 주파수가 변화해도 회로의 안정성이 유지될 수 있습니다. 하지만, 발진 회로에서는 주파수의 변화에 따른 임피던스의 변화가
+  필요하기 때문에 저항성 임피던스만으로는 안정적인 발진을 유지하기 어렵습니다.  , 피어스 B-E형 발진 회로에서는 컬렉터-이미터 간의 임피던스가
+  유도성일 때 가장 안정한 발진을 지속할 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 정보 기술 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_information_technology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_interior_architecture_and_design.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_interior_architecture_and_design.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1e5a8d7be87789f8e6b77ca9f6a5ed8f7b6ba37b
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_interior_architecture_and_design.yaml
@@ -0,0 +1,123 @@
+dataset_name: interior_architecture_and_design
+doc_to_text: '질문: 실내디자인의 원리 중 조화ㆍ통일ㆍ변화에 대한 설명으로 옳지 않은 것은?
+
+  A.조화란 전체적인 조립방법이 모순없이 질서를 잡는 것을 말한다.
+
+  B.조화에는 시각적으로 동일한 요소간에 이루어지는 유사조화와 이질적인 요소간에 이루어지는 대비조화가 있다.
+
+  C.통일은 변화와 함께 모든 조형에 대한 미의 근원이 되는 원리이다.
+
+  D.통일과 변화는 각각 독립된 것으로 상호대립관계에 있다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 내용을 확인해보겠습니다. (A)
+  조화란 전체적인 조립방법이 모순없이 질서를 잡는 것을 말한다. - 이는 조화의 정의에 부합합니다. 조화는 디자인 요소들이 서로 잘 어우러져 전체적인
+  질서와 균형을 이루는 것을 의미합니다. (B) 조화에는 시각적으로 동일한 요소간에 이루어지는 유사조화와 이질적인 요소간에 이루어지는 대비조화가
+  있다. - 이 역시 조화의 한 형태를 설명하고 있습니다. 유사조화는 같은 종류의 요소들이 서로 조화를 이루는 것을, 대비조화는 서로 다른 요소들이
+  조화를 이루는 것을 의미합니다. (C) 통일은 변화와 함께 모든 조형에 대한 미의 근원이 되는 원리이다. - 통일은 디자인 요소들이 일관성을 가지고
+  전체적으로 연결되는 것을 의미하며, 변화는 디자인에 다양성과 흥미를 더하는 요소입니다. 두 원리는 모두 디자인의 미를 창출하는 중요한 요소입니다.
+  (D) 통일과 변화는 각각 독립된 것으로 상호대립관계에 있다. - 이 선택지는 잘못된 내용입니다. 통일과 변화는 디자인의 중요한 원리로서, 상호
+  보완적인 관계에 있습니다. 통일 없이 변화만 있다면 디자인은 혼란스러울 것이고, 반대로 변화 없이 통일만 있다면 디자인은 단조로울 것입니다.   둘은
+  상호대립하는 것이 아니라, 상호보완적인 관계에 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 건물과 일체화해서 만든 가구로서, 가구배치의 혼란을 없애고 공간을 최대한 활용할 수 있는 것은?
+
+  A.모듈러 가구
+
+  B.가동 가구
+
+  C.유닛 가구
+
+  D.붙박이 가구
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지의 정의를 이해하는 것이 중요합니다.
+  (A). 모듈러 가구: 모듈러 가구는 미리 제작된 독립적인 부품을 조립하여 사용하는 가구를 말합니다. 이 가구는 사용자의 필요에 따라 자유롭게
+  조립하거나 변경할 수 있습니다. (B). 가동 가구: 가동 가구는 위치를 쉽게 이동시킬 수 있는 가구를 말합니다. 이 가구는 공간의 배치를 쉽게
+  변경할 수 있어 유연성을 제공합니다. (C). 유닛 가구: 유닛 가구는 부분을 조립하여 다양한 형태를 만들 수 있는 가구를 의미합니다. 이 가구는
+  공간을 효율적으로 활용할 수 있습니다. (D). 붙박이 가구: 붙박이 가구는 건물의 일부로 설계되고 설치되는 가구를 말합니다. 이 가구는 공간을
+  최대한 활용하고 가구 배치의 혼란을 없앨 수 있습니다. 질문의 키워드는 ''건물과 일체화해서 만든 가구''와 ''가구배치의 혼란을 없애고 공간을
+  최대한 활용''입니다. 이 키워드를 기반으로 선택지를 살펴보면, 붙박이 가구가 가장 적합한 것으로 보입니다. 붙박이 가구는 건물과 일체화되어 설계되고,
+  공간을 최대한 활용하며 가구 배치의 혼란을 없앨 수 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 개보수(Renovation) 작업시 고려해야 할 사항으로 옳은 것은?
+
+  A.현장 실측 조사를 통해 기존 공간의 현황을 명확하게 파악하여야 한다.
+
+  B.기존 도면이 있을 경우 별도의 현장실측은 필요하지 않다.
+
+  C.기존 건축 구조의 영향을 전혀 받지 않는다.
+
+  D.전기 및 설비 관련사항에 대한 검토는 필요 없다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 개보수(Renovation) 작업은 기존의 건물이나
+  공간을 새롭게 개선하거나 수정하는 작업을 말합니다. 이를 위해서는 다음과 같은 사항들을 고려해야 합니다. (A) 선택지에서는 현장 실측 조사를
+  통해 기존 공간의 현황을 명확하게 파악해야 한다고 합니다. 이는 매우 중요한 점입니다. 현장 실측 조사는 실제 공간의 구조, 크기, 위치 등을
+  정확하게 파악하는 것을 돕습니다. 이를 통해 설계 도면을 만들거나 기존 도면을 수정하는데 필요한 정확한 정보를 얻을 수 있습니다.   이는 개보수
+  작업시 반드시 고려해야 할 사항입니다. (B) 선택지에서는 기존 도면이 있을 경우 별도의 현장실측은 필요하지 않다고 합니다. 하지만 이는 옳지
+  않습니다. 기존 도면이 있더라도 현장의 실제 상황과 도면이 일치하지 않을 수 있습니다. 또한, 건물의 사용 중에 생긴 변화나 손상 등을 파악하기
+  위해서도 현장 실측이 필요합니다. (C) 선택지에서는 기존 건축 구조의 영향을 전혀 받지 않는다고 합니다. 하지만 이는 잘못된 정보입니다. 기존
+  건축 구조는 개보수 작업에 큰 영향을 미칩니다. 구조의 안전성, 변경 가능성 등을 고려해야 하며, 구조를 무시하고 개보수를 진행하면 안전 문제가
+  발생할 수 있습니다. (D) 선택지에서는 전기 및 설비 관련사항에 대한 검토는 필요 없다고 합니다. 하지만 이 역시 옳지 않습니다. 전기 및 설비
+  시스템은 건물의 중요한 부분으로, 이들의 상태와 기능을 확인하고 필요한 경우 개선하거나 변경해야 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 전시공간 전시실의 순회 유형에 대한 설명으로 옳은 것은?
+
+  A.연속 순회형 : 순서별로 관람하기 때문에 지루하나 개개의 전시실을 폐쇄시키기에 유리하다.
+
+  B.갤러리 및 복도형 : 하나의 전시실을 패쇄시키면 전체 동선의 흐름이 막히게 되므로 비교적 소규모 전시실에 적합하다.
+
+  C.중앙홀형 : 중앙홀이 크면 동선의 혼란은 없으나 장래의 확장에는 무리가 있다.
+
+  D.갤러리 및 복도형 : 별도의 전시실 없이 복도만을 전시장으로 사용하며 뉴욕의 근대미술관, 구겐하임 미술관 등이 대표적이다.
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 개념을 정확히 이해하고 그에
+  따른 전시공간 전시실의 순회 유형을 분석해야 합니다. (A) 연속 순회형: 이 유형은 관람객이 한 방향으로만 움직이도록 설계된 공간을 의미합니다.
+  이는 관람객이 전시작품을 순서대로 볼 수 있게 해주지만, 각각의 전시실을 폐쇄하는 것이 용이하다는 점에서 장점이 있습니다. 그러나 이는 반드시
+  지루하다는 의미는 아닙니다. (B) 갤러리 및 복도형: 이 유형은 각 전시실이 복도를 통해 연결되어 있어, 한 전시실이 폐쇄되면 전체 동선의 흐름이
+  막히게 되는 구조를 의미합니다. 이는 소규모 전시실에 적합하다고 할 수 있습니다. (C) 중앙홀형: 이 유형은 중앙에 큰 공간이 위치하고, 그
+  주변에 전시실이 배치된 구조를 의미합니다. 중앙홀이 크면 동선의 혼란은 없지만, 장래의 확장에는 어려움이 있을 수 있습니다. (D) 갤러리 및
+  복도형: 이 유형은 별도의 전시실 없이 복도만을 전시장으로 사용하는 구조를 의미합니다. 이는 뉴욕의 근대미술관, 구겐하임 미술관 등에서 볼 수
+  있습니다. 각 선택지를 분석한 결과, (A) 선택지의 ''지루하다''는 표현은 연속 순회형의 특징을 정확하게 반영하지 않습니다. (B) 선택지는
+  갤러리 및 복도형의 특징을 잘 설명하고 있습니다. (C) 선택지는 중앙홀형의 특징을 잘 설명하고 있습니다. (D) 선택지는 복도만을 전시장으로
+  사용하는 갤러리 및 복도형의 특징을 잘 설명하고 있습니다.  , 정확한 설명을 한 것은 (B), (C), (D) 선택지입니다. 그러나 질문에서는
+  ''옳은 것''을 물어보고 있으므로 하나의 정답만 선택해야 합니다. 이 중에서 가장 일반적인 특징을 잘 설명하고 있는 것은 (C) 중앙홀형입니다.
+  이는 중앙홀이 크면 동선의 혼란은 없으나, 장래의 확장에는 무리가 있다는 특징을 잘 반영하고 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 공간의 최적치수 선정방법에 해당되지 않은 것은?
+
+  A.최소값 +α의 방법
+
+  B.최대값 -α의 방법
+
+  C.조정값 ±α의 방법
+
+  D.목표값 ±α의 방법
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다. 공간의 최적치수 선정방법을 평가할 때, 각 옵션의 의미와
+  일반적인 설계 및 계획 과정에서 사용되는 방법론을 고려해야 합니다. 각 옵션을 살펴보겠습니다: (A) 최소값 +α의 방법: 이 방법은 주어진 공간에
+  대한 최소 요구치수에 어떤 마진(α)을 더하여 최적치수를 결정하는 방식입니다. 이는 안전 마진을 고려한 보수적인 접근법으로 볼 수 있습니다. (B)
+  최대값 -α의 방법: 이 방법은 가능한 최대치수에서 어떤 마진(α)을 빼서 최적치수를 결정하는 방식입니다. 이 역시 마진을 고려하는 접근법으로,
+  과도한 공간 활용을 방지하기 위한 것일 수 있습니다. (C) 조정값 ±α의 방법: 이 방법은 특정 조정값에 대해 상하로 일정 범위(±α) 내에서
+  최적치수를 결정하는 방식입니다. 이는 유연성을 제공하는 동시에 특정 범위 내에서 조정을 허용하는 방식으로 해석될 수 있습니다. (D) 목표값 ±α의
+  방법: 이 방법은 특정 목표치수에 대해 상하로 일정 범위(±α) 내에서 최적치수를 결정하는 방식입니다. 이는 목표치에 대한 허용 오차를 고려한
+  방법으로, 실제 설계 및 계획 과정에서 흔히 사용됩니다. 이 중에서 "조정값 ±α의 방법" (C)은 다소 모호하고 일반적인 설계 및 계획 방법론과
+  다를 수 있습니다. "조정값"이라는 용어는 특정 기준이나 목표치를 명확하게 지칭하지 않으며, 실제 설계 및 계획 과정에서는 보통 최소값, 최대값,
+  또는 목표값과 같이 더 구체적이고 명확한 기준을 바탕으로 최적치수를 결정합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 건축 디자인 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_interior_architecture_and_design
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_korean_history.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_korean_history.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..18e265b604556bad7cd63caaeccd5b748fb9b19d
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_korean_history.yaml
@@ -0,0 +1,128 @@
+dataset_name: korean_history
+doc_to_text: '질문: (가)에 대한 설명으로 옳지 않은 것은? (가)은/는 의병계열과 애국계몽 운동 계열의 비밀결사가 모여 결성된 조직으로,
+  총사령 박상진을 중심으로 독립군 양성을 목적으로 하였다.
+
+  A.북간도에서 무장 독립 단체인 중광단을 조직하였다.
+
+  B.군자금을 모집하고 친일파를 공격하였다.
+
+  C.공화제 국가 수립을 지향하였다.
+
+  D.경상도 일대에서 결성되어 전국 조직으로 확대하였다.
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 대한광복회는 1915년 7월 15일 대구 달성공원에서 한말
+  의병계열과 계몽운동계열이 연합하여 결성한 독립운동단체입니다. 이 단체는 국권 회복과 독립 달성을 목적으로 만주에 무관학교를 설립하고 독립군을 양성해
+  무력이 준비되면 일제와 전쟁을 치를 계획이었습니다. 또한 한인들을 만주로 이주시키고 농토를 개간해 식량과 병력을 공급할 계획도 가지고 있었습니다.
+  대한광복회는 공화제 국가 수립을 지향하였으며, 이는 신민회가 공화주의를 주창한 것을 시작으로 독립운동가들 사이에서 공화주의 사상이 널리 퍼져 있었음을
+  보여줍니다. 대한광복회는 군자금을 모집하고 친일파를 공격하는 활동을 전개하였으며, 이를 위해 전국 각지에 상업조직으로 위장한 연락기관들을 설치하였습니다.
+  또한 중국 단동과 장춘에도 여관과 잡화상을 설립해 연락 거점으로 삼았습니다. 그러나 대한광복회는 북간도에서 무장 독립 단체인 중광단을 조직하지
+  않았습니다. 중광단은 나철과 오기호 등 대종교(단군) 단체에서 결성한 무장투쟁 조직으로, 3.1운동 이후 중광단이 전신이 되어 북로군정서가 발족하였습니다.
+  북로군정서는 청산리 대첩에서 김좌진 장군이 이끈 부대로 유명합니다.  , (가)에 대한 설명으로 옳지 않은 것은 (A)입니다. 대한광복회는 북간도에서
+  무장 독립 단체인 중광단을 조직하지 않았으며, 이는 중광단과는 별개의 조직이었습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: (가) 지역에 대한 설명으로 옳은 것은? 나는 삼한(三韓) 산천의 음덕을 입어 대업을 이루었다.(가)는/은수덕(水德)이 순조로워 우리나라
+  지맥의 뿌리가 되니 대업을 만대에 전할 땅이다.왕은 춘하 추동네 계절의 중간달에 그곳에 가 100일 이상 머물러서 나라를 안녕케 하라. － 고려사－
+
+  A.이곳에 대장도감을 설치하여 재조대장경을 만들었다.
+
+  B.지눌이 이곳에서 수선사 결사운동을 펼쳤다.
+
+  C.망이 ․망소이가 이곳에서 봉기하였다.
+
+  D.몽골이 이곳에 동녕부를 두었다.
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 주어진 고려사의 기록을 보면, (가) 지역은 삼한의
+  산천의 음덕을 입은 곳으로, 수덕이 순조롭고 우리나라 지맥의 뿌리가 되는 곳으로 묘사되어 있습니다. 이에 따라, 이 지역은 고려의 수도인 개경으로
+  추정됩니다. 이제, 선택지들을 살펴보겠습니다. (A) 이곳에 대장도감을 설치하여 재조대장경을 만들었다. - 재조대장경은 고려 고종 23년(1236)부터
+  38년(1251)까지 16년간에 걸쳐 완성된 팔만대장경으로, 이 작업은 강화도에서 이루어졌습니다.  , (A)는 틀린 설명입니다. (B) 지눌이
+  이곳에서 수선사 결사운동을 펼쳤다. - 보조국사 지눌은 고려시대의 승려로, 송광사에서 수선사 결사운동을 펼쳤습니다. 송광사는 전라도 순천에 위치해
+  있습니다.  , (B)는 틀린 설명입니다. (C) 망이 .망소이가 이곳에서 봉기하였다. - 망이 .망소이는 고려시대의 천민 출신으로, 공주 명학소에서
+  봉기를 일으켰습니다.  , (C)는 틀린 설명입니다. (D) 몽골이 이곳에 동녕부를 두었다. - 몽골은 고려를 침입한 후, 서경에 동녕부를 설치하여
+  통치하였습니다.  , (D)는 맞는 설명입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 밑줄 친 ‘그’에 대한 설명으로 옳은 것은? 이 날 소정방이 부총관 김인문 등과 함께 기 벌포에 도착하여 백제 군사와 마주쳤다 . …(중략)
+  …소정방이 신라군이 늦게 왔다는 이유로 군문에서 신라 독군 김문영의 목을 베고 자 하니, 그가 군사들 앞에 나아가 “황산 전투를 보지도 않고 늦게
+  온 것을 이유로 우리를 죄 주려 하는구나 . 죄도 없이 치욕을 당할 수는  없으니, 결단코 먼저 당나라 군사와 결전을 한 후에 백제를 쳐야겠다
+  .”라고 말하였다 .
+
+  A.살수에서 수의 군대를 물리쳤다 .
+
+  B.김춘추 의 신라 왕위 계승을 지원하였다 .
+
+  C.청해진을 설치하고 해상 무역을 전개하였다 .
+
+  D.대가야를 정벌하여 낙동강 유역을 확보하였다 .
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 ''그''가 가리키는 대상이 누구인지 확인해야 합니다.
+  이 문장에서 ''그''는 신라 독군 김문영을 가리키고 있습니다.   선택지 중에서 김문영의 행적에 해당하는 것을 찾아야 합니다. 이제 선택지를
+  하나씩 살펴보겠습니다. (A) 살수에서 수의 군대를 물리쳤다. - 이 내용은 김유신이 살수 전투에서 수의 군대를 물리친 사건을 가리키는 것으로
+  보입니다. 김문영과는 관련이 없어 보입니다. (B) 김춘추의 신라 왕위 계승을 지원하였다. - 이 내용은 김유신이 김춘추의 왕위 계승을 지원한
+  사건을 가리키는 것으로 보입니다. 김문영이 김춘추의 왕위 계승을 지원한 것은 확실한 사실입니다. 김문영은 김춘추가 왕위를 계승하도록 도왔고, 이로
+  인해 신라는 삼국을 통일할 수 있었습니다. (C) 청해진을 설치하고 해상 무역을 전개하였다. - 이 내용은 진흥왕이 청해진을 설치하고 해상 무역을
+  전개한 사건을 가리키는 것으로 보입니다. 김문영과는 관련이 없어 보입니다. (D) 대가야를 정벌하여 낙동강 유역을 확보하였다. - 이 내용은 김유신이
+  대가야를 정벌하여 낙동강 유역을 확보한 사건을 가리키는 것으로 보입니다. 김문영과는 관련이 없어 보입니다. 위의 선택지 중에서 김문영의 행적을
+  가리키는 것은 "(B) 김춘추의 신라 왕위 계승을 지원하였다" 입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 다음과 같은 대통령 선출 방식이 포함된 헌법의 내용으로 옳지 않은 것은? 제39조
+
+  A.대통령은 통일 주체국민회의에서 토론 없이 무기명 투표로 선거한 다 .
+
+  B.통일주체국민회의에서 재적 대의원 과반수의 찬성을 얻은 자를 대통령 당선자로 한다. ①대통령은 국회를 해산할 수 있다. ②대통령의 임기는 7년으로
+  하며, 중임할 수 없다.
+
+  C.대법원장은 대통령이 국회의 동의를 얻어 임명한 다 .
+
+  D.대통령은 국정 전반에 걸쳐 필요한 긴급조치를 할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 질문에서 언급한 제39조를 찾아보겠습니다. 제39조는
+  대한민국 헌법에 나오는 내용으로, 대통령의 선출 방식과 관련된 내용을 담고 있습니다. 선택지 A, B, C, D 각각의 내용을 살펴보면서 제39조와
+  비교하겠습니다. (A) 대통령은 통일 주체국민회의에서 토론 없이 무기명 투표로 선거한 다. (B) 통일주체국민회의에서 재적 대의원 과반수의 찬성을
+  얻은 자를 대통령 당선자로 한다. ①대통령은 국회를 해산할 수 있다. ②대통령의 임기는 7년으로 하며, 중임할 수 없다. (C) 대법원장은 대통령이
+  국회의 동의를 얻어 임명한 다. (D) 대통령은 국정 전반에 걸쳐 필요한 긴급조치를 할 수 있다. (A)와 (B)는 대통령 선출 방식에 대한 내용이며,
+  (C)는 대법원장 임명에 대한 내용, (D)는 대통령의 권한에 대한 내용입니다. 제39조의 내용을 찾아보면, (A)와 (B)의 내용은 대통령 선출
+  방식에 대해 언급하고 있으나, 통일 주체국민회의에서 선출한다는 내용은 없습니다. 또한, (B)의 내용 중 대통령의 임기가 7년이며, 중임할 수
+  없다는 내용도 헌법에는 없습니다. (C)의 내용은 제104조에 나오는 대법원장 임명 방식에 대한 내용이며, 제39조와는 관련이 없습니다. (D)의
+  내용은 제76조에 나오는 대통령의 권한에 대한 내용으로, 제39조와는 관련이 없습니다.  , 제39조와 관련된 내용이 아닌 것은 (C) 대법원장은
+  대통령이 국회의 동의를 얻어 임명한 다와 (D) 대통령은 국정 전반에 걸쳐 필요한 긴급조치를 할 수 있다입니다. 하지만 질문에서는 ''옳지 않은
+  것''을 묻고 있으므로, 제39조와 관련이 있으면서도 내용이 틀린 선택지를 찾아야 합니다. 그 결과, (B) 통일주체국민회의에서 재적 대의원 과반수의
+  찬성을 얻은 자를 대통령 당선자로 한다. ①대통령은 국회를 해산할 수 있다. ②대통령의 임기는 7년으로 하며, 중임할 수 없다가 옳지 않은 내용입니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: (가) 인물이 추진한 정책으로 옳지 않은 것은? 선비들 수만 명이 대궐 앞에 모여 만 동묘와 서원을 다시 설립할 것을 청하니, (가)이/가
+  크게 노하여 한성부의 조례(皂隷)와 병졸로 하여 금 한 강 밖으로 몰아내게 하고 드디어 천여 곳의 서원을 철폐하고 그 토지를 몰수하여 관에 속하게
+  하였다 .－대한계년사 －
+
+  A.사창제를 실시하였다 .
+
+  B.대전회통을 편찬하였다 .
+
+  C.비변사의 기능을 강화하였다 .
+
+  D.통상 수교 거부 정책을 추진하였다 .
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 제시된 지문에서 (가) 인물이 추진한 정책으로 옳지
+  않은 것을 찾아야 합니다. 제시된 지문에서는 선비들이 만동묘와 서원을 다시 설립할 것을 청하자, (가) 인물이 크게 노하여 서원을 철폐하고 그
+  토지를 몰수한 것을 알 수 있습니다. 여기서, (가) 인물은 흥성대원군임을 알 수 있습니다. 선택지를 하나씩 살펴보면, (A) 사창제를 실시하였다
+  - 사창제는 환곡의 문란을 해결하기 위해 실시한 정책으로, 흥선대원군이 추진한 정책 중 하나입니다. (B) 대전회통을 편찬하였다 - 대전회통은
+  조선시대의 법전으로, 흥선대원군이 편찬을 주도하였습니다. (C) 비변사의 기능을 강화하였다 - 비변사는 조선시대의 군사 기구로, 흥선대원군은 왕권
+  강화를 위해 비변사의 기능을 약화시켰습니다. (D) 통상 수교 거부 정책을 추진하였다 - 흥선대원군은 외세의 침략을 막기 위해 통상 수교 거부
+  정책을 추진하였습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 한국사 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_korean_history
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_law.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_law.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..bd853580343c891378f2d1d51c4f8486e9df0d39
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_law.yaml
@@ -0,0 +1,114 @@
+dataset_name: law
+doc_to_text: '질문: “악법도 법이다”라는 말이 강조하고 있는 법의 이념은?
+
+  A.법적 타당성
+
+  B.법적 안정성
+
+  C.법적 형평성
+
+  D.법적 효율성
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A). 법적 타당성은 법이 윤리적, 논리적으로 옳은 것을
+  의미합니다. "악법도 법이다"라는 말은 법의 내용이 적절하지 않더라도 법을 존중하고 따라야 한다는 것을 강조하므로 법적 타당성을 강조하는 것은
+  아닙니다. (B) "악법도 법이다"라는 말은 고대 그리스의 철학자 소크라테스가 한 말로 알려져 있습니다. 이 말은 법적 안정성을 강조하는 것으로
+  해석됩니다. 법적 안정성은 법이 명확하고 일관되게 적용되어야 하며, 사람들이 법을 신뢰하고 따를 수 있어야 한다는 이념입니다. 악법도 법으로 인정하고
+  따라야 한다는 것은, 법적 안정성을 유지하기 위해서는 법의 내용이 적절하지 않더라도 일단은 법을 존중하고 따라야 한다는 것을 의미합니다. (C).
+  법적 형평성은 법이 모든 사람에게 공정하게 적용되는 것을 의미합니다. "악법도 법이다"라는 말은 법의 내용이 적절하지 않더라도 법을 존중하고 따라야
+  한다는 것을 강조하므로 법적 형평성을 강조하는 것은 아닙니다. (D). 법적 효율성은 법이 사회적 목적을 효율적으로 달성하는 것을 의미합니다.
+  "악법도 법이다"라는 말은 법의 내용이 적절하지 않더라도 법을 존중하고 따라야 한다는 것을 강조하므로 법적 효율성을 강조하는 것은 아닙니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 고소와 고발에 관한 설명으로 옳지 않은 것은?
+
+  A.피해자가 아니면 고발할 수 없다.
+
+  B.고소를 취소한 자는 다시 고소하지 못한다.
+
+  C.고소의 취소는 대리인으로 하여금 하게 할 수 있다.
+
+  D.고소와 고발은 서면 또는 구술로써 검사 또는 사법경찰관에게 해야 한다.
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 피해자가 아니면 고발할 수 없다. - 이는 사실이 아닙니다.
+  고발은 범죄가 있다고 생각하는 사람이면 누구나 할 수 있습니다. (B) 고소를 취소한 자는 다시 고소하지 못한다. - 이는 사실입니다. 형사소송법
+  제232조 제2항에 따르면, 고소를 취소한 자는 다시 고소하지 못합니다. (C) 고소의 취소는 대리인으로 하여금 하게 할 수 있다. - 이는 사실입니다.
+  형사소송법 제236조에 따르면, 고소 또는 그 취소는 대리인으로 하여금 하게 할 수 있습니다. (D) 고소와 고발은 서면 또는 구술로써 검사 또는
+  사법경찰관에게 해야 한다. - 이는 사실입니다. 형사소송법 제237조에 따르면, 고소 또는 고발은 서면 또는 구술로써 검사 또는 사법경찰관에게
+  하여야 합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 민법상 소멸시효기간이 3년인 것은?
+
+  A.의복의 사용료 채권
+
+  B.여관의 숙박료 채권
+
+  C.연예인의 임금 채권
+
+  D.도급받은 자의 공사에 관한 채권
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 관련 법인 민법 제163조(3년의 단기소멸시효)에 대해
+  살펴보겠습니다. 다음 각호의 채권은 3년간 행사하지 아니하면 소멸시효가 완성한다. 1. 이자, 부양료, 급료, 사용료 기타 1년 이내의 기간으로
+  정한 금전 또는 물건의 지급을 목적으로 한 채권 2. 의사, 조산사, 간호사 및 약사의 치료, 근로 및 조제에 관한 채권 3. 도급받은 자, 기사
+  기타 공사의 설계 또는 감독에 종사하는 자의 공사에 관한 채권 4. 변호사, 변리사, 공증인, 공인회계사 및 법무사에 대한 직무상 보관한 서류의
+  반환을 청구하는 채권 5. 변호사, 변리사, 공증인, 공인회계사 및 법무사의 직무에 관한 채권 6. 생산자 및 상인이 판매한 생산물 및 상품의
+  대가 7. 수공업자 및 제조자의 업무에 관한 채권. 이제 각 선택지를 보겠습니다. (A) 의복의 사용료 채권은 이에 해당하지 않습니다. (B)
+  여관의 숙박료 채권은 이에 해당하지 않습니다. (C) 연예인의 임금 채권은 이에 해당하지 않습니다. (D) 도급받은 자의 공사에 관한 채권: 도급받은
+  자의 공사에 관한 채권은 민법 제163조 제3호에 따라 3년의 단기소멸시효에 해당합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 경비업법령상 집단민원현장으로 옳지 않은 것은?
+
+  A.「노동조합 및 노동관계조정법」에 따라 노동관계 당사자가 노동쟁의 조정신청을 한 사업장 또는 쟁의행위가 발생한 사업장
+
+  B.「공유토지분할에 관한 특례법」에 따라 공유토지에 대한 소유권행사와 토지의 이용에 문제가 있는 장소
+
+  C.「도시 및 주거환경정비법」에 따른 정비사업과 관련하여 이해대립이 있어 다툼이 있는 장소
+
+  D.「행정대집행법」에 따라 대집행을 하는 장소
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 경비업법이란, 경비업의 설립·운영 및 경비원의 교육 등에
+  관한 사항을 규정하여 경비업의 건전한 발전을 도모하고 국민생활의 안전을 유지하기 위한 법률입니다. 이 법률은 경비업체가 수행해야 하는 업무와 경비원의
+  역할, 그리고 그들이 준수해야 하는 규정들을 명시하고 있습니다. 경비업법에 따르면 집단민원현장이란 노동쟁의, 집회, 시위 등 대량의 사람들이 모여
+  문제를 일으키는 장소를 의미합니다. 그리고 이러한 장소에서는 경비원들이 경비업무를 수행하게 됩니다. 선택지를 보면, (A)는 노동조합 및 노동관계조정법에
+  따라 노동쟁의 조정신청을 한 사업장 또는 쟁의행위가 발생한 사업장, (B)는 공유토지분할에 관한 특례법에 따라 공유토지에 대한 소유권행사와 토지의
+  이용에 문제가 있는 장소, (C)는 도시 및 주거환경정비법에 따른 정비사업과 관련하여 이해대립이 있어 다툼이 있는 장소, 그리고 (D)는 행정대집행법에
+  따라 대집행을 하는 장소입니다. 이 중에서 (B)의 경우, 공유토지에 대한 소유권행사와 토지의 이용에 문제가 있는 장소는 집단민원현장에 해당되지
+  않습니다. 공유토지에 대한 소유권 행사와 토지의 이용에 문제가 있는 장소는 소유권자 간의 민사적인 문제를 다루는 장소로, 경비업법에서 정의하는
+  ''집단민원현장''에는 해당되지 않습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 컴퓨터범죄의 관리상 안전대책으로 옳은 것은?
+
+  A.사후 구제방법이 우선적으로 수립되어야 한다.
+
+  B.전체적인 시각에서 단기적으로 추진되어야 한다.
+
+  C.예기치 못한 사고에 대비하기 위해 시스템 백업과 프로그램 백업이 필요하다.
+
+  D.네트워크 취약성으로 발생하는 문제는 물리적 통제절차의 개선으로 해결해야 한다.
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다. 컴퓨터 범죄의 관리상 안전대책은 다양한 측면에서 고려되어야
+  합니다. (A) 사후 구제방법이 우선적으로 수립되어야 한다는 것은 범죄가 발생한 후에 대처하는 방법으로, 예방보다는 대응에 초점을 맞춘 것입니다.
+  이는 적극적인 대처 방법이지만, 예방적인 측면에서는 부족할 수 있습니다. (B) 전체적인 시각에서 단기적으로 추진되어야 한다는 것은, 컴퓨터 범죄의
+  안전대책을 전체적인 시각에서 바라보되, 시간적으로는 단기적인 관점에서 추진해야 한다는 것입니다. 이는 효율적인 대처 방법이지만, 장기적인 관점에서의
+  지속적인 개선이 필요할 수 있습니다. (C) 예기치 못한 사고에 대비하기 위해 시스템 백업과 프로그램 백업이 필요하다는 것은, 컴퓨터 시스템이나
+  프로그램이 손상되거나 파괴되는 경우를 대비하여 백업을 해두는 것입니다. 이는 매우 중요한 안전대책 중 하나입니다. (D) 네트워크 취약성으로 발생하는
+  문제는 물리적 통제절차의 개선으로 해결해야 한다는 것은, 네트워크 보안 문제를 해결하기 위해 물리적인 통제 절차를 개선하는 것입니다. 이는 네트워크
+  보안을 강화하는 데 매우 중요한 역할을 합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 법학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_law
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_machine_design_and_manufacturing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_machine_design_and_manufacturing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..e559fb50cf5ff9db8849f6e95082073e3b637ffe
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_machine_design_and_manufacturing.yaml
@@ -0,0 +1,116 @@
+dataset_name: machine_design_and_manufacturing
+doc_to_text: '질문: 기어 감소기의 분류 중 평행축형 감속기가 아닌 것은?
+
+  A.웜 기어
+
+  B.스퍼 기어
+
+  C.헬리컬 기어
+
+  D.더블 헬리컬 기어
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 기어의 특징과 분류를
+  이해해야 합니다. (A) 웜 기어(Worm gear)는 웜과 웜 휠로 구성되며, 웜 휠은 웜의 나사와 맞물려 회전하는 기어입니다. 웜 기어는 주로
+  고속 감속에 사용되며, 이는 웜의 나사가 한 바퀴 돌 때 웜 휠이 한 칸만 이동하기 때문입니다. 웜 기어는 평행축형 감속기가 아니라 직교축형 감속기에
+  속합니다. (B) 스퍼 기어(Spur gear)는 가장 기본적인 형태의 기어로, 기어의 모든 치톱이 원통의 축선 방향에 위치해 있습니다. 이들은
+  평행한 축 사이에서 힘을 전달하는 데 사용되므로, 평행축형 감속기에 속합니다. (C) 헬리컬 기어(Helical gear)는 기어의 치톱이 헬릭스
+  형태로 둘러져 있어, 기어가 맞물릴 때 접촉 면적이 크고, 작동이 부드럽고 소음이 적습니다. 헬리컬 기어는 평행축형 감속기에 속합니다. (D)
+  더블 헬리컬 기어(Double helical gear)는 헬리컬 기어의 변형 형태로, 치톱이 ''V'' 모양을 이루며, 이는 기어의 축력을 상쇄하는
+  효과가 있습니다. 더블 헬리컬 기어 역시 평행축형 감속기에 속합니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 왕복식 압축기의 장점으로 맞는 것은?
+
+  A.대용량이다.
+
+  B.맥동압력이 없다.
+
+  C.고압발생이 가능하다.
+
+  D.윤활이 쉽다.
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 왕복식 압축기는 그 이름에서 알 수 있듯이, 압축기의
+  움직임이 왕복운동을 따르는 형태입니다. 이러한 구조의 특성상 다음과 같은 특징들을 가지고 있습니다. (A) 대용량이다: 왕복식 압축기는 일반적으로
+  소형에서 중형까지의 용량을 다루는데 적합하다고 알려져 있습니다.   ''대용량''이라는 표현은 왕복식 압축기의 특성을 정확하게 반영하지 않습니다.
+  (B) 맥동압력이 없다: 왕복식 압축기는 피스톤이 실린더 내에서 왕복운동을 하면서 가스를 압축하고, 이 과정에서 맥동이 발생합니다.   ''맥동압력이
+  없다''는 표현은 정확하지 않습니다. (C) 고압발생이 가능하다: 왕복식 압축기는 그 구조상 고압을 생성하는 데 적합합니다. 피스톤의 움직임에
+  의해 가스를 압축하므로, 상대적으로 높은 압력을 발생시킬 수 있습니다. (D) 윤활이 쉽다: 왕복식 압축기의 경우, 피스톤과 실린더 사이의 마찰을
+  줄이기 위해 윤활이 필요합니다. 하지만 이것이 ''윤활이 쉽다''라는 표현을 정당화하는 것은 아닙니다. 오히려 윤활 상태를 유지하고 관리하는 것은
+  중요한 유지보수 작업 중 하나입니다.  , 정확한 정보를 바탕으로 각 선택지를 분석한 결과, 왕복식 압축기의 장점으로 가장 적절한 것은 ''고압발생이
+  가능하다''입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 일시 정체로스를 해결하기 위한 대책이 아닌 것은?
+
+  A.속도 가동률을 높인다.
+
+  B.미세한 결함을 시정한다.
+
+  C.현상을 잘 파악한다.
+
+  D.최적조건을 파악한다.
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 일시 정체로스를 해결하기 위한 대책이 아닌 것을
+  찾기 위해서는, 일시 정체로스의 정의와 그에 따른 해결 방안을 알아야 합니다. 일시 정체로스는 생산 공정에서 발생하는 로스 중 하나로, 일정 시간
+  동안 생산이 정체되는 것을 의미합니다. 이러한 정체로스를 해결하기 위해서는 다양한 대책이 필요합니다. (A) 속도 가동률을 높이는 것은 일시 정체로스를
+  해결하는 대책 중 하나일 뿐, 모든 경우에 적용할 수 있는 것은 아닙니다. 때로는 속도 가동률을 높이는 것이 오히려 생산성을 떨어뜨릴 수도 있습니다.
+  (B) 미세한 결함을 시정하는 것도 중요한 대책 중 하나입니다. 미세한 결함이 있으면 생산이 중단되거나 지연될 수 있기 때문에, 이를 미리 발견하고
+  시정함으로써 정체로스를 예방할 수 있습니다. (C) 현상을 잘 파악하는 것도 중요합니다. 현상을 잘 파악하면 정체로스의 원인을 파악하고, 그에
+  따른 적절한 대책을 세울 수 있습니다. (D) 최적 조건을 파악하는 것은 일시 정체로스를 해결하는 데 중요한 역할을 합니다. 최적 조건을 파악하면
+  생산 공정의 효율성을 높일 수 있으며, 이는 정체로스를 예방하는 데 큰 도움이 됩니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 열에 의한 관의 팽창, 수축을 허용하여 과도한 응력 발생을 방지하는 이음쇠는?
+
+  A.주철관 이음쇠
+
+  B.신축 관 이음쇠
+
+  C.패킹 이음쇠
+
+  D.나사 관 이음쇠
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 이해를 바탕으로 생각해보겠습니다.
+  (A) 주철관 이음쇠는 주로 철이나 철을 주재료로 한 합금으로 만들어진 관을 연결하는 데 사용됩니다. 그러나 주철관 이음쇠는 열에 의한 팽창과
+  수축에 대응하는 능력이 부족하다고 알려져 있습니다. (B) 신축 관 이음쇠는 이름에서 알 수 있듯이 ''신축성''이 중요한 특징입니다. 신축 관
+  이음쇠는 관의 길이가 변동되더라도 이음쇠가 이를 수용하도록 설계되어 있습니다. 이는 열에 의해 관이 팽창하거나 수축하는 것을 허용하며, 이로 인한
+  과도한 응력 발생을 방지할 수 있습니다. (C) 패킹 이음쇠는 물이나 기체의 누출을 방지하기 위해 주로 사용되는 이음쇠입니다. 패킹 이음쇠는 보통
+  고무 또는 실리콘 같은 소재로 만들어져 있으며, 이러한 소재는 열에 의한 팽창과 수축에 대응하는 능력이 제한적일 수 있습니다. (D) 나사 관
+  이음쇠는 나사로 두 관을 연결하는 방식의 이음쇠입니다. 이러한 이음쇠는 열에 의한 팽창과 수축에 대응하는 능력이 부족하다고 알려져 있습니다.  ,
+  각 선택지를 고려해보면 열에 의한 팽창과 수축을 허용하고 과도한 응력 발생을 방지하는 이음쇠는 신축 관 이음쇠일 가능성이 높습니다. 따라서, 정답은
+  (B) 입니다.
+
+
+  질문: 해칭의 일반적인 원칙 중 틀린 것은?
+
+  A.해칭은 가는 실선으로 그린다.
+
+  B.해칭선의 간격은 해칭을 하는 단면의 크기에 따라 선택한다.
+
+  C.해칭은 주된 중심선 또는 단면도의 주된 외형선에 대하여 90℃ 기울기로 그린다.
+
+  D.인접한 단면의 해칭은 선의 방향 또는 각도를 바꾸든지, 아니면 그 간격을 바꾸어서 구별한다.
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 내용을 이해하고 검증해보겠습니다.
+  (A) 선택지는 해칭이 가는 실선으로 그려진다는 내용입니다. 이는 일반적으로 맞는 내용입니다. 해칭은 기계 설계도나 제품 설계도에서 재료의 단면을
+  표시하는 데 사용되는 선을 말합니다. 이는 가는 실선으로 그려집니다. (B) 선택지는 해칭선의 간격이 해칭을 하는 단면의 크기에 따라 선택된다는
+  내용입니다. 이 역시 일반적으로 맞는 내용입니다. 해칭선의 간격은 그려지는 단면의 크기나 그림의 비율에 따라 결정됩니다. (D) 선택지는 인접한
+  단면의 해칭은 선의 방향 또는 각도를 바꾸든지, 아니면 그 간격을 바꾸어서 구별한다는 내용입니다. 이 역시 일반적으로 맞는 내용입니다. 인접한
+  단면의 해칭은 서로 구별하기 위해 선의 방향, 각도, 간격 등을 바꾸어 그립니다. 그러나 (C) 선택지는 해칭이 주된 중심선 또는 단면도의 주된
+  외형선에 대하여 90℃ 기울기로 그린다는 내용인데, 이는 잘못된 내용입니다. 일반적으로 해칭은 45도 기울기로 그려집니다.  , 이 선택지는 해칭의
+  일반적인 원칙을 잘못 설명하고 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 기계 디자인 제조 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_machine_design_and_manufacturing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_management.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_management.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..af383ad6fe7996aee076314706dd14bf711f904c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_management.yaml
@@ -0,0 +1,107 @@
+dataset_name: management
+doc_to_text: '질문: ERP 도입의 최종 목적으로 가장 적합한 것은 무엇인가?
+
+  A.조직문화 혁신
+
+  B.경영혁신의 수단
+
+  C.고객만족과 이윤극대화
+
+  D.기업 내부의 정보인프라 구축
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. ERP (Enterprise Resource Planning)
+  시스템 도입의 최종 목적을 이해하기 위해서는 ERP의 기본 개념과 목표에 대해 살펴볼 필요가 있습니다. ERP 시스템은 기업의 다양한 업무 프로세스를
+  통합하고 관리하는 소프트웨어입니다. 이는 기업 내부의 자원을 효율적으로 관리하고, 기업 전체의 업무 과정을 유기적으로 연결하는 역할을 합니다.
+  ERP 시스템은 비즈니스 프로세스의 표준화와 단순화를 통해 비효율을 줄이고, 중복 업무를 축소합니다. 이러한 시스템은 실시간으로 정보를 관리하며,
+  기업의 의사결정을 지원하는 경영 정보 시스템의 역할을 수행합니다. ERP 도입의 주요 목적은 고객 만족과 이윤 극대화에 있습니다. 이는 잘못된
+  관행의 제거, 비부가가치 업무의 축소, 재고비용 절감, 납기 단축, 정보 공유를 통한 매출 증대 등을 통해 달성됩니다. 또한, 경쟁력 강화 및
+  투명 경영을 실현하고 글로벌 경쟁에 대응하는 데에도 중요한 역할을 합니다.  , ERP 도입의 최종 목적은 다양한 측면이 있지만, 가장 핵심적인
+  목적은 ''고객만족과 이윤 극대화''로 볼 수 있습니다. 이를 통해 기업의 경쟁력을 강화하고, 글로벌 시장에서의 지속 가능한 성장을 도모할 수
+  있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 재무상태표의 유동자산 항목에 해당하지 않는 것은?
+
+  A.현금
+
+  B.투자자산
+
+  C.재고자산
+
+  D.매출채권
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. 재무상태표는 기업의 일정 시점의 재무상태를 나타내는 표로,
+  자산, 부채, 자본으로 구성됩니다. 자산은 유동자산과 비유동자산으로 구분되는데, 유동자산은 1년 이내에 현금화할 수 있는 자산을 의미합니다. (A)
+  현금: 통화 및 통화 대용증권을 포함한 즉시 현금으로 전환이 가능한 자산입니다. (B) 투자자산은 재무상태표의 유동자산 항목에 해당하지 않습니다.
+  투자자산은 기업이 장기적인 투자수익을 얻기 위해 보유하는 자산으로, 1년 이내에 현금화할 수 없기 때문에 유동자산에 해당하지 않습니다. 대표적인
+  투자자산으로는 주식, 채권, 부동산 등이 있습니다. (C) 재고자산: 판매를 목적으로 보유하고 있는 자산으로, 상품, 제품, 원재료 등이 해당됩니다.
+  (D) 매출채권: 제품이나 상품을 판매하고 아직 대금을 회수하지 못한 채권입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 중소기업기본법상 중소기업 옴부즈만에 관한 설명으로 옳은 것은?
+
+  A.임기는 3년으로 하되, 한 번만 연임할 수 있다.
+
+  B.업무에 관한 활동 결과보고서를 작성하여 매년 12월 말까지 규제개혁위원회와 중소벤처기업부 및 국회에 보고하여야 한다.
+
+  C.중소기업 및 규제 분야의 학식과 경험이 많은 자 중에서 중소벤처기업부장관이 위촉한다.
+
+  D.판사의 직에 5년 이상 있었던 사람은 중소기업 옴부즈만이 될 자격이 있다.
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 중소기업 옴부즈만에 대해 알아야 합니다. 중소기업
+  옴부즈만은 중소기업기본법 제22조에 따라 중소기업에 영향을 주는 규제 및 애로사항을 개선하기 위해 중소벤처기업부장관이 위촉하는 독립적인 전문가입니다.
+  이제 선택지를 보겠습니다. (A)를 살펴보면, 중소기업 옴부즈만은 국무총리가 위촉되는 임기 3년의 독립적 정부기관이다. 한 번 연임이 가능하며,
+  다른 중소기업청 관계 기관과는 달리, 규제개혁위원회의 동의를 받아 임명됩니다.   이는 옳은 설명입니다. (B)를 살펴보면, 중소기업기본법 제22조에
+  따라 중소기업 옴부즈만은 업무에 관한 활동 결과보고서를 작성하여 매년 1월 말까지 규제개혁위원회와 중소벤처기업부 및 국회에 보고하여야 한다고 명시되어
+  있습니다.   이는 틀린 설명입니다. (C)를 살펴보면, 중소기업 옴부즈만은 중소기업 및 규제 분야의 학식과 경험이 풍부한 사람 중에서 국무총리가
+  위촉한다고 명시되어 있습니다.   이는 틀린 설명입니다. (D)를 살펴보면, 중소기업기본법 제22조에 판사의 직에 5년 이상 있었던 사람은 중소기업
+  옴부즈만이 될 자격이 있다는 내용은 명시되어 있지 않습니다.   이는 옳지 않은 설명입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 임금체계에 대한 설명으로 옳지 않은 것은?
+
+  A.직무급은 종업원이 맡은 직무의 상대적 가치에 따라 임금을 결정하는 방식이다.
+
+  B.연봉제란 개인의 능력발휘와 기여도(업적평가결과)에 따라 차등적인 임금을 결정하는 방식이다.
+
+  C.직무성과급이란 기본급이 직무급이고, 고과승급과 인센티브를 운영하는 임금체계이다.
+
+  D.직능급은 종업원이 수행하는 직무의 난이도를 기준으로 임금을 결정하는 방식이다.
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 먼저, 직무급은 종업원이 맡은 직무의 상대적 가치에
+  따라 임금을 결정하는 방식입니다. 이는 직무의 중요도와 난이도, 책임 등을 평가하여 결정됩니다. (B) 다음으로, 연봉제는 개인의 능력발휘와 기여도(업적평가결과)에
+  따라 차등적인 임금을 결정하는 방식입니다. 이는 개인의 성과와 업적에 따라 임금이 변동될 수 있습니다. (C) 직무성과급은 기본급이 직무급이고,
+  고과승급과 인센티브를 운영하는 임금체계입니다. 이는 직무의 가치와 성과에 따라 임금이 결정됩니다. (D) 마지막으로, 직능급은 종업원이 수행하는
+  직무의 난이도를 기준으로 임금을 결정하는 방식이 아니라, 종업원의 직무수행능력에 따라 임금을 결정하는 방식입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 물류시스템에 관한 설명으로 옳은 것은?
+
+  A.고객의 주문에 신속하게 반응할 수 있도록 재고를 최대한으로 유지한다.
+
+  B.물류시스템을 생산지에서 소비지까지 연계되도록 구축한다.
+
+  C.기업의 총비용을 최소화하기 위해 물류서비스 수준을 최대로 유지한다.
+
+  D.물류합리화를 위해 기업내 각 부문별로 목표를 정하고 분산된 시스템을 구축한다.
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다. (A) 고객의 주문에 신속하게 반응하기 위해 재고를 최대한으로
+  유지하는 것은 물류 시스템의 목적 중 하나일 수 있지만, 이는 과도한 재고 유지 비용을 초래할 수 있습니다. (B) 물류시스템은 생산지에서 소비지까지
+  연계되도록 구축하는 것이 가장 중요한 역할 중 하나입니다. (C) 기업의 총비용을 최소화하기 위해 물류서비스 수준을 최대로 유지하는 것은 물류
+  시스템의 목적 중 하나일 수 있지만, 이는 고객 만족도를 저하시킬 수 있습니다. (D) 물류합리화를 위해 기업내 각 부문별로 목표를 정하고 분산된
+  시스템을 구축하는 것은 물류 시스템의 효율성을 높일 수 있지만, 이는 통합적인 관리가 어려울 수 있습니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 경영학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_management
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_maritime_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_maritime_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..72a45987f7ad6fcc6e7ed002c12a9929f56c1909
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_maritime_engineering.yaml
@@ -0,0 +1,129 @@
+dataset_name: maritime_engineering
+doc_to_text: '질문: 복원력을 갖는 안정 평형 상태인 선박의 메타센터 높이의 조건은?
+
+  A.GM ＞ 0
+
+  B.GM = 0
+
+  C.GM ＜ 0
+
+  D.GM = -1
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 복원력(復原力, restoring force)이란
+  선박이 기울어졌을 때 원래의 위치로 되돌아가려는 힘을 의미합니다. 안정 평형 상태(stable equilibrium state)란 선박이 기울어져도
+  원래의 위치로 되돌아오는 상태를 말합니다. 메타센터 높이(GM, metacenter height)는 선박이 기울어졌을 때, 복원력의 중심과 무게중심
+  사이의 거리를 의미합니다. 이제 각 선택지를 살펴보겠습니다. (A) GM > 0: GM이 0보다 크면, 복원력의 중심이 무게중심보다 위에 위치하게
+  됩니다. 이 경우, 선박이 기울어지면 복원력이 작용하여 원래의 위치로 되돌아오게 됩니다.  , GM > 0은 안정 평형 상태인 선박의 조건입니다.
+  (B) GM = 0: GM이 0이면, 복원력의 중심과 무게중심이 일치하게 됩니다. 이 경우, 선박이 기울어져도 복원력이 작용하지 않아 원래의 위치로
+  되돌아오지 않습니다.  , GM = 0은 안정 평형 상태인 선박의 조건이 아닙니다. (C) GM < 0: GM이 0보다 작으면, 복원력의 중심이
+  무게중심보다 아래에 위치하게 됩니다. 이 경우, 선박이 기울어지면 복원력이 작용하여 원래의 위치로 되돌아오지 않고, 더욱 기울어지게 됩니다.  ,
+  GM < 0은 안정 평형 상태인 선박의 조건이 아닙니다. (D) GM = -1: GM이 -1인 경우는 안정 평형 상태인 선박의 조건이 아닙니다.
+  GM은 거리를 나타내는 물리량이므로 음수 값을 가질 수 없습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 일반조선용 강재가 가져야 하는 성질은?
+
+  A.냉간가공이 가능하고, 선상가열해도 좋은 것
+
+  B.냉간가공이 가능하고, 선상가열을 못하는 것
+
+  C.극저온(極低溫)에서 파괴되지 않는 것
+
+  D.용접할 수 없는 것
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 일반조선용 강재는 배를 만드는데 사용되는 주요 재료입니다.   이
+  강재는 배를 만드는데 필요한 여러 가지 성질을 가져야 합니다. (A) 선택지는 냉간가공이 가능하다는 점과 선상가열해도 좋다는 점을 언급하고 있습니다.
+  냉간가공이 가능하다는 것은 강재가 저온에서도 물리적 특성을 유지할 수 있다는 것을 의미하며, 이는 배가 극지방과 같은 매우 추운 환경에서도 안정적으로
+  작동할 수 있게 해줍니다. 또한 선상가열이 가능하다는 것은 강재가 열에 의해 손상되지 않는다는 것을 의미합니다. 이는 배가 열을 발생시키는 엔진
+  등의 장치를 안전하게 운용할 수 있게 해줍니다. (B) 선택지는 냉간가공이 가능하다는 점을 언급하고 있지만, 선상가열을 못한다는 점을 지적하고
+  있습니다. 이는 강재가 열에 약하다는 것을 의미하며, 이는 배의 안전성을 저해할 수 있습니다. (C) 선택지는 극저온에서 파괴되지 않는다는 점을
+  언급하고 있습니다. 이는 배가 극지방과 같은 매우 추운 환경에서도 안정적으로 작동할 수 있음을 의미합니다. 이는 (A) 선택지에서 언급한 냉간가공이
+  가능하다는 점과 비슷한 이점을 제공합니다. (D) 선택지는 용접할 수 없다는 점을 언급하고 있습니다. 이는 배를 만드는데 필요한 주요 기술 중
+  하나인 용접을 사용할 수 없다는 것을 의미하며, 이는 배를 제작하는 데 큰 장애가 될 수 있습니다. 이러한 분석을 통해, 일반조선용 강재는 냉간가공이
+  가능하고, 선상가열에도 견딜 수 있으며, 극저온에서도 안정적인 성질을 가져야 하며, 용접이 가능해야 한다는 것을 알 수 있습니다.   선택지 중에서는
+  (A)와 (C)가 이러한 성질을 가장 잘 반영하고 있습니다. 그러나 (C)는 (A)가 가지고 있는 선상가열에 견딜 수 있다는 중요한 성질을 갖고
+  있지 않습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 선형에 따라 분류한 선박의 종류에 해당되지 않는 것은?
+
+  A.준설선
+
+  B.3도형선
+
+  C.평갑판선
+
+  D.트렁크선
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선형에 따라 분류한 선박의 종류를 알아보겠습니다.
+  선형에 따른 선박의 종류는 크게 다음과 같이 나눌 수 있습니다. 1. 3도형선: 3개의 선체를 연결한 형태의 선박으로, 화물 수송에 사용됩니다.
+  2. 평갑판선: 선체의 상부가 평평한 형태의 선박으로, 화물 수송에 사용됩니다. 3. 갑판일체선: 선체의 상부가 갑판과 일체화된 형태의 선박으로,
+  화물 수송에 사용됩니다. 4. 트렁크선: 선체의 중앙에 트렁크(trunk)라는 큰 공간이 있는 선박으로, 화물 수송에 사용됩니다. 5. 유조선:
+  원유나 석유 제품을 수송하는 선박입니다. 6. LNG선: 액화천연가스를 수송하는 선박입니다. 7. 컨테이너선: 컨테이너를 수송하는 선박입니다.
+  8. 벌크선: 곡물, 철광석 등의 화물을 포장하지 않고 그대로 수송하는 선박입니다. 9. 여객선: 승객을 수송하는 선박입니다. 이제 선택지를 보겠습니다.
+  (A) 준설선: 준설선은 강이나 바다의 바닥을 파내어 수심을 깊게 하거나, 토사를 채취하는 데 사용되는 선박으로 선형에 따라 분류한 선박의 종류에
+  해당되지 않습니다. (B) 3도형선: 3개의 선체를 연결한 형태의 선박으로, 선형에 따라 분류한 선박의 종류에 해당됩니다. (C) 평갑판선: 선체의
+  상부가 평평한 형태의 선박으로, 선형에 따라 분류한 선박의 종류에 해당됩니다. (D) 트렁크선: 선체의 중앙에 트렁크(trunk)라는 큰 공간이
+  있는 선박으로, 선형에 따라 분류한 선박의 종류에 해당됩니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 따뜻하고 밀도가 낮은 물은 수심이 얕은 곳에 위치하며 차고 밀도가 높은 물은 수심이 깊은 곳에 위치한다. 이 때 두 물이 만나서 형성하는
+  경계면은?
+
+  A.염분약층
+
+  B.열전도층
+
+  C.수온약층
+
+  D.조경층
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 질문은 바다의 수층 구조에 관한 것입니다.
+  바다의 수층 구조는 수온, 염분, 밀도 등에 따라 크게 세 가지 층으로 나뉘는데, 이는 표층층(surface layer), 중간층(thermocline/pycnocline/halocline),
+  그리고 심해층(deep layer)입니다. 표층층은 수심 약 200m까지이며, 이곳에서는 바다의 온도와 염분이 거의 일정하다. 이 층은 일반적으로
+  따뜻하고 밀도가 낮습니다. 그 다음으로, 중간층은 수심 약 200m부터 1000m까지로, 이 층에서는 수온과 염분이 급격하게 변화합니다.  ,
+  이 층은 밀도가 높은 층이라고 할 수 있습니다. 중간층에서 수온이 급격하게 변하는 부분을 ''수온약층(thermocline)'', 염분이 급격하게
+  변하는 부분을 ''염분약층(halocline)'', 밀도가 급격하게 변하는 부분을 ''밀도약층(pycnocline)''이라고 합니다. 마지막으로,
+  심해층은 수심 1000m 이하로, 이곳에서는 수온과 염분이 거의 일정하며, 밀도가 가장 높습니다.  , 질문에서 말하는 ''따뜻하고 밀도가 낮은
+  물''은 표층층을, ''차고 밀도가 높은 물''은 중간층을 의미하는 것으로 보입니다. 그리고 이 두 층 사이에서 수온과 밀도가 급격하게 변하는
+  경계면을 가리키는 것으로 해석할 수 있습니다. 그렇다면 선택지 중에서 어떤 것이 이 경계면을 가장 잘 설명하는지 살펴보겠습니다. (A) 염분약층은
+  염분이 급격하게 변하는 부분을 가리키는 용어입니다. 하지만 질문에서는 염분에 대한 언급이 없으므로 이 선택지는 제외할 수 있습니다. (B) 열전도층은
+  열이 전달되는 층을 가리키는 용어입니다. 이 용어는 바다의 수층 구조와는 직접적인 연관이 없으므로 이 선택지도 제외할 수 있습니다. (C) 수온약층은
+  수온이 급격하게 변하는 부분을 가리키는 용어입니다. 따뜻한 표층층과 찬 중간층 사이에서 수온이 급격하게 변하므로, 이 용어는 질문의 경계면을 잘
+  설명하는 것으로 보입니다. (D) 조경층은 바다의 수심에 따라 조류의 성질이 변하는 층을 가리키는 용어입니다. 이 용어는 바다의 수층 구조와는
+  직접적인 연관이 없으므로 이 선택지도 제외할 수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 압축공기에 포함된 불활성 기체로서 지방질에 용해가 잘되고 압력이 증가함에 따라 강한 마취효과를 내는 주된기체는?
+
+  A.헬륨
+
+  B.산소
+
+  C.질소
+
+  D.아르곤
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 각 선지에 대한 설명과 올바른 답변이 왜 맞는지에 대한
+  풀이 과정은 다음과 같습니다: (A) 헬륨: 헬륨은 불활성 기체로 알려져 있으며, 지방질에 용해되는 성질이나 마취 효과는 거의 없습니다. 헬륨은
+  주로 잠수할 때 질소 중독을 방지하기 위한 혼합 가스로 사용됩니다. (B) 산소: 산소는 압축 공기에 포함된 주요 기체 중 하나이며, 고압 상태에서
+  지방질에 용해되는 경향이 있습니다. 고압 산소는 혈액과 조직에 더 많이 용해되어 강한 마취 효과를 나타낼 수 있습니다. 이 현상은 산소 독성 또는
+  산소 마취로 알려져 있으며, 특히 잠수병과 관련된 깊은 잠수에서 중요한 역할을 합니다. (C) 질소: 질소는 지방질에 용해되거나 마취 효과를 나타내지
+  않습니다. 잠수병(디콤프레션 병증)은 주로 해수면 아래에서의 압력 변화로 인해 질소 기체가 혈액과 조직에서 과도하게 용해되었다가, 압력이 감소하면서
+  기체로 변환되어 발생하는 것으로, 질소 자체가 마취 효과를 내는 것은 아닙니다. (D) 아르곤: 아르곤도 불활성 기체로, 지방질에 용해되거나 마취
+  효과를 나타내지 않습니다. 아르곤은 주로 산업 공정에서 보호 가스로 사용됩니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 해양 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_maritime_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_materials_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_materials_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9cf28707581f1f1444e31cc1070a29655149deb4
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_materials_engineering.yaml
@@ -0,0 +1,118 @@
+dataset_name: materials_engineering
+doc_to_text: '질문: 실온까지 온도를 내려서 다른 형상으로 변형시켰다가 다시 온도를 상승시키면 어느 일정한 온도이상에서 다시 원래의 형상으로
+  변화하는 합금은
+
+  A.제진합금
+
+  B.방진합금
+
+  C.비정질합금
+
+  D.형상기억합금
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 합금의 특성을 이해해야 합니다.
+  (A). 제진합금: 제진합금은 주로 금속을 가공하는 과정에서 발생하는 열을 효과적으로 제거하는 데 사용되는 합금입니다.  , 이 질문의 합금 특성과는
+  관련이 없어 보입니다. (B). 방진합금: 방진합금은 소음이나 진동을 줄이는 데 효과적인 합금입니다. 이 역시 질문의 합금 특성과는 관련이 없어
+  보입니다. (C). 비정질합금: 비정질합금은 금속 원자들이 정렬되지 않은 상태, 즉 비정질 상태로 고정되어 있어 특별한 기계적 특성을 가진 합금입니다.
+  하지만 이 합금은 온도에 따라 형상이 변화하는 특성은 없습니다. (D). 형상기억합금: 형상기억합금은 특정 온도 이상에서 원래의 형상으로 돌아가는
+  특성을 가진 합금입니다. 이 합금은 ''형상기억 효과''라는 고유한 특성 때문에 특정 온도에서 물체의 형태가 변하고, 그 온도가 다시 내려가면
+  원래의 형태로 돌아오는 특성을 가집니다.  , 질문에서 요구하는 ''실온까지 온도를 내려서 다른 형상으로 변형시켰다가 다시 온도를 상승시키면 어느
+  일정한 온도이상에서 다시 원래의 형상으로 변화하는 합금''은 형상기억합금이 가장 적합해 보입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 잔류 오스테나이트를 마텐자이트로 변화시키는 열처리 방법은?
+
+  A.연속냉각 변태 처리
+
+  B.등온 변태 처리
+
+  C.항온 변태 처리
+
+  D.심랭 처리
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 잔류 오스테나이트와 마텐자이트에 대해 이해해야
+  합니다. 잔류 오스테나이트는 강철의 오스테나이트 구조가 완전히 변태되지 않아 잔류한 상태를 말하며, 마텐자이트는 강철의 오스테나이트 구조가 빠른
+  냉각에 의해 변태된 것을 말합니다. 이제 각 선택지에 대해 살펴보겠습니다. (A) 연속냉각 변태 처리는 강철을 연속적으로 냉각시켜 구조를 변화시키는
+  방법입니다. 이 방법은 오스테나이트를 마텐자이트로 변화시키는데 효과적일 수 있습니다. (B) 등온 변태 처리는 강철을 일정한 온도에서 변태시키는
+  방법입니다. 이 방법은 오스테나이트를 페라이트나 베이나이트로 변화시키는데 주로 사용됩니다. (C) 항온 변태 처리는 강철을 변태 온도에서 일정
+  시간 동안 유지하는 방법입니다. 이 방법은 오스테나이트를 페라이트나 베이나이트로 변화시키는데 주로 사용됩니다. (D) 심랭 처리는 강철을 매우
+  빠르게 냉각시키는 방법입니다. 이 방법은 오스테나이트를 마텐자이트로 변화시키는데 효과적입니다.  , 잔류 오스테나이트를 마텐자이트로 변화시키는
+  열처리 방법은 연속냉각 변태 처리나 심랭 처리일 가능성이 높습니다. 하지만 심랭 처리가 더 빠른 냉각을 통해 마텐자이트로의 변화를 촉진시키므로,
+  이 방법이 더 적합하다고 판단됩니다. 잔류 오스테나이트를 마텐자이트로 변화시키는 가장 효과적인 방법은 심랭 처리인데, 이는 오스테나이트가 빠른
+  냉각 과정에서 마텐자이트로 변태되기 때문입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 면심입방격자의 배위수는 몇 개인가?
+
+  A.8
+
+  B.12
+
+  C.16
+
+  D.24
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 면심입방격자(face-centered cubic lattice,
+  FCC)는 각 면의 중심과 모서리에 원자가 위치한 입방격자입니다. 이 구조에서 한 원자는 주변에 있는 다른 원자 12개와 접촉하게 되므로, 배위수는
+  12입니다. 이를 자세히 설명하면, 면심입방격자는 입방격자의 8개 꼭지점에 원자가 하나씩 위치하고, 6개 면의 중심에도 원자가 하나씩 위치합니다.
+  이때, 각 면의 중심에 위치한 원자는 그 면에 인접한 4개 꼭지점의 원자와 접촉하게 됩니다.   면 중심에 위치한 원자는 총 4개의 원자와 접촉하게
+  되며, 이는 총 6개의 면에 대해 동일하므로 4*6=24개의 원자와 접촉하는 것처럼 보입니다. 그러나, 각 면 중심의 원자는 서로 공유되므로 실제로
+  한 원자가 접촉하는 원자의 수는 24/2=12개가 됩니다. 이로써, 면심입방격자의 배위수는 12라는 결론을 도출할 수 있습니다. 따라서, 정답은
+  (B) 입니다.
+
+
+  질문: 금속재료에 외부의 힘을 가하여 원하는 형태로 변형시킴과 동시에 재료의 기계적 성질을 개선하는 가공법을 무엇이라 하는가?
+
+  A.용접
+
+  B.절삭가공
+
+  C.소성가공
+
+  D.분말 야금
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대해 이해해보겠습니다. (A). 용접:
+  두 개 이상의 금속을 고온으로 가열하여 붙이는 방법입니다. 이는 주로 두 개의 금속을 연결하는데 사용되며, 이 과정에서 금속의 형태를 변형시키거나
+  기계적 성질을 개선하는 것은 아닙니다. (B). 절삭가공: 금속을 절단하거나 깎아내어 원하는 형태로 만드는 가공법입니다. 이 방법은 주로 금속의
+  형태를 변형시키는 데 사용되지만, 재료의 기계적 성질을 개선하는 것은 아닙니다. (C). 소성가공: 금속재료에 외부의 힘을 가하여 원하는 형태로
+  변형시키고, 이 과정에서 재료의 기계적 성질을 개선하는 가공법입니다. 소성가공은 압력을 이용해 금속을 변형시키며, 이 과정에서 금속의 결정 구조가
+  재배열되어 기계적 성질이 개선됩니다. (D). 분말 야금: 금속 분말을 고온에서 가압하여 원하는 형태로 만드는 방법입니다. 이 방법은 주로 복잡한
+  형태의 금속 부품을 제조하는 데 사용되며, 이 과정에서 금속의 형태를 변형시키지만, 재료의 기계적 성질을 개선하는 것은 아닙니다.  , 질문에서
+  주어진 정보를 기반으로 할 때, 금속재료에 외부의 힘을 가하여 원하는 형태로 변형시킴과 동시에 재료의 기계적 성질을 개선하는 가공법은 ''소성가공''이라
+  할 수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 냉간가공과 열간가공을 구별하는 기준이 되는 것은?
+
+  A.변태점
+
+  B.탄성한도
+
+  C.재결성 온도
+
+  D.마무리 온도
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 냉간가공과 열간가공의 차이를 알아보겠습니다. 냉간가공은
+  금속을 녹이지 않고, 상온에서 가공하는 방법을 말하며, 열간가공은 금속을 가열하여 가공하는 방법을 말합니다. 이 두 가공 방법의 차이는 가공하는
+  과정에서 금속의 온도에 있습니다. 그럼 이제 선택지를 하나씩 살펴보겠습니다. (A) 변태점: 이는 금속이 상태를 변화시키는 온도를 의미합니다.
+  이는 냉간가공과 열간가공의 구별 기준이 될 수 없습니다. (B) 탄성한도: 이는 재료가 더 이상 탄성 변형을 견디지 못하고 비탄성 변형을 일으키기
+  시작하는 응력을 말합니다. 이 역시 냉간가공과 열간가공의 구별 기준이 될 수 없습니다. (D) 마무리 온도: 이는 열간가공 과정에서 마지막으로
+  도달하는 온도를 의미합니다. 이는 열간가공의 과정을 설명하는 용어로, 냉간가공과 열간가공을 구별하는 기준이 될 수 없습니다. (C) 재결성 온도:
+  이는 금속이 냉간 가공에 의한 변형에서 회복되기 시작하는 온도를 말합니다. 이는 냉간가공과 열간가공을 구별하는 데 사용될 수 있습니다. 냉간가공은
+  재결성 온도 이하에서 이루어지며, 열간가공은 재결성 온도 이상에서 이루어집니다.  , 냉간가공과 열간가공을 구별하는 기준은 재결성 온도라고 할
+  수 있습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 재료 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_materials_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_mechanical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_mechanical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1023abcc9f4403c8092f5a8894b92f36cb96457e
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_mechanical_engineering.yaml
@@ -0,0 +1,111 @@
+dataset_name: mechanical_engineering
+doc_to_text: '질문: 비틀림 각이 30°인 헬리컬 기어에서 잇수가 40이고 축직각모듈이 4일 때 피치원의 직경은 몇㎜인가?
+
+  A.160
+
+  B.170.27
+
+  C.168
+
+  D.184.75
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 헬리컬 기어에서 피치원의 직경을 계산하기 위해서는 축직각모듈과
+  잇수를 사용합니다. 피치원 직경은 일반적으로 축직각모듈과 잇수의 곱으로 계산됩니다. 수학적으로는 다음과 같이 표현됩니다: \[ \text{피치원
+  직경} = \text{축직각모듈} \times \text{잇수} \] 여기서 축직각모듈이 4이고 잇수가 40이므로, 피치원 직경은 4 × 40
+  = 160mm입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 열처리에서 재질을 경화시킬 목적으로 강을 오스테나이트 조직의 영역으로 가열한 후 급냉시키는 열처리는?
+
+  A.뜨임
+
+  B.풀림
+
+  C.담금질
+
+  D.불림
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 열처리의 목적은 강의 특성을 변경하거나 개선하는 것입니다.
+  이는 강의 강도, 경도, 인성, 취성 등을 조절하는데 사용됩니다. 먼저 선택지를 하나씩 살펴보겠습니다. (A) 뜨임은 강재를 높은 온도로 가열한
+  후, 공기 중에서 천천히 냉각시키는 과정입니다. 이는 강재의 경도를 줄이고, 인성을 높이는 역할을 합니다. 이 경우, 강재는 오스테나이트 상태로
+  가열되지만, 이 후 급속히 냉각되는 것이 아니라 천천히 냉각되므로 이 선택지는 아닐 것 같습니다. (B) 풀림은 강재를 일정 온도로 가열한 후,
+  이를 유지하는 과정을 말합니다. 이는 강재의 미세 구조를 안정화시키고, 내부 응력을 해소하는 역할을 합니다. 이 경우, 강재는 오스테나이트 상태로
+  가열되지만, 이 후 급속히 냉각되는 것이 아니라 천천히 냉각되므로 이 선택지도 아닐 것 같습니다. (C) 담금질은 강재를 오스테나이트 상태로 가열한
+  후, 이를 급속히 냉각하는 과정을 말합니다. 이는 강재의 경도와 강도를 크게 높이는 역할을 합니다.  , 이 선택지가 가장 가능성이 높아 보입니다.
+  (D) 불림은 강재를 높은 온도로 가열한 후, 이를 유지하는 과정을 말합니다. 이는 강재의 내부 응력을 해소하고, 강도와 경도를 증가시키는 역할을
+  합니다. 이 경우, 강재는 오스테나이트 상태로 가열되지만, 이 후 급속히 냉각되는 것이 아니라 천천히 냉각되므로 이 선택지도 아닐 것 같습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: Cu3.5 ~ 4.5%, Mg1 ~ 1.5%, Si0.5%, Mn0.5~1.0%, 나머지 Al인 합금으로 무게를 중요시한 항공기나 자동차에
+  사용되는 고력 Al합금인 것은?
+
+  A.두랄루민
+
+  B.하이드로날륨
+
+  C.알드레이
+
+  D.내식 알루미늄
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 질문에서 언급된 합금의 구성요소를 보면 Cu,
+  Mg, Si, Mn 그리고 Al이 있습니다. 이는 알루미늄 합금의 일종을 가리키는 것으로 보입니다. 그런데 이 중에서 무게를 중요시한 항공기나
+  자동차에 사용되는 고력 Al합금을 찾아야 합니다. 선택지 중에서 두랄루민, 하이드로날륨, 알드레이, 내식 알루미늄이 있습니다. 이들 중에서 합금의
+  구성요소와 사용되는 분야를 고려해야 합니다. 먼저 두랄루민에 대해 알아보겠습니다. 두랄루민은 고강도의 알루미늄 합금으로 알려져 있습니다. 이는
+  항공기 제작에 주로 사용되는데, 그 이유는 두랄루민이 가볍고 강도가 높기 때문입니다. 두랄루민의 주요 성분으로는 알루미늄, 구리, 망간, 마그네슘
+  등이 있습니다. 이는 질문에서 언급된 합금의 구성요소와 일치합니다. 다음으로 하이드로날륨, 알드레이, 내식 알루미늄에 대해 알아보겠습니다. 하이드로날륨은
+  물과 반응하여 수소를 생성하는 물질로, 이는 질문의 합금과는 많이 다릅니다. 알드레이는 러시아의 항공기 제조 회사로, 이 역시 질문의 합금과는
+  관련이 없습니다. 마지막으로 내식 알루미늄은 일반적으로 알루미늄의 내식성을 높이기 위해 다른 원소들을 첨가한 합금을 말합니다. 하지만 이는 특정한
+  합금을 가리키는 것이 아니므로, 이 역시 질문의 합금과는 많이 다릅니다.  , 두랄루민이 질문에서 언급된 합금의 구성요소와 사용되는 분야, 그리고
+  고강도 Al합금이라는 점에서 가장 일치하는 것으로 보입니다. ''따라서, 정답은 (A) 입니다.
+
+
+  질문: 미끄럼 베어링과 비교한 구름 베어링의 특징에 대한 설명으로 틀린 것은?
+
+  A.마찰계수가 작고 특히 기동마찰이 적다.
+
+  B.규격화되어 있어 표준형 양산품이 있다.
+
+  C.진동하중에 강하고 호환성이 없다.
+
+  D.전동체가 있어서 고속회전에 불리하다.
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 구름 베어링과 미끄럼 베어링의 특징을 비교해보면 다음과
+  같습니다. (A). 마찰계수가 작고 특히 기동마찰이 적다. - 구름 베어링은 전동체가 구름 운동을 하기 때문에 마찰계수가 작고, 기동마찰이 적습니다.
+  이는 구름 베어링의 장점 중 하나입니다. (B). 규격화되어 있어 표준형 양산품이 있다. - 구름 베어링은 규격화되어 있어 표준형 양산품이 있습니다.
+  이는 대량 생산이 가능하고, 가격이 저렴하다는 장점이 있습니다. (C). 진동하중에 강하고 호환성이 없다. - 구름 베어링은 전동체가 구름 운동을
+  하기 때문에 진동하중에 강합니다. 하지만 호환성에 대해서는, 구름 베어링은 다양한 규격이 존재하며, 규격에 맞는 제품을 사용하면 호환성이 있습니다.  ,
+  이 선택지는 옳지 않습니다. (D). 전동체가 있어서 고속회전에 불리하다. - 구름 베어링은 전동체가 구름 운동을 하기 때문에 고속회전에 유리합니다.
+  이는 구름 베어링의 장점 중 하나입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: V벨트는 단면 형상에 따라 구분되는데 가장 단면이 큰 벨트의 형은?
+
+  A.OPTION
+
+  B.OPTION
+
+  C.E
+
+  D.M
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, V벨트의 단면 형상에 대해 알아보겠습니다. V벨트는
+  이름에서 알 수 있듯이 ''V''자 형태의 단면을 가진 벨트입니다. 이 벨트는 다양한 형태와 크기로 제작되며, 일반적으로 알파벳을 사용하여 단면의
+  크기와 형태를 구분합니다. 이 알파벳은 보통 A, B, C, D, E 등으로 표현되며, 이 중에서 단면이 가장 큰 벨트는 어떤 것일까요? V벨트의
+  단면 크기는 알파벳이 뒤로 갈수록 커집니다 즉, A형은 B형보다 작고, B형은 C형보다 작으며, 이런 식으로 D형, E형으로 진행됩니다.  ,
+  주어진 선택지 중에서 가장 단면이 큰 V벨트는 E형일 것입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 기계 공학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_mechanical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_nondestructive_testing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_nondestructive_testing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3b74275b7e2cceb7e62cec6c107595180c746096
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_nondestructive_testing.yaml
@@ -0,0 +1,122 @@
+dataset_name: nondestructive_testing
+doc_to_text: '질문: 침투탐상시험의 적용 방법에 대한 설명으로 옳은 것은?
+
+  A.침투시간을 단축하기 위해서는 버너 등으로 탐상 시작 전에 침투액을 가열하여야 한다.
+
+  B.습식현상법은 수세성 염색침투탐상시험에 실시하는 것이 효율성을 높일 수 있다.
+
+  C.물과 전원이 없는 장소의 대형구조물 부분검사에는 후유화성 형광침투탐상시험이 적합하다.
+
+  D.건식현상법은 수세성 또는 후유화성 형광침투액을 사용하는데 주로 이용된다.
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 침투탐상시험에 관한 각 선택지의 정확성을 분석하기 위해,
+  침투탐상시험의 기본 원리와 방법에 대해 살펴보겠습니다. (A) 침투탐상시험에서 침투액을 가열하는 것에 대한 명확한 언급은 발견되지 않았습니다.
+  침투탐상시험은 주로 표면에 남은 침투제를 제거하고, 현상제를 사용하여 균열이나 결함을 드러내는 과정을 포함합니다. 침투액의 효과적 사용에 대한
+  정보에서 가열에 관한 언급은 없었습니다. (B) 수세성 침투 탐상시험은 효과적이며, 습식 현상법이 적용될 수 있습니다. 침투액의 적용 후, 과잉
+  침투액을 제거하여 유화처리나 세척처리의 효율을 증대시키는 것이 중요합니다. 이는 습식 현상법이 수세성 염색침투탐상시험에 효율적으로 적용될 수 있음을
+  시사하지만 확실하지 않습니다. (C) 후유화성 침투액의 경우 유화 처리, 세척처리, 건조처리 등의 단계가 포함되며, 특히 물과 전원이 없는 장소에서의
+  사용에 대한 구체적 언급은 없었습니다. 하지만, 후유화성 침투액은 일반적으로 건식 현상법과 함께 사용됩니다. (D) 건식현상법은 수세성 침투액
+  및 후유화성 침투액과 함께 사용될 수 있습니다. 이는 선택지 D의 내용이 타당함을 시사합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 전자기초음파 탐상의 특징으로 틀린 것은?
+
+  A.전기, 음향변화 능률이 떨어진다.
+
+  B.탐상감도가 약간 저하된다.
+
+  C.접촉매질의 두께에 영향을 받는다.
+
+  D.정밀한 두께 측정이나 음속 측정에 적합하다.
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 전자기초음파 탐상(EMAT: Electromagnetic
+  Acoustic Transducer)은 접촉매질이 필요 없는 비접촉 초음파 탐상 방법입니다. 이 방법은 초음파를 직접적으로 발생시키는 것이 아니라,
+  전자기장을 이용하여 시료 내부에서 초음파를 발생시키는 방식입니다. (A) 선택지는 전자기초음파 탐상의 한계점 중 하나로, EMAT는 효율이 떨어질
+  수 있습니다. 이는 전자기장을 이용하여 시료 내부에서 초음파를 발생시키는 과정에서 일부 에너지 손실이 발생하기 때문입니다.  , 이 선택지는 맞습니다.
+  (B) 선택지는 역시 EMAT의 한계점 중 하나입니다. 비접촉 방식이기 때문에, 전통적인 초음파 탐상 방법에 비해 탐상 감도가 약간 저하될 수
+  있습니다.  , 이 선택지도 맞습니다. (C) 선택지는 EMAT의 장점 중 하나입니다. 전자기초음파 탐상은 접촉매질이 필요 없는 비접촉 방식이기
+  때문에, 접촉매질의 두께에 영향을 받지 않습니다.  , 이 선택지는 틀립니다. (D) 선택지는 EMAT의 다른 장점 중 하나입니다. 비접촉 방식이기
+  때문에, 정밀한 두께 측정이나 음속 측정에 적합합니다.  , 이 선택지는 맞습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 비파괴검사법 중 시험체의 내부와 외부의 압력차를 이용하여 기체나 액체가 결함부를 통해 흘러 들어가거나 나오는 것을 감지하는 방법으로써 압력용기나
+  배관 등에 적용하기 적합한 시험법은?
+
+  A.누설검사
+
+  B.침투탐상시험
+
+  C.자분탐상시험
+
+  D.초음파탐상시험
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 비파괴 검사법에 대해 간단히 설명하겠습니다.
+  비파괴 검사법은 시험체를 파괴하지 않고 내부 결함이나 물성을 검사하는 방법을 말합니다. 이 중에서도 질문에서 언급한 검사법은 시험체의 내부와 외부의
+  압력차를 이용하여 기체나 액체가 결함부를 통해 흘러 들어가거나 나오는 것을 감지하는 방법입니다. 이것을 토대로 각 선택지를 살펴보겠습니다. (A)
+  누설검사: 이 검사법은 압력용기나 배관 등에서 누설되는 기체나 액체를 감지하는 방법입니다. 이 검사법은 시험체 내부와 외부의 압력차를 이용하여
+  결함부를 통해 기체나 액체가 흘러 들어가거나 나오는 것을 감지합니다. (B) 침투탐상시험: 이 검사법은 표면에 발생한 작은 결함을 발견하기 위해
+  특별한 액체를 사용하는 방법입니다. 이 방법은 표면 결함을 찾는 데 효과적입니다. (C) 자분탐상시험: 이 검사법은 자성체의 표면 또는 근표면
+  결함을 찾는 데 사용됩니다. 이 방법은 자성체에 자기장을 인가하고, 자기력선의 이탈을 이용하여 결함을 찾아냅니다. (D) 초음파탐상시험: 이 검사법은
+  초음파를 이용하여 시험체의 내부 결함을 찾아내는 방법으로서, 압력차를 이용하지 않습니다. 이 방법은 내부의 깊은 부분까지 탐사할 수 있습니다.  ,
+  내부와 외부의 압력차를 이용하여 기체나 액체가 결함부를 통해 흘러 들어가거나 나오는 것을 감지하는 방법으로서 압력용기나 배관 등에 적용하기 적합한
+  검사법은 ''누설검사''입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 물리적 현상의 원리에 따른 비파괴검사 방법을 분류한 것 중 틀린 것은?
+
+  A.광학-육안검사
+
+  B.열-누설검사
+
+  C.투과-방사선검사
+
+  D.전자기-와류탐상검사
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 비파괴 검사(Nondestructive Testing,
+  NDT)는 재료나 제품이 사용 중인 상태에서 그 특성이나 상태를 검사하는 기술을 의미합니다. 이는 손상을 입히지 않고, 또는 기능을 손상시키지
+  않고 테스트를 수행합니다. 이러한 방법은 다양한 원리에 기반을 두고 있습니다. (A) 광학-육안검사: 이는 물체의 표면을 보고 결함을 찾는 가장
+  기본적인 검사 방법입니다. 이는 광학의 원리에 기반을 두고 있습니다. (B) 열-누설검사: 이는 열에 의한 누설을 감지하는 방법입니다. 열 이미지를
+  사용하여 누설을 찾을 수 있습니다. 이는 열의 원리에 기반을 두고 있습니다. (C) 투과-방사선검사: 이는 방사선을 사용하여 물체 내부의 결함을
+  찾는 방법입니다. 방사선은 물체를 투과하며, 결함이 있는 경우 방사선의 분포가 달라집니다. 이는 투과의 원리에 기반을 두고 있습니다. (D) 전자기-와류탐상검사:
+  이는 전자기장을 사용하여 물체의 결함을 찾는 방법입니다. 전자기장은 물체의 표면에 왜곡을 일으키며, 이 왜곡을 측정하여 결함을 찾을 수 있습니다.
+  이는 전자기의 원리에 기반을 두고 있습니다. 하지만, (B) 열-누설검사의 경우, 일반적으로 열에 의한 누설을 감지하는 방법은 ''열화상검사''라고
+  합니다. ''누설검사''는 주로 압력이나 가스 누설을 찾는데 사용되며, 이는 주로 ''음향'' 원리에 기반을 둡니다.  , 이 중에서 ''열-누설검사''는
+  열의 원리를 이용한 비파괴 검사 방법이 아닙니다. ''누설검사''는 보통 ''음향'' 원리를 이용한 비파괴 검사 방법으로 분류됩니다. 그러므로
+  이 선택지는 틀린 분류를 나타냅니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 초음파탐상시험에서 공진법으로 시험체의 두께를 측정할 때 2MHz의 주파수에서 기본공명이 발생했다면 이 시험체의 두께는 몇 mm인가? (단,
+  시험체 내의 초음파 속도는 4800m/s이다.)
+
+  A.1.2
+
+  B.2.4
+
+  C.3.6
+
+  D.4.8
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공진법이란 무엇인지부터 알아보겠습니다. 공진법은
+  물체가 자연스럽게 진동하는 특정 주파수, 즉 공명 주파수에서 물체가 크게 진동하도록 하는 방법입니다. 이 문제에서는 초음파탐상시험에서 공진법을
+  사용하여 시험체의 두께를 측정하는 상황을 가정하고 있습니다. 이때, 시험체 내의 초음파 속도는 4800m/s로 주어져 있습니다. 초음파탐상시험에서
+  공진법으로 두께를 측정할 때, 시험체의 두께는 기본공명 주파수와 시험체 내의 초음파 속도를 이용하여 계산할 수 있습니다. 이때, 기본공명 주파수는
+  시험체의 두께와 초음파 속도에 의해 결정됩니다. 공명 주파수는 초음파가 시험체의 두께를 왕복하는 주기와 일치할 때 발생합니다.  , 기본공명 주파수는
+  초음파가 시험체의 두께를 한 번 왕복하는 주기에 해당합니다.  , 시험체의 두께를 t라고 할 때, 기본공명 주파수 f는 초음파 속도 v와 시험체의
+  두께 t를 이용하여 다음과 같이 계산할 수 있습니다. f = v / (2t) 이 문제에서는 기본공명 주파수 f가 2MHz, 즉 2 * 10^6
+  Hz이고, 초음파 속도 v는 4800m/s로 주어져 있습니다. 이를 위의 식에 대입하여 시험체의 두께 t를 계산하면 다음과 같습니다. t = v
+  / (2f) = 4800 / (2 * 2 * 10^6) = 0.0012m = 1.2mm 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 비파괴 검사 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_nondestructive_testing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_patent.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_patent.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..d078622fd6c5c339197094a0173af2d8ac896b81
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_patent.yaml
@@ -0,0 +1,142 @@
+dataset_name: patent
+doc_to_text: '질문: 특허협력조약(PCT)에 따른 국제특허출원에 관한 설명으로 옳지 않은 것은?
+
+  A.국제특허출원의 출원인은 국내서면제출기간에 출원인의 성명 및 주소, 발명의 명칭 등을 기재한 서면을 특허청장에게 제출하여야 하는데, 그 서면을
+  국내서면제출기간에 제출하지 아니한 경우 특허청장은 보정기간을 정하여 보정을 명하여야 한다.
+
+  B.특허법 제201조(국제특허출원의 국어번역문)제1항에 따라 국어번역문을 제출한 출원인은 국내서면제출기간(제201조제1항 단서에 따라 취지를 적은
+  서면이 제출된 경우에는 연장된 국어번역문 제출기간을 말한다)에 그 국어번역문을 갈음하여 새로운 국어번역문을 제출할 수 있으나 출원인이 출원심사의
+  청구를 한 후에는 허용되지 않는다.
+
+  C.국제특허출원을 외국어로 출원한 출원인이 국내서면제출기간(제201조제1항 단서에 따라 취지를 적은 서면이 제출된 경우에는 연장된 국어번역문 제출기간을
+  말한다)에 발명의 설명 및 청구범위의 국어번역문을 제출하지 아니하면 그 국제특허출원을 취하한 것으로 본다.
+
+  D.미국 기업이 미국 특허청을 수리관청으로 국제특허출원하고, 한국을 지정국으로 한 경우, 한국 출원일은 한국 특허청에 발명의 설명ㆍ청구범위ㆍ도면의
+  국어번역문을 제출한 날로 본다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선택지 (A)를 보면, 국제특허출원의 출원인은 국내서면제출기간에
+  출원인의 성명 및 주소, 발명의 명칭 등을 기재한 서면을 특허청장에게 제출하여야 하는데, 그 서면을 국내서면제출기간에 제출하지 아니한 경우 특허청장은
+  보정기간을 정하여 보정을 명하여야 한다고 설명하고 있습니다. 이는 PCT 조약 제21조에 따른 내용으로, 출원인은 국내서면제출기간에 필요한 정보를
+  제출해야 하며, 그렇지 않은 경우 보정기간이 부여된다는 것은 옳은 설명입니다. 다음으로, 선택지 (B)를 보면, 특허법 제201조(국제특허출원의
+  국어번역문)제1항에 따라 국어번역문을 제출한 출원인은 국내서면제출기간(제201조제1항 단서에 따라 취지를 적은 서면이 제출된 경우에는 연장된 국어번역문
+  제출기간을 말한다)에 그 국어번역문을 갈음하여 새로운 국어번역문을 제출할 수 있으나 출원인이 출원심사의 청구를 한 후에는 허용되지 않는다고 설명하고
+  있습니다. 이는 특허법 제201조에 따른 내용으로, 출원인은 국내서면제출기간 내에 새로운 국어번역문을 제출할 수 있지만, 출원심사 청구 후에는
+  허용되지 않는다는 것은 옳은 설명입니다. 선택지 (C)를 보면, 국제특허출원을 외국어로 출원한 출원인이 국내서면제출기간(제201조제1항 단서에
+  따라 취지를 적은 서면이 제출된 경우에는 연장된 국어번역문 제출기간을 말한다)에 발명의 설명 및 청구범위의 국어번역문을 제출하지 아니하면 그 국제특허출원을
+  취하한 것으로 본다고 설명하고 있습니다. 이는 특허법 제201조 제4항에 따른 내용으로, 출원인이 국어번역문을 제출하지 않은 경우 해당 출원은
+  취하된 것으로 간주된다는 것은 옳은 설명입니다. 마지막으로, 선택지 (D)를 보면, 미국 기업이 미국 특허청을 수리관청으로 국제특허출원하고, 한국을
+  지정국으로 한 경우, 한국 출원일은 한국 특허청에 발명의 설명ᆞ청구범위ᆞ도면의 국어번역문을 제출한 날로 본다고 설명하고 있습니다. 그러나, PCT
+  조약에 따르면, 국제출원의 한국 출원일은 국제출원일이 됩니다.  , 이 설명은 옳지 않습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 특허권 존속기간의 연장에 관한 설명으로 옳은 것은?
+
+  A.특허출원에 대하여 출원심사청구일부터 4년과 특허출원일부터 3년 중 늦은 날보다 지연되어 특허권의 설정등록이 이루어지는 경우에는 그 지연된 기간만큼
+  해당 특허권의 존속기간을 연장할 수 있다.
+
+  B.등록지연에 따른 특허권 존속기간의 연장등록출원이 있는 때에는 그 존속기간은 연장된 것으로 보나, 그 출원에 관하여 연장등록거절결정이 확정된
+  때에는 그러하지 아니하다.
+
+  C.등록지연에 따른 특허권 존속기간의 연장등록출원은 특허권의 설정등록일부터 3개월 이내에 출원하여야 한다.
+
+  D.특허발명의 실시를 위하여 다른 법령의 규정에 의하여 허가등이 필요한 경우 이를 위한 활성ㆍ안전성 등의 시험으로 인하여 실시할 수 없었던 모든
+  기간만큼 그 특허권의 존속기간을 연장할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 특허권의 설정등록일로부터 3개월 이내에 특허권 존속기간의
+  연장등록출원을 해야 한다는 말은 정확합니다. 이는 특허권의 설정등록이 지연된 경우에 적용되는 연장등록출원에 관한 설명입니다. 이 연장등록출원은
+  특허권의 설정등록이 특허출원일로부터 4년 또는 심사청구일로부터 3년 중 늦은 날로부터 지연된에 가능합니다. 이 연장등록출원은 설정등록일로부터 3개월
+  이내에 제출해야 하며, 연장기간에 대한 제한은 없습니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 특허권 침해의 손해배상에 관한 설명으로 옳지 않은 것은? (다툼이 있는 경우 에는 판례에 의함)
+
+  A.법원은 특허권의 침해소송에서 당사자의 신청에 의하여 타당사자에 대하여 당해 침해행위로 인한 손해의 계산을 하는 데에 필요한 서류의 제출을 명할
+  수 있으며, 법원의 제출명령에도 불구하고 그 서류의 소지자가 그 제출을 거절할 정당한 이유가 있는 때에는 그 서류를 제출하지 않을 수 있다.
+
+  B.특허법 제128조(손해액의 추정등) 제1항 규정을 적용함에 있어서 특허권자가 그 일실이익 손해액을 입증하기 위해서는 적어도 침해자가 침해행위를
+  하게 한 물건의 양도수량과 당해 침해행위가 없었다면 판매할 수 있었던 물건의 단위수량당 이익액을 입증하여야 한다.
+
+  C.특허법 제128조(손해액의 추정등) 제2항에서의 침해행위에 의한 이익은 침해자가 특허침해행위에 의하여 얻게 된 것을 말하는데, 그 침해행위에도
+  불구하고 특허권자에게 손해가 없는 경우에도 침해자가 침해행위로 인하여 이익을 받았으면 이 규정을 적용할 수 있다.
+
+  D.특허법 제128조(손해액의 추정등) 제3항에 의하여 특허발명의 실시에 대하여 통상받을 수 있는 금액에 상당하는 액을 결정함에 있어 당해 특허발명에
+  대하여 특허권자가 제3자와의 사이에 특허권 실시계약을 맺고 실시료를 받은 바 있다면 그 계약내용을 침해자에게도 유추적용하는 것이 현저하게 불합리하다는
+  특별한 사정이 없는 한 그 실시계약에서 정한 실시료를 참작하여 위 금액을 산정하여야 한다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지가 어떤 내용인지 파악해봅시다. (A) 선택지는
+  법원이 특허권 침해 손해의 계산을 위해 필요한 서류 제출을 요청할 수 있고, 서류 제출을 거부할 정당한 이유가 있는 경우에는 제출하지 않을 수
+  있다는 내용입니다. (B) 선택지는 특허법 제128조 제1항을 적용할 때, 특허권자가 손해액을 입증하기 위해 침해자가 침해행위를 통해 판매한 물건의
+  수량과, 침해행위가 없었다면 판매할 수 있었던 물건의 단위수량당 이익액을 입증해야 한다는 내용입니다. (C) 선택지는 특허법 제128조 제2항에서의
+  침해행위에 의한 이익은 침해자가 특허침해행위에 의해 얻은 것을 의미하며, 특허권자에게 손해가 없는 경우에도 침해자가 침해행위로 인해 이익을 얻었다면
+  이 규정을 적용할 수 있다는 내용입니다. (D) 선택지는 특허법 제128조 제3항에 따라 특허발명의 실시에 대해 통상적으로 받을 수 있는 금액을
+  결정할 때, 특허권자가 제3자와 특허권 실시계약을 맺고 실시료를 받은 경우, 그 계약 내용을 참고하여 금액을 산정해야 한다는 내용입니다. 이 중에서
+  특허권 침해의 손해배상에 관한 설명으로 옳지 않은 것은 (C) 선택지입니다. 왜냐하면, 특허법 제128조 제2항에서는 침해행위에 의한 이익이란
+  침해자가 특허침해행위에 의해 얻은 이익을 의미하는 것은 맞지만, 특허권자에게 손해가 없는 경우에도 침해자가 침해행위로 인해 이익을 얻었다면 이
+  규정을 적용할 수 있다는 내용은 틀립니다. 특허권 침해의 손해배상은 특허권자가 손해를 입었을 때만 적용될 수 있습니다. 따라서, 정답은 (C)
+  입니다.
+
+
+  질문: 특허법상 대리인에 관한 설명으로 옳지 않은 것은?
+
+  A.특허에 관한 절차를 밟는 자의 위임에 의한 대리인의 대리권은 본인의 사망이나 능력의 상실, 본인인 법인의 합병에 의한 소멸로 인하여 당연히
+  소멸한다.
+
+  B.행위능력 또는 법정대리권이 없거나 특허에 관한 절차를 밟음에 필요한 수권이 흠결된 자가 밟은 절차는 보정된 당사자나 법정대리인의 추인이 있는
+  때에는 행위시에 소급하여 그 효력이 발생한다.
+
+  C.특허에 관한 절차를 밟는 자의 대리인의 대리권은 이를 서면으로써 증명하여야 한다.
+
+  D.특허에 관한 절차를 밟는 자의 대리인이 수인이 있는 때에는 특허청 또는 특허심판원에 대하여 각자가 본인을 대리한다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 선택지 (A)를 살펴보면, 특허에 관한 절차를 밟는
+  자의 위임에 의한 대리인의 대리권은 본인의 사망이나 능력의 상실, 본인인 법인의 합병에 의한 소멸로 인하여 당연히 소멸한다고 설명하고 있습니다.
+  이는 특허법 제5조 제2항에 규정된 내용으로, 대리인의 대리권은 본인의 사망이나 능력의 상실 등의 사유로 인해 소멸하는 것이 맞습니다. 다음으로,
+  선택지 (B)를 살펴보면, 행위능력 또는 법정대리권이 없거나 특허에 관한 절차를 밟음에 필요한 수권이 흠결된 자가 밟은 절차는 보정된 당사자나
+  법정대리인의 추인이 있는 때에는 행위시에 소급하여 그 효력이 발생한다고 설명하고 있습니다. 이는 특허법 제5조 제3항에 규정된 내용으로, 대리권이
+  없는 자가 밟은 절차도 당사자나 법정대리인의 추인이 있으면 소급하여 효력이 발생하는 것이 맞습니다. 선택지 (C)를 살펴보면, 특허에 관한 절차를
+  밟는 자의 대리인의 대리권은 이를 서면으로써 증명하여야 한다고 설명하고 있습니다. 이는 특허법 제5조 제1항에 규정된 내용으로, 대리인의 대리권은
+  서면으로 증명되어야 하는 것이 맞습니다. 마지막으로, 선택지 (D)를 살펴보면, 특허에 관한 절차를 밟는 자의 대리인이 수인이 있는 때에는 특허청
+  또는 특허심판원에 대하여 각자가 본인을 대리한다고 설명하고 있습니다. 이는 특허법 제6조 제1항에 규정된 내용으로, 대리인이 여러 명인 경우 각자가
+  본인을 대리하는 것이 맞습니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 특허법 제30조(공지 등이 되지 아니한 발명으로 보는 경우)에 관한 설명으로 옳지 않은 것은?
+
+  A.공지 등이 있는 날로부터 12개월 이내에 공지예외적용 신청을 수반하여 선출원을 한 경우, 해당 선출원을 기초로 한 국내우선권 주장출원을 위
+  공지 등이 있는 날로부터 12개월 이내에 하여야 특허법 제30조를 적용 받을 수 있다.
+
+  B.특허법 제30조제1항제1호의 규정을 적용 받으려면 출원서에 그 취지를 적어야 하고 이를 증명할 수 있는 서류를 출원일로부터 30일 이내에 특허청장에게
+  제출하여야 한다.
+
+  C.특허법 제30조는 발명이 출원 전에 공지되었다 하더라도 일정요건을 갖춘 경우 신규성이나 진보성에 관한 규정을 적용할 때 그 발명을 선행기술로
+  사용하지 않도록 하는 규정이지 출원일이 소급되는 것은 아니다.
+
+  D.甲의 발명이 공개된 후 12개월 이내에 동일 발명을 출원하여 공지예외규정을 적용 받았고, 상기 출원일과 같은 날에 동일 발명에 대하여 乙이
+  출원을 한 경우, 특허법 제36조(선출원)를 적용하지 않더라도 乙은 특허를 받을 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다. (A)는 공지 등이 있는 날로부터 12개월 이내에 공지예외적용
+  신청을 수반하여 선출원을 한 경우, 해당 선출원을 기초로 한 국내우선권 주장출원을 위 공지 등이 있는 날로부터 12개월 이내에 하여야 특허법 제30조를
+  적용 받을 수 있다고 설명하고 있습니다. 그러나, 특허법 제30조 제1항에서는 선출원을 기초로 하지 않은 경우에도 공지예외적용을 신청할 수 있다고
+  규정하고 있습니다.  , (A)는 옳지 않은 설명입니다. (B)는 특허법 제30조제1항제1호의 규정을 적용 받으려면 출원서에 그 취지를 적어야
+  하고 이를 증명할 수 있는 서류를 출원일로부터 30일 이내에 특허청장에게 제출하여야 한다고 설명하고 있습니다. 이는 특허법 제30조 제2항에 규정된
+  내용으로 옳은 설명입니다. (C)는 특허법 제30조는 발명이 출원 전에 공지되었다 하더라도 일정요건을 갖춘 경우 신규성이나 진보성에 관한 규정을
+  적용할 때 그 발명을 선행기술로 사용하지 않도록 하는 규정이지 출원일이 소급되는 것은 아니라고 설명하고 있습니다. 이는 특허법 제30조의 취지와
+  내용을 정확히 설명하고 있는 옳은 설명입니다. (D)는 甲의 발명이 공개된 후 12개월 이내에 동일 발명을 출원(A)하여 공지예외규정을 적용 받았고,
+  상기 출원일과 같은 날에 동일 발명에 대하여 乙이 출원(B)을 한 경우, 특허법 제36조(선출원)를 적용하지 않더라도 乙은 특허를 받을 수 없다고
+  설명하고 있습니다. 그러나, 특허법 제36조에서는 동일한 발명에 대해서는 먼저 출원한 자만이 특허를 받을 수 있다고 규정하고 있으므로, 乙은 특허를
+  받을 수 없습니다.  , (D)는 옳은 설명입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 특허법 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_patent
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_political_science_and_sociology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_political_science_and_sociology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..827a7df448d26f7e2d10920e29b6eef5127c7f75
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_political_science_and_sociology.yaml
@@ -0,0 +1,123 @@
+dataset_name: political_science_and_sociology
+doc_to_text: '질문: 실질소득이 증가할수록 해당 재화에 대한 수요가 감소하는 재화를 지칭하는 용어로 옳은 것은?
+
+  A.대체재
+
+  B.보완재
+
+  C.열등재
+
+  D.정상재
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 정답 해설: 실질소득이 증가할 때 해당 재화에 대한 수요가
+  감소하는 재화를 지칭하는 용어를 찾기 위해 각 선택지를 살펴보겠습니다. (A). 대체재는 한 재화의 가격이 상승할 때 다른 재화의 수요가 증가하는
+  관계를 가진 두 재화를 의미합니다. 실질소득과 직접적인 관련이 없으므로 정답이 아닙니다. (B). 보완재는 한 재화의 수요가 증가할 때 함께 수요가
+  증가하는 재화를 의미합니다. 실질소득과 직접적인 관련이 없으므로 정답이 아닙니다. (C). 열등재는 실질소득이 증가할 때 해당 재화의 수요가 감소하는
+  재화를 의미합니다. 이는 소득이 증가함에 따라 더 좋은 재화를 소비하게 되기 때문입니다.  , 정답은 (C) 열등재입니다. (D). 정상재는 실질소득이
+  증가할 때 해당 재화의 수요가 증가하는 재화를 의미합니다. 이는 소득이 증가함에 따라 더 많은 재화를 소비하게 되기 때문입니다. 이는 우리가 일반적으로
+  생각하는 대부분의 재화에 해당합니다. 하지만, 이 문제에서는 실질소득이 증가할 때 해당 재화의 수요가 감소하는 재화를 찾아야 하므로 정답이 아닙니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 하향식(top-down)과 상향식(bottom-up) 지역발전전략을 비교한 설명으로 옳지 않은 것은?
+
+  A.하향식 전략은 효율성을 중시하는 반면, 상향식 전략은 민주성을 강조한다.
+
+  B.하향식 전략은 외부 수요와 시장에 의존하는 반면, 상향식 전략은 지역 자원 활용의 극대화에 초점을 두고 있다.
+
+  C.하향식 전략은 중심지역의 성장을 주변 지역으로 확산시키고, 상향식 전략은 대규모 지역사회의 발전을 자극할 수 있다.
+
+  D.하향식 전략은 개별 지역의 특성을 반영하기 어렵다는 단점이 있으며, 상향식 전략은 개발도상국에서는 실천 가능성이 낮다는 단점이 있다.
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 하향식(top-down) 전략과 상향식(bottom-up)
+  전략은 지역 발전 전략의 두 가지 주요 접근법입니다. (A) 선택지는 하향식 전략이 효율성을 중시하고, 상향식 전략이 민주성을 강조한다고 합니다.
+  이는 사실입니다. 하향식 전략은 주로 중앙 정부 또는 주요 기관에서 정책이나 계획을 결정하고 이를 하위 조직에 전달하는 방식이므로 효율성이 중요합니다.
+  반면에 상향식 전략은 지역 주민이나 조직에서 정책이나 계획을 제안하고 이를 상위 조직에 제출하는 방식이므로 민주성이 강조됩니다. (B) 선택지는
+  하향식 전략이 외부 수요와 시장에 의존하고, 상향식 전략이 지역 자원 활용의 극대화에 초점을 두고 있다고 합니다. 이 또한 사실입니다. 하향식
+  전략은 대부분 외부에서 결정된 정책이나 계획을 실행하기 때문에 외부 수요와 시장에 의존하는 경향이 있습니다. 반면에 상향식 전략은 지역의 자원과
+  능력을 최대한 활용하려는 노력이 중요하므로 지역 자원 활용의 극대화에 초점을 둡니다. (D) 선택지는 하향식 전략이 개별 지역의 특성을 반영하기
+  어렵다는 단점이 있고, 상향식 전략은 개발도상국에서는 실천 가능성이 낮다는 단점이 있다고 합니다. 이 역시 사실입니다. 하향식 전략은 중앙에서
+  결정된 정책이나 계획을 지역에 적용하기 때문에 개별 지역의 특성을 반영하기 어려울 수 있습니다. 반면에 상향식 전략은 지역의 참여와 자원을 필요로
+  하기 때문에 개발도상국에서는 자원 부족 등의 이유로 실천 가능성이 낮을 수 있습니다. 하지만 (C) 선택지는 하향식 전략이 중심지역의 성장을 주변
+  지역으로 확산시키고, 상향식 전략이 대규모 지역사회의 발전을 자극할 수 있다고 합니다. 이는 부정확합니다. 하향식 전략이 중심지역의 성장을 주변
+  지역으로 확산시키는 것은 사실이지만, 상향식 전략이 반드시 대규모 지역사회의 발전을 자극하는 것은 아닙니다. 상향식 전략은 지역사회의 참여와 지역
+  자원 활용에 초점을 맞추며, 이는 대규모 지역사회의 발전보다는 각 지역사회의 독특한 특성과 자원을 활용한 지역 개발에 더 집중하는 경향이 있습니다.
+  따라서, 정답은 (C) 입니다.
+
+
+  질문: 변이할 당 분석(shift-sh areanalysis)에서 가정하는 지역 산업 성장의 세 가지 요인이 아닌 것은?
+
+  A.세계 경제 발전 효과(worlddevelopm enteffect)
+
+  B.국가경제성장 효과(nationalgrowtheffect)
+
+  C.산업구조 효과(industrialmixeffect)
+
+  D.지역 할당 효과(regionalshareeffect)
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 변이할 당 분석(shift-share analysis)에
+  대해 이해해야 합니다. 변이할 당 분석은 지역의 경제 성장을 설명하기 위한 방법 중 하나로, 그 경제 성장을 여러 요인으로 분해하여 각각의 영향력을
+  분석하는 방법입니다. 변이할 당 분석에서는 보통 세 가지 주요 요인을 고려합니다. 1. 국가경제성장 효과(nationalgrowtheffect):
+  이는 국가 전체의 경제 성장률이 지역 경제에 미치는 영향을 나타냅니다. 국가 전체의 경제 성장이 있으면, 그 영향력은 모든 지역에 미칩니다. 2.
+  산업구조 효과(industrialmixeffect): 이는 특정 지역의 산업 구조가 그 지역의 경제 성장에 어떤 영향을 미치는지를 나타냅니다.
+  예를 들어, 어떤 지역이 빠르게 성장하는 산업에 집중되어 있다면, 그 지역의 경제 성장률은 국가 평균보다 높을 수 있습니다. 3. 지역 할당 효과(regionalshareeffect):
+  이는 특정 지역이 특정 산업에 대해 어떤 비중을 차지하고 있는지를 나타냅니다. 특정 산업이 그 지역에서 큰 비중을 차지하고 있다면, 그 산업의
+  성장률이 그 지역의 경제 성장에 큰 영향을 미칠 수 있습니다. 이 세 가지 요인을 고려하여 지역의 경제 성장을 분석하는 것이 변이할 당 분석의
+  기본적인 아이디어입니다. 그러나 선택지 중 ''세계 경제 발전 효과(worlddevelopmenteffect)''는 변이할 당 분석에서 고려되는
+  요인이 아닙니다. 세계 경제의 발전 효과는 지역 경제에 영향을 미칠 수 있지만, 변이할 당 분석의 틀 안에서는 고려되지 않는 요인입니다. 따라서,
+  정답은 (A) 입니다.
+
+
+  질문: 지역보건법 시행령 상 지방자치단체장이 매년 보건소를 통하여 지역 주민을 대상으로 실시한 지역사회 건강실태조사 결과를 통보해야 하는 대상은
+  ?
+
+  A.행정안전부 장관
+
+  B.질병관리청장
+
+  C.한국건강증진개발원장
+
+  D.보건복지부 장관
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. "지역보건법 시행령" 제22조에는 "지방자치단체장은 매년
+  보건소를 통하여 지역 주민을 대상으로 실시한 지역사회 건강실태조사 결과를 질병관리청장에게 통보하여야 한다."라고 명시되어 있습니다.  , 정확한
+  답변은 질병관리청장이 되겠습니다. 그 이유는 질병관리청이 우리나라에서 감염병의 예방 및 관리, 공중보건 업무, 보건의료 연구 등을 담당하고 있기
+  때문입니다. 이러한 역할을 수행하기 위해 지역사회의 건강실태를 파악하는 것이 중요하고, 이를 위해 지방자치단체장이 실시한 조사 결과를 받아야 합니다.
+  따라서, 정답은 (B) 입니다.
+
+
+  질문: 도시마케팅(citym arketing)에 대한 설명으로 옳지 않은 것은?
+
+  A.도시를 하나의 상품이라고 인식하는 것으로 도시가 다른 도시들과 시장을 형성하여 경쟁한다고 본다.
+
+  B.도시마케팅의 대상에는 투자기업이나 관광객뿐만 아니라 방문객 및 기존의 주민도 포함된다.
+
+  C.지역 정체성의 확립은 도시마케팅의 등장과 함께 더욱 중요해지고 있다.
+
+  D.내생적 전략의 성격을 갖기 때문에 도시마케팅의 공간적 범위는 국내로 한정된다.
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다. 도시마케팅에 대한 개념을 이해하기 위해 각 선택지를 분석해보겠습니다.
+  (A) 도시를 하나의 상품이라고 인식하는 것으로 도시가 다른 도시들과 시장을 형성하여 경쟁한다고 본다. 이 설명은 도시마케팅의 핵심 개념을 잘
+  반영하고 있습니다. 도시마케팅은 도시를 마치 상품처럼 판매하려는 시도로, 다른 도시들과 경쟁하는 시장을 형성한다는 점에서 맞습니다. (B) 도시마케팅의
+  대상에는 투자기업이나 관광객뿐만 아니라 방문객 및 기존의 주민도 포함된다. 도시마케팅의 목표는 다양한 이해관계자를 대상으로 도시의 이미지를 향상시키고,
+  투자, 관광 등을 유도하는 것입니다.   투자기업, 관광객, 방문객, 기존 주민 모두 도시마케팅의 대상이 될 수 있습니다. (C) 지역 정체성의
+  확립은 도시마케팅의 등장과 함께 더욱 중요해지고 있다. 지역 정체성의 확립은 도시마케팅에서 중요한 요소입니다. 도시마케팅은 도시의 독특한 특성과
+  장점을 강조하여 그 도시를 독특하게 만드는데, 이는 지역 정체성의 확립을 통해 이루어집니다. (D) 내생적 전략의 성격을 갖기 때문에 도시마케팅의
+  공간적 범위는 국내로 한정된다. 도시마케팅은 국내뿐만 아니라 국제적인 범위에서도 활용되는 전략입니다. 도시의 이미지를 국제적으로 홍보하고, 외국인
+  투자자나 관광객을 유치하는 것이 도시마케팅의 일부이기 때문입니다.   도시마케팅의 공간적 범위가 국내로만 한정되어 있다는 것은 잘못된 설명입니다.
+  따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 정치 사회 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_political_science_and_sociology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_psychology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_psychology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..82d732ce29e84fc9dfee64013c5b799705916e80
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_psychology.yaml
@@ -0,0 +1,127 @@
+dataset_name: psychology
+doc_to_text: '질문: 정서적인 아픔이 너무 커서 그 일이 전혀 기억이 나지 않거나 그 일의 일부 조각들만이 기억되는 현상은?
+
+  A.억압(repression)
+
+  B.간섭(interference)
+
+  C.인출실패(retrieval failure)
+
+  D.쇠퇴(decay)
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 정서적인 아픔이 너무 커서 그 일이 전혀 기억이 나지 않거나
+  그 일의 일부 조각들만이 기억되는 현상에 대한 선택지 중에서 가장 적합한 것을 찾아보겠습니다. (A) 억압(repression): 이는 프로이트의
+  이론에서 나온 개념으로, 불쾌한 사건이나 경험을 잊어버리려는 무의식적인 노력을 의미합니다. 이는 주로 트라우마적인 경험을 다루는 방식으로, 사람들이
+  그 경험을 기억하지 못하게 하는 방식입니다. (B) 간섭(interference): 이는 새로운 정보가 기존의 정보를 잊게 하는 현상을 의미합니다.
+  예를 들어, 당신이 새로운 전화번호를 배우면서 이전의 전화번호를 잊어버리는 것과 같은 현상입니다. 이는 질문의 상황과는 맞지 않습니다. (C)
+  인출실패(retrieval failure): 이는 기억은 존재하지만 그것을 떠올리는 데 실패하는 현상을 의미합니다. 이는 주로 장기기억에 영향을
+  미칩니다. 하지만, 이 현상은 주로 기억의 접근성 문제와 관련이 있으며, 질문의 상황과는 맞지 않습니다. (D) 쇠퇴(decay): 이는 정보가
+  시간이 지나면서 잊혀지는 현상을 의미합니다. 이는 주로 단기기억에 영향을 미칩니다. 하지만, 이 현상은 주로 시간의 흐름과 관련이 있으며, 질문의
+  상황과는 맞지 않습니다.  , 위의 해설을 바탕으로 보았을 때, 정서적인 아픔이 너무 커서 그 일이 전혀 기억이 나지 않거나 그 일의 일부 조각들만이
+  기억되는 현상은 ''억압(repression)''이 가장 적합한 것으로 보입니다. 이는 불쾌한 사건이나 경험을 잊어버리려는 무의식적인 노력을 의미하며,
+  이 현상은 주로 트라우마적인 경험을 다루는 방식으로, 사람들이 그 경험을 기억하지 못하게 하는 방식입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 반두라(A. Bandura)의 관찰학습에 관한 설명으로 옳지 않은 것은?
+
+  A.모델의 행동에 집중한다면 반드시 모방하게 된다.
+
+  B.모델은 반드시 실제 인물이 아니라도 효과가 있다.
+
+  C.학습이 이루어지기 위해서는 모델의 행동을 기억해야 한다.
+
+  D.행동, 환경, 개인은 서로 양방향적 영향을 미친다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 반두라의 관찰학습 이론에 대해 간략히 설명하겠습니다.
+  관찰학습 이론은 사람이 다른 사람의 행동을 관찰하고, 그 결과를 보고 학습하는 과정을 설명합니다. 이 이론에 따르면, 학습은 반드시 행동의 결과를
+  경험하거나 보상을 받아야만 이루어지는 것은 아닙니다. 단지 다른 사람의 행동을 관찰하는 것만으로도 학습이 가능하다는 것이죠. 선택지를 하나씩 살펴보겠습니다.
+  (A) 모델의 행동에 집중한다면 반드시 모방하게 된다. 반두라의 관찰학습 이론에서는 모델의 행동에 집중하면 학습이 이루어진다고 설명하지만, 반드시
+  모방하게 된다는 것은 아닙니다. 관찰자는 모델의 행동을 관찰하고, 그 결과를 평가한 후에 스스로의 행동을 결정합니다. 즉, 모델의 행동을 그대로
+  모방하는 것이 아니라, 그 행동의 결과를 고려하여 자신의 행동을 결정하게 됩니다. (B) 모델은 반드시 실제 인물이 아니라도 효과가 있다. 이
+  설명은 옳습니다. 반두라는 모델이 반드시 실제 인물일 필요는 없다고 말했습니다. 즉, 모델은 실제 사람일 수도 있고, 애니메이션 캐릭터나 동물
+  등 다양한 형태가 될 수 있습니다. (C) 학습이 이루어지기 위해서는 모델의 행동을 기억해야 한다. 이 설명도 옳습니다. 관찰학습 이론에 따르면,
+  관찰자는 모델의 행동을 관찰하고, 그 행동을 기억해야 합니다. 그래야 나중에 그 행동을 모방하거나, 그 행동의 결과를 고려하여 자신의 행동을 결정할
+  수 있습니다. (D) 행동, 환경, 개인은 서로 양방향적 영향을 미친다. 이 설명은 반두라의 ''삼위일체 이론''에 해당하는 내용입니다. 이 이론은
+  행동, 개인(인지적 요인 포함), 그리고 환경이 서로 상호작용하여 행동을 결정한다는 것을 주장합니다. 이 세 가지 요인은 동등한 위치에 있으며,
+  한 가지 요인이 변하면 다른 요인들도 변하게 된다는 것이 이 이론의 핵심입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 숙달목표지향성과 수행목표지향성에 관한 설명으로 옳지 않은 것은?
+
+  A.수행목표지향성이 높은 학생은 타인과의 비교를 통하여 자신의 성공여부를 판단한다.
+
+  B.숙달목표지향성이 낮은 학생은 도전적 과제를 선호한다.
+
+  C.규준지향평가는 숙달목표지향성 발달에 부정적 영향을 미친다.
+
+  D.숙달목표지향성이 높은 학생은 지능에 대한 고정 신념(entity beliefs)보다 증가 신념(incremental beliefs)이 강하다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 숙달목표지향성(mastery goal orientation)과
+  수행목표지향성(performance goal orientation)에 대해 이해해야 합니다. 숙달목표지향성은 개인이 자신의 능력을 개발하고, 실력을
+  향상시키는 것에 초점을 맞추는 경향을 의미합니다. 반면, 수행목표지향성은 개인이 자신의 능력을 타인과 비교하며, 자신의 성공을 측정하는 경향을
+  의미합니다. 선택지를 보면, (A) 수행목표지향성이 높은 학생이 타인과의 비교를 통해 자신의 성공여부를 판단한다는 설명은 맞습니다. 수행목표지향성은
+  타인과의 비교를 통해 자신의 능력을 측정하는 경향이 있기 때문입니다. (B) 숙달목표지향성이 낮은 학생이 도전적 과제를 선호한다는 말은 일반적으로
+  틀린 설명입니다. 왜냐하면 숙달목표지향성이 높은 학생들이 자신의 능력을 개발하고 싶어하는 경향이 있기 때문에 새로운 도전이나 어려운 과제를 선호하는
+  경향이 있습니다. (C) 규준지향평가는 숙달목표지향성 발달에 부정적 영향을 미친다는 설명도 맞습니다. 규준지향평가는 개인의 성과를 표준이나 기준에
+  따라 평가하는 것을 의미하며, 이는 개인의 능력 개발보다는 타인과의 비교에 초점을 맞추게 되므로 숙달목표지향성에는 부정적인 영향을 미칠 수 있습니다.
+  (D) 숙달목표지향성이 높은 학생은 지능에 대한 고정 신념(entity beliefs)보다 증가 신념(incremental beliefs)이 강하다는
+  설명도 맞습니다. 숙달목표지향성이 높은 학생들은 자신의 능력이 시간과 노력에 따라 발전할 수 있다는 증가 신념을 가지는 경향이 있습니다. 따라서,
+  정답은 (B) 입니다.
+
+
+  질문: 수퍼비전에 관한 설명으로 옳지 않은 것은?
+
+  A.수퍼비전 관계는 수퍼비전이 진행되면서 변화한다.
+
+  B.내담자를 보호하는 것은 수퍼비전의 중요한 목적이다.
+
+  C.프로이트(S. Freud)의 수요모임이 수퍼비전의 시발점이라 할 수 있다.
+
+  D.수퍼바이저가 평가할 경우에 생산적인 수퍼비전 관계가 이루어지지 않는다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 수퍼비전에 관한 설명으로 옳지 않은 것을 고르는 문제입니다.
+  (A) 수퍼비전 관계는 수퍼비전이 진행되면서 변화한다는 것은 맞는 말입니다. 수퍼비전 초기에는 수퍼바이저와 수퍼바이지 간에 신뢰를 구축하고, 역할을
+  명확하게 정의하는 등의 작업이 필요하며, 이러한 과정을 통해 서로를 이해하고 신뢰하게 되면서 수퍼비전 관계가 발전합니다. (B) 내담자를 보호하는
+  것은 수퍼비전의 중요한 목적 중 하나입니다. 수퍼바이저는 수퍼바이지가 내담자를 적절히 다루지 못할 위험이 있는 경우, 이를 미리 파악하고 적절한
+  조치를 취할 수 있도록 도와주어야 합니다. (C) 프로이트(S. Freud)의 수요모임이 수퍼비전의 시발점이라 할 수 있다는 것은 맞는 말입니다.
+  프로이트는 자신의 이론을 발전시키는 과정에서 자신의 제자들과 함께 수요모임을 진행하였고, 이를 통해 제자들에게 자신의 이론을 전달하고, 제자들의
+  임상 경험을 공유하였습니다. (D) 수퍼바이저가 평가할 경우에 생산적인 수퍼비전 관계가 이루어지지 않는다는 것은 옳지 않은 말입니다. 수퍼바이저는
+  수퍼바이지의 행동이나 성과를 평가하고, 이에 대한 피드백을 제공해야 합니다. 평가가 없다면 수퍼바이지의 성장과 발전을 기대하기 어렵습니다. 따라서,
+  정답은 (D) 입니다.
+
+
+  질문: 고급 상담자의 상담 특징은?
+
+  A.내담자를 이해하기 보다는 상담자로서 어떻게 반응해야 하는지를 더 생각한다.
+
+  B.자신과 타인에 대한 감정을 알아차리기 힘들어 불안해한다.
+
+  C.내담자에게 의도적으로 주의를 기울이고 중요한 정보를 수집하고 인식할 수 있다.
+
+  D.내담자와 상담자의 상호관계에 대한 역동을 이해하기 힘들어 한다.
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 각 선택지에 대한 분석을 해보겠습니다. (A) 선택지는
+  상담자가 내담자를 이해하기 보다는 상담자로서 어떻게 반응해야 하는지를 더 생각한다는 내용입니다. 이는 상담자가 내담자를 이해하려는 노력보다는 자신의
+  반응에 더 집중한다는 내용으로, 고급 상담자라면 내담자를 이해하려는 노력이 먼저일 것입니다. (B) 선택지는 상담자가 자신과 타인에 대한 감정을
+  알아차리기 힘들어 불안해한다는 내용입니다. 이는 상담자의 역량을 의심하는 내용으로, 고급 상담자라면 자신과 타인의 감정을 잘 알아차리고 이를 상담에
+  활용할 수 있어야 합니다. (C) 선택지는 상담자가 내담자에게 주의를 기울이고 중요한 정보를 수집하고 인식할 수 있다는 내용입니다. 이는 상담자의
+  기본적인 역량 중 하나로 보입니다. 고급 상담자라면 더욱 더 이러한 역량을 갖추고 있을 것입니다. (D) 선택지는 상담자가 내담자와 상담자의 상호관계에
+  대한 역동을 이해하기 힘들어 한다는 내용입니다. 이는 상담자가 상담 과정에서의 관계 역동을 이해하는 데 어려움을 겪는다는 내용으로, 고급 상담자라면
+  이러한 관계 역동을 잘 이해하고 이를 상담에 활용할 수 있어야 합니다.  , 이러한 분석을 통해 고급 상담자의 특징은 (C) 내담자에게 의도적으로
+  주의를 기울이고 중요한 정보를 수집하고 인식할 수 있다는 것으로 보입니다. 이는 상담자의 기본적인 역량을 넘어서서 고급 상담자가 갖추어야 할 능력으로
+  보입니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 심리학 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_psychology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_real_estate.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_real_estate.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..138da1e5d1cd34f8ea7e448ae6bc9d0dfc3b0902
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_real_estate.yaml
@@ -0,0 +1,121 @@
+dataset_name: real_estate
+doc_to_text: '질문: 공인중개사법령상 법인인 개업공인중개사의 중개사무소등록증 원본 또는 사본이 첨부되어야 하는 경우에 해당하지 않는 것은?
+
+  A.중개사무소 이전신고
+
+  B.중개사무소 폐업신고
+
+  C.분사무소 설치신고
+
+  D.분사무소 폐업신고
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공인중개사법에 따르면, 법인인 개업공인중개사가 중개사무소를
+  등록하려면 등록증의 원본 또는 사본을 첨부해야 합니다. 이 규정은 중개사무소의 설치, 이전, 폐업 등의 경우에 모두 적용됩니다. (A) 중개사무소
+  이전신고의 경우, 중개사무소의 위치가 변경되는 것이므로, 중개사무소등록증의 원본 또는 사본을 첨부해야 합니다. (B) 중개사무소 폐업신고의 경우에도,
+  중개사무소의 운영을 중단하는 것이므로, 중개사무소등록증의 원본 또는 사본을 첨부해야 합니다. (C) 분사무소 설치신고의 경우에는 중개사무소등록증을
+  필요로 하지 않습니다. 중개사무소등록증은 분사무소의 휴업과 폐업에만 요구됩니다. (D) 분사무소 폐업신고의 경우, 분사무소의 운영을 중단하는 것이므로,
+  중개사무소등록증의 원본 또는 사본을 첨부해야 합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 공인중개사법령상 중개대상물의 표시ㆍ광고 및 모니터링에 관한 설명으로 틀린 것은?
+
+  A.개업공인중개사는 의뢰받은 중개대상물에 대하여 표시ㆍ광고를 하려면 개업공인중개사, 소속공인중개사 및 중개보조원에 관한 사항을 명시해야 한다.
+
+  B.개업공인중개사는 중개대상물이 존재하지 않아서 실제로 거래를 할 수 없는 중개대상물에 대한 광고와 같은 부당한 표시ㆍ광고를 해서는 안 된다.
+
+  C.개업공인중개사는 중개대상물의 가격 등 내용을 과장되게 하는 부당한 표시ㆍ광고를 해서는 안 된다.
+
+  D.국토교통부장관은 인터넷을 이용한 중개대상물에 대한 표시ㆍ광고의 규정준수 여부에 관하여 기본 모니터링과 수시 모니터링을 할 수 있다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공인중개사법령에 따라 중개대상물의 표시·광고 및 모니터링에
+  관한 규정을 살펴보겠습니다. (A) 개업공인중개사가 의뢰받은 중개대상물에 대해 표시·광고를 할 때, 소속공인중개사나 중개보조원에 관한 사항을 명시해야
+  하는 것은 의무가 아닙니다. (B) 개업공인중개사는 중개대상물이 존재하지 않아서 실제로 거래를 할 수 없는 중개대상물에 대한 광고와 같은 부당한
+  표시·광고를 해서는 안 됩니다. 이는 소비자의 피해를 방지하고, 중개시장의 공정성을 유지하기 위한 것입니다. (C) 개업공인중개사는 중개대상물의
+  가격 등 내용을 과장되게 하는 부당한 표시·광고를 해서는 안 됩니다. 이 역시 소비자의 피해를 방지하고, 중개시장의 공정성을 유지하기 위한 것입니다.
+  (D) 국토교통부장관은 인터넷을 이용한 중개대상물에 대한 표시·광고의 규정 준수 여부에 관하여 기본 모니터링과 수시 모니터링을 할 수 있습니다.
+  이는 중개대상물에 대한 표시·광고가 규정에 맞게 이루어지고 있는지 확인하고, 부당한 표시·광고를 방지하기 위한 것입니다. 따라서, 정답은 (A)
+  입니다.
+
+
+  질문: 공인중개사법령상 중개사무소 명청에 관한 설명으로 옳은 것은?
+
+  A.공인중개사인 개업공인중개사는 그 사무소의 명칭에 "공인중개사사무소" 또는 "부동산중개"라는 문자를 사용하여야 한다.
+
+  B.공인중개사가 중개사무소의 개설등록을 하지 않은 경우, 그 사무소에 "공인중개사사부소"라는 명칭을 사용할 수 없지만, "부동산중개"라는 명칭은
+  사용할 수 있다.
+
+  C.공인중개사인 개업공인중개사가 관련 법령에 따른 옥외광고물을 설치하는 경우, 중개사무소등록증에 표기된 개업공인중개사의 성명을 표기할 필요는 없다.
+
+  D.중개사무소 개설등록을 하지 않은 공인중개사가 "부동산중개"라는 명칭을 사용한 경우, 국토교통부장관은 그 명칭이 사용된 간판 등의 철거를 명할
+  수 있다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 공인중개사법령상 중개사무소 명칭에 관한 설명으로 옳은
+  것을 찾아야 합니다. (A) 선택지를 보면, 공인중개사인 개업공인중개사는 그 사무소의 명칭에 "공인중개사사무소" 또는 "부동산중개"라는 문자를
+  사용하여야 한다고 명시되어 있습니다. 이는 공인중개사법 제 18조 제1항에 규정되어 있는 내용으로 옳은 설명입니다. (B) 선택지를 보면, 공인중개사가
+  중개사무소의 개설등록을 하지 않은 경우, 그 사무소에 "공인중개사사무소"라는 명칭을 사용할 수 없지만, "부동산중개"라는 명칭은 사용할 수 있다고
+  되어 있습니다. 이는 옳지 않은 설명입니다. 공인중개사법 제 18조 제2항에 따르면, 중개사무소의 개설등록을 하지 않은 자는 "공인중개사사무소",
+  "부동산중개" 또는 이와 유사한 명칭을 사용하여서는 아니된다고 규정되어 있습니다. (C) 선택지를 보면, 공인중개사인 개업공인중개사가 관련 법령에
+  따른 옥외광고물을 설치하는 경우, 중개사무소등록증에 표기된 개업공인중개사의 성명을 표기할 필요는 없다고 되어 있습니다. 이는 옳지 않은 설명입니다.
+  공인중개사법 시행령 제 17조의 2에 따르면, 개업공인중개사가 법 제18조제3항에 따라 옥외광고물을 설치하는 경우 중개사무소등록증에 표기된 개업공인중개사의
+  성명을 표기하여야 합니다. (D) 선택지를 보면, 중개사무소 개설등록을 하지 않은 공인중개사가 "부동산중개"라는 명칭을 사용한 경우, 국토교통부장관은
+  그 명칭이 사용된 간판 등의 철거를 명할 수 있다고 되어 있습니다. 이는 옳지 않은 설명입니다. 공인중개사가 아닌 자는 "공인중개사사무소", "부동산중개"
+  또는 이와 유사한 명칭을 사용하여서는 아니되지만, 이를 위반한 경우 국토교통부장관이 아닌 해당 등록관청이 철거를 명하게 됩니다. 따라서, 정답은
+  (A) 입니다.
+
+
+  질문: 공인중개사법령상 공인중개사 자격시험 등에 관한 설명으로 옳은 것은?
+
+  A.국토교통부장관이 직접 시험을 시행하려는 경우에는 미리 공인중개사 정책심의위원회의 의결을 거치지 않아도 된다.
+
+  B.공인중개사자격증의 재교부를 신청하는 자는 재교부신청서를 국토교통부장관에게 제출해야 한다.
+
+  C.국토교통부장관은 공인중개사시험의 합격자에게 공인중개사자격증을 교부해야 한다.
+
+  D.시험시행기관장은 시험에서 부정한 행위를 한 응시자에 대해서는 그 시험을 무효로 하고, 그 처분이 있은 날부터 5년간 시험응시자격을 정지한다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 공인중개사법령상 공인중개사 자격시험 등에 관한 설명으로 옳은
+  것을 고르는 문제입니다. 선택지를 하나씩 살펴보며 정답을 찾아보겠습니다. (A) 국토교통부장관이 직접 시험을 시행하려는 경우에는 미리 공인중개사
+  정책심의위원회의 의결을 거치지 않아도 된다. - 공인중개사 정책심의위원회는 공인중개사의 시험 등에 관한 사항을 심의하는 기관으로, 국토교통부장관이
+  시험을 시행할 때는 이 위원회의 의결을 거쳐야 합니다.   이 선택지는 옳지 않습니다. (B) 공인중개사자격증의 재교부를 신청하는 자는 재교부신청서를
+  국토교통부장관에게 제출해야 한다. - 공인중개사 자격증의 재교부를 신청하는 경우, 재교부신청서를 작성하여 시·도지사에게 제출해야 합니다.   이
+  선택지도 옳지 않습니다. (C) 국토교통부장관은 공인중개사시험의 합격자에게 공인중개사자격증을 교부해야 한다. - 공인중개사 자격시험에 합격한 사람은
+  시·도지사로부터 자격증을 교부받아야 합니다.   이 선택지도 옳지 않습니다. (D) 시험시행기관장은 시험에서 부정한 행위를 한 응시자에 대해서는
+  그 시험을 무효로 하고, 그 처분이 있은 날부터 5년간 시험응시자격을 정지한다. - 공인중개사법령에 따르면 시험시행기관장은 시험에서 부정한 행위를
+  한 응시자에 대해 그 시험을 무효로 하고, 처분일로부터 5년간 응시자격을 정지할 수 있습니다.   이 선택지는 옳은 설명입니다. 따라서, 정답은
+  (D) 입니다.
+
+
+  질문: 공인중개사법령상 중개사무소의 설치 등에 관한 설명으로 틀린 것은?
+
+  A.개업공인중개사는 그 등록관천의 관할구역안에 1개의 중개사무소만을 둘수 있다.
+
+  B.개업공인중개사는 천막 그 밖에 이동이 용이한 임시 중개시설물을 설치하여서는 아니된다.
+
+  C.법인이 아닌 개업공인중개사는 분사무소를 둘수 없다.
+
+  D.개업공인중개사는 등록관청의 관할구역 외의 지역에 있는 중개대상물을 중개할 수 없다.
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 각 선택지에 대한 내용을 확인하겠습니다. (A) 개업공인중개사는
+  그 등록관청의 관할구역안에 1개의 중개사무소만을 둘 수 있다. 이 내용은 공인중개사법에 따라 개업공인중개사가 등록한 관할구역 안에 1개의 중개사무소를
+  설치해야 한다는 것을 의미합니다. 이는 공인중개사법에 따라 올바른 내용입니다. (B) 개업공인중개사는 천막 그 밖에 이동이 용이한 임시 중개시설물을
+  설치하여서는 아니된다. 이 내용은 공인중개사법에 따라 개업공인중개사가 천막이나 이동이 용이한 임시 중개시설물을 설치해서는 안된다는 것을 의미합니다.
+  이는 공인중개사법에 따라 올바른 내용입니다. (C) 법인이 아닌 개업공인중개사는 분사무소를 둘 수 없다. 이 내용은 공인중개사법에 따라 법인이
+  아닌 개업공인중개사는 분사무소를 설치할 수 없다는 것을 의미합니다. 이는 공인중개사법에 따라 올바른 내용입니다. (D) 개업공인중개사는 등록관청의
+  관할구역 외의 지역에 있는 중개대상물을 중개할 수 없다. 이 내용은 공인중개사법에 따라 개업공인중개사가 등록한 관할구역 외의 지역에 있는 중개대상물을
+  중개할 수 없다는 것을 의미합니다. 하지만, 공인중개사법에 따르면 개업공인중개사는 등록한 관할구역 외의 지역에 있는 중개대상물을 중개할 수 있습니다.   이
+  내용은 잘못된 내용입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 부동산 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_real_estate
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_refrigerating_machinery.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_refrigerating_machinery.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..eea4a218f2f8c47e349f98c26716c6cf519192c8
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_refrigerating_machinery.yaml
@@ -0,0 +1,119 @@
+dataset_name: refrigerating_machinery
+doc_to_text: '질문: 보일러 입구의 압력이 9800 kN/m2 이고, 응축기의 압력이 4900 N/m2 일 때 펌프 일은 약 몇 kJ/kg
+  인가? (단, 물의 비체적은 0.001 m3/kg 이다.)
+
+  A.-9.79
+
+  B.-15.17
+
+  C.-87.25
+
+  D.-180.52
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 펌프 일은 펌프에 의해 수행되는 일을 나타내며, 보일러와
+  응축기 간의 압력 차이에 의해 발생합니다. 펌프 일은 보통 펌프 입구와 출구 사이의 압력 차이와 물의 비체적을 곱하여 계산됩니다. 펌프 일(Wp)은
+  다음과 같은 공식으로 계산할 수 있습니다. Wp = v * (P2 - P1) 여기서 v는 물의 비체적(0.001 m3/kg), P2는 보일러의
+  압력(9800 kN/m2 = 9800000 N/m2), P1은 응축기의 압력(4900 N/m2)입니다.  , 펌프 일은 다음과 같이 계산됩니다.
+  Wp = 0.001 m3/kg * (9800000 N/m2 - 4900 N/m2) = 9795100 J/kg = 9795.1 kJ/kg 하지만,
+  이 값은 양수인데, 선택지 모두 음수입니다. 이는 펌프 일을 구할 때 압력 단위를 맞추지 않아서 발생한 문제입니다. 펌프 입구와 출구의 압력 단위를
+  같게 맞추어 계산해야 합니다.  , 보일러의 압력을 N/m2 단위로 변환하면 9800 kN/m2 = 9800000 N/m2입니다. 그러므로, 펌프
+  일은 다음과 같이 다시 계산됩니다. Wp = 0.001 m3/kg * (9800000 N/m2 - 4900 N/m2) = 9795100 J/kg
+  = 9.7951 kJ/kg 그러나 이 값도 선택지에 없습니다. 문제가 있는 것 같습니다. 다시 확인해보니, 펌프 일의 부호가 음수인 이유를 찾았습니다.
+  펌프 일은 시스템에 에너지를 공급하는 것이므로, 일반적으로 음수로 표시됩니다.  , 계산한 펌프 일에 음수 부호를 붙여주면 됩니다. 그래서, 펌프
+  일은 -9.7951 kJ/kg로 계산되며, 이는 선택지 A에 가장 가까운 값입니다. 따라서, 정답은 (A) 입니다.
+
+
+  질문: 피스턴-실린더 장치 내에 있는 공기가 0.3m3에서 0.1m3으로 압축되었다. 압축되는 동안 압력과 체적 사이에 P=aV-2의 관계가 성립하며,
+  계수 a=6 kPaㆍm2 이다. 이 과정 동안 공기가 한 일은 얼마인가?
+
+  A.-53.3 kJ
+
+  B.-1.1 kJ
+
+  C.253 kJ
+
+  D.-40 kJ
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 공기가 수행하는 일을 계산하는 문제입니다.
+  주어진 정보를 바탕으로 공기가 수행하는 일을 계산하는 공식을 이용하면 됩니다. 피스턴-실린더 장치에서의 공기가 수행하는 일은 보통 압력과 체적의
+  변화에 따라 결정됩니다. 이 문제에서는 압력과 체적 사이에 P=aV-2의 관계가 성립한다고 주어졌습니다. 이 관계식은 압력이 체적의 제곱에 반비례하며,
+  계수 a는 6 kPaㆍm2로 주어졌습니다. 일반적으로 가스의 압축에 의해 수행되는 일은 압력과 체적의 변화에 따른 적분으로 계산할 수 있습니다.
+  즉, 공기가 수행하는 일 W는 다음과 같이 표현됩니다: W = ∫PdV 여기서 P는 압력, V는 체적, dV는 체적의 미소 변화량입니다. 이 경우,
+  압력 P는 체적 V에 대한 함수로 주어졌으므로, 이를 대입하여 적분을 수행하면 됩니다.  , 공기가 수행하는 일 W는 다음과 같이 계산됩니다:
+  W = ∫PdV = ∫(aV-2)dV = a∫V-2dV = a[V-1/-1] (체적이 0.3m3에서 0.1m3으로 변할 때) = -6[(0.1)^-1
+  - (0.3)^-1] kJ = -6[10 - 3.33] kJ = -6*6.67 kJ = -40 kJ  , 공기가 수행하는 일은 -40 kJ입니다.
+  이는 압축 과정에서 공기가 일을 하는 것이 아니라, 일을 받는 것을 의미합니다. 즉, 외부에서 공기를 압축하기 위해 40 kJ의 에너지를 공급받았다는
+  것을 의미합니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 어떤 유체의 밀도가 741 kg/m3 이다. 이 유체의 비체적은 약 몇 m3kg인가?
+
+  A.0.78×10-3
+
+  B.1.35×10-3
+
+  C.2.35×10-3
+
+  D.2.98×10-3
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 비체적이란 무엇인지 알아야 합니다. 비체적은 어떤
+  물질의 질량 당 부피를 나타내는 물리량으로, 그 단위는 m3/kg입니다.   이는 밀도의 역수와 같습니다. 이 문제에서 주어진 유체의 밀도는 741
+  kg/m3입니다. 비체적을 구하려면 이 밀도의 역수를 취하면 됩니다. 즉, 1/741 m3/kg를 계산하면 됩니다. 1/741을 계산하면 약 0.00135
+  m3/kg가 나옵니다. 이를 지수 표기법으로 표현하면 1.35×10-3 m3/kg입니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 1 kg의 기체가 압력 50 kPa, 체적 2.5m3 상태에서 압력 1.2 MPa, 체적 0.2m3의 상태로 변하였다. 엔탈피의 변화량은
+  약 몇 kJ 인가? (단, 내부에너지의 증가 U2-U1=0이다.)
+
+  A.306
+
+  B.206
+
+  C.155
+
+  D.115
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 이 문제는 열역학의 첫 번째 법칙에 관한 문제입니다.
+  열역학의 첫 번째 법칙은 에너지 보존의 법칙을 표현한 것으로, 고립 시스템의 총 에너지는 일정하다는 내용입니다. 문제에서 주어진 내부에너지의 증가
+  U2-U1=0이라는 정보는 이 시스템에서 내부에너지의 변화가 없다는 것을 의미합니다. 그 다음으로 엔탈피의 변화량을 알아내기 위해서는 엔탈피의
+  정의를 알아야 합니다. 엔탈피 H는 시스템의 내부에너지 U와 그 시스템의 압력 P와 체적 V의 곱의 합으로 정의됩니다. 즉, H = U + PV입니다.   엔탈피의
+  변화 ΔH는 내부에너지의 변화 ΔU와 압력-체적 작용의 변화 Δ(PV)의 합이 됩니다. 문제에서 내부에너지의 변화는 0이므로, ΔH는 Δ(PV)와
+  같습니다. 압력-체적 작용의 변화는 최종 상태의 PV 값에서 초기 상태의 PV 값을 뺀 것입니다. 즉, Δ(PV) = (P2V2) - (P1V1)입니다.
+  여기서 주의할 점은 압력과 체적의 단위입니다. 문제에서 주어진 압력의 단위는 kPa와 MPa이고, 체적의 단위는 m3입니다. 이를 모두 같은 단위로
+  맞추어야 합니다. 1 MPa = 1000 kPa이므로, 1.2 MPa는 1200 kPa입니다.  , Δ(PV) = (1200 kPa * 0.2
+  m3) - (50 kPa * 2.5 m3) = 240 kPa*m3 - 125 kPa*m3 = 115 kPa*m3입니다. 마지막으로, kPa*m3를
+  kJ로 변환해야 합니다. 1 kPa*m3는 1 kJ와 같습니다.  , ΔH는 115 kJ입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 주위의 온도가 27℃일 때, -73℃에서 1kJ의 냉동효과를 얻으려 한다. 냉동 사이클을 구동하는데 필요한 최소일은 얼마인가?
+
+  A.2 kJ
+
+  B.1.5 kJ
+
+  C.1 kJ
+
+  D.0.5 kJ
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저 이 문제는 냉동 사이클에 대한 문제이며, 냉동 사이클의
+  성능을 평가하는 지표 중 하나인 ''최소일''에 대한 문제입니다. 냉동 사이클에서 최소일은 카르노 사이클에 의해 결정되며, 이는 절대온도에 비례하여
+  결정됩니다. 카르노 사이클에서 냉동효과(Qc)를 얻기 위해 필요한 일(W)는 다음의 공식에 의해 결정됩니다: W = Qc * (Th - Tc)
+  / Tc 여기서 Th는 높은 온도(절대온도로 표현)이며, Tc는 낮은 온도(절대온도로 표현)입니다. 이 문제에서는 Th가 27℃, Tc가 -73℃입니다.
+  그러나 이 온도들은 절대온도로 변환해야 합니다. 절대온도는 켈빈(K)으로 표현되며, 섭씨온도를 켈빈으로 변환하는 공식은 K = ℃ + 273.15입니다.   Th
+  = 27℃ + 273.15 = 300.15K, Tc = -73℃ + 273.15 = 200.15K입니다. 그러므로, W = 1kJ * (300.15K
+  - 200.15K) / 200.15K = 0.5kJ입니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 냉동 기계 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_refrigerating_machinery
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_telecommunications_and_wireless_technology.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_telecommunications_and_wireless_technology.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..1e7e5cc09ebe50f51718b93976245e57fbc82967
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/cot_hard/kmmlu_cot_hard_telecommunications_and_wireless_technology.yaml
@@ -0,0 +1,115 @@
+dataset_name: telecommunications_and_wireless_technology
+doc_to_text: '질문: 주파수 대역에 따른 RFID 특징 중 틀린 것은?
+
+  A.UHF대역 : 900㎒ 대역과 433㎒ 대역이 사용됨
+
+  B.13.56㎒ : ISM 밴드 대역으로 UHF대역보다 인식거리가 짧음
+
+  C.2.45㎓ : 능동형과 수동형의 두 가지 형태가 사용됨
+
+  D.135㎑ 미만 : 자기장이 아닌 전기장 결합으로 동작함
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. RFID(Radio Frequency Identification)는
+  무선 주파수 신호를 사용하여 태그에 저장된 정보를 읽거나 쓰는 기술입니다. RFID 시스템은 주파수 대역에 따라 다양한 특징을 가지며, 이는 시스템의
+  성능과 용도에 영향을 미칩니다. (A) UHF 대역: UHF(Ultra High Frequency) 대역은 300 MHz에서 3 GHz 사이의
+  주파수를 포함합니다. RFID에서는 주로 860 MHz에서 960 MHz 범위가 사용되며, 433 MHz 대역도 사용되는 경우가 있습니다.   이
+  선택지는 올바릅니다. (B) 13.56 MHz: 이 주파수는 HF(High Frequency) 대역에 속하며, ISM(Industrial, Scientific,
+  and Medical) 밴드로도 알려져 있습니다. UHF 대역보다 인식 거리가 짧은 것이 일반적이므로, 이 선택지도 올바릅니다. (C) 2.45
+  GHz: 이 주파수는 또한 ISM 밴드에 속하며, RFID에서는 주로 능동형 태그에 사용됩니다. 수동형 태그도 이 주파수를 사용할 수 있지만,
+  일반적으로 능동형 태그가 더 널리 사용됩니다. 이 선택지도 올바르다고 볼 수 있습니다. (D) 135 KHz 미만: 이 주파수는 LF(Low Frequency)
+  대역에 속합니다. LF RFID 시스템은 주로 자기장 결합을 사용하여 동작하며, 전기장 결합은 주로 더 높은 주파수 대역에서 사용됩니다.   이
+  선택지는 잘못된 정보를 제공하고 있습니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: 현재 국내에서 항만 지역에만 제한적으로 사용되는 반능동형 RFID 시스템의 주파수 대역은?
+
+  A.433㎒ 대역
+
+  B.900㎒ 대역
+
+  C.13.56㎒ 대역
+
+  D.2.45㎓ 대역
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, RFID 시스템에 대해 이해해야 합니다. RFID는
+  Radio Frequency Identification의 약자로, 무선 주파수를 이용하여 정보를 저장하고 읽는 시스템을 말합니다. 이 시스템은
+  태그, 리더기, 그리고 관련된 데이터베이스로 구성되어 있습니다. 태그는 물체에 부착되며, 주파수를 통해 정보를 전송합니다. 리더기는 태그의 정보를
+  읽어 데이터베이스에 저장하거나 처리합니다. 이러한 RFID 시스템은 물류, 유통, 보안 등 다양한 분야에서 활용되고 있습니다. 다음으로, 반능동형
+  RFID에 대해 알아보겠습니다. 반능동형 RFID는 태그가 리더기의 신호를 받아 그 에너지를 이용해 정보를 되돌려 보내는 형태의 RFID를 말합니다.
+  이러한 반능동형 RFID는 주로 물류 트래킹, 차량 트래킹, 자산 관리 등에 활용됩니다. 이제, 주파수 대역에 대해 알아보겠습니다. RFID는
+  사용 목적에 따라 다양한 주파수 대역을 사용합니다. 일반적으로, 낮은 주파수 대역은 짧은 거리에서 작동하며, 높은 주파수 대역은 더 넓은 거리에서
+  작동합니다. 국내에서 항만 지역에 제한적으로 사용되는 반능동형 RFID 시스템은 433㎒ 대역을 사용합니다. 이 주파수 대역은 국제적으로 자유롭게
+  사용할 수 있는 ISM 대역 중 하나이며, 이 대역을 사용하는 RFID 시스템은 주로 차량 추적, 컨테이너 추적 등에 활용됩니다. 따라서, 정답은
+  (A) 입니다.
+
+
+  질문: 리더의 안테나 출력이 0.5W라고 할 때 dBm의 환산 값은? (단,log105≒ 0.7)
+
+  A.0.7 dOPTIONm
+
+  B.-7 dOPTIONm
+
+  C.27 dOPTIONm
+
+  D.37 dOPTIONm
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, dBm은 전력을 나타내는 단위로, 1mW를
+  기준으로 한 로그 스케일입니다. dBm의 계산 공식은 다음과 같습니다: dBm = 10 * log10(전력(W) / 1mW) 이 문제에서는 리더의
+  안테나 출력이 0.5W로 주어졌습니다. 그런데, dBm은 mW를 기준으로 하므로, 이 값을 mW로 변환해야 합니다. 1W = 1000mW 이므로,
+  0.5W = 500mW입니다. 이제 dBm로 변환해보겠습니다. dBm = 10 * log10(500mW / 1mW) = 10 * log10(500)
+  = 10 * 2.7 (log105≒ 0.7이므로, log10(500)는 log10(5) + log10(100)으로 계산할 수 있으며, 이를 통해
+  약 2.7로 추정할 수 있습니다.)  , dBm은 약 27입니다. 이는 선택지 C와 일치합니다. 따라서, 정답은 (C) 입니다.
+
+
+  질문: 후방 산란(back-scattering) 방식에 대한 설명으로 틀린 것은?
+
+  A.리더와 태그는 전자파 결합 방식이다.
+
+  B.안테나를 통한 원거리장에서의 전자기파에 의해 이루어지므로 원거리장 조건인 λ/2π보다 가까운 거리에서 이루어진다.
+
+  C.UHF 수동태그에서 이용한다.
+
+  D.태그의 레이더 단면적(ROPTIONS: radar cross section)을 변화시키는 방식이다.
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 먼저, 후방 산란(back-scattering) 방식이란
+  RFID 기술에서 리더와 태그 간의 통신 방식 중 하나입니다. 리더에서 전송한 전자기파를 태그가 반사하여 다시 리더로 전송하는 방식으로, UHF
+  수동태그에서 이용됩니다. 이 방식에서는 리더와 태그가 전자파 결합 방식으로 통신하며, 태그의 레이더 단면적(RCS: radar cross section)을
+  변화시키는 방식입니다. 이제 선택지를 하나씩 살펴보겠습니다. (A) 리더와 태그는 전자파 결합 방식이다. - 이는 옳은 설명입니다. 후방 산란
+  방식은 리더와 태그가 전자파 결합 방식으로 통신합니다. (B) 안테나를 통한 원거리장에서의 전자기파에 의해 이루어지므로 원거리장 조건인 λ/2π보다
+  가까운 거리에서 이루어진다. - 이는 옳지 않은 설명입니다. 후방 산란 방식은 안테나를 통한 원거리장에서의 전자기파에 의해 이루어지는 것은 맞지만,
+  원거리장 조건인 λ/2π보다 먼 거리에서 이루어집니다. (C) UHF 수동태그에서 이용한다. - 이는 옳은 설명입니다. UHF 수동태그는 후방
+  산란 방식을 이용하여 리더와 통신합니다. (D) 태그의 레이더 단면적(RCS: radar cross section)을 변화시키는 방식이다. -
+  이는 옳은 설명입니다. 후방 산란 방식은 태그의 레이더 단면적을 변화시키는 방식으로 동작합니다. 따라서, 정답은 (B) 입니다.
+
+
+  질문: 전자파가 자유공간을 진행할 때 거리와 전력 밀도와의 관계는?
+
+  A.거리가 2배가 되면 전력 밀도도 2배가 된다.
+
+  B.거리가 2배가 되면 전력 밀도는 1/2배가 된다.
+
+  C.거리가 2배가 되면 전력 밀도는 4배가 된다.
+
+  D.거리가 2배가 되면 전력 밀도는 1/4배가 된다.
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다. 전자파가 자유공간을 진행할 때, 거리와 전력 밀도와의
+  관계를 이해하기 위해서는 전자기파의 특성을 고려해야 합니다. 전자기파는 전기장과 자기장이 서로 수직으로 진동하며 공간을 전파하는 파동입니다. 이
+  때, 전자기파의 전력 밀도는 전기장과 자기장의 제곱에 비례합니다. 전력 밀도를 P, 전기장을 E, 자기장을 H라고 하면, P = (E^2 + H^2)
+  / 2 로 나타낼 수 있습니다. 이때, 전자기파의 세기는 거리에 따라 지수적으로 감소합니다. 즉, 거리가 r배 증가하면, 전자기파의 세기는 1/r^2배
+  감소합니다.  , 거리가 2배가 되면, 전자기파의 세기는 1/4배가 됩니다. 그리고 전력 밀도는 전기장과 자기장의 제곱에 비례하므로, 거리가 2배가
+  되면 전력 밀도는 1/4배가 됩니다. 따라서, 정답은 (D) 입니다.
+
+
+  질문: {{question}}
+
+  A.{{A}}
+
+  B.{{B}}
+
+  C.{{C}}
+
+  D.{{D}}
+
+  정답: 차근 차근 생각해봅시다. 무선 정보통신 관련 정보를 위해 위키피디아를 참조하겠습니다.'
+include: _cot_kmmlu_yaml
+task: kmmlu_hard_cot_telecommunications_and_wireless_technology
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/_direct_kmmlu_yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/_direct_kmmlu_yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9a4a6dbcf011d766caf9bb16bef085b93da44a39
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/_direct_kmmlu_yaml
@@ -0,0 +1,27 @@
+group:
+    - kmmlu
+    - kmmlu_direct
+dataset_path: HAERAE-HUB/KMMLU
+output_type: generate_until
+test_split: test
+fewshot_split: dev
+doc_to_text: "{{question.strip()}}\nA. {{A}}\nB. {{B}}\nC. {{C}}\nD. {{D}}\n정답："
+doc_to_target: "{{['A', 'B', 'C', 'D'][answer-1]}}"
+metric_list:
+  - metric: exact_match
+    aggregation: mean
+    higher_is_better: true
+    ignore_case: true
+    ignore_punctuation: true
+    regexes_to_ignore:
+          - " "
+generation_kwargs:
+  until:
+    - "Q:"
+    - "\n\n"
+    - "</s>"
+    - "."
+  do_sample: false
+  temperature: 0.0
+metadata:
+  version: 2.0
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_chemical_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_chemical_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..e5875bb7e8be076e5f7a1076b01b21bf308b5acd
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_chemical_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: Chemical-Engineering
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_chemical_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_energy_management.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_energy_management.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..b4fb806b3808d2cb47ea68534030b9432e998b74
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_energy_management.yaml
@@ -0,0 +1,3 @@
+dataset_name: Energy-Management
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_energy_management
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_gas_technology_and_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_gas_technology_and_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..00b7021c5c11fb9a0cae1958e2079e41c5854d4c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_gas_technology_and_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: Gas-Technology-and-Engineering
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_gas_technology_and_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_materials_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_materials_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..f04e0975a0700c13d9e816c5d37981d22d8f1b6c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/direct/kmmlu_direct_materials_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: Materials-Engineering
+include: _direct_kmmlu_yaml
+task: kmmlu_direct_materials_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_aviation_engineering_and_maintenance.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_aviation_engineering_and_maintenance.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..87b3845f28561d4be1a3437995ad08015ac1ae0c
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_aviation_engineering_and_maintenance.yaml
@@ -0,0 +1,3 @@
+dataset_name: aviation_engineering_and_maintenance
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_aviation_engineering_and_maintenance
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_chemistry.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_chemistry.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..366c95026df012c078163a5a8e9080aafda16b32
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_chemistry.yaml
@@ -0,0 +1,3 @@
+dataset_name: chemistry
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_chemistry
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_civil_engineering.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_civil_engineering.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..ba1a15ad8cb268adc0aeaa96a06418d18209ecda
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_civil_engineering.yaml
@@ -0,0 +1,3 @@
+dataset_name: civil_engineering
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_civil_engineering
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_criminal_law.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_criminal_law.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..b7acd49a06687b6b96c2c9e18bac1295bbb7d2b5
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_criminal_law.yaml
@@ -0,0 +1,3 @@
+dataset_name: criminal_law
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_criminal_law
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_fashion.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_fashion.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..9448efcf8c4775eab3822be73635d80ba35d0c12
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_fashion.yaml
@@ -0,0 +1,3 @@
+dataset_name: fashion
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_fashion
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_geomatics.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_geomatics.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..0370a7a7550b3dc83919b4c01889a89fea89bdb2
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_geomatics.yaml
@@ -0,0 +1,3 @@
+dataset_name: geomatics
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_geomatics
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_management.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_management.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..8e9e866499e8d3287c107147472b1ceb89199525
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_management.yaml
@@ -0,0 +1,3 @@
+dataset_name: management
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_management
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_marketing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_marketing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..54a62d6272955eb8701f8f821b68b01cbd409d1d
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_marketing.yaml
@@ -0,0 +1,3 @@
+dataset_name: marketing
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_marketing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_nondestructive_testing.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_nondestructive_testing.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..21c25fc87b7e864ededa206454a357dba6ed5ed2
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_nondestructive_testing.yaml
@@ -0,0 +1,3 @@
+dataset_name: nondestructive_testing
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_nondestructive_testing
diff --git a/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_patent.yaml b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_patent.yaml
new file mode 100644
index 0000000000000000000000000000000000000000..3fcdcd96b136e0872cd530b5261760492b29a5e2
--- /dev/null
+++ b/lm-evaluation-harness/lm_eval/tasks/kmmlu/hard/kmmlu_hard_patent.yaml
@@ -0,0 +1,3 @@
+dataset_name: patent
+include: _hard_kmmlu_yaml
+task: kmmlu_hard_patent
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/Egypt b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Egypt
new file mode 100644
index 0000000000000000000000000000000000000000..dd538c65db6ed0a0e47feb7b6001640516958e19
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Egypt differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/GB b/venv/lib/python3.10/site-packages/pytz/zoneinfo/GB
new file mode 100644
index 0000000000000000000000000000000000000000..5ad74220e83e6c30a0aeefda4a00271b8ebdfcad
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/GB differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/GMT b/venv/lib/python3.10/site-packages/pytz/zoneinfo/GMT
new file mode 100644
index 0000000000000000000000000000000000000000..c63474664a289aa3c3c0d8b2ce06d484679754c0
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/GMT differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/GMT-0 b/venv/lib/python3.10/site-packages/pytz/zoneinfo/GMT-0
new file mode 100644
index 0000000000000000000000000000000000000000..c63474664a289aa3c3c0d8b2ce06d484679754c0
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/GMT-0 differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/Iceland b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Iceland
new file mode 100644
index 0000000000000000000000000000000000000000..28b32ab2e0b9053f39a91d9f28b6072e41423954
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Iceland differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/Israel b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Israel
new file mode 100644
index 0000000000000000000000000000000000000000..1ebd0664aa29c0abd722661f761031ec0304631c
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Israel differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/Jamaica b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Jamaica
new file mode 100644
index 0000000000000000000000000000000000000000..2a9b7fd52d37a1ffe9fc589daa04d88c6c71a6e0
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Jamaica differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/MST b/venv/lib/python3.10/site-packages/pytz/zoneinfo/MST
new file mode 100644
index 0000000000000000000000000000000000000000..c93a58eee8b32f672fd3a96ca3e6ada5b0a0e168
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/MST differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/MST7MDT b/venv/lib/python3.10/site-packages/pytz/zoneinfo/MST7MDT
new file mode 100644
index 0000000000000000000000000000000000000000..4506a6e150dfd73884811c8c0f5a0e21dc76a756
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/MST7MDT differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/NZ-CHAT b/venv/lib/python3.10/site-packages/pytz/zoneinfo/NZ-CHAT
new file mode 100644
index 0000000000000000000000000000000000000000..bde46cf7e4b7909714b93cee39a5d953387d756c
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/NZ-CHAT differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/Navajo b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Navajo
new file mode 100644
index 0000000000000000000000000000000000000000..abb2b974a47eb3e5c8b4f5d4370baf4898b239ab
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Navajo differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/PRC b/venv/lib/python3.10/site-packages/pytz/zoneinfo/PRC
new file mode 100644
index 0000000000000000000000000000000000000000..91f6f8bc2e234bafd484146986bdb289082c3588
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/PRC differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/PST8PDT b/venv/lib/python3.10/site-packages/pytz/zoneinfo/PST8PDT
new file mode 100644
index 0000000000000000000000000000000000000000..99d246baa35cb9c6f56d50adbec163452e2a47fa
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/PST8PDT differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/ROC b/venv/lib/python3.10/site-packages/pytz/zoneinfo/ROC
new file mode 100644
index 0000000000000000000000000000000000000000..24c43444b6751343d2915843d03e55753d4d7359
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/ROC differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/UCT b/venv/lib/python3.10/site-packages/pytz/zoneinfo/UCT
new file mode 100644
index 0000000000000000000000000000000000000000..91558be0c2bf903b2364215ba26d5227d6126508
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/UCT differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/UTC b/venv/lib/python3.10/site-packages/pytz/zoneinfo/UTC
new file mode 100644
index 0000000000000000000000000000000000000000..91558be0c2bf903b2364215ba26d5227d6126508
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/UTC differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/Universal b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Universal
new file mode 100644
index 0000000000000000000000000000000000000000..91558be0c2bf903b2364215ba26d5227d6126508
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Universal differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/W-SU b/venv/lib/python3.10/site-packages/pytz/zoneinfo/W-SU
new file mode 100644
index 0000000000000000000000000000000000000000..ddb3f4e99a1030f33b56fad986c8d9c16e59eb32
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/W-SU differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/WET b/venv/lib/python3.10/site-packages/pytz/zoneinfo/WET
new file mode 100644
index 0000000000000000000000000000000000000000..c27390b5b638399057d5f5c6d09ef8c81d5f01c1
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/WET differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/Zulu b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Zulu
new file mode 100644
index 0000000000000000000000000000000000000000..91558be0c2bf903b2364215ba26d5227d6126508
Binary files /dev/null and b/venv/lib/python3.10/site-packages/pytz/zoneinfo/Zulu differ
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/iso3166.tab b/venv/lib/python3.10/site-packages/pytz/zoneinfo/iso3166.tab
new file mode 100644
index 0000000000000000000000000000000000000000..402c015ec6b1071499155f7d28739db68be7763f
--- /dev/null
+++ b/venv/lib/python3.10/site-packages/pytz/zoneinfo/iso3166.tab
@@ -0,0 +1,279 @@
+# ISO 3166 alpha-2 country codes
+#
+# This file is in the public domain, so clarified as of
+# 2009-05-17 by Arthur David Olson.
+#
+# From Paul Eggert (2023-09-06):
+# This file contains a table of two-letter country codes.  Columns are
+# separated by a single tab.  Lines beginning with '#' are comments.
+# All text uses UTF-8 encoding.  The columns of the table are as follows:
+#
+# 1.  ISO 3166-1 alpha-2 country code, current as of
+#     ISO/TC 46 N1108 (2023-04-05).  See: ISO/TC 46 Documents
+#     https://www.iso.org/committee/48750.html?view=documents
+# 2.  The usual English name for the coded region.  This sometimes
+#     departs from ISO-listed names, sometimes so that sorted subsets
+#     of names are useful (e.g., "Samoa (American)" and "Samoa
+#     (western)" rather than "American Samoa" and "Samoa"),
+#     sometimes to avoid confusion among non-experts (e.g.,
+#     "Czech Republic" and "Turkey" rather than "Czechia" and "Türkiye"),
+#     and sometimes to omit needless detail or churn (e.g., "Netherlands"
+#     rather than "Netherlands (the)" or "Netherlands (Kingdom of the)").
+#
+# The table is sorted by country code.
+#
+# This table is intended as an aid for users, to help them select time
+# zone data appropriate for their practical needs.  It is not intended
+# to take or endorse any position on legal or territorial claims.
+#
+#country-
+#code	name of country, territory, area, or subdivision
+AD	Andorra
+AE	United Arab Emirates
+AF	Afghanistan
+AG	Antigua & Barbuda
+AI	Anguilla
+AL	Albania
+AM	Armenia
+AO	Angola
+AQ	Antarctica
+AR	Argentina
+AS	Samoa (American)
+AT	Austria
+AU	Australia
+AW	Aruba
+AX	Åland Islands
+AZ	Azerbaijan
+BA	Bosnia & Herzegovina
+BB	Barbados
+BD	Bangladesh
+BE	Belgium
+BF	Burkina Faso
+BG	Bulgaria
+BH	Bahrain
+BI	Burundi
+BJ	Benin
+BL	St Barthelemy
+BM	Bermuda
+BN	Brunei
+BO	Bolivia
+BQ	Caribbean NL
+BR	Brazil
+BS	Bahamas
+BT	Bhutan
+BV	Bouvet Island
+BW	Botswana
+BY	Belarus
+BZ	Belize
+CA	Canada
+CC	Cocos (Keeling) Islands
+CD	Congo (Dem. Rep.)
+CF	Central African Rep.
+CG	Congo (Rep.)
+CH	Switzerland
+CI	Côte d'Ivoire
+CK	Cook Islands
+CL	Chile
+CM	Cameroon
+CN	China
+CO	Colombia
+CR	Costa Rica
+CU	Cuba
+CV	Cape Verde
+CW	Curaçao
+CX	Christmas Island
+CY	Cyprus
+CZ	Czech Republic
+DE	Germany
+DJ	Djibouti
+DK	Denmark
+DM	Dominica
+DO	Dominican Republic
+DZ	Algeria
+EC	Ecuador
+EE	Estonia
+EG	Egypt
+EH	Western Sahara
+ER	Eritrea
+ES	Spain
+ET	Ethiopia
+FI	Finland
+FJ	Fiji
+FK	Falkland Islands
+FM	Micronesia
+FO	Faroe Islands
+FR	France
+GA	Gabon
+GB	Britain (UK)
+GD	Grenada
+GE	Georgia
+GF	French Guiana
+GG	Guernsey
+GH	Ghana
+GI	Gibraltar
+GL	Greenland
+GM	Gambia
+GN	Guinea
+GP	Guadeloupe
+GQ	Equatorial Guinea
+GR	Greece
+GS	South Georgia & the South Sandwich Islands
+GT	Guatemala
+GU	Guam
+GW	Guinea-Bissau
+GY	Guyana
+HK	Hong Kong
+HM	Heard Island & McDonald Islands
+HN	Honduras
+HR	Croatia
+HT	Haiti
+HU	Hungary
+ID	Indonesia
+IE	Ireland
+IL	Israel
+IM	Isle of Man
+IN	India
+IO	British Indian Ocean Territory
+IQ	Iraq
+IR	Iran
+IS	Iceland
+IT	Italy
+JE	Jersey
+JM	Jamaica
+JO	Jordan
+JP	Japan
+KE	Kenya
+KG	Kyrgyzstan
+KH	Cambodia
+KI	Kiribati
+KM	Comoros
+KN	St Kitts & Nevis
+KP	Korea (North)
+KR	Korea (South)
+KW	Kuwait
+KY	Cayman Islands
+KZ	Kazakhstan
+LA	Laos
+LB	Lebanon
+LC	St Lucia
+LI	Liechtenstein
+LK	Sri Lanka
+LR	Liberia
+LS	Lesotho
+LT	Lithuania
+LU	Luxembourg
+LV	Latvia
+LY	Libya
+MA	Morocco
+MC	Monaco
+MD	Moldova
+ME	Montenegro
+MF	St Martin (French)
+MG	Madagascar
+MH	Marshall Islands
+MK	North Macedonia
+ML	Mali
+MM	Myanmar (Burma)
+MN	Mongolia
+MO	Macau
+MP	Northern Mariana Islands
+MQ	Martinique
+MR	Mauritania
+MS	Montserrat
+MT	Malta
+MU	Mauritius
+MV	Maldives
+MW	Malawi
+MX	Mexico
+MY	Malaysia
+MZ	Mozambique
+NA	Namibia
+NC	New Caledonia
+NE	Niger
+NF	Norfolk Island
+NG	Nigeria
+NI	Nicaragua
+NL	Netherlands
+NO	Norway
+NP	Nepal
+NR	Nauru
+NU	Niue
+NZ	New Zealand
+OM	Oman
+PA	Panama
+PE	Peru
+PF	French Polynesia
+PG	Papua New Guinea
+PH	Philippines
+PK	Pakistan
+PL	Poland
+PM	St Pierre & Miquelon
+PN	Pitcairn
+PR	Puerto Rico
+PS	Palestine
+PT	Portugal
+PW	Palau
+PY	Paraguay
+QA	Qatar
+RE	Réunion
+RO	Romania
+RS	Serbia
+RU	Russia
+RW	Rwanda
+SA	Saudi Arabia
+SB	Solomon Islands
+SC	Seychelles
+SD	Sudan
+SE	Sweden
+SG	Singapore
+SH	St Helena
+SI	Slovenia
+SJ	Svalbard & Jan Mayen
+SK	Slovakia
+SL	Sierra Leone
+SM	San Marino
+SN	Senegal
+SO	Somalia
+SR	Suriname
+SS	South Sudan
+ST	Sao Tome & Principe
+SV	El Salvador
+SX	St Maarten (Dutch)
+SY	Syria
+SZ	Eswatini (Swaziland)
+TC	Turks & Caicos Is
+TD	Chad
+TF	French S. Terr.
+TG	Togo
+TH	Thailand
+TJ	Tajikistan
+TK	Tokelau
+TL	East Timor
+TM	Turkmenistan
+TN	Tunisia
+TO	Tonga
+TR	Turkey
+TT	Trinidad & Tobago
+TV	Tuvalu
+TW	Taiwan
+TZ	Tanzania
+UA	Ukraine
+UG	Uganda
+UM	US minor outlying islands
+US	United States
+UY	Uruguay
+UZ	Uzbekistan
+VA	Vatican City
+VC	St Vincent
+VE	Venezuela
+VG	Virgin Islands (UK)
+VI	Virgin Islands (US)
+VN	Vietnam
+VU	Vanuatu
+WF	Wallis & Futuna
+WS	Samoa (western)
+YE	Yemen
+YT	Mayotte
+ZA	South Africa
+ZM	Zambia
+ZW	Zimbabwe
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/leapseconds b/venv/lib/python3.10/site-packages/pytz/zoneinfo/leapseconds
new file mode 100644
index 0000000000000000000000000000000000000000..ce150bfe0dca775b057923c4d335b8cb907f7272
--- /dev/null
+++ b/venv/lib/python3.10/site-packages/pytz/zoneinfo/leapseconds
@@ -0,0 +1,79 @@
+# Allowance for leap seconds added to each time zone file.
+
+# This file is in the public domain.
+
+# This file is generated automatically from the data in the public-domain
+# NIST/IERS format leap-seconds.list file, which can be copied from
+# <https://hpiers.obspm.fr/iers/bul/bulc/ntp/leap-seconds.list>
+# or, in a variant with different comments, from
+# <ftp://ftp.boulder.nist.gov/pub/time/leap-seconds.list>.
+# For more about leap-seconds.list, please see
+# The NTP Timescale and Leap Seconds
+# <https://www.eecis.udel.edu/~mills/leap.html>.
+
+# The rules for leap seconds are specified in Annex 1 (Time scales) of:
+# Standard-frequency and time-signal emissions.
+# International Telecommunication Union - Radiocommunication Sector
+# (ITU-R) Recommendation TF.460-6 (02/2002)
+# <https://www.itu.int/rec/R-REC-TF.460-6-200202-I/>.
+# The International Earth Rotation and Reference Systems Service (IERS)
+# periodically uses leap seconds to keep UTC to within 0.9 s of UT1
+# (a proxy for Earth's angle in space as measured by astronomers)
+# and publishes leap second data in a copyrighted file
+# <https://hpiers.obspm.fr/iers/bul/bulc/Leap_Second.dat>.
+# See: Levine J. Coordinated Universal Time and the leap second.
+# URSI Radio Sci Bull. 2016;89(4):30-6. doi:10.23919/URSIRSB.2016.7909995
+# <https://ieeexplore.ieee.org/document/7909995>.
+
+# There were no leap seconds before 1972, as no official mechanism
+# accounted for the discrepancy between atomic time (TAI) and the earth's
+# rotation.  The first ("1 Jan 1972") data line in leap-seconds.list
+# does not denote a leap second; it denotes the start of the current definition
+# of UTC.
+
+# All leap-seconds are Stationary (S) at the given UTC time.
+# The correction (+ or -) is made at the given time, so in the unlikely
+# event of a negative leap second, a line would look like this:
+# Leap	YEAR	MON	DAY	23:59:59	-	S
+# Typical lines look like this:
+# Leap	YEAR	MON	DAY	23:59:60	+	S
+Leap	1972	Jun	30	23:59:60	+	S
+Leap	1972	Dec	31	23:59:60	+	S
+Leap	1973	Dec	31	23:59:60	+	S
+Leap	1974	Dec	31	23:59:60	+	S
+Leap	1975	Dec	31	23:59:60	+	S
+Leap	1976	Dec	31	23:59:60	+	S
+Leap	1977	Dec	31	23:59:60	+	S
+Leap	1978	Dec	31	23:59:60	+	S
+Leap	1979	Dec	31	23:59:60	+	S
+Leap	1981	Jun	30	23:59:60	+	S
+Leap	1982	Jun	30	23:59:60	+	S
+Leap	1983	Jun	30	23:59:60	+	S
+Leap	1985	Jun	30	23:59:60	+	S
+Leap	1987	Dec	31	23:59:60	+	S
+Leap	1989	Dec	31	23:59:60	+	S
+Leap	1990	Dec	31	23:59:60	+	S
+Leap	1992	Jun	30	23:59:60	+	S
+Leap	1993	Jun	30	23:59:60	+	S
+Leap	1994	Jun	30	23:59:60	+	S
+Leap	1995	Dec	31	23:59:60	+	S
+Leap	1997	Jun	30	23:59:60	+	S
+Leap	1998	Dec	31	23:59:60	+	S
+Leap	2005	Dec	31	23:59:60	+	S
+Leap	2008	Dec	31	23:59:60	+	S
+Leap	2012	Jun	30	23:59:60	+	S
+Leap	2015	Jun	30	23:59:60	+	S
+Leap	2016	Dec	31	23:59:60	+	S
+
+# UTC timestamp when this leap second list expires.
+# Any additional leap seconds will come after this.
+# This Expires line is commented out for now,
+# so that pre-2020a zic implementations do not reject this file.
+#Expires 2024	Dec	28	00:00:00
+
+# POSIX timestamps for the data in this file:
+#updated 1704708379 (2024-01-08 10:06:19 UTC)
+#expires 1735344000 (2024-12-28 00:00:00 UTC)
+
+#	Updated through IERS Bulletin C (https://hpiers.obspm.fr/iers/bul/bulc/bulletinc.dat)
+#	File expires on 28 December 2024
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/zone.tab b/venv/lib/python3.10/site-packages/pytz/zoneinfo/zone.tab
new file mode 100644
index 0000000000000000000000000000000000000000..3fa9306afbad786fb8a6ba0bd54a1d38975dce8d
--- /dev/null
+++ b/venv/lib/python3.10/site-packages/pytz/zoneinfo/zone.tab
@@ -0,0 +1,448 @@
+# tzdb timezone descriptions (deprecated version)
+#
+# This file is in the public domain, so clarified as of
+# 2009-05-17 by Arthur David Olson.
+#
+# From Paul Eggert (2021-09-20):
+# This file is intended as a backward-compatibility aid for older programs.
+# New programs should use zone1970.tab.  This file is like zone1970.tab (see
+# zone1970.tab's comments), but with the following additional restrictions:
+#
+# 1.  This file contains only ASCII characters.
+# 2.  The first data column contains exactly one country code.
+#
+# Because of (2), each row stands for an area that is the intersection
+# of a region identified by a country code and of a timezone where civil
+# clocks have agreed since 1970; this is a narrower definition than
+# that of zone1970.tab.
+#
+# Unlike zone1970.tab, a row's third column can be a Link from
+# 'backward' instead of a Zone.
+#
+# This table is intended as an aid for users, to help them select timezones
+# appropriate for their practical needs.  It is not intended to take or
+# endorse any position on legal or territorial claims.
+#
+#country-
+#code	coordinates	TZ			comments
+AD	+4230+00131	Europe/Andorra
+AE	+2518+05518	Asia/Dubai
+AF	+3431+06912	Asia/Kabul
+AG	+1703-06148	America/Antigua
+AI	+1812-06304	America/Anguilla
+AL	+4120+01950	Europe/Tirane
+AM	+4011+04430	Asia/Yerevan
+AO	-0848+01314	Africa/Luanda
+AQ	-7750+16636	Antarctica/McMurdo	New Zealand time - McMurdo, South Pole
+AQ	-6617+11031	Antarctica/Casey	Casey
+AQ	-6835+07758	Antarctica/Davis	Davis
+AQ	-6640+14001	Antarctica/DumontDUrville	Dumont-d'Urville
+AQ	-6736+06253	Antarctica/Mawson	Mawson
+AQ	-6448-06406	Antarctica/Palmer	Palmer
+AQ	-6734-06808	Antarctica/Rothera	Rothera
+AQ	-690022+0393524	Antarctica/Syowa	Syowa
+AQ	-720041+0023206	Antarctica/Troll	Troll
+AQ	-7824+10654	Antarctica/Vostok	Vostok
+AR	-3436-05827	America/Argentina/Buenos_Aires	Buenos Aires (BA, CF)
+AR	-3124-06411	America/Argentina/Cordoba	Argentina (most areas: CB, CC, CN, ER, FM, MN, SE, SF)
+AR	-2447-06525	America/Argentina/Salta	Salta (SA, LP, NQ, RN)
+AR	-2411-06518	America/Argentina/Jujuy	Jujuy (JY)
+AR	-2649-06513	America/Argentina/Tucuman	Tucuman (TM)
+AR	-2828-06547	America/Argentina/Catamarca	Catamarca (CT), Chubut (CH)
+AR	-2926-06651	America/Argentina/La_Rioja	La Rioja (LR)
+AR	-3132-06831	America/Argentina/San_Juan	San Juan (SJ)
+AR	-3253-06849	America/Argentina/Mendoza	Mendoza (MZ)
+AR	-3319-06621	America/Argentina/San_Luis	San Luis (SL)
+AR	-5138-06913	America/Argentina/Rio_Gallegos	Santa Cruz (SC)
+AR	-5448-06818	America/Argentina/Ushuaia	Tierra del Fuego (TF)
+AS	-1416-17042	Pacific/Pago_Pago
+AT	+4813+01620	Europe/Vienna
+AU	-3133+15905	Australia/Lord_Howe	Lord Howe Island
+AU	-5430+15857	Antarctica/Macquarie	Macquarie Island
+AU	-4253+14719	Australia/Hobart	Tasmania
+AU	-3749+14458	Australia/Melbourne	Victoria
+AU	-3352+15113	Australia/Sydney	New South Wales (most areas)
+AU	-3157+14127	Australia/Broken_Hill	New South Wales (Yancowinna)
+AU	-2728+15302	Australia/Brisbane	Queensland (most areas)
+AU	-2016+14900	Australia/Lindeman	Queensland (Whitsunday Islands)
+AU	-3455+13835	Australia/Adelaide	South Australia
+AU	-1228+13050	Australia/Darwin	Northern Territory
+AU	-3157+11551	Australia/Perth	Western Australia (most areas)
+AU	-3143+12852	Australia/Eucla	Western Australia (Eucla)
+AW	+1230-06958	America/Aruba
+AX	+6006+01957	Europe/Mariehamn
+AZ	+4023+04951	Asia/Baku
+BA	+4352+01825	Europe/Sarajevo
+BB	+1306-05937	America/Barbados
+BD	+2343+09025	Asia/Dhaka
+BE	+5050+00420	Europe/Brussels
+BF	+1222-00131	Africa/Ouagadougou
+BG	+4241+02319	Europe/Sofia
+BH	+2623+05035	Asia/Bahrain
+BI	-0323+02922	Africa/Bujumbura
+BJ	+0629+00237	Africa/Porto-Novo
+BL	+1753-06251	America/St_Barthelemy
+BM	+3217-06446	Atlantic/Bermuda
+BN	+0456+11455	Asia/Brunei
+BO	-1630-06809	America/La_Paz
+BQ	+120903-0681636	America/Kralendijk
+BR	-0351-03225	America/Noronha	Atlantic islands
+BR	-0127-04829	America/Belem	Para (east), Amapa
+BR	-0343-03830	America/Fortaleza	Brazil (northeast: MA, PI, CE, RN, PB)
+BR	-0803-03454	America/Recife	Pernambuco
+BR	-0712-04812	America/Araguaina	Tocantins
+BR	-0940-03543	America/Maceio	Alagoas, Sergipe
+BR	-1259-03831	America/Bahia	Bahia
+BR	-2332-04637	America/Sao_Paulo	Brazil (southeast: GO, DF, MG, ES, RJ, SP, PR, SC, RS)
+BR	-2027-05437	America/Campo_Grande	Mato Grosso do Sul
+BR	-1535-05605	America/Cuiaba	Mato Grosso
+BR	-0226-05452	America/Santarem	Para (west)
+BR	-0846-06354	America/Porto_Velho	Rondonia
+BR	+0249-06040	America/Boa_Vista	Roraima
+BR	-0308-06001	America/Manaus	Amazonas (east)
+BR	-0640-06952	America/Eirunepe	Amazonas (west)
+BR	-0958-06748	America/Rio_Branco	Acre
+BS	+2505-07721	America/Nassau
+BT	+2728+08939	Asia/Thimphu
+BW	-2439+02555	Africa/Gaborone
+BY	+5354+02734	Europe/Minsk
+BZ	+1730-08812	America/Belize
+CA	+4734-05243	America/St_Johns	Newfoundland, Labrador (SE)
+CA	+4439-06336	America/Halifax	Atlantic - NS (most areas), PE
+CA	+4612-05957	America/Glace_Bay	Atlantic - NS (Cape Breton)
+CA	+4606-06447	America/Moncton	Atlantic - New Brunswick
+CA	+5320-06025	America/Goose_Bay	Atlantic - Labrador (most areas)
+CA	+5125-05707	America/Blanc-Sablon	AST - QC (Lower North Shore)
+CA	+4339-07923	America/Toronto	Eastern - ON & QC (most areas)
+CA	+6344-06828	America/Iqaluit	Eastern - NU (most areas)
+CA	+484531-0913718	America/Atikokan	EST - ON (Atikokan), NU (Coral H)
+CA	+4953-09709	America/Winnipeg	Central - ON (west), Manitoba
+CA	+744144-0944945	America/Resolute	Central - NU (Resolute)
+CA	+624900-0920459	America/Rankin_Inlet	Central - NU (central)
+CA	+5024-10439	America/Regina	CST - SK (most areas)
+CA	+5017-10750	America/Swift_Current	CST - SK (midwest)
+CA	+5333-11328	America/Edmonton	Mountain - AB, BC(E), NT(E), SK(W)
+CA	+690650-1050310	America/Cambridge_Bay	Mountain - NU (west)
+CA	+682059-1334300	America/Inuvik	Mountain - NT (west)
+CA	+4906-11631	America/Creston	MST - BC (Creston)
+CA	+5546-12014	America/Dawson_Creek	MST - BC (Dawson Cr, Ft St John)
+CA	+5848-12242	America/Fort_Nelson	MST - BC (Ft Nelson)
+CA	+6043-13503	America/Whitehorse	MST - Yukon (east)
+CA	+6404-13925	America/Dawson	MST - Yukon (west)
+CA	+4916-12307	America/Vancouver	Pacific - BC (most areas)
+CC	-1210+09655	Indian/Cocos
+CD	-0418+01518	Africa/Kinshasa	Dem. Rep. of Congo (west)
+CD	-1140+02728	Africa/Lubumbashi	Dem. Rep. of Congo (east)
+CF	+0422+01835	Africa/Bangui
+CG	-0416+01517	Africa/Brazzaville
+CH	+4723+00832	Europe/Zurich
+CI	+0519-00402	Africa/Abidjan
+CK	-2114-15946	Pacific/Rarotonga
+CL	-3327-07040	America/Santiago	most of Chile
+CL	-5309-07055	America/Punta_Arenas	Region of Magallanes
+CL	-2709-10926	Pacific/Easter	Easter Island
+CM	+0403+00942	Africa/Douala
+CN	+3114+12128	Asia/Shanghai	Beijing Time
+CN	+4348+08735	Asia/Urumqi	Xinjiang Time
+CO	+0436-07405	America/Bogota
+CR	+0956-08405	America/Costa_Rica
+CU	+2308-08222	America/Havana
+CV	+1455-02331	Atlantic/Cape_Verde
+CW	+1211-06900	America/Curacao
+CX	-1025+10543	Indian/Christmas
+CY	+3510+03322	Asia/Nicosia	most of Cyprus
+CY	+3507+03357	Asia/Famagusta	Northern Cyprus
+CZ	+5005+01426	Europe/Prague
+DE	+5230+01322	Europe/Berlin	most of Germany
+DE	+4742+00841	Europe/Busingen	Busingen
+DJ	+1136+04309	Africa/Djibouti
+DK	+5540+01235	Europe/Copenhagen
+DM	+1518-06124	America/Dominica
+DO	+1828-06954	America/Santo_Domingo
+DZ	+3647+00303	Africa/Algiers
+EC	-0210-07950	America/Guayaquil	Ecuador (mainland)
+EC	-0054-08936	Pacific/Galapagos	Galapagos Islands
+EE	+5925+02445	Europe/Tallinn
+EG	+3003+03115	Africa/Cairo
+EH	+2709-01312	Africa/El_Aaiun
+ER	+1520+03853	Africa/Asmara
+ES	+4024-00341	Europe/Madrid	Spain (mainland)
+ES	+3553-00519	Africa/Ceuta	Ceuta, Melilla
+ES	+2806-01524	Atlantic/Canary	Canary Islands
+ET	+0902+03842	Africa/Addis_Ababa
+FI	+6010+02458	Europe/Helsinki
+FJ	-1808+17825	Pacific/Fiji
+FK	-5142-05751	Atlantic/Stanley
+FM	+0725+15147	Pacific/Chuuk	Chuuk/Truk, Yap
+FM	+0658+15813	Pacific/Pohnpei	Pohnpei/Ponape
+FM	+0519+16259	Pacific/Kosrae	Kosrae
+FO	+6201-00646	Atlantic/Faroe
+FR	+4852+00220	Europe/Paris
+GA	+0023+00927	Africa/Libreville
+GB	+513030-0000731	Europe/London
+GD	+1203-06145	America/Grenada
+GE	+4143+04449	Asia/Tbilisi
+GF	+0456-05220	America/Cayenne
+GG	+492717-0023210	Europe/Guernsey
+GH	+0533-00013	Africa/Accra
+GI	+3608-00521	Europe/Gibraltar
+GL	+6411-05144	America/Nuuk	most of Greenland
+GL	+7646-01840	America/Danmarkshavn	National Park (east coast)
+GL	+7029-02158	America/Scoresbysund	Scoresbysund/Ittoqqortoormiit
+GL	+7634-06847	America/Thule	Thule/Pituffik
+GM	+1328-01639	Africa/Banjul
+GN	+0931-01343	Africa/Conakry
+GP	+1614-06132	America/Guadeloupe
+GQ	+0345+00847	Africa/Malabo
+GR	+3758+02343	Europe/Athens
+GS	-5416-03632	Atlantic/South_Georgia
+GT	+1438-09031	America/Guatemala
+GU	+1328+14445	Pacific/Guam
+GW	+1151-01535	Africa/Bissau
+GY	+0648-05810	America/Guyana
+HK	+2217+11409	Asia/Hong_Kong
+HN	+1406-08713	America/Tegucigalpa
+HR	+4548+01558	Europe/Zagreb
+HT	+1832-07220	America/Port-au-Prince
+HU	+4730+01905	Europe/Budapest
+ID	-0610+10648	Asia/Jakarta	Java, Sumatra
+ID	-0002+10920	Asia/Pontianak	Borneo (west, central)
+ID	-0507+11924	Asia/Makassar	Borneo (east, south), Sulawesi/Celebes, Bali, Nusa Tengarra, Timor (west)
+ID	-0232+14042	Asia/Jayapura	New Guinea (West Papua / Irian Jaya), Malukus/Moluccas
+IE	+5320-00615	Europe/Dublin
+IL	+314650+0351326	Asia/Jerusalem
+IM	+5409-00428	Europe/Isle_of_Man
+IN	+2232+08822	Asia/Kolkata
+IO	-0720+07225	Indian/Chagos
+IQ	+3321+04425	Asia/Baghdad
+IR	+3540+05126	Asia/Tehran
+IS	+6409-02151	Atlantic/Reykjavik
+IT	+4154+01229	Europe/Rome
+JE	+491101-0020624	Europe/Jersey
+JM	+175805-0764736	America/Jamaica
+JO	+3157+03556	Asia/Amman
+JP	+353916+1394441	Asia/Tokyo
+KE	-0117+03649	Africa/Nairobi
+KG	+4254+07436	Asia/Bishkek
+KH	+1133+10455	Asia/Phnom_Penh
+KI	+0125+17300	Pacific/Tarawa	Gilbert Islands
+KI	-0247-17143	Pacific/Kanton	Phoenix Islands
+KI	+0152-15720	Pacific/Kiritimati	Line Islands
+KM	-1141+04316	Indian/Comoro
+KN	+1718-06243	America/St_Kitts
+KP	+3901+12545	Asia/Pyongyang
+KR	+3733+12658	Asia/Seoul
+KW	+2920+04759	Asia/Kuwait
+KY	+1918-08123	America/Cayman
+KZ	+4315+07657	Asia/Almaty	most of Kazakhstan
+KZ	+4448+06528	Asia/Qyzylorda	Qyzylorda/Kyzylorda/Kzyl-Orda
+KZ	+5312+06337	Asia/Qostanay	Qostanay/Kostanay/Kustanay
+KZ	+5017+05710	Asia/Aqtobe	Aqtobe/Aktobe
+KZ	+4431+05016	Asia/Aqtau	Mangghystau/Mankistau
+KZ	+4707+05156	Asia/Atyrau	Atyrau/Atirau/Gur'yev
+KZ	+5113+05121	Asia/Oral	West Kazakhstan
+LA	+1758+10236	Asia/Vientiane
+LB	+3353+03530	Asia/Beirut
+LC	+1401-06100	America/St_Lucia
+LI	+4709+00931	Europe/Vaduz
+LK	+0656+07951	Asia/Colombo
+LR	+0618-01047	Africa/Monrovia
+LS	-2928+02730	Africa/Maseru
+LT	+5441+02519	Europe/Vilnius
+LU	+4936+00609	Europe/Luxembourg
+LV	+5657+02406	Europe/Riga
+LY	+3254+01311	Africa/Tripoli
+MA	+3339-00735	Africa/Casablanca
+MC	+4342+00723	Europe/Monaco
+MD	+4700+02850	Europe/Chisinau
+ME	+4226+01916	Europe/Podgorica
+MF	+1804-06305	America/Marigot
+MG	-1855+04731	Indian/Antananarivo
+MH	+0709+17112	Pacific/Majuro	most of Marshall Islands
+MH	+0905+16720	Pacific/Kwajalein	Kwajalein
+MK	+4159+02126	Europe/Skopje
+ML	+1239-00800	Africa/Bamako
+MM	+1647+09610	Asia/Yangon
+MN	+4755+10653	Asia/Ulaanbaatar	most of Mongolia
+MN	+4801+09139	Asia/Hovd	Bayan-Olgiy, Govi-Altai, Hovd, Uvs, Zavkhan
+MN	+4804+11430	Asia/Choibalsan	Dornod, Sukhbaatar
+MO	+221150+1133230	Asia/Macau
+MP	+1512+14545	Pacific/Saipan
+MQ	+1436-06105	America/Martinique
+MR	+1806-01557	Africa/Nouakchott
+MS	+1643-06213	America/Montserrat
+MT	+3554+01431	Europe/Malta
+MU	-2010+05730	Indian/Mauritius
+MV	+0410+07330	Indian/Maldives
+MW	-1547+03500	Africa/Blantyre
+MX	+1924-09909	America/Mexico_City	Central Mexico
+MX	+2105-08646	America/Cancun	Quintana Roo
+MX	+2058-08937	America/Merida	Campeche, Yucatan
+MX	+2540-10019	America/Monterrey	Durango; Coahuila, Nuevo Leon, Tamaulipas (most areas)
+MX	+2550-09730	America/Matamoros	Coahuila, Nuevo Leon, Tamaulipas (US border)
+MX	+2838-10605	America/Chihuahua	Chihuahua (most areas)
+MX	+3144-10629	America/Ciudad_Juarez	Chihuahua (US border - west)
+MX	+2934-10425	America/Ojinaga	Chihuahua (US border - east)
+MX	+2313-10625	America/Mazatlan	Baja California Sur, Nayarit (most areas), Sinaloa
+MX	+2048-10515	America/Bahia_Banderas	Bahia de Banderas
+MX	+2904-11058	America/Hermosillo	Sonora
+MX	+3232-11701	America/Tijuana	Baja California
+MY	+0310+10142	Asia/Kuala_Lumpur	Malaysia (peninsula)
+MY	+0133+11020	Asia/Kuching	Sabah, Sarawak
+MZ	-2558+03235	Africa/Maputo
+NA	-2234+01706	Africa/Windhoek
+NC	-2216+16627	Pacific/Noumea
+NE	+1331+00207	Africa/Niamey
+NF	-2903+16758	Pacific/Norfolk
+NG	+0627+00324	Africa/Lagos
+NI	+1209-08617	America/Managua
+NL	+5222+00454	Europe/Amsterdam
+NO	+5955+01045	Europe/Oslo
+NP	+2743+08519	Asia/Kathmandu
+NR	-0031+16655	Pacific/Nauru
+NU	-1901-16955	Pacific/Niue
+NZ	-3652+17446	Pacific/Auckland	most of New Zealand
+NZ	-4357-17633	Pacific/Chatham	Chatham Islands
+OM	+2336+05835	Asia/Muscat
+PA	+0858-07932	America/Panama
+PE	-1203-07703	America/Lima
+PF	-1732-14934	Pacific/Tahiti	Society Islands
+PF	-0900-13930	Pacific/Marquesas	Marquesas Islands
+PF	-2308-13457	Pacific/Gambier	Gambier Islands
+PG	-0930+14710	Pacific/Port_Moresby	most of Papua New Guinea
+PG	-0613+15534	Pacific/Bougainville	Bougainville
+PH	+1435+12100	Asia/Manila
+PK	+2452+06703	Asia/Karachi
+PL	+5215+02100	Europe/Warsaw
+PM	+4703-05620	America/Miquelon
+PN	-2504-13005	Pacific/Pitcairn
+PR	+182806-0660622	America/Puerto_Rico
+PS	+3130+03428	Asia/Gaza	Gaza Strip
+PS	+313200+0350542	Asia/Hebron	West Bank
+PT	+3843-00908	Europe/Lisbon	Portugal (mainland)
+PT	+3238-01654	Atlantic/Madeira	Madeira Islands
+PT	+3744-02540	Atlantic/Azores	Azores
+PW	+0720+13429	Pacific/Palau
+PY	-2516-05740	America/Asuncion
+QA	+2517+05132	Asia/Qatar
+RE	-2052+05528	Indian/Reunion
+RO	+4426+02606	Europe/Bucharest
+RS	+4450+02030	Europe/Belgrade
+RU	+5443+02030	Europe/Kaliningrad	MSK-01 - Kaliningrad
+RU	+554521+0373704	Europe/Moscow	MSK+00 - Moscow area
+# The obsolescent zone.tab format cannot represent Europe/Simferopol well.
+# Put it in RU section and list as UA.  See "territorial claims" above.
+# Programs should use zone1970.tab instead; see above.
+UA	+4457+03406	Europe/Simferopol	Crimea
+RU	+5836+04939	Europe/Kirov	MSK+00 - Kirov
+RU	+4844+04425	Europe/Volgograd	MSK+00 - Volgograd
+RU	+4621+04803	Europe/Astrakhan	MSK+01 - Astrakhan
+RU	+5134+04602	Europe/Saratov	MSK+01 - Saratov
+RU	+5420+04824	Europe/Ulyanovsk	MSK+01 - Ulyanovsk
+RU	+5312+05009	Europe/Samara	MSK+01 - Samara, Udmurtia
+RU	+5651+06036	Asia/Yekaterinburg	MSK+02 - Urals
+RU	+5500+07324	Asia/Omsk	MSK+03 - Omsk
+RU	+5502+08255	Asia/Novosibirsk	MSK+04 - Novosibirsk
+RU	+5322+08345	Asia/Barnaul	MSK+04 - Altai
+RU	+5630+08458	Asia/Tomsk	MSK+04 - Tomsk
+RU	+5345+08707	Asia/Novokuznetsk	MSK+04 - Kemerovo
+RU	+5601+09250	Asia/Krasnoyarsk	MSK+04 - Krasnoyarsk area
+RU	+5216+10420	Asia/Irkutsk	MSK+05 - Irkutsk, Buryatia
+RU	+5203+11328	Asia/Chita	MSK+06 - Zabaykalsky
+RU	+6200+12940	Asia/Yakutsk	MSK+06 - Lena River
+RU	+623923+1353314	Asia/Khandyga	MSK+06 - Tomponsky, Ust-Maysky
+RU	+4310+13156	Asia/Vladivostok	MSK+07 - Amur River
+RU	+643337+1431336	Asia/Ust-Nera	MSK+07 - Oymyakonsky
+RU	+5934+15048	Asia/Magadan	MSK+08 - Magadan
+RU	+4658+14242	Asia/Sakhalin	MSK+08 - Sakhalin Island
+RU	+6728+15343	Asia/Srednekolymsk	MSK+08 - Sakha (E), N Kuril Is
+RU	+5301+15839	Asia/Kamchatka	MSK+09 - Kamchatka
+RU	+6445+17729	Asia/Anadyr	MSK+09 - Bering Sea
+RW	-0157+03004	Africa/Kigali
+SA	+2438+04643	Asia/Riyadh
+SB	-0932+16012	Pacific/Guadalcanal
+SC	-0440+05528	Indian/Mahe
+SD	+1536+03232	Africa/Khartoum
+SE	+5920+01803	Europe/Stockholm
+SG	+0117+10351	Asia/Singapore
+SH	-1555-00542	Atlantic/St_Helena
+SI	+4603+01431	Europe/Ljubljana
+SJ	+7800+01600	Arctic/Longyearbyen
+SK	+4809+01707	Europe/Bratislava
+SL	+0830-01315	Africa/Freetown
+SM	+4355+01228	Europe/San_Marino
+SN	+1440-01726	Africa/Dakar
+SO	+0204+04522	Africa/Mogadishu
+SR	+0550-05510	America/Paramaribo
+SS	+0451+03137	Africa/Juba
+ST	+0020+00644	Africa/Sao_Tome
+SV	+1342-08912	America/El_Salvador
+SX	+180305-0630250	America/Lower_Princes
+SY	+3330+03618	Asia/Damascus
+SZ	-2618+03106	Africa/Mbabane
+TC	+2128-07108	America/Grand_Turk
+TD	+1207+01503	Africa/Ndjamena
+TF	-492110+0701303	Indian/Kerguelen
+TG	+0608+00113	Africa/Lome
+TH	+1345+10031	Asia/Bangkok
+TJ	+3835+06848	Asia/Dushanbe
+TK	-0922-17114	Pacific/Fakaofo
+TL	-0833+12535	Asia/Dili
+TM	+3757+05823	Asia/Ashgabat
+TN	+3648+01011	Africa/Tunis
+TO	-210800-1751200	Pacific/Tongatapu
+TR	+4101+02858	Europe/Istanbul
+TT	+1039-06131	America/Port_of_Spain
+TV	-0831+17913	Pacific/Funafuti
+TW	+2503+12130	Asia/Taipei
+TZ	-0648+03917	Africa/Dar_es_Salaam
+UA	+5026+03031	Europe/Kyiv	most of Ukraine
+UG	+0019+03225	Africa/Kampala
+UM	+2813-17722	Pacific/Midway	Midway Islands
+UM	+1917+16637	Pacific/Wake	Wake Island
+US	+404251-0740023	America/New_York	Eastern (most areas)
+US	+421953-0830245	America/Detroit	Eastern - MI (most areas)
+US	+381515-0854534	America/Kentucky/Louisville	Eastern - KY (Louisville area)
+US	+364947-0845057	America/Kentucky/Monticello	Eastern - KY (Wayne)
+US	+394606-0860929	America/Indiana/Indianapolis	Eastern - IN (most areas)
+US	+384038-0873143	America/Indiana/Vincennes	Eastern - IN (Da, Du, K, Mn)
+US	+410305-0863611	America/Indiana/Winamac	Eastern - IN (Pulaski)
+US	+382232-0862041	America/Indiana/Marengo	Eastern - IN (Crawford)
+US	+382931-0871643	America/Indiana/Petersburg	Eastern - IN (Pike)
+US	+384452-0850402	America/Indiana/Vevay	Eastern - IN (Switzerland)
+US	+415100-0873900	America/Chicago	Central (most areas)
+US	+375711-0864541	America/Indiana/Tell_City	Central - IN (Perry)
+US	+411745-0863730	America/Indiana/Knox	Central - IN (Starke)
+US	+450628-0873651	America/Menominee	Central - MI (Wisconsin border)
+US	+470659-1011757	America/North_Dakota/Center	Central - ND (Oliver)
+US	+465042-1012439	America/North_Dakota/New_Salem	Central - ND (Morton rural)
+US	+471551-1014640	America/North_Dakota/Beulah	Central - ND (Mercer)
+US	+394421-1045903	America/Denver	Mountain (most areas)
+US	+433649-1161209	America/Boise	Mountain - ID (south), OR (east)
+US	+332654-1120424	America/Phoenix	MST - AZ (except Navajo)
+US	+340308-1181434	America/Los_Angeles	Pacific
+US	+611305-1495401	America/Anchorage	Alaska (most areas)
+US	+581807-1342511	America/Juneau	Alaska - Juneau area
+US	+571035-1351807	America/Sitka	Alaska - Sitka area
+US	+550737-1313435	America/Metlakatla	Alaska - Annette Island
+US	+593249-1394338	America/Yakutat	Alaska - Yakutat
+US	+643004-1652423	America/Nome	Alaska (west)
+US	+515248-1763929	America/Adak	Alaska - western Aleutians
+US	+211825-1575130	Pacific/Honolulu	Hawaii
+UY	-345433-0561245	America/Montevideo
+UZ	+3940+06648	Asia/Samarkand	Uzbekistan (west)
+UZ	+4120+06918	Asia/Tashkent	Uzbekistan (east)
+VA	+415408+0122711	Europe/Vatican
+VC	+1309-06114	America/St_Vincent
+VE	+1030-06656	America/Caracas
+VG	+1827-06437	America/Tortola
+VI	+1821-06456	America/St_Thomas
+VN	+1045+10640	Asia/Ho_Chi_Minh
+VU	-1740+16825	Pacific/Efate
+WF	-1318-17610	Pacific/Wallis
+WS	-1350-17144	Pacific/Apia
+YE	+1245+04512	Asia/Aden
+YT	-1247+04514	Indian/Mayotte
+ZA	-2615+02800	Africa/Johannesburg
+ZM	-1525+02817	Africa/Lusaka
+ZW	-1750+03103	Africa/Harare
diff --git a/venv/lib/python3.10/site-packages/pytz/zoneinfo/zone1970.tab b/venv/lib/python3.10/site-packages/pytz/zoneinfo/zone1970.tab
new file mode 100644
index 0000000000000000000000000000000000000000..abd9489753f1aab2e8120506041d537d86f75206
--- /dev/null
+++ b/venv/lib/python3.10/site-packages/pytz/zoneinfo/zone1970.tab
@@ -0,0 +1,375 @@
+# tzdb timezone descriptions
+#
+# This file is in the public domain.
+#
+# From Paul Eggert (2018-06-27):
+# This file contains a table where each row stands for a timezone where
+# civil timestamps have agreed since 1970.  Columns are separated by
+# a single tab.  Lines beginning with '#' are comments.  All text uses
+# UTF-8 encoding.  The columns of the table are as follows:
+#
+# 1.  The countries that overlap the timezone, as a comma-separated list
+#     of ISO 3166 2-character country codes.  See the file 'iso3166.tab'.
+# 2.  Latitude and longitude of the timezone's principal location
+#     in ISO 6709 sign-degrees-minutes-seconds format,
+#     either ±DDMM±DDDMM or ±DDMMSS±DDDMMSS,
+#     first latitude (+ is north), then longitude (+ is east).
+# 3.  Timezone name used in value of TZ environment variable.
+#     Please see the theory.html file for how these names are chosen.
+#     If multiple timezones overlap a country, each has a row in the
+#     table, with each column 1 containing the country code.
+# 4.  Comments; present if and only if countries have multiple timezones,
+#     and useful only for those countries.  For example, the comments
+#     for the row with countries CH,DE,LI and name Europe/Zurich
+#     are useful only for DE, since CH and LI have no other timezones.
+#
+# If a timezone covers multiple countries, the most-populous city is used,
+# and that country is listed first in column 1; any other countries
+# are listed alphabetically by country code.  The table is sorted
+# first by country code, then (if possible) by an order within the
+# country that (1) makes some geographical sense, and (2) puts the
+# most populous timezones first, where that does not contradict (1).
+#
+# This table is intended as an aid for users, to help them select timezones
+# appropriate for their practical needs.  It is not intended to take or
+# endorse any position on legal or territorial claims.
+#
+#country-
+#codes	coordinates	TZ	comments
+AD	+4230+00131	Europe/Andorra
+AE,OM,RE,SC,TF	+2518+05518	Asia/Dubai	Crozet
+AF	+3431+06912	Asia/Kabul
+AL	+4120+01950	Europe/Tirane
+AM	+4011+04430	Asia/Yerevan
+AQ	-6617+11031	Antarctica/Casey	Casey
+AQ	-6835+07758	Antarctica/Davis	Davis
+AQ	-6736+06253	Antarctica/Mawson	Mawson
+AQ	-6448-06406	Antarctica/Palmer	Palmer
+AQ	-6734-06808	Antarctica/Rothera	Rothera
+AQ	-720041+0023206	Antarctica/Troll	Troll
+AQ	-7824+10654	Antarctica/Vostok	Vostok
+AR	-3436-05827	America/Argentina/Buenos_Aires	Buenos Aires (BA, CF)
+AR	-3124-06411	America/Argentina/Cordoba	most areas: CB, CC, CN, ER, FM, MN, SE, SF
+AR	-2447-06525	America/Argentina/Salta	Salta (SA, LP, NQ, RN)
+AR	-2411-06518	America/Argentina/Jujuy	Jujuy (JY)
+AR	-2649-06513	America/Argentina/Tucuman	Tucumán (TM)
+AR	-2828-06547	America/Argentina/Catamarca	Catamarca (CT), Chubut (CH)
+AR	-2926-06651	America/Argentina/La_Rioja	La Rioja (LR)
+AR	-3132-06831	America/Argentina/San_Juan	San Juan (SJ)
+AR	-3253-06849	America/Argentina/Mendoza	Mendoza (MZ)
+AR	-3319-06621	America/Argentina/San_Luis	San Luis (SL)
+AR	-5138-06913	America/Argentina/Rio_Gallegos	Santa Cruz (SC)
+AR	-5448-06818	America/Argentina/Ushuaia	Tierra del Fuego (TF)
+AS,UM	-1416-17042	Pacific/Pago_Pago	Midway
+AT	+4813+01620	Europe/Vienna
+AU	-3133+15905	Australia/Lord_Howe	Lord Howe Island
+AU	-5430+15857	Antarctica/Macquarie	Macquarie Island
+AU	-4253+14719	Australia/Hobart	Tasmania
+AU	-3749+14458	Australia/Melbourne	Victoria
+AU	-3352+15113	Australia/Sydney	New South Wales (most areas)
+AU	-3157+14127	Australia/Broken_Hill	New South Wales (Yancowinna)
+AU	-2728+15302	Australia/Brisbane	Queensland (most areas)
+AU	-2016+14900	Australia/Lindeman	Queensland (Whitsunday Islands)
+AU	-3455+13835	Australia/Adelaide	South Australia
+AU	-1228+13050	Australia/Darwin	Northern Territory
+AU	-3157+11551	Australia/Perth	Western Australia (most areas)
+AU	-3143+12852	Australia/Eucla	Western Australia (Eucla)
+AZ	+4023+04951	Asia/Baku
+BB	+1306-05937	America/Barbados
+BD	+2343+09025	Asia/Dhaka
+BE,LU,NL	+5050+00420	Europe/Brussels
+BG	+4241+02319	Europe/Sofia
+BM	+3217-06446	Atlantic/Bermuda
+BO	-1630-06809	America/La_Paz
+BR	-0351-03225	America/Noronha	Atlantic islands
+BR	-0127-04829	America/Belem	Pará (east), Amapá
+BR	-0343-03830	America/Fortaleza	Brazil (northeast: MA, PI, CE, RN, PB)
+BR	-0803-03454	America/Recife	Pernambuco
+BR	-0712-04812	America/Araguaina	Tocantins
+BR	-0940-03543	America/Maceio	Alagoas, Sergipe
+BR	-1259-03831	America/Bahia	Bahia
+BR	-2332-04637	America/Sao_Paulo	Brazil (southeast: GO, DF, MG, ES, RJ, SP, PR, SC, RS)
+BR	-2027-05437	America/Campo_Grande	Mato Grosso do Sul
+BR	-1535-05605	America/Cuiaba	Mato Grosso
+BR	-0226-05452	America/Santarem	Pará (west)
+BR	-0846-06354	America/Porto_Velho	Rondônia
+BR	+0249-06040	America/Boa_Vista	Roraima
+BR	-0308-06001	America/Manaus	Amazonas (east)
+BR	-0640-06952	America/Eirunepe	Amazonas (west)
+BR	-0958-06748	America/Rio_Branco	Acre
+BT	+2728+08939	Asia/Thimphu
+BY	+5354+02734	Europe/Minsk
+BZ	+1730-08812	America/Belize
+CA	+4734-05243	America/St_Johns	Newfoundland, Labrador (SE)
+CA	+4439-06336	America/Halifax	Atlantic - NS (most areas), PE
+CA	+4612-05957	America/Glace_Bay	Atlantic - NS (Cape Breton)
+CA	+4606-06447	America/Moncton	Atlantic - New Brunswick
+CA	+5320-06025	America/Goose_Bay	Atlantic - Labrador (most areas)
+CA,BS	+4339-07923	America/Toronto	Eastern - ON & QC (most areas)
+CA	+6344-06828	America/Iqaluit	Eastern - NU (most areas)
+CA	+4953-09709	America/Winnipeg	Central - ON (west), Manitoba
+CA	+744144-0944945	America/Resolute	Central - NU (Resolute)
+CA	+624900-0920459	America/Rankin_Inlet	Central - NU (central)
+CA	+5024-10439	America/Regina	CST - SK (most areas)
+CA	+5017-10750	America/Swift_Current	CST - SK (midwest)
+CA	+5333-11328	America/Edmonton	Mountain - AB, BC(E), NT(E), SK(W)
+CA	+690650-1050310	America/Cambridge_Bay	Mountain - NU (west)
+CA	+682059-1334300	America/Inuvik	Mountain - NT (west)
+CA	+5546-12014	America/Dawson_Creek	MST - BC (Dawson Cr, Ft St John)
+CA	+5848-12242	America/Fort_Nelson	MST - BC (Ft Nelson)
+CA	+6043-13503	America/Whitehorse	MST - Yukon (east)
+CA	+6404-13925	America/Dawson	MST - Yukon (west)
+CA	+4916-12307	America/Vancouver	Pacific - BC (most areas)
+CH,DE,LI	+4723+00832	Europe/Zurich	Büsingen
+CI,BF,GH,GM,GN,IS,ML,MR,SH,SL,SN,TG	+0519-00402	Africa/Abidjan
+CK	-2114-15946	Pacific/Rarotonga
+CL	-3327-07040	America/Santiago	most of Chile
+CL	-5309-07055	America/Punta_Arenas	Region of Magallanes
+CL	-2709-10926	Pacific/Easter	Easter Island
+CN	+3114+12128	Asia/Shanghai	Beijing Time
+CN	+4348+08735	Asia/Urumqi	Xinjiang Time
+CO	+0436-07405	America/Bogota
+CR	+0956-08405	America/Costa_Rica
+CU	+2308-08222	America/Havana
+CV	+1455-02331	Atlantic/Cape_Verde
+CY	+3510+03322	Asia/Nicosia	most of Cyprus
+CY	+3507+03357	Asia/Famagusta	Northern Cyprus
+CZ,SK	+5005+01426	Europe/Prague
+DE,DK,NO,SE,SJ	+5230+01322	Europe/Berlin	most of Germany
+DO	+1828-06954	America/Santo_Domingo
+DZ	+3647+00303	Africa/Algiers
+EC	-0210-07950	America/Guayaquil	Ecuador (mainland)
+EC	-0054-08936	Pacific/Galapagos	Galápagos Islands
+EE	+5925+02445	Europe/Tallinn
+EG	+3003+03115	Africa/Cairo
+EH	+2709-01312	Africa/El_Aaiun
+ES	+4024-00341	Europe/Madrid	Spain (mainland)
+ES	+3553-00519	Africa/Ceuta	Ceuta, Melilla
+ES	+2806-01524	Atlantic/Canary	Canary Islands
+FI,AX	+6010+02458	Europe/Helsinki
+FJ	-1808+17825	Pacific/Fiji
+FK	-5142-05751	Atlantic/Stanley
+FM	+0519+16259	Pacific/Kosrae	Kosrae
+FO	+6201-00646	Atlantic/Faroe
+FR,MC	+4852+00220	Europe/Paris
+GB,GG,IM,JE	+513030-0000731	Europe/London
+GE	+4143+04449	Asia/Tbilisi
+GF	+0456-05220	America/Cayenne
+GI	+3608-00521	Europe/Gibraltar
+GL	+6411-05144	America/Nuuk	most of Greenland
+GL	+7646-01840	America/Danmarkshavn	National Park (east coast)
+GL	+7029-02158	America/Scoresbysund	Scoresbysund/Ittoqqortoormiit
+GL	+7634-06847	America/Thule	Thule/Pituffik
+GR	+3758+02343	Europe/Athens
+GS	-5416-03632	Atlantic/South_Georgia
+GT	+1438-09031	America/Guatemala
+GU,MP	+1328+14445	Pacific/Guam
+GW	+1151-01535	Africa/Bissau
+GY	+0648-05810	America/Guyana
+HK	+2217+11409	Asia/Hong_Kong
+HN	+1406-08713	America/Tegucigalpa
+HT	+1832-07220	America/Port-au-Prince
+HU	+4730+01905	Europe/Budapest
+ID	-0610+10648	Asia/Jakarta	Java, Sumatra
+ID	-0002+10920	Asia/Pontianak	Borneo (west, central)
+ID	-0507+11924	Asia/Makassar	Borneo (east, south), Sulawesi/Celebes, Bali, Nusa Tengarra, Timor (west)
+ID	-0232+14042	Asia/Jayapura	New Guinea (West Papua / Irian Jaya), Malukus/Moluccas
+IE	+5320-00615	Europe/Dublin
+IL	+314650+0351326	Asia/Jerusalem
+IN	+2232+08822	Asia/Kolkata
+IO	-0720+07225	Indian/Chagos
+IQ	+3321+04425	Asia/Baghdad
+IR	+3540+05126	Asia/Tehran
+IT,SM,VA	+4154+01229	Europe/Rome
+JM	+175805-0764736	America/Jamaica
+JO	+3157+03556	Asia/Amman
+JP	+353916+1394441	Asia/Tokyo
+KE,DJ,ER,ET,KM,MG,SO,TZ,UG,YT	-0117+03649	Africa/Nairobi
+KG	+4254+07436	Asia/Bishkek
+KI,MH,TV,UM,WF	+0125+17300	Pacific/Tarawa	Gilberts, Marshalls, Wake
+KI	-0247-17143	Pacific/Kanton	Phoenix Islands
+KI	+0152-15720	Pacific/Kiritimati	Line Islands
+KP	+3901+12545	Asia/Pyongyang
+KR	+3733+12658	Asia/Seoul
+KZ	+4315+07657	Asia/Almaty	most of Kazakhstan
+KZ	+4448+06528	Asia/Qyzylorda	Qyzylorda/Kyzylorda/Kzyl-Orda
+KZ	+5312+06337	Asia/Qostanay	Qostanay/Kostanay/Kustanay
+KZ	+5017+05710	Asia/Aqtobe	Aqtöbe/Aktobe
+KZ	+4431+05016	Asia/Aqtau	Mangghystaū/Mankistau
+KZ	+4707+05156	Asia/Atyrau	Atyraū/Atirau/Gur'yev
+KZ	+5113+05121	Asia/Oral	West Kazakhstan
+LB	+3353+03530	Asia/Beirut
+LK	+0656+07951	Asia/Colombo
+LR	+0618-01047	Africa/Monrovia
+LT	+5441+02519	Europe/Vilnius
+LV	+5657+02406	Europe/Riga
+LY	+3254+01311	Africa/Tripoli
+MA	+3339-00735	Africa/Casablanca
+MD	+4700+02850	Europe/Chisinau
+MH	+0905+16720	Pacific/Kwajalein	Kwajalein
+MM,CC	+1647+09610	Asia/Yangon
+MN	+4755+10653	Asia/Ulaanbaatar	most of Mongolia
+MN	+4801+09139	Asia/Hovd	Bayan-Ölgii, Govi-Altai, Hovd, Uvs, Zavkhan
+MN	+4804+11430	Asia/Choibalsan	Dornod, Sükhbaatar
+MO	+221150+1133230	Asia/Macau
+MQ	+1436-06105	America/Martinique
+MT	+3554+01431	Europe/Malta
+MU	-2010+05730	Indian/Mauritius
+MV,TF	+0410+07330	Indian/Maldives	Kerguelen, St Paul I, Amsterdam I
+MX	+1924-09909	America/Mexico_City	Central Mexico
+MX	+2105-08646	America/Cancun	Quintana Roo
+MX	+2058-08937	America/Merida	Campeche, Yucatán
+MX	+2540-10019	America/Monterrey	Durango; Coahuila, Nuevo León, Tamaulipas (most areas)
+MX	+2550-09730	America/Matamoros	Coahuila, Nuevo León, Tamaulipas (US border)
+MX	+2838-10605	America/Chihuahua	Chihuahua (most areas)
+MX	+3144-10629	America/Ciudad_Juarez	Chihuahua (US border - west)
+MX	+2934-10425	America/Ojinaga	Chihuahua (US border - east)
+MX	+2313-10625	America/Mazatlan	Baja California Sur, Nayarit (most areas), Sinaloa
+MX	+2048-10515	America/Bahia_Banderas	Bahía de Banderas
+MX	+2904-11058	America/Hermosillo	Sonora
+MX	+3232-11701	America/Tijuana	Baja California
+MY,BN	+0133+11020	Asia/Kuching	Sabah, Sarawak
+MZ,BI,BW,CD,MW,RW,ZM,ZW	-2558+03235	Africa/Maputo	Central Africa Time
+NA	-2234+01706	Africa/Windhoek
+NC	-2216+16627	Pacific/Noumea
+NF	-2903+16758	Pacific/Norfolk
+NG,AO,BJ,CD,CF,CG,CM,GA,GQ,NE	+0627+00324	Africa/Lagos	West Africa Time
+NI	+1209-08617	America/Managua
+NP	+2743+08519	Asia/Kathmandu
+NR	-0031+16655	Pacific/Nauru
+NU	-1901-16955	Pacific/Niue
+NZ,AQ	-3652+17446	Pacific/Auckland	New Zealand time
+NZ	-4357-17633	Pacific/Chatham	Chatham Islands
+PA,CA,KY	+0858-07932	America/Panama	EST - ON (Atikokan), NU (Coral H)
+PE	-1203-07703	America/Lima
+PF	-1732-14934	Pacific/Tahiti	Society Islands
+PF	-0900-13930	Pacific/Marquesas	Marquesas Islands
+PF	-2308-13457	Pacific/Gambier	Gambier Islands
+PG,AQ,FM	-0930+14710	Pacific/Port_Moresby	Papua New Guinea (most areas), Chuuk, Yap, Dumont d'Urville
+PG	-0613+15534	Pacific/Bougainville	Bougainville
+PH	+1435+12100	Asia/Manila
+PK	+2452+06703	Asia/Karachi
+PL	+5215+02100	Europe/Warsaw
+PM	+4703-05620	America/Miquelon
+PN	-2504-13005	Pacific/Pitcairn
+PR,AG,CA,AI,AW,BL,BQ,CW,DM,GD,GP,KN,LC,MF,MS,SX,TT,VC,VG,VI	+182806-0660622	America/Puerto_Rico	AST - QC (Lower North Shore)
+PS	+3130+03428	Asia/Gaza	Gaza Strip
+PS	+313200+0350542	Asia/Hebron	West Bank
+PT	+3843-00908	Europe/Lisbon	Portugal (mainland)
+PT	+3238-01654	Atlantic/Madeira	Madeira Islands
+PT	+3744-02540	Atlantic/Azores	Azores
+PW	+0720+13429	Pacific/Palau
+PY	-2516-05740	America/Asuncion
+QA,BH	+2517+05132	Asia/Qatar
+RO	+4426+02606	Europe/Bucharest
+RS,BA,HR,ME,MK,SI	+4450+02030	Europe/Belgrade
+RU	+5443+02030	Europe/Kaliningrad	MSK-01 - Kaliningrad
+RU	+554521+0373704	Europe/Moscow	MSK+00 - Moscow area
+# Mention RU and UA alphabetically.  See "territorial claims" above.
+RU,UA	+4457+03406	Europe/Simferopol	Crimea
+RU	+5836+04939	Europe/Kirov	MSK+00 - Kirov
+RU	+4844+04425	Europe/Volgograd	MSK+00 - Volgograd
+RU	+4621+04803	Europe/Astrakhan	MSK+01 - Astrakhan
+RU	+5134+04602	Europe/Saratov	MSK+01 - Saratov
+RU	+5420+04824	Europe/Ulyanovsk	MSK+01 - Ulyanovsk
+RU	+5312+05009	Europe/Samara	MSK+01 - Samara, Udmurtia
+RU	+5651+06036	Asia/Yekaterinburg	MSK+02 - Urals
+RU	+5500+07324	Asia/Omsk	MSK+03 - Omsk
+RU	+5502+08255	Asia/Novosibirsk	MSK+04 - Novosibirsk
+RU	+5322+08345	Asia/Barnaul	MSK+04 - Altai
+RU	+5630+08458	Asia/Tomsk	MSK+04 - Tomsk
+RU	+5345+08707	Asia/Novokuznetsk	MSK+04 - Kemerovo
+RU	+5601+09250	Asia/Krasnoyarsk	MSK+04 - Krasnoyarsk area
+RU	+5216+10420	Asia/Irkutsk	MSK+05 - Irkutsk, Buryatia
+RU	+5203+11328	Asia/Chita	MSK+06 - Zabaykalsky
+RU	+6200+12940	Asia/Yakutsk	MSK+06 - Lena River
+RU	+623923+1353314	Asia/Khandyga	MSK+06 - Tomponsky, Ust-Maysky
+RU	+4310+13156	Asia/Vladivostok	MSK+07 - Amur River
+RU	+643337+1431336	Asia/Ust-Nera	MSK+07 - Oymyakonsky
+RU	+5934+15048	Asia/Magadan	MSK+08 - Magadan
+RU	+4658+14242	Asia/Sakhalin	MSK+08 - Sakhalin Island
+RU	+6728+15343	Asia/Srednekolymsk	MSK+08 - Sakha (E), N Kuril Is
+RU	+5301+15839	Asia/Kamchatka	MSK+09 - Kamchatka
+RU	+6445+17729	Asia/Anadyr	MSK+09 - Bering Sea
+SA,AQ,KW,YE	+2438+04643	Asia/Riyadh	Syowa
+SB,FM	-0932+16012	Pacific/Guadalcanal	Pohnpei
+SD	+1536+03232	Africa/Khartoum
+SG,MY	+0117+10351	Asia/Singapore	peninsular Malaysia
+SR	+0550-05510	America/Paramaribo
+SS	+0451+03137	Africa/Juba
+ST	+0020+00644	Africa/Sao_Tome
+SV	+1342-08912	America/El_Salvador
+SY	+3330+03618	Asia/Damascus
+TC	+2128-07108	America/Grand_Turk
+TD	+1207+01503	Africa/Ndjamena
+TH,CX,KH,LA,VN	+1345+10031	Asia/Bangkok	north Vietnam
+TJ	+3835+06848	Asia/Dushanbe
+TK	-0922-17114	Pacific/Fakaofo
+TL	-0833+12535	Asia/Dili
+TM	+3757+05823	Asia/Ashgabat
+TN	+3648+01011	Africa/Tunis
+TO	-210800-1751200	Pacific/Tongatapu
+TR	+4101+02858	Europe/Istanbul
+TW	+2503+12130	Asia/Taipei
+UA	+5026+03031	Europe/Kyiv	most of Ukraine
+US	+404251-0740023	America/New_York	Eastern (most areas)
+US	+421953-0830245	America/Detroit	Eastern - MI (most areas)
+US	+381515-0854534	America/Kentucky/Louisville	Eastern - KY (Louisville area)
+US	+364947-0845057	America/Kentucky/Monticello	Eastern - KY (Wayne)
+US	+394606-0860929	America/Indiana/Indianapolis	Eastern - IN (most areas)
+US	+384038-0873143	America/Indiana/Vincennes	Eastern - IN (Da, Du, K, Mn)
+US	+410305-0863611	America/Indiana/Winamac	Eastern - IN (Pulaski)
+US	+382232-0862041	America/Indiana/Marengo	Eastern - IN (Crawford)
+US	+382931-0871643	America/Indiana/Petersburg	Eastern - IN (Pike)
+US	+384452-0850402	America/Indiana/Vevay	Eastern - IN (Switzerland)
+US	+415100-0873900	America/Chicago	Central (most areas)
+US	+375711-0864541	America/Indiana/Tell_City	Central - IN (Perry)
+US	+411745-0863730	America/Indiana/Knox	Central - IN (Starke)
+US	+450628-0873651	America/Menominee	Central - MI (Wisconsin border)
+US	+470659-1011757	America/North_Dakota/Center	Central - ND (Oliver)
+US	+465042-1012439	America/North_Dakota/New_Salem	Central - ND (Morton rural)
+US	+471551-1014640	America/North_Dakota/Beulah	Central - ND (Mercer)
+US	+394421-1045903	America/Denver	Mountain (most areas)
+US	+433649-1161209	America/Boise	Mountain - ID (south), OR (east)
+US,CA	+332654-1120424	America/Phoenix	MST - AZ (most areas), Creston BC
+US	+340308-1181434	America/Los_Angeles	Pacific
+US	+611305-1495401	America/Anchorage	Alaska (most areas)
+US	+581807-1342511	America/Juneau	Alaska - Juneau area
+US	+571035-1351807	America/Sitka	Alaska - Sitka area
+US	+550737-1313435	America/Metlakatla	Alaska - Annette Island
+US	+593249-1394338	America/Yakutat	Alaska - Yakutat
+US	+643004-1652423	America/Nome	Alaska (west)
+US	+515248-1763929	America/Adak	Alaska - western Aleutians
+US	+211825-1575130	Pacific/Honolulu	Hawaii
+UY	-345433-0561245	America/Montevideo
+UZ	+3940+06648	Asia/Samarkand	Uzbekistan (west)
+UZ	+4120+06918	Asia/Tashkent	Uzbekistan (east)
+VE	+1030-06656	America/Caracas
+VN	+1045+10640	Asia/Ho_Chi_Minh	south Vietnam
+VU	-1740+16825	Pacific/Efate
+WS	-1350-17144	Pacific/Apia
+ZA,LS,SZ	-2615+02800	Africa/Johannesburg
+#
+# The next section contains experimental tab-separated comments for
+# use by user agents like tzselect that identify continents and oceans.
+#
+# For example, the comment "#@AQ<tab>Antarctica/" means the country code
+# AQ is in the continent Antarctica regardless of the Zone name,
+# so Pacific/Auckland should be listed under Antarctica as well as
+# under the Pacific because its line's country codes include AQ.
+#
+# If more than one country code is affected each is listed separated
+# by commas, e.g., #@IS,SH<tab>Atlantic/".  If a country code is in
+# more than one continent or ocean, each is listed separated by
+# commas, e.g., the second column of "#@CY,TR<tab>Asia/,Europe/".
+#
+# These experimental comments are present only for country codes where
+# the continent or ocean is not already obvious from the Zone name.
+# For example, there is no such comment for RU since it already
+# corresponds to Zone names starting with both "Europe/" and "Asia/".
+#
+#@AQ	Antarctica/
+#@IS,SH	Atlantic/
+#@CY,TR	Asia/,Europe/
+#@SJ	Arctic/
+#@CC,CX,KM,MG,YT	Indian/