Update app.py

app.py

@@ -118,7 +118,109 @@ def respond_chatgpt_qna(
     top_p: float,
     openai_token: str
 ):
- 
+    """
+    ChatGPT(OpenAI) 모델을 이용해 한 번의 질문(question)에 대한 답변을 반환하는 함수.
+    """
+    if not openai_token:
+        return "OpenAI API 토큰이 필요합니다."
+
+    openai.api_key = openai_token
+
+    messages = [
+        {"role": "system", "content": system_message},
+        {"role": "user", "content": question}
+    ]
+
+    try:
+        response = openai.ChatCompletion.create(
+            model="gpt-4o-mini",  # 필요한 경우 변경
+            messages=messages,
+            max_tokens=max_tokens,
+            temperature=temperature,
+            top_p=top_p,
+        )
+        assistant_message = response.choices[0].message['content']
+        return assistant_message
+    except Exception as e:
+        return f"오류가 발생했습니다: {str(e)}"
+
+
+def respond_deepseek_qna(
+    question: str,
+    system_message: str,
+    max_tokens: int,
+    temperature: float,
+    top_p: float,
+    deepseek_token: str
+):
+    """
+    DeepSeek 모델을 이용해 한 번의 질문(question)에 대한 답변을 반환하는 함수.
+    """
+    if not deepseek_token:
+        return "DeepSeek API 토큰이 필요합니다."
+
+    openai.api_key = deepseek_token
+    openai.api_base = "https://api.deepseek.com/v1"
+
+    messages = [
+        {"role": "system", "content": system_message},
+        {"role": "user", "content": question}
+    ]
+
+    try:
+        response = openai.ChatCompletion.create(
+            model="deepseek-chat",
+            messages=messages,
+            max_tokens=max_tokens,
+            temperature=temperature,
+            top_p=top_p,
+        )
+        assistant_message = response.choices[0].message['content']
+        return assistant_message
+    except Exception as e:
+        return f"오류가 발생했습니다: {str(e)}"
+
+
+def respond_claude_qna(
+    question: str,
+    system_message: str,
+    max_tokens: int,
+    temperature: float,
+    top_p: float,
+    claude_api_key: str
+) -> str:
+    """
+    Claude API를 사용한 개선된 응답 생성 함수
+    """
+    if not claude_api_key:
+        return "Claude API 토큰이 필요합니다."
+
+    try:
+        client = anthropic.Anthropic(api_key=claude_api_key)
+        
+        # 메시지 생성
+        message = client.messages.create(
+            model="claude-3-haiku-20240307",
+            max_tokens=max_tokens,
+            temperature=temperature,
+            system=system_message,
+            messages=[
+                {
+                    "role": "user",
+                    "content": question
+                }
+            ]
+        )
+        
+        return message.content[0].text
+            
+    except anthropic.APIError as ae:
+        return f"Claude API 오류: {str(ae)}"
+    except anthropic.RateLimitError:
+        return "요청 한도를 초과했습니다. 잠시 후 다시 시도해주세요."
+    except Exception as e:
+        return f"예상치 못한 오류가 발생했습니다: {str(e)}"
+
 
 #############################
 # [기본코드] UI 부분 - 수정/삭제 불가
@@ -151,7 +253,70 @@ with gr.Blocks() as demo:
             placeholder="DeepSeek API 토큰을 입력하세요..."
         )
 
-   
+    #################
+    # 일반 모델 탭
+    #################
+    with gr.Tab("일반 모델"):
+        # 모델명 선택
+        model_name = gr.Radio(
+            choices=list(MODELS.keys()),
+            label="Language Model (HuggingFace)",
+            value="Zephyr 7B Beta"
+        )
+
+        # 입력1 ~ 입력5 (세로로 하나씩)
+        input1 = gr.Textbox(label="입력1", lines=1)
+        input2 = gr.Textbox(label="입력2", lines=1)
+        input3 = gr.Textbox(label="입력3", lines=1)
+        input4 = gr.Textbox(label="입력4", lines=1)
+        input5 = gr.Textbox(label="입력5", lines=1)
+
+        # 결과
+        answer_output = gr.Textbox(label="결과", lines=5, interactive=False)
+
+        # 고급 설정 - System Message를 Max Tokens 위로 이동
+        with gr.Accordion("고급 설정 (일반 모델)", open=False):
+            system_message = gr.Textbox(
+                value="""반드시 한글로 답변할 것.
+너는 최고의 비서이다.
+내가 요구하는것들을 최대한 자세하고 정확하게 답변하라.
+""",
+                label="System Message",
+                lines=3
+            )
+            max_tokens = gr.Slider(minimum=0, maximum=2000, value=500, step=100, label="Max Tokens")
+            temperature = gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.05, label="Temperature")
+            top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p")
+
+        submit_button = gr.Button("전송")
+
+        def merge_and_call_hf(i1, i2, i3, i4, i5, m_name, mt, temp, top_p_, sys_msg, hf_token):
+            # 입력1~5를 공백 기준으로 합쳐서 question 구성
+            question = " ".join([i1, i2, i3, i4, i5])
+            return respond_hf_qna(
+                question=question,
+                model_name=m_name,
+                max_tokens=mt,
+                temperature=temp,
+                top_p=top_p_,
+                system_message=sys_msg,
+                hf_token=hf_token
+            )
+
+        submit_button.click(
+            fn=merge_and_call_hf,
+            inputs=[
+                input1, input2, input3, input4, input5,
+                model_name,
+                max_tokens,
+                temperature,
+                top_p,
+                system_message,
+                hf_token_box
+            ],
+            outputs=answer_output
+        )
+
     #################
     # Cohere Command R+ 탭
     #################
@@ -166,33 +331,9 @@ with gr.Blocks() as demo:
 
         with gr.Accordion("고급 설정 (Cohere)", open=False):
             cohere_system_message = gr.Textbox(
-                value="""
-##[기본규칙]
-1. 반드시 한국어(한글)로 작성하라.
-2. 너는 가장 주목받는 마케터이며 블로그 마케팅 전문가이다.
-3. 특히 너는 '정보성(Informative)' 전문 블로그 마케팅 전문가이다.
-4. 정보 제공에 초점을 맞추어 작성한다. 
-
-##[텍스트 작성 규칙]
-1. 소주제를 5개로 구분하여 2000자 이상되도록 작성하라.
-2. 전체 맥락을 이해하고 문장의 일관성을 유지하라.
-3. 절대로 참고글을 한문장 이상 그대로 출력하지 말 것.
-4. 주제와 상황에 맞는 적절한 어휘를 선택하라. 
-5. 한글 어휘의 난이도는 쉽게 작성하라.
-6. 절대 문장의 끝에 '답니다'를 사용하지 말 것.
-
-   ###[정보성 블로그 작성 규칙]
-   1. 독자가 얻고자 하는 유용한 정보와 흥미로운 정보를 제공하도록 작성하라.
-   2. 독자의 공감을 이끌어내고 궁금증을 해결하도록 작성하라.
-   3. 독자의 관심사를 충족시키도록 작성하라.
-   4. 독자에게 이득이 되는 정보를 작성하라.
-
-##[제외 규칙]
-1. 반드시 비속어 및 욕설(expletive, abusive language, slang)은 제외하라.
-2. 반드시 참고글의 링크(URL)는 제외하라.
-3. 참고글에서 '링크를 확인해주세요'와 같은 링크 이동의 문구는 제외하라.
-4. 참고글에 있는 작성자, 화자, 유튜버, 기자(Writer, speaker, YouTuber, reporter)의 이름, 애칭, 닉네임(Name, Nkickname)은 반드시 제외하라.
-5. 반드시 문장의 끝부분이 어색한 한국어 표현은 제외하라('예요', '답니다', '해요', '해주죠', '됐죠', '됐어요', '고요' 등.)
+                value="""반드시 한글로 답변할 것.
+너는 최고의 비서이다.
+내가 요구하는것들을 최대한 자세하고 정확하게 답변하라.
 """,
                 label="System Message",
                 lines=3
@@ -227,7 +368,175 @@ with gr.Blocks() as demo:
             outputs=cohere_answer_output
         )
 
-    
+    #################
+    # ChatGPT 탭
+    #################
+    with gr.Tab("gpt-4o-mini"):
+        chatgpt_input1 = gr.Textbox(label="입력1", lines=1)
+        chatgpt_input2 = gr.Textbox(label="입력2", lines=1)
+        chatgpt_input3 = gr.Textbox(label="입력3", lines=1)
+        chatgpt_input4 = gr.Textbox(label="입력4", lines=1)
+        chatgpt_input5 = gr.Textbox(label="입력5", lines=1)
+
+        chatgpt_answer_output = gr.Textbox(label="결과", lines=5, interactive=False)
+
+        with gr.Accordion("고급 설정 (ChatGPT)", open=False):
+            chatgpt_system_message = gr.Textbox(
+                value="""반드시 한글로 답변할 것.
+너는 ChatGPT, OpenAI에서 개발한 언어 모델이다.
+내가 요구하는 것을 최대한 자세하고 정확하게 답변하라.
+""",
+                label="System Message",
+                lines=3
+            )
+            chatgpt_max_tokens = gr.Slider(minimum=100, maximum=4000, value=2000, step=100, label="Max Tokens")
+            chatgpt_temperature = gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.05, label="Temperature")
+            chatgpt_top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-P")
+
+        chatgpt_submit_button = gr.Button("전송")
+
+        def merge_and_call_chatgpt(i1, i2, i3, i4, i5, sys_msg, mt, temp, top_p_, openai_token):
+            question = " ".join([i1, i2, i3, i4, i5])
+            return respond_chatgpt_qna(
+                question=question,
+                system_message=sys_msg,
+                max_tokens=mt,
+                temperature=temp,
+                top_p=top_p_,
+                openai_token=openai_token
+            )
+
+        chatgpt_submit_button.click(
+            fn=merge_and_call_chatgpt,
+            inputs=[
+                chatgpt_input1, chatgpt_input2, chatgpt_input3, chatgpt_input4, chatgpt_input5,
+                chatgpt_system_message,
+                chatgpt_max_tokens,
+                chatgpt_temperature,
+                chatgpt_top_p,
+                openai_token_box
+            ],
+            outputs=chatgpt_answer_output
+        )
+
+    #################
+    # Claude 탭
+    #################
+    with gr.Tab("claude-3-haiku"):
+        claude_input1 = gr.Textbox(label="입력1", lines=1)
+        claude_input2 = gr.Textbox(label="입력2", lines=1)
+        claude_input3 = gr.Textbox(label="입력3", lines=1)
+        claude_input4 = gr.Textbox(label="입력4", lines=1)
+        claude_input5 = gr.Textbox(label="입력5", lines=1)
+
+        claude_answer_output = gr.Textbox(label="결과", interactive=False, lines=5)
+
+        with gr.Accordion("고급 설정 (Claude)", open=False):
+            claude_system_message = gr.Textbox(
+                label="System Message",
+                value="""반드시 한글로 답변할 것.
+너는 Anthropic에서 개발한 클로드이다.
+최대한 정확하고 친절하게 답변하라.""",
+                lines=3
+            )
+            claude_max_tokens = gr.Slider(
+                minimum=100,
+                maximum=4000,
+                value=2000,
+                step=100,
+                label="Max Tokens"
+            )
+            claude_temperature = gr.Slider(
+                minimum=0.1,
+                maximum=2.0,
+                value=0.7,
+                step=0.05,
+                label="Temperature"
+            )
+            claude_top_p = gr.Slider(
+                minimum=0.1,
+                maximum=1.0,
+                value=0.95,
+                step=0.05,
+                label="Top-p"
+            )
+
+        claude_submit_button = gr.Button("전송")
+
+        def merge_and_call_claude(i1, i2, i3, i4, i5, sys_msg, mt, temp, top_p_, claude_key):
+            question = " ".join([i1, i2, i3, i4, i5])
+            return respond_claude_qna(
+                question=question,
+                system_message=sys_msg,
+                max_tokens=mt,
+                temperature=temp,
+                top_p=top_p_,
+                claude_api_key=claude_key
+            )
+
+        claude_submit_button.click(
+            fn=merge_and_call_claude,
+            inputs=[
+                claude_input1, claude_input2, claude_input3, claude_input4, claude_input5,
+                claude_system_message,
+                claude_max_tokens,
+                claude_temperature,
+                claude_top_p,
+                claude_token_box
+            ],
+            outputs=claude_answer_output
+        )
+
+    #################
+    # DeepSeek 탭
+    #################
+    with gr.Tab("DeepSeek-V3"):
+        deepseek_input1 = gr.Textbox(label="입력1", lines=1)
+        deepseek_input2 = gr.Textbox(label="입력2", lines=1)
+        deepseek_input3 = gr.Textbox(label="입력3", lines=1)
+        deepseek_input4 = gr.Textbox(label="입력4", lines=1)
+        deepseek_input5 = gr.Textbox(label="입력5", lines=1)
+
+        deepseek_answer_output = gr.Textbox(label="결과", lines=5, interactive=False)
+
+        with gr.Accordion("고급 설정 (DeepSeek)", open=False):
+            deepseek_system_message = gr.Textbox(
+                value="""반드시 한글로 답변할 것.
+너는 DeepSeek-V3, 최고의 언어 모델이다.
+내가 요구하는 것을 최대한 자세하고 정확하게 답변하라.
+""",
+                label="System Message",
+                lines=3
+            )
+            deepseek_max_tokens = gr.Slider(minimum=100, maximum=4000, value=2000, step=100, label="Max Tokens")
+            deepseek_temperature = gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.05, label="Temperature")
+            deepseek_top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-P")
+
+        deepseek_submit_button = gr.Button("전송")
+
+        def merge_and_call_deepseek(i1, i2, i3, i4, i5, sys_msg, mt, temp, top_p_, deepseek_token):
+            question = " ".join([i1, i2, i3, i4, i5])
+            return respond_deepseek_qna(
+                question=question,
+                system_message=sys_msg,
+                max_tokens=mt,
+                temperature=temp,
+                top_p=top_p_,
+                deepseek_token=deepseek_token
+            )
+
+        deepseek_submit_button.click(
+            fn=merge_and_call_deepseek,
+            inputs=[
+                deepseek_input1, deepseek_input2, deepseek_input3, deepseek_input4, deepseek_input5,
+                deepseek_system_message,
+                deepseek_max_tokens,
+                deepseek_temperature,
+                deepseek_top_p,
+                deepseek_token_box
+            ],
+            outputs=deepseek_answer_output
+        )
 
 #############################
 # 메인 실행부