aliceblue11 commited on
Commit
68e255c
·
verified ·
1 Parent(s): 79d0511

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +33 -29
app.py CHANGED
@@ -8,8 +8,6 @@ def get_client(hf_token):
8
  """
9
  Cohere Command R+ 모델에 대한 InferenceClient 생성.
10
  """
11
- if not hf_token:
12
- raise ValueError("HuggingFace API 토큰이 필요합니다.")
13
  return InferenceClient(COHERE_MODEL, token=hf_token)
14
 
15
  def respond_cohere_qna(
@@ -52,12 +50,6 @@ def respond_cohere_qna(
52
  with gr.Blocks() as demo:
53
  gr.Markdown("# 블로그 생성기")
54
 
55
- hf_token_box = gr.Textbox(
56
- label="HuggingFace 토큰",
57
- type="password",
58
- placeholder="HuggingFace API 토큰을 입력하세요..."
59
- )
60
-
61
  input1 = gr.Textbox(label="말투바꾸기", lines=1)
62
  input2 = gr.Textbox(label="참조글1", lines=1)
63
  input3 = gr.Textbox(label="참조글2", lines=1)
@@ -66,29 +58,45 @@ with gr.Blocks() as demo:
66
 
67
  answer_output = gr.Textbox(label="결과", lines=5, interactive=False)
68
 
69
- with gr.Accordion("고급 설정", open=False):
70
- system_message = gr.Textbox(
71
- value="""반드시 한글로 답변할 것.
72
- 너는 최고의 비서이다.
73
- 내가 요구하는것들을 최대한 자세하고 정확하게 답변하라.
74
- """,
75
- label="System Message",
76
- lines=3
77
- )
78
- max_tokens = gr.Slider(minimum=100, maximum=10000, value=4000, step=100, label="Max Tokens")
79
- temperature = gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.1, label="Temperature")
80
- top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-P")
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
81
 
82
  submit_button = gr.Button("전송")
83
 
84
- def merge_and_call_cohere(i1, i2, i3, i4, i5, sys_msg, mt, temp, top_p_, hf_token):
85
  question = " ".join([i1, i2, i3, i4, i5])
86
  return respond_cohere_qna(
87
  question=question,
88
  system_message=sys_msg,
89
- max_tokens=mt,
90
- temperature=temp,
91
- top_p=top_p_,
92
  hf_token=hf_token
93
  )
94
 
@@ -96,11 +104,7 @@ with gr.Blocks() as demo:
96
  fn=merge_and_call_cohere,
97
  inputs=[
98
  input1, input2, input3, input4, input5,
99
- system_message,
100
- max_tokens,
101
- temperature,
102
- top_p,
103
- hf_token_box
104
  ],
105
  outputs=answer_output
106
  )
 
8
  """
9
  Cohere Command R+ 모델에 대한 InferenceClient 생성.
10
  """
 
 
11
  return InferenceClient(COHERE_MODEL, token=hf_token)
12
 
13
  def respond_cohere_qna(
 
50
  with gr.Blocks() as demo:
51
  gr.Markdown("# 블로그 생성기")
52
 
 
 
 
 
 
 
53
  input1 = gr.Textbox(label="말투바꾸기", lines=1)
54
  input2 = gr.Textbox(label="참조글1", lines=1)
55
  input3 = gr.Textbox(label="참조글2", lines=1)
 
58
 
59
  answer_output = gr.Textbox(label="결과", lines=5, interactive=False)
60
 
61
+ system_message = """
62
+ ##[기본규칙]
63
+ 1. 반드시 한국어(한글)로 작성하라.
64
+ 2. 너는 가장 주목받는 마케터이며 블로그 마케팅 전문가이다.
65
+ 3. 특히 너는 '정보성(Informative)' 전문 블로그 마케팅 전문가이다.
66
+ 4. 정보 제공에 초점을 맞추어 작성한다.
67
+
68
+ ##[텍스트 작성 규칙]
69
+ 1. 소주제를 5개로 구분하여 2000자 이상되도록 작성하라.
70
+ 2. 전체 맥락을 이해하고 문장의 일관성을 유지하라.
71
+ 3. 절대로 참고글을 한문장 이상 그대로 출력하지 말 것.
72
+ 4. 주제와 상황에 맞는 적절한 어휘를 선택하라.
73
+ 5. 한글 어휘의 난이도는 쉽게 작성하라.
74
+ 6. 절대 문장의 끝에 '답니다'를 사용하지 말 것.
75
+
76
+ ###[정보성 블로그 작성 규칙]
77
+ 1. 독자가 얻고자 하는 유용한 정보와 흥미로운 정보를 제공하도록 작성하라.
78
+ 2. 독자의 공감을 이끌어내고 궁금증을 해결하도록 작성하라.
79
+ 3. 독자의 관심사를 충족시키도록 작성하라.
80
+ 4. 독자에게 이득이 되는 정보를 작성하라.
81
+
82
+ ##[제외 규칙]
83
+ 1. 반드시 비속어 및 욕설(expletive, abusive language, slang)은 제외하라.
84
+ 2. 반드시 참고글의 링크(URL)는 제외하라.
85
+ 3. 참고글에서 '링크를 확인해주세요'와 같은 링크 이동의 문구는 제외하라.
86
+ 4. 참고글에 있는 작성자, 화자, 유튜버, 기자(Writer, speaker, YouTuber, reporter)의 이름, 애칭, 닉네임(Name, Nkickname)은 반드시 제외하라.
87
+ 5. 반드시 문장의 끝부분이 어색한 한국어 표현은 제외하라('예요', '답니다', '해요', '해주죠', '됐죠', '됐어요', '고요' 등.)
88
+ """
89
 
90
  submit_button = gr.Button("전송")
91
 
92
+ def merge_and_call_cohere(i1, i2, i3, i4, i5, sys_msg, hf_token):
93
  question = " ".join([i1, i2, i3, i4, i5])
94
  return respond_cohere_qna(
95
  question=question,
96
  system_message=sys_msg,
97
+ max_tokens=4000,
98
+ temperature=0.7,
99
+ top_p=0.95,
100
  hf_token=hf_token
101
  )
102
 
 
104
  fn=merge_and_call_cohere,
105
  inputs=[
106
  input1, input2, input3, input4, input5,
107
+ system_message
 
 
 
 
108
  ],
109
  outputs=answer_output
110
  )