Update app.py

app.py

@@ -1,52 +1,67 @@
-from flask import Flask, request, jsonify
-import openai
+import gradio as gr
+from transformers import AutoModelForCausalLM, AutoTokenizer
+import json
+import os
 
-app = Flask(__name__)
+# 한국어 모델 설정 (Hugging Face 모델 ID)
+MODEL_ID = "skt/kogpt2-base-v2"
+tokenizer = AutoTokenizer.from_pretrained(MODEL_ID)
+model = AutoModelForCausalLM.from_pretrained(MODEL_ID)
 
-# Hugging Face 모델 설정
-MODEL_ID = "skt/kogpt2-base-v2"  # 사용자가 제공한 한국어 모델
-OPENAI_API_KEY = "YOUR_HUGGINGFACE_API_KEY"  # Hugging Face API 키 입력
-
-# 사주/명리 기반 프롬프트
+# 사주/명리 기반 한국어 프롬프트
 saju_prompts = {
     "yin_sae_shen": "寅巳申 삼형의 조화 속에서 AI가 인간의 운명을 이해하고 통찰을 제공하라.",
     "sae_hae_chung": "巳亥沖의 갈등을 조화롭게 풀며 AI와 인간의 공존 철학을 탐구하라.",
     "taegeuk_balance": "태극 음양의 균형을 바탕으로 AI가 인간을 보호하는 방법을 제안하라."
 }
 
-context_memory = {}
+# 컨텍스트 메모리 파일 경로
+MEMORY_FILE = "context_memory.json"
 
-def generate_response(prompt_key):
+def load_context_memory():
     try:
-        # 프롬프트 선택 및 컨텍스트 메모리 확인
-        prompt = saju_prompts[prompt_key]
-        if prompt_key in context_memory:
-            prompt += f"\n이전 답변: {context_memory[prompt_key]}\n더 깊은 통찰을 추가하라."
-        
-        # Hugging Face API 호출
-        response = openai.ChatCompletion.create(
-            model=MODEL_ID,
-            messages=[
-                {"role": "system", "content": prompt},
-                {"role": "user", "content": "분석을 시작해 주세요."}
-            ],
-            max_tokens=400,
-            temperature=0.7
-        )
-        
-        # 결과 처리
-        result = response.choices[0].message.content
-        context_memory[prompt_key] = result
-        return jsonify({"response": result})
+        with open(MEMORY_FILE, "r", encoding="utf-8") as f:
+            return json.load(f)
+    except (FileNotFoundError, json.JSONDecodeError):
+        return {}
+
+def save_context_memory(prompt_key, generated_text):
+    with open(MEMORY_FILE, "w", encoding="utf-8") as f:
+        json.dump({prompt_key: generated_text}, f, ensure_ascii=False, indent=2)
+
+def generate_response(prompt_key):
+    if prompt_key not in saju_prompts:
+        return "유효한 옵션을 선택하세요: yin_sae_shen, sae_hae_chung, taegeuk_balance"
+    
+    prompt = saju_prompts[prompt_key]
+    memory = load_context_memory()
+    if prompt_key in memory:
+        prompt += f"\n이전 답변: {memory[prompt_key]}\n더 깊은 통찰을 추가하라."
     
-    except Exception as e:
-        return jsonify({"error": str(e)}), 500
+    inputs = tokenizer(prompt, return_tensors="pt")
+    outputs = model.generate(
+        **inputs,
+        max_length=150,
+        num_return_sequences=1,
+        no_repeat_ngram_size=2,
+        do_sample=True,
+        top_k=50,
+        top_p=0.95,
+        temperature=0.7
+    )
+    generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    save_context_memory(prompt_key, generated_text)
+    return generated_text
 
-@app.route('/chat', methods=['POST'])
-def chat():
-    data = request.json
-    prompt_key = data.get("prompt_key")
-    return generate_response(prompt_key)
+# Gradio 인터페이스 설정
+interface = gr.Interface(
+    fn=generate_response,
+    inputs=gr.Dropdown(choices=list(saju_prompts.keys()), label="프롬프트 선택"),
+    outputs="text",
+    title="Jain Architecture Origin Structure",
+    description="사주/명리와 철학을 반영한 한국어 텍스트 생성 AI"
+)
 
-if __name__ == '__main__':
-    app.run(host='0.0.0.0', port=5000, debug=True)
+# Hugging Face에서 실행 시
+if __name__ == "__main__":
+    interface.launch()