consider time context in prompt

app.py

@@ -24,7 +24,7 @@ if torch.cuda.is_available():
     model_id = "vericava/llm-jp-3-1.8b-instruct-lora-vericava17"
     base_model_id = "llm-jp/llm-jp-3-1.8b-instruct"
     tokenizer = AutoTokenizer.from_pretrained(base_model_id, trust_remote_code=True)
-    tokenizer.chat_template = "{{bos_token}}{% for message in messages %}{% if message['role'] == 'user' %}{{ '\\n\\n### 前の投稿:\\n' + message['content'] + '' }}{% elif message['role'] == 'system' %}{{ '以下は、SNS上の投稿です。あなたはSNSの投稿生成botとして、次に続く投稿を考えなさい。説明はせず、投稿の内容のみを鉤括弧をつけずに答えよ。' }}{% elif message['role'] == 'assistant' %}{{ '\\n\\n### 次の投稿:\\n' + message['content'] + eos_token }}{% endif %}{% if loop.last and add_generation_prompt %}{{ '\\n\\n### 次の投稿:\\n' }}{% endif %}{% endfor %}"
+    tokenizer.chat_template = "{{bos_token}}{% for message in messages %}{% if message['role'] == 'user' %}{{ '\\n\\n### 前の投稿:\\n' + message['content'] + '' }}{% elif message['role'] == 'system' %}{{ '以下は、SNS上の投稿です。あなたはSNSの投稿生成botとして、次に続く投稿を考えなさい。説明はせず、投稿の内容のみを鉤括弧をつけずに答えよ。' + message['content'] }}{% elif message['role'] == 'assistant' %}{{ '\\n\\n### 次の投稿:\\n' + message['content'] + eos_token }}{% endif %}{% if loop.last and add_generation_prompt %}{{ '\\n\\n### 次の投稿:\\n' }}{% endif %}{% endfor %}"
     model = AutoModelForCausalLM.from_pretrained(
         base_model_id,
         trust_remote_code=True,
@@ -49,8 +49,27 @@ def generate(
     top_k: int = 50,
     repetition_penalty: float = 1.0,
 ) -> Iterator[str]:
+    from datetime import datetime, timezone, timedelta
+
+    d=datetime.now(timezone(timedelta(hours=9), 'JST'))
+    m=d.month
+    if m < 3 or m > 11:
+        season = '冬'
+    elif m < 6:
+        season = '春'
+    elif m < 9:
+        season = '夏'
+    else:
+        season = '秋'
+
+    h=d.hour
+    go = '午前' if h < 12 else '午後'
+    h = h % 12
+    minute = d.minute
+    time = go + str(h) + '時' + str(minute) + '分'
+
     messages = [
-        {"role": "system", "content": "あなたはSNSの投稿生成botで、次に続く投稿を考えてください。"},
+        {"role": "system", "content": "なお今は日本の" + season + "で、時刻は" + time + "であるものとする。"},
         {"role": "user", "content": message},
     ]