Update app.py

app.py

@@ -51,7 +51,6 @@ def compute_metrics(eval_pred):
 ########################################################################
 #Chat KI nutzen, um Text zu generieren...
 def predict(text,
-            history=["[A]", "[B]"],
             top_p=0.3,
             temperature=0.9,
             max_length_tokens=1024,
@@ -61,12 +60,11 @@ def predict(text,
     try:
         model
     except:
-        yield [[text,"No Model Found"]],[],"No Model Found"
-        return
+        return print("fehler model")
 
-    inputs = generate_prompt_with_history(text,history,tokenizer,max_length=max_context_length_tokens)
+    inputs = generate_prompt_with_history(text,tokenizer,max_length=max_context_length_tokens)
     if inputs is None:
-        return 
+        return print("fehler inputs")
     else:
         prompt,inputs=inputs
         begin_length = len(prompt)
@@ -76,6 +74,7 @@ def predict(text,
 
     #torch.no_grad() bedeutet, dass für die betreffenden tensoren keine Ableitungen berechnet werden bei der backpropagation 
     #hier soll das NN ja auch nicht geändert werden 8backprop ist nicht nötig), da es um interference-prompts geht!
+    print("toch.no_grad")
     with torch.no_grad():
         #die vergangenen prompts werden alle als Tupel in history abgelegt sortiert nach 'Human' und 'AI'- dass sind daher auch die stop-words, die den jeweils nächsten Eintrag kennzeichnen        
         for x in greedy_search(input_ids,model,tokenizer,stop_words=["[|Human|]", "[|AI|]"],max_length=max_length_tokens,temperature=temperature,top_p=top_p):