Update app.py

app.py

@@ -76,6 +76,7 @@ def predict(text,
     #hier soll das NN ja auch nicht geändert werden 8backprop ist nicht nötig), da es um interference-prompts geht!
     print("toch.no_grad")
     with torch.no_grad():
+        ausgabe = ""
         #die vergangenen prompts werden alle als Tupel in history abgelegt sortiert nach 'Human' und 'AI'- dass sind daher auch die stop-words, die den jeweils nächsten Eintrag kennzeichnen        
         for x in greedy_search(input_ids,model,tokenizer,stop_words=["[|Human|]", "[|AI|]"],max_length=max_length_tokens,temperature=temperature,top_p=top_p):
             if is_stop_word_or_prefix(x,["[|Human|]", "[|AI|]"]) is False:
@@ -83,15 +84,16 @@ def predict(text,
                     x = x[:x.index("[|Human|]")].strip()
                 if "[|AI|]" in x:
                     x = x[:x.index("[|AI|]")].strip() 
-                x = x.strip()   
-                a, b=   [[y[0],convert_to_markdown(y[1])] for y in history]+[[text, convert_to_markdown(x)]],history + [[text,x]]
+                x = x.strip()
+                ausgabe = ausgabe + x
+                # a, b=   [[y[0],convert_to_markdown(y[1])] for y in history]+[[text, convert_to_markdown(x)]],history + [[text,x]]
                 print("Erzeuge")
-                return a,b
+                return ausgabe
             if shared_state.interrupted:
                 shared_state.recover()
                 try:
                     print("Erfolg")
-                    return a,b
+                    return ausgabe
                 except:
                     pass
     del input_ids