Update pages/gpt.py
Browse files- pages/gpt.py +8 -9
pages/gpt.py
CHANGED
@@ -17,23 +17,22 @@ model = GPT2LMHeadModel.from_pretrained(
|
|
17 |
model.load_state_dict(torch.load('models/modelgpt.pt', map_location=torch.device('cpu')))
|
18 |
|
19 |
|
20 |
-
length = st.sidebar.slider('
|
21 |
-
num_samples = st.sidebar.slider('
|
22 |
-
temperature = st.sidebar.slider('
|
23 |
-
top_k = st.sidebar.slider('
|
24 |
-
top_p = st.sidebar.slider('
|
25 |
|
26 |
|
27 |
-
st.
|
28 |
-
|
29 |
-
if st.button('Сгенерировать текст'):
|
30 |
|
31 |
with torch.inference_mode():
|
32 |
prompt = tokenizer.encode(prompt, return_tensors='pt')
|
33 |
out = model.generate(
|
34 |
input_ids=prompt,
|
35 |
max_length=length,
|
36 |
-
num_beams=
|
37 |
do_sample=True,
|
38 |
temperature=temperature,
|
39 |
top_k=top_k,
|
|
|
17 |
model.load_state_dict(torch.load('models/modelgpt.pt', map_location=torch.device('cpu')))
|
18 |
|
19 |
|
20 |
+
length = st.sidebar.slider('**Длина генерируемой последовательности:**', 8, 256, 15)
|
21 |
+
num_samples = st.sidebar.slider('**Число генераций:**', 1, 10, 1)
|
22 |
+
temperature = st.sidebar.slider('**Температура:**', 1.0, 10.0, 2.0)
|
23 |
+
top_k = st.sidebar.slider('**Количество наиболее вероятных слов генерации:**', 10, 200, 50)
|
24 |
+
top_p = st.sidebar.slider('**Минимальная суммарная вероятность топовых слов:**', 0.4, 1.0, 0.9)
|
25 |
|
26 |
|
27 |
+
prompt = st.text_input('**Введите текст 👇:**')
|
28 |
+
if st.button('**Сгенерировать текст**'):
|
|
|
29 |
|
30 |
with torch.inference_mode():
|
31 |
prompt = tokenizer.encode(prompt, return_tensors='pt')
|
32 |
out = model.generate(
|
33 |
input_ids=prompt,
|
34 |
max_length=length,
|
35 |
+
num_beams=8,
|
36 |
do_sample=True,
|
37 |
temperature=temperature,
|
38 |
top_k=top_k,
|