File size: 3,527 Bytes
b75809a |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 |
import streamlit as st
from transformers import AutoTokenizer, AutoModel, AutoModelForCausalLM
st.title("Jogi Dokumentumok AI Tokenizálása és Válaszgenerálás")
# Információs szekció
st.write(
"""
Ez az alkalmazás tokenizálja a megadott jogi dokumentumot az általad választott modell segítségével,
majd generál válaszokat a megadott modell használatával.
"""
)
# Tokenizáló modell választása
tokenizer_name = st.selectbox("Tokenizáló Modell", ["pile-of-law/legalbert-large-1.7M-2", "bert-base-uncased", "bert-base-multilingual-cased"])
tokenizer = AutoTokenizer.from_pretrained(tokenizer_name)
# Válaszgeneráló modell választása
generator_name = st.selectbox("Válaszgeneráló Modell", ["microsoft/phi-2", "gpt2", "gpt2-medium"])
model = AutoModelForCausalLM.from_pretrained(generator_name, trust_remote_code=True)
# Input mező a jogi dokumentumhoz
document_text = st.text_area("Jogi Dokumentum", "")
# Generálási paraméterek testreszabása
max_length = st.slider("Maximális Válasz Hossz", min_value=10, max_value=200, value=50, step=10)
num_return_sequences = st.slider("Válaszok Száma", min_value=1, max_value=5, value=3, step=1)
temperature = st.slider("Hőmérséklet", min_value=0.1, max_value=2.0, value=0.7, step=0.1)
if st.button("Tokenizálás"):
# Tokenizálás
tokenized_document = tokenizer(document_text, return_tensors="pt")
# Tokenizált dokumentum mentése
with open("tokenized_document.txt", "w", encoding="utf-8") as file:
file.write(str(tokenized_document))
if st.button("Válaszgenerálás"):
# Válasz generálása
input_ids = tokenized_document["input_ids"]
output = model.generate(input_ids, max_length=max_length, num_return_sequences=num_return_sequences, temperature=temperature)
# Válaszok megjelenítése és mentése fájlba
st.subheader("Generált Válaszok:")
# Válaszok kiválasztása
selected_responses = st.multiselect("Válaszok Kiválasztása", [f"Válasz {i+1}" for i in range(num_return_sequences)])
for i, generated_sequence in enumerate(output):
response_text = tokenizer.decode(generated_sequence, skip_special_tokens=True)
# Válasz megjelenítése csak akkor, ha kiválasztották
if f"Válasz {i+1}" in selected_responses:
st.write(f"Válasz {i+1}: {response_text}")
# Valószínűségek megjelenítése
if hasattr(model, "get_output_embeddings"):
logits = model.get_output_embeddings()(generated_sequence)
probs = logits.softmax(dim=-1)
st.write("Valószínűségek:")
st.table(probs.tolist())
# Fájlba mentés opció
if st.button(f"Mentés Válasz {i+1}"):
with open(f"generated_response_{i+1}.txt", "w", encoding="utf-8") as file:
file.write(response_text)
st.write(f"A válasz {i+1} sikeresen el lett mentve.")
# Generált válaszok egyetlen fájlba mentése
if st.button("Mentés Összes Válasz"):
with open("all_generated_responses.txt", "w", encoding="utf-8") as file:
for i, generated_sequence in enumerate(output):
generated_text = tokenizer.decode(generated_sequence, skip_special_tokens=True)
file.write(f"Válasz {i+1}:\n")
file.write(generated_text + "\n\n")
st.write("Az összes válasz sikeresen el lett mentve egy fájlba.")
|