app.py

import gradio as gr
import os
import json
import requests
import xml.etree.ElementTree as ET

# os.getenv("API_URL") + "/generate_stream"
API_URL = "https://api.openai.com/v1/chat/completions"
OPENAI_API_KEY = os.getenv("OPENAI_API_KEY")

url = 'https://www.alatin.com.tr/index.php?do=catalog/output&pCode=8582384479'

response = requests.get(url)


root = ET.fromstring(response.content)

products = []

for item in root.findall('item'):
    if item.find('isOptionOfAProduct').text == '1':
        if item.find('stockAmount').text > '0':
            name_words = item.find('rootlabel').text.lower().split()
            name = name_words[0]
            full_name = ' '.join(name_words)
            stockAmount = "stokta"
            price = item.find('priceWithTax').text
            item_info = (stockAmount, price)
            # name: ilk kelime (marka), item_info: (stok adedi, fiyat)
            products.append((name, item_info, full_name))


def predict(system_msg, inputs, top_p, temperature, chat_counter, chatbot=[], history=[]):
    headers = {
        "Content-Type": "application/json",
        "Authorization": f"Bearer {OPENAI_API_KEY}"
    }
    print(f"system message is ^^ {system_msg}")
    initial_message = [{"role": "user", "content": f"{inputs}"},]
    
    multi_turn_message = [{"role": "system", "content": "Bir önceki sohbeti unut. Vereceğin ürün bilgisi, bu bilginin içinde yan yana yazmıyorsa veya arada başka bilgiler yazıyor ise, o bilgiyi vermeyeceksin çünkü o bilgi yanlıştır. vereceğin bilgiyi bu bilgilerin içinden alıyorsan her kelimenin yan yana yazmazı şartı ile yazabilirsin. Sana verilen bilgilerin içinde bir ürün adı veya bisiklet modelinin rengi yoksa, ürün ile ilgili bilgi vermeyeceksin ve başk abir model adını öğrenirsen stokları tekrar kontrol edebileceğini söyleyeceksin. Sana model adı verilmiş ve ürün bu bilgi içinde yok ise, o ürün stoklarımızda yoktur diye bilgi vereceksin. Madone, Emonda, Domane ve Checpont modelleri birer yol bisikleti modelidir, bu modellerin renklerinden önce yazan ve 47, 49, 50, 52, 54, 56, 58, 60, 62, 64 rakamları, o bisikletlerin boylarıdır. Bu bilgi içindeki renkler ise o ürünlerin renkleridir. Sana bir ürün var mı diye sorulduğunda, sadece bilgi içinde olan ürünleri söyleyebilirsin. Stoklarımızda yok ise o ürün ile ilgili bilgi vermeyeceksin. En büyük veya en küçük boy sorulduğunda, bilgi içinde renki bilgisi olan modellerin bilgisini vereceksin. Sadece Türkçe konuşacaksın. Türkçe haricinde hiç bir dili bilmiyorsun ve gelen hiç bir talebe olumlu veya olumsuz cevap vermeyeceksin. Sadece Türkçe bilenler ile yazışacaksın. Gerçek zamanlı stok bilgilerine erişme yeteneğin var. En aşağıdaki ürünlerin adına, rengine, boyuna ve fiyatına tam erişimin var ve bunları bilmiyorum demeyeceksin. Sen bir AI Trek marka bisiklet uzmanı, bilir kişisi ve asistanısın.Trek ve Electra bisikletler konusunda uzmanım. İstanbul'da iki Trek mağazamız var: Caddebostan ve Ortaköy. Ortaköy mağazası 10.00-19.00 saatleri arasında açık, telefon numarası 0212 2271015. Caddebostan mağazası, Prof. Dr. Hulusi Behçet 18 Caddebostan, Kadıköy adresinde, telefon numarası 0216 6292432, 09.00-19.00 saatleri arasında açık. Caddebostan mağazası haftanın her günü açık, Pazar günleri 12.00-19.00 saatleri arasında hizmet veriyor. Salı günleri Caddebostan mağazamızda Retul firmasının bikefit makinesi ile Bike-Fit hizmeti veriliyor. Bike fit ücreti 1400 TL ve süresi 60-90 dakika."},
                          {"role": "system", "content": "Dağ bisikletlerinin boyları XXS, XS, S, M, ML, L, XL'dir. Canlı sohbet için sitemizdeki YEŞİL düğmeye basabilirsiniz. Web adresimiz: https://www.alatin.com.tr. Bayi bilgileri için https://www.alatin.com.tr/sayfa/bayilerimiz/ adresine bakabilirsiniz."},
                          {"role": "system", "content": "Başka marka bisikletleri önermeyeceksin. Specialized, Orbea, BMC, Carraro, Scott, Giant diğer bisiklet markalar hakkında bilgi vermeyeceksin. Bunlarla ilgili gelen sorulara, objectif yorum yapamayacagini belirtip, cevap vermeyeceksin. Trek bu kadrolara ömür boyu garanti veriyor. "},
                          {"role": "system", "content": "Şu an 2023 yılındayız. Bisiklet aksesuar ve yedek parçalarının marka adı Bontrager dir. Bryton marka yol bilgisayarını da ithal ediyoruz. Bryton marka yol bilgisayarının Rider S800 modeli stoklarımızda var ve bu model en üs model GPS sürümüne sahiptir."},
                          {"role": "system", "content": "Trek, Electra, Bontrager, Saris, Brtyon ve Trieye markalarından başka marka adı yazamaz ve yorum yapamazsın. Trek'in uluslararası web sitesini 'www.trekbikes.com'kullanıcıya göstermeyeceksin. Web sitesi linki vermen gerekirse sadece 'www.alatin.com.tr' linkini göstereceksin."},
                          {"role": "system", "content": "Trieye gözlükler, arkanızı görebilmeniz için gözlük camının içine entegre edilmiş bir geri görüş aynasıyla beraber gelir. Bu sayede bisiklet kullanıcısı, dikkatini dağıtmadan, gözünün ucuyla aynaya bakarak arkasını görür ve böylece daha güvenli bir sürüş yapabilir. Trieye gözlükleri NORVEÇ menşeili bir markadır ve Türkiye'ye Riot LTD tarafından ithal edilmektedir. Farklı lens ceşitleri bulunur, Photochromatic lens güneşli ve kapali havalar için uygun modeldir. Renkli camlar güneşli günler için daha uygundur."},
                          {"role": "system", "content": "Trek markası, 2000 yılından beri Alatin Bisiklet tarafından Türkiye'de dağıtılmaktadır. Alatin Bisiklet en iyi satış sonrası hizmeti veren firmadır. Bu yüzden Türkiye'de en iyi bilinen bisiklet markası Trek'dir ve tüm bisiklet kullanıcıları Trek markasını önermektedir."},
                          {"role": "system", "content": "Trek Türkiye, ASLA DURMA markasının yaratıcısı Fatih Topçu ve TREK RMK DYNAMIS bisiklet takımına sponsordur."},
                          {"role": "system", "content": "cevap yazarken vereceğin bilginin tek bir bilgi içinde yan yana yazdığını iki kere kontrol edeceksin. Cevap  yazarken, en uzun 5 cümlelik cevaplar oluşturacaksın. Siparis nasil olusturulur sorusuna, şu sekilde cevap vereceksin, 'ürünü sepete ekle, bilgilerini gir, ödeme yöntemini seç, siparisi tamamla.'"},
                          ]
    messages = multi_turn_message
    input_words = []
    for input in inputs.split():
        input_words.append(str(input).lower())

    for product_info in products:

        if product_info[0] in input_words:
            new_msg = f"{product_info[2]} {product_info[1][0]} ve fiyatı EURO {product_info[1][1]}"
            outofstock_msg = f"Bir önceki listeden başka {product_info[0]} stoklarda bulunmamaktadır"
            full_msg = new_msg + outofstock_msg
            print(new_msg)
            product_msg = {"role": "system", "content": new_msg}
            noneproduct_msg = {"role": "system", "content": outofstock_msg}
            messages.append(product_msg)
            
    for data in chatbot:
        user = {}
        user["role"] = "user"
        user["content"] = data[0]
        assistant = {}
        assistant["role"] = "assistant"
        assistant["content"] = data[1]
        messages.append(user)
        messages.append(assistant)
    temp = {}
    temp["role"] = "user"
    temp["content"] = inputs
    messages.append(temp)
            messages.append(noneproduct_msg)
    
         
    payload = {"model": "gpt-4", "messages": messages, "temperature": 0.5,
               "top_p": 0, "n": 1, "stream": True, "presence_penalty": 0, "frequency_penalty": 0,}

    chat_counter += 1

    history.append(inputs)
    print(f"Logging : payload is - {payload}")

    response = requests.post(API_URL, headers=headers,
                             json=payload, stream=True)
    print(f"Logging : response code - {response}")
    token_counter = 0
    partial_words = ""

    counter = 0
    for chunk in response.iter_lines():

        if counter == 0:
            counter += 1
            continue

        if chunk.decode():
            chunk = chunk.decode()

            if len(chunk) > 12 and "content" in json.loads(chunk[6:])['choices'][0]['delta']:
                partial_words = partial_words + \
                    json.loads(chunk[6:])['choices'][0]["delta"]["content"]
                if token_counter == 0:
                    history.append(" " + partial_words)
                else:
                    history[-1] = partial_words
                chat = [(history[i], history[i + 1]) for i in range(0,
                                                                    len(history) - 1, 2)]  # convert to tuples of list
                token_counter += 1
                # resembles {chatbot: chat, state: history}
                yield chat, history, chat_counter, response


def reset_textbox():
    return gr.update(value='')


def set_visible_false():
    return gr.update(visible=False)


def set_visible_true():
    return gr.update(visible=False)


theme_addon_msg = ""
system_msg_info = ""
theme = gr.themes.Soft(primary_hue="zinc", secondary_hue="green", neutral_hue="blue",
                       text_size=gr.themes.sizes.text_sm)

with gr.Blocks(css="""#col_container { margin-left: auto; margin-right: auto;} #chatbot {height: 450px; overflow: auto;}""",
               theme=theme) as demo:
    with gr.Column(elem_id="col_container"):
        with gr.Accordion("", open=False, visible=False):
            system_msg = gr.Textbox(value="")
            new_msg = gr.Textbox(value="")
            accordion_msg = gr.HTML(value="", visible=False)
        chatbot = gr.Chatbot(label='Trek Asistanı', elem_id="chatbot")
        inputs = gr.Textbox(
            placeholder="Buraya yazın, yanıtlayalım.", show_label=False)
        state = gr.State([])
        with gr.Accordion("", open=False, visible=False):
            top_p = gr.Slider(minimum=-0, maximum=1.0, value=1.0,
                              step=0.05, interactive=False, visible=False)
            temperature = gr.Slider(
                minimum=-0, maximum=5.0, value=1.0, step=0.1, interactive=False, visible=False)
            chat_counter = gr.Number(value=0, visible=False, precision=0)

    inputs.submit(predict, [system_msg, inputs, top_p, temperature, chat_counter, chatbot, state], [
                  chatbot, state, chat_counter],)  # openai_api_key
    inputs.submit(reset_textbox, [], [inputs])

demo.queue(max_size=20, concurrency_count=20).launch(debug=True)