Spaces:
Sleeping
Sleeping
A newer version of the Gradio SDK is available:
5.42.0
RemoteAgent ํ๋ก์ ํธ - Grok LLM ์ถ๊ฐ ๊ณํ
ํ๋ก์ ํธ ๊ฐ์
ํ์ฌ RemoteAgent ํ๋ก์ ํธ๋ OpenAI์ DeepSeek ๋ ๊ฐ์ง LLM์ ์ ํํ์ฌ ์ฌ์ฉํ ์ ์๋ RAG ๊ธฐ๋ฐ ์ฑ๋ด ์์คํ ์ ๋๋ค. ์ด ํ๋ก์ ํธ์ Grok LLM์ ์ถ๊ฐํ๋ ์์ ์ ์ํํ์ต๋๋ค.
ํ์ฌ ํ๋ก์ ํธ ๊ตฌ์กฐ ๋ถ์
LLM ์ธํฐํ์ด์ค ๊ตฌ์กฐ
ํ์ฌ ํ๋ก์ ํธ๋ ๋ค์๊ณผ ๊ฐ์ ์ธํฐํ์ด์ค ๋ฐ ํด๋ผ์ด์ธํธ ๊ตฌ์กฐ๋ฅผ ๊ฐ์ง๊ณ ์์ต๋๋ค:
LLM ์ธํฐํ์ด์ค ํด๋์ค (
utils/llm_interface.py
)- ๋ค์ํ LLM API๋ฅผ ํตํฉ ๊ด๋ฆฌํ๋ ์ธํฐํ์ด์ค ์ ๊ณต
- ํ์ฌ OpenAI, DeepSeek, ๊ทธ๋ฆฌ๊ณ ์๋ก ์ถ๊ฐ๋ Grok LLM ํด๋ผ์ด์ธํธ๋ฅผ ์ด๊ธฐํ ๋ฐ ๊ด๋ฆฌ
- LLM ์ ํ, ํ ์คํธ ์์ฑ, RAG ๊ธฐ๋ฐ ํ ์คํธ ์์ฑ ๋ฑ์ ๋ฉ์๋ ์ ๊ณต
LLM ํด๋ผ์ด์ธํธ ๊ตฌํ
- OpenAI ํด๋ผ์ด์ธํธ (
utils/openai_client.py
) - DeepSeek ํด๋ผ์ด์ธํธ (
utils/deepseek_client.py
) - Grok ํด๋ผ์ด์ธํธ (
utils/grok_client.py
) - ์๋ก ์ถ๊ฐ๋จ - ๊ฐ ํด๋ผ์ด์ธํธ๋ ํ๊ฒฝ ๋ณ์์์ API ํค ๋ฐ ์ค์ ๋ก๋
- ๊ณตํต ์ธํฐํ์ด์ค๋ก
generate()
๋ฐrag_generate()
๋ฉ์๋ ์ ๊ณต
- OpenAI ํด๋ผ์ด์ธํธ (
์น ์ ํ๋ฆฌ์ผ์ด์ ํตํฉ
- Flask ๊ธฐ๋ฐ ์น ์ ํ๋ฆฌ์ผ์ด์
(
app/app.py
) - LLM ์ธํฐํ์ด์ค๋ฅผ ์ด๊ธฐํํ๊ณ ์น API๋ฅผ ํตํด ์ ๊ณต
- LLM ์ ํ ๋ฐ ๋ณ๊ฒฝ API ๊ตฌํ (
/api/llm
) - ์ฑํ ๋ฐ ๋ฌธ์ ์ ๋ก๋ ๋ฑ์ ๊ธฐ๋ฅ ์ ๊ณต
- Flask ๊ธฐ๋ฐ ์น ์ ํ๋ฆฌ์ผ์ด์
(
์์ ๋ด์ญ
1. ํ๊ฒฝ ๋ณ์ ์ค์
.env
ํ์ผ ์์ฑ ๋ฐ Grok API ๊ด๋ จ ํ๊ฒฝ ๋ณ์ ์ถ๊ฐ- API ํค, ๊ธฐ๋ณธ URL, ๋ชจ๋ธ ๋ฑ Grok ๊ด๋ จ ์ค์ ๊ตฌ์ฑ
- ๊ธฐ์กด OpenAI ๋ฐ DeepSeek ํ๊ฒฝ ๋ณ์๋ ์ถ๊ฐํ์ฌ ํตํฉ ๊ด๋ฆฌ
2. Grok ํด๋ผ์ด์ธํธ ๊ตฌํ
utils/grok_client.py
ํ์ผ ์์ฑ- OpenAI ๋ฐ DeepSeek ํด๋ผ์ด์ธํธ์ ์ ์ฌํ ์ธํฐํ์ด์ค ๊ตฌํ
- Grok API ํธ์ถ ๋ฉ์๋ ๋ฐ ์ค๋ฅ ์ฒ๋ฆฌ ๋ก์ง ๊ตฌํ
chat_completion
,generate
,rag_generate
๋ฑ์ ํต์ฌ ๋ฉ์๋ ๊ตฌํ
3. LLM ์ธํฐํ์ด์ค ์ ๋ฐ์ดํธ
utils/llm_interface.py
ํ์ผ ์์ - Grok LLM์ ์ง์ ๋ชฉ๋ก์ ์ถ๊ฐ
- Grok ํด๋ผ์ด์ธํธ ์ด๊ธฐํ ๋ฐ ๊ด๋ฆฌ ์ฝ๋ ๊ตฌํ
- LLM ์ธ๋ถ ์ ๋ณด ๋ฐํ ๋ฉ์๋ ์ ๋ฐ์ดํธ
ํฅํ ์์ ๊ณํ
1. ํ ์คํธ ๋ฐ ๊ฒ์ฆ
- ์ ๋ ํ ์คํธ ๋ฐ ํตํฉ ํ ์คํธ ์ํ
- ์น ์ธํฐํ์ด์ค์์ Grok LLM ์ ํ ๋ฐ ์๋ ํ์ธ
- ๋ค์ํ ํ๋กฌํํธ์ RAG ์๋๋ฆฌ์ค ํ ์คํธ
2. ๋ฌธ์ํ
- API ์ฌ์ฉ๋ฒ ๋ฐ ์ค์ ๋ฐฉ๋ฒ ๋ฌธ์ํ
- ์ฌ์ฉ์ ์๋ด์ ์ ๋ฐ์ดํธ
ํ์ฌ ์ํ
- ํ๋ก์ ํธ ๊ตฌ์กฐ ํ์ ์๋ฃ
- Grok ํด๋ผ์ด์ธํธ ๊ตฌํ ์๋ฃ
- LLM ์ธํฐํ์ด์ค ์ ๋ฐ์ดํธ ์๋ฃ
- ํ๊ฒฝ ๋ณ์ ์ค์ ์๋ฃ
ํด์ผ ํ ์ผ
- ๊ตฌํ๋ ์ฝ๋ ํ ์คํธ ๋ฐ ๋๋ฒ๊น
- ์น ์ธํฐํ์ด์ค์์ ํ ์คํธ ์งํ
- ๋ฌธ์ ์ ๋ฐ์ดํธ