llm-apiku / README.md
DENNY
Update
8f0965e
|
raw
history blame
1.09 kB

Gema 4B Indonesian Language Model API

REST API untuk model bahasa Indonesia berbasis Gema 4B yang dioptimalkan untuk budaya dan pariwisata Indramayu.

Endpoints

  • POST /generate - Generate text
  • GET /health - Health check
  • GET /docs - API documentation

Usage

curl -X POST "https://dnfs-llm-apiku.hf.space/generate" \
  -H "Content-Type: application/json" \
  -d '{
    "inputs": "Ceritakan tentang Batik Dermayon",
    "system_prompt": "ANDA ADALAH AHLI BUDAYA DAN PARIWISATA INDRAMAYU.JAWAB RESPON DENGAN SINGKAT DAN SELALU GUNAKAN BAHASA INDRAMAYU .",
    "max_tokens": 500,
    "temperature": 0.8,
    "top_k": 40,
    "top_p": 0.95,
    "repeat_penalty": 2,
    "stop": ["<end_of_turn>"]
  }'

Parameters

  • inputs (required): Input text
  • system_prompt (optional): System prompt
  • max_tokens (optional): Maximum tokens to generate
  • temperature (optional): Sampling temperature
  • top_k (optional): Top-k sampling
  • top_p (optional): Top-p sampling
  • repeat_penalty (optional): Repetition penalty
  • stop (optional): Stop sequences