Faiz28/LCQA-Islamic
Viewer • Updated • 66.8k • 171 • 4
How to use arisridwan/islamgpt-id-gguf with llama.cpp:
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf arisridwan/islamgpt-id-gguf:Q4_K_M # Run inference directly in the terminal: llama cli -hf arisridwan/islamgpt-id-gguf:Q4_K_M
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf arisridwan/islamgpt-id-gguf:Q4_K_M # Run inference directly in the terminal: llama cli -hf arisridwan/islamgpt-id-gguf:Q4_K_M
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf arisridwan/islamgpt-id-gguf:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf arisridwan/islamgpt-id-gguf:Q4_K_M
docker model run hf.co/arisridwan/islamgpt-id-gguf:Q4_K_M
How to use arisridwan/islamgpt-id-gguf with vLLM:
# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "arisridwan/islamgpt-id-gguf"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
-H "Content-Type: application/json" \
--data '{
"model": "arisridwan/islamgpt-id-gguf",
"prompt": "Once upon a time,",
"max_tokens": 512,
"temperature": 0.5
}'docker model run hf.co/arisridwan/islamgpt-id-gguf:Q4_K_M
How to use arisridwan/islamgpt-id-gguf with Ollama:
ollama run hf.co/arisridwan/islamgpt-id-gguf:Q4_K_M
How to use arisridwan/islamgpt-id-gguf with Docker Model Runner:
docker model run hf.co/arisridwan/islamgpt-id-gguf:Q4_K_M
How to use arisridwan/islamgpt-id-gguf with Lemonade:
# Download Lemonade from https://lemonade-server.ai/ lemonade pull arisridwan/islamgpt-id-gguf:Q4_K_M
lemonade run user.islamgpt-id-gguf-Q4_K_M
lemonade list
Versi GGUF (quantized) dari arisridwan/islamgpt-id — model bahasa Indonesia pertama yang dikhususkan untuk topik Islam.
Untuk versi full-precision (safetensors), lihat: arisridwan/islamgpt-id
| File | Ukuran | Keterangan |
|---|---|---|
islamgpt-id-Q4_K_M.gguf |
~1.5 GB | Direkomendasikan — kualitas baik, RAM minimal |
islamgpt-id-Q5_K_M.gguf |
~1.8 GB | Kualitas lebih tinggi, RAM lebih besar |
islamgpt-id-Q8_0.gguf |
~2.3 GB | Hampir setara fp16, untuk hardware kuat |
islamgpt-id-F16.gguf |
~4.0 GB | Full precision, untuk referensi |
# Download model
wget https://huggingface.co/arisridwan/islamgpt-id-gguf/resolve/main/islamgpt-id-Q4_K_M.gguf
# Jalankan interaktif
./llama-cli -m islamgpt-id-Q4_K_M.gguf \
--chat-template gemma \
-n 512 \
-i
Buat Modelfile:
FROM islamgpt-id-Q4_K_M.gguf
SYSTEM "Kamu adalah IslamGPT-ID, asisten AI spesialis Islam berbahasa Indonesia. Kamu membantu menjawab pertanyaan tentang Al-Qur'an, Hadist, Fiqih, dan topik Islam lainnya secara akurat berdasarkan sumber Islam yang sahih."
PARAMETER temperature 0.3
PARAMETER repeat_penalty 1.1
PARAMETER num_predict 512
ollama create islamgpt-id -f Modelfile
ollama run islamgpt-id "Apa itu rukun Islam?"
from llama_cpp import Llama
llm = Llama(
model_path="islamgpt-id-Q4_K_M.gguf",
n_ctx=2048,
n_gpu_layers=-1, # Gunakan GPU jika tersedia
)
response = llm.create_chat_completion(
messages=[
{"role": "user", "content": "Apa arti Ayat Kursi?"}
],
max_tokens=512,
temperature=0.3,
)
print(response["choices"][0]["message"]["content"])
| Topik | Detail |
|---|---|
| 📖 Al-Qur'an | 6.236 ayat dengan teks Arab + Terjemahan Kemenag RI |
| 📚 Hadist | Kutubussittah lengkap |
| ⚖️ Fiqih | Hukum Islam multi-madzhab |
| 🕋 Haji & Umrah | Panduan manasik lengkap |
| 📜 Sirah | Kisah Nabi ﷺ dan sejarah Islam |
| 🌙 Ibadah Harian | Sholat, puasa, zakat, doa |
Model ini untuk keperluan edukasi dan referensi. Untuk pertanyaan fiqih atau hukum Islam, selalu konsultasikan dengan ulama terpercaya. Jangan gunakan untuk membuat fatwa secara mandiri.
4-bit
5-bit
8-bit
16-bit
Base model
google/gemma-4-E2B