การกำหนดค่าการใช้ LLM แบบโฮสต์เอง
การใช้ LLM แบบโฮสต์เอง
คุณสามารถใช้ LLM แบบโฮสต์เอง (เช่น ผ่าน Ollama) เพื่อแปลเนื้อหาได้
ไปที่หน้าการตั้งค่าใน Service Configuration > Self-hosted LLM และกำหนดค่าต่างๆ
| การตั้งค่า | คำอธิบาย |
|---|---|
| Endpoint URL | URL ของ HTTP endpoint สำหรับโมเดล LLM แบบโฮสต์เองของคุณ ดูตัวอย่างด้านล่าง |
| Compatible with API endpoint from | ผู้ให้บริการ AI ที่ endpoint แบบกำหนดเองของคุณเข้ากันได้: ChatGPT หรือ Claude |
| Model | ชื่อของโมเดล LLM แบบโฮสต์เองที่จะใช้ในการแปลเนื้อหา |
| Max tokens | จำนวนโทเค็นสูงสุดที่โมเดลสามารถสร้างได้ในการตอบสนอง เว้นว่างไว้หากไม่ต้องการจำกัด (ChatGPT) หรือใช้ค่าเริ่มต้นสำหรับ Claude |
ตัวอย่าง Endpoint URL:
| URL | คำอธิบาย |
|---|---|
http://localhost:11434/v1/chat/completions | รูปแบบ ChatGPT, Ollama บนเซิร์ฟเวอร์ของคุณ |
http://localhost:11434/v1/messages | รูปแบบ Claude, Ollama บนเซิร์ฟเวอร์ของคุณ |
https://ollama.com/v1/chat/completions | รูปแบบ ChatGPT, Ollama Cloud |
https://ollama.com/v1/messages | รูปแบบ Claude, Ollama Cloud |

หากคุณโฮสต์ LLM บนเซิร์ฟเวอร์ของคุณเอง คุณไม่จำเป็นต้องใช้ API key
หากคุณใช้ LLM แบบโฮสต์เองบนคลาวด์ (เช่น เมื่อใช้ Ollama Cloud) คุณอาจต้องระบุ API key ผ่านแท็บ API Keys > Self-hosted LLM ในหน้าการตั้งค่า
