การกำหนดค่า
การกำหนดค่าการใช้ LLM แบบโฮสต์เอง

การใช้ LLM แบบโฮสต์เอง

คุณสามารถใช้ LLM แบบโฮสต์เอง (เช่น ผ่าน Ollama) เพื่อแปลเนื้อหาได้

ไปที่หน้าการตั้งค่าใน Service Configuration > Self-hosted LLM และกำหนดค่าต่างๆ

การตั้งค่าคำอธิบาย
Endpoint URLURL ของ HTTP endpoint สำหรับโมเดล LLM แบบโฮสต์เองของคุณ ดูตัวอย่างด้านล่าง
Compatible with API endpoint fromผู้ให้บริการ AI ที่ endpoint แบบกำหนดเองของคุณเข้ากันได้: ChatGPT หรือ Claude
Modelชื่อของโมเดล LLM แบบโฮสต์เองที่จะใช้ในการแปลเนื้อหา
Max tokensจำนวนโทเค็นสูงสุดที่โมเดลสามารถสร้างได้ในการตอบสนอง เว้นว่างไว้หากไม่ต้องการจำกัด (ChatGPT) หรือใช้ค่าเริ่มต้นสำหรับ Claude

ตัวอย่าง Endpoint URL:

URLคำอธิบาย
http://localhost:11434/v1/chat/completionsรูปแบบ ChatGPT, Ollama บนเซิร์ฟเวอร์ของคุณ
http://localhost:11434/v1/messagesรูปแบบ Claude, Ollama บนเซิร์ฟเวอร์ของคุณ
https://ollama.com/v1/chat/completionsรูปแบบ ChatGPT, Ollama Cloud
https://ollama.com/v1/messagesรูปแบบ Claude, Ollama Cloud
การกำหนดค่า LLM แบบโฮสต์เองในการตั้งค่า
การกำหนดค่า LLM แบบโฮสต์เองในการตั้งค่า

หากคุณโฮสต์ LLM บนเซิร์ฟเวอร์ของคุณเอง คุณไม่จำเป็นต้องใช้ API key

หากคุณใช้ LLM แบบโฮสต์เองบนคลาวด์ (เช่น เมื่อใช้ Ollama Cloud) คุณอาจต้องระบุ API key ผ่านแท็บ API Keys > Self-hosted LLM ในหน้าการตั้งค่า

การระบุ API key สำหรับ LLM แบบโฮสต์เองในการตั้งค่า
การระบุ API key สำหรับ LLM แบบโฮสต์เองในการตั้งค่า