วิธีลดเวลาตอบสนองจากบริการ AI?

คำขอที่ส่งไปยัง API ของบริการ AI จะมีสตริงที่ต้องการแปลรวมอยู่ด้วย ยิ่งคำขอยาวมากเท่าไร API ก็จะใช้เวลาในการประมวลผลนานมากขึ้นเท่านั้น

ตัวอย่างเช่น การแปลโพสต์ที่มี 1,000 สตริง อาจทำให้ ChatGPT ใช้เวลาเกิน 1 นาทีจึงจะเสร็จสมบูรณ์

เพื่อลดเวลาตอบสนองจากบริการ AI คุณสามารถ:

• ใช้โมเดลที่เร็วกว่าจากบริการ AI เดียวกัน (เช่น: ChatGPT 5 mini แทน ChatGPT 5)
• ลดขนาด payload ที่ส่งไปยัง API ในการตั้งค่าปลั๊กอิน

เมื่อลดขนาด payload คำขอจะถูกแบ่งออกเป็นหลายคำขอ ซึ่งแต่ละคำขอจะได้รับการประมวลผลได้เร็วขึ้น เนื่องจากการประมวลผลเหล่านี้เกิดขึ้นแบบขนาน เวลาตอบสนองโดยรวมจึงลดลง

ไปที่ Settings > Service Configuration > [AI service] แล้วลดค่าตัวเลือก Max request payload length

ลองใช้ค่าต่าง ๆ จนกว่าจะพบค่าที่ให้เวลาตอบสนองดีที่สุด ตัวอย่างเช่น หากตั้งค่าไว้ที่ 8000 ให้ลองเปลี่ยนเป็น 4000 แล้วลองใหม่อีกครั้ง