โมเดล & ทรัพยากร
โมเดลที่ให้บริการอยู่ · —
Client ไม่ต้องแก้ config เลย — gateway เขียนชื่อโมเดลในคำขอให้ตรงกับตัวที่โหลดอยู่จริงเสมอ
พร้อม · 0%
| โมเดล | ชื่อที่เสิร์ฟ | ขนาด | ความสามารถ | น้ำหนักในเครื่อง |
|---|
ตอนนี้
อ่านตรงจากไดรเวอร์ NVIDIA · ช่วงที่แสดงในกราฟ: 6 ชั่วโมง
หน่วยความจำ GPU
วัดจริง — GB ที่ใช้ไป
การใช้งาน GPU
วัดจริง — เปอร์เซ็นต์
ปริมาณงาน
token ต่อวินาที จากบันทึกการใช้งานของ gateway