บล็อก

บันทึกเรื่อง vLLM, inference และคอมมูนิตี้ AI ไทย

6 นาที★

vLLM Bangkok Day: ผู้สร้าง vLLM กำลังจะมากรุงเทพฯ

วันที่ 6 กันยายน 2569 ทีมผู้สร้าง vLLM จะมากรุงเทพฯ พร้อมกับหนึ่งบ่ายเต็มของ การพูดคุยเรื่อง inference บนงานจริง เคสจากทีมไทย และการพบปะสร้างเครือข่าย เข้าร่วมฟรี — นี่คือสิ่งที่จะได้เจอ

  • งานอีเวนต์
  • คอมมูนิตี้
9 นาที

vLLM คืออะไร และทำไม throughput ถึงกระโดดเมื่อย้ายมาใช้

ปูพื้นแบบใช้งานได้จริงกับสองแนวคิดที่ทำให้ vLLM เร็ว — PagedAttention และ continuous batching — และมันหมายความว่าอย่างไรกับบิลค่า GPU ของทีมไทย ที่เสิร์ฟโมเดล open-weights

  • vllm
  • inference
  • พื้นฐาน

ติดตามข่าวสาร

อีเมลเป็นครั้งคราวเกี่ยวกับ vLLM Bangkok Day และสิ่งที่คอมมูนิตี้ vLLM ไทยกำลังสร้าง ไม่มีสแปม ยกเลิกได้ทุกเมื่อ