- เข้าร่วม
- 1 มิถุนายน 2011
- ข้อความ
- 17,924
- คะแนนปฏิกิริยา
- 0
- คะแนน
- 36
ธนาคาร Revolut โฮสต์โมเดลเขียนโค้ดเองแทน Claude Code ต้นทุนถูกลง 90%
Body
David Abitbol วิศวกรของธนาคาร Revolut จากอังกฤษ (แต่มีธุรกิจในหลายประเทศ) เปิดเผยบนเวทีงานสัมมนา AI Engineer ว่าย้ายระบบจาก Claude Code มาเป็นการรันโมเดลบนเครื่อง B200 ของตัวเอง (self-hosted) ช่วยลดรายจ่ายลงได้ 90%
Revolut เคยลองใช้โมเดลช่วยเขียนโค้ดมาแล้วหลายท่า เริ่มจาก Gemini ช่วงต้นปี 2025 แล้วย้ายมาใช้ Claude Code ช่วงต้นปี 2026 แต่พบว่าต้นทุนแพงเกินไป บางครั้งอาจทะลุไปเดือนละ 10,000 ดอลลาร์ต่อคน โดยที่ได้ประโยชน์กลับมาไม่เยอะนัก (วิศวกรมี 2,000 คน)
แนวทางล่าสุดของ Revolut คือใช้โมเดลแบบโฮสต์เองบนการ์ด NVIDIA B200 จำนวน 56 ตัว ตอนแรกใช้โมเดล GLM-5.1 ล่าสุดอัพเกรดมาเป็น GLM-5.3 พบว่าต้นทุนอยู่ที่ 0.30 ดอลลาร์ต่อ 1 ล้านโทเคน หรือประมาณ 1/10 ของการใช้ Claude Code หรือ Codex และนอกจากต้นทุนที่ลดลง Revolut ยังเห็นการเปลี่ยนแปลงว่าเวลาที่ใช้เขียนโค้ดลดลง 60%
Abitbol บอกว่าเมื่อค่าโทเคนถูกลงในระดับที่ไม่ต้องกังวลกับการใช้งาน วิศวกรก็ใช้งานได้เต็มที่มากขึ้น เทียบกับแนวทางเดิมที่ต้องจำกัดปริมาณการใช้โทเคนต่อเดือน เปิดโอกาสให้นำโมเดลไปช่วยจัดการเรื่องอื่นๆ ที่เกี่ยวข้อง เช่น ดีบั๊กโค้ด และแก้สถานะ ticket ใน Jira กับ Confluence ให้ด้วย ไม่ต้องเก็บโควต้าโทเคนไปรอใช้กับงานยากๆ หรือเกลี่ยให้ใช้งานพอดีช่วงท้ายไตรมาสอีกต่อไป
Abitbol ยังแนะนำเทคนิคการปรับจูนโมเดลให้มีประสิทธิภาพมากขึ้น ด้วยการเปลี่ยนมาใช้ฟอร์แมต NVFP4 และปรับขนาด context window ให้เล็กลง เขาบอกว่าความเชื่อว่า context window ยิ่งยาวยิ่งดีเป็นเรื่องโกหก ขนาดที่เหมาะสมคือ 256K
เมื่อปรับแต่งเสร็จแล้ว ระบบจีพียูของบริษัทสามารถรันได้ 200 โทเคนต่อวินาที และลดเวลาที่โมเดลตอบโทเคนแรกลงมาเหลือ 3 วินาทีได้สำเร็จ ซึ่งตัวเลขนี้เป็นตัวเลขที่ทดสอบแล้วว่าเหมาะสม (หากใช้งานตอนค่ำๆ คนใช้น้อยๆ อาจได้ถึงเกือบ 800 โทเคนต่อวินาที)
อย่างไรก็ตาม Abitbol บอกว่าโมเดล GLM ไม่สามารถทดแทนโมเดล GPT หรือ Claude ได้ในทุกกรณี เพราะ GLM เป็นโมเดลข้อความอย่างเดียว ให้ทำงาน UI ก็ไม่เหมาะ สิ่งที่ Revolut ทำคือเพิ่มระบบ model router สลับโมเดลตามงานที่เหมาะสมให้อัตโนมัติ
ที่มา - The Register
mk Fri, 06/11/2026 - 06:28
Continue reading...
Body
David Abitbol วิศวกรของธนาคาร Revolut จากอังกฤษ (แต่มีธุรกิจในหลายประเทศ) เปิดเผยบนเวทีงานสัมมนา AI Engineer ว่าย้ายระบบจาก Claude Code มาเป็นการรันโมเดลบนเครื่อง B200 ของตัวเอง (self-hosted) ช่วยลดรายจ่ายลงได้ 90%
Revolut เคยลองใช้โมเดลช่วยเขียนโค้ดมาแล้วหลายท่า เริ่มจาก Gemini ช่วงต้นปี 2025 แล้วย้ายมาใช้ Claude Code ช่วงต้นปี 2026 แต่พบว่าต้นทุนแพงเกินไป บางครั้งอาจทะลุไปเดือนละ 10,000 ดอลลาร์ต่อคน โดยที่ได้ประโยชน์กลับมาไม่เยอะนัก (วิศวกรมี 2,000 คน)
แนวทางล่าสุดของ Revolut คือใช้โมเดลแบบโฮสต์เองบนการ์ด NVIDIA B200 จำนวน 56 ตัว ตอนแรกใช้โมเดล GLM-5.1 ล่าสุดอัพเกรดมาเป็น GLM-5.3 พบว่าต้นทุนอยู่ที่ 0.30 ดอลลาร์ต่อ 1 ล้านโทเคน หรือประมาณ 1/10 ของการใช้ Claude Code หรือ Codex และนอกจากต้นทุนที่ลดลง Revolut ยังเห็นการเปลี่ยนแปลงว่าเวลาที่ใช้เขียนโค้ดลดลง 60%
Abitbol บอกว่าเมื่อค่าโทเคนถูกลงในระดับที่ไม่ต้องกังวลกับการใช้งาน วิศวกรก็ใช้งานได้เต็มที่มากขึ้น เทียบกับแนวทางเดิมที่ต้องจำกัดปริมาณการใช้โทเคนต่อเดือน เปิดโอกาสให้นำโมเดลไปช่วยจัดการเรื่องอื่นๆ ที่เกี่ยวข้อง เช่น ดีบั๊กโค้ด และแก้สถานะ ticket ใน Jira กับ Confluence ให้ด้วย ไม่ต้องเก็บโควต้าโทเคนไปรอใช้กับงานยากๆ หรือเกลี่ยให้ใช้งานพอดีช่วงท้ายไตรมาสอีกต่อไป
Abitbol ยังแนะนำเทคนิคการปรับจูนโมเดลให้มีประสิทธิภาพมากขึ้น ด้วยการเปลี่ยนมาใช้ฟอร์แมต NVFP4 และปรับขนาด context window ให้เล็กลง เขาบอกว่าความเชื่อว่า context window ยิ่งยาวยิ่งดีเป็นเรื่องโกหก ขนาดที่เหมาะสมคือ 256K
เมื่อปรับแต่งเสร็จแล้ว ระบบจีพียูของบริษัทสามารถรันได้ 200 โทเคนต่อวินาที และลดเวลาที่โมเดลตอบโทเคนแรกลงมาเหลือ 3 วินาทีได้สำเร็จ ซึ่งตัวเลขนี้เป็นตัวเลขที่ทดสอบแล้วว่าเหมาะสม (หากใช้งานตอนค่ำๆ คนใช้น้อยๆ อาจได้ถึงเกือบ 800 โทเคนต่อวินาที)
อย่างไรก็ตาม Abitbol บอกว่าโมเดล GLM ไม่สามารถทดแทนโมเดล GPT หรือ Claude ได้ในทุกกรณี เพราะ GLM เป็นโมเดลข้อความอย่างเดียว ให้ทำงาน UI ก็ไม่เหมาะ สิ่งที่ Revolut ทำคือเพิ่มระบบ model router สลับโมเดลตามงานที่เหมาะสมให้อัตโนมัติ
ที่มา - The Register
mk Fri, 06/11/2026 - 06:28
Continue reading...