ข่าว AMD เผยผลเบนช์มาร์คจีพียู Instinct MI300X รันโมเดล AI ได้ใกล้เคียงกับ NVIDIA H100

[News]

AMD เผยผลเบนช์มาร์ค MLPerf ของจีพียู Instinct MI300X เป็นครั้งแรก ประสิทธิภาพใกล้เคียงกับ NVIDIA H100 รุ่นยอดนิยม

ผลการทดสอบของ AMD เป็นการรันโมเดล Llama 2 70B บนจีพียู MI300X แรม 192GB HBM3 ได้คะแนน 3,062 token/s (โหมด Offline) และ 2,520 token/s (โหมด Server) หากเทียบกับจีพียูคู่แข่ง Hopper H100 ที่ทำได้ 3,040 และ 2,576 token/s ตามลำดับ ก็ถือว่าใกล้เคียงกัน แต่จีพียูของ AMD ยังเป็นรองจีพียู H200 รุ่นท็อปสุดของ NVIDIA ตอนนี้ ที่ทำได้ 4,016 และ 3,717 token/s อยู่พอสมควร (หากเทียบกับ Blackwell B200 ตัวใหม่ล่าสุด ยิ่งโดนฉีกออกไปอีก)

อย่างไรก็ตาม AMD อาจไม่ได้ซีเรียสมากนักในแง่ความเป็นผู้นำ เพราะในยุคที่จีพียูศูนย์ข้อมูลขาดตลาด การได้ MI300X มารันด้วยประสิทธิภาพระดับเดียวกับ H100 ก็ทำให้ยอดขายจีพียูของ AMD เติบโตอย่างมาก จนตอนนี้รายได้ฝั่งศูนย์ข้อมูลเติบโตจนเกือบแตะครึ่งหนึ่งของรายได้ทั้งบริษัท

เมื่อประมาณ 2 เดือนที่แล้ว AMD เพิ่งเปิดตัวจีพียูใหม่คือ MI325X มีกำหนดขายจริงไตรมาส 4/2024 มีจุดขายที่แรม HBM3e แบบเดียวกับ H200 และยังมีแผนจะออก MI350 ตามมาในปีหน้า 2025

ที่มา - Tom's Hardware

Topics:
Instinct
AMD
GPU
Artificial Intelligence
Benchmark

Continue reading...

 

ข่าว  Android Studio ออกเวอร์ชัน Koala Feature Drop เพิ่มฟีเจอร์ใหม่ หลังอัพเดตแกน IntelliJ ไปแล้ว

ข่าว  เกือบ 6 ใน 10 ของเหยื่ออาชญากรรมทางเพศจาก Deepfake ในเกาหลีใต้ เป็นผู้เยาว์