กรุณาปิด โปรแกรมบล๊อกโฆษณา เพราะเราอยู่ได้ด้วยโฆษณาที่ท่านเห็น
Please close the adblock program. Because we can live with the ads you see


News

ข่าว เตรียมสู้ NVIDIA ทีม MLX ของแอปเปิลเพิ่มฟีเจอร์ใช้แรมข้ามเครื่อง เปิดทางสร้างคลัสเตอร์เครื่องแมคประสิทธิภาพสูง

  • ผู้เริ่มหัวข้อ ผู้เริ่มหัวข้อ News 
  • วันที่เริ่มต้น วันที่เริ่มต้น

News 

Moderator

สมาชิกทีมงาน
Moderator
Verify member
เข้าร่วม
1 มิถุนายน 2011
ข้อความ
15,372
คะแนนปฏิกิริยา
0
คะแนน
36
เตรียมสู้ NVIDIA ทีม MLX ของแอปเปิลเพิ่มฟีเจอร์ใช้แรมข้ามเครื่อง เปิดทางสร้างคลัสเตอร์เครื่องแมคประสิทธิภาพสูง
Body

แอปเปิลปล่อยไลบรารี MLX เวอร์ชั่น 0.30.1 แม้จะเป็นเวอร์ชั่นเล็กๆ แต่ก็มีการปรับปรุงสำคัญคือการรองรับ RDMA over Thunderbolt ที่เปิดทางให้คลัสเตอร์เครื่องแมคสามารถแชร์หน่วยความจำข้ามเครื่องกันอย่างมีประสิทธิภาพ

เดิม MLX นั้นรองรับการแชร์แรม RDMA อยู่แล้ว แต่ใช้ ring backend ที่เป็น TCP ทำให้กินเวลาส่งข้อมูลระดับ 300 microsecond รอบนี้ทีมงานแอปเปิลเพิ่มการรองรับ JACCL ที่ทำให้ระยะเวลาเข้าถึงข้อมูลเหลือระดับ 10 microsecond เท่านั้น

ประสิทธิภาพเชื่อมต่อข้อมูลข้ามเครื่องเป็นเงื่อนไขสำคัญในการรองรับโมเดลขนาดใหญ่มากๆ เพราะโมเดลเหล่านี้มักไม่สามารถโหลดขึ้นแรมในเครื่องเดียวได้ทันที แต่หากการเชื่อมต่อช้าลงก็จะทำให้การรันโมเดลทำได้ช้ามากๆ จุดขายสำคัญของ NVIDIA คือระบบเชื่อมต่อข้ามชิปและข้ามเครื่อง NVLink ที่มีประสิทธิภาพสูงมาก

เครื่องที่จะใช้ฟีเจอร์นี้ได้ต้องเป็นเครื่องที่มี Thunderbolt 5 เช่น M3 Ultra, M4 Pro, M4 Max และต้องติดตั้ง Mac OS 26.2 ขึ้นไปเท่านั้น

ที่มา - GitHub: mlx

lew Mon, 22/12/2025 - 10:44

Continue reading...
 

กรุณาปิด โปรแกรมบล๊อกโฆษณา เพราะเราอยู่ได้ด้วยโฆษณาที่ท่านเห็น
Please close the adblock program. Because we can live with the ads you see
กลับ
ยอดนิยม