AMD อ้างเทคโนโลยี Mext ใช้ AI สลับความจำ อาจลดต้นทุน DRAM เซิร์ฟเวอร์ Epyc ได้สูงสุด 83%

AMD เพิ่งโชว์เทคโนโลยีที่ซื้อมาจากบริษัท Mext ตั้งแต่เดือนมิถุนายนครับ เป็นซอฟต์แวร์ที่ใช้ AI ช่วยสลับหน้าความจำระหว่าง DRAM กับ storage แบบ NVMe โดยอัตโนมัติ แทนที่จะต้องซื้อ DRAM สองเทราไบต์ให้เซิร์ฟเวอร์ Epyc ก็อาจซื้อแค่หนึ่งเทราไบต์แล้วให้ Mext จัดการส่วนที่เหลือแทน

Gary Smerdon อดีต CEO ของ Mext ซึ่งตอนนี้เป็น CVP ฝ่าย business development ของ AMD ประเมินว่าเทคโนโลยีนี้อาจช่วยลดต้นทุนเซิร์ฟเวอร์ได้สูงสุดถึง 83% จาก 145 ระบบที่ติดตั้งไปแล้ว เขาระบุว่าลูกค้าประหยัดค่า DRAM รวมกันไปแล้วราว 5 ล้านดอลลาร์

หลักการทำงานคล้าย SWAP หรือ page file ของ Windows แต่ฉลาดกว่า เพราะใช้โมเดล AI แบบ transformer เหมือนที่ ChatGPT หรือ Claude ใช้ เพียงแต่เปลี่ยนจากทำนายคำถัดไป มาเป็นทำนายว่าหน้าความจำไหนจะถูกเรียกใช้ต่อไป แล้วดึงกลับเข้า DRAM ก่อนแอปจะต้องใช้จริง

Smerdon อ้างงานวิจัยของ Meta ที่ชี้ว่าหน้าความจำ 50-80% ไม่ถูกแตะเลยนาน 5-10 นาทีขึ้นไป ซึ่งสำหรับเซิร์ฟเวอร์ Epyc ถือว่านานมาก

ห้านาทีสำหรับ Epyc คือชั่วนิรันดร์

ในการทดสอบกับโปรแกรม EDA ของ Synopsys การลด DRAM ลงครึ่งหนึ่งแล้วใช้ flash แทนยังได้ performance 95% เทียบกับ DRAM ล้วน แต่ถ้าลดเหลือ DRAM แค่ 25% performance จะตกไปอยู่ที่ 80% ส่วนงานอย่าง Apache Spark ลด DRAM ลงครึ่งหนึ่งกลับยังได้ performance ถึง 99%

AMD วางแผนขาย Mext เป็น license ผ่าน OEM พาร์ทเนอร์ โดยจะใช้ได้เฉพาะบนฮาร์ดแวร์ AMD เท่านั้น ตอนนี้อยู่เฟสแรกคือทำงานกับ OEM อย่าง HPE ให้ระบบพร้อมรองรับ Mext ก่อนเริ่มขาย license จริงพร้อมซอฟต์แวร์ RAM View ในเฟสต่อไป