Marvell โชว์โมดูลหน่วยจำแบบแสง เชื่อม GPU สูงสุด 16 ตัว แบ่ง RAM 32TB ร่วมกัน

Marvell เพิ่งโชว์ของจริงของไอเดียที่ฟังดูทะเยอทะยานมากในวงการ AI ครับ นั่นคือ Photonic Fabric Memory Module ที่ใช้แสงเชื่อมต่อหน่วยความจำแทนสายทองแดง ทำให้สามารถตั้งแรมแยกออกไปเป็นตู้ต่างหาก ห่างจาก GPU หลายแร็ค แล้วแบ่งให้หลายเครื่องใช้ร่วมกันได้

ตัวเลข 32TB ที่เป็นข่าวนั้นไม่ใช่ของโมดูลเดียว แต่เป็นของ Photonic Fabric Memory Appliance ที่เอาโมดูลมารวมกัน 16 ตัว แล้วแบ่งพูลหน่วยความจำนี้ให้โฮสต์ได้สูงสุด 16 เครื่อง (จะเป็นเซิร์ฟเวอร์ทั้งเครื่องหรือ GPU เดี่ยวก็ได้) รวมแล้วได้ DDR5 32TB บวก HBM3e อีก 1,152GB

เป้าหมายจริงๆ คือแก้ปัญหาต้นทุน เพราะปกติ HBM ต้องอยู่ติดชิปในแพ็กเกจเดียวกัน อยากได้เพิ่มก็ต้องซื้อ GPU เพิ่ม ซึ่งแพงมาก Dave Lazovsky เลยบอกว่า GPU กลายเป็นเหมือนตัวควบคุมหน่วยความจำที่แพงที่สุดในโลก ถ้าซื้อหน่วยความจำแยกจาก GPU ได้ ก็ไม่ต้องซื้อ GPU เพิ่มแค่เพื่อเอาความจุ

งานที่ Marvell เล็งไว้คือ KV cache หน่วยจำที่โมเดลภาษาเก็บไว้ต่อบทสนทนา ซึ่งบวมขึ้นเรื่อยๆ ตาม context ยาวและงาน agentic พอมันล้นจากหน่วยความจำในเครื่อง เซิร์ฟเวอร์ก็ต้องทิ้งแล้วคำนวณใหม่ หรือไปดึงจากที่เก็บข้อมูลที่ช้ากว่ามาก ทำให้ประสิทธิภาพลดลง

ดีไซน์นี้จริงๆ ไม่ใหม่เลย เพราะ Celestial AI โชว์สถาปัตยกรรมแบบเดียวกันมาตั้งแต่งาน Hot Interconnects เดือนสิงหาคม 2025 สิ่งที่เปลี่ยนคือตรา Marvell โมดูลจริง และกำหนดการสุ่มตัวอย่างในปี 2027 ตอนนี้ยังเป็น pre-silicon อยู่ และ Marvell เองก็ยังไม่ให้ตัวเลขประหยัดต้นทุนที่ชัดเจน

ฝั่ง Nvidia ไม่ได้นั่งเฉย เพราะลงทุน 2,000 ล้านดอลลาร์ถือหุ้นใน Marvell พร้อมดีล NVLink Fusion และ silicon photonics ไปแล้ว นอกจากนี้ยังมี BlueField-4 STX ของตัวเอง ซื้อ Enfabrica ไปกว่า 900 ล้านดอลลาร์ และทุ่มเงินใน Lumentum กับ Coherent อีก 4,000 ล้านดอลลาร์ สำหรับงานด้านออปติก