Apple ใช้ Mac ที่ว่างงานทำเป็นคลาวด์ GPU เสมือนภายใน ชื่อระบบ Minions

นักวิจัยของ Apple เปิดเผยในเปเปอร์ที่เผยแพร่บน arXiv และบนเว็บไซต์ Apple Machine Learning Research ว่าภายในบริษัทมีระบบชื่อ Minions ซึ่งทำหน้าที่เป็น "คลาวด์ GPU เสมือน" โดยรวบรวมเครื่อง Mac ที่ว่างงานมาช่วยรันงาน AI แทนการรอคิว GPU ของบริษัทที่บางครั้งใช้เวลานานกว่า 10 ชั่วโมง ทำให้เวลารองานลดลงเหลือเพียงไม่กี่นาที งานสามารถเริ่มต้นได้จากคำขอของผู้ใช้ผ่าน Slack ภายในองค์กร

ระบบนี้ประกอบด้วยสามส่วนหลัก คือ Minion Server, Minion Executor และ Minion Watchdog โดยใช้ชิป Apple Silicon สำหรับงานอนุมาน (inference) เท่านั้น แบ่งเป็นสองประเภทงาน ได้แก่ embeddings ด้วยโมเดล transformer แบบโอเพนซอร์สจาก Hugging Face และการสร้างข้อความจากโมเดลภาษาขนาดใหญ่ผ่าน Ollama ซึ่งติดตั้งอยู่ในเครื่อง Mac ที่เข้าร่วมแต่ละเครื่อง

Minion Server จะแบ่งงานที่ส่งเข้ามาเป็นงานย่อยและเก็บไว้ในฐานข้อมูล PostgreSQL จากนั้น Minion Executor บนแต่ละเครื่อง Mac จะดึงงานย่อยถัดไปผ่าน REST API โดยไม่มีตัวจัดคิวกลาง เครื่อง Mac จะอ่านข้อมูลนำเข้าจาก Amazon S3 โหลดโมเดลหากจำเป็น รันงานบน GPU ของตัวเอง แล้วส่งผลลัพธ์กลับไปที่ S3 ส่วน Minion Watchdog จะตรวจสอบสัญญาณ heartbeat ที่เครื่องส่งมาทุก 5 นาที หากเครื่อง Mac หลับ หลุดเครือข่าย ปิดเครื่อง หรือผู้ใช้หยุดการทำงานเพื่อเอาเครื่องกลับไปใช้เอง งานที่ยังไม่เสร็จจะถูกส่งกลับเข้าคิวใหม่

ตามเปเปอร์ Minions ช่วยลดเวลารอคิว GPU โดยไม่ต้องขอ GPU เพิ่ม ไม่มีต้นทุนโครงสร้างพื้นฐานเพิ่มเติม และการขยายกำลังประมวลผลเกิดขึ้นเองตามธรรมชาติ อย่างไรก็ตาม ตัวเลขนี้ไม่ได้รวมค่าไฟฟ้าหรือการสึกหรอของอุปกรณ์ ส่วนการเข้าร่วมของผู้ใช้เป็นแบบไม่เป็นทางการ เช่น การส่งข้อความ Slack ขอให้ทีมอื่นเปิด Minion Executor ชั่วคราวเพื่อช่วยรันงานของโปรเจกต์หนึ่ง โดย Apple พยายามลดความเสี่ยงด้านความลับของข้อมูลด้วยการจำกัดขอบเขตการใช้งานตามทีมหรือองค์กร พร้อมฐานข้อมูลและกลุ่มเครื่อง Mac แยกกัน

เปเปอร์นี้ออกมาในช่วงที่ทรัพยากรประมวลผลกลายเป็นคอขวดสำคัญของงาน AI โดย Apple เองก็ระบุในรายงานผลประกอบการไตรมาสล่าสุดเมื่อเดือนกรกฎาคมว่าบริษัทพึ่งพาการเข้าถึงทรัพยากรประมวลผลที่เพียงพอ ในภาวะที่อุปทานจำกัดและต้นทุนสูงขึ้น ทีมผู้วิจัยระบุว่าในอนาคต Minions จะถูกขยายไปสู่การฝึกโมเดลแบบกระจาย และหากสามารถเชื่อมโยง Mac ที่ว่างงานจากหลายองค์กรหรือจากชุมชนทั่วโลกเข้าด้วยกันอย่างปลอดภัย ก็อาจกลายเป็นแหล่ง GPU ที่ใช้งานร่วมกันได้ แต่ในปัจจุบัน Mac เหล่านี้ยังทำหน้าที่เป็นกำลังประมวลผลสำรองภายใน Apple เท่านั้น