AISIN กับ Toyota โชว์ชิปเก็บโมเดล AI ไว้ในตัว บูตเร็วกว่าเดิม 38 เท่า

AISIN บริษัทผลิตชิ้นส่วนรถยนต์ที่ Toyota เป็นผู้ถือหุ้นใหญ่ เพิ่งโชว์ชิป AI แบบใหม่ที่คิดต่างจากตลาด คือฝังทั้งน้ำหนักโมเดล AI (model weights) และระบบปฏิบัติการไว้ในหน่วยความจำบนตัวชิปเลย ไม่ต้องไปดึงจาก DRAM ภายนอกเหมือนชิปทั่วไป

เหตุผลที่ทำแบบนี้คือ AISIN มองว่าชิปที่ต้องวิ่งไปเอาข้อมูลจากหน่วยความจำนอกตัวบ่อยๆ จะทำให้ภาพรู้จำวัตถุและงาน AI บนตัวอุปกรณ์ทำงานได้ไม่ดี แถม DRAM ตอนนี้ก็ราคาแพงมากด้วย ซึ่งเรื่องนี้สำคัญกับรถยนต์และหุ่นยนต์ที่ต้องใช้ AI แบบ physical AI มากขึ้นเรื่อยๆ

ตัวชิปสร้างด้วยเทคโนโลยีการผลิตขนาด 16 นาโนเมตรแบบ FinFET ใช้ซีพียู Arm Cortex A53 แบบดูอัลคอร์ คู่กับจีพียู Arm Mali G31 โดยมี STT-MRAM ฝังในตัวสำหรับเก็บทั้งโมเดลและ OS

AISIN ร่วมกับทีมวิจัยจากมหาวิทยาลัย Tohoku บอกว่าวิธีนี้ทำให้ชิปเปิดเครื่องจนถึงขั้น kernel startup ได้ในเวลา 65.7 มิลลิวินาที เร็วกว่าการใช้หน่วยความจำภายนอกถึง 38 เท่า และรันอัลกอริทึมตรวจจับวัตถุ Tiny YOLOv3 บนชิปได้จริง

ทีมวิจัยยังพัฒนาสถาปัตยกรรมคูณแบบผสม 8-bit และ 16-bit เพื่อประหยัดเนื้อที่หน่วยความจำบนชิปที่มีจำกัด ผลคือลดขนาดข้อมูลน้ำหนักโมเดล AI ลง 53 เปอร์เซ็นต์ จาก 17.7MB เหลือ 9.36MB โดยยังคงความละเอียดระดับ 16-bit ไว้ได้

ตอนนี้ AISIN ยังไม่บอกว่าจะผลิตชิปตัวนี้ขายจริงเมื่อไหร่ ขณะที่ค่ายอย่าง Nvidia และ Qualcomm ก็กำลังพยายามขายชิปของตัวเองให้ค่ายรถอยู่เหมือนกัน โดยวางตัวเป็นเจ้าของเทคโนโลยี AI ที่ซัพพลายเออร์รถยนต์ดั้งเดิมยังสู้ไม่ได้