Amazon ออกเครื่องมือ TorchNeuron ย้ายแอป AI ไปรันบนชิป Trainium ง่ายขึ้น หวังสั่น Nvidia

Amazon Web Services เพิ่งปล่อยเครื่องมือตัวใหม่ชื่อ TorchNeuron เมื่อวันจันทร์ครับ จุดเด่นคือช่วยให้สตาร์ตอัป AI ย้ายแอปที่เขียนด้วย PyTorch ไปรันบนชิป Trainium ของ Amazon ได้ง่ายๆ แค่แก้ configuration บรรทัดเดียวไม่ต้องเขียนโค้ดใหม่

เรื่องนี้สำคัญเพราะ Amazon บอกว่าแอป AI ราว 85% เขียนด้วย PyTorch ซึ่งเดิมเป็นของ Facebook ก่อนย้ายเข้า Linux Foundation ตั้งแต่ปี 2022 และที่ผ่านมา Nvidia ใช้เวลาหลายปีทำให้ CUDA ของตัวเองรองรับ PyTorch ได้ลื่นไหลที่สุด จนฮาร์ดแวร์ Nvidia กลายเป็นตัวเลือกเริ่มต้นของนักพัฒนาไปโดยปริยาย

Amazon ไม่ใช่รายแรกที่ทำแบบนี้ เพราะ PyTorch เปิดให้ย้ายไปรันบน GPU ของ AMD หรือชิปของ Apple ได้ด้วยการแก้ configuration เหมือนกัน แต่ AWS ชี้ว่าการย้ายไป Trainium ยังได้สิทธิ์ใช้คลาวด์ทั้งระบบของ Amazon ไปด้วย ซึ่งดีกว่าไปใช้พวก neocloud ที่ผูกกับฮาร์ดแวร์ Nvidia อย่าง CoreWeave, Nebius และ Firmus

Colin Brace รองประธานฝ่าย Technology Software ของ AWS Annapurna Labs บอกกับ TechCrunch ว่าชิป Trainium ทำได้ทั้ง training และ inference บนตัวเดียว ทำให้ประหยัดกว่าในภาพรวม แม้ราคาต่อโทเคนอาจไม่ถูกที่สุดในตลาด เขายกตัวอย่าง Deepgram ผู้ให้บริการแอปเสียง AI ที่ย้ายมาใช้ Trainium ผ่าน PyTorch แบบ native แล้วประมวลผลเสียงได้มากขึ้น 70% ต่อดอลลาร์ ที่ความแม่นยำระดับใช้งานจริง

ที่น่าสนใจกว่านั้นคือ Amazon บอกว่ากำลังส่งโค้ดเข้าไปยังโครงการ PyTorch หลักเพื่อลดการผูกติดกับชิปตัวใดตัวหนึ่ง เป้าหมายคือทำให้ PyTorch เป็นกลางกับฮาร์ดแวร์มากขึ้นสำหรับนักพัฒนาทุกคน ไม่ใช่แค่คนใช้ Trainium เท่านั้น Brace บอกว่าเรื่องจริงคือการเอา lock-in ที่ปิดกั้นตัวเลือกของนักพัฒนาออกไป