ข้อได้เปรียบของ CUDA ไม่ได้อยู่ที่ GPU ของ NVIDIA เพียงอย่างเดียว แต่รวมถึงระบบนิเวศรอบข้าง ตั้งแต่เครื่องมือพัฒนา คอมไพเลอร์ ไลบรารี เคอร์เนล รันไทม์ ไปจนถึงโครงสร้างพื้นฐานสำหรับให้บริการโมเดล AI สิ่งเหล่านี้ทำให้นักพัฒนาสร้างและปรับแต่งเวิร์กโหลดสำหรับฮาร์ดแวร์ NVIDIA ได้ง่ายขึ้น
ข้อเสนอของ Modular คือเวิร์กโฟลว์ซอฟต์แวร์ร่วมที่สามารถกำหนดเป้าหมายไปยังหน่วยประมวลผลหลายประเภท แพลตฟอร์มนี้ออกแบบมาเพื่อรองรับ AI inference บน CPU, GPU และตัวเร่งความเร็วเฉพาะทาง ลดการดูแลโค้ดคนละชุดสำหรับฮาร์ดแวร์แต่ละตระกูล
ทิศทางที่ประกาศครอบคลุมระบบ Qualcomm Snapdragon, แพลตฟอร์มและ GPU ของ AMD, GPU ของ NVIDIA, Apple silicon, AWS Trainium, Google TPU และตัวเร่งความเร็วในดาต้าเซ็นเตอร์ของ Qualcomm อย่างไรก็ตาม คำกล่าวในทำนอง “โมเดลใดก็ได้บนชิปใดก็ได้” ควรเข้าใจว่าเป็นเป้าหมายของ Modular มากกว่าจะเป็นการรับประกันว่าทุกแพลตฟอร์มรองรับเท่าเทียมกัน ทั้งในด้านความพร้อมใช้งาน ความเข้ากันได้ หรือประสิทธิภาพ
หากแนวทางนี้ทำได้จริง นักพัฒนาอาจรักษาโค้ดของโมเดลและเคอร์เนลไว้ได้มากขึ้นเมื่อเปลี่ยนชิปที่อยู่เบื้องหลัง นั่นจะทำให้อิทธิพลเชิงกลยุทธ์ย้ายจากผู้ผลิต GPU รายเดียวมายังชั้นซอฟต์แวร์ที่เป็นกลางต่อฮาร์ดแวร์ ตั้งแต่ภาษา คอมไพเลอร์ รันไทม์ และเคอร์เนล ไปจนถึงระบบนามธรรมสำหรับให้บริการโมเดล
การที่ AMD เข้ามาสนับสนุนเป็นประเด็นสำคัญ เพราะ AMD แข่งขันกับ Qualcomm ในตลาดฮาร์ดแวร์ AI หลายด้าน รวมถึง AI PC และตัวเร่งความเร็วสำหรับงาน AI การสนับสนุนชั้นซอฟต์แวร์ที่มี Qualcomm เป็นเจ้าของจึงสะท้อนว่า ความสามารถในการย้ายเวิร์กโหลดข้ามค่ายอาจมีคุณค่ามากพอที่จะชดเชยประโยชน์จากการกักนักพัฒนาไว้ในระบบนิเวศฮาร์ดแวร์แบบปิด
ในมุมของ Modular การมี AMD ร่วมอยู่ในภาพช่วยตอบข้อกังวลว่าโครงการอาจกลายเป็นเพียงซอฟต์แวร์เฉพาะของ Qualcomm หลังการเข้าซื้อกิจการ เมื่อประกอบกับการอ้างถึงฮาร์ดแวร์จาก NVIDIA, Apple, AWS และ Google ก็ยิ่งสนับสนุนทิศทางแบบหลายซิลิคอนของบริษัท แต่การมีชื่ออยู่ในแผนงานยังไม่ใช่หลักฐานว่าทุกแพลตฟอร์มมีความพร้อมสำหรับการใช้งานจริงและประสิทธิภาพเท่ากัน
Modular นำเสนอ Mojo 1.0 ในฐานะภาษาโปรแกรมทั่วไปที่มีเสถียรภาพ พร้อมใช้งานในระดับผลิตจริง และออกแบบมาสำหรับเวิร์กโหลด AI บนฮาร์ดแวร์หลายประเภท จุดขายคือการผสานความใช้งานง่ายแบบ Python เข้ากับประสิทธิภาพระดับระบบและการเข้าถึงการเขียนโปรแกรมสำหรับ CPU, GPU และตัวเร่งความเร็วอื่น ๆ
การทำงานร่วมกับ Python เป็นหัวใจสำคัญของแนวคิดนี้ นักพัฒนายังสามารถใช้เวิร์กโฟลว์ที่คุ้นเคยจาก Python ขณะเดียวกันก็เข้าถึงความสามารถระดับล่างที่เหมาะกับโค้ด AI ซึ่งต้องการประสิทธิภาพสูง Modular ยังอธิบาย Mojo ว่าเป็นโมเดลการเขียนโปรแกรมแบบรวมสำหรับงานบน CPU และ GPU โดยแพลตฟอร์มที่กว้างกว่านั้นจะขยายไปยังตัวเร่งความเร็วประเภทอื่นด้วย
การเปิดคอมไพเลอร์และเครื่องมือพัฒนามีความสำคัญเป็นพิเศษ เพราะเปิดโอกาสให้คนนอกตรวจสอบโค้ด เสนอการแก้ไข พอร์ตภาษาไปยังแพลตฟอร์มเพิ่มเติม และสร้างหรือเผยแพร่แอปพลิเคชันภายใต้เงื่อนไข Apache 2.0 พร้อม LLVM exceptions
ขณะประกาศ Mojo รองรับ macOS และ Linux ส่วนการรองรับ Windows แบบ native อยู่ระหว่างการพัฒนา นักพัฒนา Windows สามารถใช้งานผ่าน Windows Subsystem for Linux หรือ WSL ได้
Qualcomm เข้าซื้อ Modular เพื่อเสริมจุดแข็งด้านซอฟต์แวร์สำหรับ generative AI และ agentic AI ตั้งแต่ดาต้าเซ็นเตอร์ โครงสร้างพื้นฐาน edge คอมพิวเตอร์ส่วนบุคคล ไปจนถึงการใช้งานในภาคอุตสาหกรรม การเปิดซอร์ส Mojo จึงทำให้ Qualcomm มีประตูทางเข้าฝั่งนักพัฒนา โดยผู้ใช้ไม่จำเป็นต้องซื้อซิลิคอนของ Qualcomm ก่อนจึงจะเริ่มทดลองได้
ประโยชน์ที่คาดหวังมีมากกว่ารายได้จากการให้สิทธิ์ใช้งานโดยตรง ได้แก่
เดิมพันเชิงกลยุทธ์คือการใช้ “การเข้าถึงผ่านซอฟต์แวร์” เพื่อสร้างโอกาสทางฮาร์ดแวร์ หาก Modular กลายเป็นชั้น inference ที่ถูกใช้อย่างแพร่หลายบนชิปหลายตระกูล Qualcomm ก็จะมีบทบาทในสแตก AI แม้การติดตั้งปลายทางบางส่วนจะไม่ได้ทำงานบน Snapdragon หรือตัวเร่งความเร็วในดาต้าเซ็นเตอร์ของ Qualcomm ก็ตาม
ทิศทางที่ประกาศมีความน่าสนใจ แต่บททดสอบการแข่งขันจะอยู่ที่การใช้งานจริง นักพัฒนาจะต้องประเมินความครอบคลุมของฮาร์ดแวร์ คุณภาพของเคอร์เนล ความเข้ากันได้กับโมเดล เครื่องมือดีบัก ขั้นตอนการนำไปใช้งาน การรองรับ Windows และประสิทธิภาพเมื่อเทียบกับสแตกที่อิง CUDA
ข้อสรุปที่ชัดเจนที่สุดในตอนนี้จึงควรอยู่ในกรอบที่พอดี: Modular ซึ่งเป็นบริษัทในเครือ Qualcomm ได้เปิดชั้นซอฟต์แวร์สำหรับนักพัฒนาของ Mojo และกำลังผลักดันระบบนิเวศ AI แบบหลายผู้ผลิต นี่เป็นก้าวสำคัญในการท้าทายอิทธิพลของ CUDA แต่ยังไม่ใช่หลักฐานว่าแพลตฟอร์มโอเพนซอร์สชุดเดียวสามารถมอบความสุกงอมและประสิทธิภาพระดับ CUDA ได้บนตัวเร่งความเร็วทุกชนิดที่กล่าวถึงในงาน ModCon