สิ่งที่ทำให้โมเดลนี้โดดเด่นไม่ได้มีแค่ขนาดของมัน แต่รวมถึงสิ่งที่มันเป็นตัวแทน: แบบแปลนที่เป็นรูปธรรมที่สุดสำหรับวิสัยทัศน์ 'Personal Superintelligence' ของ马克 Zuckerberg — AI ที่รู้จักบริบทของคุณ ทำงานให้คุณอย่างต่อเนื่อง และอยู่ภายใต้การควบคุมของคุณโดยสมบูรณ์
โมเดลขนาด 30 พันล้านพารามิเตอร์โดยทั่วไปจะต้องใช้หน่วยความจำประมาณ 55 GB ที่ความแม่นยำ BF16 วิศวกรของ Meta ใช้เทคนิคต่างๆ รวมถึง 4-bit quantization และประสิทธิภาพทางสถาปัตยกรรม เพื่อลดขนาดโมเดลให้เหลือต่ำกว่า 20 GB ทำให้ Muse Glimmer สามารถทำงานบน GPU ระดับคอนซูเมอร์ที่มี VRAM 24 GB ได้ ซึ่งพบได้ในพีซีสำหรับเล่นเกมระดับสูงและ MacBook รุ่นใหม่
Muse Glimmer ถูก "กลั่นมาจาก Muse Spark และออกแบบมาโดยเฉพาะสำหรับงานเอเจนต์อัตโนมัติ" โมเดลนี้ถูกสร้างขึ้นเพื่อการให้เหตุผลแบบหลายขั้นตอน การใช้เครื่องมือและการเรียกใช้ฟังก์ชันที่เชื่อถือได้ การจัดการเอเจนต์ย่อย การเขียนโค้ดในเครื่อง การรับรู้แบบมัลติโมดัล (ข้อความและรูปภาพ) และการกู้คืนจากความล้มเหลว — ทั้งหมดทำงานภายในเครื่อง บล็อกอย่างเป็นทางการของ Meta อธิบายว่าโมเดลนี้ "ถูกปรับให้เหมาะสมสำหรับการทำงานของเอเจนต์ในเครื่องที่ทำงานตลอดเวลา"
เนื่องจากการอนุมานทุกครั้งทำงานในเครื่องบนอุปกรณ์ของผู้ใช้ จึงไม่มีข้อมูลใดออกจากเครื่องเลย สิ่งนี้จะช่วยขจัดข้อแลกเปลี่ยนด้านความเป็นส่วนตัวและเวลาแฝงที่มีอยู่ในเอเจนต์ AI บนคลาวด์ นอกจากนี้ การเปิดเผยน้ำหนักยังช่วยให้ผู้ใช้และนักพัฒนาสามารถตรวจสอบ แก้ไข และปรับแต่งโมเดลได้ ซึ่งเป็นความสามารถที่เป็นไปไม่ได้เลยกับโมเดลแบบ API-gated อย่าง Muse Spark
ใบอนุญาต Apache 2.0 อนุญาตให้นำไปใช้ในเชิงพาณิชย์ ดัดแปลง และแจกจ่ายต่อได้ สิ่งนี้จะช่วยกระตุ้นให้นักพัฒนาบุคคลที่สามสร้างแอปพลิเคชันเอเจนต์ในเครื่อง ไม่ว่าจะเป็นผู้ช่วยเขียนโค้ด เครื่องมือวิเคราะห์เอกสาร หรือเอเจนต์เพิ่มประสิทธิภาพการทำงานส่วนบุคคล โดยไม่ต้องเสียค่าธรรมเนียมต่อโทเค็นหรือพึ่งพาโครงสร้างพื้นฐาน API ของ Meta
การเปิดตัว Muse Glimmer เผยให้เห็นกลยุทธ์สองชั้นที่จงใจซึ่งสร้างสมดุลระหว่างการกระจายและการสร้างรายได้
Zuckerberg ได้อธิบาย 'Personal Superintelligence' ว่าเป็น AI ที่รู้จักบริบทของคุณ ทำงานให้คุณอย่างต่อเนื่อง และอยู่ภายใต้การควบคุมของคุณ ไม่ใช่ของผู้ให้บริการคลาวด์ Muse Glimmer คือการนำวิสัยทัศน์นั้นไปปฏิบัติให้เป็นรูปธรรม: โมเดลที่มีความสามารถ เน้นการทำงานในเครื่อง ที่ใครก็สามารถดาวน์โหลด ปรับแต่ง และรันอย่างถาวรบนฮาร์ดแวร์ของตนเองได้ มันช่วยให้เอเจนต์ที่ทำงานตลอดเวลาและเป็นส่วนตัวอย่างแท้จริงสามารถทำงานได้โดยไม่ต้องเชื่อมต่อเครือข่าย
ในขณะเดียวกัน Muse Spark — โมเดล frontier ที่ทรงพลังกว่าของ Meta — ยังคงเป็นแบบปิดน้ำหนัก เข้าถึงได้ผ่าน API แบบเสียเงินเท่านั้น (ราคา $1.25 ต่อโทเค็นอินพุต 1 ล้าน และ $4.25 ต่อโทเค็นเอาต์พุต 1 ล้าน สำหรับ Spark 1.1) Meta ให้คำมั่นว่าจะเปิดน้ำหนัก Spark 1.2 ในอีกไม่กี่สัปดาห์ข้างหน้า แต่เวอร์ชันที่ล้ำหน้าที่สุดยังคงเป็นกรรมสิทธิ์
รูปแบบนั้นชัดเจน: ปล่อยโมเดลเปิดที่มีความสามารถ (Glimmer) เพื่อให้แพร่กระจายอย่างกว้างขวาง สร้างระบบนิเวศ และสร้างสถานะของ Meta ในวงการ AI ในเครื่อง ในขณะที่สงวนความสามารถระดับ frontier (Spark) ไว้เป็นบริการที่สร้างรายได้และอยู่ภายใต้การควบคุม ดังที่ TechCrunch ตั้งข้อสังเกต Glimmer คือ "รุ่นเปิดของตระกูล Muse Spark ที่ทรงพลังกว่าของ Meta" — ดีพอสำหรับเอเจนต์ในเครื่อง แต่ไม่ทรงพลังพอที่จะกัดกินธุรกิจ API ของ Meta เอง
Zuckerberg เองก็ไม่ได้ปฏิเสธความเป็นไปได้ในการเปิด Spark เวอร์ชันอนาคต ซึ่งบ่งชี้ว่าเส้นแบ่งระหว่างเปิดและปิดอาจเปลี่ยนแปลงไปตามกาลเวลา โดยขึ้นอยู่กับการพิจารณาด้านการแข่งขันและความปลอดภัย สำหรับตอนนี้ ข้อความชัดเจน: Meta ต้องการให้นักพัฒนามีเครื่องมือเพียงพอที่จะสร้างอย่างเป็นส่วนตัวและเป็นอิสระ ในขณะที่ยังคงความฉลาดล้ำสมัยที่สุดไว้หลังกำแพงค่าบริการ
Muse Glimmer คือก้าวสำคัญสำหรับ AI ในเครื่องที่รักษาความเป็นส่วนตัว มันแสดงให้เห็นว่าความสามารถของเอเจนต์ที่ทรงพลัง — การวางแผน, การใช้เครื่องมือ, การเขียนโค้ด — สามารถทำงานได้ทั้งหมดบนฮาร์ดแวร์คอนซูเมอร์ โดยไม่มีเวลาแฝงของคลาวด์, ค่าใช้จ่าย API หรือความเสี่ยงในการรั่วไหลของข้อมูล สำหรับนักพัฒนาและองค์กรที่กังวลเกี่ยวกับอธิปไตยของข้อมูลและความเป็นอิสระในการปฏิบัติงาน โมเดลนี้มอบทางเลือกที่แท้จริงให้กับ AI ที่พึ่งพา API สำหรับอุตสาหกรรมในวงกว้าง มันเผยให้เห็นว่าแม้แต่บริษัทอย่าง Meta ก็ยังเห็นประโยชน์เชิงกลยุทธ์ในการกระจาย AI ที่มีความสามารถในวงกว้าง — เพียงแต่ไม่ใช่โมเดลที่ดีที่สุดของพวกเขา
สิ่งที่ทำให้โมเดลนี้โดดเด่นไม่ได้มีแค่ขนาดของมัน แต่รวมถึงสิ่งที่มันเป็นตัวแทน: แบบแปลนที่เป็นรูปธรรมที่สุดสำหรับวิสัยทัศน์ 'Personal Superintelligence' ของ马克 Zuckerberg — AI ที่รู้จักบริบทของคุณ ทำงานให้คุณอย่างต่อเนื่อง และอยู่ภายใต้การควบคุมของคุณโดยสมบูรณ์
โมเดลขนาด 30 พันล้านพารามิเตอร์โดยทั่วไปจะต้องใช้หน่วยความจำประมาณ 55 GB ที่ความแม่นยำ BF16 วิศวกรของ Meta ใช้เทคนิคต่างๆ รวมถึง 4-bit quantization และประสิทธิภาพทางสถาปัตยกรรม เพื่อลดขนาดโมเดลให้เหลือต่ำกว่า 20 GB ทำให้ Muse Glimmer สามารถทำงานบน GPU ระดับคอนซูเมอร์ที่มี VRAM 24 GB ได้ ซึ่งพบได้ในพีซีสำหรับเล่นเกมระดับสูงและ MacBook รุ่นใหม่
Muse Glimmer ถูก "กลั่นมาจาก Muse Spark และออกแบบมาโดยเฉพาะสำหรับงานเอเจนต์อัตโนมัติ" โมเดลนี้ถูกสร้างขึ้นเพื่อการให้เหตุผลแบบหลายขั้นตอน การใช้เครื่องมือและการเรียกใช้ฟังก์ชันที่เชื่อถือได้ การจัดการเอเจนต์ย่อย การเขียนโค้ดในเครื่อง การรับรู้แบบมัลติโมดัล (ข้อความและรูปภาพ) และการกู้คืนจากความล้มเหลว — ทั้งหมดทำงานภายในเครื่อง บล็อกอย่างเป็นทางการของ Meta อธิบายว่าโมเดลนี้ "ถูกปรับให้เหมาะสมสำหรับการทำงานของเอเจนต์ในเครื่องที่ทำงานตลอดเวลา"
เนื่องจากการอนุมานทุกครั้งทำงานในเครื่องบนอุปกรณ์ของผู้ใช้ จึงไม่มีข้อมูลใดออกจากเครื่องเลย สิ่งนี้จะช่วยขจัดข้อแลกเปลี่ยนด้านความเป็นส่วนตัวและเวลาแฝงที่มีอยู่ในเอเจนต์ AI บนคลาวด์ นอกจากนี้ การเปิดเผยน้ำหนักยังช่วยให้ผู้ใช้และนักพัฒนาสามารถตรวจสอบ แก้ไข และปรับแต่งโมเดลได้ ซึ่งเป็นความสามารถที่เป็นไปไม่ได้เลยกับโมเดลแบบ API-gated อย่าง Muse Spark
ใบอนุญาต Apache 2.0 อนุญาตให้นำไปใช้ในเชิงพาณิชย์ ดัดแปลง และแจกจ่ายต่อได้ สิ่งนี้จะช่วยกระตุ้นให้นักพัฒนาบุคคลที่สามสร้างแอปพลิเคชันเอเจนต์ในเครื่อง ไม่ว่าจะเป็นผู้ช่วยเขียนโค้ด เครื่องมือวิเคราะห์เอกสาร หรือเอเจนต์เพิ่มประสิทธิภาพการทำงานส่วนบุคคล โดยไม่ต้องเสียค่าธรรมเนียมต่อโทเค็นหรือพึ่งพาโครงสร้างพื้นฐาน API ของ Meta
การเปิดตัว Muse Glimmer เผยให้เห็นกลยุทธ์สองชั้นที่จงใจซึ่งสร้างสมดุลระหว่างการกระจายและการสร้างรายได้
Zuckerberg ได้อธิบาย 'Personal Superintelligence' ว่าเป็น AI ที่รู้จักบริบทของคุณ ทำงานให้คุณอย่างต่อเนื่อง และอยู่ภายใต้การควบคุมของคุณ ไม่ใช่ของผู้ให้บริการคลาวด์ Muse Glimmer คือการนำวิสัยทัศน์นั้นไปปฏิบัติให้เป็นรูปธรรม: โมเดลที่มีความสามารถ เน้นการทำงานในเครื่อง ที่ใครก็สามารถดาวน์โหลด ปรับแต่ง และรันอย่างถาวรบนฮาร์ดแวร์ของตนเองได้ มันช่วยให้เอเจนต์ที่ทำงานตลอดเวลาและเป็นส่วนตัวอย่างแท้จริงสามารถทำงานได้โดยไม่ต้องเชื่อมต่อเครือข่าย
ในขณะเดียวกัน Muse Spark — โมเดล frontier ที่ทรงพลังกว่าของ Meta — ยังคงเป็นแบบปิดน้ำหนัก เข้าถึงได้ผ่าน API แบบเสียเงินเท่านั้น (ราคา $1.25 ต่อโทเค็นอินพุต 1 ล้าน และ $4.25 ต่อโทเค็นเอาต์พุต 1 ล้าน สำหรับ Spark 1.1) Meta ให้คำมั่นว่าจะเปิดน้ำหนัก Spark 1.2 ในอีกไม่กี่สัปดาห์ข้างหน้า แต่เวอร์ชันที่ล้ำหน้าที่สุดยังคงเป็นกรรมสิทธิ์
รูปแบบนั้นชัดเจน: ปล่อยโมเดลเปิดที่มีความสามารถ (Glimmer) เพื่อให้แพร่กระจายอย่างกว้างขวาง สร้างระบบนิเวศ และสร้างสถานะของ Meta ในวงการ AI ในเครื่อง ในขณะที่สงวนความสามารถระดับ frontier (Spark) ไว้เป็นบริการที่สร้างรายได้และอยู่ภายใต้การควบคุม ดังที่ TechCrunch ตั้งข้อสังเกต Glimmer คือ "รุ่นเปิดของตระกูล Muse Spark ที่ทรงพลังกว่าของ Meta" — ดีพอสำหรับเอเจนต์ในเครื่อง แต่ไม่ทรงพลังพอที่จะกัดกินธุรกิจ API ของ Meta เอง
Zuckerberg เองก็ไม่ได้ปฏิเสธความเป็นไปได้ในการเปิด Spark เวอร์ชันอนาคต ซึ่งบ่งชี้ว่าเส้นแบ่งระหว่างเปิดและปิดอาจเปลี่ยนแปลงไปตามกาลเวลา โดยขึ้นอยู่กับการพิจารณาด้านการแข่งขันและความปลอดภัย สำหรับตอนนี้ ข้อความชัดเจน: Meta ต้องการให้นักพัฒนามีเครื่องมือเพียงพอที่จะสร้างอย่างเป็นส่วนตัวและเป็นอิสระ ในขณะที่ยังคงความฉลาดล้ำสมัยที่สุดไว้หลังกำแพงค่าบริการ
Muse Glimmer คือก้าวสำคัญสำหรับ AI ในเครื่องที่รักษาความเป็นส่วนตัว มันแสดงให้เห็นว่าความสามารถของเอเจนต์ที่ทรงพลัง — การวางแผน, การใช้เครื่องมือ, การเขียนโค้ด — สามารถทำงานได้ทั้งหมดบนฮาร์ดแวร์คอนซูเมอร์ โดยไม่มีเวลาแฝงของคลาวด์, ค่าใช้จ่าย API หรือความเสี่ยงในการรั่วไหลของข้อมูล สำหรับนักพัฒนาและองค์กรที่กังวลเกี่ยวกับอธิปไตยของข้อมูลและความเป็นอิสระในการปฏิบัติงาน โมเดลนี้มอบทางเลือกที่แท้จริงให้กับ AI ที่พึ่งพา API สำหรับอุตสาหกรรมในวงกว้าง มันเผยให้เห็นว่าแม้แต่บริษัทอย่าง Meta ก็ยังเห็นประโยชน์เชิงกลยุทธ์ในการกระจาย AI ที่มีความสามารถในวงกว้าง — เพียงแต่ไม่ใช่โมเดลที่ดีที่สุดของพวกเขา