Osaurus เปลี่ยน Mac ของคุณให้เป็นศูนย์กลาง AI ที่รันโมเดลได้ทั้งในเครื่องและบนคลาวด์

Osaurus คือแพลตฟอร์ม AI แบบ local‑first สำหรับ Apple Silicon Macs ที่ออกแบบมาให้รันโมเดลภาษาขนาดใหญ่ (LLMs) บนเครื่องของผู้ใช้โดยตรง ขณะเดียวกันก็ยังสามารถเชื่อมต่อไปยังผู้ให้บริการ AI บนคลาวด์ได้เมื่อจำเป็น จุดสำคัญของระบบคือการทำหน้าที่เป็น “ชั้นควบคุม” ระหว่างแอปพลิเคชันกับโมเดล AI หลายประเภท—ทั้งแบบ local และ cloud—โดยเก็บข้อมูลสำคัญ เช่น หน่วยความจำของเอเจนต์ ไฟล์ และเวิร์กโฟลว์ไว้บนเครื่องผู้ใช้เอง

แพลตฟอร์มนี้ถูกสร้างเป็นแอป macOS แบบ native และทำงานเป็น local AI server ที่ปรับแต่งมาสำหรับชิปตระกูล M‑series ของ Apple เป้าหมายคือทำให้ Mac กลายเป็น ศูนย์กลาง AI ส่วนตัว ที่ผู้ใช้สามารถเปลี่ยนโมเดลได้ตลอดเวลา โดยที่ข้อมูล เครื่องมือ และระบบอัตโนมัติยังคงอยู่บนเครื่องของตนเอง

Osaurus คืออะไร และทำไมถึงถูกสร้างขึ้น

แอป AI ส่วนใหญ่ในปัจจุบันทำงานบนคลาวด์เป็นหลัก ซึ่งหมายความว่าคำสั่ง (prompt) ไฟล์ หรือประวัติการใช้งานจำนวนมากถูกส่งไปเก็บบนเซิร์ฟเวอร์ภายนอก

Osaurus เลือกแนวทางที่ต่างออกไป โดยทำให้ "context layer" เช่น เอเจนต์ หน่วยความจำ ไฟล์ และเครื่องมือ อยู่บนเครื่องผู้ใช้เป็นค่าเริ่มต้น ขณะที่โมเดล AI สามารถสลับไปใช้แบบ local หรือ cloud ได้ตามสถานการณ์

ในเชิงเทคนิค Osaurus ทำหน้าที่สองอย่างพร้อมกัน:

• แอป AI แบบ native บน macOS ที่มีอินเทอร์เฟซแชตและหน้าจัดการระบบ
• เซิร์ฟเวอร์ LLM ภายในเครื่องและ API gateway ที่เครื่องมืออื่นสามารถเชื่อมต่อได้

ตัวระบบถูกพัฒนาในภาษา Swift และใช้ MLX ซึ่งเป็น runtime สำหรับ machine learning ของ Apple เพื่อให้การประมวลผลโมเดลบนชิป Apple Silicon ทำงานได้อย่างมีประสิทธิภาพ

อินเทอร์เฟซเดียว ใช้ได้ทั้งโมเดลในเครื่องและคลาวด์

หนึ่งในจุดเด่นของ Osaurus คือระบบ routing ของโมเดล ผู้ใช้สามารถเลือกหรือสลับโมเดลจากอินเทอร์เฟซเดียว เช่นในหน้าต่างแชต โดยไม่ต้องเปลี่ยนเครื่องมือหรือ workflow เดิม

ตัวเลือกโมเดลประกอบด้วย:

• โมเดล MLX ภายในเครื่อง ที่รันบน Mac โดยตรง
• Apple Foundation Models จากระบบ Apple Intelligence
• ผู้ให้บริการคลาวด์ เช่น OpenAI หรือ Anthropic

เบื้องหลัง Osaurus เปิด API หลายรูปแบบจากเซิร์ฟเวอร์ภายในเครื่องเดียวกัน เช่น:

• OpenAI‑compatible endpoints
• API แบบ Anthropic
• Ollama‑compatible endpoints
• เครื่องมือผ่าน Model Context Protocol (MCP)

ด้วยความเข้ากันได้นี้ แอปหรือ SDK ที่มีอยู่แล้วสามารถเชื่อมต่อกับ Osaurus ได้เหมือนกำลังใช้ผู้ให้บริการ AI ปกติ แต่ระบบจะตัดสินใจเองว่าควรรันโมเดลในเครื่องหรือส่งคำขอไปยังคลาวด์

โมเดลที่รองรับ

Osaurus ถูกออกแบบให้ ไม่ผูกกับโมเดลใดโมเดลหนึ่ง หรือที่เรียกว่า model‑agnostic

ตัวอย่างโมเดลที่สามารถใช้งานได้ผ่านแพลตฟอร์ม ได้แก่:

• โมเดลโอเพ่นซอร์ส เช่น Llama family, Gemma, Qwen หรือโมเดลที่รองรับ MLX
• Apple Foundation Models ที่ทำงานบนอุปกรณ์ผ่าน Apple Intelligence
• โมเดลคลาวด์จากผู้ให้บริการ เช่น OpenAI หรือ Anthropic

ผู้ใช้สามารถผสมการใช้งานได้ เช่น ใช้โมเดลเล็กในเครื่องเมื่อต้องการความเป็นส่วนตัวหรือทำงานออฟไลน์ และสลับไปใช้โมเดลคลาวด์ที่ใหญ่กว่าเมื่อจำเป็นต้องใช้พลังประมวลผลมากขึ้น โดยยังคงใช้เอเจนต์และหน่วยความจำชุดเดิมได้

ฟีเจอร์หลักของแพลตฟอร์ม

Osaurus รวมองค์ประกอบของโครงสร้างพื้นฐาน AI หลายอย่างไว้ในแอป macOS เดียว

Chat Overlay และอินเทอร์เฟซหลัก

ระบบมี chat overlay ที่สามารถเรียกใช้งานได้ทั่วทั้ง macOS เพื่อโต้ตอบกับ AI อย่างรวดเร็ว นอกจากนี้ยังมีหน้าต่างจัดการสำหรับตั้งค่าเอเจนต์ โมเดล ปลั๊กอิน เครื่องมือ และระบบอัตโนมัติ

Agents พร้อมหน่วยความจำถาวร

เอเจนต์ใน Osaurus สามารถเก็บการตั้งค่า prompt และหน่วยความจำระหว่างเซสชันได้ ทำให้ workflow เดิมยังทำงานต่อเนื่องได้ แม้จะเปลี่ยนโมเดลหรือผู้ให้บริการ AI ก็ตาม

Plugins เครื่องมือ และ MCP

แพลตฟอร์มรองรับปลั๊กอินแบบ native และเครื่องมือภายนอกผ่าน Model Context Protocol (MCP) ซึ่งช่วยให้เชื่อมต่อกับแอปหรือสภาพแวดล้อมนักพัฒนาอื่นได้โดยยังควบคุม orchestration ไว้ในเครื่อง

Voice และ Speech‑to‑Text แบบ local

Osaurus มีระบบแปลงเสียงเป็นข้อความโดยใช้ Whisper ผ่าน WhisperKit ซึ่งสามารถทำงานบนเครื่องทั้งหมด รองรับการถอดเสียงแบบเรียลไทม์จากไมโครโฟนหรือเสียงในระบบโดยไม่ต้องส่งข้อมูลออกนอกเครื่อง

CLI และ Local API สำหรับนักพัฒนา

นักพัฒนาสามารถควบคุมระบบผ่าน command‑line interface และ HTTP server ภายในเครื่อง เพื่อจัดการโมเดล เอเจนต์ และเครื่องมือแบบโปรแกรมได้

Sandbox เพื่อเพิ่มความปลอดภัยของ AI Agent

เอเจนต์ AI ที่สามารถรันโค้ดหรือทำงานอัตโนมัติได้อาจมีความเสี่ยงด้านความปลอดภัย

Osaurus แก้ปัญหานี้ด้วยการรันโค้ดของเอเจนต์ใน Linux virtual machine แบบ sandbox ที่แยกออกจาก macOS

VM นี้ใช้ Apple Containerization framework และรันระบบ Alpine Linux พร้อมเครื่องมือ POSIX ครบชุด เช่น:

• shell
• Python
• Node
• compiler
• package manager

แนวทางนี้ให้ข้อดีด้านความปลอดภัยหลายประการ:

• แยกระบบจาก macOS: โค้ดของเอเจนต์ไม่สามารถเข้าถึงระบบหลักโดยตรง
• ควบคุมสิทธิ์ได้: จำกัดการเข้าถึงระบบผ่าน sandbox
• รัน automation ได้อย่างปลอดภัย: ลดความเสี่ยงจากโค้ดที่ผิดพลาดหรือเป็นอันตราย

สถาปัตยกรรมนี้ทำให้ Osaurus รองรับเอเจนต์อัตโนมัติได้โดยยังลดความเสี่ยงต่อเครื่องของผู้ใช้

ความต้องการฮาร์ดแวร์และระบบปฏิบัติการ

Osaurus ถูกออกแบบมาสำหรับ Apple Silicon เท่านั้น และไม่รองรับ Mac ที่ใช้ Intel

ข้อกำหนดขั้นต่ำ ได้แก่:

• Mac ที่ใช้ชิป Apple Silicon (M1, M2, M3 หรือใหม่กว่า)
• macOS 15.5 หรือใหม่กว่า
• พื้นที่เก็บข้อมูลประมาณ 2–20 GB ต่อหนึ่งโมเดล ขึ้นอยู่กับขนาดโมเดล

ฟีเจอร์ขั้นสูงบางอย่าง เช่น Linux sandbox และการเชื่อมต่อ Apple Foundation Models ต้องใช้ macOS 26 (Tahoe) หรือใหม่กว่า เพราะต้องอาศัยเฟรมเวิร์ก AI และ container ของ Apple รุ่นล่าสุด

ทำไม Osaurus ถึงเริ่มได้รับความสนใจ

แม้ตลาดเครื่องมือ AI จะมีการแข่งขันสูง แต่ Osaurus กำลังได้รับความสนใจด้วยเหตุผลหลักหลายข้อ

1. ความเป็นส่วนตัวและการควบคุมข้อมูล
ผู้ใช้จำนวนมากต้องการเครื่องมือ AI ที่ไม่ส่งข้อมูลทั้งหมดไปยังคลาวด์ การเก็บ memory ไฟล์ และเอเจนต์ไว้ในเครื่องทำให้ผู้ใช้ควบคุมข้อมูลได้เอง

2. ความยืดหยุ่นในการเปลี่ยนโมเดล
ผู้ให้บริการและโมเดล AI เปลี่ยนแปลงเร็วมาก Osaurus จึงออกแบบให้โมเดลเป็นเพียงส่วนประกอบที่เปลี่ยนได้ โดย workflow เดิมยังคงอยู่

3. เวิร์กโฟลว์แบบ Hybrid AI
ผู้ใช้สามารถทำงานออฟไลน์ด้วยโมเดลในเครื่อง และใช้คลาวด์เมื่อต้องการพลังประมวลผลมากขึ้น ทั้งหมดอยู่ในระบบเดียว

4. โครงสร้างที่เป็นมิตรต่อนักพัฒนา
API ที่เข้ากันได้กับ OpenAI และระบบ endpoint ภายในเครื่องช่วยให้นักพัฒนาเชื่อมต่อเครื่องมือที่มีอยู่กับ Osaurus ได้ง่ายโดยไม่ต้องเขียน integration ใหม่

แนวคิดใหญ่: AI ส่วนตัวที่อยู่บนคอมพิวเตอร์ของคุณ

แนวคิดหลักของ Osaurus คือคุณค่าที่แท้จริงของระบบ AI ไม่ได้อยู่ที่โมเดลเพียงอย่างเดียว แต่คือ บริบทโดยรอบ เช่น หน่วยความจำ เครื่องมือ เวิร์กโฟลว์ และตัวตนของผู้ใช้

เมื่อชั้นบริบทนี้อยู่บนอุปกรณ์ของผู้ใช้เอง ระบบ AI ก็จะมีความเป็นส่วนตัว พกพาได้ และไม่ขึ้นกับผู้ให้บริการรายใดรายหนึ่งมากเกินไป

หากแนวคิดนี้ได้รับความนิยมมากขึ้น เครื่องมืออย่าง Osaurus อาจทำให้คอมพิวเตอร์ส่วนบุคคล—โดยเฉพาะ Mac ที่ใช้ Apple Silicon—กลายเป็นสภาพแวดล้อม AI เต็มรูปแบบที่สามารถรันโมเดล เอเจนต์ และระบบอัตโนมัติได้ในเครื่อง พร้อมเชื่อมต่อกับระบบ AI ภายนอกเมื่อจำเป็น