คอมพิวเตอร์เกมมิ่งที่เปิดทิ้งไว้แต่ไม่ได้ใช้งานมักถูกมองว่าเป็นเพียงฮาร์ดแวร์ส่วนตัว แต่กลุ่มสตาร์ทอัพ AI ใหม่กำลังมองมันต่างออกไป นั่นคือการเปลี่ยน GPU หรือ CPU ที่ว่างอยู่ให้กลายเป็นโครงสร้างพื้นฐานแบบกระจายศูนย์ โดยจ่ายค่าตอบแทนให้เจ้าของเครื่องเมื่อมีการนำทรัพยากรไปใช้รันงาน AI inference หรือการนำโมเดลที่ฝึกเสร็จแล้วมาใช้ตอบคำขอ แทนที่จะนำไปฝึกโมเดลขนาดใหญ่ระดับแนวหน้า 26

แนวคิดนี้มีเสน่ห์ตรงที่สามารถใช้กำลังประมวลผลซึ่งมีอยู่แล้ว และกระจายงานออกไปตามสถานที่ต่าง ๆ ได้ แต่คำถามสำคัญไม่ใช่แค่ “GPU ที่บ้านรันโมเดลโอเพนซอร์สได้หรือไม่” หากคือ “เครื่องหลายพันเครื่องที่สเปกต่างกัน เปิดใช้งานไม่สม่ำเสมอ และเชื่อมต่อผ่านอินเทอร์เน็ตบ้าน จะให้บริการที่ปลอดภัย เร็ว คาดการณ์ได้ และมีราคาคุ้มค่าสำหรับทั้งลูกค้าและเจ้าของเครื่องหรือไม่”

ระบบประมวลผลแบบกระจายทำงานอย่างไร

โดยทั่วไป ระบบลักษณะนี้มีองค์ประกอบหลักสามส่วน ได้แก่ คำขอจากลูกค้า ชั้นจัดการงานที่เลือกว่าจะส่งงานไปที่ใด และโปรแกรมบนคอมพิวเตอร์ของผู้เข้าร่วมซึ่งเป็นผู้รันงานจริง

ผู้ให้บริการต้องจับคู่งานกับฮาร์ดแวร์ที่พร้อมใช้งาน โดยพิจารณาขนาดโมเดล หน่วยความจำ ความหน่วง เวลาที่เครื่องออนไลน์ และข้อจำกัดทรัพยากรของเจ้าของเครื่อง การทำให้กระบวนการนี้ทำงานได้ดีในโลกจริงยากกว่าการรวมเครื่องหลายเครื่องเข้าด้วยกันบนกระดาษ

Far Labs: เราต์งานและกระจายโมเดล

FAR AI ของ Far Labs อธิบายตัวเองว่าเป็นชั้นประมวลผล inference แบบกระจายศูนย์ ซึ่งเชื่อมต่อ GPU ทั่วไปและส่งคำขอไปยังโหนดที่เหมาะสมแบบเรียลไทม์ เป้าหมายคือรองรับงานที่ต้องโต้ตอบรวดเร็ว โดยไม่ต้องพึ่งพาคลัสเตอร์แบบรวมศูนย์ทั้งหมด 1112

ข้อมูลที่มีระบุว่า scheduler ของ Far Labs สามารถแบ่งงานของโมเดลไปยังหลายเครื่องได้ในกรณีที่เครื่องใดเครื่องหนึ่งมีหน่วยความจำไม่พอเก็บโมเดลทั้งชุด วิธีนี้อาจทำให้ฮาร์ดแวร์ที่มีขนาดเล็กลงเข้าร่วมได้ แต่ก็แลกมาด้วยการประสานงานและการรับส่งข้อมูลระหว่างโหนดที่มากขึ้น ทุกครั้งที่ต้องส่งต่องานย่อมมีโอกาสเพิ่มความหน่วงและลดความเสถียร

Far Labs เคยพูดถึงเป้าหมายความหน่วงสำหรับ inference แบบโต้ตอบที่ต่ำกว่า 100 มิลลิวินาทีในอนาคต อย่างไรก็ตาม ตัวเลขนี้เป็นเป้าหมาย ไม่ใช่หลักฐานว่าระบบทำได้จริงแบบครบกระบวนการ ความหน่วงที่ผู้ใช้สัมผัสยังรวมเวลาจัดเส้นทางคำขอ การรอคิว การโหลดโมเดล การสื่อสารระหว่างโหนด และการส่งผลลัพธ์กลับมาอีกด้วย

Evolving Edge: รันไทม์ที่สร้างบน Ray

Evolving Edge มีรายงานว่าใช้ Ray ซึ่งเป็นเฟรมเวิร์กสำหรับการประมวลผลแบบกระจาย เพื่อจัดสรรงานให้บริการโมเดลไปยังคอมพิวเตอร์ที่เข้าร่วม Ray สามารถแทนงานระยะไกลเป็น actor ที่มีการจัดการ และกำหนดตารางให้ทำงานบนคลัสเตอร์ได้ 56

แต่การใช้ Ray ไม่ได้แก้ปัญหาหลักของตลาดประมวลผลโดยอัตโนมัติ ผู้ให้บริการยังต้องตรวจจับโหนดที่ล้มเหลวหรือทำงานหนักเกินไป วางโมเดลให้เหมาะกับฮาร์ดแวร์แต่ละแบบ และตัดสินใจว่าจะส่งงานซ้ำหรือทำสำเนางานเมื่อใด

จะปกป้องข้อมูลและคอมพิวเตอร์ในบ้านได้อย่างไร

การอนุญาตให้โค้ดหรือข้อมูลจากบุคคลที่สามเข้ามาทำงานบนคอมพิวเตอร์ของผู้บริโภคเป็นความเสี่ยงด้านความปลอดภัยที่ใหญ่กว่าการติดตั้งเกมหรือโปรแกรมทั่วไป ระบบที่น่าเชื่อถือจึงต้องจำกัดทั้งสิ่งที่งานเหล่านั้นเข้าถึงได้และปริมาณทรัพยากรที่ใช้

มาตรการที่ควรมี ได้แก่

• การรันงานในสภาพแวดล้อมแบบแยกส่วนหรือ sandbox
• การเข้ารหัสข้อมูลระหว่างส่งผ่านเครือข่าย
• การจำกัดการใช้ CPU, GPU, หน่วยความจำ พื้นที่เก็บข้อมูล และเครือข่าย
• การจำกัดระยะเวลาของงานและยุติงานอัตโนมัติ
• โปรแกรม node client ที่เจ้าของเครื่องตรวจสอบและอัปเดตได้

สถาปัตยกรรม sandbox ของ Ray ใช้สภาพแวดล้อมน้ำหนักเบาที่แยกเคอร์เนลเพื่อรันโค้ดที่ไม่น่าเชื่อถือและงานของเอเจนต์ โดยการใช้งานเชิงทดลองอาศัย gVisor และสภาพแวดล้อมแบบ OCI container ขณะที่ actor ที่จัดการโดย Ray สามารถกำหนดตารางและควบคุมทรัพยากรของ sandbox ได้ 17182021

ความสามารถเหล่านี้แสดงให้เห็นว่าซอฟต์แวร์ในระบบนิเวศมีเครื่องมือด้านความปลอดภัยที่เกี่ยวข้องอยู่แล้ว แต่ไม่ได้พิสูจน์ว่า Far Labs หรือ Evolving Edge ใช้มาตรการเดียวกันในการให้บริการจริง หรือว่าการตั้งค่าจะปลอดภัยบนระบบปฏิบัติการสำหรับผู้บริโภค นอกจากนี้ยังไม่ยืนยันว่าโหนดที่กำลังทำงานอยู่ใช้โค้ดรุ่นเดียวกับที่เจ้าของเครื่องตรวจสอบแล้ว

ซอฟต์แวร์สำหรับโหนดที่เปิดซอร์สอาจช่วยเพิ่มความโปร่งใส เพราะเจ้าของเครื่องสามารถดูการควบคุมทรัพยากรและพฤติกรรมการเข้าถึงข้อมูลได้ แต่โอเพนซอร์สเพียงอย่างเดียวไม่ใช่หลักประกันด้านความปลอดภัยแบบสมบูรณ์ ผู้ให้บริการยังต้องมีระบบ build ที่ตรวจสอบซ้ำได้ อัปเดตที่ลงลายเซ็นดิจิทัล สิทธิ์การเข้าถึงที่ชัดเจน กระบวนการรับมือช่องโหว่ และหลักฐานว่ารุ่นที่ติดตั้งจริงตรงกับซอร์สโค้ดที่เผยแพร่

เทียบกับ Salad แล้วต่างกันอย่างไร

Salad เป็นคู่เปรียบเทียบที่ชัดเจนที่สุด เพราะมีตลาดกลางที่เชื่อมต่อ GPU ของผู้บริโภคกับองค์กรที่ต้องการกำลังประมวลผลอยู่แล้ว โมเดลของ Salad ไม่ได้พึ่งบล็อกเชนหรือโทเคนเพื่อประสานงาน แต่เป็นตลาดกลางที่ดำเนินการแบบรวมศูนย์ 13

Far Labs เน้นการส่งงานแบบเรียลไทม์และ inference แบบกระจาย รวมถึงความเป็นไปได้ในการแบ่งโมเดลข้ามหลายโหนด ส่วน Evolving Edge ถูกอธิบายว่าเน้นรันไทม์แบบกระจายบน Ray และการเปิดทดสอบแบบเบตา ขณะที่จุดแข็งของ Salad คือประสบการณ์ในการเดินระบบตลาด GPU สำหรับผู้บริโภคจริง

ความแตกต่างนี้มีนัยสำคัญ เพราะ “การกระจายศูนย์” เป็นเพียงสถาปัตยกรรม ไม่ใช่ผลลัพธ์ด้านประสิทธิภาพ เครือข่ายที่มีคอมพิวเตอร์เข้าร่วมจำนวนมากก็ยังอาจดำเนินการแบบรวมศูนย์ ไม่เสถียร หรือไม่คุ้มทุนได้

ปัญหาใหญ่ที่สุดยังคงเป็นกำไรของเจ้าของเครื่อง

เงินที่เจ้าของเครื่องได้รับเป็นเพียงรายรับขั้นต้น การคำนวณผลตอบแทนที่แท้จริงต้องหักค่าไฟ ความร้อนและระบบระบายความร้อน ค่าอินเทอร์เน็ต ค่าบำรุงรักษา ค่าเสื่อมราคาของฮาร์ดแวร์ และโอกาสที่เจ้าของจะไม่ได้ใช้เครื่องตามต้องการ

การสมัครเข้าร่วมเครือข่ายไม่ได้เท่ากับมีการใช้งานจริง GPU ที่เชื่อมต่ออยู่แต่ได้รับงานแบบมีค่าตอบแทนน้อย อาจทำรายได้เพียงเล็กน้อย ขณะที่ยังใช้ไฟและทำให้เกิดภาระด้านการดูแลหรือการสึกหรอ หากไม่มีข้อมูลอัตราจ่ายที่ชัดเจน สมมติฐานการใช้งาน ระยะเวลาของงาน และการใช้พลังงาน เจ้าของเครื่องก็ไม่สามารถคำนวณผลตอบแทนจากการลงทุนได้อย่างน่าเชื่อถือ

การรัน inference ต่อเนื่องยังหมายถึงความร้อน การทำงานของพัดลม และการใช้หน่วยความจำที่มากขึ้น ความคุ้มค่าจะแตกต่างกันไปตามรุ่น GPU ราคาไฟฟ้าในพื้นที่ ระยะเวลาที่ออนไลน์ ความหนักของงาน และมูลค่าขายต่อของอุปกรณ์ ข้อมูลที่มีอยู่ยังไม่ยืนยันว่าการเข้าร่วมจะเป็นรายได้แบบไม่ต้องทำอะไร หรือจะทำกำไรให้เจ้าของเครื่องทั่วไป

เหตุใดคำกล่าวอ้างเรื่องความเร็วและต้นทุนจึงต้องรอดูข้อมูลจริง

ฮาร์ดแวร์ผู้บริโภคอาจมีข้อได้เปรียบด้านต้นทุน เพราะเครื่องเหล่านี้ถูกซื้อไว้แล้วและเจ้าของบางส่วนอาจยอมสร้างรายได้จากกำลังประมวลผลที่เหลือ แต่เครือข่ายยังต้องรับภาระค่าจัดการงาน แบนด์วิดท์ การตรวจสอบระบบ งานที่ล้มเหลว การทำสำเนางาน ฝ่ายสนับสนุน ความปลอดภัย และค่าตอบแทนให้เจ้าของเครื่อง

เรื่องความหน่วงก็เช่นกัน การเริ่ม sandbox ได้เร็วในสภาพแวดล้อม Kubernetes แบบใดแบบหนึ่ง ไม่เท่ากับการตอบ inference แบบครบกระบวนการภายในเวลาไม่ถึง 100 มิลลิวินาทีผ่านเครือข่ายอินเทอร์เน็ตบ้าน เอกสารของ Ray ระบุตัวเลขต่ำกว่า 100 มิลลิวินาทีในบริบทของการเริ่ม sandbox บนการตั้งค่าเฉพาะ ไม่ใช่การรับประกันความหน่วงของเครือข่ายโหนดผู้บริโภคในระดับอินเทอร์เน็ต 17

ระบบ AI แบบกระจายศูนย์ยังโดยทั่วไปต้องพึ่งการประมวลผลนอกบล็อกเชน หรือ off-chain เพราะบล็อกเชนเอนกประสงค์ไม่เหมาะกับปริมาณข้อมูลและการคำนวณที่หนักของแมชชีนเลิร์นนิง ดังนั้นบล็อกเชนจึงมักทำหน้าที่เป็นชั้นประสานงานหรือชำระเงิน มากกว่าจะเป็นสถานที่รันโมเดลโดยตรง 1

เครือข่ายขนาดใหญ่จะอยู่รอดได้หรือไม่เมื่อโหนดล้มจำนวนมาก

เครือข่ายแบบกระจายอาจทนทานกว่าเครื่องเดียว หากมีความจุสำรองเพียงพอและสามารถย้ายงานได้รวดเร็วเมื่อโหนดหายไป งานวิจัยที่เกี่ยวข้องกับ Ray อธิบายถึงการสร้าง dependency ของงานที่สูญหายขึ้นใหม่เมื่อโหนดถูกนำออก และการกู้คืนปริมาณงานเมื่อโหนดกลับมา 30

อย่างไรก็ตาม ความทนทานนี้ไม่ได้เกิดขึ้นเอง เครือข่าย inference ที่ใช้งานจริงต้องมีความซ้ำซ้อน การทำสำเนาโมเดล การวางงานอย่างชาญฉลาด และระบบตรวจจับความล้มเหลวที่รวดเร็ว หากเกิดเหตุขัดข้องแบบสัมพันธ์กัน เช่น อินเทอร์เน็ตของผู้ให้บริการรายเดียวล่ม ไฟฟ้าในภูมิภาคขัดข้อง อัปเดตซอฟต์แวร์มีปัญหา หรือแรงจูงใจด้านรายได้ลดลง โหนดจำนวนมากอาจหายไปพร้อมกัน

การแบ่งโมเดลก็มีข้อแลกเปลี่ยนเช่นกัน การกระจายโมเดลไปยังหลายคอมพิวเตอร์อาจทำให้ฮาร์ดแวร์ที่เดิมรันโมเดลไม่ไหวมีประโยชน์ขึ้น แต่ก็เพิ่มปริมาณข้อมูลในเครือข่ายและจำนวนจุดที่อาจล้มเหลว สมดุลที่เหมาะสมจึงขึ้นอยู่กับประเภทงานและกลยุทธ์จัดตารางของผู้ให้บริการ

เจ้าของ GPU ควรตรวจสอบอะไรก่อนเข้าร่วม

จนกว่าจะมีหลักฐานที่ชัดเจนกว่านี้ ผู้ที่สนใจควรมองเครือข่ายเหล่านี้เป็นบริการทดลองที่ให้ผลตอบแทนไม่แน่นอน ไม่ใช่รายได้แบบ passive income ก่อนติดตั้งโปรแกรม node ควรตรวจสอบอย่างน้อยว่าแพลตฟอร์มมี

1. สูตรคำนวณค่าตอบแทนและประวัติการจ่ายเงินที่ชัดเจน
2. ข้อมูลการใช้งานจริง ไม่ใช่เพียงจำนวนเครื่องที่ลงทะเบียน
3. ประมาณการค่าไฟและค่าระบายความร้อนที่สมเหตุสมผล
4. เอกสารระบุสิทธิ์การเข้าถึงและขีดจำกัดทรัพยากร
5. ผลการทดสอบความปลอดภัยหรือการตรวจสอบจากหน่วยงานอิสระ
6. ตัวเลขจริงด้านความหน่วง ความพร้อมใช้งาน และอัตรางานล้มเหลว
7. วิธีหยุดการทำงานหรือลบโหนดที่ทำได้ง่าย

Far Labs และ Evolving Edge กำลังทดสอบแนวคิดที่มีเหตุผล นั่นคือการนำฮาร์ดแวร์ผู้บริโภคที่กระจัดกระจายมาช่วยเสริมกำลังประมวลผล AI แบบรวมศูนย์ เทคโนโลยีนี้อาจเหมาะกับโมเดลขนาดเล็กและงานบางประเภท แต่กรณีทางธุรกิจในวงกว้างยังเปิดกว้างอยู่ จนกว่าผู้ให้บริการจะพิสูจน์ได้ว่าเครือข่ายปลอดภัย ตอบสนองเร็ว ทนทาน และมีการใช้งานมากพอที่จะจ่ายค่าตอบแทนให้เจ้าของเครื่องหลังหักต้นทุนจริงแล้ว

คอมพิวเตอร์เกมมิ่งที่เปิดทิ้งไว้แต่ไม่ได้ใช้งานมักถูกมองว่าเป็นเพียงฮาร์ดแวร์ส่วนตัว แต่กลุ่มสตาร์ทอัพ AI ใหม่กำลังมองมันต่างออกไป นั่นคือการเปลี่ยน GPU หรือ CPU ที่ว่างอยู่ให้กลายเป็นโครงสร้างพื้นฐานแบบกระจายศูนย์ โดยจ่ายค่าตอบแทนให้เจ้าของเครื่องเมื่อมีการนำทรัพยากรไปใช้รันงาน AI inference หรือการนำโมเดลที่ฝึกเสร็จแล้วมาใช้ตอบคำขอ แทนที่จะนำไปฝึกโมเดลขนาดใหญ่ระดับแนวหน้า 26

แนวคิดนี้มีเสน่ห์ตรงที่สามารถใช้กำลังประมวลผลซึ่งมีอยู่แล้ว และกระจายงานออกไปตามสถานที่ต่าง ๆ ได้ แต่คำถามสำคัญไม่ใช่แค่ “GPU ที่บ้านรันโมเดลโอเพนซอร์สได้หรือไม่” หากคือ “เครื่องหลายพันเครื่องที่สเปกต่างกัน เปิดใช้งานไม่สม่ำเสมอ และเชื่อมต่อผ่านอินเทอร์เน็ตบ้าน จะให้บริการที่ปลอดภัย เร็ว คาดการณ์ได้ และมีราคาคุ้มค่าสำหรับทั้งลูกค้าและเจ้าของเครื่องหรือไม่”

ระบบประมวลผลแบบกระจายทำงานอย่างไร

โดยทั่วไป ระบบลักษณะนี้มีองค์ประกอบหลักสามส่วน ได้แก่ คำขอจากลูกค้า ชั้นจัดการงานที่เลือกว่าจะส่งงานไปที่ใด และโปรแกรมบนคอมพิวเตอร์ของผู้เข้าร่วมซึ่งเป็นผู้รันงานจริง

ผู้ให้บริการต้องจับคู่งานกับฮาร์ดแวร์ที่พร้อมใช้งาน โดยพิจารณาขนาดโมเดล หน่วยความจำ ความหน่วง เวลาที่เครื่องออนไลน์ และข้อจำกัดทรัพยากรของเจ้าของเครื่อง การทำให้กระบวนการนี้ทำงานได้ดีในโลกจริงยากกว่าการรวมเครื่องหลายเครื่องเข้าด้วยกันบนกระดาษ

Far Labs: เราต์งานและกระจายโมเดล

FAR AI ของ Far Labs อธิบายตัวเองว่าเป็นชั้นประมวลผล inference แบบกระจายศูนย์ ซึ่งเชื่อมต่อ GPU ทั่วไปและส่งคำขอไปยังโหนดที่เหมาะสมแบบเรียลไทม์ เป้าหมายคือรองรับงานที่ต้องโต้ตอบรวดเร็ว โดยไม่ต้องพึ่งพาคลัสเตอร์แบบรวมศูนย์ทั้งหมด 1112

ข้อมูลที่มีระบุว่า scheduler ของ Far Labs สามารถแบ่งงานของโมเดลไปยังหลายเครื่องได้ในกรณีที่เครื่องใดเครื่องหนึ่งมีหน่วยความจำไม่พอเก็บโมเดลทั้งชุด วิธีนี้อาจทำให้ฮาร์ดแวร์ที่มีขนาดเล็กลงเข้าร่วมได้ แต่ก็แลกมาด้วยการประสานงานและการรับส่งข้อมูลระหว่างโหนดที่มากขึ้น ทุกครั้งที่ต้องส่งต่องานย่อมมีโอกาสเพิ่มความหน่วงและลดความเสถียร

Far Labs เคยพูดถึงเป้าหมายความหน่วงสำหรับ inference แบบโต้ตอบที่ต่ำกว่า 100 มิลลิวินาทีในอนาคต อย่างไรก็ตาม ตัวเลขนี้เป็นเป้าหมาย ไม่ใช่หลักฐานว่าระบบทำได้จริงแบบครบกระบวนการ ความหน่วงที่ผู้ใช้สัมผัสยังรวมเวลาจัดเส้นทางคำขอ การรอคิว การโหลดโมเดล การสื่อสารระหว่างโหนด และการส่งผลลัพธ์กลับมาอีกด้วย

Evolving Edge: รันไทม์ที่สร้างบน Ray

Evolving Edge มีรายงานว่าใช้ Ray ซึ่งเป็นเฟรมเวิร์กสำหรับการประมวลผลแบบกระจาย เพื่อจัดสรรงานให้บริการโมเดลไปยังคอมพิวเตอร์ที่เข้าร่วม Ray สามารถแทนงานระยะไกลเป็น actor ที่มีการจัดการ และกำหนดตารางให้ทำงานบนคลัสเตอร์ได้ 56

แต่การใช้ Ray ไม่ได้แก้ปัญหาหลักของตลาดประมวลผลโดยอัตโนมัติ ผู้ให้บริการยังต้องตรวจจับโหนดที่ล้มเหลวหรือทำงานหนักเกินไป วางโมเดลให้เหมาะกับฮาร์ดแวร์แต่ละแบบ และตัดสินใจว่าจะส่งงานซ้ำหรือทำสำเนางานเมื่อใด

จะปกป้องข้อมูลและคอมพิวเตอร์ในบ้านได้อย่างไร

การอนุญาตให้โค้ดหรือข้อมูลจากบุคคลที่สามเข้ามาทำงานบนคอมพิวเตอร์ของผู้บริโภคเป็นความเสี่ยงด้านความปลอดภัยที่ใหญ่กว่าการติดตั้งเกมหรือโปรแกรมทั่วไป ระบบที่น่าเชื่อถือจึงต้องจำกัดทั้งสิ่งที่งานเหล่านั้นเข้าถึงได้และปริมาณทรัพยากรที่ใช้

มาตรการที่ควรมี ได้แก่

• การรันงานในสภาพแวดล้อมแบบแยกส่วนหรือ sandbox
• การเข้ารหัสข้อมูลระหว่างส่งผ่านเครือข่าย
• การจำกัดการใช้ CPU, GPU, หน่วยความจำ พื้นที่เก็บข้อมูล และเครือข่าย
• การจำกัดระยะเวลาของงานและยุติงานอัตโนมัติ
• โปรแกรม node client ที่เจ้าของเครื่องตรวจสอบและอัปเดตได้

สถาปัตยกรรม sandbox ของ Ray ใช้สภาพแวดล้อมน้ำหนักเบาที่แยกเคอร์เนลเพื่อรันโค้ดที่ไม่น่าเชื่อถือและงานของเอเจนต์ โดยการใช้งานเชิงทดลองอาศัย gVisor และสภาพแวดล้อมแบบ OCI container ขณะที่ actor ที่จัดการโดย Ray สามารถกำหนดตารางและควบคุมทรัพยากรของ sandbox ได้ 17182021

ความสามารถเหล่านี้แสดงให้เห็นว่าซอฟต์แวร์ในระบบนิเวศมีเครื่องมือด้านความปลอดภัยที่เกี่ยวข้องอยู่แล้ว แต่ไม่ได้พิสูจน์ว่า Far Labs หรือ Evolving Edge ใช้มาตรการเดียวกันในการให้บริการจริง หรือว่าการตั้งค่าจะปลอดภัยบนระบบปฏิบัติการสำหรับผู้บริโภค นอกจากนี้ยังไม่ยืนยันว่าโหนดที่กำลังทำงานอยู่ใช้โค้ดรุ่นเดียวกับที่เจ้าของเครื่องตรวจสอบแล้ว

ซอฟต์แวร์สำหรับโหนดที่เปิดซอร์สอาจช่วยเพิ่มความโปร่งใส เพราะเจ้าของเครื่องสามารถดูการควบคุมทรัพยากรและพฤติกรรมการเข้าถึงข้อมูลได้ แต่โอเพนซอร์สเพียงอย่างเดียวไม่ใช่หลักประกันด้านความปลอดภัยแบบสมบูรณ์ ผู้ให้บริการยังต้องมีระบบ build ที่ตรวจสอบซ้ำได้ อัปเดตที่ลงลายเซ็นดิจิทัล สิทธิ์การเข้าถึงที่ชัดเจน กระบวนการรับมือช่องโหว่ และหลักฐานว่ารุ่นที่ติดตั้งจริงตรงกับซอร์สโค้ดที่เผยแพร่

เทียบกับ Salad แล้วต่างกันอย่างไร

Salad เป็นคู่เปรียบเทียบที่ชัดเจนที่สุด เพราะมีตลาดกลางที่เชื่อมต่อ GPU ของผู้บริโภคกับองค์กรที่ต้องการกำลังประมวลผลอยู่แล้ว โมเดลของ Salad ไม่ได้พึ่งบล็อกเชนหรือโทเคนเพื่อประสานงาน แต่เป็นตลาดกลางที่ดำเนินการแบบรวมศูนย์ 13

Far Labs เน้นการส่งงานแบบเรียลไทม์และ inference แบบกระจาย รวมถึงความเป็นไปได้ในการแบ่งโมเดลข้ามหลายโหนด ส่วน Evolving Edge ถูกอธิบายว่าเน้นรันไทม์แบบกระจายบน Ray และการเปิดทดสอบแบบเบตา ขณะที่จุดแข็งของ Salad คือประสบการณ์ในการเดินระบบตลาด GPU สำหรับผู้บริโภคจริง

ความแตกต่างนี้มีนัยสำคัญ เพราะ “การกระจายศูนย์” เป็นเพียงสถาปัตยกรรม ไม่ใช่ผลลัพธ์ด้านประสิทธิภาพ เครือข่ายที่มีคอมพิวเตอร์เข้าร่วมจำนวนมากก็ยังอาจดำเนินการแบบรวมศูนย์ ไม่เสถียร หรือไม่คุ้มทุนได้

ปัญหาใหญ่ที่สุดยังคงเป็นกำไรของเจ้าของเครื่อง

เงินที่เจ้าของเครื่องได้รับเป็นเพียงรายรับขั้นต้น การคำนวณผลตอบแทนที่แท้จริงต้องหักค่าไฟ ความร้อนและระบบระบายความร้อน ค่าอินเทอร์เน็ต ค่าบำรุงรักษา ค่าเสื่อมราคาของฮาร์ดแวร์ และโอกาสที่เจ้าของจะไม่ได้ใช้เครื่องตามต้องการ

การสมัครเข้าร่วมเครือข่ายไม่ได้เท่ากับมีการใช้งานจริง GPU ที่เชื่อมต่ออยู่แต่ได้รับงานแบบมีค่าตอบแทนน้อย อาจทำรายได้เพียงเล็กน้อย ขณะที่ยังใช้ไฟและทำให้เกิดภาระด้านการดูแลหรือการสึกหรอ หากไม่มีข้อมูลอัตราจ่ายที่ชัดเจน สมมติฐานการใช้งาน ระยะเวลาของงาน และการใช้พลังงาน เจ้าของเครื่องก็ไม่สามารถคำนวณผลตอบแทนจากการลงทุนได้อย่างน่าเชื่อถือ

การรัน inference ต่อเนื่องยังหมายถึงความร้อน การทำงานของพัดลม และการใช้หน่วยความจำที่มากขึ้น ความคุ้มค่าจะแตกต่างกันไปตามรุ่น GPU ราคาไฟฟ้าในพื้นที่ ระยะเวลาที่ออนไลน์ ความหนักของงาน และมูลค่าขายต่อของอุปกรณ์ ข้อมูลที่มีอยู่ยังไม่ยืนยันว่าการเข้าร่วมจะเป็นรายได้แบบไม่ต้องทำอะไร หรือจะทำกำไรให้เจ้าของเครื่องทั่วไป

เหตุใดคำกล่าวอ้างเรื่องความเร็วและต้นทุนจึงต้องรอดูข้อมูลจริง

ฮาร์ดแวร์ผู้บริโภคอาจมีข้อได้เปรียบด้านต้นทุน เพราะเครื่องเหล่านี้ถูกซื้อไว้แล้วและเจ้าของบางส่วนอาจยอมสร้างรายได้จากกำลังประมวลผลที่เหลือ แต่เครือข่ายยังต้องรับภาระค่าจัดการงาน แบนด์วิดท์ การตรวจสอบระบบ งานที่ล้มเหลว การทำสำเนางาน ฝ่ายสนับสนุน ความปลอดภัย และค่าตอบแทนให้เจ้าของเครื่อง

เรื่องความหน่วงก็เช่นกัน การเริ่ม sandbox ได้เร็วในสภาพแวดล้อม Kubernetes แบบใดแบบหนึ่ง ไม่เท่ากับการตอบ inference แบบครบกระบวนการภายในเวลาไม่ถึง 100 มิลลิวินาทีผ่านเครือข่ายอินเทอร์เน็ตบ้าน เอกสารของ Ray ระบุตัวเลขต่ำกว่า 100 มิลลิวินาทีในบริบทของการเริ่ม sandbox บนการตั้งค่าเฉพาะ ไม่ใช่การรับประกันความหน่วงของเครือข่ายโหนดผู้บริโภคในระดับอินเทอร์เน็ต 17

ระบบ AI แบบกระจายศูนย์ยังโดยทั่วไปต้องพึ่งการประมวลผลนอกบล็อกเชน หรือ off-chain เพราะบล็อกเชนเอนกประสงค์ไม่เหมาะกับปริมาณข้อมูลและการคำนวณที่หนักของแมชชีนเลิร์นนิง ดังนั้นบล็อกเชนจึงมักทำหน้าที่เป็นชั้นประสานงานหรือชำระเงิน มากกว่าจะเป็นสถานที่รันโมเดลโดยตรง 1

เครือข่ายขนาดใหญ่จะอยู่รอดได้หรือไม่เมื่อโหนดล้มจำนวนมาก

เครือข่ายแบบกระจายอาจทนทานกว่าเครื่องเดียว หากมีความจุสำรองเพียงพอและสามารถย้ายงานได้รวดเร็วเมื่อโหนดหายไป งานวิจัยที่เกี่ยวข้องกับ Ray อธิบายถึงการสร้าง dependency ของงานที่สูญหายขึ้นใหม่เมื่อโหนดถูกนำออก และการกู้คืนปริมาณงานเมื่อโหนดกลับมา 30

อย่างไรก็ตาม ความทนทานนี้ไม่ได้เกิดขึ้นเอง เครือข่าย inference ที่ใช้งานจริงต้องมีความซ้ำซ้อน การทำสำเนาโมเดล การวางงานอย่างชาญฉลาด และระบบตรวจจับความล้มเหลวที่รวดเร็ว หากเกิดเหตุขัดข้องแบบสัมพันธ์กัน เช่น อินเทอร์เน็ตของผู้ให้บริการรายเดียวล่ม ไฟฟ้าในภูมิภาคขัดข้อง อัปเดตซอฟต์แวร์มีปัญหา หรือแรงจูงใจด้านรายได้ลดลง โหนดจำนวนมากอาจหายไปพร้อมกัน

การแบ่งโมเดลก็มีข้อแลกเปลี่ยนเช่นกัน การกระจายโมเดลไปยังหลายคอมพิวเตอร์อาจทำให้ฮาร์ดแวร์ที่เดิมรันโมเดลไม่ไหวมีประโยชน์ขึ้น แต่ก็เพิ่มปริมาณข้อมูลในเครือข่ายและจำนวนจุดที่อาจล้มเหลว สมดุลที่เหมาะสมจึงขึ้นอยู่กับประเภทงานและกลยุทธ์จัดตารางของผู้ให้บริการ

เจ้าของ GPU ควรตรวจสอบอะไรก่อนเข้าร่วม

จนกว่าจะมีหลักฐานที่ชัดเจนกว่านี้ ผู้ที่สนใจควรมองเครือข่ายเหล่านี้เป็นบริการทดลองที่ให้ผลตอบแทนไม่แน่นอน ไม่ใช่รายได้แบบ passive income ก่อนติดตั้งโปรแกรม node ควรตรวจสอบอย่างน้อยว่าแพลตฟอร์มมี

1. สูตรคำนวณค่าตอบแทนและประวัติการจ่ายเงินที่ชัดเจน
2. ข้อมูลการใช้งานจริง ไม่ใช่เพียงจำนวนเครื่องที่ลงทะเบียน
3. ประมาณการค่าไฟและค่าระบายความร้อนที่สมเหตุสมผล
4. เอกสารระบุสิทธิ์การเข้าถึงและขีดจำกัดทรัพยากร
5. ผลการทดสอบความปลอดภัยหรือการตรวจสอบจากหน่วยงานอิสระ
6. ตัวเลขจริงด้านความหน่วง ความพร้อมใช้งาน และอัตรางานล้มเหลว
7. วิธีหยุดการทำงานหรือลบโหนดที่ทำได้ง่าย

Far Labs และ Evolving Edge กำลังทดสอบแนวคิดที่มีเหตุผล นั่นคือการนำฮาร์ดแวร์ผู้บริโภคที่กระจัดกระจายมาช่วยเสริมกำลังประมวลผล AI แบบรวมศูนย์ เทคโนโลยีนี้อาจเหมาะกับโมเดลขนาดเล็กและงานบางประเภท แต่กรณีทางธุรกิจในวงกว้างยังเปิดกว้างอยู่ จนกว่าผู้ให้บริการจะพิสูจน์ได้ว่าเครือข่ายปลอดภัย ตอบสนองเร็ว ทนทาน และมีการใช้งานมากพอที่จะจ่ายค่าตอบแทนให้เจ้าของเครื่องหลังหักต้นทุนจริงแล้ว