איך Jingang GC3 משלב RISC-V ומחשוב Dataflow כדי לייעל בינה מלאכותית בווידאו

Jingang GC3, המכונה גם King Kong GC3, מוצג כמעבד ייעודי של SmarCo HT Tech לבינה מלאכותית בווידאו וליצירת תוכן באמצעות AI. במקום לפצל את פענוח הווידאו, הסקת המסקנות של מודלי AI ויצירת הווידאו בין התקנים נפרדים, השבב מתוכנן לרכז את מסלולי העיבוד הללו תחת ארכיטקטורה המבוססת על Dataflow — מחשוב המתקדם כאשר הנתונים הדרושים זמינים.

לפי הדיווחים, GC3 כולל 12 ליבות RISC-V, ביצועי חישוב של 200 TOPS ב-INT8 וזיכרון LPDDR5 ECC מאוחד בנפח 128GB. 35

הנקודה המרכזית אינה רק המספר 200 TOPS. הטענה של GC3 היא שבעומסי עבודה של וידאו, חלק ניכר מהזמן והאנרגיה מתבזבז על העברת פריימים, משקלי מודלים ותוצאות ביניים בין מעבדים, מאיצים ומאגרי זיכרון. מנגנון ה-Dataflow, הזיכרון המשותף והחיבור בין נתיבי הווידאו וה-AI נועדו לצמצם את התנועה הזו.

למה בינה מלאכותית בווידאו סובלת מבעיית העברת נתונים

במערכת קונבנציונלית לניתוח וידאו, הזרם מפוענח לפריימים, הפריימים מועברים ל-GPU, מתבצעת הסקת מסקנות ראייתית, ולאחר מכן התוצאות עוברות שלבי עיבוד נוספים. כאשר מספר הזרמים המקביליים גדל, העברת הנתונים והתיאום ביניהם עלולים להפוך לצוואר בקבוק — לצד החישוב עצמו. 3

יצירת וידאו מציבה אתגר דומה. מערכות המבוססות על Diffusion או Transformer משתמשות בפרמטרים גדולים ומייצרות נתוני ביניים רבים. בדיווחים על GC3 נטען כי מערכי נתוני הביניים הללו עשויים להגיע למאות גיגה-בייט, ולכן קריאות, כתיבות והעברות חוזרות צורכות רוחב פס, חשמל וזמן. 3

במילים אחרות, הבעיה אינה בהכרח מחסור ביחידות חישוב. לעיתים צוואר הבקבוק הוא התיאום בין שלבים רבים של משימה מקבילית מאוד, והמחיר של העברת הנתונים ביניהם.

מה GC3 מנסה לשלב בארכיטקטורה אחת

מחשוב Dataflow

בעיצוב קונבנציונלי המבוסס על זרימת בקרה, מעבד או מתזמן מרכזי שולף הוראות ומקצה אותן, בעוד שהנתונים נעים דרך היררכיית הזיכרון. הגישה הזו גמישה, אך הדיווחים על GC3 מציגים אותה כהתאמה פחות טובה לחלק מפעולות הווידאו הסדורות והמקביליות מאוד. 3

בארכיטקטורת Dataflow, החישוב יכול להתקדם כאשר הנתונים הנדרשים לפעולה זמינים. באופן עקרוני, הדבר מאפשר לחשוף יותר מקביליות ולהפחית המתנה שנובעת מתזמון מרכזי ומתיאום גלובלי. בעומסי עבודה של וידאו, המטרה היא להשאיר יותר שלבי עיבוד פעילים בלי להזרים כל משימה שוב ושוב דרך נתיב בקרה יחיד. 3

עם זאת, מדובר ביעד ארכיטקטוני — לא בהוכחה לשיפור ביצועים מסוים. המקורות הזמינים אינם מציגים השוואות עצמאיות מקצה לקצה מול מעבדים, מעבדים גרפיים או פלטפורמות וידאו-AI מסוימות.

ליבות RISC-V לבקרה

12 ליבות ה-RISC-V משמשות, לפי תיאור העיצוב, כשכבת הבקרה הניתנת לתכנות. נתיבי עיבוד ייעודיים מטפלים בפעולות הווידאו וה-AI, בעוד שליבות ה-RISC-V מספקות בקרה כללית ותזמון, במקום להטיל על מעבד רגיל את האחריות לכל שלב. 35

לכן RISC-V אינו מוצג כאן כמנוע החישוב היחיד. הוא פועל לצד מנוע ה-Dataflow ופונקציות ייעודיות לווידאו ול-AI: הליבות מספקות גמישות ושליטה, והחומרה הייעודית מטפלת בפעולות עתירות-הת throughput.

זיכרון מאוחד בנפח 128GB

GC3 מדווח עם זיכרון LPDDR5 ECC מאוחד בנפח 128GB, המשותף לנתיבי ה-CPU, ה-VPU, ה-GPU וה-NPU. 35 היתרון המיועד הוא להפחית את הצורך להעתיק נתונים בין מאגרי זיכרון נפרדים של המעבד וה-GPU.

מאגר משותף עשוי לאפשר לפריימים מפוענחים, למשקלי מודלים ולטנסורים промежיים להישאר זמינים לכמה יחידות עיבוד, בלי אותה כמות של העברות בין התקנים. ECC מוסיף יכולות לזיהוי ולתיקון שגיאות במערך הזיכרון; מחקרים על מעבדי RISC-V בחנו גם זיכרון המוגן ב-ECC כאמצעי לשיפור סבילות לתקלות. 1

חשוב לזכור שזיכרון מאוחד אינו מבטל את מגבלות רוחב הפס. הוא משנה את האופן שבו יחידות העיבוד ניגשות לנתונים, בעוד שהתועלת המעשית תלויה ברוחב הפס של השבב, בתוכנה, בתזמון ובעומס העבודה.

נתיבי וידאו ו-AI משולבים

העיצוב המדווח משלב קידוד ופענוח וידאו עם חישובי AI באותה פלטפורמה. כך נוצר נתיב ישיר יותר מקליטת הווידאו לניתוח שלו, ומיצירת תוכן לקידוד הפלט. 35

הזרימה המתוכננת נראית כך:

• פענוח הווידאו על גבי הפלטפורמה;
• השארת הפריימים זמינים לנתיב ה-AI הרלוונטי;
• ביצוע ניתוח או יצירה בלי לחצות שוב ושוב גבולות בין התקנים נפרדים; וכן
• קידוד הפלט באותה מערכת משולבת.

אין פירוש הדבר שכל פעולה מתבצעת בצעד יחיד ובלתי-נפרד. הכוונה היא לצמצם מסירות מיותרות בין מעבדים ומערכות זיכרון שהיו נפרדים זה מזה.

איך הארכיטקטורה אמורה להפחית עלות, צריכת חשמל והשהיה

ההשפעה הכלכלית המיועדת נובעת ישירות מהארכיטקטורה. אם עומס העבודה דורש פחות העתקות, פחות סבבים הלוך ושוב מול הזיכרון ופחות סנכרון בין התקנים, ייתכן שפחות זמן ואנרגיה יושקעו בהעברת נתונים במקום בחישוב עצמו. הדבר עשוי להיות רלוונטי לניתוח של זרמי וידאו מרובים, לעיבוד וידאו מקומי וליצירת וידאו עם טנסורים промежיים גדולים. 3

היתרונות האפשריים מתחלקים לשלושה תחומים:

• השהיה: פחות העברות בין שלבי הפענוח, ה-AI והקידוד עשויות לקצר את הדרך מפריים הקלט לתוצאה.
• צריכת חשמל: צמצום תנועת הנתונים עשוי להפחית את האנרגיה המושקעת בגישה לזיכרון ובתעבורה בין רכיבים.
• עלות: פלטפורמה משולבת אחת עשויה להפחית את המורכבות התשתיתית והתפעולית הכרוכה בתיאום בין כמה התקנים ייעודיים.

אלה היעדים המתוארים בדיווחים הזמינים, ולא תוצאות שנבדקו באופן עצמאי. המקורות מציגים מפרטים מרכזיים והיגיון ארכיטקטוני, אך אינם מוכיחים ירידה מדודה בעלות לכל סרטון, בהספק לכל זרם או בהשהיה מקצה לקצה.

מה המפרט כן אומר — ומה לא

הנתון של 200 TOPS מתאר קיבולת חישוב AI ב-INT8, ולא ביצועים מובטחים באפליקציה מסוימת. התפוקה בפועל בווידאו תלויה גם בתאימות למודל, ברמת הדיוק, ברוחב פס הזיכרון, בתמיכת הקומפיילר וסביבת ההרצה, בפורמטי הווידאו, בגודל האצווה, במספר הזרמים וביעילות מתזמן ה-Dataflow.

גם זיכרון מאוחד בנפח 128GB עשוי לסייע באחסון מודלים גדולים ובנתוני ביניים, אך הקיבולת לבדה אינה מוכיחה שמודל מסוים ליצירת וידאו ירוץ ביעילות. התמיכה התוכנתית ותעבורת הזיכרון בפועל יישארו גורמים מכריעים.

השורה התחתונה

Jingang GC3 מובן בצורה הטובה ביותר כניסיון ייעודי לעצב מחדש את מסלול עיבוד הווידאו-AI סביב קרבה לנתונים. השילוב המדווח של ביצועת Dataflow, ליבות בקרה של RISC-V, נתיבי CPU/VPU/GPU/NPU משולבים וזיכרון מאוחד בנפח 128GB נועד להתמודד עם העברות וסנכרונים שעלולים להגביל צינורות עיבוד מסורתיים המבוססים על CPU ו-GPU. 35

אם החומרה והתוכנה יעבדו כפי שמתוכנן, הארכיטקטורה עשויה להפוך ניתוח של וידאו מרובה-זרמים ויצירת וידאו ליעילים יותר. בשלב זה, המסקנה הזהירה ביותר היא ש-GC3 מציג אסטרטגיה ארכיטקטונית סבירה ומפרטים שעליהם דווח מטעם היצרן — אך לא הוכחה עצמאית לירידה בעלות, בצריכת החשמל או בהשהיה.