HKGAI V3: סוכן העל תוצרת הונג קונג שמדבר קנטונזית ורץ על חומרה מקומית

מבוסס על DeepSeek V4, מותאם לשבבים סיניים

HKGAI V3 אינו דגם שנבנה מאפס; זהו כיוונון פרמטרים מלא של DeepSeek V4, דגם החשיבה בקוד פתוח של מעבדת ה-AI הסינית DeepSeek . בחירה זו מעניקה לו בסיס חשיבה חזק ומאפשרת ל-HKGAI למקד את משאביה בלוקליזציה וביכולות סוכניות ייעודיות.

המשמעות האסטרטגית, לעומת זאת, טמונה בחומרה. HKGAI V3 תוכנן לרוץ באופן מיטבי על שבבים תוצרת סין, ובכך להפחית את התלות בסיליקון זר של חברות כמו Nvidia . בסביבה של החמרת בקרות הייצוא, בחירה עיצובית זו היא גם הצהרה מדינית וגם גידור סיכונים מעשי לשרשרת האספקה, המבטיח שתשתית ה-AI של הונג קונג ניתנת להרחבה באופן עצמאי.

לוקליזציה עמוקה: הטמעת "הדי-אן-איי התרבותי של הונג קונג"

המאפיין הבולט ביותר של HKGAI V3 הוא הלוקליזציה העמוקה שבו. פרופסור גְווֹ יִיקֶה, מנהל HKGAI וסגן הנשיא הראשי של HKUST, תיאר את מטרת הדגם כיצירת "תושב הונג קונג דיגיטלי" שמבין את ההקשרים העסקיים והממשלתיים של העיר . כדי להשיג זאת, הטמיע הצוות את מה שהם מכנים "הדי-אנ-איי התרבותי של הונג קונג" בנתוני האימון של הדגם .

בפועל, משמעות הדבר היא שהדגם מטפל באופן מקורי בדו-אורייניות ותלת-לשוניות (סינית, אנגלית וקנטונזית) בדרכים שדגמים גנריים נכשלים בהן לעתים קרובות. לדוגמה, הדגם מאומן למפות ביטויים מסין היבשתית למקבילותיהם ההונג קונגיות — וממיר אוטומטית את המילה "打的" (סלנג יבשתי לנסיעה במונית) ל"搭的士" (הביטוי הקנטונזי המקומי) . הוא גם מבין מנדרינית במבטא הונג קונגי ואת דפוסי ערבוב השפות הייחודיים של העיר בתקשורת הכתובה .

לוקליזציה זו חודרת גם לתחום הרגולטורי. HKGAI V3 משלב "מערכת ארגון ידע מעודנת" המטמיעה ישירות את חוקי הונג קונג ומסגרות הציות בנתוני האימון שלו, מה שהופך אותו למתאים במיוחד לשימוש מקצועי רגיש בתחומי הפיננסים, המשפטים והממשל .

סדנת הסוכן: 28 שעות של פעילות אוטונומית

לצד דגם הבסיס, HKGAI השיקה את Agent Workshop, אותה היא מכנה סופר-הסוכן הראשון של הונג קונג ברמת פרודוקטיביות . שלא כמו מערכות פשוטות של תשובה לשאלה, סדנת הסוכן יכולה לפרק בקשות משתמש מורכבות לתוכניות מרובות-שלבים, לקרוא לכלים חיצוניים ולבצע תהליכי עבודה בפלטפורמות שונות ללא התערבות אנושית מתמדת .

בבדיקות, Agent Workshop הפגינה יכולת לרוץ ביציבות עד 28 שעות על משימה אחת בלתי מופרעת, שיפור של כמעט פי 100 לעומת זמן הריצה של הסוכן בדור הקודם . HKGAI שילבה את יכולות הסוכן הללו בשלושה יישומים פרקטיים: "港話通" (קול קנטונזי), "港會通" (פרוטוקולי ישיבות), ו"港文通" (מסמכים ממשלתיים), ויצרה צינור עיבוד מלא משאילתות קוליות ועד לניירת ממשלתית אוטומטית .

שיפורי ביצועים והתמקדות ארגונית

שני מדדי ביצוע בולטים מההשקה של V3: שיפור של פי 10 ביעילות דחיסת ה-Token, והגידול האמור של פי 100 בזמן ריצת הסוכן . הרווח בדחיסת ה-Token פירושו שהדגם יכול לעבד מידע בעלות חישובית נמוכה בהרבה, קריטי כאשר רצים על שבבים מקומיים פחות חזקים. הרווח בזמן הריצה, בינתיים, הופך את המערכת מעוזר ריאקטיבי לסוכן פרואקטיבי ומתמשך שיכול להתמודד עם עומסי עבודה מהעולם האמיתי.

HKGAI מכוונת במפורש לאימוץ ארגוני, וממקמת את V3 מול דגמים גנריים המתקשים בהתמחות מקצועית ובציות לרגולציה . האקוסיסטם ההתחלתי כולל מעל 20 שותפים המשתרעים על תחומי טלקומוניקציה, פיננסים, שירותי ענן וחינוך . הדגם מכוונן לתרחישי B2B עתירי תדירות כמו ניסוח מסמכים מקצועיים, אימות ציות ותמצות חכם של ישיבות, הכול בתוך המסגרת הרגולטורית של הונג קונג .

כפי שסיכם פרופסור גואו, ארבעת עמודי התווך העיצוביים של V3 הם להפוך את הדגם ל"הישגי יותר, יעיל יותר, נבון יותר ומקומי יותר" . נותר לראות אם הוא יוכל להשיג אימוץ מסחרי בר-קיימא, אך הדגם מייצג את הניסיון הממוקד ביותר עד כה ליצור חלופה מקומית אמיתית לפלטפורמות AI גלובליות באחד המרכזים הפיננסיים המרכזיים בעולם.