LimiX-2: โมเดล AI 400M สำหรับข้อมูลตาราง ที่รวมการจำแนก การพยากรณ์ และการเติมข้อมูลหาย

LimiX-2 คือ foundation model ขนาด 400 ล้านพารามิเตอร์ สำหรับข้อมูลมีโครงสร้างหรือข้อมูลแบบตาราง (tabular data) พัฒนาโดย Stable AI ร่วมกับกลุ่มของศาสตราจารย์ Peng Cui แห่งมหาวิทยาลัยชิงหัว จุดขายสำคัญคือเช็กพอยต์ที่ pretrain ไว้ตัวเดียวสามารถทำทั้งการจำแนกประเภท (classification) การพยากรณ์ค่าต่อเนื่อง (regression) และการเติมค่าฟีเจอร์ที่หายไป (imputation) ได้ โดยไม่ต้อง fine-tune พารามิเตอร์แยกตามงาน โครงการเปิดเผยรุ่นสาธารณะเมื่อวันที่ 16 กันยายน 2026 15

ดาวน์โหลด LimiX-2 ได้จากไหน

น้ำหนักโมเดล LimiX-2.ckpt และโค้ดสำหรับอนุมานผลอยู่ใน Hugging Face repository อย่างเป็นทางการ ส่วนรายงานเทคนิคชื่อ LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence อ่านได้ที่ arXiv และมีการอ้างอิงไว้ใน repository เช่นกัน 15

เหตุใดเช็กพอยต์เดียวจึงทำงานกับตารางได้ 3 แบบ

ระบบสำหรับข้อมูลตารางจำนวนมากมักตั้งโจทย์แบบมีตัวแปรเป้าหมายเป็นศูนย์กลาง คือใช้ฟีเจอร์และแถวตัวอย่างเพื่อทำนายฉลากหรือค่าผลลัพธ์ แต่ LimiX-2 มุ่งเรียนรู้โครงสร้างร่วมของข้อมูลในตารางที่ขึ้นกับบริบท ซึ่งผู้เขียนอธิบายเป็น (p(x,y\mid D_{context})) แทนที่จะเน้นเพียง (p(y\mid x,D_{context}))

ในกรอบนี้ การทำนายฉลาก การประมาณค่าต่อเนื่อง และการเติมช่องว่างในตาราง ล้วนเป็นรูปแบบของโจทย์เดียวกัน: อนุมานค่าที่ยังไม่สังเกตจากเซลล์ที่มีอยู่และแถวบริบท 1

การฝึกใช้วิธี Context-Conditional Masked Modeling (CCMM) โดยแบ่งแถวของแต่ละรอบฝึกเป็นชุด context และชุด query จากนั้นปิดบังฟีเจอร์บางตัวในแถว query แต่คงค่าอื่นที่สังเกตได้รวมถึงตาราง context เอาไว้ โมเดลถูกฝึกให้ทั้งสร้างฟีเจอร์ที่หายไปกลับคืนและทำนายเป้าหมายร่วมกัน

รายงานระบุว่าแถว query สามารถเข้าถึงแถว context ได้ แต่แถว query จะไม่เข้าถึงกันเอง การออกแบบนี้มีเป้าหมายเพื่อลดการไหลของข้อมูลระหว่างตัวอย่าง query และทำให้ผลทำนายพึ่งพาองค์ประกอบของแบตช์ query น้อยลง 1

ด้านสถาปัตยกรรม LimiX-2 มีเส้นทางผลลัพธ์สำหรับงานต่าง ๆ รวมอยู่ในโมเดลที่ pretrain แล้ว จึงไม่ต้องฝึกหัวงานใหม่เมื่อนำไปใช้ รายงานอธิบายว่า classification และ regression ถอดรหัสจาก representation ของเป้าหมาย ขณะที่การสร้างฟีเจอร์กลับใช้ representation ที่ตื้นกว่า สำหรับ regression โมเดลทำนายการกระจายความน่าจะเป็นบน bin ของค่าเป้าหมายที่เรียงลำดับไว้ 5,000 bin แล้วแปลงเป็นค่าตัวเลข 1

Contextual Mechanism Networks และข้อมูลสังเคราะห์

ผู้พัฒนาเรียกแนวทางนี้ว่า Contextual Mechanism Networks (CMNs) โดยมีสมมติฐานว่าการเรียนรู้จากบริบทสำหรับตารางควรจับรูปแบบการกำเนิดและความสัมพันธ์ของตัวแปรได้ ไม่ใช่เพียงจับคู่ฟีเจอร์กับตัวแปรเป้าหมายในสคีมาเดียว 1

LimiX-2 ถูก pretrain ด้วยตารางสังเคราะห์ที่สุ่มจาก structural causal models กระบวนการสร้างข้อมูลแปรผันทั้งโครงสร้างกราฟ กลไกที่มีตัวแปรต้นทางหนึ่งตัวหรือหลายตัว การเลือกตัวแปรที่สังเกตได้ ตลอดจนการแปลงข้อมูลและกระบวนการสังเกตข้อมูล รายงานยังกล่าวถึงการแปลง เช่น การปรับสเกลและการแปลงแบบไม่เชิงเส้น รวมถึงบางกรณีที่แปลงเป้าหมายต่อเนื่องให้เป็นโจทย์ classification 1

ความหลากหลายดังกล่าวตั้งใจให้โมเดลพบรูปแบบตาราง ชนิดฟีเจอร์ รูปแบบข้อมูลขาดหาย และความสัมพันธ์แบบมีเงื่อนไขที่หลากหลาย โดยไม่อาศัยการจดจำชื่อชุดข้อมูลจริง อย่างไรก็ดี นั่นไม่ได้รับประกันว่าสคีมาฐานข้อมูลขององค์กรใดองค์กรหนึ่งจะมีลักษณะตรงกับสิ่งที่โมเดลเคยเรียนรู้มา

ต่างจาก LimiX รุ่นก่อนอย่างไร

LimiX-2 เป็นการต่อยอดจากสายงานวิจัย LimiX ก่อนหน้า ซึ่งเสนอแนวทางสร้างแบบจำลองข้อมูลมีโครงสร้างและ benchmark ชื่อ BCCO รายงานของ LimiX-2 ระบุว่ารุ่นใหม่นี้ขยายทั้งขนาดโมเดลและการสร้างข้อมูลสังเคราะห์จาก structural causal models โดยอาศัยแนวทางการขยายสเกลจากโครงการเดิม 12

ในเชิงการใช้งาน ความต่างสำคัญคือขนาดและขอบเขต LimiX-2 ถูกวางตำแหน่งให้ถ่ายโอนไปยังตารางที่มีความหลากหลายผ่าน context ในช่วงอนุมานผล แทนที่จะต้องฝึกใหม่สำหรับแต่ละเวิร์กโฟลว์ของ classification, regression หรือ imputation 1

ผล benchmark ที่ผู้พัฒนารายงาน

ตารางต่อไปนี้คือคะแนน Elo โดยรวมที่ ผู้พัฒนารายงาน ในบทความและ repository ทางการของ LimiX-2:

Benchmark	Elo โดยรวมที่รายงาน	อันดับเมื่อเทียบกับวิธีที่นำมาเปรียบเทียบ
TabArena	1,935	อันดับ 1; สูงกว่า TabFM+ 117.4 คะแนนก่อนการปัดเศษ
TALENT	1,506	อันดับ 1; สูงกว่าโมเดลลำดับถัดไปที่รายงาน 35 คะแนน
BCCO	1,432	อันดับ 1 ในกลุ่มวิธีที่เปรียบเทียบ

สำหรับ TabArena ชุดเต็ม repository ยังรายงานว่าโมเดลได้อันดับ 1 ในตัวชี้วัดการทำนายทั้ง 4 รายการ มีค่า improvability 3.3% ค่าอันดับเฉลี่ย 5.5 และ aggregated wins 18.9 145

รายงานระบุว่าผลลัพธ์ที่ดีปรากฏทั้งในงาน regression และ classification ไม่ได้เกิดจากงานประเภทใดประเภทหนึ่งเพียงอย่างเดียว นี่เป็นหลักฐานเชิงบวกต่อแนวทางการเรียนรู้ร่วมกันของข้อมูลตาราง แต่ยังคงเป็นผล benchmark ภายใต้ชุดข้อมูล การเตรียมข้อมูล การแบ่งชุดทดสอบ ตัวชี้วัด และเงื่อนไขเปรียบเทียบตามที่บทความกำหนด 1

ผู้เขียนยังรายงานว่ารูปแบบ attention ของฟีเจอร์อาจใช้ช่วยกู้คืน causal skeleton ได้ในการประเมินของตนเอง ควรตีความผลนี้อย่างจำกัด: เป็นเรื่องการกู้คืนความสัมพันธ์แบบไม่มีทิศทางภายใต้โปรโตคอลที่ควบคุมไว้ ไม่ได้ยืนยันทิศทางเหตุและผล ไม่ได้ตัดปัจจัยกวนทิ้ง และไม่ได้พิสูจน์ว่า feature attention เผยผลเชิงสาเหตุได้กับฐานข้อมูลธุรกิจทุกประเภท 1

กรณีที่น่าลองใช้

สำหรับทีมที่ทำงานกับข้อมูลตัวเลขและข้อมูลหมวดหมู่ปะปนกัน LimiX-2 อาจน่าทดลองในฐานะ baseline ที่เริ่มต้นได้เร็ว หรือเป็นโมเดลเพิ่มใน ensemble โดยเฉพาะเมื่อเวิร์กโฟลว์ต้องรองรับหลายความต้องการในสภาพแวดล้อมตารางเดียวกัน เช่น

• ทำ classification, regression และสร้างค่าที่หายไปในสภาพแวดล้อมข้อมูลเดียวกัน
• รับมือสคีมาขนาดเล็ก ไม่คุ้นเคย หรือเปลี่ยนบ่อย
• ประมวลผลระเบียนที่มีข้อมูลสังเกตได้ไม่ครบ
• ทดลองแนวคิดช่วงต้นก่อนลงทุนสร้าง pipeline แยกตามงาน

การ pretrain แบบสังเคราะห์ของโมเดลออกแบบมาเพื่อรับความหลากหลายของกลไก โครงสร้างกราฟ การแปลงข้อมูล และตัวแปรที่สังเกตได้ นั่นทำให้การถ่ายโอนข้ามสคีมาเป็นสมมติฐานหลักของรุ่นนี้ แต่ไม่ใช่การรับประกันผลลัพธ์ 1

สิ่งที่ควรตรวจสอบก่อนแทนที่ AutoML เดิม

ผล benchmark ที่ดีควรเป็นจุดเริ่มต้นของการประเมิน ไม่ใช่ข้อสรุปสุดท้าย

ใช้ holdout ที่เหมือนสภาพใช้งานจริง การสุ่มแบ่ง train/test อาจทำให้ผลดูดีเกินจริงสำหรับข้อมูลที่จะใช้ในระบบจริง ควรใช้การกันข้อมูลตามเวลา ตามหน่วยงานหรือลูกค้า ตามพื้นที่ ตามกลุ่ม หรือช่วงก่อน-หลังนำระบบขึ้นใช้งาน ให้เหมาะกับสถานการณ์ที่โมเดลจะพบ

เทียบกับ baseline ที่ปรับจูนแล้ว ประเมิน LimiX-2 ควบคู่กับโมเดลและกระบวนการที่เหมาะกับโจทย์อยู่แล้ว เช่น gradient boosting ที่ปรับจูนแล้ว ระบบ AutoML และโมเดลเฉพาะโดเมน คะแนน Elo เปลี่ยนได้ตามชุดงาน การเตรียมข้อมูล วิธีให้คะแนน งบคำนวณ และเวอร์ชันของโมเดล

ทดสอบกับสคีมาจริง คอลัมน์รหัส หมวดหมู่ที่พบได้น้อยหรือมีจำนวนค่ามาก คอลัมน์ข้อความ ความสัมพันธ์ตามเวลา การ join หลายตาราง ความหมายของข้อมูลที่เปลี่ยนไป และข้อมูลหายแบบไม่สุ่ม อาจต้องเตรียมข้อมูลเพิ่มเติมหรือใช้แนวทางอื่น ความครอบคลุมจากข้อมูลสังเคราะห์ไม่อาจขจัดความเสี่ยงเหล่านี้ทั้งหมด

ตรวจสอบข้อมูลรั่วไหลอย่างเข้มงวด ต้องกันฟิลด์ที่เกิดหลังทราบผลลัพธ์ ข้อมูลจากอนาคต เอนทิตีซ้ำ ตัวแปรแทนเป้าหมายที่เกิดจากการ join และข้อมูลข้าม fold ออกจากการประเมิน การแยก query rows ออกจากกันช่วยจัดการความเสี่ยงการรั่วไหลเพียงช่องทางหนึ่งเท่านั้น ไม่สามารถแก้การรั่วไหลที่อยู่ในคอลัมน์หรือการแบ่งข้อมูลตั้งแต่ต้นได้ 1

ประเมินข้อจำกัดของระบบจริง วัด latency หน่วยความจำ ต้นทุน การสอบเทียบความน่าจะเป็น (calibration) ความต้องการด้าน monitoring กลยุทธ์การฝึกซ้ำ และเงื่อนไขการใช้งานใน repository ก่อนนำไป deploy

LimiX-2 เป็นความพยายามที่น่าสนใจในการทำให้ in-context learning ใช้ได้กับวงจรงานข้อมูลตารางที่กว้างกว่าแค่การทำนายเป้าหมาย ผลที่รายงานทำให้โมเดลนี้เป็นตัวเลือกที่มีเหตุผลสำหรับการทดสอบจริง แต่จะเหนือกว่า pipeline เฉพาะทางที่ปรับจูนอย่างดีหรือไม่ ต้องตอบด้วยการทดสอบบนข้อมูลเป้าหมายในเงื่อนไขที่สมจริงและควบคุมข้อมูลรั่วไหลได้เท่านั้น