परंपरागत बेंचमार्क में सवाल, उपलब्ध input और अपेक्षित उत्तर पहले से तय होते हैं। TRACES इसके बजाय किसी वास्तविक समस्या या वैज्ञानिक लक्ष्य को ऐसी जांच में बदलता है जिसे AI कदम-दर-कदम पूरा कर सके। Solver environment को देखता है, कार्रवाई करता है, वैज्ञानिक या computational tools चलाता है और experiment-जैसे feedback या verifier की प्रतिक्रिया प्राप्त करता है।
इससे मूल्यांकन एक लंबी प्रक्रिया बन जाता है:
इस तरह बेंचमार्क केवल यह नहीं देखता कि अंतिम उत्तर किसी reference answer जैसा दिखता है या नहीं। वह पूरी investigation trajectory दर्ज करता है। यह खास तौर पर उन वैज्ञानिक सवालों में उपयोगी है जिनका कोई स्थापित ground truth उत्तर अभी मौजूद नहीं है।
TRACES का नाम जांच की प्रक्रिया को परखने वाले छह आयामों से बना है, जिन्हें कुछ सामग्री में HDS6 भी कहा गया है:
इन छह आयामों का उद्देश्य भरोसेमंद और व्यवस्थित जांच को आत्मविश्वास से दिए गए, लेकिन बिना आधार के अनुमान से अलग करना है। इनके जरिए तब भी solver की प्रक्रिया की गुणवत्ता का आकलन किया जा सकता है, जब निर्णायक अंतिम उत्तर उपलब्ध न हो।
Apodex Discovery के अनुसार, खुले-ended scientific discovery के मूल्यांकन के लिए कम-से-कम चार चीजों की जरूरत होती है: अच्छी तरह परिभाषित समस्या, वास्तविक दुनिया से जुड़ा environment, परिणामों की जांच करने की व्यवस्था और ऐसा feedback loop जिसमें AI अपना काम सुधार सके। TRACES इसी दृष्टिकोण का benchmark implementation है।
समस्याओं की तलाश के लिए Apodex का कहना है कि उसने 16 क्षेत्रों की 561 industries का सर्वेक्षण किया और 423 उच्च-मूल्य वाली वास्तविक समस्याएं इकट्ठी कीं। शुरुआती रिलीज में इनमें से 20 समस्याओं को executable evaluation के लिए चुना गया।
उपलब्ध सामग्री में इन क्षेत्रों के उदाहरण मिलते हैं:
ये उदाहरण बेंचमार्क की संभावित व्यापकता दिखाते हैं, लेकिन उपलब्ध स्रोत शुरुआती रिलीज के हर task या पूरे domain inventory की पुष्टि नहीं करते।
AI systems का इस्तेमाल या प्रस्ताव अब परिकल्पनाएं बनाने, research direction चुनने, प्रयोगों के परिणामों का विश्लेषण करने और बार-बार चलने वाली वैज्ञानिक workflows तैयार करने में हो रहा है। ऐसे कामों में केवल धाराप्रवाह भाषा पर्याप्त नहीं है। सिस्टम को यह समझना होगा कि क्या जांचना है, परिणामों का अर्थ कैसे निकालना है, गलती होने पर कैसे वापस आना है और अपने सबूत से आगे बढ़कर दावा नहीं करना है।
TRACES scientific investigation को एक interactive process मानकर इसी कमी को दूर करने की कोशिश करता है। कोई solver यदि traceable evidence और उचित revisions के जरिए उपयोगी परिणाम तक पहुंचता है, तो वह ऐसे सिस्टम से अलग है जो बिना विश्वसनीय प्रक्रिया के वही निष्कर्ष दे देता है।
हालांकि, यह तरीका मानव निगरानी की जरूरत खत्म नहीं करता। Researchers और domain experts को अभी भी लक्ष्य और सीमाएं तय करनी होंगी, ethical और practical risks का आकलन करना होगा, assumptions और evidence की पुष्टि करनी होगी और यह फैसला लेना होगा कि किसी निष्कर्ष के आधार पर वास्तविक दुनिया में कदम उठाना उचित है या नहीं। TRACES का inspectable trajectory और सीमित दावों पर जोर इसलिए महत्वपूर्ण है क्योंकि इससे reviewers को केवल एक अपारदर्शी अंतिम assertion के बजाय पूरी प्रक्रिया जांचने का मौका मिलता है।
Apodex की सार्वजनिक घोषणा में solver systems और scientific problems, दोनों के लिए open call का उल्लेख है।
Solver submission केवल underlying model नहीं होगा। इसमें जांच चलाने वाला पूरा heavy-duty system शामिल होना चाहिए—मॉडल, orchestration या harness layer, tools, memory और control policy समेत।
किसी problem proposal को executable और verifiable setting में बदला जा सकना चाहिए। व्यावहारिक रूप से इसमें यह स्पष्ट करना होगा कि solver क्या देख और कर सकता है, उसे किस तरह का feedback मिलेगा और intermediate या final claims को किन स्पष्ट success criteria के आधार पर जांचा जाएगा।
TRACES बेंचमार्क का सवाल “क्या AI ने अपेक्षित जवाब दिया?” से बदलकर “क्या AI ने सबूतों पर आधारित और अनुशासित जांच की?” कर देता है। इस वजह से यह static answer-key tests की तुलना में scientific discovery के अधिक करीब दिखाई देता है।
फिर भी एक सीमा बनी रहती है: process score बेहतर मूल्यांकन दे सकता है, लेकिन अकेले यह साबित नहीं करता कि AI की खोज सुरक्षित, उपयोगी या deployment के लिए तैयार है। किसी भी वास्तविक वैज्ञानिक फैसले के लिए मानव विशेषज्ञता और निगरानी अब भी जरूरी रहेगी।