नॉनस्मूथ एनालिसिस: क्लार्क सबडिफरेंशियल, कैलकुलस नियम और नवीनतम शोध

नॉनस्मूथ एनालिसिस (अस्मूथ विश्लेषण) डिफरेंशियल कैलकुलस को उन फलनों (functions) तक विस्तारित करता है जो शास्त्रीय रूप से अवकलनीय (डिफरेंशिएबल) नहीं हैं, विशेष रूप से लोकली लिप्सिट्ज़ (locally Lipschitz) फलनों के लिए जो ऑप्टिमाइज़ेशन, मैथमैटिकल प्रोग्रामिंग और सेट/वेक्टर ऑप्टिमाइज़ेशन में पाए जाते हैं। क्लार्क के सिद्धांत में केंद्रीय वस्तु 'क्लार्क सामान्यीकृत प्रवणता/उपअवकलज' (Clarke generalized gradient/subdifferential) है, जो एक एकल प्रवणता (gradient) को एक सेट-वैल्यूड जनरलाइज़्ड डेरिवेटिव से बदल देता है जो ग्रेडिएंट के सीमित व्यवहार को पकड़ता है।

मैंने संलग्न फ़ाइल getPDF.jsp(nonsmooth).pdf का निरीक्षण करने का प्रयास किया, लेकिन इसका पाठ उपकरण में पढ़ने योग्य/खोजने योग्य नहीं था, इसलिए नीचे दिया गया सारांश मानक सिद्धांत और प्रदान किए गए साहित्य स्रोतों पर आधारित है।

1. नॉनस्मूथ एनालिसिस की मूल अवधारणा

• शास्त्रीय कैलकुलस स्मूथ (चिकने) फलनों के लिए अच्छी तरह काम करता है, लेकिन कई महत्वपूर्ण फलन नॉनस्मूथ (अस्मूथ/अचिकने) होते हैं, जैसे:

  • f(x)=|x|
  • f(x)=max_i f_i(x)
  • दूरी फलन (distance functions)
  • ऑप्टिमाइज़ेशन/नियंत्रण में मान फलन (value functions)
  • ReLU-प्रकार के पीसवाइज-लीनियर लॉस

• एक ही व्युत्पन्न (derivative) पूछने के बजाय, नॉनस्मूथ एनालिसिस सामान्यीकृत व्युत्पन्नों का एक सेट पूछता है।

• एक लोकली लिप्सिट्ज़ फलन f: R^n -> R के लिए, क्लार्क ने सामान्यीकृत दिशात्मक व्युत्पन्न (generalized directional derivatives) और सामान्यीकृत प्रवणताओं (generalized gradients) को नॉनस्मूथ ऑप्टिमाइज़ेशन के उपकरण के रूप में पेश किया।

2. क्लार्क सामान्यीकृत दिशात्मक व्युत्पन्न (Clarke generalized directional derivative)

लोकली लिप्सिट्ज़ f के लिए, दिशा v में x पर क्लार्क दिशात्मक व्युत्पन्न को आमतौर पर इस प्रकार लिखा जाता है:

f°(x; v) = limsup_{y -> x, t ↓ 0} [f(y + t v) - f(y)] / t.

मुख्य बिंदु:

• इसे लोकली लिप्सिट्ज़ नॉनस्मूथ फलनों के लिए डिज़ाइन किया गया है।
• मानक क्लार्क सिद्धांत में यह v में धनात्मक रूप से समांगी (positively homogeneous) और उपयोज्य (subadditive) है।
• यह सामान्यतः सामान्य दिशात्मक व्युत्पन्न (ordinary directional derivative) से बड़ा या उसके बराबर होता है, जब दोनों की तुलनीय सेटिंग में जांच की जाती है।
• यह x के पास सबसे खराब स्थिति वाली स्थानीय दिशात्मक वृद्धि (worst-case local directional growth) को पकड़ता है।

3. क्लार्क उपअवकलज (Clarke subdifferential)

क्लार्क उपअवकलज को आमतौर पर इस प्रकार परिभाषित किया जाता है:

∂C f(x) = { ξ in R^n: f°(x; v) >= <ξ, v> for all v in R^n }.

लोकली लिप्सिट्ज़ f के लिए एक समतुल्य मानक विवरण यह है कि क्लार्क उपअवकलज उन बिंदुओं पर पास के शास्त्रीय प्रवणताओं की सीमाओं का उत्तल पतवार (convex hull) है जहां फलन अवकलनीय है।

∂C f(x) = co { limits of ∇f(x_k): x_k -> x, f differentiable at x_k }.

यहाँ co का अर्थ उत्तल पतवार (convex hull) है।

मुख्य गुण:

• ∂C f(x) लोकली लिप्सिट्ज़ फलनों के लिए एक सेट-वैल्यूड जनरलाइज़्ड डेरिवेटिव है।
• मानक परिमित-आयामी क्लार्क सिद्धांत में, लोकली लिप्सिट्ज़ f के लिए ∂C f(x) गैर-रिक्त, सघन और उत्तल होता है।
• यदि f, x के पास सतत रूप से अवकलनीय है, तो क्लार्क उपअवकलज सामान्य प्रवणता में बदल जाता है।

∂C f(x) = {∇f(x)}.

• यदि f उत्तल है, तो क्लार्क उपअवकलज मानक सेटिंग में सामान्य उत्तल-विश्लेषण उपअवकलज (convex-analysis subdifferential) से सहमत होता है।

उदाहरण:

f(x) = |x|.

तब

∂C f(x) =
  {-1},        x < 0
  [-1, 1],     x = 0
  {1},         x > 0.

यह मानक मूल उदाहरण है जो दिखाता है कि एक कोने (corner) को ढलानों के एक पूरे अंतराल द्वारा कैसे दर्शाया जाता है।

4. क्लार्क उपअवकलज के लिए कैलकुलस नियम (Calculus rules for the Clarke subdifferential)

मान लीजिए f, g: R^n -> R, x के पास लोकली लिप्सिट्ज़ हैं; क्लार्क कैलकुलस नियम नॉनस्मूथ ऑप्टिमाइज़ेशन सिद्धांत का एक केंद्रीय हिस्सा हैं।

योग नियम (Sum rule)

∂C(f + g)(x) ⊂ ∂C f(x) + ∂C g(x).

अतिरिक्त नियमितता स्थितियों के तहत, समानता (equality) हो सकती है।

अदिश गुणन (Scalar multiplication)

अदिश a के लिए,

∂C(a f)(x) = a ∂C f(x).

यदि a < 0 है, तो सेट परावर्तित हो जाता है।

गुणनफल नियम (Product rule)

∂C(fg)(x) ⊂ f(x) ∂C g(x) + g(x) ∂C f(x).

यह क्लार्क उपअवकलज कैलकुलस में मानक समावेशन-प्रकार के कैलकुलस नियमों में से एक है।

भागफल नियम (Quotient rule)

यदि g(x) ≠ 0 और g, x के पास शून्य से दूर परिबद्ध (bounded away from zero) है, तो मानक भागफल नियम का रूप है:

∂C(f/g)(x) ⊂ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)^2.

श्रृंखला नियम (Chain rule)

यदि F: R^n -> R^m, x पर सख्ती से अवकलनीय (strictly differentiable) है और φ: R^m -> R, F(x) के पास लोकली लिप्सिट्ज़ है, तो क्लार्क श्रृंखला नियम को आमतौर पर निम्नलिखित प्रकार के समावेशन के रूप में कहा जाता है:

∂C(φ ∘ F)(x) ⊂ DF(x)^T ∂C φ(F(x)).

यदि φ क्लार्क के अर्थ में नियमित (regular) है, तो मजबूत रूप उपलब्ध हैं।

अधिकतम नियम (Max rule)

यदि

f(x) = max { f1(x),..., fm(x) },

जहां प्रत्येक fi लोकली लिप्सिट्ज़ है, तो सक्रिय सूचकांक सेट (active index set) को परिभाषित करें:

I(x) = { i: fi(x) = f(x) }.

फिर मानक क्लार्क अधिकतम नियम निम्नलिखित रूप का एक समावेशन देता है:

∂C f(x) ⊂ co ⋃_{i in I(x)} ∂C fi(x).

यदि fi स्मूथ हैं, तो यह बन जाता है:

∂C f(x) ⊂ co { ∇fi(x): i in I(x) }.

कई मानक अधिकतम-फलनों के लिए, उपयुक्त नियमितता धारणाओं के तहत समानता होती है।

नॉनस्मूथ ऑप्टिमाइज़ेशन के लिए फ़र्मा नियम (Fermat rule)

यदि x, लोकली लिप्सिट्ज़ f का स्थानीय न्यूनतमकर्ता (local minimizer) है, तो नॉनस्मूथ फ़र्मा शर्त है:

0 ∈ ∂C f(x).

यह ∇f(x)=0 का नॉनस्मूथ एनालॉग है।

5. शास्त्रीय शोधपत्र और पुस्तकें (Classical papers and books)

• एफ. एच. क्लार्क (F. H. Clarke) का सामान्यीकृत प्रवणताओं पर काम नॉनस्मूथ एनालिसिस में क्लार्क सामान्यीकृत व्युत्पन्नों के लिए एक मूलभूत स्रोत है।

• क्लार्क सामान्यीकृत दिशात्मक व्युत्पन्न और सामान्यीकृत प्रवणताओं पर परिमित-आयामी नॉनस्मूथ ऑप्टिमाइज़ेशन साहित्य में चर्चा की गई है, जिसमें हिरियार्ट-उरुटी (Hiriart-Urruty) का काम शामिल है।

• मैथमैटिकल प्रोग्रामिंग में सामान्यीकृत उपग्रेडिएंट्स (generalized subgradients) पर रॉकाफेलर (Rockafellar) का काम एक और मूलभूत पंक्ति है; उद्धृत पेपर सामान्यीकृत दिशात्मक व्युत्पन्नों और उपग्रेडिएंट्स की मूल बातें रेखांकित करता है।

• हिरियार्ट-उरुटी का परिमित-आयामी कार्य क्लार्क दिशात्मक व्युत्पन्नों, क्लार्क सामान्यीकृत प्रवणताओं, कैलकुलस नियमों और नॉनस्मूथ ऑप्टिमाइज़ेशन में अनुप्रयोगों पर चर्चा करता है।

6. हालिया साहित्य की दिशाएँ (Recent literature directions)

• हालिया नॉनस्मूथ ऑप्टिमाइज़ेशन शोध क्लार्क-प्रकार की वस्तुओं और संबंधित विश्रांतियों का उपयोग जारी रखता है; उदाहरण के लिए, 2025 का एक पेपर गोल्डस्टीन उपअवकलज (Goldstein subdifferential) का उपयोग करके अभिसरण गति का अध्ययन करता है, जिसे क्लार्क उपअवकलज के एक विश्रांत संस्करण के रूप में वर्णित किया गया है जो कई एल्गोरिदम में उपयोग होता है।

• क्लार्क सामान्यीकृत दिशात्मक व्युत्पन्न सेट ऑप्टिमाइज़ेशन समस्याओं के लिए इष्टतमता स्थितियों में प्रकट होते रहते हैं; 2025 का एक पेपर एक नए क्लार्क-प्रकार के सामान्यीकृत व्युत्पन्न का उपयोग करके अनुमानित कमजोर न्यूनतम समाधानों (approximate weak minimal solutions) का अध्ययन करता है।

• हालिया रॉकाफेलर प्रकाशन सेट-वैल्यूड और नॉनस्मूथ एनालिसिस में निरंतर काम का संकेत देते हैं, जिसमें 2025 का काम कैलकुलस ऑफ वेरिएशन्स से जुड़ा है।

7. अध्ययन के लिए एक अच्छा क्रम (Good reading path)

1. क्लार्क के सामान्यीकृत दिशात्मक व्युत्पन्न और उपअवकलज से शुरुआत करें।
2. मुख्य कैलकुलस नियम सीखें: योग, गुणनफल, श्रृंखला, अधिकतम और फ़र्मा नियम।
3. उत्तल उपअवकलजों (convex subdifferentials) का अध्ययन करें और उनकी तुलना क्लार्क उपअवकलजों से करें।
4. वेरिएशनल एनालिसिस की ओर बढ़ें: सामान्य शंकु (normal cones), कोडेरिवेटिव (coderivatives) और व्यापक सामान्यीकृत विभेदन ढाँचे।
5. एल्गोरिदम में क्लार्क या गोल्डस्टीन उपअवकलजों का उपयोग करने वाले हालिया ऑप्टिमाइज़ेशन पेपर पढ़ें।

एक व्यावहारिक प्रारंभिक पठन सूची होगी:

• सामान्यीकृत प्रवणताओं और क्लार्क सामान्यीकृत व्युत्पन्नों पर क्लार्क का काम।
• सामान्यीकृत व्युत्पन्नों और नॉनस्मूथ ऑप्टिमाइज़ेशन पर हिरियार्ट-उरुटी का काम।
• रॉकाफेलर का "गणितीय प्रोग्रामिंग में सामान्यीकृत उपग्रेडिएंट" (Generalized Subgradients in Mathematical Programming)।
• नॉनस्मूथ ऑप्टिमाइज़ेशन एल्गोरिदम और इष्टतमता स्थितियों में गोल्डस्टीन या क्लार्क-प्रकार के उपअवकलजों का उपयोग करने वाले हालिया पेपर।