Epätasaisen analyysin perusteet: Clarken subdifferentiaali ja sen laskusäännöt

Epätasainen analyysi laajentaa differentiaalilaskennan funktioille, jotka eivät ole differentioituvia — erityisesti lokaalisti Lipschitz-funktioille, joita esiintyy optimoinnissa, matemaattisessa ohjelmoinnissa sekä joukko- ja vektorioptimoinnissa ^LSA. Clarken teorian keskeinen käsite on Clarken yleistetty gradientti (subdifferentiaali), joka korvaa yksittäisen gradientin joukkoarvoisella yleistyksellä ^EE.

1. Epätasaisen analyysin perusidea

• Klassinen differentiaalilaskenta toimii hyvin sileille funktioille, mutta monet tärkeät funktiot ovat epätasaisia, kuten:

  • f(x)=|x|
  • f(x)=max_i f_i(x)
  • etäisyysfunktiot
  • optimoinnin ja säätöteorian arvofunktiot
  • ReLU-tyyppiset paloittain lineaariset kustannusfunktiot

• Sen sijaan, että etsittäisiin yhtä derivaattaa, epätasainen analyysi etsii joukon yleistettyjä derivaattoja ^EE.

• Lokaalisti Lipschitz-funktiolle f: R^n -> R Clarke määritteli yleistetyt suuntaderivaatat ja yleistetyt gradientit työkaluiksi epätasaiseen optimointiin ^LE.

2. Clarken yleistetty suuntaderivaatta

Lokaalisti Lipschitz-funktiolle f Clarken suuntaderivaatta pisteessä x suuntaan v kirjoitetaan yleisesti ^E:

f°(x; v) = limsup_{y -> x, t ↓ 0} [f(y + t v) - f(y)] / t.

Keskeisiä piirteitä:

• Se on suunniteltu lokaalisti Lipschitz-funktioille ^EE.
• Se on positiivisesti homogeeninen ja subadditiivinen v:n suhteen ^LE.
• Se on yleensä suurempi tai yhtä suuri kuin tavallinen suuntaderivaatta ^E.
• Se kuvaa pahinta mahdollista lokaalia suunnallista kasvua pisteen x lähellä ^EE.

3. Clarken subdifferentiaali

Clarken subdifferentiaali määritellään yleisesti ^E:

∂C f(x) = { ξ in R^n: f°(x; v) >= <ξ, v> for all v in R^n }.

Vastaava kuvaus lokaalisti Lipschitz-funktiolle: se on lähellä olevien klassisten gradienttien raja-arvojen konveksi peite ^EE:

∂C f(x) = co { limits of ∇f(x_k): x_k -> x, f differentiable at x_k }.

Keskeisiä ominaisuuksia:

• ∂C f(x) on joukkoarvoinen yleistetty derivaatta ^EE.
• Se on epätyhjä, kompakti ja konveksi ^EE.
• Jos f on jatkuvasti differentioituva x:n lähellä, Clarken subdifferentiaali palautuu tavalliseksi gradientiksi ^EE:

  ∂C f(x) = {∇f(x)}.
  

• Jos f on konveksi, se on sama kuin konveksianalyysin subdifferentiaali ^LE.

Esimerkki:

f(x) = |x|.

Tällöin

∂C f(x) =
  {-1},        x < 0
  [-1, 1],     x = 0
  {1},         x > 0.

Tämä on perusesimerkki kulman esittämisestä mahdollisten kulmakertoimien välinä ^EE.

4. Clarken subdifferentiaalin laskusäännöt

Olkoot f, g: R^n -> R lokaalisti Lipschitz-funktioita pisteen x lähellä ^LEE.

Summasääntö

∂C(f + g)(x) ⊂ ∂C f(x) + ∂C g(x).

Lisäehdoilla yhtäsuuruus voi päteä ^LE.

Skalaarilla kertominen

Skalaarille a:

∂C(a f)(x) = a ∂C f(x).

Jos a < 0, joukko heijastuu ^E.

Tulosääntö

∂C(fg)(x) ⊂ f(x) ∂C g(x) + g(x) ∂C f(x).

Tämä on yksi standardeista inkluusiotyypin laskusäännöistä ^LE.

Osamääräsääntö

Jos g(x) ≠ 0, niin ^E:

∂C(f/g)(x) ⊂ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)^2.

Ketjusääntö

Jos F: R^n -> R^m on differentioituva pisteessä x ja φ: R^m -> R on lokaalisti Lipschitz pisteessä F(x), niin ^LE:

∂C(φ ∘ F)(x) ⊂ DF(x)^T ∂C φ(F(x)).

Vahvempia muotoja on olemassa, jos φ on Clarken mielessä säännöllinen ^LE.

Max-sääntö

Jos f(x) = max { f1(x),..., fm(x) }, missä jokainen fi on lokaalisti Lipschitz, ja I(x) = { i: fi(x) = f(x) }, niin ^LE:

∂C f(x) ⊂ co ⋃_{i in I(x)} ∂C fi(x).

Jos fi ovat sileitä, tämä on ^E:

∂C f(x) ⊂ co { ∇fi(x): i in I(x) }.

Sopivilla oletuksilla pätee yhtäsuuruus ^LE.

Fermat’n sääntö epätasaiselle optimoinnille

Jos x on lokaalisti Lipschitz-funktion f lokaali minimoija, niin ^LE:

0 ∈ ∂C f(x).

Tämä on epätasainen vastine ehdolle ∇f(x)=0 ^LE.

5. Klassiset artikkelit ja kirjat

• F. H. Clarken työ yleistetyistä gradienteista on perustavanlaatuinen lähde ^E.
• Clarken suuntaderivaattoja ja gradientteja käsitellään Hiriart-Urrutyn äärellisulotteisessa kirjallisuudessa ^L.
• Rockafellarin työ yleistetyistä subgradienteista on toinen perustava linja ^S.

6. Uudempi kirjallisuus

• Vuoden 2025 artikkeli tutkii konvergenssinopeutta käyttäen Goldsteinin subdifferentiaalia, joka on Clarken subdifferentiaalin relaksaatio ^L.
• Clarken yleistettyjä suuntaderivaattoja käytetään edelleen optimaalisuusehdoissa joukko-optimointiongelmissa; vuoden 2025 artikkeli esittelee uuden Clarken tyyppisen derivaatan ^A.
• Rockafellarin tuoreet julkaisut (2025) käsittelevät joukkoarvoista analyysiä ja variaatiolaskentaa ^S.

7. Lukusuositus

1. Aloita Clarken yleistetystä suuntaderivaatasta ja subdifferentiaalista ^LEE.
2. Opettele keskeiset laskusäännöt: summa, tulo, ketju, max ja Fermat ^LE.
3. Tutki konvekseja subdifferentiaaleja ja vertaa niitä Clarken subdifferentiaaliin ^LS.
4. Siirry variaatioanalyysiin: normaalikartiot, koderivaatat ja laajemmat kehykset ^SS.
5. Lue tuoreita optimointiartikkeleita, jotka käyttävät Clarken tai Goldsteinin subdifferentiaaleja ^L.