1. Epätasaisen analyysin perusidea

• Klassinen differentiaalilaskenta toimii hyvin sileille funktioille, mutta monet tärkeät funktiot ovat epätasaisia, kuten:

  • f(x)=|x|
  • f(x)=max_i f_i(x)
  • etäisyysfunktiot
  • optimoinnin ja säätöteorian arvofunktiot
  • ReLU-tyyppiset paloittain lineaariset kustannusfunktiot

• Sen sijaan, että etsittäisiin yhtä derivaattaa, epätasainen analyysi etsii joukon yleistettyjä derivaattoja .

• Lokaalisti Lipschitz-funktiolle f: R^n -> R Clarke määritteli yleistetyt suuntaderivaatat ja yleistetyt gradientit työkaluiksi epätasaiseen optimointiin .

2. Clarken yleistetty suuntaderivaatta

Lokaalisti Lipschitz-funktiolle f Clarken suuntaderivaatta pisteessä x suuntaan v kirjoitetaan yleisesti :

f°(x; v) = limsup_{y -> x, t ↓ 0} [f(y + t v) - f(y)] / t.

Keskeisiä piirteitä:

• Se on suunniteltu lokaalisti Lipschitz-funktioille .
• Se on positiivisesti homogeeninen ja subadditiivinen v:n suhteen .
• Se on yleensä suurempi tai yhtä suuri kuin tavallinen suuntaderivaatta .
• Se kuvaa pahinta mahdollista lokaalia suunnallista kasvua pisteen x lähellä .

3. Clarken subdifferentiaali

Clarken subdifferentiaali määritellään yleisesti :

∂C f(x) = { ξ in R^n: f°(x; v) >= <ξ, v> for all v in R^n }.

Vastaava kuvaus lokaalisti Lipschitz-funktiolle: se on lähellä olevien klassisten gradienttien raja-arvojen konveksi peite :

∂C f(x) = co { limits of ∇f(x_k): x_k -> x, f differentiable at x_k }.

Keskeisiä ominaisuuksia:

• ∂C f(x) on joukkoarvoinen yleistetty derivaatta .
• Se on epätyhjä, kompakti ja konveksi .
• Jos f on jatkuvasti differentioituva x:n lähellä, Clarken subdifferentiaali palautuu tavalliseksi gradientiksi :

  ∂C f(x) = {∇f(x)}.
  

• Jos f on konveksi, se on sama kuin konveksianalyysin subdifferentiaali .

Esimerkki:

f(x) = |x|.

Tällöin

∂C f(x) =
  {-1},        x < 0
  [-1, 1],     x = 0
  {1},         x > 0.

Tämä on perusesimerkki kulman esittämisestä mahdollisten kulmakertoimien välinä .

4. Clarken subdifferentiaalin laskusäännöt

Olkoot f, g: R^n -> R lokaalisti Lipschitz-funktioita pisteen x lähellä .

Summasääntö

∂C(f + g)(x) ⊂ ∂C f(x) + ∂C g(x).

Lisäehdoilla yhtäsuuruus voi päteä .

Skalaarilla kertominen

Skalaarille a:

∂C(a f)(x) = a ∂C f(x).

Jos a < 0, joukko heijastuu .

Tulosääntö

∂C(fg)(x) ⊂ f(x) ∂C g(x) + g(x) ∂C f(x).

Tämä on yksi standardeista inkluusiotyypin laskusäännöistä .

Osamääräsääntö

Jos g(x) ≠ 0, niin :

∂C(f/g)(x) ⊂ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)^2.

Ketjusääntö

Jos F: R^n -> R^m on differentioituva pisteessä x ja φ: R^m -> R on lokaalisti Lipschitz pisteessä F(x), niin :

∂C(φ ∘ F)(x) ⊂ DF(x)^T ∂C φ(F(x)).

Vahvempia muotoja on olemassa, jos φ on Clarken mielessä säännöllinen .

Max-sääntö

Jos f(x) = max { f1(x),..., fm(x) }, missä jokainen fi on lokaalisti Lipschitz, ja I(x) = { i: fi(x) = f(x) }, niin :

∂C f(x) ⊂ co ⋃_{i in I(x)} ∂C fi(x).

Jos fi ovat sileitä, tämä on :

∂C f(x) ⊂ co { ∇fi(x): i in I(x) }.

Sopivilla oletuksilla pätee yhtäsuuruus .

Fermat’n sääntö epätasaiselle optimoinnille

Jos x on lokaalisti Lipschitz-funktion f lokaali minimoija, niin :

0 ∈ ∂C f(x).

Tämä on epätasainen vastine ehdolle ∇f(x)=0 .

5. Klassiset artikkelit ja kirjat

• F. H. Clarken työ yleistetyistä gradienteista on perustavanlaatuinen lähde .
• Clarken suuntaderivaattoja ja gradientteja käsitellään Hiriart-Urrutyn äärellisulotteisessa kirjallisuudessa .
• Rockafellarin työ yleistetyistä subgradienteista on toinen perustava linja .

6. Uudempi kirjallisuus

• Vuoden 2025 artikkeli tutkii konvergenssinopeutta käyttäen Goldsteinin subdifferentiaalia, joka on Clarken subdifferentiaalin relaksaatio .
• Clarken yleistettyjä suuntaderivaattoja käytetään edelleen optimaalisuusehdoissa joukko-optimointiongelmissa; vuoden 2025 artikkeli esittelee uuden Clarken tyyppisen derivaatan .
• Rockafellarin tuoreet julkaisut (2025) käsittelevät joukkoarvoista analyysiä ja variaatiolaskentaa .

7. Lukusuositus

1. Aloita Clarken yleistetystä suuntaderivaatasta ja subdifferentiaalista .
2. Opettele keskeiset laskusäännöt: summa, tulo, ketju, max ja Fermat .
3. Tutki konvekseja subdifferentiaaleja ja vertaa niitä Clarken subdifferentiaaliin .
4. Siirry variaatioanalyysiin: normaalikartiot, koderivaatat ja laajemmat kehykset .
5. Lue tuoreita optimointiartikkeleita, jotka käyttävät Clarken tai Goldsteinin subdifferentiaaleja .

1. Epätasaisen analyysin perusidea

• Klassinen differentiaalilaskenta toimii hyvin sileille funktioille, mutta monet tärkeät funktiot ovat epätasaisia, kuten:

  • f(x)=|x|
  • f(x)=max_i f_i(x)
  • etäisyysfunktiot
  • optimoinnin ja säätöteorian arvofunktiot
  • ReLU-tyyppiset paloittain lineaariset kustannusfunktiot

• Sen sijaan, että etsittäisiin yhtä derivaattaa, epätasainen analyysi etsii joukon yleistettyjä derivaattoja .

• Lokaalisti Lipschitz-funktiolle f: R^n -> R Clarke määritteli yleistetyt suuntaderivaatat ja yleistetyt gradientit työkaluiksi epätasaiseen optimointiin .

2. Clarken yleistetty suuntaderivaatta

Lokaalisti Lipschitz-funktiolle f Clarken suuntaderivaatta pisteessä x suuntaan v kirjoitetaan yleisesti :

f°(x; v) = limsup_{y -> x, t ↓ 0} [f(y + t v) - f(y)] / t.

Keskeisiä piirteitä:

• Se on suunniteltu lokaalisti Lipschitz-funktioille .
• Se on positiivisesti homogeeninen ja subadditiivinen v:n suhteen .
• Se on yleensä suurempi tai yhtä suuri kuin tavallinen suuntaderivaatta .
• Se kuvaa pahinta mahdollista lokaalia suunnallista kasvua pisteen x lähellä .

3. Clarken subdifferentiaali

Clarken subdifferentiaali määritellään yleisesti :

∂C f(x) = { ξ in R^n: f°(x; v) >= <ξ, v> for all v in R^n }.

Vastaava kuvaus lokaalisti Lipschitz-funktiolle: se on lähellä olevien klassisten gradienttien raja-arvojen konveksi peite :

∂C f(x) = co { limits of ∇f(x_k): x_k -> x, f differentiable at x_k }.

Keskeisiä ominaisuuksia:

• ∂C f(x) on joukkoarvoinen yleistetty derivaatta .
• Se on epätyhjä, kompakti ja konveksi .
• Jos f on jatkuvasti differentioituva x:n lähellä, Clarken subdifferentiaali palautuu tavalliseksi gradientiksi :

  ∂C f(x) = {∇f(x)}.
  

• Jos f on konveksi, se on sama kuin konveksianalyysin subdifferentiaali .

Esimerkki:

f(x) = |x|.

Tällöin

∂C f(x) =
  {-1},        x < 0
  [-1, 1],     x = 0
  {1},         x > 0.

Tämä on perusesimerkki kulman esittämisestä mahdollisten kulmakertoimien välinä .

4. Clarken subdifferentiaalin laskusäännöt

Olkoot f, g: R^n -> R lokaalisti Lipschitz-funktioita pisteen x lähellä .

Summasääntö

∂C(f + g)(x) ⊂ ∂C f(x) + ∂C g(x).

Lisäehdoilla yhtäsuuruus voi päteä .

Skalaarilla kertominen

Skalaarille a:

∂C(a f)(x) = a ∂C f(x).

Jos a < 0, joukko heijastuu .

Tulosääntö

∂C(fg)(x) ⊂ f(x) ∂C g(x) + g(x) ∂C f(x).

Tämä on yksi standardeista inkluusiotyypin laskusäännöistä .

Osamääräsääntö

Jos g(x) ≠ 0, niin :

∂C(f/g)(x) ⊂ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)^2.

Ketjusääntö

Jos F: R^n -> R^m on differentioituva pisteessä x ja φ: R^m -> R on lokaalisti Lipschitz pisteessä F(x), niin :

∂C(φ ∘ F)(x) ⊂ DF(x)^T ∂C φ(F(x)).

Vahvempia muotoja on olemassa, jos φ on Clarken mielessä säännöllinen .

Max-sääntö

Jos f(x) = max { f1(x),..., fm(x) }, missä jokainen fi on lokaalisti Lipschitz, ja I(x) = { i: fi(x) = f(x) }, niin :

∂C f(x) ⊂ co ⋃_{i in I(x)} ∂C fi(x).

Jos fi ovat sileitä, tämä on :

∂C f(x) ⊂ co { ∇fi(x): i in I(x) }.

Sopivilla oletuksilla pätee yhtäsuuruus .

Fermat’n sääntö epätasaiselle optimoinnille

Jos x on lokaalisti Lipschitz-funktion f lokaali minimoija, niin :

0 ∈ ∂C f(x).

Tämä on epätasainen vastine ehdolle ∇f(x)=0 .

5. Klassiset artikkelit ja kirjat

• F. H. Clarken työ yleistetyistä gradienteista on perustavanlaatuinen lähde .
• Clarken suuntaderivaattoja ja gradientteja käsitellään Hiriart-Urrutyn äärellisulotteisessa kirjallisuudessa .
• Rockafellarin työ yleistetyistä subgradienteista on toinen perustava linja .

6. Uudempi kirjallisuus

• Vuoden 2025 artikkeli tutkii konvergenssinopeutta käyttäen Goldsteinin subdifferentiaalia, joka on Clarken subdifferentiaalin relaksaatio .
• Clarken yleistettyjä suuntaderivaattoja käytetään edelleen optimaalisuusehdoissa joukko-optimointiongelmissa; vuoden 2025 artikkeli esittelee uuden Clarken tyyppisen derivaatan .
• Rockafellarin tuoreet julkaisut (2025) käsittelevät joukkoarvoista analyysiä ja variaatiolaskentaa .

7. Lukusuositus

1. Aloita Clarken yleistetystä suuntaderivaatasta ja subdifferentiaalista .
2. Opettele keskeiset laskusäännöt: summa, tulo, ketju, max ja Fermat .
3. Tutki konvekseja subdifferentiaaleja ja vertaa niitä Clarken subdifferentiaaliin .
4. Siirry variaatioanalyysiin: normaalikartiot, koderivaatat ja laajemmat kehykset .
5. Lue tuoreita optimointiartikkeleita, jotka käyttävät Clarken tai Goldsteinin subdifferentiaaleja .