Niet-gladde Analyse en de Calculusregels van de Clarke-subdifferentiaal

Ik heb geprobeerd het bijgevoegde bestand getPDF.jsp(nonsmooth).pdf in te zien, maar de tekst was niet leesbaar/zoekbaar in de tool, dus de samenvatting hieronder is gebaseerd op standaard theorie en de meegeleverde literatuurbronnen.

1. Basisidee van niet-gladde analyse

• Klassieke calculus werkt goed voor gladde functies, maar veel belangrijke functies zijn niet-glad, zoals:

  • f(x)=|x|
  • f(x)=max_i f_i(x)
  • afstandsfuncties
  • waardefuncties in optimalisatie/regeltechniek
  • ReLU-achtige stuksgewijs lineaire verliesfuncties

• In plaats van één afgeleide te vragen, vraagt niet-gladde analyse om een verzameling generaliseerde afgeleiden.

• Voor een lokaal Lipschitz-functie f: R^n -> R introduceerde Clarke generaliseerde richtingsafgeleiden en generaliseerde gradiënten als gereedschap voor niet-gladde optimalisatie.

2. Clarke generaliseerde richtingsafgeleide

Voor lokaal Lipschitz f wordt de Clarke-richtingsafgeleide in x in richting v gewoonlijk geschreven als:

f°(x; v) = limsup_{y -> x, t ↓ 0} [f(y + t v) - f(y)] / t.

Belangrijke punten:

• Het is ontworpen voor lokaal Lipschitz niet-gladde functies.
• Het is positief homogeen en subadditief in v in de standaard Clarke-theorie.
• Het is gewoonlijk groter dan of gelijk aan de gewone richtingsafgeleide wanneer beide in vergelijkbare contexten worden beschouwd.
• Het vangt het worst-case lokale richtingsgedrag bij x.

3. Clarke-subdifferentiaal

De Clarke-subdifferentiaal wordt gewoonlijk gedefinieerd door:

∂C f(x) = { ξ in R^n: f°(x; v) >= <ξ, v> voor alle v in R^n }.

Een equivalente standaardbeschrijving voor lokaal Lipschitz f is dat de Clarke-subdifferentiaal de convexe omhulling is van limieten van nabijgelegen klassieke gradiënten waar de functie differentieerbaar is.

∂C f(x) = co { limieten van ∇f(x_k): x_k -> x, f differentieerbaar in x_k }.

Hier betekent co convexe omhulling.

Belangrijke eigenschappen:

• ∂C f(x) is een verzamelingswaarde generaliseerde afgeleide voor lokaal Lipschitz-functies.
• In de standaard eindig-dimensionale Clarke-theorie is ∂C f(x) niet-leeg, compact en convex voor lokaal Lipschitz f.
• Als f continu differentieerbaar is nabij x, dan reduceert de Clarke-subdifferentiaal tot de gewone gradiënt.

∂C f(x) = {∇f(x)}.

• Als f convex is, komt de Clarke-subdifferentiaal overeen met de gebruikelijke convex-analytische subdifferentiaal in standaardinstellingen.

Voorbeeld:

f(x) = |x|.

Dan

∂C f(x) =
  {-1},        x < 0
  [-1, 1],     x = 0
  {1},         x > 0.

Dit is het standaard basisvoorbeeld dat laat zien hoe een knikpunt wordt weergegeven door een heel interval van mogelijke hellingen.

4. Calculusregels voor de Clarke-subdifferentiaal

Laat f, g: R^n -> R lokaal Lipschitz nabij x zijn; Clarke-calculusregels vormen een centraal onderdeel van de niet-gladde optimalisatietheorie.

Somregel

∂C(f + g)(x) ⊂ ∂C f(x) + ∂C g(x).

Onder extra regulariteitscondities kan gelijkheid gelden.

Scalaire vermenigvuldiging

Voor scalair a,

∂C(a f)(x) = a ∂C f(x).

Als a < 0, wordt de verzameling gespiegeld.

Productregel

∂C(fg)(x) ⊂ f(x) ∂C g(x) + g(x) ∂C f(x).

Dit is een van de standaard inclusie-type calculusregels in Clarke-subdifferentiaal calculus.

Quotiëntregel

Als g(x) ≠ 0 en g is nabij x van nul weggebonden, heeft de standaard quotiëntregel de vorm:

∂C(f/g)(x) ⊂ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)^2.

Kettingregel

Als F: R^n -> R^m strikt differentieerbaar is in x en φ: R^m -> R is lokaal Lipschitz nabij F(x), wordt de Clarke-kettingregel gewoonlijk geformuleerd als een inclusie van het volgende type:

∂C(φ ∘ F)(x) ⊂ DF(x)^T ∂C φ(F(x)).

Als φ regulier is in Clarke's zin, zijn sterkere vormen beschikbaar.

Max-regel

Als

f(x) = max { f1(x),..., fm(x) },

waarbij elke fi lokaal Lipschitz is, definieer de actieve indexverzameling

I(x) = { i: fi(x) = f(x) }.

Dan geeft de standaard Clarke-max-regel een inclusie van de volgende vorm:

∂C f(x) ⊂ co ⋃_{i in I(x)} ∂C fi(x).

Als de fi glad zijn, wordt dit:

∂C f(x) ⊂ co { ∇fi(x): i in I(x) }.

Voor veel standaard max-functies geldt gelijkheid onder geschikte regulariteitsaannames.

Fermat-regel voor niet-gladde optimalisatie

Als x een lokale minimaliseerder is van lokaal Lipschitz f, dan is de niet-gladde Fermat-voorwaarde:

0 ∈ ∂C f(x).

Dit is het niet-gladde analogon van ∇f(x)=0.

5. Klassieke papers en boeken

• F. H. Clarke's werk over generaliseerde gradiënten is een fundamentele bron voor Clarke-generaliseerde afgeleiden in niet-gladde analyse.

• Clarke-generaliseerde richtingsafgeleiden en generaliseerde gradiënten worden besproken in de eindig-dimensionale niet-gladde optimalisatieliteratuur, waaronder werk van Hiriart-Urruty.

• Rockafellar's werk over generaliseerde subgradiënten in mathematische programmering is een andere fundamentele lijn; het geciteerde artikel schetst de grondbeginselen van generaliseerde richtingsafgeleiden en subgradiënten.

• Hiriart-Urruty's eindig-dimensionale werk bespreekt Clarke-richtingsafgeleiden, Clarke-generaliseerde gradiënten, calculusregels en toepassingen in niet-gladde optimalisatie.

6. Recente literatuurrichtingen

• Recent niet-glad optimalisatieonderzoek blijft Clarke-type objecten en gerelateerde relaxaties gebruiken; een paper uit 2025 bestudeert bijvoorbeeld convergentiesnelheid met behulp van de Goldstein-subdifferentiaal, beschreven als een ontspannen versie van de Clarke-subdifferentiaal die in verschillende algoritmen wordt gebruikt.

• Clarke-generaliseerde richtingsafgeleiden blijven verschijnen in optimaliteitsvoorwaarden voor set-optimalisatieproblemen; een paper uit 2025 bestudeert benaderende zwakke minimale oplossingen met behulp van een nieuw type Clarke-generaliseerde afgeleide.

• Recente Rockafellar-publicaties wijzen op voortdurend werk in verzamelingswaarde en niet-gladde analyse, waaronder werk uit 2025 verbonden met de calculus van variaties.

7. Goed leespad

1. Begin met Clarke's generaliseerde richtingsafgeleide en subdifferentiaal.
2. Leer de kerncalculusregels: som-, product-, ketting-, max- en Fermat-regels.
3. Bestudeer convexe subdifferentiaal en vergelijk deze met Clarke-subdifferentiaal.
4. Ga naar variatieanalyse: normaalkegels, coafgeleiden en bredere generaliseerde differentiatiekaders.
5. Lees recente optimalisatiepapers die Clarke- of Goldstein-subdifferentiaal gebruiken in algoritmen.

Een praktische eerste leeslijst zou zijn:

• Clarke's werk over generaliseerde gradiënten en Clarke-generaliseerde afgeleiden.
• Hiriart-Urruty's werk over generaliseerde afgeleiden en niet-gladde optimalisatie.
• Rockafellar's "Generalized Subgradients in Mathematical Programming."
• Recente papers die Goldstein- of Clarke-type subdifferentiaal gebruiken in niet-gladde optimalisatiealgoritmen en optimaliteitsvoorwaarden.