Nichtglatte Analysis: Das Clarke-Subdifferential und seine Anwendungen

Die nichtglatte Analysis erweitert die Differentialrechnung auf Funktionen, die nicht klassisch differenzierbar sind, insbesondere auf lokal Lipschitz-stetige Funktionen, wie sie in der Optimierung, der mathematischen Programmierung und der Mengen- und Vektoroptimierung vorkommen.^LSA Das zentrale Objekt in Clarkes Theorie ist der Clarke verallgemeinerte Gradient bzw. das Clarke-Subdifferential, das einen einzelnen Gradienten durch eine mengenwertige generalisierte Ableitung ersetzt, die das Grenzverhalten von Gradienten beschreibt.^EE

Der folgende Artikel basiert auf der Standardtheorie und den angegebenen Quellen, da die beigefügte PDF-Datei nicht durchsuchbar war.

1. Grundidee der nichtglatten Analysis

• Die klassische Analysis funktioniert gut für glatte Funktionen, doch viele wichtige Funktionen sind nicht glatt, zum Beispiel:

  • f(x) = |x| (Betragsfunktion)
  • f(x) = max_i f_i(x) (Maximum von Funktionen)
  • Distanzfunktionen
  • Wertfunktionen in Optimierung und Steuerung
  • ReLU-ähnliche, stückweise lineare Verlustfunktionen

• Statt nach einer einzigen Ableitung zu fragen, sucht die nichtglatte Analysis nach einer Menge von generalisierten Ableitungen.^EE

• Für eine lokal Lipschitz-stetige Funktion f: ℝⁿ → ℝ führte Clarke die verallgemeinerte Richtungsableitung und den verallgemeinerten Gradienten als Werkzeuge für die nichtglatte Optimierung ein.^LE

2. Clarke verallgemeinerte Richtungsableitung

Für eine lokal Lipschitz-stetige Funktion f wird die Clarke-Richtungsableitung an der Stelle x in Richtung v typischerweise wie folgt definiert:^E

f°(x; v) = limsup_{y → x, t ↓ 0} [f(y + t v) - f(y)] / t.

Wichtige Punkte:

• Sie ist für lokal Lipschitz-stetige, nichtglatte Funktionen konzipiert.^EE
• Sie ist positiv homogen und subadditiv in v innerhalb der Standardtheorie.^LE
• Sie ist in der Regel größer oder gleich der gewöhnlichen Richtungsableitung, wenn beide betrachtet werden.^E
• Sie erfasst das worst-case lokale Richtungswachstum in der Nähe von x.^EE

3. Clarke-Subdifferential

Das Clarke-Subdifferential wird üblicherweise definiert als:^E

∂C f(x) = { ξ ∈ ℝⁿ: f°(x; v) ≥ ⟨ξ, v⟩ für alle v ∈ ℝⁿ }.

Eine äquivalente Standardbeschreibung für lokal Lipschitz-stetige Funktionen f ist, dass das Clarke-Subdifferential die konvexe Hülle von Grenzwerten benachbarter klassischer Gradienten ist, an denen die Funktion differenzierbar ist:^EE

∂C f(x) = co { Grenzwerte von ∇f(x_k): x_k → x, f differenzierbar an x_k }.

Hierbei bedeutet co die konvexe Hülle.

Wichtige Eigenschaften:

• ∂C f(x) ist eine mengenwertige verallgemeinerte Ableitung für lokal Lipschitz-stetige Funktionen.^EE

• In der endlichdimensionalen Clarke-Theorie ist ∂C f(x) nichtleer, kompakt und konvex für lokal Lipschitz-stetige Funktionen.^EE

• Ist f in der Nähe von x stetig differenzierbar, reduziert sich das Clarke-Subdifferential auf den gewöhnlichen Gradienten.^EE ∂C f(x) = {∇f(x)}.

• Ist f konvex, stimmt das Clarke-Subdifferential unter Standardbedingungen mit dem üblichen Subdifferential der konvexen Analysis überein.^LE

Beispiel:

f(x) = |x|.

Dann gilt:

∂C f(x) = { -1 }  für x < 0
         [ -1, 1 ] für x = 0
         { 1 }    für x > 0.

Dieses Standardbeispiel zeigt, wie ein Knick durch ein ganzes Intervall möglicher Steigungen repräsentiert wird.^EE

4. Rechenregeln für das Clarke-Subdifferential

Seien f, g: ℝⁿ → ℝ lokal Lipschitz-stetig in der Nähe von x; die Clarke-Rechenregeln sind ein zentraler Bestandteil der nichtglatten Optimierungstheorie.^LEE

Summenregel

∂C(f + g)(x) ⊆ ∂C f(x) + ∂C g(x).

Unter zusätzlichen Regularitätsbedingungen kann Gleichheit gelten.^LE

Skalarmultiplikation

Für einen Skalar a:

∂C(a f)(x) = a ∂C f(x).

Für a < 0 wird die Menge gespiegelt.^E

Produktregel

∂C(fg)(x) ⊆ f(x) ∂C g(x) + g(x) ∂C f(x).

Dies ist eine der Standard-Inklusionsregeln im Clarke-Subdifferential-Kalkül.^LE

Quotientenregel

Falls g(x) ≠ 0 und g in der Nähe von x von Null weg beschränkt ist, hat die Standard-Quotientenregel die Form:^E

∂C(f/g)(x) ⊆ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)².

Kettenregel

Wenn F: ℝⁿ → ℝᵐ strikt differenzierbar in x und φ: ℝᵐ → ℝ lokal Lipschitz-stetig in der Nähe von F(x) ist, lautet die Clarke-Kettenregel üblicherweise als Inklusion:^LE

∂C(φ ∘ F)(x) ⊆ DF(x)ᵀ ∂C φ(F(x)).

Ist φ regulär im Sinne von Clarke, sind stärkere Formulierungen verfügbar.^LE

Max-Regel

Sei

f(x) = max { f₁(x), ..., fₘ(x) },

wobei jedes fᵢ lokal Lipschitz-stetig ist. Definiere die aktive Indexmenge

I(x) = { i: fᵢ(x) = f(x) }.

Dann liefert die Standard-Clarke-Max-Regel eine Inklusion der Form:^LE

∂C f(x) ⊆ co ⋃_{i ∈ I(x)} ∂C fᵢ(x).

Sind die fᵢ glatt, ergibt sich:^E

∂C f(x) ⊆ co { ∇fᵢ(x): i ∈ I(x) }.

Für viele Standard-Max-Funktionen gilt unter geeigneten Regularitätsannahmen Gleichheit.^LE

Fermat-Regel für nichtglatte Optimierung

Ist x ein lokaler Minimierer einer lokal Lipschitz-stetigen Funktion f, dann gilt die nichtglatte Fermat-Bedingung:^LE

0 ∈ ∂C f(x).

Dies ist das nichtglatte Analogon zu ∇f(x) = 0.^LE

5. Klassische Arbeiten und Bücher

• Die Arbeiten von F. H. Clarke zu verallgemeinerten Gradienten legen das Fundament für die Clarke-Ableitungen in der nichtglatten Analysis.^E
• Die Literatur zur endlichdimensionalen nichtglatten Optimierung, einschließlich der Arbeiten von Hiriart-Urruty, diskutiert Clarke-Richtungsableitungen und verallgemeinerte Gradienten.^L
• Die Arbeit von Rockafellar über verallgemeinerte Subgradienten in der mathematischen Programmierung ist eine weitere grundlegende Quelle; das zitierte Papier skizziert die Grundlagen der Theorie verallgemeinerter Richtungsableitungen und Subgradienten.^S

6. Aktuelle Forschungstrends

• Die aktuelle nichtglatte Optimierungsforschung verwendet weiterhin Clarke-Objekte und verwandte Relaxationen. So untersucht ein Papier aus dem Jahr 2025 die Konvergenzgeschwindigkeit unter Verwendung des Goldstein-Subdifferentials, einer relaxierten Version des Clarke-Subdifferentials, die in mehreren Algorithmen verwendet wird.^L
• Clarke-Richtungsableitungen tauchen weiterhin in Optimalitätsbedingungen für Mengenoptimierungsprobleme auf; eine Arbeit aus dem Jahr 2025 untersucht approximative schwach-minimale Lösungen mithilfe eines neuen Clarke-artigen generalisierten Differentials.^A
• Aktuelle Veröffentlichungen von Rockafellar deuten auf eine Fortsetzung der Arbeiten in der mengenwertigen und nichtglatten Analysis hin, einschließlich einer Arbeit aus dem Jahr 2025, die mit der Variationsrechnung verbunden ist.^S

7. Empfohlener Lernpfad

1. Beginnen Sie mit der Clarke-Richtungsableitung und dem Clarke-Subdifferential.^LEE
2. Lernen Sie die Kern-Rechenregeln: Summen-, Produkt-, Ketten-, Max- und Fermat-Regel.^LE
3. Studieren Sie Subdifferentiale der konvexen Analysis und vergleichen Sie sie mit Clarke-Subdifferentialen.^LS
4. Wenden Sie sich der Variationsanalyse zu: Normalkegel, Coderivate und breitere Rahmenwerke der generalisierten Differentiation.^SS
5. Lesen Sie aktuelle Optimierungspapiere, die das Clarke- oder Goldstein-Subdifferential in Algorithmen verwenden.^L

Eine praktische erste Leseliste wäre:

• Clarkes Arbeiten zu verallgemeinerten Gradienten.^E
• Hiriart-Urrutys Arbeiten zu verallgemeinerten Ableitungen und nichtglatter Optimierung.^L
• Rockafellars „Generalized Subgradients in Mathematical Programming“.^S
• Aktuelle Arbeiten, die Goldstein- oder Clarke-artige Subdifferentiale in nichtglatten Optimierungsalgorithmen und Optimalitätsbedingungen verwenden.^LA