Analisi non liscia: regole del calcolo differenziale e sottodifferenziale di Clarke

L'analisi non liscia estende il calcolo differenziale a funzioni che non sono classicamente differenziabili, in particolare le funzioni localmente lipschitziane che compaiono in ottimizzazione, programmazione matematica e ottimizzazione vettoriale e di insiemi. L'oggetto centrale della teoria di Clarke è il gradiente generalizzato (o sottodifferenziale) di Clarke, che sostituisce un singolo gradiente con un insieme di derivate generalizzate che catturano il comportamento limite del gradiente.

Ho tentato di ispezionare il file allegato getPDF.jsp(nonsmooth).pdf, ma il suo testo non era leggibile/ricercabile nello strumento, quindi il riepilogo che segue si basa sulla teoria standard e sulle fonti bibliografiche fornite.

1. Idea di base dell'analisi non liscia

• Il calcolo classico funziona bene per funzioni lisce, ma molte funzioni importanti sono non lisce, come:

  • f(x)=|x|
  • f(x)=max_i f_i(x)
  • funzioni distanza
  • funzioni valore in ottimizzazione/controllo
  • perdite lineari a tratti del tipo ReLU

• Invece di chiedere una singola derivata, l'analisi non liscia chiede un insieme di derivate generalizzate.

• Per una funzione localmente lipschitziana f: R^n -> R, Clarke ha introdotto derivate direzionali generalizzate e gradienti generalizzati come strumenti per l'ottimizzazione non liscia.

2. Derivata direzionale generalizzata di Clarke

Per f localmente lipschitziana, la derivata direzionale di Clarke in x nella direzione v è comunemente scritta come:

f°(x; v) = limsup_{y -> x, t ↓ 0} [f(y + t v) - f(y)] / t.

Punti chiave:

• È progettata per funzioni non lisce localmente lipschitziane.
• È positivamente omogenea e subadditiva in v nella teoria standard di Clarke.
• Di solito è più grande o uguale alla derivata direzionale ordinaria quando entrambe sono considerate in contesti comparabili.
• Cattura la crescita direzionale locale peggiore vicino a x.

3. Sottodifferenziale di Clarke

Il sottodifferenziale di Clarke è comunemente definito da:

∂C f(x) = { ξ in R^n: f°(x; v) >= <ξ, v> per ogni v in R^n }.

Una descrizione standard equivalente per f localmente lipschitziana è che il sottodifferenziale di Clarke è l'inviluppo convesso dei limiti dei gradienti classici vicini dove la funzione è differenziabile.

∂C f(x) = co { limiti di ∇f(x_k): x_k -> x, f differenziabile in x_k }.

Qui co indica l'inviluppo convesso.

Proprietà chiave:

• ∂C f(x) è una derivata generalizzata a valori insiemistici per funzioni localmente lipschitziane.
• Nella teoria standard di Clarke in dimensione finita, ∂C f(x) è non vuoto, compatto e convesso per f localmente lipschitziana.
• Se f è continuamente differenziabile vicino a x, allora il sottodifferenziale di Clarke si riduce al gradiente ordinario.

∂C f(x) = {∇f(x)}.

• Se f è convessa, il sottodifferenziale di Clarke coincide con il sottodifferenziale classico dell'analisi convessa in contesti standard.

Esempio:

f(x) = |x|.

Allora

∂C f(x) =
  {-1},        x < 0
  [-1, 1],     x = 0
  {1},         x > 0.

Questo è il classico esempio base che mostra come un punto angoloso sia rappresentato da un intero intervallo di pendenze possibili.

4. Regole di calcolo per il sottodifferenziale di Clarke

Siano f, g: R^n -> R localmente lipschitziane vicino a x; le regole di calcolo di Clarke sono una parte centrale della teoria dell'ottimizzazione non liscia.

Regola della somma

∂C(f + g)(x) ⊂ ∂C f(x) + ∂C g(x).

Sotto opportune condizioni di regolarità, può valere l'uguaglianza.

Moltiplicazione per scalare

Per uno scalare a,

∂C(a f)(x) = a ∂C f(x).

Se a < 0, l'insieme viene riflesso.

Regola del prodotto

∂C(f g)(x) ⊂ f(x) ∂C g(x) + g(x) ∂C f(x).

Questa è una delle regole di calcolo standard di tipo inclusione nel calcolo del sottodifferenziale di Clarke.

Regola del quoziente

Se g(x) ≠ 0 e g è limitata lontano da zero vicino a x, la regola standard del quoziente ha la forma:

∂C(f/g)(x) ⊂ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)^2.

Regola della catena

Se F: R^n -> R^m è strettamente differenziabile in x e φ: R^m -> R è localmente lipschitziana vicino a F(x), la regola della catena di Clarke è comunemente enunciata come un'inclusione del tipo seguente:

∂C(φ ∘ F)(x) ⊂ DF(x)^T ∂C φ(F(x)).

Se φ è regolare nel senso di Clarke, sono disponibili forme più forti.

Regola del massimo

Se

f(x) = max { f1(x),..., fm(x) },

dove ogni fi è localmente lipschitziana, definiamo l'insieme degli indici attivi

I(x) = { i: fi(x) = f(x) }.

Allora la regola standard del massimo di Clarke dà un'inclusione della forma seguente:

∂C f(x) ⊂ co ⋃_{i in I(x)} ∂C fi(x).

Se le fi sono lisce, questo diventa:

∂C f(x) ⊂ co { ∇fi(x): i in I(x) }.

Per molte funzioni massimo standard, vale l'uguaglianza sotto opportune ipotesi di regolarità.

Regola di Fermat per l'ottimizzazione non liscia

Se x è un minimizzatore locale di f localmente lipschitziana, allora la condizione di Fermat non liscia è:

0 ∈ ∂C f(x).

Questo è l'analogo non liscio di ∇f(x)=0.

5. Articoli e libri classici

• Il lavoro di F. H. Clarke sui gradienti generalizzati è una fonte fondante per le derivate generalizzate di Clarke nell'analisi non liscia.

• Le derivate direzionali generalizzate e i gradienti generalizzati di Clarke sono discussi nella letteratura sull'ottimizzazione non liscia in dimensione finita, compresi i lavori di Hiriart-Urruty.

• Il lavoro di Rockafellar sui sottogradienti generalizzati nella programmazione matematica è un'altra linea fondante; l'articolo citato delinea i fondamenti delle derivate direzionali generalizzate e dei sottogradienti.

• Il lavoro in dimensione finita di Hiriart-Urruty discute le derivate direzionali di Clarke, i gradienti generalizzati di Clarke, le regole di calcolo e le applicazioni all'ottimizzazione non liscia.

6. Direzioni della letteratura recente

• La ricerca recente sull'ottimizzazione non liscia continua a utilizzare oggetti di tipo Clarke e relativi rilassamenti; ad esempio, un articolo del 2025 studia la velocità di convergenza utilizzando il sottodifferenziale di Goldstein, descritto come una versione rilassata del sottodifferenziale di Clarke utilizzata in diversi algoritmi.

• Le derivate direzionali generalizzate di Clarke continuano a comparire nelle condizioni di ottimalità per problemi di ottimizzazione di insiemi; un articolo del 2025 studia soluzioni deboli approssimate utilizzando un nuovo tipo di derivata generalizzata di Clarke.

• Le pubblicazioni recenti di Rockafellar indicano un lavoro continuo nell'analisi a valori insiemistici e non liscia, inclusi lavori del 2025 collegati al calcolo delle variazioni.

7. Buon percorso di lettura

1. Iniziare con la derivata direzionale generalizzata e il sottodifferenziale di Clarke.
2. Apprendere le regole di calcolo fondamentali: somma, prodotto, catena, massimo e regola di Fermat.
3. Studiare i sottodifferenziali convessi e confrontarli con i sottodifferenziali di Clarke.
4. Passare all'analisi variazionale: coni normali, codervative e quadri più ampi di differenziazione generalizzata.
5. Leggere articoli recenti di ottimizzazione che utilizzano sottodifferenziali di Clarke o Goldstein negli algoritmi.

Un elenco di letture pratiche iniziali potrebbe essere:

• Il lavoro di Clarke sui gradienti generalizzati e le derivate generalizzate di Clarke.
• Il lavoro di Hiriart-Urruty sulle derivate generalizzate e l'ottimizzazione non liscia.
• "Generalized Subgradients in Mathematical Programming" di Rockafellar.
• Articoli recenti che utilizzano sottodifferenziali di tipo Goldstein o Clarke in algoritmi di ottimizzazione non liscia e condizioni di ottimalità.