Analisis Tidak Licin dan Subderivatif Clarke: Panduan Lengkap

Analisis tidak licin (nonsmooth analysis) melanjutkan kalkulus pembezaan kepada fungsi yang tidak boleh dibezakan secara klasik, terutamanya fungsi Lipschitz setempat yang timbul dalam pengoptimuman, pengaturcaraan matematik, dan pengoptimuman set/vektor.^LSA Objek utama dalam teori Clarke ialah kecerunan umum/subderivatif Clarke (Clarke generalized gradient), yang menggantikan kecerunan tunggal dengan derivatif umum bernilai set yang menangkap kelakuan kecerunan had.^EE

Saya telah cuba memeriksa fail getPDF.jsp(nonsmooth).pdf yang dilampirkan, tetapi teksnya tidak boleh dibaca/dicari dalam alat, jadi ringkasan di bawah adalah berdasarkan teori standard dan sumber literatur yang disediakan.

1. Idea asas analisis tidak licin

• Kalkulus klasik berfungsi dengan baik untuk fungsi licin, tetapi banyak fungsi penting adalah tidak licin, seperti:

  • f(x)=|x|
  • f(x)=max_i f_i(x)
  • fungsi jarak
  • fungsi nilai dalam pengoptimuman/kawalan
  • kerugian piecewise-linear seperti ReLU

• Daripada meminta satu terbitan, analisis tidak licin meminta satu set derivatif umum.^EE

• Untuk fungsi Lipschitz setempat f: R^n -> R, Clarke memperkenalkan derivatif terarah umum dan kecerunan umum sebagai alat untuk pengoptimuman tidak licin.^LE

2. Derivatif terarah umum Clarke

Untuk f yang Lipschitz setempat, derivatif terarah Clarke pada x dalam arah v biasanya ditulis sebagai:^E

f°(x; v) = limsup_{y -> x, t ↓ 0} [f(y + t v) - f(y)] / t.

Perkara utama:

• Ia direka untuk fungsi tidak licin Lipschitz setempat.^EE
• Ia homogen positif dan subaditif dalam v dalam teori Clarke standard.^LE
• Ia biasanya lebih besar daripada, atau sama dengan, derivatif terarah biasa apabila kedua-duanya dipertimbangkan dalam tetapan yang setanding.^E
• Ia menangkap pertumbuhan arah tempatan kes terburuk berhampiran x.^EE

3. Subderivatif Clarke

Subderivatif Clarke biasanya ditakrifkan oleh:^E

∂C f(x) = { ξ in R^n: f°(x; v) >= <ξ, v> untuk semua v in R^n }.

Huraian standard setara untuk f Lipschitz setempat ialah subderivatif Clarke ialah cembung hull (convex hull) had kecerunan klasik berhampiran di mana fungsi boleh dibezakan.^EE

∂C f(x) = co { limits of ∇f(x_k): x_k -> x, f boleh dibezakan di x_k }.

Di sini co bermaksud cembung hull.

Sifat utama:

• ∂C f(x) ialah derivatif umum bernilai set untuk fungsi Lipschitz setempat.^EE
• Dalam teori Clarke dimensi terhingga standard, ∂C f(x) adalah tidak kosong, padat, dan cembung untuk f Lipschitz setempat.^EE
• Jika f boleh dibezakan secara selanjar berhampiran x, maka subderivatif Clarke berkurang kepada kecerunan biasa.^EE

∂C f(x) = {∇f(x)}.

• Jika f adalah cembung, subderivatif Clarke bersetuju dengan subderivatif analisis cembung biasa dalam tetapan standard.^LE

Contoh:

f(x) = |x|.

Maka

∂C f(x) =
  {-1},        x < 0
  [-1, 1],     x = 0
  {1},         x > 0.

Ini adalah contoh asas standard yang menunjukkan bagaimana satu sudut diwakili oleh seluruh selang kecerunan yang mungkin.^EE

4. Peraturan kalkulus untuk subderivatif Clarke

Biarkan f, g: R^n -> R menjadi Lipschitz setempat berhampiran x; peraturan kalkulus Clarke adalah bahagian utama teori pengoptimuman tidak licin.^LEE

Peraturan jumlah

∂C(f + g)(x) ⊂ ∂C f(x) + ∂C g(x).

Di bawah syarat keteraturan tambahan, kesamaan mungkin berlaku.^LE

Pendaraban skalar

Untuk skalar a,

∂C(a f)(x) = a ∂C f(x).

Jika a < 0, set dipantulkan.^E

Peraturan hasil darab

∂C(fg)(x) ⊂ f(x) ∂C g(x) + g(x) ∂C f(x).

Ini adalah salah satu peraturan kalkulus jenis rangkuman standard dalam kalkulus subderivatif Clarke.^LE

Peraturan hasil bahagi

Jika g(x) ≠ 0 dan g dihadkan jauh dari sifar berhampiran x, peraturan hasil bahagi standard mempunyai bentuk:^E

∂C(f/g)(x) ⊂ [g(x) ∂C f(x) - f(x) ∂C g(x)] / g(x)^2.

Peraturan rantai

Jika F: R^n -> R^m boleh dibezakan secara ketat di x dan φ: R^m -> R adalah Lipschitz setempat berhampiran F(x), peraturan rantai Clarke biasanya dinyatakan sebagai rangkuman jenis berikut:^LE

∂C(φ ∘ F)(x) ⊂ DF(x)^T ∂C φ(F(x)).

Jika φ adalah teratur dalam pengertian Clarke, bentuk yang lebih kuat tersedia.^LE

Peraturan maksimum

Jika

f(x) = max { f1(x),..., fm(x) },

setiap fi adalah Lipschitz setempat, takrifkan set indeks aktif

I(x) = { i: fi(x) = f(x) }.

Maka peraturan maksimum Clarke standard memberikan rangkuman bentuk berikut:^LE

∂C f(x) ⊂ co ⋃_{i in I(x)} ∂C fi(x).

Jika fi licin, ini menjadi:^E

∂C f(x) ⊂ co { ∇fi(x): i in I(x) }.

Untuk banyak fungsi maksimum standard, kesamaan berlaku di bawah andaian keteraturan yang sesuai.^LE

Peraturan Fermat untuk pengoptimuman tidak licin

Jika x adalah peminimum tempatan bagi f Lipschitz setempat, maka keadaan Fermat tidak licin adalah:^LE

0 ∈ ∂C f(x).

Ini adalah analog tidak licin bagi ∇f(x)=0.^LE

5. Kertas dan buku klasik

• Kerja F. H. Clarke mengenai kecerunan umum adalah sumber asas untuk derivatif umum Clarke dalam analisis tidak licin.^E

• Derivatif terarah umum dan kecerunan umum Clarke dibincangkan dalam literatur pengoptimuman tidak licin dimensi terhingga, termasuk kerja oleh Hiriart-Urruty.^L

• Kerja Rockafellar mengenai subkecerunan umum dalam pengaturcaraan matematik adalah satu lagi garis asas; kertas yang dipetik menggariskan asas derivatif terarah umum dan subkecerunan.^S

• Kerja Hiriart-Urruty dalam dimensi terhingga membincangkan derivatif terarah Clarke, kecerunan umum Clarke, peraturan kalkulus, dan aplikasi kepada pengoptimuman tidak licin.^L

6. Hala tuju literatur terkini

• Penyelidikan pengoptimuman tidak licin terkini terus menggunakan objek jenis Clarke dan kelonggaran yang berkaitan; contohnya, kertas 2025 mengkaji kelajuan penumpuan menggunakan subderivatif Goldstein, yang digambarkan sebagai versi santai subderivatif Clarke yang digunakan dalam beberapa algoritma.^L

• Derivatif terarah umum Clarke terus muncul dalam keadaan optimum untuk masalah pengoptimuman set; kertas 2025 mengkaji penyelesaian minimum lemah anggaran menggunakan derivatif umum jenis Clarke yang baharu.^A

• Penerbitan Rockafellar terkini menunjukkan kerja berterusan dalam analisis set-nilai dan tidak licin, termasuk kerja 2025 yang berkaitan dengan kalkulus variasi.^S

7. Laluan bacaan yang baik

1. Mulakan dengan derivatif terarah umum dan subderivatif Clarke.^LEE
2. Pelajari peraturan kalkulus teras: jumlah, hasil darab, rantai, maksimum, dan peraturan Fermat.^LE
3. Kaji subderivatif cembung dan bandingkan dengan subderivatif Clarke.^LS
4. Beralih kepada analisis variasi: kon normal, koderivatif, dan rangka kerja pembezaan umum yang lebih luas.^SS
5. Baca kertas pengoptimuman terkini menggunakan subderivatif Clarke atau Goldstein dalam algoritma.^L

Senarai bacaan pertama yang praktikal ialah:

• Kerja Clarke mengenai kecerunan umum dan derivatif umum Clarke.^E
• Kerja Hiriart-Urruty mengenai derivatif umum dan pengoptimuman tidak licin.^L
• "Generalized Subgradients in Mathematical Programming" oleh Rockafellar.^S
• Kertas terkini menggunakan subderivatif jenis Goldstein atau Clarke dalam algoritma pengoptimuman tidak licin dan keadaan optimum.^LA