PL° 조건, 그 기원을 둘러싼 미스터리

표준 PL 조건의 기원은 명확하다

일반적인 Polyak–Łojasiewicz(PL) 조건의 뿌리는 비교적 분명합니다. 여러 연구 자료는 이 조건이 1963년 Polyak의 초기 연구에서 비롯되었다고 일관되게 언급하고 있습니다.

• 한 자료는 PL 조건이 Polyak의 초기 연구들에서 처음 등장했으며, 특히 1963년에 제안되었다고 밝히고 있습니다 .
• 2022년에 발표된 한 논문 역시 Polyak–Łojasiewicz 조건을 인용하며 "[Polyak, 1963]"이라고 명시적으로 표기했습니다 .

이 조건은 본질적으로 함수가 강한 볼록성(strong convexity)을 가지지 않더라도 경사 하강법(gradient descent)이 선형 수렴 속도를 달성할 수 있게 해주는 충분 조건입니다 . 즉, 복잡한 딥러닝 최적화 문제를 분석하는 데 있어 강력한 우회로를 제공해 주는 셈이죠.

'PL°'라는 표기법은 어디에 있을까?

문제는 여기서부터입니다. 일반적인 PL 조건이 아니라, 정확히 PL° 라는 표기법을 처음 도입한 논문은 무엇일까요?

현재 확보된 증거만으로는 이 질문에 명확한 답을 내리기 어렵습니다. PL 조건을 다루는 여러 자료들 은 공통적으로 표준적인 PL 조건에 대해 이야기하고 있지만, 그 어디에서도 "PL°"라는 특정한 수학적 표기법을 언급하고 있지 않습니다.

• 한 강의 노트는 "µ-PL 부등식"이라는 표현을 사용하며 , 다른 연구들은 단순히 "PL 조건"이라고 부릅니다.
• 심지어 PL 조건의 역사적 변천을 상세히 다루는 논문들조차 PL° 라는 변형 표기에 대해서는 침묵하고 있습니다 .

결론: 현재로선 미스터리로 남아있다

요약하자면, 표준 PL 조건의 아버지가 1963년의 Polyak이라는 점에는 이견의 여지가 거의 없습니다.

하지만 정확히 "PL°"라는 표기법이 언제, 어느 논문에서 처음 사용되었는지는 현재 확보된 자료만으로는 확인할 수 없습니다. 이 특수한 표기법의 기원을 밝히기 위해서는, 아마도 PL 조건을 변형하여 연구한 보다 최신의 최적화 이론 논문들을 직접 샅샅이 뒤져봐야 할 것입니다.