챌머스 공대, 물리 법칙 심은 신경망으로 ‘한 달 걸리던 설계’ 3일 만에 끝낸다

돌파구: 신경망 안에 물리를 ‘구워 넣다’

챌머스 공대 물리학과의 필리프 타생(Philippe Tassin) 교수와 박사과정생 빅토르 릴리아(Viktor Lilja)는 근본적으로 다른 접근법을 택했다. 백지 상태의 신경망이 예시만으로 물리 법칙을 추론해내길 바라는 대신, 맥스웰 방정식에서 도출한 제약 조건을 신경망 구조 안에 하드 코딩해 ‘기초 물리 교육’을 시킨 것이다.

이들이 학술지 『Laser & Photonics Reviews』에 발표한 논문 “준정규모드를 이용한 전자기 산란 기계학습의 지식 통합을 위한 일반 프레임워크”(A General Framework for Knowledge Integration in Machine Learning for Electromagnetic Scattering Using Quasinormal Modes)는 이 아이디어를 준정규모드(QNM, Quasinormal Modes) 라는 특정 물리 개념을 중심으로 공식화한다. 모든 공진형 광학 구조는 각각 진동과 소멸을 설명하는 복소수 주파수로 특징지어지는 QNM 집합을 가진다. 엔지니어가 제어하고 싶어 하는 구조의 산란 스펙트럼은 곧 이 준정규모드들의 기여를 합산한 것으로 표현될 수 있다. 연구팀은 신경망이 이런 공진 기여도 관점에서 근본적으로 배우도록 구조화하고, 전자기 산란의 알려진 수학적 형태를 따르도록 제약을 걸어 모델의 학습 과정이 오직 맥스웰 방정식과 일관된 결과만 내놓게 만든 것이다.

“슈퍼 두뇌에 물리 법칙 정보를 먹이자, 즉시 훨씬 더 똑똑해졌습니다. 이제 계산 시간이 예전의 10분의 1로 줄었습니다.” 타생 교수의 설명이다.

기존에는 훈련 데이터 하나를 만드는 데도 10분~60분짜리 시뮬레이션이 필요했고, 전체 훈련 캠페인에는 그런 데이터가 40,000개까지 요구돼 약 한 달이 걸렸다. 물리 길잡이가 더해지자 신경망은 훨씬 적은 예시만으로도 동일한 물리 법칙을 학습한다. 이제 충분한 훈련 데이터를 만드는 데는 약 3일이면 충분하며, 훈련된 신경망은 밀리초 만에 예측값을 내놓으면서도 물리적으로 신뢰할 수 있고 명백한 오류가 없는 결과를 도출한다.

이 접근법은 물리 길잡이 기계학습 전반의 더 큰 흐름과도 일치한다. 다른 최근 연구들에서도 맥스웰 방정식을 훈련 과정에 심으면 물리적 일관성과 일반화 능력이 향상되고 데이터 요구량이 절반 이하로 줄어든다는 점이 입증된 바 있다. 이러한 물리 정보 신경망(PINN)은 맹목적인 데이터 피팅에서 출발하여 근본 법칙을 먼저 존중하는 모델로 나아가는 변화를 상징한다.

QNM 정보 기반 아키텍처의 작동 원리

핵심 메커니즘은 산란 행렬에 대한 준정규모드 전개다. 어떤 나노광학 구조에서든 빛은 물질 특성과 상호작용하며 산란한다. 이 산란은 수학적으로 여러 공진 모드의 중첩으로 기술될 수 있다. 연구진은 이런 모드 표현법 자체로 동작하는 네트워크를 구축함으로써, 전자기 산란의 특정 수학적 속성 — 예컨대 인과율과 산란 계수의 해석적 구조 같은 것— 들이 자동으로 충족되도록 설계했다.

실질적 효과는 크게 세 가지다.

• 훈련 세트의 급격한 축소: 신경망이 맥스웰 방정식을 맨땅에서 재발견할 필요가 없다. 처음부터 올바른 구조적 지식을 갖춘 덕분에, 구체적인 물질과 기하학적 거동을 배우기 위한 예시만 있으면 된다.
• 물리적으로 타당한 출력: 출력 공간 자체가 본질적으로 제약되어 있기 때문에, 신경망이 말도 안 되는 결과를 쉽게 만들어내지 못한다. 순수하게 데이터로만 학습한 모델이 알려진 물리 법칙에 위배되는 광학 특성을 출력하는 흔한 실패 사례를 피하는 셈이다.
• 밀리초 단위 추론: 훈련이 끝나면 신경망은 고속 모사 솔버 역할을 하며, 임의의 나노광학 구조를 평가해 거의 즉각적으로 광학 특성을 반환한다.

이미 시작된 현실 응용

설계 속도 10배 향상은 단순한 실험실 기록이 아니라, 예전에는 현실적으로 불가능했던 실용적인 엔지니어링 작업 흐름을 열어준다.

카메라 렌즈와 안경

인공 광학 재료(메타물질)는 기존 유리나 플라스틱보다 더 얇고 가벼우며 더 효과적인 렌즈를 생산할 수 있지만, 이를 설계하려면 거대한 매개변수 공간을 탐색해야 한다. 물리 정보 신경망은 기존 솔버라면 몇 주가 걸렸을 후보 설계안을 빠르게 훑어낼 수 있다.

양자컴퓨팅 연결망

챌머스 공대 연구팀은 현재 대학의 양자컴퓨터 프로젝트와 적극적으로 협력 중이다. 목표는 빛이 이동하는 방식을 정밀하게 제어하는 나노구조 재료를 설계해, 기계적으로 유연한 광결정을 통해 양자 프로세서 사이의 광학 주파수 통신 채널을 만드는 것이다. 이러한 연결 기술은 양자컴퓨터를 소수의 큐비트(qubit) 이상으로 확장하는 데 결정적인 역할을 한다.

범용 나노광학 역설계

준정규모드 프레임워크는 의도적으로 일반화되어 있다. 맥스웰 방정식이 지배하는 모든 광학 부품 — 메타표면, 메타물질, 도파로(waveguide) 등— 에 적용할 수 있다. 관련 연구에 따르면 유사한 물리 심층 모델은 특정 작업에서 80,000배가 넘는 최적화 속도 향상을 달성하면서도 예측 정확도를 개선할 수 있다. 메타표면 설계에 물리 정보 신경망을 활용한 다른 그룹들도 제조 공정의 불확실성을 고려하면서 높은 광학 성능을 유지하는 방법을 보여줌으로써, 이 설계안들이 실제 제조에 훨씬 더 실용적이게 만들었다.

이 성과가 학계에 의미하는 것

챌머스 공대의 이번 돌파구는 계산 나노광학이 중대한 변곡점을 맞고 있음을 보여준다. 이 분야는 지난 몇 년간 기계학습을 빠르게 도입해왔으며, 기존의 유한차분 시간영역(FDTD) 솔버 대비 500배에서 100만 배 이상의 속도 향상을 달성한 모델들이 등장했다. 챌머스 공대 성과를 차별화하는 것은 단순히 추론 단계를 가속하는 데 그치지 않고, 깊은 물리 통합을 통해 훈련 과정 자체를 획기적으로 효율화했다는 점이다.

맥스웰 방정식을 단순 손실 함수 안이 아니라 네트워크의 구조적 뼈대 안에 심음으로써, 연구팀은 빠르면서도 신뢰할 수 있는 기계학습 대리 모델로 가는 길을 제시했다. 이 두 미덕의 조합은 전자기 설계 분야에서 역사적으로 좀처럼 달성하기 어려운 숙제였다. 다른 팀들은 이제 양자 물리 정보 신경망(QPINN)이라는 변형을 탐구하며, 매개변수화된 양자 회로를 이용해 시간 의존형 맥스웰 방정식을 더 큰 효율로 푸는 접근까지 시도하고 있다.

아마도 가장 설득력 있는 평가는 연구진 본인에게서 나왔을 것이다. 빅토르 릴리아는 예전 작업 방식을 두고 이렇게 단언한 바 있다. “설계 과정을 시작하면 30일 뒤에 결과가 나옵니다. 그런데 거기에 뭘 더 추가해야겠다는 생각이 들면 또 한 달이 걸릴 수 있어요.” 새 접근법은 그 타임라인을 3일로 압축한다. 그리고 밀리초 만에 답을 내놓는다. 설계 반복 주기 속도가 곧 혁신의 페이스를 결정하는 분야에서, 이 차이는 모든 것이다.