챌머스 공대, 물리 법칙 심은 신경망으로 ‘한 달 걸리던 설계’ 3일 만에 끝낸다

차세대 나노광학 부품, 즉 카메라 렌즈부터 양자컴퓨터까지 빛을 제어하는 미세 구조를 설계하는 일은 지금까지 느리고 계산 부담이 큰 작업이었다. 연구자들은 최대 4만 번의 고정밀 시뮬레이션을 돌려야 했는데, 한 번에 10분에서 60분씩 걸리다 보니 표준 신경망 하나 훈련시키는 데만 꼬박 한 달이 소요됐다. 스웨덴 챌머스 공과대학교(Chalmers University of Technology) 연구팀이 이 타임라인을 완전히 다시 썼다. 전자기학의 기본 법칙을 신경망의 아키텍처 안에 직접 심어 넣음으로써, 그동안 30일 걸렸던 핵심 데이터 생성 과정을 약 3일 만에 끝내는 데 성공한 것이다.

기존 나노광학 설계가 그토록 느렸던 이유

나노미터 크기 세계에서 빛은 맥스웰 방정식(Maxwell's equations)에 따라 복잡하게 행동한다. 메타물질(metamaterial), 메타표면(metasurface), 광결정(photonic crystal) 등을 설계해 완벽한 반사 방지나 특정 컬러 필터 같은 광학 효과를 구현하려면, 수많은 기하학적 변수에 대해 이 방정식을 반복해서 풀어야 한다. 이른바 ‘역설계(Inverse Design)’ 문제는 하나의 광학 특성을 만들어내는 물리적 구조가 매우 다양할 수 있어 탐색 공간 자체가 거대해지는 난제로 악명 높다.

엔지니어들은 고전적인 전자기 솔버(solver)를 대신할 고속 모방 도구로 심층신경망에 눈을 돌렸다. 아이디어 자체는 간단하다. (기하학적 구조, 광학 반응) 쌍으로 이뤄진 수천 개의 데이터로 신경망을 훈련시킨 뒤, 새 설계안의 특성을 몇 시간이 아닌 밀리초(1000분의 1초) 만에 예측하게 하는 것이다. 문제는 표준 신경망이 이 작업을 순수한 패턴 매칭으로만 접근한다는 데 있었다. 물리학에 대한 본질적 지식이 전혀 없기 때문에, 기본적인 전자기 거동조차 배우려면 방대한 데이터가 필요했고, 40,000번의 시뮬레이션으로 30일을 소비하는 것이 겨우 최소 기준이었다. 그렇게 해도 모델이 물리적으로 불가능한 결과를 내놓는 경우가 종종 있었다.

돌파구: 신경망 안에 물리를 ‘구워 넣다’

챌머스 공대 물리학과의 필리프 타생(Philippe Tassin) 교수와 박사과정생 빅토르 릴리아(Viktor Lilja)는 근본적으로 다른 접근법을 택했다. 백지 상태의 신경망이 예시만으로 물리 법칙을 추론해내길 바라는 대신, 맥스웰 방정식에서 도출한 제약 조건을 신경망 구조 안에 하드 코딩해 ‘기초 물리 교육’을 시킨 것이다.

이들이 학술지 『Laser & Photonics Reviews』에 발표한 논문 “준정규모드를 이용한 전자기 산란 기계학습의 지식 통합을 위한 일반 프레임워크”(A General Framework for Knowledge Integration in Machine Learning for Electromagnetic Scattering Using Quasinormal Modes)는 이 아이디어를 준정규모드(QNM, Quasinormal Modes) 라는 특정 물리 개념을 중심으로 공식화한다. 모든 공진형 광학 구조는 각각 진동과 소멸을 설명하는 복소수 주파수로 특징지어지는 QNM 집합을 가진다. 엔지니어가 제어하고 싶어 하는 구조의 산란 스펙트럼은 곧 이 준정규모드들의 기여를 합산한 것으로 표현될 수 있다. 연구팀은 신경망이 이런 공진 기여도 관점에서 근본적으로 배우도록 구조화하고, 전자기 산란의 알려진 수학적 형태를 따르도록 제약을 걸어 모델의 학습 과정이 오직 맥스웰 방정식과 일관된 결과만 내놓게 만든 것이다.

“슈퍼 두뇌에 물리 법칙 정보를 먹이자, 즉시 훨씬 더 똑똑해졌습니다. 이제 계산 시간이 예전의 10분의 1로 줄었습니다.” 타생 교수의 설명이다.

기존에는 훈련 데이터 하나를 만드는 데도 10분~60분짜리 시뮬레이션이 필요했고, 전체 훈련 캠페인에는 그런 데이터가 40,000개까지 요구돼 약 한 달이 걸렸다. 물리 길잡이가 더해지자 신경망은 훨씬 적은 예시만으로도 동일한 물리 법칙을 학습한다. 이제 충분한 훈련 데이터를 만드는 데는 약 3일이면 충분하며, 훈련된 신경망은 밀리초 만에 예측값을 내놓으면서도 물리적으로 신뢰할 수 있고 명백한 오류가 없는 결과를 도출한다.

이 접근법은 물리 길잡이 기계학습 전반의 더 큰 흐름과도 일치한다. 다른 최근 연구들에서도 맥스웰 방정식을 훈련 과정에 심으면 물리적 일관성과 일반화 능력이 향상되고 데이터 요구량이 절반 이하로 줄어든다는 점이 입증된 바 있다. 이러한 물리 정보 신경망(PINN)은 맹목적인 데이터 피팅에서 출발하여 근본 법칙을 먼저 존중하는 모델로 나아가는 변화를 상징한다.

QNM 정보 기반 아키텍처의 작동 원리

핵심 메커니즘은 산란 행렬에 대한 준정규모드 전개다. 어떤 나노광학 구조에서든 빛은 물질 특성과 상호작용하며 산란한다. 이 산란은 수학적으로 여러 공진 모드의 중첩으로 기술될 수 있다. 연구진은 이런 모드 표현법 자체로 동작하는 네트워크를 구축함으로써, 전자기 산란의 특정 수학적 속성 — 예컨대 인과율과 산란 계수의 해석적 구조 같은 것— 들이 자동으로 충족되도록 설계했다.

실질적 효과는 크게 세 가지다.

• 훈련 세트의 급격한 축소: 신경망이 맥스웰 방정식을 맨땅에서 재발견할 필요가 없다. 처음부터 올바른 구조적 지식을 갖춘 덕분에, 구체적인 물질과 기하학적 거동을 배우기 위한 예시만 있으면 된다.
• 물리적으로 타당한 출력: 출력 공간 자체가 본질적으로 제약되어 있기 때문에, 신경망이 말도 안 되는 결과를 쉽게 만들어내지 못한다. 순수하게 데이터로만 학습한 모델이 알려진 물리 법칙에 위배되는 광학 특성을 출력하는 흔한 실패 사례를 피하는 셈이다.
• 밀리초 단위 추론: 훈련이 끝나면 신경망은 고속 모사 솔버 역할을 하며, 임의의 나노광학 구조를 평가해 거의 즉각적으로 광학 특성을 반환한다.

이미 시작된 현실 응용

설계 속도 10배 향상은 단순한 실험실 기록이 아니라, 예전에는 현실적으로 불가능했던 실용적인 엔지니어링 작업 흐름을 열어준다.

카메라 렌즈와 안경

인공 광학 재료(메타물질)는 기존 유리나 플라스틱보다 더 얇고 가벼우며 더 효과적인 렌즈를 생산할 수 있지만, 이를 설계하려면 거대한 매개변수 공간을 탐색해야 한다. 물리 정보 신경망은 기존 솔버라면 몇 주가 걸렸을 후보 설계안을 빠르게 훑어낼 수 있다.

양자컴퓨팅 연결망

챌머스 공대 연구팀은 현재 대학의 양자컴퓨터 프로젝트와 적극적으로 협력 중이다. 목표는 빛이 이동하는 방식을 정밀하게 제어하는 나노구조 재료를 설계해, 기계적으로 유연한 광결정을 통해 양자 프로세서 사이의 광학 주파수 통신 채널을 만드는 것이다. 이러한 연결 기술은 양자컴퓨터를 소수의 큐비트(qubit) 이상으로 확장하는 데 결정적인 역할을 한다.

범용 나노광학 역설계

준정규모드 프레임워크는 의도적으로 일반화되어 있다. 맥스웰 방정식이 지배하는 모든 광학 부품 — 메타표면, 메타물질, 도파로(waveguide) 등— 에 적용할 수 있다. 관련 연구에 따르면 유사한 물리 심층 모델은 특정 작업에서 80,000배가 넘는 최적화 속도 향상을 달성하면서도 예측 정확도를 개선할 수 있다. 메타표면 설계에 물리 정보 신경망을 활용한 다른 그룹들도 제조 공정의 불확실성을 고려하면서 높은 광학 성능을 유지하는 방법을 보여줌으로써, 이 설계안들이 실제 제조에 훨씬 더 실용적이게 만들었다.

이 성과가 학계에 의미하는 것

챌머스 공대의 이번 돌파구는 계산 나노광학이 중대한 변곡점을 맞고 있음을 보여준다. 이 분야는 지난 몇 년간 기계학습을 빠르게 도입해왔으며, 기존의 유한차분 시간영역(FDTD) 솔버 대비 500배에서 100만 배 이상의 속도 향상을 달성한 모델들이 등장했다. 챌머스 공대 성과를 차별화하는 것은 단순히 추론 단계를 가속하는 데 그치지 않고, 깊은 물리 통합을 통해 훈련 과정 자체를 획기적으로 효율화했다는 점이다.

맥스웰 방정식을 단순 손실 함수 안이 아니라 네트워크의 구조적 뼈대 안에 심음으로써, 연구팀은 빠르면서도 신뢰할 수 있는 기계학습 대리 모델로 가는 길을 제시했다. 이 두 미덕의 조합은 전자기 설계 분야에서 역사적으로 좀처럼 달성하기 어려운 숙제였다. 다른 팀들은 이제 양자 물리 정보 신경망(QPINN)이라는 변형을 탐구하며, 매개변수화된 양자 회로를 이용해 시간 의존형 맥스웰 방정식을 더 큰 효율로 푸는 접근까지 시도하고 있다.

아마도 가장 설득력 있는 평가는 연구진 본인에게서 나왔을 것이다. 빅토르 릴리아는 예전 작업 방식을 두고 이렇게 단언한 바 있다. “설계 과정을 시작하면 30일 뒤에 결과가 나옵니다. 그런데 거기에 뭘 더 추가해야겠다는 생각이 들면 또 한 달이 걸릴 수 있어요.” 새 접근법은 그 타임라인을 3일로 압축한다. 그리고 밀리초 만에 답을 내놓는다. 설계 반복 주기 속도가 곧 혁신의 페이스를 결정하는 분야에서, 이 차이는 모든 것이다.