보손과 페르미온이 스스로 묶이는 ‘양자 물방울’

호주 모나시대학교와 독일 하이델베르크대학교 연구진이 강하게 상호작용하는 보손-페르미온 혼합물에서 안정적인 ‘자체 결합(self-bound) 양자 물방울’이 형성될 수 있다고 예측했습니다. 이 상태는 외부 가둠 장치가 없어도 입자 사이의 상호작용만으로 스스로 뭉쳐 있는 액체와 비슷한 양자 상태입니다. 다만 이번 결과는 실험 관측이 아니라 이론적 예측입니다.

서로 다른 입자, 하나의 안정된 상태

이 물방울을 안정화하는 핵심은 두 효과의 맞물림입니다.

먼저 공명 조건에서 보손과 페르미온 사이의 강한 인력이 입자들을 서로 끌어당기며 결합 에너지를 제공합니다. 하지만 인력만 작용한다면 혼합물은 계속 압축되거나, 보손과 페르미온이 더 단단히 결합한 이합체(dimer)를 만들 수 있습니다.

여기서 페르미온의 양자적 성질이 반대 방향으로 작용합니다. 동일한 페르미온들은 하나의 양자 상태를 모두 차지할 수 없기 때문에, 더 좁은 공간에 몰아넣을수록 운동에너지가 커집니다. 이 증가한 운동에너지가 ‘페르미 압력’으로 나타나 추가 압축을 막습니다.

결국 특정 밀도에서 보손-페르미온 인력이 안쪽으로 당기는 힘과 페르미 압력이 바깥쪽으로 밀어내는 효과가 균형을 이루게 됩니다. 그 결과 혼합물은 무한히 퍼지지도, 한 점으로 붕괴하지도 않고 유한한 크기와 밀도를 가진 자체 결합 상태에 머물 수 있습니다.

보손은 같은 양자 상태에 여러 개가 들어갈 수 있지만 페르미온은 양자 상태 배타 원리를 따릅니다. 서로 다른 통계를 따르는 두 성분이 하나의 안정적인 액체형 상을 이룬다는 점이 이번 예측의 중요한 특징입니다.

왜 기존 이론에 도전하나

이전의 보스-페르미 양자 물방울 모델은 대체로 2차 섭동 이론에 의존했습니다. 섭동 이론은 상호작용이 약할 때 유용하지만, 이번에 예측된 물방울은 강결합 영역에 놓여 있어 약한 상호작용을 전제로 한 근사가 제대로 통제되지 않습니다.

특히 인력이 불안정을 일으키기 직전의 영역에서는 최저차 평균장 이론만으로 혼합물의 거동을 충분히 설명하기 어렵습니다. 강한 결합에서는 두 입자의 산란 과정 자체를 정확히 반영해야 하며, 단순히 약한 상호작용을 조금씩 보정하는 방식만으로는 한계가 있습니다.

초저온 원자에서 자체 결합 양자 물방울이 처음 제안되거나 실현된 것은 아닙니다. 매력적으로 상호작용하는 보손 혼합물에서는 이미 자체 결합 물방울이 실험적으로 구현된 바 있습니다. 이번 연구가 제시한 새로운 경로는 보손-페르미온 인력과 페르미온의 운동압력이 경쟁하도록 만드는 방식입니다.

전 범위의 입자 상관을 담은 변분 접근법

연구진은 약한 결합 가정에서 벗어나기 위해 절대온도 0에서의 변분 파동함수(ansatz)를 구성했습니다. 이 방법은 보손과 페르미온 사이의 입자쌍 상관을 상호작용의 전체 범위에 걸쳐 포함하도록 설계됐습니다.

변분 접근법은 가능한 상태를 매개변수화한 뒤 에너지가 가장 낮아지는 상태를 찾는 계산 방법입니다. 이번 ansatz는 특정 조건 하나만 설명하는 데 그치지 않고, 서로 다른 물리적 영역을 연결하는 것을 목표로 했습니다.

연구에 따르면 이 계산은 약한 결합 영역에서는 기존 섭동 이론의 결과를 재현하고, 한 입자가 주변 양자 기체의 들뜸에 둘러싸여 만들어지는 준입자인 페르미 폴라론과 보스 폴라론의 적절한 극한 거동도 되살립니다.

연구진이 이 ansatz의 자유에너지를 최소화하자 자체 결합 물방울 상과 함께 관련된 1차 양자 상전이가 나타났습니다.

조건이 바뀌면 물방울도 사라진다

예측된 물방울은 모든 밀도와 상호작용 조건에서 유지되는 것은 아닙니다. 연구가 다룬 영역에서는 안정적인 보손-페르미온 이합체가 더 선호되는 상태로 바뀌기 전에 물방울 상이 먼저 나타납니다.

페르미온 밀도가 더 높아지면 상황은 달라집니다. 계산 결과 물방울 대신 보스-페르미 액체와 남는 페르미온으로 나뉘는 상분리가 나타날 수 있으며, 액체-기체 임계점과 비슷한 거동도 예상됩니다.

이는 실험에서 확인할 수 있는 지점을 하나로 제한하지 않습니다. 연구자들은 물방울 자체를 찾는 동시에 상호작용의 세기, 입자 밀도, 두 성분의 비율을 바꾸면서 상이 어떻게 변하는지 추적할 수 있습니다. 예측된 상전이는 이론을 검증하는 추가적인 기준이 될 수 있습니다.

실험은 언제 가능할까

논문은 ‘몇 개월 뒤’ 또는 ‘몇 년 안’과 같은 구체적인 일정을 제시하지 않습니다. 대신 필요한 강결합 보스-페르미 혼합물과 적합한 원자 질량비가 이미 초저온 원자 실험에서 이용 가능하다고 설명합니다. 따라서 기존 실험 장비로 원칙적으로는 해당 영역을 조사할 수 있지만, 실제 구현에는 원자 상태 준비와 검출, 입자 손실을 줄이는 문제가 남아 있습니다.

따라서 현재 단계에서 정확한 표현은 ‘곧 발견될 물방울’이 아니라 ‘실험으로 시험할 수 있는 이론적 예측’입니다. 다른 원자 혼합물에서는 외부 가둠 장치 없이도 자체 결합 양자 물방울이 형성된 사례가 있어, 관련 계에서 자유공간 물방울을 만드는 것이 가능하다는 점은 이미 확인됐습니다.

양자 물질 연구에 줄 수 있는 의미

실험적으로 확인된다면 이 물방울은 강하게 상관된 양자 물질을 연구하기 위한 조절 가능한 실험실 모델이 될 수 있습니다. 연구진은 이론적 구조가 헬륨-3과 헬륨-4 혼합물, 그리고 반도체에서 보손성 엑시톤과 페르미온성 전하 운반자가 상호작용하는 계와 연결될 수 있다고 설명합니다.

다만 이번 연구가 초정밀 센서나 양자컴퓨터를 직접 개발했다는 뜻은 아닙니다. 더 신중한 해석은 안정적인 강상관 양자상을 어떻게 만들고 제어하는지 이해하는 일이 향후 양자 물질과 양자 기술 연구에 기초 지식을 제공할 수 있다는 것입니다. 현재의 구체적인 성과는 새로운 물질상을 예측하고, 약한 상호작용 근사를 넘어 이를 분석할 수 있는 계산 방법을 제시했다는 데 있습니다.