AI는 하나의 모델과 칩으로만 진화하지 않는다

영국 케임브리지에서 출발한 AI 인프라 스타트업 콜로섬(Callosum)이 AI 업계의 익숙한 전제를 정면으로 겨냥하고 있다. 더 거대한 단일 모델을 만들고, 동일한 가속기를 대규모로 연결하면 초지능에 도달할 수 있다는 ‘단일 스택’ 접근이다. 콜로섬이 내놓은 대안은 여러 전문 모델과 서로 다른 프로세서를 하나의 시스템처럼 조율하는 **‘이기종 지능(heterogeneous intelligence)’**이다.

핵심은 모든 작업을 가장 강력한 모델과 같은 하드웨어에 맡기지 않는 데 있다. 복잡한 AI 서비스는 일상적인 실행, 추론, 검색, 도구 사용, 실시간 상호작용이 뒤섞여 작동한다. 이 과정을 매번 최첨단 모델과 동일한 칩에서 처리하면 속도와 비용 면에서 비효율이 생길 수 있다. 콜로섬은 작업별로 가장 적합한 모델과 칩을 선택하는 소프트웨어 계층을 만들고 있다.

콜로섬이 바꾸려는 AI 인프라의 전제

현재 AI 인프라는 점점 더 큰 모델을 만들고, 주로 엔비디아 GPU를 대규모로 묶어 구동하는 방식에 집중돼 있다. 콜로섬은 ‘범용 모델 하나, 지배적인 하드웨어 생태계 하나, 그리고 계속 늘어나는 컴퓨팅 자원’이 고도화된 AI로 가는 가장 효율적인 경로라는 가정에 의문을 제기한다.

케임브리지대 신경과학자 출신 창업자들의 배경도 이 접근에 영향을 줬다. 생물학적 지능은 모든 일을 동일한 회로 하나로 처리하지 않고, 서로 특화된 회로를 결합해 문제를 해결한다. 콜로섬은 비슷한 시스템 수준의 발상을 AI에 적용해, 하나의 모델이 모든 하위 과제를 담당하는 대신 각기 다른 전문 구성요소를 조합하려 한다.

다만 콜로섬의 주장은 특정 모델이나 칩이 사라진다는 뜻은 아니다. 모델과 칩을 더 큰 컴퓨팅 시스템을 구성하는 교체 가능한 부품으로 보고, 요청의 성격에 따라 적절한 자원을 선택해야 한다는 주장이다.

여러 모델과 칩을 어떻게 연결하나

콜로섬은 자사 소프트웨어를 AI 작업을 조율하는 오케스트레이션 계층으로 설명한다. 구체적으로는 다음과 같은 흐름이다.

1. 복잡한 작업을 세부 과제로 나눈다. 하나의 AI 애플리케이션 안에 추론, 도구 사용, 실행 등 서로 다른 작업이 포함될 수 있다.
2. 각 단계에 맞는 모델을 선택한다. 반복적이고 단순한 작업에는 빠르고 저렴한 모델을 쓰고, 어려운 판단에는 더 강력한 추론 모델을 배정한다.
3. 적합한 하드웨어를 선택한다. 특정 업체의 인프라에 묶이지 않고 작업을 여러 종류의 프로세서에 분산한다.
4. 운영 조건을 반영해 최적화한다. 라우팅 과정에서 지연시간, 비용, 에너지 사용량을 함께 고려한다.

회사는 자사 플랫폼이 클라우드 환경과 엔비디아·AMD 칩, AWS 트레이니움(Trainium)·인퍼렌시아(Inferentia), Cerebras 시스템 등 다양한 하드웨어에서 작동하도록 설계됐다고 밝혔다.

예를 들어 기업용 AI 에이전트가 사용자와 자주 주고받는 단계에는 지연시간이 짧은 가속기를 사용하고, 다른 단계에는 범용 GPU를 배정할 수 있다. 복잡한 판단이 필요한 순간에만 고성능 추론 모델을 호출하는 방식이다. 이 접근의 잠재적 이점은 단순한 하드웨어 호환성에 그치지 않는다. 여러 구성요소의 강점을 조합해 전체 작업 흐름을 설계할 수 있다는 데 있다.

성능·비용 개선 주장과 남은 주의점

콜로섬은 2026년 2월 스텔스에서 벗어날 당시 일부 복잡한 작업에서 기존 방식보다 정확도는 최대 2배, 성능은 7배, 비용은 4분의 1까지 개선했다고 주장했다. 다만 이는 회사가 제시한 수치이며, 제공된 보도만으로는 독립적인 검증 여부나 다양한 AI 작업에 일반적으로 적용되는지는 확인되지 않는다.

경제적 논리는 비교적 분명하다. 애플리케이션의 모든 단계가 최고 성능 모델을 필요로 하지 않는다면, 반복 작업에 더 저렴하고 빠른 모델을 사용해 추론 비용을 낮출 수 있다. 또 모든 단계가 같은 프로세서를 요구하지 않는다면, 운영자는 가용한 컴퓨팅 자원을 더 효율적으로 활용하고 특정 하드웨어 공급업체에 대한 의존도도 낮출 수 있다.

컴퓨터 사용 자동화, 결제, 사이버보안, 멀티 에이전트 애플리케이션처럼 여러 종류의 연산이 결합된 분야가 주요 적용 후보로 거론된다. 하지만 라우팅 계층이 충분히 정확한 판단을 내리지 못하거나, 시스템 복잡성과 추가 처리 시간이 커진다면 기대한 이득이 사라질 수 있다.

최적화를 넘어 ‘AI 주권’으로

콜로섬의 주장은 비용 절감에만 머물지 않는다. 최첨단 AI 시스템을 학습시키고 서비스하려면 막대한 자본과 전력, 특수 하드웨어가 필요하다. 이 자원이 소수의 모델 기업과 칩 공급업체에 집중되면, 인프라 제공업체와 해당 인프라를 보유한 지역에 대한 의존도도 높아질 수 있다.

하드웨어에 종속되지 않는 소프트웨어 계층은 조직이 AI 작업을 실행할 장소와 칩을 선택할 수 있는 폭을 넓힐 수 있다. 여러 종류의 실리콘을 활용할 수 있다면 기업이나 국가가 하나의 기술 스택에 전적으로 의존하지 않아도 된다. 이런 의미에서 이기종 인프라는 AI 주권 전략의 일부로 연결된다.

물론 이는 아직 목표에 가깝다. 여러 칩을 지원한다고 해서 곧바로 경쟁적인 하드웨어 시장이 만들어지는 것은 아니다. 실제 가치는 성능, 칩의 공급 가능성, 개발자 도구, 각 통합 기능의 안정성에 달려 있다.

1억 달러 투자와 주요 투자자

콜로섬은 스텔스에서 벗어난 2026년 2월 1025만 달러를 조달했다. 투자는 Plural이 주도했으며, 찰리 송허스트, 스탠 볼랜드, 존 라자르가 엔젤 투자자로 이름을 올렸다. 영국 첨단연구발명청(ARIA)은 신규 칩 통합을 위한 연구비를 별도로 지원했으며, 당시 투자 라운드의 지분 투자자로 소개되지는 않았다.

이어 2026년 8월 20일, Atomico가 주도하고 Plural, DCVC, 영국 Sovereign AI Fund가 주요 투자자로 참여한 1억 달러 규모의 시드 라운드를 발표했다. 여기에 다른 투자자와 엔젤 투자자들도 참여했다.

2월 투자금이 이번 라운드에 추가된 것으로 공개 보도된 만큼, 콜로섬이 스텔스 탈피 이후 발표한 투자금은 약 1억 1025만 달러로 계산된다. 다만 회사의 공개 발표에는 이름이 공개되지 않은 참여자들의 투자 내역이 모두 담겨 있지는 않다.

영국 정부 지원이 보여주는 것

콜로섬은 이번 투자가 영국 Sovereign AI Fund의 첫 투자라고 밝혔다. 또한 회사는 영국의 11억 파운드 규모 AI 하드웨어 계획에 포함됐다고 설명했다. AI 장관 키시카 나라얀도 AI 컴퓨팅 수요가 커지는 상황에서 칩을 효율적으로 사용하는 것이 중요하다고 강조했다.

이는 콜로섬의 기술이 단순한 민간 기업용 최적화 도구를 넘어, 영국의 AI 역량과 주권을 구성하는 요소로 해석되고 있음을 보여준다. 다만 정부의 지원이 기술적·상업적 성공을 보장하는 것은 아니다. 라우팅 계층이 벤처 투자와 함께 공공의 전략적 지원을 받은 배경을 설명하는 신호에 가깝다.

Cerebras 파트너십의 의미

콜로섬은 Cerebras와의 핵심 파트너십을 통해 Cerebras의 컴퓨팅 자원을 자사 이기종 라우팅 계층에 통합할 계획이다. 속도가 특히 중요한 작업에는 Cerebras의 초저지연 추론을 사용하고, 나머지 단계는 다른 모델이나 프로세서로 보낼 수 있다는 구상이다.

이는 여러 모델 호출이 이어지는 실시간·멀티 에이전트 시스템에서 의미가 있을 수 있다. 단계가 누적될수록 각 호출의 지연시간이 전체 응답 속도에 영향을 주기 때문이다. 콜로섬과 Cerebras는 이 조합이 과거에는 너무 느리거나 비싸고 운영하기 어려웠던 새로운 유형의 AI 시스템을 대규모로 구동할 수 있게 한다고 설명한다.

다만 이 주장에 대한 발언자 표기는 제공된 보도에서 엇갈린다. Tech.eu는 해당 발언을 Cerebras 최고경영자 앤드루 펠드먼의 말로 전했지만, 콜로섬의 자체 발표는 같은 표현을 Cerebras 최고전략책임자 앤디 호크의 발언으로 소개했다. 파트너십과 초저지연 추론이라는 취지는 일치하지만, 발언자 직함과 귀속은 일치하지 않는다.

결국 시험대에 오를 것은 운영 성과

콜로섬이 그리는 AI 인프라는 하나의 거대한 기계보다는 여러 모델과 칩, 그리고 각 작업을 적절한 자원에 배정하는 소프트웨어가 결합된 생태계에 가깝다.

이 주장은 AI 배포 현장에서 실제로 커지고 있는 문제를 겨냥한다. 지연시간, 비용, 에너지 소비, 그리고 특정 모델·칩 공급망에 대한 의존성이다. 그러나 결정적인 시험은 운영 환경에서 치러진다. 콜로섬은 혼합형 하드웨어 환경을 개발자에게 충분히 단순하게 제공하면서도, 개별 벤치마크가 아닌 완성된 애플리케이션에서 일관되고 반복 가능한 개선을 입증해야 한다.

1억 달러 규모의 시드 투자는 투자자들이 이 ‘조정’ 문제를 크고 전략적인 시장으로 보고 있음을 시사한다. 다만 하드웨어의 다양성을 실제 사용자에게 측정 가능한 이점으로 바꿀 수 있을지는 이제부터 입증해야 할 과제다.