나델라의 '역정보 역설'이란? AI를 사용할수록 기업의 핵심 지식이 새어나간다

2026년 7월 12일, 마이크로소프트 CEO 사티아 나델라가 X에 올린 글이 570만 회 이상 조회되며 엔터프라이즈 AI 도입의 핵심 리스크를 새롭게 조명했습니다 . 나델라는 이를 **'역정보 역설(Reverse Information Paradox)'**이라고 명명했습니다 — 노벨 경제학자 케네스 애로우(Kenneth Arrow)의 고전적 '정보 역설'을 구조적으로 뒤집은 개념입니다. 메시지는 단호합니다: 최첨단 AI를 사용하는 기업은 지능(intelligence)에 대해 두 번 지불하고 있다는 것입니다. 한 번은 현금으로, 또 한 번은 모델을 유용하게 만들기 위해 반드시 공개해야 하는 독점적 지식으로 말이죠 .

나델라는 문제를 지적하는 데 그치지 않았습니다. 그는 5가지 요소로 구성된 신뢰 프레임워크를 제안하고, AI 연구소들의 모델 증류(model distillation)에 대한 위선적 이중잣대를 비판했으며, AI 사용을 통해 생성된 지식은 제공자가 아닌 기업 내부에 축적되어야 한다고 주장했습니다. 증거가 뒷받침하는 내용을 자세히 살펴보겠습니다.

역정보 역설(Reverse Information Paradox) 설명

애로우의 원래 역설은 정보 판매자가 그 가치를 증명하기 위해 정보를 무료로 제공해야 할 위험을 감수한다는 것입니다. 나델라는 AI가 이를 역전시킨다고 주장합니다. 이제 위험을 감수하는 쪽은 구매자입니다. 기업은 구독료나 API 수수료로 AI 서비스 비용을 지불하지만, 의미 있는 결과를 얻기 위해서는 동시에 자사의 독점적인 비즈니스 맥락, 프로세스, 오류, 수정 사항을 시스템에 제공해야 합니다 .

나델라는 이렇게 썼습니다. "AI 시대에 구매자는 자신이 구매한 것을 사용하기 위해 지식을 내주어야 하는 위험을 감수합니다." 모든 프롬프트, 에이전트 도구 호출, 수정, 평가, 워크플로 추적은 기업이 보유하지 못하고 모델 제공자에게 전달되는 신호가 됩니다 . 조직이 최첨단 모델을 더 깊이 사용할수록 더 많은 기관 노하우가 외부로 유출되며, 기업 자체 시스템이 아닌 제공자의 훈련 파이프라인 내에서 축적됩니다 .

여러 매체는 이를 기업이 "지능에 대해 두 번 지불"하는 것 — 한 번은 현금으로, 또 한 번은 훨씬 더 가치 있는 자체 지식재산(IP)으로 — 이라고 설명했습니다 .

인텔리전스 배출(Intelligence Exhaust) 문제

나델라의 프레임은 관리자들이 이미 직면하고 있는 문제에 더 선명한 이름을 부여합니다. 모든 AI 상호작용의 부산물 — 프롬프트, 수정, 인간 피드백, 평가 추적, 적응 가중치 — 는 그가 인텔리전스 배출(intelligence exhaust) 이라고 부르는 것입니다 . 이 배출물은 기업 자체의 신뢰 경계 내에서 기관 기억으로 축적되어야 하지만, 현재 모델에서는 제공자에게 흘러나갑니다 .

Databricks 커뮤니티 분석은 핵심 질문을 제기했습니다: "조직이 AI를 더 널리 사용함에 따라, 프롬프트, 수정, 평가, 워크플로 및 인간 피드백을 통해 생성된 지식의 소유권은 누구에게 있는가?" 나델라의 답은 명확합니다: 기업이 소유해야 합니다. 경쟁사는 그 기관 지식을 결코 살 수 없지만, 기업들은 무료로 제공하고 있습니다 .

나델라는 이러한 역학을 산업 오프쇼링(industrial offshoring)에 비유한 것으로 알려졌습니다. 즉, 세계화가 공장 경제를 공동화시킨 것처럼, 규제되지 않은 AI 사용은 기업의 지적 자본을 공동화시킬 위험이 있다는 것입니다 .

5Cs 신뢰 프레임워크

이 리스크를 해결하기 위해 나델라는 '5Cs' — 기업이 자체 AI 신뢰 경계 내에서 통제해야 할 원칙 — 를 제안했습니다 :

• 통제(Control) — 기업은 자체 평가 시스템을 구축하고 AI 사용을 통해 생성된 기관 기억, 피드백 및 결정의 소유권을 유지해야 합니다 .
• 역량(Capability) — 기업은 자체 테넌트 경계 내에서 독점적 학습 환경 내에서 AI를 안전하게 관리할 수 있는 내부 기술과 인프라가 필요합니다 .
• 선택(Choice) — 기업은 단일 모델 제공자에 종속되어서는 안 되며, 모델 이식성과 분리된 오케스트레이션 레이어가 필요합니다 .
• 비용(Cost) — 기업은 API 수수료뿐만 아니라 IP 유출을 포함한 AI 도입의 전체 비용을 이해해야 합니다 .
• 축적(Compound) — 지식, 평가 및 적응 가중치는 제공자가 아닌 기업 자체 스택 내에서 축적되어야 합니다 .

이 처방은 기업의 평가, 메모리, 적응 가중치 및 오케스트레이션이 모델 제공자의 손길이 닿지 않은 곳에 축적되는 엄격한 신뢰 경계(trust boundary) 입니다 . 한 분석은 5Cs가 "마이크로소프트가 Foundry, Azure AI 및 Copilot Studio를 통해 구축하고 있는 인프라 클래스에 대한 요구사항 문서" 역할을 한다고 언급했습니다 .

모델 증류에 대한 AI 연구소의 이중잣대 비판

나델라는 주요 AI 연구소 — 오픈AI(OpenAI)와 앤트로픽(Anthropic) — 을 명시적으로 지목하며 위선적인 이중잣대라고 비판했습니다 . 그의 주장은 두 가지 측면이 있습니다.

첫째, 이 연구소들은 공정 이용(Fair Use) 권리에 의존하여 인터넷에서 수집한 방대한 양의 공개 데이터로 모델을 훈련합니다. 둘째, 동시에 다른 사람들이 그들의 독점 모델을 증류(distillation) — 즉, 그들의 최첨단 시스템 출력을 기반으로 더 작고 저렴한 모델을 훈련하는 것 — 하는 것을 금지하는 제한적인 조항을 부과합니다 .

나델라는 이렇게 썼습니다. "모델 제공자가 공개 데이터에 대한 모델 훈련을 위해 공정 이용 권리를 갖는 것은 필요한 위대한 혁신이지만, 현재 상황이 증류에 제한적인 조건을 부과하고 고객 사용 및 상호작용으로부터 학습할 권리를 유보하는 것은 아이러니하다고 생각합니다."

여러 매체는 나델라의 비판이 자사 모델의 증류에 반대해 온 앤트로픽과 같은 연구소를 직접 겨냥한 것이라고 보도했습니다 . 한 보고서는 핵심 긴장을 이렇게 요약했습니다: "왜 한 집단의 기업은 전체 웹에서 훈련할 수 있으면서, 다른 기업에게는 자신들의 출력물을 사용하지 못하도록 말할 수 있는가?"

나델라는 지식이 창작자와 기업에서 모델 제공자로만 흐르는 단방향 파이프라인으로 설계된다면, 경제적 가치는 실제로 지식을 창출하는 조직이 아닌 인프라 및 플랫폼 소유자에게 집중될 것이라고 경고했습니다 .

엔터프라이즈 AI 전략에 대한 의미

나델라의 에세이는 중요한 시사점을 제공합니다. 첫째, AI 공급업체 종속(vendor lock-in)을 비용이나 호환성 문제가 아닌 구조적 지식 누출로 재정의합니다. 둘째, 마이크로소프트의 자체 AI 인프라(Azure AI, Copilot Studio, Foundry)를 해결책으로 제시하지만, 5Cs 프레임워크는 원칙적으로 아키텍처에 구애받지 않습니다 . 셋째, 모든 엔터프라이즈 구매자가 이제까지 해오지 않았던 질문을 던지도록 강제합니다: 더 깊이 AI를 사용할 때, 학습의 소유권은 누구에게 있는가?

업계의 반응은 즉각적이었습니다. LinkedIn 분석은 이 에세이가 "관리자들이 이미 직면한 문제에 더 선명한 꼬리표를 붙였다: AI 거버넌스는 모델에 업로드된 문서뿐만 아니라 모델 주변에서 생성된 지식을 포괄해야 한다"고 언급했습니다 . 또 다른 관찰자는 5Cs를 "인프라 클래스에 대한 요구사항 문서"라고 불렀습니다 .

역정보 역설은 AI를 사용할지 여부에 대한 것이 아닙니다. AI가 학습한 것을 기업이 소유할 것인지, 아니면 제공자가 소유할 것인지에 대한 문제입니다.