마이크로소프트 CEO 사티아 나델라는 해리 스테빙스가 진행하는 팟캐스트 20VC 인터뷰에서 AI 시장의 세 가지 변화를 짚었다. 일상적인 AI 사용은 저렴한 모델 중심으로 바뀔 수 있지만, 기업은 자사만의 업무 지식과 성과 기준을 지켜야 한다는 것이다. 또 모델 성능이 높아진다고 안전성이 자동으로 따라오는 것은 아니므로, 배포 단계에서 별도의 안전장치를 마련해야 한다고 강조했다. 이는 시장의 확정된 미래라기보다 나델라의 전망과 제안이다.
1
2
일상적인 AI는 저렴한 모델로도 충분해질까
나델라는 앞으로 AI 사용량의 상당 부분이 이른바 ‘보편재’처럼 취급될 수 있다고 본다. 토큰은 AI가 글이나 요청을 처리할 때 사용하는 텍스트 단위다. 그의 전망에 따르면 반복적이고 안정적인 업무에는 오픈 웨이트 모델이나 저렴한 폐쇄형 모델이 쓰이고, 최첨단 성능이 필요한 영역에는 프런티어 모델이 남는다.
1
2
19
나델라는 코파일럿도 이미 여러 저렴한 모델을 활용한다고 말했다. 이는 업무에 따라 적합한 모델을 고르는 방식의 사례이지, 모든 작업에 같은 모델을 쓸 수 있다거나 프런티어 모델이 사라진다는 뜻은 아니다.
10
19
마이크로소프트는 별도의 실적 발표에서 MAI-Voice-2-Flash를 적용한 Dynamics 365 사례의 GPU 비용이 89% 줄었다고 밝혔다. 이 수치는 해당 구현 사례에 관한 것으로, 코파일럿 전체나 AI 서비스 전반의 비용이 같은 비율로 낮아졌다는 의미는 아니다.
23
기업의 업무 지식은 모델 제공사에 흘러갈 수 있다
나델라가 말한 ‘역정보 역설’은 기업이 AI를 쓰는 과정에서 사업상 가치 있는 지식이 모델 제공사 쪽으로 흘러갈 수 있다는 우려를 가리킨다. 기업이 직접 건네는 자료뿐 아니라 AI와 주고받는 요청과 업무 과정에서 생기는 기록도 사업 운영 방식을 드러낼 수 있다는 것이다. 따라서 기업에는 AI의 이점을 활용하면서도 자사만의 노하우를 어떻게 보존할지라는 과제가 생긴다.
2
3
그가 강조한 대응책 중 하나는 기업이 자체 성과 평가 기준을 갖는 것이다. 나델라는 기업별 AI 평가 기준이 향후 5년 안에 핵심 사업 자산이 될 수 있다고 전망했다. 이런 기준이 있으면 기업은 모델이나 공급사를 바꾸더라도 자사 업무에 얼마나 잘 맞는지 비교해 판단할 수 있다. 다만 이는 앞으로의 변화를 내다본 예측이지, 이미 모든 기업에 자리 잡은 관행은 아니다.
7
인터뷰 보도는 유니레버의 자동화 작업도 사례로 소개한다. 주문에서 대금 회수까지 이어지는 일부 업무와 거래 관련 청구 처리에서, 최첨단 모델을 사용하다가 더 저렴한 모델로 옮겨가는 흐름이 언급됐다. 이는 업무별로 비용에 맞는 모델을 선택할 가능성을 보여주지만, 공개된 보도만으로는 도입의 세부 기술이나 계약 조건까지 확인하기 어렵다.
3
7
AI가 똑똑해져도 안전성은 자동으로 보장되지 않는다
나델라는 AI 정렬(alignment)에 대한 생각이 바뀌었다고 말했다. 과거에는 모델 규모와 능력이 커지면 정렬도 자연스럽게 따라올 것으로 봤지만, 이제는 정렬을 별도의 어려운 문제로 보고 독립적인 연구와 노력이 필요하다고 설명한다.
2
30
그가 제시한 접근은 ‘설계된 제로 트러스트’다. 강력한 AI 모델이나 에이전트가 언제나 의도대로 작동한다고 전제하지 말고, 문제가 생겼을 때 행동 범위를 제한할 수 있도록 시스템을 설계하자는 뜻이다. 안전성은 모델의 성능 향상만으로 기대할 것이 아니라 실제 배포 환경에 구축해야 한다는 주장이다.
4
15
기업에 남는 경쟁력은 무엇일까
나델라의 주장은 모든 AI 모델이 서로 완전히 대체 가능해진다는 뜻이 아니다. 반복적이고 비용에 민감한 업무에는 저렴한 모델을 쓰고, 더 높은 성능이 필요한 작업에는 프런티어 모델을 활용하는 식의 분화가 나타날 수 있다는 전망이다. 이런 환경에서는 특정 모델 하나를 쓰는 것보다 기업 고유의 지식을 보호하고, 좋은 성과의 기준을 정하며, 안전장치를 갖춰 AI를 운영하는 능력이 중요해질 수 있다.
1
2
7