상시형 AI 에이전트는 대화가 끝난 뒤에도 사용자를 대신해 일을 처리합니다. 하지만 그 ‘대신 일하기’에는 클라우드에서 모델을 돌리고 각종 도구를 사용하는 비용이 따라붙습니다. 필요할 때 질문에 답하는 챗봇보다 비용 구조가 복잡해지는 이유입니다. 기업은 정기 구독료와 사용량에 따라 달라지는 운영비를 맞춰야 합니다. OpenAI의 Dots와 xAI의 Grok Bot 사례는 저렴한 모델이 왜 중요한지, 그리고 모델 가격만으로는 에이전트의 전체 비용을 알기 어려운지를 보여줍니다.
1
18
에이전트는 왜 더 많은 비용이 들까
ChatGPT 소비자 사업 책임자 애덤 프라이는 Dots가 “연산 부담이 큰 편”이라고 설명했습니다. Fortune 보도에 따르면 각 Dot에는 사용자가 연결한 계정과 서비스에서 작업을 수행하기 위한 별도의 클라우드 컴퓨터가 있습니다. 따라서 에이전트의 작업은 문장을 생성하는 데 그치지 않고 컴퓨터를 조작하거나 도구를 실행하는 과정까지 포함할 수 있습니다.
1
경쟁 서비스에서도 비용 부담이 드러났습니다. Grok Bot 사용자가 이용 한도 초기화를 요청하자 일론 머스크는 에이전트를 제공하는 비용이 매출에 비해 “지속 불가능할 정도로 높다”고 답했습니다. 이용 한도는 서비스 비용을 억제하는 방법이 될 수 있지만, 사용자가 필요할 때마다 비서처럼 기대고 싶어 하는 에이전트의 활용도도 제한합니다.
18
모델이 저렴해져도 전체 청구서는 따로 봐야
OpenAI는 11월 3일 업데이트에서 Dots가 작업의 각 부분에 서로 다른 모델을 활용할 수 있으며, GPT-6.1 Terra도 그 선택지에 포함된다고 밝혔습니다. 회사가 빠르고 효율적이라고 설명하는 모델을 적합한 작업에 쓰면 비용을 줄일 여지가 있습니다. 다만 이번 발표만으로 어떤 기준으로 모델을 선택하는지, Dot의 일반적인 작업 비용이 얼마나 줄어드는지는 확인되지 않습니다.
9
11
공개된 API 표준 요금은 절감 가능성을 보여주는 한 가지 지표입니다. 입력 토큰 27만 2,000개 미만의 표준 문맥에서 GPT-6.1 Terra는 토큰 100만 개당 입력 1달러, 출력 5달러입니다. GPT-6.1 Sol은 각각 2달러와 10달러입니다. 해당 항목의 토큰 요금은 절반이지만, 에이전트 운영 전체 비용이 절반으로 줄어든다는 뜻은 아닙니다.
52
53
10
에이전트가 도구를 쓰면 추가 비용이 붙을 수도 있습니다. OpenAI의 모델 문서도 검색이나 컴퓨터 사용처럼 도구별 요금이 부과될 수 있다고 안내합니다. 결국 총비용은 토큰 단가뿐 아니라 에이전트가 실제로 수행하는 작업에 달려 있습니다.
51
이용 범위와 자금 조달도 변수
출시 관련 보도에 따르면 Dots는 일부 유료 ChatGPT 요금제에서 제공되기 시작했습니다. 제한된 범위의 출시는 사용 패턴을 파악하는 동안 접근을 관리하는 데 도움이 될 수 있습니다. 그러나 현재 공개된 자료만으로는 더 많은 사용자에게 제공하기 위해 어느 정도의 비용 절감이나 효율 향상이 필요한지 알 수 없습니다.
12
13
자금 조달 상황도 아직 단정하기 어렵습니다. 한 보도는 OpenAI가 약 110억 달러의 투자 약정을 확보하고 총 200억 달러를 조달하려 한다고 전했습니다. 다른 보도 역시 200억 달러 목표를 언급하면서, 앞서 거론된 300억 달러 목표와 1조 4,000억 달러 기업가치보다 낮아진 수치라고 설명했습니다. 이는 보도된 협상 및 조달 관련 내용이지, 최종 조달액이 확정됐다는 뜻은 아닙니다. 인프라 확장에 투입할 자금의 불확실성을 더하지만, 자금 제약만으로 확장이 막힌다고 단정할 근거는 아닙니다.
2
5
Fortune은 Meta의 Muse가 개인형 에이전트 경쟁을 촉진한 계기가 됐다고 전했습니다. 기업들이 관련 제품을 개발하도록 자극하는 경쟁이 이어지는 한편, 사업성이 확인됐다고 보기는 아직 이릅니다. 사용자 입장에서 관건은 제한적인 접근이나 까다로운 이용 한도에 기대지 않고도 에이전트가 충분히 유용한 서비스를 제공할 수 있느냐입니다.
17
1
18
앞으로 지켜볼 점
핵심은 사용자가 에이전트에 맡기는 일이 늘어나는 속도를 효율 향상이 따라잡을 수 있느냐입니다. 더 저렴한 모델과 작업별 모델 선택은 비용을 낮추는 데 도움이 될 수 있습니다. 하지만 넓은 사용자층이 감당할 만한 가격을 만들려면 컴퓨터 사용과 도구 실행 비용, 실제 이용량, 요금 정책, 인프라 투자 여력까지 함께 따져야 합니다.
현재 확인되는 것은 상시형 에이전트에 실질적인 비용 부담이 있다는 점입니다. 이것만으로 해당 제품이 널리 확산될 수 없다고 결론 내릴 수는 없습니다. 다만 비용 절감이 사용량 증가를 따라가지 못한다면, 이용 대상을 좁히거나 사용 한도를 두는 방식이 계속 선택될 가능성이 있습니다.