Jev: 텍스트를 쓰지 않고 구조화된 판단을 내리는 ‘시스템 원’ 모델

TypeSafe AI의 Jev는 대화를 하거나 글을 생성하는 모델이 아니다. 개발자가 넣은 자연어 또는 구조화된 ‘상태(state)’를 바탕으로, 프로그램이 곧바로 사용할 수 있는 제한된 형태의 판단을 반환하도록 만든 첫 ‘시스템 원(System One)’ 모델이다. TypeSafe AI는 약 2년간의 스텔스 기간을 거쳐 등장했으며, DCVC 주도의 4,000만 달러 규모 시드 투자를 공개했다. Jev는 현재 개발자 대상 얼리 액세스로 제공된다. 61112

Jev가 반환하는 것은 ‘문장’이 아니라 결정값

개발자는 예컨대 고객 문의 문장이나 JSON 형태의 업무 상태를 보내고, 답의 형식을 미리 정한다. Jev는 다음과 같은 결과를 낸다.

• 사전에 정한 항목 가운데 하나를 고르는 선택값(한 선택 프리미티브에서 최대 255개 항목)
• 수치 점수
• 예·아니오에 해당하는 이진 확률
• 그리고 코드가 활용할 수 있는 확률·신뢰도 정보

즉, 모델의 산문형 답변을 받은 뒤 별도로 파싱하고 형식을 검증하는 대신, 처음부터 업무 흐름에 맞는 구조화된 결과를 받는 방식이다. 16

가령 ‘카드가 이중 결제됐다’는 문의를 넣고 환불, 결제 오류, 부정 사용 의심 같은 분류 중 하나를 고르게 하거나, 정책 위반 가능성에 점수를 매기도록 하는 식이다. Jev의 역할은 범용 비서라기보다 자동화 파이프라인 안의 ‘AI 기반 조건문’ 또는 분류기·스코어러에 가깝다.

LLM과 다른 점: 토큰 생성 대신 병렬 판단

일반적인 자기회귀 LLM은 앞선 토큰에 의존해 다음 토큰을 하나씩 생성한다. 반면 TypeSafe는 Jev가 요청된 구조화 출력들을 한 번의 질의에서 병렬로 산출한다고 설명한다. 텍스트를 길게 생성하지 않으므로 후속 파싱과 형식 검증 부담을 줄이는 것이 핵심이다. 611

그렇다고 Jev가 범용 LLM을 대체한다는 뜻은 아니다. 이메일 초안 작성, 코드 생성, 열린 질문에 대한 긴 설명, 복합적인 추론 과정을 보여주는 일은 Jev의 목적이 아니다. 정해진 선택지 안에서 빠르고 반복적으로 판단해야 하는 업무에 맞춘 모델이다.

RLCD가 겨냥하는 것: ‘확신의 정직성’

TypeSafe는 Jev의 학습 방식을 **RLCD(Reinforcement Learning for Calibrated Decisions·보정된 결정을 위한 강화학습)**라고 부른다. 회사가 내세우는 목표는 불확실성의 보정(calibration)이다. 비슷한 조건의 예측들을 충분히 모았을 때, 모델이 더 높은 신뢰도를 표시한 답변일수록 실제 정답률도 높아져야 한다는 뜻이다. 16

실무에서는 이 특성이 중요할 수 있다. 예를 들어 신뢰도가 높은 건 자동 처리하고, 낮은 건 사람에게 넘기거나 더 숙고형인 모델에 재검토시키는 규칙을 만들 수 있기 때문이다.

다만 개별 결과의 높은 신뢰도가 정답을 보장하지는 않는다. 보정은 많은 예측을 집계했을 때의 통계적 성질이며, 운영 환경에서 그 품질이 얼마나 유지되는지는 별도로 확인해야 한다.

속도와 가격: 매력적인 수치지만 ‘회사 주장’으로 봐야

TypeSafe는 Jev의 종단 간 응답 시간이 약 70~500밀리초이며, 시스템 원에 적합한 작업과 비교 기준에 따라 기존 모델보다 20~200배 빠르고, 40~400배 저렴하다고 주장한다. 대표 워크플로 비교 수치로는 193.6배 빠르고 444.6배 저렴하다는 결과를 제시했다. 입력 가격은 100만 토큰당 0.042달러, 출력은 측정할 만큼 비용이 크지 않다는 이유로 무료로 책정했다. 67

이 수치는 독립적으로 재현된 벤치마크가 아니라 회사가 공개한 결과다. 실제 이점은 작업 종류, 입력 길이, 기존 시스템의 설계, 정확도 기준, 사람 검토 비용에 따라 크게 달라질 수 있다.

데모와 기대 활용처

TypeSafe의 DOOM 데모에서 Jev는 구조화된 게임 상태를 받아 초당 약 10회 행동을 골랐고, 회사 추산 비용은 시간당 약 7달러였다. 또 위키백과 링크 탐색 과제에서 여러 프런티어 모델보다 좋은 성과를 냈다고 밝혔다. 다만 회사도 이 비교가 주로 비추론 모드를 대상으로 했다고 언급했으므로, 이를 전반적 지능의 우열로 해석하기는 어렵다. 6

Jev가 특히 어울릴 수 있는 영역은 다음과 같다.

• 대량 고객 문의의 분류·라우팅
• 정보 추출과 문서 분류
• 정책 준수 여부 판정
• 사기·위험도 점수화
• 다른 모델의 답변을 검사하는 가드레일 또는 심사 모델
• 실시간 UI 분기
• 대규모 문서를 나눠 판정하는 맵리듀스식 분석

공통점은 행동 공간을 개발자가 제한한다는 것이다. Jev의 결과를 일반 코드와 결합하고, 낮은 신뢰도의 사례만 사람이나 범용 LLM으로 보내는 구성이 현실적인 활용 방식이다. 16

‘타입 오류 없음’은 ‘오답 없음’이 아니다

Jev에는 분명한 제약도 있다. 출시 시점 기준으로 산문, 코드, 추론 설명을 작성할 수 없고 이미지 입력도 받지 않는다. 1611

또 ‘타입 오류가 없다’는 말은 응답이 선언한 스키마에 맞는다는 뜻일 뿐, 그 판단의 의미가 항상 맞다는 의미는 아니다. 자유 형식 텍스트를 만들어내지 않으므로 전통적인 의미의 텍스트 환각은 피할 수 있지만, 잘못된 분류·점수·확률 예측은 여전히 가능하다. 따라서 Jev를 ‘환각이 전혀 없는 AI’로 부르는 것은 오해를 부를 수 있다.

결론: LLM의 대체재보다 빠른 판단 부품에 가깝다

Jev가 제안하는 가치는 분명하다. 반복적이고 범위가 정해진 판단을 텍스트 생성 없이 처리해 지연 시간과 비용을 낮추고, 신뢰도를 자동화 규칙에 연결하겠다는 것이다.

그러나 벤치마크 방법론, 실제 운영에서의 확률 보정 품질, 장기적인 단가 경쟁력, 그리고 ‘구조화된 결정 모델’이 독자적인 시장 범주로 자리 잡을지는 아직 검증되지 않았다. 단기적으로 가장 설득력 있는 그림은 경쟁보다 보완이다. 빠르고 제한된 반복 판단에는 Jev를, 글쓰기·설명·열린 추론·멀티모달 입력이 필요한 일에는 범용 LLM을 쓰는 방식이다.