글 안 쓰고 판단만 하는 모델, 자동화엔 뭘 바꾸나

자동화를 붙여 보면 비용이 어디서 나가는지 금방 드러납니다. 글을 쓰는 데도 들지만, 사실은 '이 후보를 올릴까 말까', '이 문의는 어디로 보낼까'처럼 하루에도 수백 번 반복되는 판단에서 더 많이 나갑니다. 지난주 공개된 모델 하나가 바로 그 판단 부분만 떼어 놓고 값을 매겼습니다.

Jev는 어떤 모델인가요?

타입세이프 AI가 2026년 9월 15일 공개한 모델로, 회사는 이것을 'System One 모델'이라는 새 분류로 부릅니다. 흔히 쓰는 언어 모델이 단어를 하나씩 이어 붙여 문장을 만드는 것과 달리, Jev는 문장을 만들지 않고 정해진 형태의 답을 바로 내놓습니다.

받는 질문의 형태도 세 가지로 고정돼 있습니다. 1) 목록에서 하나 고르기 2) 기준에 따라 점수 매기기 3) 어떤 진술이 참인지 판정하기. 답과 함께 확률과 신뢰도 점수가 붙어 옵니다.

쉽게 말하면 사람에게 설명하는 모델이 아니라, 프로그램이 곧바로 받아 쓰는 판단을 내리는 모델입니다.

쓰는 방법은 API 연동뿐입니다. 모델 파일을 받아 우리 서버에 올리는 방식이 아닙니다. 타입세이프 본사 API는 아직 대기자 명단 순서로 열리지만, OpenRouter 같은 중개 서비스에 이미 올라와 있어서 그쪽 키가 있으면 오늘도 호출할 수 있습니다. 한 번에 넣을 수 있는 양은 3만 2천 토큰입니다.

왜 값이 그렇게 싼가요?

글을 만들지 않기 때문입니다. 보통 모델 요금은 읽은 양(입력)과 쓴 양(출력) 양쪽에 붙는데, Jev는 출력이 무료이고 입력만 100만 토큰에 0.042달러라고 공개했습니다. 응답도 70~500밀리초로 잡혀 있습니다.

회사는 같은 일을 시켰을 때 기존 대형 모델보다 40~200배 빠르고 238배 저렴하다고 밝혔습니다. 다만 이건 만든 쪽이 발표한 수치이고, 우리 조건에서 재현해 본 숫자는 아닙니다. 영국 IT 매체 더 레지스터도 '환각이 없다'는 표현에 선을 그었습니다. 형식이 틀리지 않는다는 뜻이지, 판단이 늘 옳다는 뜻은 아니라는 지적입니다.

그래서 읽는 방법은 이렇습니다. '똑똑해졌다'가 아니라 '판단 한 번의 단가가 크게 내려갈 수도 있다'로.

우리 자동화에서는 어디에 쓰이나요?

자동화를 뜯어 보면 작문과 판단이 섞여 있습니다. 이 둘을 갈라 보면 쓰임이 보입니다.

1) 작문 — 캡션, 상세페이지 문구, 문의 답변 초안. 여기는 여전히 기존 언어 모델의 일입니다. Jev는 자유로운 문장 생성을 권장하지 않는 용도로 못 박아 두었습니다.

2) 판단 — 오늘 만든 후보 중 무엇을 올릴지, 지난달과 주제가 겹치지 않는지, 금지어가 섞이지 않았는지, 만든 이미지가 원본 상품과 같은지, 들어온 문의가 주문 문제인지 환불 문제인지. 사람이 보면 1초에 끝나지만 하루 수백 번 도는 일들입니다.

저희가 돌리는 자동화도 이 판단 단계가 비용의 큰 몫을 차지합니다. 여기만 값싼 판단 전용 모델로 바꿀 수 있다면, 지금은 비싸서 한 번만 하던 검사를 세 번 하거나, 후보를 세 개만 만들던 것을 열 개 만들어 걸러 내는 식으로 설계가 달라집니다.

규모 감각을 보태면 이렇습니다. 소재 21개와 문구를 넣고 하나 고르게 하는 호출이 대략 1천 토큰입니다. 하루 네 편이면 한 달에 12만 토큰이고, 앞의 단가(입력 100만 토큰에 0.042달러, 출력 0원)로 계산하면 한 달 몇 원 수준입니다. 판단을 아껴 쓸 이유가 사라지는 구간이라는 뜻입니다.

지금 당장 갈아타야 하나요?

아닙니다. 한국어 상황에서 얼마나 맞는지는 공개된 자료가 없고, 무엇보다 결정 하나가 틀렸을 때 손님에게 바로 가는 자리(발행, 환불 안내, 가격 표기)에는 검증 없이 넣을 수 없습니다.

대신 순서를 이렇게 잡으면 위험이 없습니다. 1) 자동화 안에서 '문장을 만드는 자리'와 '판단하는 자리'를 코드상 갈라 둡니다. 2) 판단하는 자리를 지금 쓰는 모델로 먼저 '정해진 형식만 답하기'로 바꿔 봅니다. 선택지 하나와 확신도만 돌려받는 형태입니다. 3) 결과가 나아지는지 2주쯤 재 보고, 나아졌을 때만 모델을 갈아끼웁니다.

2)번은 타입세이프가 공개한 어댑터를 쓰면 코드 모양까지 똑같이 맞출 수 있습니다. 다만 그건 형식만 흉내 내는 것이라 속도와 비용 이점은 없습니다. 지난 이틀 사이에도 버전이 두 번 올라갔으니, 붙이신다면 버전을 고정해 두시는 편이 낫습니다.

저희도 콘텐츠 자동화 한 곳에 이 순서로 붙여 봤습니다. 매일 영상 앞 3초에 쓸 소재를 고르는 자리입니다. 먼저 소재 스물한 개의 첫 프레임을 모델에 보여 '빗길 도심 거리를 달리는 남자, 야간, 거친 분위기'처럼 한 줄 설명을 붙여 두고, 그다음 '이 문구에 맞는 장면 하나와 확신도'만 받도록 형식을 고정했습니다. 실패하면 예전 규칙으로 떨어지게 두어, 선택이 안 돼도 영상은 나갑니다.

첫 결과는 확신 0.86~0.92로 고르고, 후보 목록이 바뀌면 다른 소재를 집습니다. 비용은 한 편에 1원이 되지 않습니다. 덤으로 구멍도 하나 잡혔습니다. '최근에 쓴 소재는 피하기'가 이미 내보낸 기록만 보고 있어서, 아직 승인 전인 오늘 후보는 세지 않고 있었습니다. 같은 소재가 연달아 나갈 수 있는 자리였는데, 형식을 손보다가 드러났습니다.

정작 배운 것은 모델 이야기가 아니었습니다. 값어치는 '판단을 형식에 가둔다'는 구조에 있었고, 그 구조는 지금 쓰는 모델로도 가져올 수 있었습니다. 그래서 저희는 아직 Jev 키를 따로 신청하지 않았습니다. 지금 병목이 속도나 비용이 아니라서, 백 배 빨라져도 당장 얻을 것이 없기 때문입니다. 필요해지는 날에는 함수 안쪽 한 군데만 바꾸면 됩니다.