JEV란? 반복되는 판단 업무에 쓰는 AI

JEV가 요즘 화제입니다. AI가 판단하는 시간과 비용을 크게 줄일 수 있다는 이야기에 관심이 가는데요.

도대체 JEV는 무엇이며, 어디에 어떻게 쓰면 좋을까요? 어떤 방식으로 비용을 줄이는지, 실제 업무에는 어떻게 붙일 수 있는지 하나씩 살펴보겠습니다.

JEV는 분류·평가·선택에 특화된 AI입니다

JEV(제브, 공식 표기 Jev)는 TypeSafe AI가 만든 판단용 AI 모델입니다. 문서나 업무 상황을 읽고, 정해진 기준에 따라 분류하거나 평가합니다. 고객 문의의 종류를 구분하고, 긴급도를 평가하고, 다음에 처리할 일을 선택하는 데 활용할 수 있습니다.

고객이 “다른 색상이 왔어요. 바꿔주세요”라고 문의했다고 가정해보겠습니다. JEV에 문의 내용과 ‘배송 조회·교환 요청·상품 질문’이라는 선택지를 줍니다. JEV는 이 중 하나를 고르고, 각 선택지가 맞을 확률도 함께 전달해줍니다.

이 결과를 상담 시스템에 연결하여, 교환 담당자에게 문의를 보낼 수 있습니다. JEV가 분류를 맡고, 상담 시스템이 담당자를 배정하는 방식입니다.

이때 업무에 따라 선택, 등급 평가, 예·아니오 질문을 사용할 수 있습니다.

이해를 돕기 위한 가상 답변이며, 실제 API 응답을 읽기 쉽게 풀어 썼습니다.

JEV와 LLM의 처리시간·사용 비용 비교

JEV는 긴 답변을 작성할 필요가 없는 업무에 활용할 수 있습니다. 문서 종류를 고르거나 문의를 분류할 때, 프로그램은 선택한 항목과 그 판단의 확률을 받아 처리합니다.

생성형 AI는 보통 답변을 토큰 단위로 순서대로 만듭니다. 토큰은 AI가 글을 처리하는 단위입니다. JEV는 미리 정한 형식의 판단 결과를 한 요청에서 병렬로 출력합니다. 여러 판단을 함께 처리하므로 긴 문장이 나올 때까지 기다리는 시간을 줄일 수 있습니다.

고객 상담 실험: Claude Haiku 4.5 대비 처리시간 95.5% 감소

TypeSafe가 공개한 응답시간은 70~500ms, 약 0.07~0.5초입니다. 미국 서부에서 측정한 수치이며, 국내 서비스의 응답시간은 입력 길이와 네트워크에 따라 달라집니다.

다른 AI와 비교하면 어떨까요? TypeSafe가 공개한 고객 상담 처리 실험에서는 JEV가 0.4초, Claude Haiku 4.5가 8.8초를 기록했습니다. 고객과 나눈 대화와 계정 정보를 읽고, 환불이나 담당자 연결 같은 다음 행동을 정하는 작업입니다. 이 고객 상담 처리 실험에서 JEV의 처리시간은 Claude Haiku 4.5보다 약 95.5% 짧았습니다.

입력·출력 비용 계산 예시: 10만 건 기준 72% 절감

2026년 10월 8일 확인한 Jev 1.13의 요금은 입력 100만 토큰당 0.042달러이며 출력은 무료입니다. 같은 날 확인한 GPT-6 Luna와 Claude Haiku 5.5의 일반 API 요금은 짧은 입력 기준으로 입력 100만 토큰당 0.10달러, 출력 100만 토큰당 0.50달러입니다.

입력 단가만 비교해도 JEV가 두 모델보다 58% 낮습니다. 추가로 출력은 무료입니다. 예를 들어 10만 건을 처리하면서 건당 입력 1,000토큰을 보내고, LLM에서는 판단 결과로 건당 100토큰을 출력한다고 가정해보겠습니다.

이 조건에서는 API 요금이 15달러에서 4.20달러로, 72% 줄어듭니다. 처리 건수가 많거나 LLM이 출력하는 결과가 길수록 금액 차이도 커집니다.

2026년 10월 8일 일반 API 요금으로 계산한 예시입니다. 캐시·일괄 처리 할인은 제외했습니다. 실제 업무에서는 모델마다 토큰 수와 재시도 횟수가 달라지므로, 같은 정확도를 내는 데 든 총비용을 비교해야 합니다.

여러 판단을 동시에 처리해 대기시간과 출력 비용을 줄입니다

문서 하나에서 유형, 담당 부서, 긴급 여부를 확인한다고 해보죠. LLM에도 여러 질문을 한 요청에 담아 답을 받을 수 있습니다. 문서를 한 번만 보내 입력 비용을 줄이는 방법은 JEV에서도, LLM에서도 쓸 수 있습니다.

JEV의 특징은 답을 만드는 방식에 있습니다. 일반적인 생성형 LLM은 세 가지 결과를 JSON 같은 정해진 형식으로 답하더라도, 출력 내용을 토큰 단위로 차례대로 만듭니다. JEV는 각 질문을 독립적으로 평가하고, 여러 판단 결과와 확률을 병렬로 출력합니다. 문서 유형의 답을 먼저 생성한 뒤 담당 부서와 긴급 여부의 답을 이어 쓰는 과정이 필요하지 않습니다.

확인할 항목이 많으면 LLM이 만들어야 할 출력도 길어집니다. JEV는 여러 결과를 병렬로 내보내 대기시간을 줄이는 구조이며, 결과가 늘어도 출력 토큰 요금은 붙지 않습니다. 문서를 읽고 여러 항목을 점검하는 업무에서 기대할 수 있는 장점입니다. 다만 질문 자체의 입력 요금은 발생하고, 질문 수나 입력 길이에 따라 처리시간도 달라집니다.

JEV에 질문 13개를 함께 보내면 비용과 시간이 얼마나 줄어드나요?

TypeSafe는 약 5만 4천 자의 문서에 질문 13개를 던지는 실험을 공개했습니다. 같은 Jev 1.12 모델로 질문을 따로 보낼 때와 한 번에 묶을 때를 비교한 결과입니다. 각 방식은 5회씩 실행했습니다.

질문을 묶자 개별 순차 요청보다 입력 비용은 약 91.8%, 처리시간은 약 90.0% 줄었습니다. 같은 문서를 반복해서 보내는 입력 비용과, 요청을 순서대로 기다리는 시간을 줄인 결과입니다. 별도 요청도 동시에 보내면 시간 차이는 작아집니다.

이 실험에서는 긴 문서를 반복해서 보내는 비용이 컸기 때문에, 질문을 묶었을 때 절감 효과도 크게 나타났습니다.

JEV를 적용할 수 있는 업무

저희는 문서를 반복해서 분류하거나, 문의마다 생성형 AI를 호출하거나, AI 답변을 사람이 전부 확인하는 업무에 JEV를 추천합니다. 각 업무에서 무엇을 맡기는지 예를 들어보겠습니다.

문서 분류·담당 부서 배정 업무

여러 부서에서 견적서·청구서·회의록을 받는다고 해보죠. JEV에 문서 내용과 분류 기준을 넣으면 문서 유형과 담당 부서를 판단하게 할 수 있습니다. 담당자가 파일을 하나씩 열어 배정하는 시간을 줄이려는 용도입니다.

청구서의 종류는 JEV가 분류하고, 금액 합계와 납기일 비교는 코드로 처리합니다. JEV에는 계산·날짜 비교 등의 한계가 있으므로, 업무별로 역할을 나누는 방식입니다.

현재 Jev 1.13은 텍스트 입력만 받습니다. 스캔 문서는 OCR(이미지에서 글자를 읽는 기술)로 글자를 추출한 뒤 보내야 합니다.

고객 문의 분류·처리 경로 배정 업무

고객 문의를 모두 생성형 AI에 맡기면 주문 상태를 조회하는 간단한 요청에도 AI 비용이 듭니다. JEV를 먼저 거치면 문의 종류에 맞춰 처리 경로를 나눌 수 있습니다.

예를 들어 JEV가 ‘주문 조회’를 선택하면 프로그램이 주문 정보를 가져와 정해진 양식으로 보여줍니다. 상품 설명이 필요한 문의는 생성형 AI에 맡깁니다. 분류가 애매한 문의는 담당자에게 보냅니다.

JEV의 분류 비용은 추가됩니다. 대신 생성형 AI가 답변을 만드는 횟수를 줄일 여지가 있습니다. 주문 조회처럼 프로그램으로 끝낼 수 있는 문의가 많을수록 시도해볼 만합니다.

문의 처리 예시입니다. 프로그램은 JEV의 분류 결과와 업무 규칙을 확인해 자동 처리하거나 담당자에게 넘깁니다.

AI 답변 검사·담당자 검토 업무

AI가 만든 답변을 사람이 전부 읽고 있다면 JEV에 검사를 맡겨볼 수 있습니다. 생성형 AI가 답변을 작성하면, JEV에 답변과 원문을 함께 넣습니다. JEV는 고객의 질문에 답했는지와 원문에 없는 내용을 썼는지를 각각 확인합니다.

담당자는 검사 결과를 바탕으로 검토가 필요한 답변을 확인합니다. 분류 업무에도 비슷하게 적용합니다. JEV가 여러 선택지에 비슷한 확률을 줬다면, 자동 처리 전에 담당자에게 확인을 요청하도록 연결합니다.

Choice·Score의 신뢰도는 선택지별 확률을 요약한 값입니다. 신뢰도 0.95가 정답률 95%를 보장하지는 않습니다. 자동 처리 기준을 정할 때는 실제로 틀린 답을 얼마나 놓치는지도 확인해야 합니다.

포너즈와 PoC로 JEV 도입 효과를 확인해보세요

JEV를 쓰면 우리 업무의 시간과 비용도 줄어들까요? 포너즈와 실제 업무 자료로 PoC를 진행해보세요. 기존 방식과 JEV의 결과를 비교하면, 도입할 가치가 있는지와 어느 단계까지 맡길 수 있는지 확인할 수 있습니다.

처음부터 전체 시스템을 바꿀 필요는 없습니다. 문서 분류, 고객 문의 배정, AI 답변 검사 중 반복량이 많고 담당자가 정답을 확인할 수 있는 업무 하나를 골라 시작하는 방식을 제안합니다. 기존 분류 모델이 업무를 잘 처리하고 있다면, JEV로 바꿨을 때 정확도와 운영비가 얼마나 달라지는지 먼저 비교합니다.

1. 검증할 업무와 목표를 정합니다. 포너즈와 현재 처리 방식, 처리량, 가장 줄이고 싶은 일을 살펴봅니다. 이를 바탕으로 PoC 범위와 성공 기준을 함께 정합니다.
2. 같은 자료로 두 방식을 비교합니다. 기존 업무는 유지하면서 JEV의 결과를 별도로 모읍니다. 정확도, 처리시간, 건당 비용, 사람이 다시 확인해야 하는 건수를 측정합니다.
3. 결과를 보고 도입 범위를 정합니다. 비용에는 OCR, 다른 AI 호출, 사람의 검수도 포함합니다. 중요한 오류가 늘지는 않았는지 확인하고, 자동 처리할 구간과 담당자가 검토할 구간을 나눕니다.

PoC에서는 실제 업무에 쓰는 한국어 문서로 JEV의 정확도를 확인합니다. TypeSafe가 영어에서 정확도가 가장 높다고 안내하는 만큼, 사내 약어나 분류하기 까다로운 문서도 함께 시험합니다.

검증이 끝나면 기존 방식과 비교해 얼마나 시간을 줄일 수 있는지, 운영비는 얼마나 달라지는지 정리합니다. 이 결과를 바탕으로 포너즈와 JEV 도입 여부와 시스템 연동 범위를 결정해보세요.

자주 묻는 질문

JEV가 분류부터 업무 실행까지 처리하나요?

JEV는 분류와 평가를 맡습니다. 업무 자료를 가져오고, 결과에 따라 담당자를 배정하거나 데이터를 저장하는 프로그램도 필요합니다.

기존 챗봇에 JEV를 연결할 수 있나요?

문의 분류나 답변 검사 단계에 추가할 수 있습니다. 다만 검사 단계를 넣으면 전체 응답시간이 늘 수도 있습니다. 줄어드는 작업 시간과 추가되는 검사 시간을 함께 비교해보세요.

JEV를 사용하려면 회사 데이터로 추가 학습을 해야 하나요?

현재 Jev는 고객별 추가 학습을 제공하지 않습니다. 요청할 때 업무 자료와 질문, 판단 기준을 함께 전달합니다.