# 【개인 개발/실패 사례] 방법 전환으로 Jev 스타일 도구 재구축 시도 【NanoJev/Needle3/Simple Jev/ModernBERT】

> https://bookfactory.kr/board/news/17792
> 게시판: 뉴스
> 작성자: admin
> 작성일: 2026-09-19T11:08:23.632Z

---

제브(Jev)의 Choice/Score/Noul의 3 구조를 Needle3의 단일 툴 + 문법 제약 + confidence 게이트로 재현하고, 병렬, 임계값, 권한 분리를 코드 측에서 담당하는 방식을 구현해보고 싶다는 제안이었다.

다음은 참고한 보고서입니다.

ModernBERT（2024년 12월 공개, 논문 arXiv:2412.13663）는 2018년 BERT 이후 멈추고 있던 인코더 전용 모델에 LLM 시대의 개선(RoPE, GeGLU, Flash Attention, unpadding, 하드웨어 협조 설계)을 모두 담은 파레토 최적화 모델이다. 해외에서 언젠가 큰 화두가 될 것 같아 약간 주목을 받고 있다. 속도는 확실히 빠르다.

제브의 기능을 손안에서 ModernBERT로 구현하여 그 작동 방식을 재현할 수 있는지 실험했다. 결론은 다음과 같다: 인코더 + 3개의 헤드 + 자체 신뢰도 + 위험도별 게이트를 사용하여 80% 정도 재현 가능하다.

- Jev = 클라우드 기반 판단 부품. 상태 + 질문(선택/점수/놀이) → 답변+확률. 문장 생성 불가, 모든 문제 병렬 출력, 무료 제공.
- Needle3는 터미널의 판단 부품입니다. 쿼리 + 도구(JSON 스키마) → 함수 호출 + 신뢰도를 생성하며, 문법 제약으로 인해 타입 오류는 0건, 해당 사항은 []로 반환합니다(추론하지 않습니다).
- 대응 방식은 1:1로 진행되며, Choice는 문자 그대로 나열 도구, Score는 숫자 및 단계 도구, Noul은 참/거짓 도구입니다. 이 모두가 “레코드를 유일한 도구로 선언”하는 것이 정석입니다.
- 신뢰는 생명이다: 니들은 교정 헤드와 디코딩 확률이 낮은 쪽으로 설정되며, 임계값에 따라 act/confirm/human으로 분류한다. 자체 재계산식도 병행한다.
- 병렬은 묶지 않는다: Jev는 15문제 풀이 덤벼들지만, Needle은 5~10개 또는 1문제당 1개의 도구를 순차적으로 불러낸다. 너무 묶어두는 것은 정확도를 떨어뜨린다.
- 안전의 원천이 다른 점: Jev는 “출력 무료 + 병렬”, Needle은 “무료 + 오프라인 + 수백~수천 tok/s”입니다. 개인 정보, 전파, 대수량이 문제라면 Needle이 유일한 선택입니다.
- 넘기기 어려운 일은 남기고, 자유 형식 생성, 심층 추론, 이미지·음성 처리, 일본어의 미묘한 뉘앙스는 LLM을 병행하여 사용(분류는 Needle/Jev, 생성은 Claude/GPT).

0.6B 모델 및 그보다 작은 크기의 Jev 재현 오픈 소스입니다. 상태와 질문을 입력하면 완전한 확률 분포가 출력됩니다. 출력 토큰의 디코딩은 0입니다. 0.6B 모델의 병렬 의사 결정 모델이며, TypeSafe의 System One / Jev (2026년 9월 15일 발표)에 대한 오픈 재구현과 엔드 투 엔드 학습 파이프라인을 제공합니다.

Simple Jev는 Featherless AI의 오픈 소스 소프트웨어(OSS)입니다. Hugging Face에 올라온 호환 오픈 모델을 분류기 헤드의 재학습 없이 TypeSafe 스타일의 구조화된 판별 API(choice/score/noul)로 활용합니다. 공유 컨텍스트와 여러 질문을 1개의 요청으로 보내 서버가 다음 토큰 logits만 읽어 JSON 답변을 구축합니다. 문장과 JSON 모두 모델에 생성시키지 않습니다. HF Transformers와 PyTorch의 단일 파일 구현인 hf-server/hf_server.py와 언어에 독립적인 공통 계약 common/이 핵심입니다.

음, 이미지 업로드에 문제가 생겼네요. 에러가 발생했습니다.

5분 정도 시도해 봤지만 계속 오류가 발생했네. 이번에는 이미지를 포기하는 게 좋겠다.

의외로, 오래된 모델이 되어버릴 줄 알았던 ModernBERT가 여전히 가능성을 품고 있는 듯한 느낌이다. 하지만 Needle3도 기반이 마련되면 자동화 위에 올라타는 것은 척척 잘 할 텐데.

SimpleJev와 NanoJev의 구조에 대한 관심이 크다. NanoJev는 0.6B 파라미터로 상당히 유사한 작업을 수행하며, 0-1 범위 내에서 게임 조작도 가능하다. SimpleJev는 프론티어급 LLM으로 Jev로서의 역할을 부여하여 데이터 유지율이 높다. 최종적으로 힘을 모아 기반을 다져 올리는 데에도 활용해 볼 수 있다.

그러다 처음에는 파이썬 자동화 스크립트와 Needle3를 사용하여 도전해 보았다. NanoJev처럼 노선도에 대해 0-1 오퍼레이션만으로 판단을 진행하고 최종 판단만 전달하는 방식이었다.

무섭게 느껴지는 것은 문맥의 부재로 인해 발생하는, 어색한 기능성의 부재입니다. SimpleJev를 사용하여 노선도에 의미를 부여하고, 최종 지점에 문맥 이해 지원을 추가하는 것도 괜찮을지 모릅니다.

완성되었습니다.

시켜보자.

안 된다. 선택지 궤도도는 읽을 수 있지만 판단 단계에서는 Needle3가 별로 도움이 안 된다. 당연히 판단에 의지하는 것과 판단을 수행하는 것에서 의미가 다르다. 아직 뇌가 꺼진 상태에서 선택 가능한 수준의 선택지 궤도도가 완성되지 않았다는 것을 증명하는 것이다. 정말 어렵네.

선택과 점수가 나머지 세 가지 항목보다 특히 정확도가 떨어진다. Noul은 매우 정확하다. 어차피 그렇다.

음, Needle3는 어렵나요?

일단, ModernBERT로 시도해 보소.

**출처:** [note 원문](https://note.com/humble_bobcat51/n/n1b068e1ee57f)

*번역: Gemma 3(.44) 초벌 + 교정 16청크*

[원문 보기](https://note.com/humble_bobcat51/n/n1b068e1ee57f) | 출처: note.com