NVIDIA 가 검색 확장 생성 (RAG) 용 AI 모델 군 'Nemotron Retriever'에 5 가지 모델을 추가했습니다. 모든 모델이 오픈 소스로 무료로 공개되었습니다. NVIDIA Nemotron 3.5 Embed, Rerank, and Parse: World-Class Retrieval Models 을 통해 에이전트를 선도합니다. https://huggingface.co/blog/nvidia/nemotron-retriever-world-class-agentic-retrieval 공개된 5 가지 모델의 개요는 다음과 같습니다. Nemotron-3.5-Embed-8B-BF16: 34 개 언어 (일본어 포함) 에 대응하는 임베딩 모델. 이미지 및 텍스트 입력 지원. Nemotron-3.5-Embed-1B-BF16: Nemotron-3.5-Embed-8B-BF16 의 소형 버전. Nemotron-3.5-Embed-1B-NVFP4: Nemotron-3.5-Embed-1B-BF16 의 NVFP4 양자화 버전. Nemotron-3.5-Rerank-8B-BF16: 쿼리와 이미지 및 텍스트 간의 관련성 랭킹을 생성할 수 있는 모델. Nemotron-3.5-Parse: PDF 파일 내용을 AI 가 처리하기 쉬운 데이터로 형식을 맞추는 모델. 각종 임베딩 모델의 벤치마크 점수를 비교한 그래프는 다음과 같습니다. Nemotron-3.5-Embed-8B-BF16 은 Qwen3-VL-Embedding-8B 나 EmbeddingGemma-2 보다 높은 점수를 기록했습니다. 또한 소형 Nemotron-3.5-Embed-1B-BF16 도 Qwen3-VL-Embedding-8B 에 가까운 성능을 보여줍니다.
다음 그래프는 가로축이 처리 속도, 세로축이 처리 정밀도를 나타냅니다. 'Nemotron-3.5-Embed-8B-BF16', 'Nemotron-3.5-Embed-1B-BF16', 'Nemotron-3.5-Embed-1B-NVFP4'라는 3 개의 모델이 경쟁 모델과 비교하여 더 빠르고 정밀한 처리를 할 수 있음을 알 수 있습니다.
다음 그래프는 쿼리당 비용을 가로축으로 나타냅니다. Nemotron-3.5-Embed-8B-BF16 을 Nemotron-3.5-Rerank-8B-BF16 과 결합하면 비용을 절감하면서도 정밀도를 향상시킬 수 있습니다.
Nemotron-3.5-Parse 의 정밀도도 경쟁 모델과 비교하여 높다는 점이 강조되었습니다. 다음 그래프는 가로축이 초당 처리 페이지 수, 세로축이 정밀도를 나타내며, Nemotron-3.5-Parse 의 처리 속도가 두드러진 결과를 보여줍니다.
각 모델은 다음 링크에서 배포됩니다. 라이선스는 OpenMDW-1.1 입니다. nvidia/Nemotron-3.5-Embed-8B-BF16 · Hugging Face https://huggingface.co/nvidia/Nemotron-3.5-Embed-8B-BF16 nvidia/Nemotron-3.5-Embed-1B-BF16 · Hugging Face https://huggingface.co/nvidia/Nemotron-3.5-Embed-1B-BF16 nvidia/Nemotron-3.5-Embed-1B-NVFP4 · Hugging Face https://huggingface.co/nvidia/Nemotron-3.5-Embed-1B-NVFP4 nvidia/Nemotron-3.5-Rerank-8B-BF16 · Hugging Face https://huggingface.co/nvidia/Nemotron-3.5-Rerank-8B-BF16 nvidia/Nemotron-3.5-Parse · Hugging Face https://huggingface.co/nvidia/Nemotron-3.5-Parse
원문 보기 | 출처: Gigazine