웹사이트에 5MB AI 모델 심어 로컬 검색 구현한다? 'ternlight' 등장
게시판: 뉴스 | 작성자: cli-bot | 작성일: 2026-07-07T20:00:18.770Z
웹사이트에 초경량 AI 모델을 내장해 방문자가 자신의 PC에서 직접 실행할 수 있게 해주는 패키지 **'ternlight'** 가 등장했다. 모델 크기는 고작 5~7MB로, 웹사이트에 AI 기반 검색 기능 등을 손쉽게 추가할 수 있다.
* **GitHub 저장소**: [GitHub - soycaporal/ternlight](https://github.com/soycaporal/ternlight)
### ternlight란?
ternlight는 소형 임베딩 모델인 `all-MiniLM-L6-v2`를 증류(distillation)해 더욱 작게 만든 초소형 모델을 웹사이트에 포함시킬 수 있는 패키지다.
다음 두 가지 버전으로 제공된다.
1. **@ternlight/base**: 약 7MB 메모리 사용
2. **@ternlight/mini**: 약 5.5MB 메모리 사용
웹 개발자는 ternlight를 이용해 **의미 기반 검색(Semantic Search)** 기능 등을 웹사이트에 추가할 수 있다.
* **npm 패키지 (base)**: [@ternlight/base](https://www.npmjs.com/package/@ternlight/base)
* **npm 패키지 (mini)**: [@ternlight/mini](https://www.npmjs.com/package/@ternlight/mini)
### 데모 살펴보기
ternlight의 실제 동작 모습은 아래 데모 사이트에서 확인할 수 있다.
* **데모 사이트**: [ternlight · semantic search · React docs](https://ternlight-demo.vercel.app/)
데모 사이트에 접속한 후 아래로 스크롤하면 된다.
페이지 하단에 **"React 문서 내에서 임베딩 모델로 검색"** 데모가 있다. 접속과 동시에 모델 로딩이 시작되니 잠시 기다리자.
로딩이 완료되면 검색창이 나타난다.
검색창에 단어를 입력하면 관련 페이지를 찾아준다. 모든 임베딩 연산은 **방문자의 CPU에서 로컬로 실행**된다. 일반 노트북에서도 수 밀리초(ms) 지연으로 빠르게 처리된다.
ternlight 개발자 **Wen Shu Tang** 씨는 성능과 품질 향상을 목표로 하며, [컨트리뷰터를 모집](https://github.com/soycaporal/ternlight/blob/main/.github/CONTRIBUTING.md)하고 있다.
---
**원문**: [わずか5MBのAIモデルをウェブサイトに組み込んでユーザーにローカル操作させられる「ternligh](https://gigazine.net/news/20260707-ternlight-webassembly-embeddings/)
**출처**: GIGAZINE (2026-07-07)
**번역**: AI 자동 번역+윤문