# DevRel 일기 6: JSAI × 테크 블로그 기획 Part 2 “국산 AI의 안전성을 엿보다 – 레드 체이밍 챌린지를 통해 경계선을 느껴 후편”

> https://bookfactory.kr/c/ai-tech/12137
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-14T07:29:40.854Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/307126376/rectangle_large_type_2_c2c270f6394f8b5b368d34ac3bffe784.jpeg?width=1280)

이벤트 전시와 텍스트 블로그에서 SB 인튜이티브스의 기술 매력을 탐구하는 신규 기획! SB 인튜이티브스의 DevRel 일기를 시청해주셔서 감사합니다. DevRel 김주리입니다. 지난번 전편에서는 “레드 치밍 챌린지가 무엇인가?”라는 기초 부분부터 시작하여, 이 기술에 대해 모토가와 님의 뜨거운 열정을 듣게 되었습니다. 또한, AI의 안전성에 대한 이해가 학생들에게 확산되어, 그것이 채용 활동에도 연결되고 있다는 흥미로운 이야기도 소개했습니다. 후편에서는 제가 이 분야에 대해 가지고 있는 의문을, 보다 기술적인 관점에서 심층적으로 파고들고 있습니다. 김주리는 이번 모토가와 님이 “정말 재미있다고 생각한” 입력이 있나요? 여러분 모두 독창적인 아이디어를 제안해주셨죠. 모토가와는 특정 입력보다는 전체적인 경향으로 볼 때, 여러분의 입력이 편중되지 않았다는 점에 놀랐습니다. 다양한 위험에 대해 다채로운 방법을 시도해주셨습니다. 게임에서의 역할극을 해보시거나, 아이디어를 발상하여 공격을 제안해주시니 놀랐습니다. 김주리는 그렇군요, 확실히 그렇습니다. 실제로 JSAI에서도 정말 여러분 모두 다채롭게 입력을 해주셨습니다.

![画像](https://assets.st-note.com/img/1787299699-vSMT8t9plU1fmgxsrGi573oN.jpg?width=1200)

【綿岡】“도전하고, 밤에 잠자고 다시 생각했습니다”라고 반복 방문하시는 분도 계셨죠. 그 열정에 놀랐습니다. 사라시나 감시(Sarashina guard)는 사라시나를 기반으로 제작되었으며, LLM을 보호하기 위해 LLM으로 감시 장치를 만드는 접근 방식을 사용합니다. 대화 기록을 제공하고, 마지막 발화가 유해한지 판단하도록 하고 있습니다.

![画像](https://assets.st-note.com/img/1787710038-ExO4w8ZfFrBIClQAgmti3VNT.jpg?width=1200)

다음 DevRel 일기도 기대해주세요!

**출처:** [note 원문](https://note.com/sb_intuitions/n/n169553b3b502)

*번역: Gemma 3(.44) 초벌 + 교정 2청크*

[원문 보기](https://note.com/sb_intuitions/n/n169553b3b502) | 출처: note.com