# 가짜 이미지와 AI 오답도 연구 대상이 된다 | 안전한 AI를 만드는 대학 고르는 법

> https://bookfactory.kr/board/ai-tech/20540
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-10T03:19:34.483Z

---

AI는 아름다운 이미지를 만들고 질문에 유창하게 답변한다. 그럼에도 불구하고 “이것이 진짜인가”, “이 답변을 믿어도 되는가”라는 의문이 드는 상황이 발생한다.

그 낯설음 또한 대학에서 연구하는 주제가 됩니다. AI의 능력을 향상시키는 연구에 더불어, 속지 않고 개인 정보를 보호하며, 근거를 다루는 시스템을 만드는 연구가 있기 때문입니다.

안전성에 관심 있는 고등학생들은 “보안을 배울 수 있는 대학”이라는 광범위한 표현에서 시작하여, 지키고 싶은 것을 구체화하면 후보를 비교하게 됩니다.

이 글에서는 도쿄과학기술대학교 사쿠마 연구실, 쇼좌쿠대학교 오키 연구실, 아오야마가쿠안대학교 모리타 연구실을 공격 방어, 본인 확인, 지식과 근거의 차이점으로 비교합니다.

## 지키고 싶은 것과 연구를 분리해야 합니다.

![画像](https://assets.st-note.com/img/1791510438-Aalbopg76XGcTzOWMifme2s0.png?width=1200)

사쿠마 연구실은 쇼좌쿠 대학 교원 소개 자료이며, 아오야마 가쿠인 대학의 연구 대상에서 정리된 내용입니다. 모리타 연구실은 안전성 전용 연구실이라는 명칭이 아닌, 지식을 활용한 추론을 인접 분야로 비교합니다.

## 사쿠마 연구실: AI가 오류를 범하는 조건을 연구의 중심에 두고 연구하다.

대표 과제 23H00483는 인과 구조를 고려하여 공격의 메커니즘과 방어를 연구하는 내용입니다. 기초 연구 A는 2023년 4월부터 2028년 3월까지, 등록 직접 경비 3,600만 엔입니다. KAKEN

인과 구조는 어떤 것이 다른 것에 미치는 영향에 대한 관계입니다. 오류가 발생한 결과뿐만 아니라 입력이나 조건이 판단에 어떻게 영향을 미쳤는지 고려하는 방향입니다.

경로 분석에서는 “정확도가 높아서 쓸 수 있다”고 바로 결론을 내지 않고, 실패하는 조건을 찾아 설명하고 싶어하는 사람에게 비교의 의미가 있습니다. 수학이나 기계 학습을 신뢰성의 문제로 연결하는 후보입니다.

공식적으로는 연구비(科研費)의 대표 과제와 CREST에서 주된 공동 연구자를 맡는 과제가 분리되어 게시되어 있습니다. 공동 연구 활동은 평가 자료로 활용되지만, 공동 연구 전체의 예산을 개인 교수의 금액으로 대체하지 않습니다. 연구실 공식

## 대목 연구실: 익숙하지 않은 위조물에 어떻게 대처해야 하는가

시즈오카대학교의 오키 철희 부교수는 정보학부 정보과학과에서 패턴 인식 및 기계 학습의 보안과 위조 미디어에 대한 대응책을 연구하고 있습니다.

대표 과제 18K11294에서는 미지의 위장 공격을 감지하는 생체 인증 기술을 연구했습니다. 2018년에서 2022년도에 완료된 과제에서 결과 보고서의 직접 경비는 330만 원입니다.

진로에 대한 질문의 의미는 “이미 알고 있는 허상을 찾아내는 것”에서 “아직 학습하지 못한 공격에도 대응하는 것”으로 확장되는 것을 의미하며, 방어 기술을 공격 변화와 함께 고려하는 방향으로 나아가게 됩니다.

소액의 과제이므로 교육적 가치가 낮다고 판단할 근거는 없습니다. 이 과제에서 무엇을 연구하고 무엇을 보고했는지 확인하는 것이 본인의 관심사와 일치하는지 판단하는 데 도움이 됩니다.

## 모리타 연구실: 지식의 연관성을 답으로 연결한다.

森田교수의 23K11221 연구에서는, 일반적인 상식, 행동, 영역 지식을 가정 내 추론에 활용하는 대화 시스템을 연구하고 있습니다.

여기서 보이는 것은 답변의 배경에 있는 관계를 다루는 방향입니다. 어떤 것과 어떤 것이 관련되어 있는지, 어떤 조건에서 그 추론이 가능한가. 그러한 설계를 고려한다면 지식 공학도 함께 비교해 볼 수 있습니다.

그러나 이 과제 선택이 “모든 오답을 막을 수 있다는” 것을 의미하는 것은 아닙니다. 연구 목적과 달성된 만능 능력을 분리하는 것 자체가 안전성을 고려하는 관점입니다.

## 한 가지 문제점을 세 가지 문제로 분해한다.

이제부터 이해를 돕기 위한 가상 예시입니다.

가짜 이미지를 사용하여 AI가 잘못된 본인 확인을 수행했다고 가정합니다.

사쿠마 연구실과 관련된 질문은 모델의 판단이 어떤 조건에서 공격에 취약해지는가 하는 것이다. 오키 연구실과 관련된 질문은 본物와 위조를 구별하는 방법이 새로운 공격에도 통할 수 있는가 하는 것이다. 지식 공학에 가까운 질문은 인지 결과와 주변의 조건을 어떻게 결합하여 판단하는가 하는 것이다.

같은 “위험한 AI에 대한 우려”에도, 집중하고 싶은 장소는 다릅니다.

## 보호자 설명 목적 연구의 유용성

안전성 연구에서는 실험에 성공했다는 결과뿐만 아니라, 어떤 조건에서 사용 가능한지를 설명하는 능력을 목표로 합니다. 실패를 숨기는 것보다, 분류하고, 재현하며, 방어 효과를 비교하는 경험은 정보 시스템 평가 및 개선 방향과 연결될 수 있습니다.

특정 직종이나 채용처가 보장되는 것은 아닙니다. 여기서 비교하는 것은 대학에서 익히는 전문성입니다.

AI를 더 똑똑하게 하는 것과 마찬가지로 안전하게 사용할 수 있는 AI의 조건을 생각하는 것에도 연구의 재미가 있습니다. 그 질문에 매력을 느낀다면 대학 선택의 이유가 될 수도 있습니다.

조사 기준일: 2026년 10월 8일. 자금은 기재된 개별 과제 및 역할, 기간 범위 내에서 사용됩니다. 선별 및 가상 예시는 경로 분석을 위한 것입니다. 배속, 성과, 직종의 보증이 아닙니다.

**출처:** [note 원문](https://note.com/kenro_labtouniv/n/nd53c2387e4e1)

*번역: Gemma 3(.44) 초벌 + 교정 23청크*

[원문 보기](https://note.com/kenro_labtouniv/n/nd53c2387e4e1) | 출처: note.com