아침에 출발하기 전에 태블릿으로 하루 일정을 확인하는 습관이 있는 사람을 상상해 보세요. 예전에는 출발 시간 바로 아래에 “동행 연락”이라는 큰 버튼이 있었다.
어느 날, 앱이 업데이트됩니다. 예정들을 한 곳에서 볼 수 있는 기능이 새롭게 추가되었고, 연락 버튼은 다른 화면으로 이동했습니다. 시간 표시는 정확하며, 앱도 정상적으로 작동하고 있습니다. 그럼에도 불구하고 본인은 늘 그렇듯이 버튼을 찾을 수 없어서 나가지 못하고 맙니다. 이 장면은 논점을 보여주기 위한 가상의 예시입니다.
부러진 적이 없는 듯이, 늘 하던 일들이 진행되지 않아.
이러한 상황을 AI가 잘못된 답을 내놓았는지 여부만으로 설명할 수 있는 것은 아닙니다. 정보의 위치가 변경된 것뿐이며, 항상 이어져 왔던 일련의 행동이 중간에 멈춰 버린 것입니다.
저에게는 혼자 외출 준비를 진행할 수 있는지 여부와 관련된 변화입니다. 그렇다면 안전 확인은 어디까지 다시 확인해야 할까요? 새로운 기능 설명을 읽어봐도 충분한가, 아니면 다시 본인과 화면을 확인해야 하는가. 여기서 말하는 ‘다시 확인’은 이전 확인 결과가 여전히 유효한지 확인하는 것을 의미하며, 매번 거대한 시험을 다시 진행하거나 업데이트 알림을 읽은 것만으로 끝내는 것이 아닙니다.
AI가 달라져도 조건은 바뀔 수 있습니다.
업데이트 자체와는 별개로 참고할 만한 연구가 있습니다. 데이비스 연구팀의 2020년 연구는 미국 퇴역군인의 의료 데이터를 활용하여 임상 예측 모델을 2006년부터 23만 5,548건의 입원 데이터로 여러 개를 만들고, 이후에는 전혀 업데이트하지 않고 5년 동안 지속된 120만 5,457건의 입원 데이터와 비교하며 지속적으로 진행했습니다. 모델 자체는 변경하지 않았는데, 확률과 실제 결과의 대응(교정)이 시간의 흐름에 따라 달라져 모델 종류에 따라 ずれ를 알려주는 경고가 여러 번 발생했다고 보고되었습니다.
여기에서 세고 있는 것은 입원 건수이며, 사람의 수는 아닙니다. 실제로 언제부터 차이가 시작되었는지는 알 수 없으며, 경고가 사고나 건강 피해를 직접적으로 나타낸 것은 아닙니다. 이 연구는 임상 예측 모델을 대상으로 모니터링 방법을 확인한 것이며, 확인을 통해 건강이 개선되었다는 것을 보여주는 시험은 아닙니다.
그럼에도 불구하고 한 가지 분명한 시사점이 있습니다. AI를 고정해 두더라도, 이전에 확인했던 신뢰성이 그대로 유지된다고 단정할 수 없다는 것입니다. 실제로 일상생활에 적용해 보았을 때, 이전에는 가족과 함께 사용하던 사람이 혼자 사용하게 되면, 어려움에 처했을 때 도움을 요청하는 과정이 달라질 수 있습니다. 이는 연구 결과가 아닌 추론입니다.
무엇이 달라졌는지 나누어 생각해보자.
AI가 변화했다”라는 한마디에는 여러 가지 다른 변화가 담겨 있습니다. 판단의 내용이 바뀌는 것일 수도 있고, 입력되는 정보의 종류가 바뀌는 것일 수도 있습니다. 알림 빈도나 표시 범위와 같은 설정, 버튼의 위치나 표현 방식과 같은 화면, 동행하는 사람이나 연락처와 같은 지원 체제가 바뀌는 것일 수도 있습니다.
한 가지 업데이트가 여러 장소에 동시에 영향을 미칠 수 있습니다. 그래서 확인 재검토의 출발점은 “새로운 버전을 설치했는가”가 아니라 “이전에 확인했던 조건 중 무엇이 달라졌는가”인지 확인하는 것입니다.
이는 본인이나 지원자가 AI의 내용이나 데이터를 자유롭게 수정할 수 있다는 전제하에 이루어지는 이야기가 아닙니다. 손으로 직접 바꿀 수 없는 부분은 제공 기관에 확인을 요청하거나 사용 방법을 조정하는 데 연결되어야 합니다.
모든 것을 다시 시작하거나, 아무것도 하지 않는 것 중 하나일 뿐이다.
이러한 생각은 Unknown Lab이 처음 내놓은 것이 아닙니다. 미국에는 인공지능(AI)을 활용한 의료기기에 대해 사전에 변경 사항과 검증 방법, 영향 평가를 함께 계획하는 시스템이 존재합니다. 일본에도 의료기기 변경 계획을 사전에 확인하는 제도가 있습니다. 이러한 제도는 확인을 불필요하게 하는 시스템이거나, 모든 변경에 동일한 규모의 시험을 요구하는 시스템이 아닙니다. 오히려 의료기기와 관련된 제도이며, 일반 앱에 적용되는 법적 의무와는 다릅니다.
중요한 것은 변경 사항을 일률적으로 다룰 필요가 없다는 것입니다. 매일 사용하는 연락 버튼의 이동이나, 지원에서 사용하지 않는 소개 페이지의 오타 수정과 같은 작업은 같은 노력으로 확인할 필요가 없습니다. 반면에, 단순히 보이는 부분의 변경이라고 해서 가볍게 여기는 것을 결코 섣불리 판단해서는 안 됩니다. 글자 크기나 확인 화면의 순서가 그 사람에게 있어 중요한 작동을 좌우할 수 있기 때문입니다.
확인하고 싶은 것은 기능과 그 이후 삶의 방식이다.
생각 방식과 일치하는 부분으로, 이미 검증된 AI의 성능을 그대로 사용하지 않고, 사용되는 조건의 변화에 맞춰 지속적으로 재검토하는 것은 이미 의료 분야의 연구나 제도에 존재하며, Unknown Lab이 제안하는 ETIQ 2.0의 개념과 부합한다.
답변해야 할 질문으로서, 삶의 시점을 고려하면 일반적인 변경 관리로는 놓치는 문제를 제대로 발견할 수 있는지, 확인에만 시간만 더 소요되는지 확인해야 합니다. 기존 절차가 이미 개인의 삶까지 다루고 있다면 새로운 양식을 추가할 필요가 없습니다.
구체적인 검토안으로서, 업데이트가 이루어질 때마다 “출력이 정확한지”뿐만 아니라 “본인이 평소 절차를 완전히 실행할 수 있는지”, “그 이후의 삶이 지속되는지”까지 필요한 범위 내에서 확인하는 것을 제안합니다. 다만 이는 Unknown Lab의 미검증된 정리이며, 건강 개선이나 사고 예방 효과가 확인된 것은 아닙니다. 외출이 가능한지 여부는 체력이나 날씨에 영향을 받으므로, 변화의 모든 것을 업데이트의 탓으로 돌릴 수 없습니다. 또한, 필요한 의료 이용이나 보안을 위한 업데이트를 자의적으로 중단하거나, 이전 버전으로 되돌리는 것은 권장되지 않습니다.
자세한 연구 방법 및 참고 문헌은 Unknown Lab 사이트 본편에 모아 정리되어 있습니다. → AI가 업데이트되면 안전 확인을 다시 수행해야 하는지 확인해야 합니다. → ETIC 2.0이란 무엇인가요?
6. 진행 중인 것과 진행되고 있는 것 사이에서
앞으로의 장면으로 돌아갑니다. 예정된 시간도 앱의 작동도 모두 정상이었지만, 본인이 연락을 하고 외출 준비를 하는 일관된 흐름의 움직임이 중간에 멈춰버렸습니다.
업데이트 이후 확인하고 싶은 것은 새롭게 늘어난 기능 자체만이 아닐 수도 있습니다. 그 기능과 함께 변한 평소의 일상적인 일의 진행 방식입니다.
당신 주변에서도 “앱은 작동하는데, 늘 하던 일만 진행되지 않는” 순간이 없는지 생각해 보셨을까요.
그녀는 꽤 오랫동안 그 일을 계속했다. 그녀는 그 일에 대해 더 자세히 알아보기 시작하면서, 그 일의 배경과 의미를 이해하기 시작했다. 그녀는 그 일의 중요성을 깨달은 후, 그 일에 대해 더 많은 사람들에게 알리고 싶었다. 그녀는 그 일의 내용을 설명하기 어려웠지만, 그 내용을 요약해서 설명하기로 했다. 그녀는 그 내용을 더 많은 사람들에게 알리기 위해 노력하면서, 다시 한번 그 일의 중요성을 깨달았다. 그녀는 그 일에 대해 더 많은 사람들에게 알리고 싶었지만, 그 내용을 설명하기 어려웠다. 그녀는 그 내용을 요약해서 설명하기로 한 후, 그 내용을 더 많은 사람들에게 알리기 위해 노력했다. 그녀는 그 일의 중요성을 다시 한번 깨달은 후, 그 일에 대해 더 많은 사람들에게 알리고 싶었다.
본 稿은 Unknown Lab이 공개한 설계 및 검증 노트 “AI가 업데이트되면 안전 확인도 다시 해야 하는가”(Version 1.0, DOI: 10.5281/zenodo.22851849)를 소개합니다. 이 노트는 査読을 거치지 않았으며, 독립적인 학문적인 査読은 아직 완료되지 않았습니다. 개별적인 의료, 간병, 제품 이용에 대한 조언이 아니며, 자세한 연구 대상, 기간, 한계, 참고 문헌은 Unknown Lab 웹사이트 본문에서 확인하실 수 있습니다.
본문 내용이 제공되지 않았으므로, 이 부분은 비워둡니다.
AI 모델의 재평가(재검증)는 지속적 학습 과정에서 모델의 성능을 유지 및 향상시키기 위해 필수적인 단계입니다. 그러나 지속적 학습은 다양한 과제를 안고 있습니다.
첫째, 데이터 드리프트가挙げられます. AI 모델은 학습 시 사용된 데이터에 기반하여 최적화되어 있지만, 현실 세계의 데이터는 시간의 경과에 따라 변화합니다. 이 변화에 대응하지 못하고 오래된 데이터에 과도하게 의존하면 모델의 정확도가 저하될 수 있습니다.
둘째, 개념 드리프트가 있습니다. 이는 데이터 자체가 변화하는 것뿐만 아니라 모델이 예측해야 하는 개념 자체가 변화하는 것을 의미합니다. 예를 들어, 특정 제품의 트렌드가 변화하거나 고객의 선호도가 변화하면 모델의 예측이 낡아집니다.
이러한 과제를 해결하기 위해 다음과 같은 해결책이 고려될 수 있습니다.
* 온라인 학습(실시간 학습): 새로운 데이터가 도착할 때마다 모델을 업데이트하는 방법입니다. 이를 통해 데이터 드리프트에 신속하게 대응할 수 있습니다.
* 적극 학습(가장 유용한 데이터 선택): 모델이 가장 학습 효과가 높은 데이터를 선택하여 학습하는 방법입니다. 이를 통해 개념 드리프트에도 대응할 수 있습니다.
* 전이 학습(기존 지식 활용): 특정 작업에서 학습한 지식을 다른 작업에 활용하는 방법입니다. 이를 통해 새로운 데이터에 대한 학습 비용을 줄일 수 있습니다.
* 모델의 정기적인 재학습: 정기적으로 모델을 재학습시켜 최신 데이터에 기반하여 모델을 업데이트합니다.
이러한 해결책을 조합하여 지속적 학습의 과제를 극복하고 AI 모델의 성능을 장기적으로 유지 및 향상시킬 수 있습니다.
특히 대규모 언어 모델(Large Language Model, LLM)과 같은 복잡한 AI 모델에서는 이러한 과제에 대한 대응이 더욱 중요합니다. LLM은 학습 데이터에 포함된 편향을 반영하기 쉽고 데이터 드리프트 및 개념 드리프트의 영향을 받기 쉽습니다. 따라서 LLM의 재평가에서는 이러한 과제에 특화된 기술을 고려해야 합니다.
예를 들어 LLM의 재평가에서는 미세 조정 및 지식 증류와 같은 기술을 사용하여 모델의 지식을 최신 상태로 유지하는 것이 중요합니다. 또한 적대적 학습을 사용하여 모델의 취약점을 식별하고 모델의 강건성을 향상시키는 것도 효과적입니다.
AI 모델의 재평가는 지속적 학습의 성공을 좌우하는 중요한 요소입니다. 위에 언급된 해결책을 적절하게 적용함으로써 AI 모델의 성능을 최대한 활용하고 비즈니스 가치를 극대화할 수 있습니다.
ETI 2.0이란 무엇인가: https://unknownlab.pages.dev/etic-2-0/
1차 번역문: ETI 2.0는 대규모 언어 모델(LLM)의 능력을 최대한 활용하기 위한 프레임워크입니다. 기존 LLM의 약점이었던 문맥 이해 부족과 특정 엔터티에 대한 지식 부족을 극복하는 것을 목표로 합니다.
ETI 2.0은 다음과 같은 3가지 주요 구성 요소로 구성됩니다.
1. **엔터티 유형(Entity Type):** LLM이 다루는 엔터티(사람, 장소, 물건, 개념 등)를 유형별로 분류한 데이터베이스입니다. 예를 들어, “사람” 유형에는 “정치인”, “배우”, “과학자”와 같은 하위 유형이 포함됩니다. 이 엔터티 유형은 LLM이 엔터티에 대한 정보를 효율적으로 검색하고 연결하는 데 기초가 됩니다.
2. **상호작용(Interaction):** 엔터티 유형과 그 엔터티가 관여할 수 있는 상호작용(관계, 행동, 이벤트 등)을 정의합니다. 예를 들어, “정치인” 엔터티 유형과 “선거”, “정책”, “지지자”와 같은 상호작용을 연결합니다. 이를 통해 LLM은 엔터티 간의 관계성을 이해하고 보다 복잡한 추론을 수행할 수 있습니다.
3. **맥락(Context):** 엔터티 유형과 상호작용을 결합한 특정 상황이나 배경을 정의합니다. 예를 들어, “2023년 10월에 치러진 일본의 중의원 선거”라는 맥락에서 “기시다 신헤이”라는 정치인이 “자유민주당”을 지지하고 있다는 정보를 LLM이 이해하도록 합니다.
ETI 2.0은 이러한 구성 요소를 결합하여 LLM이 보다 정확하고, 문맥에 부합하며, 인간다운 응답을 생성할 수 있도록 합니다. 기존 LLM이 “이것은 무엇입니까?”라고 질문받을 때, 단순히 키워드를 일치시키는 대신, 엔터티 유형, 상호작용, 맥락을 고려하여 보다 깊이 있는 이해를 바탕으로 답변을 생성합니다.
ETI 2.0 도입을 통해 LLM은 다음과 같은 과제를 해결할 수 있습니다.
* **애매모호한 질문에 대한 대응:** 애매모호한 질문에 대해 엔터티 유형, 상호작용, 맥락을 고려함으로써 보다 적절한 답변을 생성할 수 있습니다.
* **복잡한 질문에 대한 대응:** 여러 엔터티가 관여하는 복잡한 질문에 대해 엔터티 간의 관계성을 이해하고 추론할 수 있습니다.
* **창의적인 텍스트 생성:** 엔터티 유형, 상호작용, 맥락을 결합하여 보다 창의적이고 인간다운 텍스트를 생성할 수 있습니다.
ETI 2.0은 아직 개발 단계이지만, LLM의 능력을 획기적으로 향상시킬 가능성을 가지고 있습니다. 향후 발전이 기대되는 프레임워크입니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 24청크
원문 보기 | 출처: note.com