目次
- 이전
- 이번 레슨: 다음 토큰
- 요점 정리
- 일본어 번역
- 다음은 부록에 대한 추가 설명입니다.
- 검색 엔진의 자동 완성과 유사하다는 것은 무엇을 의미하는가
- 검색과 생성은 출력을 만드는 방식에 근본적으로 차이가 있습니다.
- 결정적인 차이는 “該当なし”를 반환할 수 있는지 여부입니다.
- 부록 추가
- 길(path)이라는 비유가 가리키고 있는 것은
이전
이번 레슨: 다음 토큰
## 요점 정리
1. 2023년 11월 16일, 넷플릭스에서 방영된 드라마『나 홀로 집에 10』(원제: 全家だ！10)의 1화, “사탕의 비밀”(원제: キャンディの秘密)에 대한 리뷰입니다.
이 드라마는 1996년 방영된 일본의 인기 어린이 드라마『나 홀로 집에』(원제: 全家だ！)의 10번째 시리즈입니다.
2. 줄거리:
이번 에피소드에서는 주인공 료가 친구들과 함께 낡은 아파트에서 보낸 특별한 하루를 다룹니다. 료는 친구들과 함께 낡은 아파트의 숨겨진 방을 발견하고, 그곳에서 오래된 사탕 상자를 발견합니다. 상자 안에는 료의 할아버지(원제: 祖父)가 어렸을 때 가지고 놀던 장난감과 함께 낡은 사탕이 가득합니다. 료는 친구들과 함께 사탕을 먹으며 옛날 이야기를 나누고, 아파트의 숨겨진 이야기를 발견하며 즐거운 시간을 보냅니다.
3. 감상:
이 에피소드는 1996년의『나 홀로 집에』(원제: 全家だ！)를 추억하는 시청자들에게 큰 호응을 얻었습니다. 특히, 료의 할아버지(원제: 祖父)의 어린 시절 이야기는 감동을 자아냈습니다. 또한, 낡은 아파트의 숨겨진 방을 발견하는 과정은 흥미진진하게 펼쳐졌습니다.
4. 총점:
이 에피소드는 4.5/5점을 받았습니다.
5. 추가 정보:
* 원작 드라마『나 홀로 집에』(원제: 全家だ！)는 1996년부터 2005년까지 10개의 시리즈로 방영되었습니다.
* 넷플릭스에서는 2023년 11월 16일에『나 홀로 집에 10』(원제: 全家だ！10)의 새로운 에피소드를 공개했습니다.
※原文には書かれていない、補足の解説も入れてます
이 레슨의 핵심 주장은 결국 “움직이는 시스템은 항상 동일하며, 변하는 것은 그 경로의 두께일 뿐이다. 그리고 경로의 두께는 출력의 시각적인 모습으로는 드러나지 않는다”라는 것이다.
- 핵심은 바로 예측에 있다. 지금까지 작성된 모든 내용을 바탕으로 다음에 나올 것을 선택하는 것이다. 이는 검색 엔진보다 훨씬 더 고도화된 자동 완성과 유사하며, 기존 정보를 검색하는 것과는 달리, 생성은 즉석에서 조립한다.
- 그러다 보니 “진실성을 보여주는 것”으로만 만족해야 하는 모델에게는, 실제 논문을 가리키는 인용도, 실존하지 않는 인용도 모두 똑같이 잘 맞는 패턴을 제공한다. 형태가 같으면 결과도 같다. 검색 결과는 “0건”으로 반환되지만, 생성에는 “해당 없음”에 해당하는 상태가 없다. 따라서 빈 공간은 빈 채로 남아있지 않고, 그것과 비슷한 무언가가 반드시 채워진다.
- 움직이는 메커니즘은 항상 동일하며, 변하는 것은 길의 두께인데, 어떤 작업이든 생성 과정 자체는 동일하다. 다른 것은 그 작업이 학습 데이터 내에서 얼마나 깊이 파고들었는가이다. 두꺼운 길(능력 영역), 요약, 형식 변환, 일반적인 개념 설명, 익숙한 문체로의 초안. 좁은 길(한계 영역), 새로운 영역, 잘 알려지지 않은 주제, 특정 고유 명사, 숫자, 출처
- 강점과 약점은 동일한 한 가지 특성에서 비롯된 유창한 문장 작성 능력은 다음 토큰 예측 덕분이고, 환각 발생 또한 마찬가지입니다. 어떤 경험을 하게 될지는 작업이 선형적으로 어디에 위치하는지에 따라 결정되며, 둘 중 하나만 제거할 수 없습니다.
- 가장 어려운 점은, 도로의 폭이 출력에 반영되지 않는 것이다. 좁은 길이라도 생성이 멈추지 않는다. 속도, 어조, 문장 표현 방식 모두 변하지 않는다. 자신감 넘치는 어조는 정확성을 나타내는 신호가 되지 않는다. 부드러움과 정확성은 서로 독립적인 변수이다.
- 확인은 구체적인 부분에서 가장 많이 조작되는 것은 이름, 날짜, 통계, 인용, 인용구, URL 등이다. 주장이 정밀할수록 확인에 가치가 있다. 이는 직관과는 반대되는 것이다. 출력을 검증해야 할 초안으로 취급한다. 특히, 문제가 되는 부분이 크거나 자신이 해당 분야에 익숙하지 않을 때 더욱 그렇다.
- 제품 측면의 기능은 모두 이 특성에 대한 대처로서 존재하며, 인용과 출처를 통해 무엇이 뒷받침되고 무엇이 생성되었는지를 추적할 수 있도록 하는 학습된 불확실성을 나타내는 모델 자체에 자신의 불안정성을 표시시키는 제약된 생성과 기술 허구를 섞일 여지를 줄이는 생성기와 검증기의 루프 출력이, 외부 정보원에 의한 검토를 통과하는 것을 보장하는 것 자체가 근본적인 행동이 항상 생성임을 반증한다. 하지만 모델은 연결된 것과 창작된 것을 확실히 구분하지 못하며, 마지막 판단은 인간이 수행한다.
- 4D와의 연결, Discernment(見極め) 출력물이 “특정 형태로 조립된 것”이라고 알 수 없다면 평가할 수 없으며, Delegation(委任)은 “큰 길은 맡기기 쉽고, 좁은 길은 전달 후 확인에 노력을 쏟아야 한다.”
알겠습니다.
안녕하세요. 제 이름은
다음은 부가 설명입니다.
다음은 수업 범위를 초과한 추가 설명입니다. 이후 수업에서 다루는 내용의 예습을 포함합니다.
검색 엔진보다 자동 완성에 더 가까운 현상을 의미하는 것은 무엇일까요?
검색과 생성은 결과물의 제작 방식에 근본적으로 차이가 있습니다.
검색 엔진은 이미 존재하는 문서들의 집합 중에서 주어진 조건에 맞는 것을 찾아 반환한다. 따라서 반환된 결과는 반드시 존재한다. 출처가 있다.
생성형 AI는 학습으로 얻은 패턴을 바탕으로 그 자리에서 조립하며, 출처는 없다. 실제 존재하는 것과 똑같은 형태를 하고 있다면 충분히 “좋은 결과물”이 된다.
결정적인 차이는 “該当なし”를 반환할 수 있는지 여부입니다.
검색 결과가 발견되지 않으면 0건으로 반환됩니다. 생성에는 이에 상응하는 상태가 존재하지 않습니다.
다음으로 나올 토큰의 확률은 완전히 새로운 주제라 할지라도 반드시 계산해낼 수 있다. 그래서 빈칸이 빈칸 그대로 남아 있는 일은 없고, “그럴듯한 무언가”가 채워진다.
이 점이 가장 명확하게 드러나는 데다, 실제 논문을 지칭하는 인용과 존재하지 않는 인용은 문자열 형태가 동일하며, 패턴으로서의 만족도도 같습니다. 따라서 모델은 이 둘을 구별할 수 없습니다.
부록 부록
“자동 완성과 유사한” 것은 능력을 낮게 평가하는 표현이 아니다. 스마트폰의 예측 変換과는 규모와 내부 구조가 완전히 다르다. 공통되는 것은 ‘찾는 것이 아니라 계속을 만드는’이라는 한 가지 점 뿐이다.
길(道)의 비유가 지칭하는 것은
무엇이 길을 견고하게 만드는가
학습 데이터에는 같은 패턴이 수없이 반복적으로 나타나는 것들이 있습니다. 그것이 길을 만듭니다. 요약하고, 형식을 정하고, 일반적인 개념을 설명하는 등의 작업은 무수한 실례가 학습 데이터에 포함되어 있기 때문입니다. 그래서 길이를 넓힐 수 있습니다.
넓은 길과 좁은 길, 그 차이점은 무엇인가요.
- 넓은 길: 다음에는 후보가 좁혀져 어떤 것을 선택하든 타당한 결과가 나올 것이다.
- 좁은 길: 후보가 좁혀지지 않은 채로도, 그럼에도 불구하고 모델은 하나의 대안을 선택하여 쏟아냈다.
여기 중요한 점은 좁은 길이라도 생성이 멈추지 않는다는 점이다. 속도, 말투, 문장 표현 방식 모두 변하지 않는다. 지면이 얇다는 사실은 출력 결과의 시각적인 모습에 전혀 드러나지 않는다.
1회차에서 다룬 “연속체”와 3회차에서 다룬 “확신도 교정”과 완전히 동일한 구조의 이야기이다.
왜 반복적으로 나타나는 길이가 넓어지는 걸까요?
여기는 학습 중에 무슨 일이 벌어지고 있는지 살펴보면 비유의 내용이 구체적으로 드러난다.
모델 내부에는 방대한 양의 숫자 데이터가 담겨 있다. 이를 ‘가중치(weight)’라고 한다. 이 숫자들의 조합이 “지금까지의 문장을 입력하면, 다음에 나올 토큰의 확률이 결정된다”는 함수를 형성한다.
학습 한 번의 분량은 다음과 같습니다.
- 학습 데이터의 일부를 보여주고 다음 토큰을 예측하도록 합니다.
- 실제로 이어지던 토큰들과 비교하여 그 차이를 측정하는
- 그 외측이 줄어들도록, 무게를 약간만 이동하세요.
3의 “조금만”이 핵심이다. 1회당 업데이트량은 매우 조금 설정되어 있으며, 이 설정값을 학습률(learning rate)이라고 부른다. 따라서 1회만 본 패턴은 거의 흔적을 남기지 않는다.
같은 패턴이 반복될 때마다 그 매번 같은 방향으로 중량이 가해져 큰 차이가 발생한다. 이것이 ‘밟고 다니듯이’ 무너지거나 굳어지는 현상의 실체이다.
반면, 한 번만 나타나는 패턴은 다른 수많은 사례로 인한 업데이트에 휩쓸려 희미해지고, 또 다른 방향으로 들어오는 업데이트가 있을 때마다 무시당하고 덮어씌워지는 것이다.
결과적으로 무엇이 달라지는지는 다음 토큰의 확률 분포 형태이다.
- 두꺼운 길: 분포가 뾰족해진다. 뚜렷한 후보가 하나 존재하며, 문맥이 약간 바뀌어도 안정적으로 뾰족하게 유지된다.
- 좁은 길: 분포가 점진적으로 좁혀진다. 후보들이 횡적 순서대로 계속 결정되지 않는다.
좁은 길이라도 모델은 반드시 하나를 선택한다. 완만한 분포에서 선택된 것이 그대로 출력되는 방식이다. 그래서 생성이 멈추는 일도, 말투가 변하는 일도 없다.
형식은 굵게, 내용물은 간결하게
이 관점을 취하면 왜곡이 구체적인 부분에 집중하는 이유를 설명할 수 있다.
좁은 길이라도 형식에 대한 분포는 매우 뚜렷하다. “(2019년)”라는 형식을 쓰기 시작한 시점에서 괄호 안에 4桁의 숫자가 오는 것은 수많은 실례에 의해 완전히 확고해져 있다.
경사진 부분은 그 4자리 숫자의 값에 국한된다. 따라서 형태는 완벽하지만 내용만으로는 틀린 결과가 나타난다.
같은 문장 안에서도 부분마다 길의 굵기가 다름을 의미하는 것이다.
무게의 수는 유한하다.
길이의 차이를 나타내는 또 다른 이유는 용량의 제약 때문입니다.
무게 제한은 사전에 정해져 있기 때문에 학습 데이터를 전체적으로 저장할 수 없습니다. 따라서 반복적으로 나타나는 규칙성이 우선적으로 남고, 한 번만 나타나는 개별적인 사실은 저장되지 않거나, 조각처럼 남아있을 뿐입니다.
압축과 유사하며, 자주 등장하는 항목일수록 적은 용량으로 추출할 수 있도록 정리되는 방식이라는 인상을 준다.
단순한 대응 관계는 존재하지 않는다. 하나의 사실이 다수의 무게에 분산되어 표현되고, 하나의 무게가 다수의 사실과 관련되어 있다.
문체(register)란 무엇인가?
레지스터는 언어학 용어로, 상황에 따라 사용되는 언어의 수준을 의미한다. 영어에서는 formal register / casual register처럼 비교적 일상적으로 사용된다.
일본어로는 자리가 좋지 않은 표현이라는 뜻입니다.
- 문체는 문어체와 구어체의 특징이 보이는 듯합니다.
- 레지스터와 직역하면 의미가 통하지 않는다
실태상으로는 높임말의 수준, 전문 용어의 양, 1인칭 대명사 선택 방식, 문장 마무리 방식 등 여러 요소들의 조합을 의미한다.
왜 이것이 강점으로 언급되는 것일까요?
학습 데이터에는 모든 문체의 예시가 포함되어 있으며, 문체는 표면적인 형식일 뿐 내용의 정확성과는 분리될 수 있습니다. 따라서 다음 토큰 예측이 가장 자신 있는 유형의 작업입니다.
1회차에서 다룬 작동 가능성(지시사항에 따라 모델의 행동을 어느 정도 의도한 방향으로 유도할 수 있는 정도)에 대해 “어조나 출력 형식은 잘 통한다”라고 언급한 이유와 동일하다.
하지만 문체가 완벽하게 정돈되어 있고 내용이 정확하다는 것은 무관하다. 이것이 다음 절의 내용으로 이어진다.
인용(引用)과 출처(出典)에 대한 연결고리
그룬딩은 “접지”를 의미합니다.
ground는 땅을 의미하며, grounding은 땅에 발을 딛게 하는 작용을 나타낸다. 생성된 문을 실제 문서와 연결하는 메커니즘을 의미한다.
대표적인 구현은 다음과 같습니다.
- 질문과 관련된 문서를 검색하여 가져옵니다.
- 그 문서를 컨텍스트 윈도우에 넣습니다.
- 이 문서를 참고하여 답변하십시오.
이 구조를 RAG(Retrieval-Augmented Generation, 검색 확장 생성)라고 부릅니다.
왜 작동하는 걸까
2차에서 다루었던 컨텍스트 윈도우(모델이 한 번에 참조할 수 있는 토큰의 총량에 대한 제한) 내의 내용은 매번 함께 검토됩니다.
학습한 기억에서 떠올려 쓰는 것이 아니라, 눈 앞에 있는 문서を見ながら 쓰는 형태로 바뀌는 것이다. 좁은 길을 그 자리에서 넓게 하는 작업이라고 생각하면 이해하기 쉬울 것이다.
경계선
접지를 해도 捏造가 완전히 사라지는 것은 아니다.
- 가져온 문서에 기록되지 않은 내용을 섞어 놓는 경우가 있을 수 있습니다.
- 인용된 자료가 실제로 존재하고, 인용 내용이 정확하다는 것은 별개의 문제이다.
모델은 실제와 창작된 것을 확실히 구별할 수 없다”고 덧붙이는 것은 이러한 한계를 지칭한다. 링크를 실제로 열어 확인하는 것은 인간의 업무로 남는다.
제약 조건 기반 생성과 기술
제약 조건 기반 생성
생성 시점에 출력 형식을 강제하는 메커니즘을 의미하며, JSON 구조를 준수하도록 하거나, 제한된 선택지 중에서만 선택하도록 하는 등의 방식을 포함합니다.
이 시스템은 간단하며, 다음 토큰을 선택할 때 규칙에 맞지 않는 토큰의 확률을 0으로 만들어 버린다. 따라서 형식 위반 자체가 발생할 수 없게 된다.
왜 허위 사실이 감소하는가
글을 쓸 수 있는 여지가 좁을수록 채워야 할 빈칸이 줄어드는 것이다.
또한, 선택지 안에 “該当 없음”을 마련해 두면, 억지로 무언가를 만들어내야 하는 상황을 피할 수 있다. 앞서 언급한 “생성에는 0건에 해당하지 않는 상태가 없다”는 문제를, 외부에서 제공하여 보완하는 형태로 만들 수 있다.
스킬
절차와 참고 자료를 모아 모델에 전달하고, 즉석에서 방법을 고정하는 시스템입니다. 모델의 기억에 대한 의존도를 줄임으로써, 좁은 길을 선택하는 빈도가 감소합니다.
양측 모두 공통적으로 공유하는 생각은 생성의 자유도를 낮추면 허구의 여지도 줄어든다는 것이다. 다만, 지나치게 낮추면 동시에 할 수 있는 일도 줄어든다.
생성기-검증기 에이전트 루프
생성기가 답을 만들고, 검증기가 다른 기준으로 그것을 점검하여 통과하지 않으면 다시 생성하도록 하는 방식의 구성이다.
검증 방법의 예로는 테스트 실행, 계산 재실행, 링크를 실제로 열어 존재를 확인하고, 형식 유효성 검사 등이 있다.
왜 작동하는 걸까
검증은 생성보다 간단한 경우가 많습니다.
- 큰 소수는 찾기 어렵지만, 소수인지 확인하는 것은 쉽습니다.
- 코드를 작성하는 것은 어렵지만, 테스트를 실행하는 것은 자동화할 수 있습니다.
이 비대칭성을 활용하여 어려운 측의 실패를 쉬운 측에서 포착한다.
중요한 조건
검증기는 외부 정보원에 근거하지 못하면 의미가 퇴색한다.
단순히 같은 모델에게 “이렇게 되면 맞나요?”라고 되묻는 것만으로는 3회에서 다룬 추종(단순히 밀어내기만 하면 이전 발언을 철회하는 경향)이 작용하는 상황이며, 같은 좁은 길을 다시 지나가므로 동일한 실수를 그대로 재생산하기 쉽다.
그것은 바로 이 점 때문이다. 외부 정보원으로부터의 검증을 명확히 하고, 특정 사항을 제한하고 있다는 점이다.
부드러움과 정확성은 독립적인 변수입니다.
독립이란 한 값이 다른 값을 예측할 수 없도록 하는 것을 의미한다.
사람이 쓴 글에서는 이 두 가지는 상관관계를 갖는다.
이해하지 못한 사람이 쓴 글은 대체로 어딘가 어색합니다. 논리가 엉뚱하게 흘러가고, 용어 사용이 불안정하며, 결론이 약합니다.
그래서 우리는 일상적으로 글의 내용에서 글쓴이의 이해도를 추정하고 있습니다. 그리고 이 추정은 인간 간의 관계에서는 대체로 잘 작동합니다.
생성 AI에서는 이 상관관계가 단절될 것이다.
- 유창함은 학습 데이터에 포함된 문체의 패턴에서 비롯됩니다.
- 정확성은 해당 주제에 대한 학습 데이터의 밀도에서 비롯된다.
출처가 분리되어 있어 한쪽이 높다고 해서 다른 쪽이 반드시 보장되는 것은 아니다.
즉, 인간 간의 장기간 사용되어 온 품질 판단 방식이 그대로 통하지 않는다. 3회에서 다룬 ‘확신도 교정’과 동일한 문제를, 문장의 질 측면에서 바라보는 것이다.
왜 허위 사실은 “구체적인 부분”에 집중하는가
원본에서 언급된 것은 이름, 날짜, 통계, 인용, 인용구, URL이다. 그 이유는 3가지이다.
구체적인 요소는 문형으로 빈칸을 요구합니다.
“〜라는 논문(2019년)” 형식을 쓰기 시작할 때마다, 연도의 위치에는 반드시 어떤 숫자가 들어가게 되어 버린다. 빈칸을 그대로 두고 앞으로 나아갈 수 없다.
일반적인 묘사와 구체적인 묘사에서는 길의 폭 차이가 현저하게 다르다.
이 분야에서는 '~가 중요시되는' 내용이 무수히 발견된다. 매우 중요한 문제이다.
한편, 특정 논문의 출판 연도는 세계를 뒤져봐도 몇 군데밖에 나타나지 않는 경우가 있다. 마치 좁고 구불구불한 길과 같다. 심지어 같은 문장 내에서도 부분에 따라 길의 폭이 달라진다.
3. 形式は覚えやすく、中身は覚えにくい
논문의 인용 형식이나 URL 구조는 무수히 봐왔기 때문에 완벽하게 재현할 수 있다. 그래서 진짜와 구별하기 힘든 형태를 가진, 내용이 없는 것들이 나타나게 된다.
결론
지난 1년간의 프로젝트 진행 과정에서 예상치 못한 난관에 부딪히기도 했지만, 팀원들의 끈기와 노력을 통해 괄목할 만한 성과를 이끌어낼 수 있었습니다. 특히 ‘아스트랄’의 ‘별빛 여행’이라는 작품을 통해 얻은 데이터 분석 결과는 기존 시장 예측 모델과 차이를 보이며 새로운 성장 동력을 발굴하는 데 중요한 역할을 했습니다.
이러한 성과를 바탕으로 향후 ‘아스트랄’과의 협력을 더욱 강화하고 ‘별빛 여행’의 성공 요인을 분석하여 다른 작품에도 적용할 수 있는 방안을 모색할 계획입니다. 또한 데이터 분석 역량 강화를 위해 팀원들의 전문 교육을 지원하고 최신 데이터 분석 기술 도입을 적극적으로 검토할 것입니다.
이번 프로젝트를 통해 얻은 경험과 지식은 앞으로 우리 회사의 데이터 기반 의사 결정 능력을 한층 향상시키는 데 기여할 것이라고 확신합니다. 앞으로도 지속적인 혁신과 성장을 통해 데이터 분석 분야의 선두 주자로 자리매김할 수 있도록 최선을 다하겠습니다.
정밀한 주장은 더욱 면밀한 검증을 필요로 하는 것이라는 점은 직관에 반하는 것이다. 일반적으로 구체적인 묘사가 더 신뢰할 수 있다고 여겨지기 때문이다.
생성 AI의 경우, 직감이 역으로 작용한다. 확인은 고유 명사, 숫자, URL부터 시작하는 것이 효율적이다.
4D 프레임워크는 4D 타임스탬프와 4D 데이터베이스라는 두 가지 핵심 기술을 결합한 데이터베이스 관리 시스템입니다.
4D 타임스탬프는 데이터의 생성 시점, 변경 시점, 접근 시점 등 데이터의 모든 활동에 대한 타임스탬프를 기록하는 기술입니다. 이를 통해 데이터 변경 이력을 추적하고, 특정 시점의 데이터를 복원하거나, 데이터 변경 과정을 분석하는 데 활용할 수 있습니다.
4D 데이터베이스는 4D 타임스탬프를 기반으로 구축된 데이터베이스입니다. 4D 타임스탬프를 통해 데이터 변경 이력을 추적하고 관리할 수 있으며, 데이터의 무결성을 보장하고, 데이터 변경 과정을 분석하는 데 활용할 수 있습니다.
4D 프레임워크는 이러한 두 가지 핵심 기술을 결합하여 데이터 변경 이력을 추적하고 관리하며, 데이터의 무결성을 보장하고, 데이터 변경 과정을 분석하는 데 효과적인 솔루션을 제공합니다. 특히 금융, 통신, 제조 등 데이터 변경 이력이 중요한 분야에서 널리 활용되고 있습니다.
4D 프레임워크는 1990년대 후반 일본의 소프트웨어 기업인 4D Systems Inc.에서 개발되었으며, 현재는 4D Systems Inc.의 자회사인 4D Global에서 개발 및 지원하고 있습니다. 4D 프레임워크는 다양한 산업 분야에서 널리 사용되고 있으며, 많은 기업들이 4D 프레임워크를 기반으로 데이터 관리 시스템을 구축하고 있습니다.
본 과정의 자매편인 “AI Fluency Framework and Foundations”에서 다루어지는 프레임워크입니다. 본 레슨의 최종 문단에서는 이름만 등장하므로, 여기서 최소한의 내용을 보충합니다. 세부 사항은 원전을 참고하는 것이 확실하므로, 말미에 주석을 덧붙이겠습니다.
네, 알겠습니다. 4つの D
AI가 무엇을 하는지보다는 인간이 어떤 역할을 하는지를 4가지로 정리한 것이다. 즉, 본 과정(기계 측의 성질)과 대립되는 인간 측의 역량 목록이다.
- 위임(委任)은 무엇을 AI에 맡기고, 무엇을 직접 수행할지를 결정하는 과정이다. 업무를 분해하고, 어떤 부분이 AI의 강점 영역에 적합한지를 파악한다. 본 레슨에서 말하는 것처럼, 넓은 길인지 좁은 길인지 판단하여, 전달할지 여부를 결정하는 것이다.
- 설명(記述)을 남기기로 결정한 것을 어떻게 전달할 것인가. 무엇을 만들어주길 원하는지, 어떤 절차로 진행해 주길 원하는지, 어떤 방식으로 행동해 주길 원하는지(어조, 형식, 역할)를 언어로 표현하는 과정이다. 전달 방식이 바뀌면 결과가 달라지므로, 실무에서 가장 많은 노력을 기울이는 부분이다.
- 판단(見極め) 단계입니다. 돌아온 결과물을 평가하는 과정인데, 결과물 자체의 질뿐만 아니라 진행 과정이 적절했는지, 지시된 행동이 제대로 지켜지고 있는지 등을 종합적으로 고려합니다.
- 성실성(誠実さ)에 대한 책임감을 가지고 사용하는 것. 출처를 확인하고, AI 활용 시 필요한 상황에서 명시하며, 사람에게 영향을 줄 수 있는 상황에서 검증을 소홀히 하지 않는 등 실행상의 측면을 의미한다.
본 레슨이 지칭하는 두 가지
판단력과 위임입니다.
판단(Discernment)과 관련하여 출력이 “특정 형태로 조작된 것”이라고 확신할 수 없다면, 그 평가 가치는 없을 것이다. 검색 결과의 평가를 할 때는 출처의 신뢰성을 확인하는 것으로 충분하다. 하지만 생성물의 평가는 근본적으로 출처가 없는 곳에서 시작된다. 평가의 전제가 달라야 한다는 것이 이 레슨의 핵심 내용이다.
위임과 관련된 중요한 부분은 더 안전한 전달처리가 될 수 있다는 점이다. 좁은 길은 전달 후 확인에 시간과 노력을 들이는 것을 전제로 하여 전달한다는 의미다. 즉, ‘전달할지 안 할지’의 이분법이 아니라 ‘전달한 후 얼마나 면밀히 살펴볼 것인지’까지 포함하는 판단이 필요하다.
나머지 두 개도 본 과정의 내용과 연결되어 있습니다.
- 설명은 1차에서 언급된 조작 가능성에 부합한다. 전달 방식에 따라 행동이 어디까지 변하는지, 어디는 변하지 않는지.
- Diligence는 제3회에서 다룬 궤시(시코판시)에 대한 대처 방안을 제시한다. 반격 방법을 구상하고, 근거를 묻고, 자신의 입장을 먼저 밝히지 않는 등 실행하는 것이다.
注意
이 정리는 본 과정의 범위를 벗어나는 내용입니다. 각 D에는 더 세분화된 분류가 존재한다고 여겨지지만, 상세 내용은 원전의 “AI Fluency Framework and Foundations”에서 확인하는 것이 가장 확실합니다. 여기서는 본 레슨의 최종 문단을 읽기 위한 범위에 한합니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 115청크
원문 보기 | 출처: note.com