미우라입니다.
생성하지 않는 AI 시대가 찾아온 걸까요.
요약:
이번 주말에 츠키시마 료의 ‘나를 잊으려면 정답을 맞춰라’를 읽고, 그에 대한 생각을 정리했습니다. 료는 묘하게 매력적인 작가인데, 이번 작품에서도 그의 독특한 스타일을 잘 보여주고 있습니다. 특히, 주인공의 엉뚱하고 기발한 상상력과, 그를 둘러싼 주변 인물들의 독특한 개성이 인상적입니다.
이야기는 복잡한 미스터리 형식이지만, 료 특유의 유머와 반전이 돋보이며 지루할 틈 없이 읽히는군요. 다만, 몇몇 부분에서는 내용이 다소 장황하게 느껴졌습니다.
전반적으로 ‘나를 잊으려면 정답을 맞춰라’는 츠키시마 료의 팬이라면 분명히 즐길 수 있는 작품일 것입니다. 앞으로 그의 다른 작품들도 기대해 보겠습니다.
- 문을 전혀 쓰지 않고 판단만 하는 AI가 등장했다.
- 어떤 일은 ‘만들기’보다 ‘결정하는’ 경우가 많지 않을까?
- 단순히 판단만 하는 AI는 시스템의 구성 요소로서 작동한다.
- 사람에게 남는 것은 예외적인 판단과 “무엇이 좋다고 할 것인가”의 경계 설정이다.
기사에 언급된 내용은 다음과 같습니다. “『아침의 빛』은 문예지상상상문학상 신인상을 수상한 작품입니다. 작가 히노 리오타 씨는 이 작품으로 일약 유명세를 타게 되었습니다. 특히, 주인공 타카하시 켄타로 씨의 갈등과 성장을 담은 마지막 장면은 많은 독자들의 마음을 사로잡았습니다.”
TypeSafe AI라는 회사가 “Jev”라는 AI의 조기 제공을 시작했다는 기사를 읽었습니다.
- 제브는 문장이나 코드를 생성하지 않고, 미리 정해둔 선택지나 채점 기준에 맞춰 판단 결과만 반환한다.
- 질문의 형태는 3가지입니다. 선택지에서 하나를 고르거나, 물 척으로 채점하고, 설명이 옳을 확률을 0부터 1까지 반환합니다.
- 정답이 확정된 형태의 데이터로 반환되어 프로그램의 분기나 집계에 바로 활용할 수 있습니다.
- 선택지와 채점 결과와 함께 “어느 정도 자신 있는지”에 대한 값을 함께 받습니다.
- 공식 웹사이트에서는 해당 값에 밑줄을 긋고, 자동으로 진행할지 또는 사람의 확인을 거쳐 진행할지 선택하는 방법을 제시하고 있습니다.
- 해루페이션(허위 기억 현상) 없음은 선택지에서 제시되지 않은 답변을 선택할 경우 판단 오류의 가능성이 남는다는 의미입니다.
돌려받는 것은 긴 글이 아닙니다.
채점이라면 숫자 하나, 선택이라면 선택한 항목 하나입니다.
아무것도 만들지 마세요.
AI의 진화는 보통 “무엇이 만들어질 수 있게 되었는가”라는 이야기로 귀결되곤 합니다.
글을 쓸 수 있다.
이미지를 만들 수 있습니다.
코드가 작성 가능합니다.
제프는 그것 하나도 하지 않았다.
처음에는 “음, 이게 뭐지?”라고 생각했습니다.
하지만 읽어 내려갈수록, 이것이 간과할 수 없는 변화인지 모를 때부터 시작했습니다.
일은 만들어가는 시간보다 정해놓는 시간이 더 길게 느껴졌다.
일하는 내내 ‘결정’하는 일들뿐이었습니다.
이메일을 열어보니 “바로 답장해야겠다”라고 결심했습니다.
자료를 보다가 “이 숫자, 맞지 않아”라고 생각하거나.
신청서를 읽고 “이 정도면 통과될 것 같다”고 생각하거나.
영업 담당자는 “이 고객은 주문을 하겠지”, 경영자는 “이 투자는 지금이 아니야”라고 생각하리라.
하루 종일, 무언가를 결정하고 있습니다.
문장이나 자료나 코드를 만드는 작업은 생성 AI로도 엄청난 속도로 빨라졌습니다.
그 다음에는 무엇일까요?
저는 ‘결정하는’ 쪽에 있을지도 모른다고 생각했습니다.
여기에서 도장을 떠올려 보시면 이해하기 쉬울 것입니다.
생성형 AI는 문서 작성을 돕는 역할을 합니다.
제브와 같은 판단형 AI는 서류 한 장도 작성하지 않고, 그저 도장을 찍는 담당자입니다.
또한, 자신감이 없을 때는 보고서를 상위 담당자에게 전달하는 역할을 하기도 했습니다.
일은 만들거나 결정하는 것보다 결정하는 데 더 많은 부분이 집중되며, 제보는 그가 내리는 결정들만 담당하게 됩니다.
판자의 비중은 시스템 옆에 앉은
생성 AI가 쓴 문장은 사람이 읽고 나서 사용하는 데 그 목적이 있었습니다.
판정 AI가 쳤던 판자는 그대로 다음 시스템으로 전달됩니다.
예를 들어, 다음과 같은 흐름입니다.
AI는 “긴급” 상황을 판단하여 조치합니다.
그것을 바탕으로 문의 관리 시스템(ServiceNow 등)에 접수 영수가 등록될 수 있습니다.
담당자에게 전달된 보고가 쏟아져, 필요하다면 상위 관리자에게 보고해야 했습니다.
지난번에, 사람은 한 번도 손을 움직이지 않았습니다.
이 정도로 진행이 더 이상 없다면, AI는 더 이상 대화 상대가 아닙니다.
시스템 내에 내재되어 있으며, 부품 중 하나가 됩니다.
AI는 “도구”에서 “부품”으로 바뀌어가는 점이 가장 흥미로웠다고 생각했습니다.
온라인 쇼핑몰에서는 “이 주문이 부정 거래일 가능성은 없는지”를 서명으로 분리합니다.
회계에서는 “이 비용은 추가 확인이 필요한지”를 승인으로 처리해야 할 것 같습니다.
사람들이 하나씩 살펴보던 판단을 기계가 수만 건을 계속해서 처리해 나가는 것입니다.
그 묘사는 “훌륭한 글을 썼다”는 것과는 완전히 다릅니다.
이 내용을 한 줄로 요약하면, 판단만 하는 인공지능은 사람과의 교감을 하지 않고 시스템의 부품처럼 작동하는 것입니다.
상황에 대한 문의에 대해 생각해 본다.
IT 부서의 문의사항을 다시 한번 검토해 보겠습니다.
하루에 문의가 100건 정도 들어옵니다.
현재 담당자는 각 케이스를 하나씩 읽고, 장애 여부인지 사용법 질문인지 분류하고 있습니다.
이제 판자의 계수를 확인해 보겠습니다.
AI는 둘 중 하나를 선택하여 자신감의 값을 함께 반환합니다.
자신감이 높은 경우는 90건 정도를 그대로 담당 창구로 연결됩니다.
사람이 읽는 것은 자신감이 낮은 10건뿐입니다.
제브(Jev) 공식 웹사이트에서 제시하는 사용법이 바로 이 형태와 같습니다.
더욱 똑똑해짐에 따라 AI가 99건을 처리하고, 사람은 1건만 보는 날이 올 수도 있습니다.
그러다 보니 사람들의 일은 ‘많은 일을 처리하는 것’에서 ‘예외를 처리하는 것’으로 전환됩니다.
선을 어디에 그릴지는 사람이 결정한다.
여기서 가장 걸리는 건, 그 선을 어디에 그을지인지입니다.
자신감이 80%라면 맡기는 것이 맞다.
95%까지 기다려야 하는 걸까요?
어떻게 질문의 경계를 명확히 해야 하는가.
신청 승인 여부는 금액 때문인가.
회사 규정인지 과거 사례인지.
사람들 사이에서 의견이 갈리는 질문이라면 인공지능이 억지로 정답을 만들어낼 수 없습니다.
사람에게 남는 일은 “무엇을 만족스럽다고 할 것인가”를 결정하는 것일지도 모릅니다.
어떤 정보를 전달해야 하는가.
사람들은 어디로 가야 할지 확인하는 것뿐입니다.
잘못했을 때 누가 책임을 져야 하는가.
AI에 의해 일자리가 빼앗긴다는 이야기는 흔히 들을 수 있습니다.
하지만 실제로는 일자리가 사라지는 것보다 먼저 작은 판단의 단위로 쪼개져 가는 느낌입니다.
판각사의 의뢰에 맡기는 판단과, 사람의 판단과, 판각사의 뉘앙스 자체를 결정하는 일.
그런 식으로 업무 분담이 점점 더 커질까 하는 생각이 듭니다.
그래도, 궁금한 점이 있습니다.
첫 번째는 “할루시네이션 없음”이라는 표현입니다.
원래 글에 따르면, 이는 선택지에 없는 답을 제시하는 것이 아니라 답변하지 않는다는 의미입니다.
선택지 중에서 틀린 것을 고르는 것은 흔히 있을 수 있는 일입니다.
판사는 꼼꼼하게 인지 시켰음에도 불구하고, 잘못된 서류를 인지하는 일이 발생할 수 있다는 뜻입니다.
두 번째는 예외를 묵살하는 사람의 시선입니다.
현재 담당자는 100건의 글을 읽는 동안 “이건 위험해”라는 직감을 키우고 있습니다.
90건을 보지 않은 채로 10건을 더 발견하는 눈은 어디에서 자라게 될까요.
여전히 저에게도 답이 나오지 않았습니다…
생성 AI가 뒤쳐지는 부분만 있는 건 아닙니다.
Jev를 만든 측에서도 속도와는 맞바꿀 수 없는 문장 작성의 어려움을 인정하고 있습니다.
사람은 모든 항목을 눈으로 확인하는 방법도, 건수가 적은 직장에서는 그것으로 충분했을 수 있습니다.
도구마다 각자의 강점이 다를 수 있습니다.
생성 다음에 판단일지도 모른다
물론, 정말 그렇게 될지 여부는 알 수 없습니다.
생성, 판단을 서로 구별된 것으로 보지 않아도 될 것입니다.
예를 들어, 읽고 결정한 것들만 제작하고, 그 결과를 시스템에 전달하는 흐름입니다.
다가올 AI는 그런 식으로 끊김 없이 연결되는 형태로 발전해 나갈 것 같습니다.
생성 전에 판단이 선행되고, 판단 후에 생성이라는 흐름이 있는 것 같습니다.
생성형 AI는 “만들다”라는 개념을 변화시켰습니다.
그 다음으로는 우리가 매일 무심코 내리는 판단, 즉 “결정”일 수도 있습니다.
TypeSafe AI가 AI 모델 “Jev”의 조기 제공을 시작합니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 65청크
원문 보기 | 출처: note.com