目次
- AI에게 무엇을 막도록 해야 할지에 대한 논의는 계속되고 있습니다. 특히, AI가 인간의 직업을 대체하는 문제와 관련된 윤리적 고민이 깊어지고 있습니다. 최근에는 AI가 창작 활동에 참여하는 것에 대한 논쟁도 뜨겁습니다. AI가 인간 작가의 창작물을 모방하거나, 새로운 스타일을 창조하는 것이 과연 ‘창작’이라고 할 수 있는지에 대한 질문은 앞으로도 계속될 것으로 보입니다. 이러한 문제들을 해결하기 위해, AI 개발자들은 AI의 ‘설명 가능성’을 높이는 연구를 진행하고 있습니다. 즉, AI가 어떤 근거로 판단하고 결정을 내렸는지, 그 과정을 투명하게 보여주는 것이죠. 이를 통해 AI의 오류를 줄이고, AI의 판단에 대한 신뢰도를 높일 수 있을 것입니다. 하지만, ‘설명 가능성’만으로는 AI의 윤리적 문제를 완전히 해결할 수 없다는 주장도 있습니다. AI의 판단 기준 자체가 인간의 가치관과 다를 수 있기 때문입니다. 따라서, AI 개발 과정에서 다양한 관점을 반영하고, 사회적 합의를 통해 AI의 윤리적 기준을 정립하는 것이 중요합니다. 특히, AI가 생성한 콘텐츠의 저작권 문제도 중요한 쟁점입니다. AI가 창작한 작품의 저작권을 누구에게 주어야 하는지에 대한 명확한 기준이 아직 정립되지 않았기 때문입니다. 이러한 복잡한 문제들을 해결하기 위해, 정부와 학계는 AI 윤리 관련 연구를 활발히 진행하고 있으며, AI 규제 방안 마련에도 힘쓰고 있습니다. 앞으로 AI가 사회에 미치는 영향이 더욱 커짐에 따라, AI 윤리 문제는 더욱 중요해질 것입니다.
- 세 가지 조건을 한 명의 업무에 어떻게 적용할 것인지
- 입고 담당의 정의에 명시된 기준선
- 하지는 물론, 반드시 목적지가 있다.
- 설계도: 1개의 업무에 사용되는 “중단” 조치
- 단계별로 적용
- 그는 화가 나서 그녀에게 ‘제발 그만해’라고 말했다.
그녀는 울기를 멈추도록 격려했다.
그는 그 계획을 취소하는 데 그쳤다.
- 설정에서 중단하면, 그것으로 충분한가요.
- 설정의 3단계와 3가지 조건은 별도의 설계입니다.
- 설정에는 도달 불가능한 영역이 있습니다.
AI 직원에게 일을 맡겨 시작할 때, 어딘가에서 두려움을 느끼는 순간이 없으신가요?
제가 괜히 털어놓는 게 곤란할까 봐요. 지워진다면 곤란할 거예요. 그래서 “이 것도 확인해 봐요” “저 것도 물어봐요” 하면서 멈춰 서는 장소를 늘려갔어요.
자, 제 책상 위에 확인을 기다리는 서류가 산처럼 쌓여 있습니다. 혹시 이거 찾으시는 거 있으세요?
이번에 가져가도록 하는 것은 AI를 멈추게 하는 조건을 3가지로 좁히는 판단 기준과, 그것을 1개의 담당 업무에 귀납시키는 유형입니다. 또한, 실제로 움직이는 AI 직원에게 인기를 끌어왔던 선이 어떻게 쓰여져 있었는지도 요점의 대로 살펴보겠습니다.
먼저 말씀드리는 부분은 이것이 “AI는 위험해서 막아야 해”라는 내용의 글이 아니라는 점입니다. 오히려, 막는 횟수를 줄이기 위한 설계에 대한 이야기입니다.
이번에도 화면에 대한 이야기는 하지 않습니다. 제가 조사해 온 운영 로그의 거기에 적혀 있는 내용만 살펴보겠습니다.
먼저, 정답을 미리 말하면 상대방에게 판단을 드리는 것이 아니므로 “후戻리가 불가능하다”, “돈이 움직이고”, “본인만이 답을 알 수 있다”는 세 가지 경우뿐입니다. 그 외의 모든 것은 AI가 판단하고 실행하며, 되돌리는 방법을 1줄로 덧붙여 보고서로 제출하는 방식입니다. 기록으로 남아있었던 상황 설정은 이 정도였습니다.
AI에게 어떤 것을 막도록 해야 할지에 대해.
조사한 운영 로그에는 사람의 판단을 기다리는 것들만 들어있는 저장 공간이 있었습니다. 판단 대기 폴더입니다.
그 장소의 설명에는 이렇게 쓰여 있었습니다. 이곳은 사람들의 작업 대기 줄이며, 한 건이 늘어날 때마다 한 사람이 한 번 멈춘다.
AI 직원 수를 늘린 이유는 사람의 판단을 줄이기 위한 것이었을 것입니다. 멈춰야 할 곳을 계속 늘리는 방식은 그 목적에서 점점 더 멀어지는 결과를 초래합니다.
그러면 무엇을 중단해야 하는가. 기록의 답은 단 3가지뿐이었다.
사람에게 판단을 구해야 하는 3가지 조건—후회할 수 없는: 공개, 출품, 공지, 외부 전송, 삭제, 이름 확정—그리고 돈이 움직이는 것: 유료 도구 도입, 외주, 과금—본인에게만 답변 가능한 것: 취향, 작품 방향성, 무엇을 먼저 할지 우선순위
그리고 이 세 가지 항목 중 어느 하나에도 해당하지 않는다면, 멈추지 않고 스스로 결정하고 실행하고 보고한다.
여기 중요한 것은 보고서의 내용입니다. 기록상, 보고서에 “복구 방법”을 1행 추가하기로 결정했으며, “이 변경은 이전 상태로 되돌리면 원래대로 돌아갑니다”와 같이 설명했습니다.
돌려놓을 수 있다고 알 수 있다면 사람은 그저 읽는 것만으로 충분합니다. 다시 수정하고 싶을 때는 그 한 줄을 보면서 되돌리면 됩니다.
제가 가장 놀라웠던 건, 다음 두 가지 이유가 ‘중단 이유가 될 수 없다’고 명확하게 명시되어 있었다는 점입니다.
멈춰야 할 이유가 아닌 것 - 자신감이 부족할 때: 어떤 제안이 더 나은지 망설여진다면, 되돌릴 수 있다면 더 선호하는 제안을 실행해도 괜찮다. 건수가 많을 때: 7건이든 70건이든, 한 건이라도 조건에 맞지 않으면 모두 맞지 않는다.
자신감이 없고, “오직 본인만이 답할 수 있다”는 것은 서로 다른 개념이라고 읽었습니다. 취향이나 우선순위는 본인에게 직접 물어봐야 결정되는 것이며, 어떤 것이 더 옳다고 판단될지는 다시 시도해보고 확인해 볼 수 있다면 한 번 테스트해 볼 수 있습니다.
또 다른 한 장면이 쓰여 있었습니다. 이미 정해진 규정에 반하는 부분을 발견했을 때입니다. 규정은 사람이 정한 것이므로, 그것에 맞춰 바로잡는 데 새로운 판단은 필요하지 않습니다.
수정하고 보고하겠습니다. 중단하는 것은 수정 방법 자체가 3가지 조건에 부합할 때만 허용되었습니다.
길을 잃었다면 세 가지 기준에 맞춰보세요. 일치하지 않으면 계속 진행하지 마십시오. 판단 기준이 이것으로 끝입니다.
단지 이 세 가지를 결정했다는 것만으로는 여전히 부족했습니다. 중단 조건이 아무리 정확하더라도 대체 공간이 무너지면 시스템 전체가 멈추게 됩니다.
운영자의 시점(運用者の視点)에서 판단 대기 중인 묵묘장(묵묘場)은 내부 파일이 있다면 사람이 멈춰 서 있는 모습, 비어 있다면 업무가 멈추지 않고 진행되는 모습을 한눈에 파악할 수 있도록 만들어졌습니다. 그러나 판단이 내려진 항목에 처리 완료 표시를 덧붙여 놓거나, 작업이 완료될 때까지 묵묘장에 그대로 두면 해결된 파일이 쌓이게 됩니다. 그 결과, 건수만 보더라도 상황을 파악할 수 없고, 내부를 1건씩 열어 읽지 않으면 정말로 멈춰 있는 것이 사라지는 일이 발생했습니다. 이는 기록을 ‘사고’라고 부르며, 내부를 열지 않으면 판단할 수 없게 되는 시점에서 해당 시스템은 기능을 상실한다는 내용입니다. 이후 멈추지 않은 것을 판단 대기 묵묘장에 두지 않고, 판단이 내려졌을 때 즉시 완료 묵묘장으로 옮기는 규칙이 생겨났습니다.
이후 유료 부분에서는 3가지 조건을 1인의 담당자에게 적용한 “멈추다” 조문을 복사하여 내용을 작성할 수 있도록 제공하며, 판단을 기다리는 대체 장소에 대한 점검 메모도 함께 첨부합니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 27청크
원문 보기 | 출처: note.com