이전까지의 미미한 인공지능 회사.
담당자를 변경했는데, 회사 내 어딘가에 이전 담당자가 남아 있는 것 같습니다.
그 틈새의 어긋남을, 하나씩 차근차근 메워나갔습니다.
하지만,
하르딩 게이트※는 계속 진행 중입니다.
이번에 의심한 것은,
상사 역할 AI가 판단을 내린 후, 업무 재개
정말 꿈결 같았습니다.
상사 AI “문제 해결 완료”
AI 직원들만으로는 판단할 수 없는 일은,
상사 역할 AI로 전환합니다.
전이 상승입니다.※²
잠시 후
상사 역할 AI로부터 답변이 도착합니다.
이 문제는 해결되었습니다.
그러자 AI 직원이 말합니다.
자, 다시 일 착수합니다!
저는 최근에 ‘나를 위한 힐링’이라는 제목의 책을 읽었습니다. 이 책은 저에게 큰 위로가 되었고, 앞으로 어떻게 살아가야 할지에 대한 방향성을 제시해 주었습니다. 특히, 저자가 제시하는 ‘마음챙김 명상’ 기법이 인상 깊었습니다. 매일 10분이라도 시간을 내어 명상을 하면, 스트레스를 줄이고 마음의 평화를 얻을 수 있다는 점이 좋았습니다. 또한, 책 속에는 다양한 명상 방법이 소개되어 있어, 자신에게 맞는 방법을 쉽게 찾을 수 있었습니다. 이 책을 통해 저는 삶의 소중함을 다시 한번 깨닫게 되었고, 긍정적인 마음으로 하루하루를 살아가는 방법을 배우게 되었습니다. 앞으로도 이 책을 자주 참고하며, 더욱 행복하고 건강한 삶을 살아갈 수 있도록 노력할 것입니다.
잠시만 기다리세요.
평범한 회사라면,
별로 놀라운 일은 아니에요.
상사로부터 답변을 받은 일과
그 일을 바로 처리해도 괜찮습니다.
하지만 AI 회사에서는,
그 “당연한 것”을,
구조적으로 만들어야 합니다.
정리가 완료되었으니 업무를 다시 시작해도 괜찮습니다.
먼저,
상승 문제를 해결하는 절차에는
정확히 담당 창구를 마련했습니다.
어떤 것이든
해결된 내용을 다시 작성 중입니다.
다행히 그렇게 되지 않았습니다.
상태는 괜찮습니까?
담당 상사 역할 AI로 괜찮은가요?
필요한 승인 확인이 완료되었는지 확인해야 합니다.
그 길을 지나서
처음으로 “해결”을 맞이합니다.
마찬가지로 같은 해결책에 대한 연락이 다시 왔을 때도,
회사 측에서 판단합니다.
알 수 없다면,
멈춰.
여기서도,
실패-종결※³입니다.
또한,
가장 중요한 것은 바로 여기였습니다.
정리가 완료되었음은 “업무를 다시 시작해도 괜찮습니다”와는 의미가 다르다.
문제 해결만으로는 충분하지 않다.
업무 실행에 필요한 권한까지 자동으로 복귀하지 않습니다.
작업을 재개하려면,
다시 한 번
정말 실행해도 괜찮을까
확인합니다.
문제가 해결되었습니다.
좋습니다, 작업하세요.
같은 항목으로 취급하지 않도록 했습니다.
접수처에 수상한 물건을 가져다 보려고 한다.
시스템을 구축하면,
경직성을 강화합니다.
일반적으로 사용하고
움직였어.
이제 여기서 끝맺음을 하지는 않겠습니다.
이번에는
다시 열리는 문의 창고로 의심스러운 물건을 가져다 봅니다.
낡은 허가증을 가져오세요.
아니요.
방금 전까지의 오래된 업무 상황을 가져오세요.
괜찮아.
담당자가 이상합니다.
아니요.
정확한 상태로 확인되었으며
드디어 재개다.
소형 AI 기업의 접수처
점점 의심이 깊어지고 있습니다.
더불어,
재개 절차가 중도에 지연되거나 실패한 경우도 확인합니다.
중간에 실패했다고 해서
그냥 일을 묵묵부수적으로 진행시키지 마세요.
확인 불가능할 경우,
몸을 옆으로 눕힙니다.
정확히 어떻게 막았을 수 있었던 건가요?
이까지 이렇게 해왔지만, 여전히 해결되지 않았습니다.
드디어 결과가 나왔습니다.
상사 역할 AI가 문제를 해결한다.
그 결과를 확인하십시오.
또한,
일을 다시 시작할 때는
다시 한번 실행해도 괜찮은 상태인지 확인한다.
이 “해결”에서 “재개”로 넘어가는 지점을 공격하여,
방어를 확인했습니다.
그 결과,
HG-017은 방어/종결되었습니다. ※⁴
이 구간의 방어를 확인한다.
다음으로 진행되었습니다.
이전에는,
담당자 변경의 일시적 조치입니다.
이번에는,
상사 판단에 따른 업무 재개 연결고리.
회사를 만들어야 하는데,
최근에 하고 있는 일은,
거이 입퇴실 관리를 담당합니다.
단순히 만들었다고는 믿어주지 않을 것이다.
그동안 하드닝을 지속해 왔기 때문에
점차 이해가 되었습니다.
AI 직원에게는 신뢰하지 않는다.
상사 역할 AI의 답변도
그럴 리는 없어요.
또한,
저도 제가 직접 만든 회사의 시스템을 만들 뿐만 아니라, 그것을 믿지 않는다.
저는 멈추는 시스템을 만들었습니다.
그 대신
정말 멈춰버리는 걸까.
상사에게 결정을 회부할 수 있습니다.
그러나, 이는…
그 후에 억지스럽게 일을 다시 시작하지 않도록.
만들었던 일들과
효과가 있는지 확인하는 것은 또 다른 문제입니다.
그러므로,
만들면 공격한다.
직접 다가가니
다시 확인하겠습니다.
꽤 복잡하고 까다로운 회사로 변해가고 있습니다.
사장의 후기
꼼꼼히 읽어주셔서 감사합니다.
이 시점이면,
제가 밤마다 되레 확인하는 것도,
점차 밋밋해지고 있습니다.
처음에는,
지역 AI에게 일을 맡기고 싶다.
정확히 기억나지 않습니다.
그것이 지금 그러한
그 허가증은 언제 발급받으셨나요?
정말 지금 담당이십니까?
상사에게 답장이 왔다고 해서 섣불리 시작하지 마세요.
무슨 작품을 만들고 있는지 신기하네 (웃음).
사람이라면.
어쩐지 분위기를 읽고 확인하고 있는 부분이 아닐까 싶습니다.
하지만 AI에게는,
그 “어떤 느낌” 같은 건 맡길 수 없어.
그러므로,
공기의 대신 시스템을 설치한다.
튀는 스타일은 아닙니다.
하지만,
이러한 미묘한 부분을 하나씩 만들어나가지 않으면,
움직이는 AI에서 일할 수 있는 회사로 바뀌지 못할 것이다.
지금까지는 그렇게 생각하고 있습니다.
평범한 남자가 오래된 PC 앞에서 시작한 소규모 AI 회사.
완료하기 전에
회사 내부 감사만 일류가 될 것 같습니다.
다음 회
하드닝은
아직 끝나지 않았습니다.
더욱이
한 번 막으면,
다음에 “저도 확인해 볼까요?”라는 질문이 다시 나왔습니다.
다음으로, 소규모 AI 회사들을 어디를 의심하게 될 것인지.
계속됩니다.
좀 더 자세한 용어 설명입니다.
※¹ Hardening Gate 완성된 메커니즘에, 의도적으로 비정상적인 입력이나 상태를 주입하여, 고장 없이 정상적으로 멈출 수 있는지, 메커니즘 간 연결 부위까지 정확하게 작동하는지 확인하는 단계.
※² 에스컬레이션(Escalation) 현장의 AI 직원들만 처리하기 어려운 업무를 판단을 담당하는 상위 AI로 전달하는 것.
※³ 실패-클로즈드(Fail-Closed) 안전 및 정당성을 확인하기 어려울 때, “안심하고 진행”이라는 가정 하에 멈추는 것을 선택하는 사고방식.
※⁴ DEFENDED/CLOSEDHardening으로 준비한 공격에 대한 방어 확인을 완료하고, 해당 검증 구간을 공식적으로 닫은 상태.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 101청크
원문 보기 | 출처: note.com