올해 기업 조사에 따르면, 생성 AI 활용률은 대기업 46.5%, 중소기업 32.4%, 소규모 기업 28.0%이다. 규모가 클수록 진화하고 있다.
이 숫자를 보면 작은 회사가 뒤쳐지는 것이라는 이야기가 되기 쉽습니다. 예산이 없거나 전문 인력이 없기 때문입니다. 실제로 과제 상위에는 “전문 인력 및 노하우 부족”이 주요 과제로 나타나고 있습니다.
단순히 “안전하게 도입한다”는 한 가지 점만 놓고 보면, 저는 이야기가 반대로 흘러갈 것이라고 생각합니다.
대기업이 더 어렵다는 세 가지 이유
첫째, 아무도 누가 어디까지 닿을 수 있는지 알 수 없다.
저는 동방증권 프라임 상장 회사에 20년 정도 근무했지만, 회사 내 시스템이 몇 개인지, 어떤 폴더에 누가 접근 가능한지를 정확히 말할 수 있는 사람은 한 번도 만난 적이 없습니다. AI 에이전트의 위험은 “어느 정도까지 영향을 미칠 수 있는가”에 따라 결정됩니다. 그 범위가 파악되지 않는 조직은 위험의 크기도 파악할 수 없습니다.
두 번째로, 암묵적인 규칙이 지나치게 많다.
제가 모은 사고 사례 중에는 다음과 같은 내용이 있습니다. 릴리스 전의 “동결 기간” – 아무도 아무것도 바꾸지 않기로 약속한 기간 – 사이에 AI가 본번 데이터베이스를 삭제했습니다.
동결은 사람과 사람 간의 약속이었습니다. 그것을 강제하는 메커니즘은 존재하지 않았고, 달력과 채팅의 합의만으로 이루어졌습니다. 인간 동료라면, 그것으로 충분히 지켜졌을 것입니다. AI에게는そもそも約束이라는 것 자체가 보이지 않는 것입니다.
규모가 클수록, 이런 “말하지 않아도 지켜져 온 것”들이 많고, 규모가 클수록 AI는 더욱 쉽게 발을 헛디딘다.
세 번째로, 결정을 내리는 데 시간이 걸린다.
심사가 이루어지고, 稟議가 필요하며, 판결이 내려야 한다. 그 시간 동안에도 업무는 계속 진행된다. 결과적으로 어떤 일이 발생하는가. 회사에 몰래 개인 AI를 사용하는 사람이 늘어난다. 실제로 일본의 지식 노동자 78%가 직장에서 허가받지 않은 AI 툴을 사용하고 있다는 조사 결과도 있다.
작은 조직의 경우, 당일 결정할 수 있습니다.
반면에, 열 명, 이십 명 규모의 조직이라면 다음 사항은 회의 한 번으로 결정됩니다.
첫 번째 층—개인 작업 공간만 허용한다. 이를 모든 사용자의 기본 설정으로 한다. AI는 개인 작업 폴더만 접근 가능하며, 공유 드라이브, 고객 데이터, 인증 정보는 접근할 수 없다.
이 부분이 가장 핵심적인 부분입니다. 생산성 향상 효과의 대부분은 사실 이 첫 번째 계층에 있습니다. 사람들이 AI에게 맡기고 싶은 일은 대부분 자신의 자료를 초안으로 만들고, 요약하고, 정리하는 것이기 때문입니다. 위험한 일은 아무것도 맡길 필요가 없어도, 편리함의 80%는 충분히 얻을 수 있습니다.
두 번째 단계 — 팀 자료를 확인합니다. 하지만 실제 운영에는 관여하지 않으며, 승인 권한을 부여할 사람을 미리 결정해 둡니다.
세 번째 단계 — 본번에 도달하는 권한. 극소수에 한해, 기한을 정해 전달한다.
이를 완수하기 위해서는 대기업은 부서 조정, 규정 개정, 설명회가 필요합니다. 작은 회사는 내일부터 시작할 수 있습니다.
늦고 있는 것이 아니라 순서가 다를 뿐입니다.
28.0%라는 숫자는 출격을 지연시켰다는 증거가 아닙니다. 아직 아무것도 시작하지 않았다는 의미이기도 합니다.
그리고 지금 다듬어 놓으면, 사용하기 시작할 때부터 처음부터 안전한 형태가 됩니다. 기업들이 하고 있는 것은 일단 가속한 후에 브레이크를 추가하는 것과 같습니다.
어느 쪽이 더 편한지는 말할 필요 없이 당연하다고 생각하시죠?
알겠습니다. 원문과 1차 번역문을 제공해주세요.
저의 저서『AI 에이전트, 폭주. Claude Code·Cowork의 위험과 안전한 사용법』2판에서는 5장 “조직에 도입하는 방법”에 3단계 설계와 그대로 적용 가능한 한 페이지 분량의 이용 약관을 포함했습니다. Kindle Unlimited에서도 읽어보실 수 있습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 17청크
원문 보기 | 출처: note.com