"AI 에 업무를 맡기다"라고 할 때, 우리는 사실 상당히 모호한 이야기를 하고 있습니다.
AI 를 활용해 메일을 요약하는 것도 방법입니다.
시장 데이터를 분석하는 것도 AI 활용입니다.
그 회사에 영업해야 한다고 추천받기도 하는 것도 AI 활용입니다.
원래 그대로 상대방에게 이메일을 보내고 상담을 잡는 단계까지 수행하는 것도 AI 활용입니다.
하지만 이 네 가지는 완전히 동일하지 않습니다.
- 정보를 수집하는 것입니다.
- 정보를 해석하다.
- 판단하다.
- 실제로 행동하십시오.
사람들이 지금까지 해온 업무 중, 기계에 어떤 부분을 맡겨야 하는가.
그 기계에 어떤 수준의 권한을 부여할 것인가.
생성 AI, AI 에이전트, 자율주행, 로봇공학이 급격히 발전한 지금, 이 질문은 더욱 중요해졌습니다.
그러나 이 문제를 상당히 명확하게 정리한 논문은 이미 2000 년에 발표된 바 있습니다.
라자 파라수라만, 토머스 B. 시리던, 크리스토퍼 D. 위켄스 저,
자동화와 인간 상호작용의 유형과 수준에 대한 모델
입니다.
IEEE Transactions on Systems, Man, and Cybernetics 에 게재된 논문에서 저자들은,
자동화를 단순히 '할 것/하지 않을 것'의 이분법으로 보지 말고,
자동화 대상 (유형)
와
자동화 수준 (어디까지 자동화할 것인가)
이 두 가지 축을 기준으로 고려했습니다.
26 년 후 현재로 되돌아보면, 이는 마치 AI 에이전트 시대를 위한 설계도처럼 보입니다.
목차
- 자동화 대상 (유형)
- 와
- 자동화 수준 (어디까지 자동화할 것인가)
- 인간의 일은 네 가지로 분해할 수 있습니다.
- 1. 정보 수집
- 2. 정보 분석
- 3. 의사결정과 행동 선택
- 4. 실행
- '생각하는 AI'에서 '움직이는 AI'로.
- 검색 → 분석 → 결정 → 행동
인간의 일은 네 가지로 나눌 수 있습니다.
이 논문의 기본 모델은 놀라울 정도로 단순합니다.
저자들은 저자가 인간이 무엇을 인지하고 판단하며 행동할 때의 과정을 크게 네 단계로 정리했습니다.
1. 정보 수집
먼저, 세계로부터 정보를 수집합니다.
- 센서로 정보를 수집합니다.
- 뉴스 검색.
- 고객 데이터를 수집합니다.
- 대량의 메일에서 필요한 내용을 추출합니다.
현재 AI 기준으로 검색, 크롤링, 센싱, RAG, 데이터 수집 등에 해당합니다.
2. 정보 분석
다음으로, 수집한 정보를 의미 있는 형태로 정리합니다.
- 분류하겠습니다.
- 비교해 보겠습니다.
- 통합하다.
- 이상점을 찾아냅니다.
- 패턴을 발견한다.
- 미래를 예측하다.
생성 AI 가 급속도로 확산되고 있는 분야는 바로 이 영역일 것입니다.
- 100 페이지의 리포트를 읽어주어 요약해 달라.
- 다양한 시장 데이터를 통해 변화의 징후를 포착합니다.
- 기업의 결산 정보를 비교합니다.
이러한 업무는 정보 분석에 해당합니다.
3. 의사결정과 행동 선택
이제부터는 의미가 달라집니다.
정보를 분석하는 것뿐만 아니라,
그럼 어떻게 해야 할까?
결정권입니다.
예를 들어,
이 기업을 인수 후보로 삼아야 한다.
이 고객에게 영업해야 한다.
이 환자에게 이 치료를 선택해야 한다.
이 투자 건을 승인해야 한다.
이러한 분야입니다.
생성 AI 에서 AI 에이전트로의 진화 과정에서 현재 가장 주목받는 것은 바로 이 부분일 것입니다.
AI 는 단순히 정보를 정리하는 것을 넘어 선택지를 제시하고 추천하며, 경우에 따라서는 선택 그 자체를 수행하기 시작했습니다.
4. 실행
결국 결정된 사항을 실행하는 단계입니다.
- 편지를 보내다.
- 주문합니다.
- 시스템을 변경합니다.
- 주식을 매매한다.
- 기계 작동하다.
- 운전하다.
즉,
「考えるAI」から「動くAI」へ。
Agentic AI 가 큰 전환점으로 언급되는 이유도 여기에 있습니다.
대부분의 기존 생성 AI 는 '분석'과 '제안' 단계에 그쳤습니다.
AI 에이전트는 이제 실행 구현 단계까지 진입하기 시작했습니다.
원 논문에서 제시한 4 단계 과정을 현대적인 표현으로 재구성하면 다음과 같습니다.
검색 → 분석 → 결정 → 행동
이러한 생각도 가능할 수 있습니다.
더 중요한 것은 '어디까지 맡길 것인가'입니다.
이 논문의 흥미는 여기서 끝나지 않습니다.
예를 들어 '의사결정을 AI 가 수행한다'고 해도, 그 안에 다양한 수준의 차이가 있습니다.
저자들은 기존 연구를 바탕으로 의사결정과 행동 선택의 자동화를 10 단계로 체계화했습니다.
간단히 말해 현대적으로 재해석하면 다음과 같습니다.
- 인간과 기계의 관계 1 AI 는 아무것도 하지 않는다.
- 1. 인간이 모든 판단과 실행을 담당합니다. 2. AI 가 가능한 선택지를 제시합니다. 3. AI 가 후보를 좁힙니다. 4. AI 가 '이것이 좋다고' 판단하여 하나의안을 추천합니다. 5. AI 가 제안하고 인간이 승인하면 실행됩니다. 6. AI 가 최종 결정을 내립니다.
- 인간에게는 거절할 수 있는 짧은 시간이 있다. 7 AI 가 자동 실행한 후 인간에게 보고하고, 8 AI 가 실행한다.
- 질문할 때 인간에게 설명을 요구하는 경우, AI 가 스스로 설명이 필요하다고 판단할 때만 인간에게 알리고, 모든 판단과 실행은 AI 가 수행합니다.
- 인간이 개입하지 않는다.
이처럼 정리해 보면, 현재 생성형 AI 에 대한 논의가 급히 정리되는 것을 알 수 있습니다.
챗 GPT 로 글쓰기 초안을 작성하게 하는 것은 레벨 2~4 수준에 해당합니다.
인간이 AI 가 만든 것을 승인하여 제출한다면 레벨 5 입니다.
AI 에이전트가 스스로 처리하고 인간에게 사후 보고를 한다면 레벨 7입니다.
어떤 눈치채지 못한 틈새에서 에이전트들이 서로 협상하고 계약하며 발주와 결제를 처리하는 세계가 되면 레벨 8~10에 가까워집니다.
즉,
AI 도입 여부를 묻는 것만으로는 거의 의미가 없습니다.
진정으로 묻어야 할 것은,
AI 를 업무의 어느 단계에 도입할 것인지, 그리고 그 단계에서 AI 에게 얼마나 큰 권한을 부여할 것인지.
그렇습니다.
단 하나의 지표인'AI 도입률'으로는 그 가치를 측정할 수 없다.
이 부분부터는 경영에 있어 매우 중요한 시사점이 드러납니다.
이 모델은
타입 × 레벨
이처럼 2 차원적으로 변해버렸습니다.
예를 들어, 어떤 회사는
- 정보 수집: 레벨 9
- 정보 분석: 레벨 8
- 의사결정: 레벨 4
- 실행: 레벨 2
일 수 있습니다.
대량의 정보 수집과 분석은 거의 AI 에 맡기는 것이 좋습니다.
중요한 판단은 AI 가 제안한 것을 바탕으로 인간이 결정합니다.
실천 역시 인간이 행하는 것이다.
이것은 충분히 설득력 있는 설계입니다.
한편,
- 정보 획득: 레벨 10
- 정보 분석: 레벨 10
- 의사결정: 레벨 9
- 행동 실행: 레벨 9
이러한 구조도 기술적으로 가능해지고 있을 것입니다.
어느 쪽이 더 '진행'하고 있는가.
사실, 그런 단순한 문제일 뿐입니다.
자동화는 인간을 편안하게 해주는 것뿐이 아니다.
이 논문에는 또 다른 매우 중요한 메시지가 있습니다.
저자들은
자동화는 단순히 인간 활동을 대체하는 것을 넘어 그 자체를 변화시킵니다.
그렇게 지적하고 있습니다.
즉, 자동화는 인간의 업무를 단순히 대체하는 것이 아닙니다.
인간의 일 그 자체를 바꾸어 버린다.
그리고 자동화로 인해 발생하는 인간 관련 문제로는 주로 다음과 같은 점을 검토하고 있습니다.
- 정신적 부담
- 상황 인식
- 자만: 자동화에 대한 과도한 신뢰
- 스킬 저하
예를 들어 AI 가 항상 판단을 해주는 상황을 가정해 보겠습니다.
인간의 부담은 줄어듭니다.
처리 속도도 높아질 것입니다.
하지만 그 한 면에서는 인간이,
그 판단이 내려진 이유는 무엇인가
「지금 일어나고 있는 일은 무엇인가」
그들을 파악하지 못해버릴 수도 있습니다.
그런데 갑자기 AI 가 고장 났을 때,
인간에게 이미 대신 판단할 능력이 남아있지 않다.
이것이 이른바 '아웃 오브 더 루프' 문제입니다.
자동화가 인간을 배제할수록 정상 상태의 효율은 높아집니다.
그러나 비정상적인 상황에서는 오히려 인간이 대응하지 못해버립니다.
이 딜레마는 AI 시대가 도래함에 따라 오히려 더 커지고 있습니다.
14 년 후에도 확인된 '경계선'
이 모델은 이후 많은 연구에서 검증되었습니다.
2014 년, Onnasch 등 연구진이 18 개의 실험 연구를 통합한 메타 분석을 발표했습니다.
결과는 매우 흥미로웠습니다.
자동화가 높아질수록,
일반적인 상황에서의 성능은 향상됩니다.
인간의 부담도 전반적으로 감소합니다.
하지만 다른 한편으로는,
자동화가 실패할 때 인간의 성능은 저하되고 상황 인지도도 감소합니다.
더욱 흥미로운 점은 부정적 영향이 쉽게 확대되는 '경계'가
정보 분석 → 의사결정 및 행동 선택
그 사이에서 발견된 것입니다.
생성 AI 를 고려할 때 매우 중요한 사항이 아닐까.
AI 에게,
정보를 확인해 달라
분석해 달라
그 정도까지는 비교적 수월하게 진행할 수 있습니다.
하지만,
그래서 이렇게 해야 한다.
그런 의사결정을 내린 순간, 문제의 성격이 변한다.
또한,
그럼 실행하겠습니다.
그런데 더 나아가면 또 다른 차원이 펼쳐집니다.
바로 지금, 우리가 Copilot 에서 에이전트로 전환하고 있는 그 경계입니다.
AI 시대의 질문은 '인간인가 AI인가'가 아닙니다.
따라서 이제부터 기업이 고민해야 할 질문은,
이 업무를 AI 가 대체할 수 있을까요?
그뿐만이라고 생각하지는 않습니다.
더 세밀하게,
① 누가 정보를 수집하는가
② 누가 정보를 분석하는가
③ 누가 선택지를 만드는가
④ 최종 판단을 누가 할 것인가
⑤ 누가 실행하는가
⑥ 누가 결과를 감시하는가
⑦ 문제가 발생했을 때 누가 해결할까
설계해야 합니다.
그리고 가장 중요한 것은,
모든 것을 동일한 자동화 수준으로 맞추는 것은 필요 없습니다.
그렇습니다.
AI 에이전트 시대의 조직 설계
이 이야기를 더 깊이 살펴보면, 자동화 문제는 이제 IT 시스템 설계만의 문제가 아닙니다.
조직 설계 그 자체로 완성됩니다.
과거 기업들은
영업부에서 정보를 수집하여,
기획팀이 분석하고,
경영회의가 의사결정을 하고,
현장에서 실행하는,
이처럼 인간들 사이에서 역할이 분담되었습니다.
이후에는 여기에 인공지능이 투입됩니다.
그럼 조직도는,
인간 × 인간
뿐만 아니라,
인간 × 인공지능 × AI 에이전트
역할 분담도가 완성됩니다.
직업을 부여하는 것처럼,
AI 에게도,
어떤 수준의 정보를 공개할 것인가
무엇을 판단해야 하는지
최대 주문 가능 금액은 얼마까지인가
어떤 조건에서 인간이 에스케일레이션 (급격한 진화) 을 시작할까
이러한 권한 설계가 필요합니다.
이것은 어느 의미에서
AI 를 위한 직무 권한 규정과 같은 것입니다.
「Human in the Loop」만으로는 부족하다
AI 거버넌스에서는 주로
인간이 루프에 있음
이러한 용어가 쓰입니다.
하지만 이 모델을 보면, 그것만으로는 다소 거칠다는 것을 알 수 있습니다.
문제는
사람이 있느냐 없느냐
그뿐만이 아닙니다.
사람들이,
- 정보를 보는가.
- 분석할 것인가.
- 후보자를 선택할 것인가.
- 인정할 것인가.
- 거부권을 갖는가.
- 사후 보고만 받는 거야.
여기에 큰 차이가 있습니다.
즉, 필요한 것은
인간이 루프에 있음
한 걸음 더 나아가서,
인간-AI 의사결정 아키텍처
그렇지 않겠습니까.
인간과 인공지능 사이에서 '보는', '생각하는', '결정하는', '행동하는' 과정이 어떻게 배분되어야 하는가.
바로 그것이 앞으로의 기업에게 필요한 설계 역량이 될 것입니다.
26 년 전의 논문이 지금 다시 새롭게 보이는 이유
흥미로운 점은 원저작자 중 한 명인 토머스 B. 시리던이 2026 년에도 인공지능을 포함한 지능형 자동화와 인간의 관계에 대해 다시 '자동화 연속체'를 논증한다는 사실입니다.
2000 년에는,
컴퓨터에 어느 정도까지 맡길 것인가
그런 문제가 된 것이었습니다.
2026 년에는,
AI 가 어디까지 자율적으로 생각하고, 결정하며 행동할 수 있는가
이러한 문제가 발생했습니다.
기술은 크게 변했습니다.
그러나 근본적인 질문은 거의 변함없었다.
오히려 AI 에이전트의 등장으로 인해 이 모델이 본격적으로 필요한 시대가 찾아왔다고도 할 수 있습니다.
인간의 일은 '남거나 사라지는가'가 아니다.
AI 시대가 오면 필연적으로,
이 일은 AI 에게 빼앗길까?
이러한 논쟁이 빚어질 가능성이 높습니다.
그러나 이 논문이 제시하는 것은 더 높은 해상도의 관점입니다.
일은 단단한 하나의 돌처럼은 아닙니다.
업무에는,
이러한 기능은 서로 다릅니다.
각 항목에 대해,
- 사람이 하는 거야.
- AI 가 지원해 줄까.
- AI 가 추천할까.
- AI 가 실행하는지.
설계할 수 있습니다.
미래의 일을 생각할 때,
「人間か、AIか」
두 가지 선택지 중 하나를 선택할 필요가 없습니다.
오히려
인간과 인공지능을 어디에서, 어느 깊이에 결합해야 가장 합리적인 의사결정이 가능한가.
바로 그 질문이 가장 중요합니다.
AI 의 능력이 높아질수록,
「무엇을 할 수 있는가」보다도,
무엇을 맡겨야 할까
경영에 결단력이 요구된다.
파루수라만, 셔리던, 위켈스가 26 년 전 제시한 모델은,
자동화의 이론과 동시에,
앞으로 인간과 인공지능의 역할 분담을 설계하기 위한 경영 모델로서, 다시 한번 검토해 볼 가치가 있지 않을까요.
참고 논문
라자 파라수라만, 토머스 B. 시리던, 크리스토퍼 D. 위켄스"자동화와의 인간 상호작용의 유형과 수준에 대한 모델"IEEE 시스템, 인간, 사이버네틱스 저널 - A: 시스템과 인간, 제 30 권, 제 3 호, 2000 년, pp.286–297.DOI: 10.1109/3468.844354
린다 오나슈, 크리스토퍼 D. 위켄스, 후이양 리, 디트리히 만제이, "자동화의 단계와 수준이 인간 성능에 미치는 영향: 통합 메타분석" 『인간공학』, 제 56 권, 제 3 호, 2014 년, 476-488 페이지. DOI: 10.1177/0018720813501549
📚 관련 기사·잡지
AI 는 직업, 교육, 의료와 사법, 창의성의 방식까지 바꾸고 있습니다. 앞으로 인간은 기계에 무엇을 맡기고, 무엇을 자신의 역할로 남길 것인가. 의료, 교육, 사법, 경영, 창의성, 사회 제도 등 다양한 현장에서 '인간과 기계의 역할 분담', '분계점', '경계선'에 대해 고민하는 기고들을 모은 매거진입니다.
# 생성 AI #AI 에이전트 #세무 #회계 #KSK2 #국세청 #세무행정 #경영전략 #의사결정 #DX #AI 활용 #AI 시대의 업무 방식 #디지털 DX #업무 효율화 #재교육 #세무회계 #공인회계사 #세무사 #데이터 기반 경영 #기업 지배구조 #미래의 업무 방식 #혁신 #미래 디자인 #크리에이티브 #전문 서비스 #경영자 #조직 설계 #HumanAI #엔지니어 #소프트웨어 개발 #AI 코딩 #Architecture #DX #미래의 직업 #아란치우링 #오카모토 타로 #레이커 츄바이어 #스티브 잡스
크로스 비즈니스 프로듀서스 크로스 그래프 팀 지식 아키텍트 프랑수아🐾미래를 그리는 사업 개발 전문가입니다. 신규 사업, AI 전략, 미래 비전을 위한 동반자 지원 활동을 하고 있습니다. "올바른 전략보다 아름다운 비전이 더 중요합니다."
💻 오늘의 추천 리포트는 여기입니다 (구매 가능) 👇
AI 가 '쓰레기'를 어떻게 변화시킬까?――재활용 현장에서 시작되는 'AI×자원순환'｜AI 서가 미미 (데이터 리소스 주식회사 소속)
출처: note 원문
번역: Qwen 3.5(.48) 초벌 + 교정 107청크
원문 보기 | 출처: note.com