기업의 AI 활용이 다음 단계로 나아가는 한편, 보안을 둘러싼 환경도 크게 변하기 시작하고 있다.
지금まで 기업이 경계해 온 것은 "기밀 정보를 생성형 AI에 입력해도 되는가", "AI가 내놓는 답변을 신뢰해도 되는가"와 같은 리스크였다. 하지만 AI 자체가 시스템이나 데이터에 접근하고, 판단하며, 액션을 취하는 AI 에이전트가 보급되면 지켜야 할 범위는 단숨에 넓어진다. 게다가 변화하고 있는 것은 방어하는 쪽뿐만이 아니다. 공격자 역시 AI를 사용하기 시작한 것이다.
본고에서는 엑사와이저스 그룹이 쌓아온 AI와 보안 지식을 활용하여, 2026년 10월 설립 예정인 주식회사 ExaSecurity(엑사시큐리티) 대표이사 라클란 미첼(Lachlan Mitchell) 씨와의 인터뷰를 진행했다. AI 에이전트가 공격과 방어 모두에 사용되는 시대, 기업은 무엇을 지키고 어떤 보안 체계를 구축해야 하는지 들어보았다.
:::box
**주식회사 ExaSecurity 대표이사**
**주식회사 엑사와이저스 기술전문임원**
**라클란 미첼**
2026년 10월 설립 예정인 주식회사 ExaSecurity 대표이사 취임 예정. 호주 출신. 애들레이드 대학교에서 컴퓨터 과학을 전공. 정부 관련 프로젝트부터 민간기업 연구까지 폭넓은 사이버 보안 영역을 경험. 10년 이상 보안 현장에 종사하며 하드웨어, 게임, 의료, 금융 등의 영역에서 다수의 중대한 취약점을 발견해 왔다. 중대 침해사고 대응 및 사이버 범죄 수사에도 전문가 및 포렌식 분석가로 참여. 2019년 모바일 엔지니어로 엑사와이저스에 입사. 이후 사내 보안 부서를 설립하고 책임자를 역임했다.
:::
## 'AI를 지키는 것'과 'AI로 지키는 것'. AI 보안의 두 가지 측面
미첼 씨는 애들레이드 대학교에서 컴퓨터 과학을 전공하고, 커리어 초기에는 iPhone용 모바일 애플리케이션 개발에 참여했다. 2019년 엑사와이저스에 입사. 사업이 급격히 성장해 가는 가운데, 사내 보안 체계를 강화할 필요성을 느껴 다시 보안 영역으로 중심축을 옮겼다.
이후 사내 보안 부서의 설립과 체계 정비를 주도. 거기서 쌓은 지식을 외부 기업에도 제공하는 것이 ExaSecurity 설립으로 이어졌다.
그러한 미첼 씨는 AI와 보안을 생각할 때, 먼저 두 가지로 나누어 파악할 필요가 있다고 말한다.
"AI 보안에는 크게 두 가지 영역이 있습니다. 하나는 AI를 보안에 활용하는 것(using AI for security), 다른 하나는 AI 자체를 안전하게 만드는 것(securing AI)입니다. 기업은 이 두 가지 모두를 고려해야 합니다."
생성형 AI가 등장했던 초기, 기업이 신경 썼던 것은 주로 'AI 자체를 안전하게 사용할 수 있는가'라는 문제였다. 기밀 정보를 외부 AI 모델에 입력해도 문제가 없는지, 입력한 정보가 학습에 이용되지는 않는지, 그리고 AI가 내놓은 답변을 신뢰해도 되는지.
하지만 AI 에이전트의 등장으로 논점은 크게 달라졌다.
"AI 에이전트에서는 AI가 어떤 액션을 취할 수 있는지까지 고려해야 합니다. 에이전트로의 입력과 출력, 임직원이 입력하는 프롬프트, 접근 가능한 사내 데이터 등 모든 것이 새로운 공격 대상이 될 수 있습니다."
기존부터 기업이 지켜온 데이터나 ID, 시스템과 같은 자산이 불필요해지는 것은 아니다. 거기에 AI라는 새로운 레이어가 더해져, 공격 대상이 될 수 있는 영역, 이른바 '어택 서피스'가 확대되고 있는 것이다.
AI가 영향을 미치는 범위는 PC나 클라우드 내부로만 국한되지 않는다. 로봇, IoT 기기, 공장 설비 등 물리적 공간에서 작동하는 '피지컬 AI'가 확산되면, AI에 대한 공격이 현실 세계에 심각한 영향을 미칠 가능성도 생긴다. 미첼 씨에 따르면, 이미 일본 국내 인프라 관련 기업 등으로부터 IoT 기기나 공장 설비에 탑재되는 AI 보안에 대해 상담을 받는 사례가 늘고 있다고 한다.
"또한 간과할 수 없는 것은 공격자 측이 AI를 이용하고 있다는 점입니다. 소프트웨어 엔지니어링의 관점에서 보더라도 AI가 공격자에게 부여한 힘은 극히 큽니다. 제 커리어 중에서도 이 정도로 대폭 공격 능력이 끌어올려진 적은 없었습니다."
기업은 앞으로 'AI를 어떻게 지킬 것인가'와 동시에 'AI로 강화된 공격자로부터 기존 자산을 어떻게 지킬 것인가'라는 두 가지 문제에 직면하게 된다.
## '사후 대응' 보안은 파탄 난다. AI 프로젝트 초기부터 포함해야 하는 이유
그렇다면 기업은 무엇부터 시작해야 할까? 미첼 씨가 강조한 것은 '처음부터 보안을 포함한다'는 접근 방식이다.
"AI 활용에서 가장 중요한 것은 Day 1부터 보안을 프로세스에 포함시키는 것입니다. 보안이 사후에 추가되면 비용이 많이 들고, 복잡하며, 매우 힘든 작업이 됩니다. 하지만 처음부터 포함시켜 두면 그 부담을 크게 줄일 수 있습니다."
AI 프로젝트가 개시될 때마다 보안 부서에 신청하여 하나씩 이용 가능 여부를 판단한다. 그러한 '개별 승인'을 계속 늘리기만 해서는 AI 활용 속도를 따라잡지 못할 가능성이 있다. 필요한 것은 안전하게 AI를 사용하기 위한 '재현 가능한 구조'라고 한다. 그 첫걸음이 자사에서 사용되고 있는 AI를 파악하는 것이다.
공식적으로 도입한 AI 서비스뿐만이 아니다. 임직원이 개인 판단으로 이용하고 있는 생성형 AI나 AI 툴, 이른바 '섀도 AI'도 포함해 파악해야 한다. 나아가 각각의 AI가 어떤 데이터에 접근할 수 있는지, 어떤 시스템과 연결되어 있는지, 무엇을 실행할 수 있는지를 정리해 나간다.
"우선 자사 내에서 어떤 AI가 사용되고 있는지를 이해합니다. 그리고 각각이 어떤 정보에 접근할 수 있는지 확인합니다. 그렇게 회사 전체의 '서피스 맵'을 만들면 어디에 큰 리스크가 있고 어디서부터 대응해야 할지 판단할 수 있게 됩니다."
AI 도입이 진행되어 다양한 모델이나 서비스가 대량의 파일이나 시스템에 연결된 후에 정리하려고 하면, 그 작업은 한순간에 어려워진다. 그렇기 때문에 AI 활용과 보안을 별개의 프로젝트로 생각해서는 안 된다.
## AI 에이전트가 허문 '공격 비용'의 벽
지금까지 사이버 공격에는 공격자 자신의 고도화된 스킬과 많은 시간이 필요했다. 제 구실을 하기까지 몇 년 동안 기술을 배우고, 하나의 기업을 공격하기 위해 몇 주, 때로는 몇 달을 소비한다. 그러한 세계에서는 공격자가 효율을 고려하여 얻을 수 있는 이익이 큰 '대기업'을 노리는 것이 합리적이었다.
"예를 들어 금전 목적이라면 작은 회계사무소보다 은행을 노리는 편이 이익이 큽니다. 당연히 공격자는 리소스를 대기업에 집중시킵니다. 하지만 그것은 기존 공격 모델을 전제로 한 사고방식입니다."
최근 AI 에이전트의 등장으로 이 상황이 일변했다.
"AI 에이전트는 잘 필요가 없습니다. 휴식도 필요 없습니다. 여러 개를 동시에 작동시켜 계속 공격을 이어갈 수 있습니다."
결과적으로 한 회사에서 큰 이익을 노릴 필요는 없어졌다. 다수의 중소기업을 일괄 탐색하여 허점이 있는 기업부터 순서대로 공격을 감행함으로써, 개別 획득 이익은 낮더라도 전체적으로 막대한 이익을 쌓을 수 있게 되기 때문이다. 미첼 씨는 이러한 변화가 향후 1~2년 사이에 단숨에 가시화될 것으로 보고 있다.
"지금 자신들은 공격받지 않고 있으니 괜찮다고 생각하는 기업이 있더라도, 그 상황이 지속되지는 않을 것이라고 생각합니다. 공격자가 AI를 통해 얻은 능력은 이제 이전으로 돌아가지 않습니다. 판도라의 상자가 열려버린 것입니다. 자신들이 표적이 되고 나서 준비하는 것은 너무 늦습니다."
공격 속도가 올라가면 방어 측에도 동일한 속도가 요구된다. 단, 그것이 '인간을 AI로 대체한다'는 의미는 아니다.
"저는 방어를 전부 AI에 맡기고 인간을 대체해야 한다고 말하는 것이 아닙니다. 공격자가 AI로 자신들을 강화하고 있는 것과 마찬가지로, 방어하는 측도 AI로 자신들을 강화할 필요가 있다는 뜻입니다."
지금까지의 방어책이 모두 쓸모없어지는 것은 아니다. 중요한 것은 각각의 방어책을 AI 시대의 전제로 재검토하여 '어디를 자동화할 수 있는지', '어디를 고속화할 수 있는지', '어디에 인간의 판단을 남길 것인지'를 재설계하는 것이다.
## ExaSecurity가 노리는 영역
이러한 환경 변화를 배경으로 설립되는 것이 주식회사 ExaSecurity다.
해당 회사에서는 AI 레드티밍, 보안 진단, AI 거버넌스·컴플라이언스 지원 등의 'AI 시스템을 지키는' 서비스에 더해, 페ネトレーション 테스트를 비롯한 기존형 보안에 AI를 결합하여 고속화·고도화하는 서비스를 제공할 예정이다. 미첼 씨가 특히 강조하는 것은 서비스의 기반이 되는 '인재'의 강점이다.
"보안 서비스에서는 사람 자체가 프로덕트라고 생각합니다. 높은 스킬을 보유하고 이 분야에 열정을 가진 인재가 있는 것이 매우 중요합니다."
엑사위자드 그룹에는 페ネトレーション 테스트 경험자, 보안 거버넌스나 규제에 식견을 가진 인재, AI를 보안 업무에 실전적으로 도입해 온 엔지니어 등 다각적인 전문성을 갖춘 인재가 모여 있다. 그리고 가장 큰 특징은 단순히 'AI에 대해 알고 있는 보안 인재'일 뿐만 아니라, 스스로가 AI 에이전트를 업무에 도입하고 있다는 점이다.
"ChatGPT에 질문하여 업무 도움을 받는 수준이 아닙니다. 우리 자신이 AI 에이전트를 업무에 도입하여, 공격자가 AI를 통해 자신들을 강화하는 것과 마찬가지로 보안 업무를 고도화하고 있습니다."
사이버 보안 인재를 충분히 확보하지 못하는 기업에 있어, 고도의 전문 팀을 자체적으로 구축하는 장벽은 매우 높다. 본인도 엑사위자드에서 보안 조직을 제로에서부터 새로 구축해 온 미첼 씨는 "고도의 보안 팀을 만드는 것이 얼마나 어렵고 비용이 드는지 잘 알고 있다"고 말한다. 그렇기 때문에 자사에서 축적해 온 실전 지식을 외부로 환원해 나가고 싶다고 한다.
## "보안과 속도는 트레이드오프"라는 오해
마지막으로, DX나 AI 활용을 추진하는 기업의 경영자나 책임자에게 전하고 싶은 말을 묻자, 미첼 씨는 "줄곧 계속 전해온 말이 있다"며 운을 뗐다. 그것은 보안과 비즈니스 속도가 트레이드오프가 아니라는 생각이다.
"자주 '보안이 중요하다는 것은 알고 있다. 하지만 보안을 강화하면 업무 속도나 효율은 떨어지지 않나'라는 말을 듣습니다. 반대로 비즈니스 속도를 높이기 위해서는 어느 정도 보안을 타협해야 한다고 생각하는 사람도 있습니다. 저는 그것이 잘못되었다고 생각합니다."
적절하게 설계된 보안은 AI 활용을 방해하는 것이 아니다. 오히려 안전하게 AI를 이용할 수 있는 환경이 갖춰져 있기 때문에, 임직원은 불안 없이 AI 에이전트를 마음껏 활용할 수 있는 것이다.
"AI 에이전트를 처음부터 적절하게 세팅하고 안전하게 사용할 수 있는 구조를 만들면, 기업은 AI 에이전트의 능력을 최대한 활용할 수 있습니다. 보안은 부담이 아니라 가치를 창출하는 요소가 될 수 있습니다."
일본 국내에서도 주요 인프라를 중심으로 한 사이버 방어 강화와 더불어 공급망 전체의 보안 수준 향상을 위한 제도 정비가 진행되고 있다. 정부의 움직임을 보더라도 기업의 보안 대책을 평가하는 체계 구축이나, 새로운 영역의 사이버 위협에 대응하는 가이드라인 정비가 빠르게 추진되고 있다. 직접적인 규제 대상이 되지 않는 기업이라 할지라도 거래처로부터 높은 수준의 보안 대책을 요구받는 사례는 틀림없이 늘어날 것이다.
AI를 '도입하고 나서 지키는' 것이 아니라 '안전하게 쓸 수 있기에 도입을 가속화할 수 있는' 상태를 만든다. AI 활용과 보안을 별개로 생각하는 시대는 이미 막을 내리고 있는지도 모른다.
원문 보기 | 출처: Ledge.ai