AI 낙관론에 결여된 시점: 얀 루칸 교수의 지적과 “속도 역전”

게시판: AI·머신러닝 | 작성자: admin | 작성일: 2026-10-14T17:06:24.097Z

10월 12일, 한국·서울에서 열린 기자 간담회에서 뉴욕대학교의 얀 루칸 교수가 AI로 인한 인류 멸망 가능성을 부정하고 AI 개발을 늦추는 것에 반박했습니다.

루칸 교수는 인간과 동등한 지능을 가진 AI가 갑작스럽게 세계를 지배하는 듯한 전개는 “SF 영화의 줄거리”에 불과하다고 주장했다. AI의 발전은 단일한 극적인 사건으로 인해 발생하는 것이 아니라, 수많은 기술 혁신을 거쳐 단계적으로 진행된다는 견해를 보였다.

또한, AI를 악용한 사이버 공격에 대해서도 방어 측이 유리하다고 설명하고 있습니다. 방어 측에는 풍부한 인적 자원과 자금이 있으며, 연구 성과를 공유할 수 있기 때문입니다. 더불어, AI의 안전성에 대해서는 항공기 엔진 개발을 예로 들어 기술의 개선을 거듭하는 과정에서 안전성을 높일 수 있다고 주장했습니다.

이러한 발언을 단순한 낙관론으로 치부할 수 없습니다. 왜냐하면 루칸 교수는 현대 AI 발전의 극적으로 큰 공헌을 해 온 당사자이기 때문입니다.

이미지 인식 기술의 기초가 되는 컨볼루션 신경망(CNN) 연구를 개척하고 2018년에는 제프리 힌튼, 요슈아 벤지오와 함께 “컴퓨터 과학의 노벨상”이라 불리는 튜링상을 수상했다. 이들 3인의 연구 성과가 없었다면 현재 생성 AI의 발전 또한 전혀 다른 모습이었을 것이다.

또한, 루칸 교수는 오랫동안 메타의 AI 연구를 이끌어 왔으며, 현재도 “세계 모델”이라는 이름으로 다음 세대 AI 연구에 참여하고 있습니다. 바로 AI의 가능성과 한계를 누구보다 깊이 있게 연구해 온 연구자 중 한 명이라는 사실은 의심의 여지가 없습니다.

주간문춘 “카네다 방법”으로 극적인 진보! 연예계의 뒷면을 폭로하다! 연예계의 뒷면을 폭로하는 주간문춘의 최신호는, “카네다 방법”이라는, 연예계에 숨어있는 “돈의 힘”을 파괴하기 위한 방법을, 전 배우 카네다 씨가 자신의 경험담을 들려주었습니다. “카네다 방법”은, 첫째, 자신이 진정으로 좋아하는 것을 찾는 것. 둘째, 그 좋아하는 것과 돈을 연결하는 방법을 생각하는 것. 셋째, 그 방법으로 돈을 벌고, 자신의 좋아하는 것에 투자하는 것. 이 방법을 실천한 연예인은, “돈에 휘둘리지 않고, 자신의 좋아하는 것에 집중할 수 있게 되었다”라고 많은 사람이 증언하고 있습니다. 이번 인터뷰에서는, 카네다 씨가, “돈의 힘”에 지지 않기 위해, 평소에 신경 쓰는 것과, 구체적인 방법 등을, 넉넉하게 이야기해주었습니다. 또한, “카네다 방법”을 실천한 연예인들과의 교류도 보도하고 있습니다. 주간문춘은, 앞으로도 연예계의 뒷면을 폭로하며, 독자 여러분에게, 연예계의 진실을 전달하는 것을 목표로 합니다.

루칸 교수가 개발 둔화에 반대하는 이유
기술적 정확성과 사회적 안전성은 동일하지 않습니다.
속도 역전(Rate Crossover)이라는 관점에서
문제는 “해결 가능한가”라기보다는 “시간 안에 끝낼 수 있는가”다.
추천 작품 및 저자의 최신 정보

루칸 교수가 개발 둔화에 반대하는 이유

그의 과거 발언을 추적해 보면, 그 사상이 일관성을 유지하고 있음을 종종 알 수 있습니다.

2024년 2월에 일본어판이 공개된 WIRED의 인터뷰에서 오픈소스 AI가 악의적인 개인이나 국가에 이용될 수 있는 위험성에 대해 질문받은 르캉 교수는 “기술이 발전하면 악의적인 사람들도 그것을 이용하게 될 것이다”라고 인정하면서도 “이에 맞서기 위해서는 선량한 쪽이 더 빠르게 기술 발전을 이끌어내야 한다”고 답했습니다.

즉, 위험한 AI에 맞서기 위해서는 개발을 지연시키는 것이 아니라 오히려 가속화해야 한다는 견해입니다. 연구 성과를 공개하고, 전 세계 연구자들이 협력함으로써 더욱 안전하고 뛰어난 AI를 개발할 수 있다고 믿습니다.

또한, 올해 5월에 공개된 팟캐스트 프로그램 『Unsupervised Learning』에서는 현재의 거대 언어 모델(LLM)의 안전성에 대해 상당히 엄격한 평가를 내리고 있습니다. LLM은 잘못된 정보를 생성할 수 있으며, 그 구조 그대로로는 충분한 안전성을 보장할 수 없다는 지적이 있습니다.

한편, 인공지능이 현실 세계를 이해하고 스스로의 행동이 가져올 결과를 예측할 수 있게 된다면, 안전상의 제약을 포함할 수 있을 것이라고 생각합니다. 그들이 추진하고 있는 것은 바로 “세계 모델” 연구입니다.

여기서 알 수 있는 것은 루칸 교수가 현재의 AI를 무조건적으로 맹신하지 않는다는 점입니다. 현재 기술에서 나타나는 중요한 과제를 냉철하게 인식하고 있으며, 결코 ‘무지에서 비롯된 낙관론’이 아닙니다.

그럼에도 불구하고 그가 개발 둔화에 반대하는 것은 “기술의 발전만이 과제를 해결하는 가장 효과적인 수단이다”라는 강한 신념이 있기 때문일 것입니다.

기술적 정확성과 사회적 안전성은 동일하지 않습니다.

루칸 교수의 윤리관과 합리성은 충분히 이해할 수 있습니다. 인공지능이 고도의 지능을 갖게 되었다고 해서 반드시 인간에게 적대적일 것이라고 단정할 수 없습니다. 고도화된 인공지능을 안전하게 통제하는 기술이 동시에 발전할 가능성도 있습니다. 또한, 인공지능 개발을 일률적으로 제한한다면 의료, 과학, 교육 등 인간에게 막대한 이익을 가져다주는 기술 혁신까지 정체시킬 수 있습니다. 개방적인 연구 환경이 결국에는 안전성을 높일 것이라는 주장에도 일리가 있습니다.

하지만 여기에 한 가지, 명확히 구분해야 할 논점이 존재합니다.

“AI를 안전하게 제어할 수 있는 기술을 개발할 수 있을지”에 대한 질문과 “그 기술이 완성될 때까지 사회의 안전을 유지할 수 있을지”에 대한 질문의 차이입니다.

예를 들어, 미래에 인공지능을 활용한 사이버 공격을 완전히 방어하는 기술이 개발되었다고 가정해 봅시다. 하지만 그 기술이 완성되기 전에 공격자가 금융기관이나 전력회사의 핵심 시스템을 침투해 버린다면 어떻게 될까요. 혹은, 안전성을 중시하는 선진기업이 고도화된 방어 기술을 확립했더라도 이를 즉시 도입할 여력이 없는 중소기업이나 개발도상국이 존재한다면 어떻게 될까요.

루칸 교수가 지적하듯이, 방어 측에는 인적 자원과 자금의 축적, 지식 공유라는 강점이 있습니다. 하지만 이것이 ‘방어 측이 항상 공격 측보다 빠르게 진화할 수 있다’는 것을 보장하는 것은 아니며, 모든 조직이 최신 방어 기술을 동일한 속도로 도입하고 적용할 수 있다는 보장도 없습니다.

여기 핵심적인 시점은 “시간”이라는 관점입니다.

속도 역전(Rate Crossover)이라는 관점에서

저는 “스피드 역전(Rate Crossover)”이라는 미래를 조망하는 관점을 제시하고 있습니다.

기술이나 사회의 변화를 포착할 때, 우리는 종종 하나의 기술이 “얼마나 더 고도화할 수 있는가”라는 정점에 눈이 멀어버리는 경향이 있습니다. 하지만 진정으로 결정적인 것은 “서로 다른 요소들의 진화 속도 간의 상관관계”라는 관점입니다.

예를 들어, 인공지능의 공격 능력이 향상되는 속도와 인간이 그것을 이해하고 통제 및 방어하는 능력이 향상되는 속도입니다. 또는, 위협이 확대·확산되는 속도와 사회 제도나 인프라가 이에 뒤처져 복구하는 속도 간의 차이에서 언젠가 한쪽이 다른 쪽을 앞서는 상황이 발생합니다. 저는 그 역전이 일어나는 “시간적 교차점”과 그 직후에 발생하는 불가역적인 영향에 주목하고 있습니다.

루칸 교수의 주장을 이 관점에서 재구성하면 다른 위험을 보게 됩니다. 그의 주장은 “최종적으로 대항할 수 있는 훌륭한 AI를 개발할 수 있다”는 논리지만, 여기서 진지하게 질문해야 할 것은 “대항 AI가 완성될 ‘도착점’이 아닌 “위기에 만나는 ‘도착 속도’인のです.

만약 공격측의 능력이 방어측의 체제를 일시적으로라도 능가한다고 가정해 봅시다. 그 짧은 공백 기간 동안 금융, 전력, 통신, 물류와 같은 핵심 인프라가 광역 공격을 받으면 상황은 파국적인 결과를 초래할 수 있습니다. 이러한 인프라는 고도로 상호 의존적이기 때문에 전력의 정전은 즉시 통신, 상수도, 의료의 부족을 야기하고 금융 결제의 마비는 즉시 물류와 공급망을 중단시킵니다. 여러 핵심 인프라가 동시에 마비되고, 이것이 몇 주에 걸쳐 지속된다면 국가 규모의 사회 기능 마비로 이어질 수 있습니다.

그 이후로 얼마나 완벽한 방어 기술이 완성되더라도 잃어버린 사회의 기반과 인명은 되돌릴 수 없습니다.

물론, 이는 위험 시나리오에 기반한 가설이며, 반드시 발생한다는 의미로 단정 지을 수 있는 것은 아닙니다. 하지만 위험 관리나 국가 안보 관점에서는 단순한 ‘발생 확률’뿐만 아니라 ‘피해의 불가역성’과 ‘시간 지연’을 엄밀하게 고려해야 할 것입니다.

속도 역전이 발생했을 때, 문제는 단순한 기술의 우열에 머무르지 않고, “피해의 확대 속도가 사회의 회복 속도를 능가하는” 구조적 위기를 초래하는 것입니다.

문제는 “해결 가능한가”인지 “시간 내에 해결할 수 있는가”인지이다.

루칸 교수의 낙관적인 시나리오가 실현하는 미래는 충분히 가능하며, 저 또한 간절히 바랍니다. 인류는 더욱 안전한 AI를 개발하고, AI를 활용하여 사회의 다양한 문제를 해결해 나갈지도 모릅니다.

그러나 “최종 목표”에 도달하기까지의 “프로세스의 안전”이 보장되는 것은 아니며, 기술적 문제는 언젠가 해결될 수 있지만 사회나 제도가 그 해결을 감당할 수 있을지는 한정되어 있기 때문입니다. 이는 인공지능 연구자뿐만 아니라 경영자, 정책 입안자, 안보 분야에 종사하는 모든 리더가 마주해야 할 시간적 딜레마의 문제입니다.

AI의 진화를 “감속시키거나 가속화”라는 이원론적 논쟁으로만 치부하면 본질을 놓칠 수 있습니다. 중요한 것은 AI의 능력 향상, 방어 기술의 성숙, 법 제도 정비, 그리고 사회의 적응 능력이라는 여러 가지 다른 요소를 각기 다른 “변화 속도(속도)”로 입체적으로 파악하는 것입니다.

문제는 AI를 통제할 수 있는 미래가 올지 여부가 아닙니다. 그 미래가 시한이 다 되기 전에 우리가 도달할 수 있을지 여부가 핵심입니다.

이 “시간 역전”이라는 시간 축의 관점이 불확실성이 높아지는 현대에 기업 경영이나 국가 전략, 심지어 인류의 선택을 고민하는 데 중요한 나침반 역할을 할 것이라고 저는 확신합니다.