AI는 더 가능성 있는 문서를 생성할 수 있는 반면, 처리 대상 언어의 의미를 이해하고 있는 것은 아니라는 점을 예로 든 “확률적 오리”라는 용어가 있습니다. 그런 확률적 오리라는 비유를 제안한 논문의 공저자가 자세한 이론과 흔한 오해에 대해 설명하고 있습니다. “AI”는 확률적 오리(Stochastic Parrot)가 아닙니다. 🦜 | by Margaret Mitchell | Medium https://medium.com/@margarmitchell/no-ai-is-not-a-stochastic-parrot-a99e57766bed
방대한 텍스트 데이터를 기반으로 구축된 AI는 “언어 모델”이라고 불리며, 대규모 뉴럴 네트워크는 일견 인간과 구별할 수 없는 문서를 생성할 수 있습니다. 그러나 뉴럴 네트워크 언어 모델은 인간처럼 문장의 의미를 이해하는 것이 아니라 통계적 상관관계에 기반하여 답변하는 경우가 많기 때문에 AI 시스템이 실제로 의미를 이해하고 있는지는 주어진 작업에 대한 성능에서 판단하기 어려워지고 있습니다. AI는 인간과 같이 언어의 의미를 “이해”하고 있는가? - GIGAZINE
과거의 대규모 언어 모델(LLM)의 특성을 나타내는 용어가 “확률적 오두막(Stochastic Parrot)”입니다. 이 용어는 “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”(확률적 오두막의 위험성: 언어 모델은 너무 커질 수 있는가?)라는 2021년 AI 연구 논문에서 제시되었습니다. 오두막은 인간의 말을 듣고 그것을 따라 하는 능력은 있지만, 말하고 있는 내용의 의미를 이해하지 못하는 것처럼, LLM은 의미를 고려하지 않고 단어와 문장을 확률적으로 연쇄적으로 생성하는 것뿐이므로 단순한 확률적 오두막 답변일 뿐이라고 의미합니다. 그런 확률적 오두막에는 흔히 오해받는 포인트가 있는데, 논문의 공저자인 마가렛 미첼(Margaret Mitchell) 교수는 2026년 3월, “AI는 확률적 오두막이 아닙니다(AI is not a stochastic parrot)”라는 제목의 블로그를 게시했습니다.
미첼 氏에 따르면, 논문에서 확률적 빠새(확률적 오ウム)라 부르는 것은 LLM이며, 인공지능이 아니라고 합니다. 종종 인공지능 비판론자들로부터 “인공지능은 추론을 하고 있지 않고 단순히 확률적 빠새에 불과하다”고 비판받지만, 이는 LLM을 인공지능과 동일시하는 카테고리 오류의 결과라고 미첼 氏は 지적합니다. 미첼 氏에 따르면, 현재의 인공지능 시스템에는 LLM에 사전에 정해진 규칙이나 결정론적인 프로그램, 각종 알고리즘, 언어 처리를 하지 않는 기계 학습 모델 등을 조합한 것들도 있기 때문에, LLM을 인공지능 전체와 동일시하는 것이 확률적 빠새라는 비유의 오해로 이어질 수 있다고 합니다.そもそも 확률적 빠새는 LLM의 메커니즘에 기반하여 고안된 비유입니다. LLM의 훈련은 “확률적 경사 하강법(SGD)”이라는 형태로 확률성을 이용하여 텍스트 기반의 언어의 통계적 표현을 구축합니다. LLM은 텍스트를 문자적으로 재생하는 것이 아니라, 학습한 표현에 따라, 그 이전의 텍스트에 이어서 가능성이 높은 토큰을 생성합니다. “안녕하세요”라고 말했다는 오리가 “コンニチハ”라고 되물어내는 것처럼, 전에 이 단어가 나타났을 때 이 단어를 계속하는 것을 반복하는 것이 LLM의 특징이며, 인간이 쓴 텍스트가 학습의 원료가 되기 때문에, LLM이 확률적으로 출력하는 텍스트도 인간이 쓴 것처럼 보이는 것입니다. LLM의 메커니즘은 무엇입니까? - GIGAZINE
미첼(Mitchell) 氏は、확률적 오ウム(Probabilistic Parrot)라는 비유가 LLM의 무능함을 의미하는 것이 아니라고 강조하고 있습니다. 확률적인 처리와 학습한 언어 패턴의 재구성(Reconstruction)을 결합하는 것은 자연스럽고 인간다운 문장을 생성하는 데 매우 강력한 메커니즘입니다. LLM이 실질적이었거나 어려운 과제를 수행할 수 있는 것은 이 비유와 모순되지 않습니다. 오히려 확률적 오ウム(Probabilistic Parrot)라는 용어를 AI가 무능함을 설명하는 예시로 사용하는 것도, AI가 능해서 확률적 오ウム(Probabilistic Parrot)라는 비유를 부정하는 것도 잘못되었습니다. 미첼(Mitchell) 氏は, AI를 설명하기 위해 사용되는 “이해(理解), 추론(推論)”과 같은 용어에도 주의를 촉구합니다. 이러한 용어들은 복잡한 메커니즘을 직관적으로 설명하기 위한 “비유(比喩)”로서 유용하지만, 비유가 전문 용어로서 지나치게 정착된 결과, 실제 현상을 나타내는 말과 혼동될 수 있습니다. 또한, AI의 내부 처리(内部 처리)에 관한 논의에서 오해나 의사소통의行き違い(行き違い)와 같은 문제를 회피하기 위해서는 “AI”라는 용어를 사용할 때, 어떤 시스템을 지칭하는지, 그리고 그것들이 구체적으로 무엇을 하고 있는지 명확히 해야 한다는 주장을 미첼(Mitchell) 氏は하고 있습니다. LLM의 능력에 대한 오해를 줄이기 위해, AI 기술의 발전과 한계를 정확하게 이해하는 것이 중요하다고 강조합니다.
원문 보기 | 출처: Gigazine