독자 여러분, 안녕하세요. Capitalist Journal입니다.
지난번 제3회에서는 AI 업계의 절대 강자 “OpenAI”가 어떻게 “비영리 이상”에서 “130억 달러 규모의 거대한 상업 제국”으로 변모하게 되었는지, 그 격동의 역사와 내부 쿠데타의 진실을 파헤쳤습니다. Microsoft라는 거대 자본과 결합하여 ChatGPT로 세계를 열광케 한 뒤에는 “AI의 안전성”과 “비즈니스 성장 속도”라는 상반된 두 가지 이념의 격렬한 충돌이 있었습니다.
실제로, 2023년의 쿠데타 사건(샘 알토만 해임 사건)이 일어날 훨씬 이전 시점입니다. OpenAI의 상업주의로의 기울음에 일찍이 위협을 감지하고 조직을 떠난 일련의 천재 연구자들이 있었습니다.
이번 제4회에서는 OpenAI가 “대탈출”을 성공적으로 이끌어낸 반역자들로 설립되어, 현재 목표 평가액 2조 달러(약 300조 원)라는 桁外れ(けたがいれ)의 IPO조차 시도하는 최강의 경쟁 기업, Anthropic(앤솔픽)의 역사와 철학에 대해 심층적으로 다룰 것입니다.
대규모 탈출: 2021년, OpenAI의 상업주의적 성향에 대한 위기감을 느낀 연구자들의 이탈
앤서니(Anthropic)의 이야기는 2021년 OpenAI 내부의 “침묵의 분열”로 시작됩니다.
다리오 아모디(당시 연구 담당 부사장)와 그의 여동생 다니엘라 아모디(당시 안전·정책 담당 부사장)는 당시 OpenAI의 연구 부문을 이끌었던 핵심 멤버였습니다. 이들은 AI의 능력이 지수적으로 향상됨에 따라 인류에 해를 끼치지 않도록 통제하는 “AI 정렬(안전성 확보)”의 세계적 권위였습니다.
그러나, Microsoft로부터 거액의 투자를 받은 OpenAI는 점차 제품화와 이익 추구를 위해 가속 페달을 밟아 나갑니다. “이대로라면, AI가 충분히 안전하다고 확인되기 전에 강력한 모델이 세상에 나와 버릴 수 있다.”
아모데이 자매를 비롯하여 약 15명의 탑 연구자들은 샘 알토만 등 경영진의 방향성에 강력히 반대했습니다. 하지만 거대 자본의 논리를 멈출 수 없었고, 그들은 2021년에 OpenAI를 사임했습니다. “진정으로 안전하고, 인간이 통제 가능한 AI”를 만들기 위한 신회사 Anthropic을 설립한 것입니다. 이는 단순한 스핀오프가 아니었으며, OpenAI의 방식에 대한 강렬한 반박으로서의 “반란”이었습니다.
2. 헌법AI: 인간의 도덕관을 통합하는 혁신적인 접근 방식
독립적인 주체들이 직면한 것은 “AI가 거짓말을 하거나 차별적인 발언을 하거나 위험한 지시(무기 제작 방법 등)를 따르도록 막을 수 있는 방법은 무엇인가?”라는 AI 업계 최대의 난제였습니다.
당시 주류(OpenAI 등이 채택하고 있는 방식)는 “RLHF(인간 피드백 기반 강화 학습)”라고 불리는 것으로, 이는 AI의 답변을 대량의 인력에 의해 “좋다/나쁘다”로 평가하여 AI를 훈련시키는 방법입니다. 하지만 이 방식에는 “인간 평가자의 자기 편향이 섞일 수 있다”는 “인간의 한계를 넘어서는 고도화된 내용을 평가할 수 없다”는 치명적인 약점이 있습니다.
그러하자, 앤트로픽(Anthropic)이 만들어낸 것이 바로 그들의 가장 강력한 무기인 “헌법 AI(Constitutional AI)”라는 혁신적인 접근 방식이다.
- 헌법 AI의 작동 방식은 무엇인가? 그들은 AI에게 유엔 세계인권선언이나 애플 데이터 프라이버시 지침 등을 기반으로 한 “다수의 원칙(헌법)”을 제시하고, AI 스스로 “자신의 답변이 헌법에 위배하지 않는지”를 확인하여 스스로 수정하도록 한다.
이 혁신적인 접근 방식을 통해 Anthropic은 “확장 가능하면서도 매우 윤리적이고 통제 가능한 AI”를 개발하는 데 성공했습니다.
3. 클로드의 탄생: 아마존과 구글로부터의 거액 투자와 수요 폭발
클로드(Claude)는 2023년 3월에 Anthropic에서 출시한 대규모 언어 모델(LLM)입니다. OpenAI의 ChatGPT가 시장을 선도하던 상황에서, 클로드는 아마존과 구글로부터 각각 10억 달러, 15억 달러라는 거액의 투자를 유치하며 빠르게 성장했습니다.
특히, 클로드는 뛰어난 성능과 안전성에 대한 평가를 받으며, 기업 및 개인 사용자들의 폭발적인 수요를 견인했습니다. 초기에는 기업용 솔루션으로 제공되었지만, 곧 일반 사용자들에게도 공개되어 큰 인기를 얻었습니다.
클로드는 특히, 긴 텍스트를 처리하고 요약하는 능력, 창의적인 콘텐츠 생성 능력, 그리고 다양한 언어 지원 등에서 강점을 보였습니다. 이러한 강점 덕분에, 클로드는 고객 서비스, 콘텐츠 제작, 교육 등 다양한 분야에서 활용되고 있으며, 앞으로 더욱 다양한 분야에서 활용될 것으로 기대됩니다.
또한, 클로드는 Anthropic의 ‘Constitutional AI’라는 기술을 통해 윤리적인 문제에 대한 대응 능력이 뛰어나다는 평가를 받았습니다. 이는 클로드가 단순히 성능만 갖춘 LLM이 아닌, 사회적으로 책임감 있는 AI 모델로 자리매김하는 데 중요한 역할을 했습니다.
이러한 “안전하고 통제 가능한” 특성은 비즈니스 세계에서 압도적인 강점으로 변화합니다. 그들이 개발한 생성 AI 모델 “클로드(Claude)”는 프로그래밍이나 문장 요약에서 ChatGPT에 匹敵하거나 능가하는 성능을 보이며, “절대 허위 정보를 줄인다” “기업의 기밀 데이터를 학습에 사용하지 않는다”는 철저한 안정성을 가지고 있었습니다.
이를 주목한 것은 OpenAI(＝마이크로소프트 연합)의 독주를 허용하지 않아야 한다고 경계하고 있던 거대 IT 기업들입니다.
- 거대 자본의 합류: 아마존은 최대 40억 달러(약 6000억 엔)라는 거액의 투자를 유치하여 자사의 클라우드(AWS)의 핵심 AI로 클로드(Claude)를 도입했습니다. 구글 역시 약 20억 달러의 추가 투자를 실시했습니다.
씁쓸하게도, 상업주의를 싫어하며 독립을 선택했던 Anthropic 역시 최첨단 ‘계산 능력(NVIDIA의 GPU)’을 확보하기 위해 아마존이나 구글과 같은 거대 자본과 손을 잡아야 하는 입지를 벗어나게 됩니다. 하지만, OpenAI의 함정을 피하기 위해 특정 주주에게 경영권을 쥐어주지 않는 ‘공공선 기업(Public Benefit Corporation)’이라는 특수한 기업 형태를 유지하며, 자체적인 거버넌스를 지켜내고 있습니다.
4. 독자적인 포지셔닝: 단순한 ‘똑똑함’뿐만 아니라 “신뢰할 수 있는 AI”로 나아가기
현재 클루드는 전 세계의 대기업, 금융기관, 법률事務所 등으로부터 뜨거운 지지를 얻고 있습니다. 규정 준수 및 정보 유출에 매우 엄격한 엔터프라이즈(기업용) 시장에서는 “똑똑하지만 가끔 오작동하는 AI”보다 “투명하고 안전 기준(헌법)에 따라 정확하게 작동하는 AI”가 더 요구되고 있기 때문입니다.
결코 단순한 거품이 아닙니다. 이는 전 세계 비즈니스가 인공지능(AI)을 본격적으로 도입하는 시대로 접어들면서, Anthropic가 가진 “안전성”이라는 브랜드가 최강의 경제적 가치로 변모하고 있음을 증명하는 것입니다.
다음 회차: 정치적 올바름(PC)을 싫어하고 다른 길을 제시한 일론 머스크의 “xAI”로
Anthropic는 AI의 폭주를 막기 위해 “헌법”이라는 윤리적 제약을 AI에 통합하여 성공을 거두고 있습니다. 그러나 이 “도덕적인 AI”라는 접근 방식에 대해 실리콘밸리 일부에서는 격렬한 비판의 목소리도 나오고 있습니다.
AI에 지나치게 억지스러운 정치적 올바름(PC)을 강요하는 것은 언론 통제이며, 진실 추구를 저해한다. ‘woke(깨어있는)한’ AI는 오히려 인류의 위협이다.
그는 짖어댔고, Anthropic이나 OpenAI와는 완전히 다른 “세 번째 길”을 강제적으로 개척하려 하고 있습니다. 바로 OpenAI의 공동 창업자이자 동시에 앙숙으로 헤어진 이론 무스크입니다.
다음 회(제5회)에서는 일론 머스크가 이끄는 ‘xAI’의 역사와 야망에 파고듭니다. 수만 기의 NVIDIA GPU를 대량 구매하여 세계 최대 규모의 슈퍼컴퓨터를 구축하고 목표로 삼는 ‘우주의 진실 해명’은 무엇일까요? 이단아의 구상으로 시작하는 AI 산업의 파괴와 창조의 이야기, 많은 기대를 부탁드립니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 17청크
원문 보기 | 출처: note.com