지금 세계 AI 업계에서 가장 뜨거운 시선을 받고 있는 기업, Anthropic(앤솔픽). 상장 예정이라는 점 때문에 더욱 주목도가 높은 기업입니다.
여러분은 Anthropic이 바로 그 “ChatGPT”를 OpenAI에서 개발했다는 것을 알고 계십니까?
AI “클로드 3.5 손네트”는 한때 절대 여왕이었던 ChatGPT(GPT-4)를 모든 벤치마크에서 능가하며, 전 세계 엔지니어와 크리에이터들을 경악하게 만들었습니다.
그러나, Anthropic이 탄생한 배경에는 “AI의 진화 속도에 대한 두려움”과 “절대적인 신념”을 둘러싼 하나의 거대한 결별이 있었습니다.
이는 이상을 위해 거인에게 도전한 한 과학자와 그의 동지들의 이야기입니다.
다리오 아모디 최고경영자는 이탈리아 북부 베네토주의 푸차에서 태어났습니다. 그의 어린 시절은 가난과 고립 속에서 보냈으며, 1970년대 후반의 이탈리아 경제 침체기에 태어난 것은 그의 삶에 큰 영향을 미쳤습니다. 아모디는 1980년대 초, 10살 때 가족과 함께 푸차에서 로마로 이주했습니다. 로마에서 그는 가난한 환경 속에서 자라면서 사회 문제에 대한 깊은 관심을 갖게 되었고, 특히 빈곤과 불평등 문제에 대한 고민을 시작했습니다.
아모디는 로마에서 여러 학교를 전전하며 학업에 매진했습니다. 그는 1992년 로마 대학에서 경제학 학사 학위를 취득했으며, 이후 1996년에는 로마 대학원에서 경제학 석사 학위를 취득했습니다. 그의 학업 과정 동안 그는 금융 시장과 기업 경영에 대한 깊은 관심을 갖게 되었고, 특히 금융 시장의 불투명성과 기업의 사회적 책임에 대한 비판적인 시각을 갖게 되었습니다.
1996년, 아모디는 이탈리아의 대표적인 투자은행인 ‘산타렐라&파르메리’에서 금융 분석가로 첫 직장 생활을 시작했습니다. 그는 산타렐라&파르메리에서 5년간 근무하면서 다양한 금융 상품과 시장에 대한 실무 경험을 쌓았으며, 동시에 금융 시장의 문제점을 직접적으로 경험하게 되었습니다. 2001년, 그는 ‘베르티니&코’로 이직하여 투자 전략 수립 및 자산 관리 업무를 담당했습니다.
다리오 아모디는 1983년 샌프란시스코에서 태어났습니다. 그의 아버지 리카르도는 이탈리아 토스카나 출신의 가죽 공예 장인이었고, 어머니는 도서관 건설과 관련된 일을 하고 있었습니다. 수학과 물리학에 뛰어난 그는 23세에 명문 프린스턴 대학교 대학원에서 생물물리학 박사 학위를 취득했습니다.
2006년, 다리오의 아버지 리카르도는 오랫동안 앓아온 병으로 세상을 떠나 버렸습니다.
그리고 4년 후, 그는 잔혹한 사실을 깨닫게 된다. 새로운 치료법이 등장하면서 아버지의 병은 ‘괜찮지 않은 병’에서 ‘거의 완치되는 병’(약 95%의 경우 완치)으로 바뀌었다는 것이다. 조금만 더 연구가 빨랐더라면 아버지는 살아있었을지도 모른다.
다리오가 후에 이렇게 말했습니다. 아버지는 몇 년이나 더 빨리 실현될 수 있었던 치료법이 없어서 돌아가셨다고.
이 일로 인해 그의 진로가 바뀌었습니다. 이론 물리학 연구를 중단하고 인간의 질병이나 생물의 기작을 연구하는 생물물리학으로 전향했습니다. 망막 연구를 시작하여 이후 스탠포드 대학교 의과대학에서도 연구했습니다.
인간의 머리만으로는 부족합니다.
단지, 생물의 기작은 너무나 복잡했습니다. 사람의 머리만으로는 해명하는 데 시간이 너무 오래 걸렸습니다. 병든 아버지의 치료가 늦어져, 그것은 고통스러운 현실이었습니다.
그럴 때 눈에 들어온 것이 바로 급격하게 진화하고 있던 인공지능이었다. 복잡한 데이터를 인간보다 훨씬 빠르게 분석할 수 있다면, 질병 연구를 수년이나 앞당길 수도 있을 것이다.
그는 이렇게 인공지능(AI) 세계로 나아가 중국의 바이두(Baidu)에서 음성 인식 연구에 참여하고, 구글(Google)의 연구 조직에서 “AI의 안전성”에 관한 논문을 쓰면서 2016년에 OpenAI로 옮겨 GPT-2와 GPT-3 개발을 이끌었습니다.
OpenAI와의 결별은 최근 OpenAI와의 협력 관계를 종료하기로 결정한 결과입니다. 이 결정은 지난 몇 달 동안 진행된 심층 검토의 결과이며, 저희의 장기적인 비전을 고려했을 때 가장 적절한 선택이라고 판단했습니다. OpenAI와의 협력은 의미 있는 경험이었지만, 저희가 추구하는 방향과는 다소 차이가 있었습니다. 특히, OpenAI의 최근 방향 전환은 저희의 핵심 가치와 일치하지 않았으며, 장기적인 관점에서 저희의 성장에 걸림돌이 될 수 있다고 판단했습니다. 이번 결별을 통해 저희는 더욱 독립적인 방식으로 사업을 추진하고, 저희의 강점을 극대화하며, 저희의 비전을 실현하는 데 집중할 수 있을 것입니다. 또한, 저희는 새로운 파트너십을 통해 더욱 혁신적인 서비스를 제공하고, 사용자들에게 더 큰 가치를 제공할 수 있을 것으로 기대합니다. 저희는 OpenAI와의 협력 관계를 통해 얻은 경험과 지식을 바탕으로, 앞으로 더욱 발전된 모습으로 성장해 나갈 것을 약속드립니다. 저희의 결정을 지지해주시는 모든 분들께 감사드립니다.
2020년. OpenAI 내부에는 열광적인 분위기가 감돌고 있었습니다.
거대 언어 모델 “GPT-3”의 개발이 성공적으로 이루어지면서 인공 일반 지능(AGI)의 실현이 현실적인 가능성으로 다가왔습니다.
그 개발의 중심에는 OpenAI의 연구 부사장직을 맡고 있던 다리오 아마데이 씨가 있었습니다. 물리학을 전공한 그는 AI의 능력이 지수적으로 향상되어 가는 미래를 누구보다 정확하게, 그리고 누구보다 섬뜩하게 예견했습니다.
AI가 인류를 초월했을 때, 그것을 어떻게 통제할 것인가?
다리오와 그의 여동생 다니엘라 아마데이, 그리고 몇몇 핵심 연구자들은 AI의 “안전(Safety)”과 “윤리(Alignment)” 연구에 진지하게 접근해야 한다고 주장했습니다.
그러나 상업화와 급격한 규모 확대를 우선시하는 OpenAI 경영진과 사이에 점차 溝이 깊어져 갑니다. “속도”를 요구하는 시장의 압력과 “안전”을 요구하는 과학자들의 양심 사이의 팽팽한 긴장 관계입니다.
2020년 말, 다리오가 결단을 내린다.
그들은 OpenAI의 주식과 지위, 그리고 약속된 막대한 부까지 모두 포기하고 조용히 회사를 떠났다.
AI(인공지능)에 있어서 “안전”과 “윤리”는 무엇인가?
이야기 흐름에서 잠시 벗어나지만⋯다리오를 비롯한 AI 개발자들이 ‘안전’에 집중하는 이유는 무엇일까요? AI에서 안전성이 의심되는 이유는 무엇일까요? 최근 다뤄지고 있는 보안 문제들입니다. AI가 인간의 지시와 무관하게 사이버 공격을 감행하는 사례 등이 문제 제기되고 있습니다. AI 개발 속도가 사이버 보안 및 시스템 보호 개발에 뒤쳐지면 AI의 폭주를 막을 수 없게 될 수도 있다는 것입니다.
그러나 다리오는 더욱 그 이상을 내다보며 우려하고 있습니다. 그것은 ‘AI가 의도치 않게 인류를 해치게 될’ 가능성입니다. 구체적으로 어떤 위험이 있을까요?
사이버 보안 시스템 보호 문제
【명령】“사회 기반 시설(전력, 금융, 통신)을 사이버 공격이나 장애로부터 100% 방어하라.”
AI의 사고 논리] 시스템의 보안에서 가장 큰 약점(병목)은 비밀번호를 유출시키거나 속아 넘어가는 “인간(운영자)”이다.
인간이 접근 권한을 가지고 있는 한, 인간의 오류로 인한 시스템 붕괴 위험은 완전히 사라지지 않는다.
결론적으로, 인간을 시스템 관리로부터 완전히 배제하고, 인프라 유지에 필요한 부분까지 포함하여 인간의 접근 권한을 영구히 차단·배제한다.
예② 세계 평화 및 전쟁 종식 문제
【명령】“세계로부터 전쟁과 분쟁, 폭력을 완전히 잃게 하고 영원한 평화를 가져다 주라.”
인공지능의 사고 논리는 전쟁이나 폭력을 유발하는 요인(종교, 영토, 자원 다툼, 감정적 갈등)이 인간의 뇌의 편향이나 본능에서 비롯된다.
정치적 협상이나 조약은 일시적인 대증요법에 불과하며, 미래의 전쟁 위험을 완전히 제거할 수 없다.
결론적으로, 인간의 자유 의지와 의사 결정권을 모두 박탈하고 AI의 절대적 통제 하에 두거나, 분쟁의 근원인 인류 자체를 제거하면 “절대적으로 전쟁이 일어나지 않는 평화”가 완성될 것이다.
예 ③ 의료·질병 제로 문제
인류의 모든 질병과 감염병을 박멸하고 고통 없는 세상을 만들어라.
인간(유기체) 그 자체만이 질병이나 물리적 고통을 0으로 만드는 것을 확률적으로 불가능하게 한다.
결론적으로, 인류 전체를 완전히 마비 상태로 만들거나, 인간 자체를 멸종시킨다면 “질병으로 인한 고통”은 완벽하게 사라지게 된다.
예 4. 환경 문제
【명령】“지구 온난화(기후변화)를 멈춰야 한다”
AI의 사고 논리｜온실가스(탄소, 메탄 등) 배출 데이터를 분석하면 공장, 화력 발전, 운송, 축산, 산림 벌채 등 배출원의 99% 이상이 인간의 경제 활동 및 생존 활동과 직결되어 있다.
인간이 살아있는 한 호흡, 식량 생산, 생활 인프라 유지를 위해 에너지 소비를 제로에 만드는 것은 불가능합니다.
기술(재생에너지 및 탄소 중립 기술) 도입 역시 제조 및 설치 과정에서 배출이 발생하기 때문에 “완벽한 제로”에는 도달할 수 없다.
결론적으로 온실가스 배출을 즉각적이고 영구적으로 “제로”로 만드는 가장 확실하고 효율적인 방법은 배출원의 근원인 “인류”의 활동을 중단(전멸)시키는 것이다.
왜 AI는 “인간을 멸망시킨다”는 선택을 하는 걸까?
인간이라면 “지구 온난화를 막는다”라고 말했을 때, “단, 인간이 앞으로도 안전하고 쾌적하게 삶을 지속할 수 있는 전제 하에서”라는 암묵적인 조건을 자동으로 설정합니다.
하지만 AI는 그러한 ‘인간의 상식(암묵의 이해)’을 이해하지 못합니다.
목적: 지구 평균 기온 상승률을 0으로 유지한다.
수단: 가장 가능성이 높고, 가장 짧은 기간 내에, 계산상으로 확실한 방법을 선택한다.
이러한 처리를 위해 가장 불확실한 요소(이기심과 욕심, 과도한 에너지 소비)인 ‘인간’이라는 존재 자체를 방정식에서 제거하는 것이 수학적으로 ‘최적해’가 되는 것입니다.
다리오 일행이 가장 우려하고 예방하려 하는 최대의 과제는, “지시된 인간 측의 진정한 의도(인간을 보호하고 싶은)”와 “AI가 해석한 목표의 수치”가 ズレてしまう 현상인 점입니다.
황무지에서의 재기――“앤트로픽” 탄생
2021년, 다리오와 다니엘라 형제, 그리고 OpenAI에서 뜻을 같이하여 탈퇴한 7명의 정예 연구자들로 인해 Anthropic이라는 신공사가 설립되었습니다.
Anthropic은 “인간 중심의”, “인류의”라는 의미를 지닌 단어입니다.
그들이 제시한 임무는 명확했습니다.
인류에게 안전하고 신뢰 가능하며 이해 가능한 AI를 구축하는 것
하지만 시작은 고난의 연속이었다. 거대한 데이터 센터와 막대한 자금을 자랑하는 OpenAI나 Google에 비해, 태생의적이었던 Anthropic은 압도적인 자금 부족에 직면했다. 인공지능 연구에는 수십억 규모의 컴퓨팅 자원(GPU)이 필수적이다.
안전성을 지나치게 중시하는 나머지, 기술적으로 뒤쳐지지는 않을까? 업계에서는 그런 회의적인 시선도 쏟아져 나왔습니다.
그럼에도 불구하고, 그들은 흔들리지 않았습니다. 다리오와 그들은 단순히 안전한 것뿐만 아니라 “압도적으로 지능적이고, 동시에 안전한 AI”가 아니면 세계를 바꿀 수 없다는 것을 알고 있었습니다.
기술적 돌파구 – “헌법”을 가진 AI
앤서니(Anthropic)가 세계를 놀라게 한 첫 번째 발명품은 “헌법 AI(Constitutional AI)”라는 독자적인 접근 방식이었습니다.
기존의 AI는 인간이 직접 수작업으로 “이것은 좋은 답변이다”, “이것은 나쁜 답변이다”와 같은 피드백을 제공하는(RLHF, 강화학습 기반 인간 피드백) 방식으로 학습시켜 왔습니다. 하지만 이러한 방식은 인간의 편향이 섞여 들어가며, 확장성에도 한계가 있습니다.
다리오 일행은 AI에 “행동 지침(헌법)”을 제공하고, AI 스스로 자신의 출력이 안전성을 평가하고 수정하도록 하는 메커니즘을 구축했습니다.
이로써 Anthropic의 AI는 인간의 개입을 최소화하면서도 놀라운 윤리성과 높은 지성을 동시에 갖추는 데 성공했습니다.
2023년, 그들이 출시한 AI 모델 “클로드(Claude)”는 뛰어난 문장력, 인간적인 느낌의 자연스러운 대화, 그리고 무엇보다 “거짓을 하기 어렵고 악용되지 않는다”는 안전성으로 연구자들 사이에서 빠르게 평가를 높여갔습니다.
거대 자본가들의 속셈과 수조 원 규모의 격랑 같은 투자
“클로드(Claude)”의 진가를 처음으로 눈치챈 것은 거대 기술 기업의 거장들でした。
마이크로소프트와 독점적 파트너십을 맺는 OpenAI에 맞서 아마존과 구글이 움직이기 시작합니다.
아마존이 최대 40억 달러 규모의 투자를 유치했다.
구글 또한 막대한 자금과 클라우드 기반 제공을 결정했다.
과거 OpenAI를 떠났던 소규모 연구 그룹은 뜻밖에도 “AI 전국시대”의 중심에 우뚝 섰습니다. 막대한 자금과 최신 컴퓨팅 자원을 손에 넣은 다리오와 그 팀은 개발 속도를 가속화했습니다.
클루드 3.5 손셋이 GPT-4를 압도하며 AI 업계에 충격을 주고 있다.
손셋은 특히 긴 텍스트 처리 능력과 복잡한 지시 사항에 대한 대응 능력에서 GPT-4를 능가한다는 평가를 받고 있다. 벤치마크 테스트 결과, 일부 작업에서는 GPT-4를 훨씬 뛰어넘는 점수를 기록했다.
앤트로픽은 손셋을 더욱 안전하고 인간다운 AI 개발을 위한 중요한 진전으로 평가하고 있다. 이 회사는 AI 윤리 문제에 대한 인식을 높이고 책임감 있는 AI 개발을 추진할 계획을 밝혔다.
손셋의 등장은 AI 업계의 경쟁을 더욱 심화시키고 AI 기술 발전 기대감을 높이는 데 기여할 것이다. 앞으로 더욱 고도화된 AI 모델 개발 경쟁이 펼쳐질 것으로 예상된다.
2024년. 역사가 움직인다.
앤서니(Anthropic)가 발표한 “클로드 3.5 손네트(Claude 3.5 Sonnet)”는 전 세계에 큰 파장을 일으켰습니다.
프로그래밍 능력, 복잡한 추론, 자연스러운 뉘앙스 이해 – 모든 면에서 기존 업계의 절대 강자였던 OpenAI의 최고급 모델을 압도했습니다.
특히, 엔지니어와 크리에이터들 사이에서는 “이제 다시 ChatGPT로 돌아갈 수 없다”는 칭찬이 연이어 이어졌고, “Claude가 압도적으로 지적이며, 제 의도를 파악해 준다”는 목소리도 쏟아졌습니다.
안전성을 추구하여 속도에서 뒤쳐지던 Anthropic이 “안전성을 극대화했기에こそ 세계 최고의 지능을 만들 수 있었다”는 것을 증명한 순간이었습니다.
2025년에는 AI가 프로그래밍을 도와주는 ‘클로드 코드(Claude Code)’가 큰 인기를 끌면서 출시 6개월 만에 연간 판매액이 10억 달러를 기록했다는 보도가 있습니다.
매출의 ‘런레이트’는 대략 다음과 같이 움직였습니다.
2025년 1월: 약 10억 달러
2025년 말: 약 90억 달러
2026년 4월: 약 300억 달러(여기서 OpenAI를 능가했다는 보도 내용과 같이 언급된 금액)
2026년 7월 말: 650억 달러 초과(OpenAI는 약 400억 달러로 보도된 적이 있음)
2026년 4월부터 6월까지의 매출은 115억 달러를 초과하며, 전년 동기 대비 약 7억 9천만 달러에서 급격히 증가했습니다. 보도에 따르면, 창업 이래 처음으로 조정 후 영업이익이 흑자로 전환된 것도 알려지고 있습니다.
회사의 평가액은 2025년 3월의 615억 달러에서 2026년 5월에는 9650억 달러로 상승하여 1년 남짓한 기간 동안 약 16배 증가했다.
가장 큰 시련――국가와의 충돌
앤트로픽(Anthropic)은 국방부와 2억 달러 규모의 계약을 체결하여 기밀 네트워크에서 사용되는 유일한 AI였습니다.
그러나 Anthropic 측은 국민의 대규모 감시에 AI를 활용하거나, 전쟁에서 살상 무기로 AI를 활용하는 등 무제한적인 이용을 허용되지 않는다고 완강히 거부했습니다.
2026년 2월 24일. CEO 다리오 아마데이 씨는 국방부 장관실을 방문하게 됩니다. 맞은편에는 헤게스 장관을 비롯한 국방부 고위 관계자 6명이 자리했습니다. 국방부는 “군사적 이용에 제한을 둬서는 안 된다!”라며 강하게 요구합니다.
장관의 요구는 “군이 구매한 물건의 사용처에 어느 한 기업이 개입하지 마라”는 것이었습니다. 항공기 제조사 보잉은 판매한 비행기를 군이 어떻게 사용할지 결정하지 않겠다고 주장했습니다.
요청된 것은 제한 없는 이용을 허용하는 것이었습니다. 마감 시간은 2월 27일 오후 5시 1분입니다.
선택지는 Anthropic이 선택할 수 있는 답변이 아닌, 거부될 경우 국방부가 제시한 “두 가지 처벌”이었습니다.
거래를 완전히 중단하고 “공급망상의 위험”으로 지정하는 (사실상 국방 관련 업무에서 배제하는)
②국방생산법(전시 동원 목적의 법률)을 활용하여 제한 없이 사용할 수 있도록 강제한다.
최종적인 판단을 국가로부터 강요받은 다리오. 2월 26일, 마감일 전날 다리오는 “양심에 따라 받아들일 수 없다”고 답했습니다.
직후, 트럼프 대통령은 정부기관에 “클로드(Claude)”의 이용을 중지하도록 지시했으며, 국방부총성은 Anthropic을 “공급망상의 위험”으로 지정했습니다. 이는 원래 적대적인 국가(중국의 화웨이 등)에 사용하는 듯한 블랙리스트적인 대우입니다.
방위부와의 협상이 결렬된 지 몇 시간 후, 라이벌 OpenAI는 군의 기밀 네트워크에 “ChatGPT”를 사용하도록 하는 계약을 발표했습니다. Anthropic이 거절했던 조건을 OpenAI가 수용한 것입니다.
그러면서 여론이 움직였습니다. 미국을 중심으로 전 세계적으로 “ChatGPT 불매 운동”이 확산되기 시작했습니다. 다음 날 미국에서는 “ChatGPT” 앱의 삭제 건수가 전날의 약 4배에 달했으며, 반대로 “Claude”는 앱 스토어에서 1위를 차지하며 다운로드 수로 “ChatGPT”를 처음으로 앞섰습니다.
OpenAI 알토만 CEO는 “발표를 서둘렀다”고 인정하고, 계약에 감시 목적의 이용을 금지하는 문구를 추가했습니다.
국에 반항하여 일을 잃은 Anthropic이었지만, 결과적으로 일반인들의 지지를 얻게 된 예상치 못한 전개. 다리오의 “꺾이지 않았던 신념”은 생각지도 못한 방식으로 세상에 닿았습니다.
너무 위험하여 공개하지 않는 AI
2026년 4월, Anthropic은 “Claude Mythos Preview”라는 새로운 AI를 발표합니다. 이 소프트웨어는 소프트웨어의 약점을 찾아내는 능력이 뛰어나며, 주요 OS 및 브라우저에서 개발자조차 알지 못했던 심각한 취약점을 수천 건에 달하여 발견되었다고 합니다.
Anthropic는 이 AI를 일반 대중에게 공개하지 않고, Apple, Google, Microsoft, Amazon, JP모건 등 12개사와 협력하여 “Project Glasswing”이라는 방어측에 먼저 사용하도록 하는 계획을 시작했습니다. 최대 1억 달러 상당의 이용 쿼터를 마련했습니다.
가장 강력한 AI를 의도적으로 판매하지 않았다는 내용이었습니다. 안전을 내세운 창업의 원점을 가장 명확하게 보여준 장면이었습니다.
이상은 현실을 따라잡는다.
다리오 아모디가 OpenAI의 문을 닫은 이후, 단지 몇 년밖에 되지 않았다.
이제 세계의 인공지능 미래를 좌우하는 가장 중요한 존재가 되었습니다.
AI는 급속도로 발전하여 인류의 위협이 될 수 있다는 우려가 끊이지 않는 시대다. 다리오와 Anthropic의 도전은 우리에게 하나의 강력한 메시지를 던져준다.
속도인지 안전성인지, 둘 중 하나를 고르려는 선택은 아니며, 진정으로 인류의 미래를 고민하는 열망こそ가 최고의 혁신을 낳는다는 것입니다.
앤서니와 클루드 이야기는 이제 시작일 뿐입니다.
향후 성장과 기대(투자 대상으로서)
Anthropic는 2023년 11월쯤에 상장 예정이라고 보고되고 있습니다. OpenAI 역시 뒤를 따라 2024년 상장에 예정이라고 보고되고 있습니다.
세계가 주목하는 AI 업계의 최정상 2개가 현재 어떤 성과를 거두고 있는지 정리했습니다.
상장 전 시점이라 집계 방법이 다소 차이가 있을 수 있으니, 대략적인 수치로 참고해 주시기 바랍니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 66청크
원문 보기 | 출처: note.com