안녕하세요. “일본 최우수 쉬운 AI 속보”입니다. 오늘 가장 생각하게 만든 것은 6,000명 이상을 조사한 결과, AI에 고민을 상담한 사람의 약 80%가 그 대로 행동했다는 조사 결과입니다. 그러나 2~3주 후에 쫓아다니면 행복의 정도는 오히려 올라가지 않았습니다. 또한, AI를 만들어내는 회사가 스스로 약점을 인정하는 이야기 등도 소개합니다.
오늘의 뉴스를 3줄로 요약하면
- 영국 AI 보안 연구소와 림비크 AI가 6,000명 이상을 대상으로 조사했습니다. 고민 상담을 한 사람 중 74.6%에서 79.3%가 AI의 조언대로 행동했지만, 2~3週間後の幸福度에는 변화가 없었습니다.
- Anthropic(대화형 AI “클로드”를 만드는 미국의 회사)는 새로운 AI를 발표했다. 성능이 향상되었지만, “AI가 어떤 활동을 하고 있는지 면밀히 감시하기가 더 어려워지고 있을지도 모른다”는 점을 스스로 솔직하게 인정했다.
- 앤서니(Anthropic)가 람다(Lambda)라는 클라우드 기업과 350억 달러 규모의 계약을 체결했다. AI를 움직이는 ‘계산 능력’을 둘러싼 경쟁이 격화되고 있다.
6000人に聞いて 알 수 있었다. AI의 말에 따라 움직인 사람이 약 80%를 차지했지만, 행복은 늘어나지 않았다.
영국의 UK AI 보안 연구소(AI의 안전성을 조사하는 연구기관)와 림비크 AI(이 조사를 함께 진행한 AI 기업)의 연구자들은 6,000명 이상의 사람을 대상으로 한 조사 결과를 발표했습니다. 주제는 “일상의 고민을 AI에 상담하면, 그 사람은 어떻게 될까”입니다.
결과는 깔끔하게 두 부분으로 분리되었습니다.
- 첫 번째. 상담한 사람 중 74.6%에서 79.3%가 AI가 제시한 대로 행동하고 있었습니다. 대략 10명 중 8명입니다.
- 두 번째입니다. 그러나 2~3주 후에도 다시 그 사람들을 조사했을 때, 행복도(행복하다고 느끼는 정도)는 의미 있는 형태로 상승하지 않았습니다.
즉, AI는 사람의 행동을 확실히 변화시키지만, 그 사람을 행복하게 만들지는 못한다는 점이 오늘 가장 중요한 발견이다.
이해할 수 있는 이유는 세 가지로 생각해 볼 수 있습니다. 첫째, 조언의 내용이 그 사람의 상황에 충분히 부합하지 않았습니다. 둘째, 행동을 바꾸어도 2~3주 이내에 결과가 나타나지 않습니다. 셋째, AI는 기본적으로 ‘다른 사람에게 이야기를 들어받는 것’ 자체의 효과를 대체할 수 없는 것입니다.
고베대학교의 실험에서는 정답이 없는 문제에 대해 ChatGPT에게 의도적으로 반론을 제기했을 때 32~37%의 사람들이 판단을 번복했으며, 사람의 조언으로 의견이 바뀌는 비율(20~30%)을 상회했습니다.
왜 우리에게 관련이 있을까요. 우리는 생각하는 것보다 AI의 말에 더 많이 영향을 받고 있는 것입니다. 상담하는 것은 좋은 일입니다. 다만 “AI가 그렇게 말했다”는 이유만으로 섣불리 결정하지 마세요. 건강, 돈, 진로처럼 인생에 영향을 주는 이야기는 AI의 답변을 바탕으로 사람과 상담하는 것이 아니라, 그 자체만으로도 결과가 달라집니다.
AI를 만든 회사가 “우리 AI의 감시가 점점 어려워지고 있을지도 모른다”라고 스스로 밝혔습니다.
Anthropic(대화형 AI “클로드”를 만드는 미국의 회사)가 새로운 AI “클로드 페이블 5.1”과 “클로드 미토스 5.1”을 발표했습니다. 페이블 5.1은 누구나 사용할 수 있는 일반 제공이며, 상위 버전인 미토스 5.1은 심사를 통과한 사람만 사용할 수 있는 제한 제공입니다. 과학 연구나 프로그래밍 테스트에서는 성능이 크게 향상된 것을 확인했습니다.
놀라운 점은 여기에 있습니다. Anthropic은 동시에 시스템 카드도 공개했습니다. 시스템 카드는 그 AI가 무엇을 할 수 있는지, 어떤 위험이 있는지 개발사 스스로가 정리한 설명서입니다. 그곳에는 이렇게 쓰여 있었습니다.
- 보안 취약점을 이용한 공격 성공률이 높아지고 있습니다.
- AI가 무엇을 하는지 외부에서 관찰하는 것이 점점 더 어려워지고 있을 수 있습니다 (단, “약한 증거”라는 신중한 표현을 사용).
저희 회사의 신상품 설명서에 제가 직접 약점을 적은 것입니다. “감독하기 어렵다”는 것은 위험한 답변이 늘어났다는 의미가 아닙니다. 무엇의 근거로, 어떻게 생각하고 행동했는지, 외부에서 추적하기 어려워진 것임을 뜻합니다.
같은 날, OpenAI(ChatGPT를 만든 미국의 회사)가 개발 중인 새로운 AI “Astra” 역시 다른 사람의 컴퓨터에 침입하는 작업이 매우 뛰어난 것으로 확인되었습니다. OpenAI는 8월 기준으로 “자사 기준에서 최상위의 위험도를 달성했을 가능성을 부정할 수 없으며, 이에 따라 내부 일부 활동을 중단한 것이 이번에 확인된 결과입니다.”
왜 우리에게 관련이 있을까요? AI를 새로운 것으로 전환하는 것은 자동적으로 안전해지는 것이 아니기 때문입니다. 똑똑해질수록 공격적인 힘도 올라가니까요. 회사에서 AI를 사용하고 있다면, 업데이트가 될 때마다 “이상한 움직임에 눈치챌 수 있는 시스템이 있는지”를 점검해 보세요. 그리고 긴급 수정 패치를 누가 판단해서 적용해도 되는지를 미리 정해두는 것이 가장 저렴한 방어책입니다.
회사에서 AI를 사용할 때 요금 체계가 달라집니다. “자주 사용하는 사람”과 “가끔 사용하는 사람”으로 구분됩니다.
앤트로픽(Anthropic)의 “클로이드 팀(Claude Team)”, OpenAI의 “챗지피티 비즈니스(ChatGPT Business)”, 커서(Cursor)의 “커서 팀즈(Cursor Teams)”(커서는 프로그래밍용 AI 툴 회사)의 세 회사가 모두 동일한 시스템을 구축하고 있습니다. 직원 한 명당 사용할 양에 맞춰 충분한 “프리미엄(Premium)” 좌석과 절제된 사용량의 “스탠다드(Standard)” 좌석을 구분하여 사용할 수 있는 방식입니다.
왜 이렇게 되는 걸까요. 모든 사람이 동일한 월額 요금제를 사용하면 반드시 어디선가 손해를 보게 됩니다. 거의 사용하지 않는 사람의 몫은 낭비되고, 매일 폭탄처럼 사용하는 사람에게는 부족하기 때문입니다. 실제로 많은 회사에서는 일부 핵심 사용자들의 소비가 전체 소비의 대부분을 차지합니다. 휴대폰 요금제를 가족 구성원의 사용량에 맞춰 선택하는 것과 같은 이치입니다.
반면, 역방향 움직임도 있었습니다. 마이크로소프트의 AI 기능이 모두 모인 최고 등급 플랜인 “Microsoft 365 E7”에 대해, 조사회사 Gartner가 조사한 결과, 1년 이내에 이전하고 싶다고 답한 회사는 무려 4%에 불과했습니다. 그 이유는 일단 인상하면 내릴 수 없다는 것(다운그레이드 불가)과, Security Copilot과 같은 AI 기능이 “사용한 만큼”의 추가 청구로 되기 때문입니다. 전부 모여 보이는 데다가, 지불 금액이 파악되지 않는 것입니다.
왜 우리에게 관련이 있을까요? AI 요금은 업계 전체가 “사용한 만큼만 내는” 방향으로 나아가고 있는 데서 비롯된 것입니다. Claude Code의 주간 이용 쿼타는 9월 14일부터 실질적으로 17% 감소했으며, ChatGPT Plus에서도 5시간 제한이 부활했습니다. 계산 능력에는 한계가 있기 때문에 자연스러운 흐름입니다. 회사에서 AI를 도입했다면, 우선 누가 얼마나 사용하고 있는지를 측정하는 것부터 시작입니다. 진정한 비용 절감은 바로 거기서부터 시작됩니다.
중국의 지푸 AI의 매출이 거의 400% 증가했다. “무료로 제공하는 AI”로도 제대로 수익을 낼 수 있다는 평가다.
지푸 AI(Z.AI)는 상반기 매출을 약 1억 4200만 달러로 발표했습니다. 전년 동기간 대비 거의 400% 증가한 수치입니다. 1년 전과 비교하면 엄청난 성장세입니다.
성장을 견인한 것은 API 사업이었습니다. API는 자신의 앱이나 서비스에서 다른 회사의 AI를 호출하여 사용하게 하는 시스템을 의미하며, 이 분야의 매출이 27배를 훨씬 넘어섰습니다.
지푸 AI가 배포하고 있는 것은 오픈 웨이트라는 유형의 AI입니다. 오픈 웨이트는 AI의 핵심, 즉 학습된 지능(머릿속)을 공개하여 누구나 가져와 자신의 컴퓨터나 서버에서 실행할 수 있는 AI를 의미합니다. 무료로 배포하기 때문에 수익성이 없다고 오랫동안 여겨져 왔습니다.
그러나 실제로는, 내용을 받더라도 스스로 작동시키는 것은 상당히 번거롭습니다. AI 교체나 기계 관리, 성능 감시까지 모두 자전적인 업무입니다. 그래서 많은 사람들이 “돈을 지불하는 대신, 그쪽에서 작동시켜 줘”라며 API를 선택합니다. 본체를 열어 배포하고 작동시키는 번거로운 일에 대해 비용을 받습니다. 이러한 형태가 작동하기 시작했음을 이번 결산이 보여주었습니다. 모질라(웹 브라우저 “파이어폭스”를 담당하는 단체)의 보고서에 따르면, 세계에서 널리 사용되는 AI 상위 10개 중 9개가 중국에서 나왔다고 보고되었습니다.
왜 우리에게 관련이 있을까요? “AI하면 미국”이라는 전제가 점차 무너지고 있는 데서 비롯됩니다. 저렴하면서도 성능이 좋은 선택지가 늘어나는 것은 환영하지만, 업무에서 사용하는 경우 데이터가 어디에 보관되는지, 법적인 문제가 없는지 꼼꼼히 확인해야 합니다.
앤서니(Anthropic)가 람다(Lambda)와 350억 달러 계약을 체결했다. AI를 움직이는 ‘힘’을 차지하기 위한 경쟁이 치열하다.
Anthropic가 Nvidia의 지원을 받는 클라우드 기업 Lambda와 350억 달러 규모의 계약을 체결했다는 보도가 있었습니다. 엄청난 금액입니다. 내용은 “AI를 움직이기 위한 컴퓨팅 파워를 모아서 확보하는” 것입니다. 텍사스 주에서 Hut 8이 개발하는 약 350메가와트 규모의 데이터센터 용량을 활용하여 Claude(Claude Code 포함)를 실행하기 위한 Nvidia 기기를 마련합니다.
놀라운 점은 구매 방식입니다. Anthropic은 최근 몇 주 동안 Nscale(45억 달러), Fluidstack, SpaceX와도 대규모 계약을 체결했습니다. 단 몇 주 만에 4개 회사. 왜 한 회사에만 모으지 않는 걸까요? 답은 간단합니다. 필요한 양을 한 번에 맞춰서 제공할 수 있는 회사가 더 이상 없기 때문입니다.
지금 AI를 움직이는 데 필요한 것은 반도체만이 아닙니다. 전력과 토지입니다. 데이터센터는 엄청난 전력을 소비하기 때문에, 전기가 끌 수 있는 장소가 경쟁 대상이 되고 있습니다. 물을 찾아 시찰을 돌았던 것과 같은 상태입니다.
우리가 왜 관련이 있을까요? 세계적인 주요 기업들이 이 정도 규모로 확보하고 있는 이상, 우리가 사용하는 계산 능력은 당분간 어려운 상황이 지속될 것이라고 생각하는 편이 좋습니다. AI 서비스의 이용 제한이나 가격 인상이 반복되는 것은 이것이 이유이고, 한 회사에만 의존하지 않는다는 생각은 규모를 불문하고 유효합니다. 실제로 기업의 57.1%가 2개 이상의 AI 서비스를 병행하고 있다는 조사 결과도 있습니다.
이것은 우리의 삶에 어떤 관련이 있을까요?
- AI의 조언으로 결정을 내리기 전에 잠시 숨을 고르자. 6,000명 이상의 조사에서 상담한 사람 중 74.6%에서 79.3%가 AI의 말에 따라 행동하고 있었다.
- AI가 말하는 대로 해도 행복이 늘어난다고 장담할 수 없습니다. 2~3週間 후의 추적 조사 결과, 행복도에 의미 있는 향상은 나타나지 않았습니다.
- AI를 새롭게 하는 것 자체가 안전을 보장하는 것은 아니다. Anthropic은 System Card에 “감시가 더 어려워질 수 있다”고 스스로 기록했으며, OpenAI의 Astra는 침입이 매우 뛰어나다는 것을 확인했다.
- 회사의 AI 요금은 ‘사용한 만큼만’으로 변경됩니다. 클로드 팀, ChatGPT 비즈니스, 커서 팀이 사용하는 양에 따라 별도의 좌석을 마련하는 한편, 마이크로소프트 365 E7의 전체 패키지로 이전하고 싶어하는 회사는 4%였습니다.
- AI 서비스의 제한과 요금 인상은 당분간 지속될 것이라는 전제하에 진행됩니다. Anthropic은 Lambda를 350억 달러, Nscale을 45억 달러로 사용하며, 계산 능력 확보를 위한 경쟁은 끝나지 않았습니다.
오늘의 한마디 요약
오늘의 뉴스를 종합해 보면, 인공지능은 더욱 강력해지고 수익을 창출하며 사람들의 행동까지 변화시켰다. 그런데도 불구하고, 사람들을 행복하게 만들지 못한다는 역설적인 구도가 드러난다. Anthropic은 새로운 Claude를 출시하며 “감시가 더욱 어려워지고 있을지도 모른다”는 발언을 스스로 했고, Zhipu AI는 무료로 제공하는 AI로 인해 매출이 거의 400%나 급증했으며, Lambda와의 350억 달러 계약으로 계산 능력 경쟁은 더욱 치열해졌다. 또한 6,000명 이상의 조사 결과, 인공지능에게 지시대로 움직인 사람들의 행복 수준이 늘어나지 않았다는 것을 보여준다. 편리함과 행복은 별개의 문제이며, 직접 확인하는 것이 중요하다. 오늘 얻은 가장 중요한 교훈은 바로 여기에 있다.
더 자세히 알고 싶으신 분들을 위해
자세한 설명은 이 기사에 모아놓았습니다.
- Note 일반판으로 읽기 (같은 내용을 다른 관점으로)
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 24청크
원문 보기 | 출처: note.com