PC의 구매 비용과 AI의 이용량 등을 기초로, 로컬에서 AI를 실행했을 때 몇 년 안에 투자 비용이 회수될 수 있는지 산출할 수 있는 사이트 “Sunk Cost”가 공개되었습니다. 비용 외에도 해당 PC에 수용 가능한 AI 모델, 생성 속도, 클라우드 모델과의 능력 비교도 함께 확인할 수 있습니다. Sunk Cost https://sunkcost.ai/ Sunk Cost의 화면 상단에는 PC의 모델과 칩, 메모리 용량을 선택하는 영역이 나열되어 있습니다. 초기 상태 설정은 “Mac Studio”, “M5 Max”, “64GB”이며, 부가판 가격은 3499달러(약 52만 4850원)입니다. 구매 가격이 사이트 설정과 다른 경우 “I paid something else”에서 변경할 수 있으며, 할인 가격이나 중고 가격으로 계산할 수 있도록 가정되어 있습니다. 단순히 모델을 비교하는 것뿐만 아니라, 자신이 실제로 지불하는 금액에 맞춰 산출할 수 있습니다.
화면 오른쪽의 “What fits”에는 AI 모델이 카드 형식으로 나열되어 있습니다. GPU의 이용 가능한 메모리를 48GB로 설정한 이번 구성에서는 39 모델 중 27 모델이 메모리에 수용될 수 있다고 표시되었습니다.
선택된 “Qwen3.8 27B(Q4_K_M)”의 경우 컨텍스트 길이가 약 3만 2천 토큰인 경우, 필요한 메모리는 19GB이며, 생성 속도는 초당 25 토큰입니다. 모델을 선택할 때는 메모리에 들어가는지 여부뿐만 아니라, 어느 정도 속도에서 답변이 반환되는지도 확인해야 합니다. 다만, 여기서 제시된 속도는 실측값은 아니며, 단순한 추정치입니다.
화면 왼쪽에는 “You’re underwater for 43.6 years.”라는 결과가 크게 표시되어 있습니다. 의미는 “PC 구매 비용을 회수하는 데 43.6년이 걸린다”는 것. 그래프의 오른쪽으로 기울어지는 선은 “선택한 AI를 API를 통해 사용했을 경우의 누적 비용”을 나타내며, API 요금을 43.6년 동안 계속 납부하면 PC 구매 비용과 동일하게 됩니다. 그래프는 “Copy Link”로 공유 URL을 얻을 수 있으며, “Download card”로 PNG 형식으로 그래프를 다운로드할 수 있습니다. 또한, “Post on X”로 X(구 트위터)에 결과를 공유할 수 있습니다.
그래프 아래에 표시되는 정보는 다음과 같습니다. •Mostly for：주요 용도를 선택하는 칸에서 이번의 “Agentic coding”에서는 입력과 출력의 비율이 15:1로 설정되어 있습니다. 코드나 도구의 실행 결과 등 많은 정보를 AI에 전달하는 사용법을 염두에 둔 조건입니다. •Tokens a day：1일 사용 토큰 수. API를 이미 사용하고 있는 사람이라면, 이용 기록의 토큰 수를 여기에 반영하면, 자신의 사용법과 가까운 비교가 가능합니다. 이번에는 입력과 출력을 합하여 50만 토큰. •Context window you want：AI가 한 번에 다루는 정보량 설정. 이번의 약 3만 2000 토큰이라는 조건에서는, 처리된 정보를 유지하는 KV 캐시가 2.1GB 필요하다고 표시됩니다.
그 아래에 표시되는 것은 비용 내역입니다. 이번 조건에서는, 비교 대상이 되는 Qwen3.8 27B의 API 비용(API cost per month)은 월 6.94달러(약 1041원). 반면, 로컬 실행의 전기료(Electricity per month)는 월 0.26달러(약 39원)로, 차액은 월 약 6.68달러(약 1002원)에 그칩니다. 이 절약액으로 3499달러(약 52만 4850원)의 본체 가격을 회수하기 위해서는, 약 43.6년이라는 계산이 됩니다.
비용 아래에는 모델의 능력을 비교하는 “Qwen3.8 27B는 과연 얼마나 똑똑할까?”도 있습니다. Qwen3.8 27B는 “Sonnet-class”로 표시되며, 벤치마크상의 위치를 클라우드 모델과 비교됩니다.
“Your time is not free”에서는 답변의 대기 시간도 비교됩니다. 이번 설정에서는 1000 토큰을 생성하는 데 로컬에서 40초가 걸리는 반면, API에서는 13초입니다. Sunk Cost의 계산에서는 1일 이용량에 환산하면 약 15분의 추가 대기 시간이 발생한다는군요. API 비용을 절약할 수 있어도 답변 대기 시간이 길어질 수 있다는 것입니다.
더 아래에 있는 “How this is calculated”를 펼치면 회수 기간 계산식, 소비 전력, 생성 속도 등의 전제 조건을 확인할 수 있습니다.
한편, Sunk Cost의 계산은 본체 구매 비용의 전액을 회수 대상으로 보고 있으며, PC를 다른 작업에 사용하는 가치나, 미래에 매각했을 경우의 금액은 포함되지 않습니다. 또한 데이터를 외부로 보내지 않고 처리할 수 있는 장점도 금액에는 환산되지 않았습니다.
원문 보기 | 출처: Gigazine