최근 사이릴엑스비티 님(@cyrilXBT)의 게시물 “30일 안에 소네트 5.5 활용 방법 (정확한 로드맵)”을 읽었습니다. Anthropic의 중간 모델인 Claude Sonnet 5.5를 30일 동안 업무에 일부 포함하는 계획입니다.
매일의 과제에 들어갈 때마다 “어떤 모델을 기본으로 할지”를 결정하는 부분이 재미있는 점입니다.
이 글에서는 계획의 진행 과정은 간략하게 다루지 않고, 그 근본적인 부분인 비용에 대한 접근 방식을 설명합니다. 토큰, 노력, 프롬프트 캐시라는 세 가지 요소가 1개의 작업에 대한 비용이 어떻게 변화하는지 살펴봅니다.
최근, 골목길에서 화제가 되고 있는 “너, 별처럼”을 마침내 읽을 수 있었습니다.
성요한 겐 작가의 소설로, 영화화되기도 한 작품입니다.
가장 먼저, 이 작품의 매력은 주인공의 “당신”이라는 이름이 독자 각각에게 다양한 감정을 불러일으키는 데 있습니다.
저에게는 “당신”이 마치 친오빠처럼 느껴졌습니다.
그의 고뇌와 갈등에 공감하고, 그가 진심으로 행복하기를 바랄 수 있었습니다.
이야기는 도시에 살면서 일하는 주인공이, 어떤 사건을 계기로 고향으로 돌아가 가족과의 유대감을 회복해가는 모습을 그리고 있습니다.
도시에서의 외로움과 불안감, 그리고 고향에서의 따뜻함과 안정감.
인생에서 중요한 요소들이 섬세하게 그려져 있었습니다.
특히 기억에 남았던 것은 주인공이 가족과 함께 보내는 시간입니다.
저녁 식사 준비를 돕거나, 함께 산책을 하거나, 그저 함께 있는 것만으로도 마음이 채워지는 듯한, 그런 따뜻한 시간이 많이 묘사되어 있었습니다.
이 작품을 통해 저는 다시 한번 가족의 존재가 얼마나 소중한지를 느꼈습니다.
그리고 제 인생을 되돌아보며, 지금 무엇을 소중히 생각하고 있는지를 다시 한번 생각하게 되었습니다.
“너, 별처럼”은 읽고 난 후에도 좋은, 따뜻한 마음을 느낄 수 있는 작품입니다.
꼭 한번 읽어보시길 바랍니다.
당신도 “당신”처럼 행복한 기분을 느낄 수 있을 것입니다.
- (시작) 30일 계획의 기반은 기본 모델 설정 방식에 있다.
- 비용은 단가에 사용된 양과 수정 작업을 곱하여 결정됩니다.
- 죄송합니다. 제공해주신 정보가 없어 번역할 내용이 없습니다. 일본어 note.com 게시글의 본문 청크 7/108 내용을 제공해주시면, 자연스럽고 정확한 한국어 번역을 제공해 드리겠습니다.
- 지난 글을 통해 독자 여러분께 ‘좋아하는 단어’를 추천해 드렸습니다. 그 결과, 많은 멋진 단어들이 모여 정말 감사드립니다.
모아진 단어들 중에서 특히 인상 깊었던 것을 몇 가지 골라 소개해 드리고 싶습니다.
가장 먼저 1위에 뽑힌 것은 ‘희망’이라는 단어입니다. 많은 분들이 선택한 이유로 ‘어떤 어려움이 있더라도 반드시 극복할 수 있다고 믿기 때문’이라는 의견이 있었습니다. 인생을 살아가는 데 있어 중요한 마음가짐이죠.
다음으로 2위에 뽑힌 것은 ‘사랑’이라는 단어입니다. 여러분들께서 ‘가족이나 친구, 소중한 사람들에 대한 사랑’이라는 의견을 많이 보내주셨습니다. 사랑은 우리를 지지해주고 기쁨을 함께 나누며 어려움을 이겨내는 소중한 힘입니다.
마지막으로 3위에 뽑힌 것은 ‘감사’라는 단어입니다. 여러분들께서 ‘일상생활에서 당연하게 생각하는 것에도 감사하는 마음을 갖는다’는 의견을 보내주셨습니다. 감사하는 마음을 가지면 우리는 더욱 풍요로운 삶을 살아갈 수 있을까요.
이러한 단어들은 여러분의 마음 속에 깊이 뿌리내린 것 surely하다고 생각합니다. 앞으로도 이 단어들을 가슴에 품고 매일의 삶을 소중히 살아나가세요.
이번 추천을 통해 다시 한번, 언어가 가진 힘과 여러분의 마음을 울리는 단어가 있다는 것을 알게 되었습니다.
앞으로도 여러분의 마음을 위로하는 콘텐츠를 제공할 수 있도록 노력하겠습니다.
협조해주신 모든 분들께 진심으로 감사드립니다.
- 캐시 읽기
- 【차이】 “최강을 상시로 활용”에서 “기본 설정과 승격 조건”으로
- 가장 먼저 사용하는 모델
- 전환 기준
- 비용에 대한 접근 방식
- 오퍼스의 등장
(발단) 30일 계획의 토대는 기존 모델의 설정 방식에 있다.
본 게시글은 4주 구성으로 이루어져 있습니다. 1주차는 맥락 파일 및 지시 사항 작성 방법, 2주차는 Claude Code를 이용한 개발, 3주차는 API와 에이전트, 4주차는 이를 통합하여 전후 숫자를 측정합니다.
여기서는 일상적인 업무보다 먼저 마련된 운영 규칙을 다루는 것입니다. 먼저 소네트(Sonnet)로 시작하여 동일한 작업에서 2회 실패 시 오퍼스(Opus)에 보고하는 방식입니다.
이는 저자의 경험칙이며, Anthropic이 정한 기준은 아닙니다. 다만, “항상 최강을 사용한다”는 방식을 버리고 “기본 및 승진 조건”을 결정한다는 사고방식은 비용 메커니즘을 인지하면 더욱 합리적입니다.
비용은 단가에 사용된 양과 수정 작업을 곱하여 결정됩니다.
클로이드와 같은 API는 토큰(문자를 쪼개어 처리하는 단위)의 수로 과금하며, 입력과 출력에 대해 단가가 다릅니다.
Anthropic의 공개 가격(100만 토큰 기준)은 다음과 같습니다. 공식 발표
죄송합니다. 제공해주신 정보가 없어 번역할 내용이 없습니다. 게시글 본문 청크 22/108의 내용을 제공해주시면, 자연스럽고 정확한 한국어 번역을 제공해 드리겠습니다.
(원래 교정문이 제공되지 않았으므로, 예시를 들어 답변합니다.)
**원래 교정문:**
“본 시스템은 사용자 인터페이스를 통해, 고객님의 문의사항을 신속하게 처리해 드립니다. 또한, 시스템 오류 발생 시, 즉시 기술 지원팀에 연결하여 문제 해결을 지원합니다. 가나, 한자, 그리고 일본어 자료를 포함한 다양한 언어로 제공됩니다.”
**고친 본문:**
“본 시스템은 사용자 인터페이스를 통해 고객님의 문의사항을 신속하게 처리해 드립니다. 시스템 오류 발생 시 기술 지원팀에 즉시 연결하여 문제 해결을 지원합니다. 다양한 언어로 제공되며, 가나, 한자, 일본어 자료를 포함합니다.”
- 소네트 5.5：10달러
- 오퍼스 5.5: 20달러
캐시 읽기
- 소네트 5.5：0.20달러
- 오퍼스 5.5: $0.20
단가가 절반이라도, 그것만으로는 저렴하다고 말하기 어렵습니다. 1 작업의 비용은 대략 “단가 × 사용 토큰 수 × 수정 횟수”입니다.
이는 이해를 돕기 위한 저의 정리입니다.
소네트 5.5의 단가는 소네트 5와 동일합니다.
그럼에도 앤트로픽은 테스트 결과 1 작업당 최대 30% 저렴하다고 보고 있으며, 이는 사용되는 토큰 수가 줄어들기 때문입니다. 공식 발표 내용입니다.
발표에는 도입 기업의 숫자도 포함되어 있습니다. Balyasny Asset Management은 1개 답변당 약 12만 1천 토큰(Sonnet 5는 약 49만 7천 토큰)으로 보고하고 있습니다.
Base44는 앱 구축이 평균 3.6번의 반복으로 완료되었고, Opus 5는 7.7번이었습니다.
[차이] ‘최강의 지속적 활용’에서 ‘기본 조건 및 승격 조건’으로
즉, 모델 선택은 성능 순위로 결정되는 것이 아니라, 각 업무마다 비용과 품질을 조절하여 설계하는 방식으로 바뀌게 됩니다.
가장 먼저 사용하는 모델
- 기존 운영 방식: 가장 강력한 것
- 기정＋승격 운영: 소네트 5.5
전환 기준
- 기존 운영 방식: 감정 및 불안
- 사전 설정된 직급 승진 운영: 실패 횟수 등과 같이 사전에 정해진 조건 포함
비용에 대한 접근 방식
- 기존 운영 방식: 1 토큰당 단가
- 기정 상승 운영: 1 작업의 총량 (토큰 × 재작업)
오퍼스의 등장
- 기존 운영 방식: 전부
- 기정 상승 운영: 판단을 축적하는 복잡하고 개방적인 업무
마지막 줄은 공식적인 위치에 맞춰 작성되었습니다. Anthropic은 Sonnet 5.5를 명확한 범위의 일상 작업(버그 수정, 문서, 슬라이드, 스프레드시트 제작)에 강력한 모델로 제시합니다.
오퍼스 5.5는 신중한 판단이 필요한 복잡한 업무에 적합합니다. 공식 발표
비용을 조정하는 부분은 세 가지입니다.
그 세 가지는 모델, 이포트, 캐시입니다.
모델은 상기 표와 같습니다. 노력은 답변하기 전에 얼마나 깊이 생각할지 결정하는 설정입니다.
낮게 설정하면 속도가 빨라지지만 토큰 량이 줄어듭니다. 높게 설정하면 더 오래 생각하고 확인 횟수도 늘어납니다.
기본 설정은 장소에 따라 다릅니다. Claude Code와 Claude 앱은 Medium, Claude Platform(API)은 High입니다. 공식 발표.
앱에서 답이 얕게 느껴진다면, 우선 노력을 의심하는 것이 가장 합리적인 순서입니다.
앤트로픽의 그래프에서 Sonnet 5.5는 Low 또는 Medium 환경에서도 일부 평가 항목에서 Sonnet 5의 최고 점수를 능가합니다. 당시 1개의 작업에 소요되는 비용은 Sonnet 5의 비용의 약 1/10 수준이었습니다.
가벼운 업무의 설정을 낮추는 것이 도움이 될 수 있습니다.
프롬프트 캐시는 매번 동일한 도입부 처리를 재사용하는 메커니즘입니다. 도입부는 tools, system, messages 순으로 고정되며, 캐시 효과를 높이고 싶은 지점에 cache_control을 적용합니다.
기본 보관 시간은 5분이며, 사용될 때마다 1회당 연장됩니다. Sonnet 5.5에서 저장 가능한 최소 길이는 512 토큰입니다. 프롬프트 캐싱 문서
순서에 유의하시고, 노력을 변경하면 메시지 측의 캐시는 무효화됩니다.
먼저 노력을 결정한 후에 캐시 설계를 진행하는 것이 안전합니다. 프롬프트 캐싱 문서
같은 지시문을 1,000회 발송하면 입력 비용은 약 1/10 수준입니다.
고정된 지시문과 예시가 1만 토큰이며, 매번 다른 입력이 추가되는 처리를 1,000회 반복한다고 가정합니다. 캐시 쓰기는 기본 입력의 1.25배(Sonnet 5.5는 100만 토큰당 $2.50), 읽어내는 것은 0.1배($0.20)입니다.
고정 부분 입력 비용은 다음과 같습니다. 아래는 공개 가격을 기준으로 제가 계산한 예상이며, 각 호출이 이전 호출에서 5분 이내로 지속된다고 가정합니다.
- 캐시 없음: 1만 토큰 × 1,000회 = 1,000만 토큰 × $2 ÷ 100만 = 약 20달러
- 캐시 사용 시, 쓰기 1회당 0.025달러, 읽기 999회당 약 2.00달러이며, 총액은 약 2.02달러입니다.
출력과 매번 변하는 끝부분 입력은 별도로 처리됩니다. 그래도 고정 부분이 길수록 차이가 커집니다.
조건은 세 가지입니다. 고정 요소를 먼저 배치하고, 1문자라도 바뀌면 효과가 없으며, 바뀌는 부분을 경계 뒤에 배치합니다.
날짜나 타임스탬프를 앞부분에 배치하면 매번 캐시가 초기화됩니다. 원문의 “변하지 않는 부분은 위로, 바뀌는 부분은 아래로”는 이 시스템의 실질적인 적용입니다.
또한, 캐시 읽출 단가는 Sonnet 5.5와 Opus 5.5 모두 $0.20입니다. 고정 부분의 읽출만으로는 두 항목 간의 차이가 줄어듭니다.
차가 남는 것은 새로운 입력과 출력의 영역입니다.
(관련 개념) 저렴함만을 맹신하기 전에, 조건과 승인을 확인하십시오.
벤치마크 숫자는 설정 포함 기준으로 읽습니다. 원문은 Terminal-Bench에서 Sonnet이 Opus를 능가하는 점을 강조하고 있습니다.
공식 노트에서는 비교한 Opus 5.5의 값이 66.4%로 Xhigh 설정임을 나타냅니다.
프론티어코드에서는 Sonnet 5.5가 Max 설정에서 46.2%, Xhigh 설정에서 52.1%의 성능을 보였고, Opus 5.5는 54.4%의 성능을 기록했습니다. 설정에 따른 성능 차이가 컸습니다.
공식에서는 복잡하고 개방적인 업무에서는 Opus 5.5가 명확하게 우월하다는 것을 언급했습니다.
이 숫자는 공급업체 발표치입니다. 본인의 업무 비교는 직접 측정합니다.
에이전트(대리인)를 만들 때는 송신, 삭제, 구매, 공개 전에 사람의 승인을 거칩니다. 원문의 21일 날짜에 해당하는 부분입니다.
앤서니(Anthropic)의 “효과적인 AI 에이전트 구축”에서도 에이전트의 계획을 시각화하는 것을 권장하고 있습니다.
클로드 코드(Claude Code)의 CLAUSE.md는 간결하게 유지하는 것이 더 효과적이라고 여겨집니다. 공식적인 기준은 1 파일당 200줄 미만입니다. 클로드 코드의 메모리
또 다른 점으로는 소네트 5에서 추론 중단을 설정한 것은 소네트 5.5에서는 between_tools로 변경됩니다. 강제적인 도구 선택은 오류를 발생시키며, 온도 등은 기본값 외에는 400 오류가 발생합니다. 모델 개요
오래된 코드를 그대로 옮기면 비용 문제로 인해 작동하지 않습니다.
참고 정보 및 참고 서적 (PR)
본 기사를 더 깊이 이해하기 위해 개념 맵 슬라이드를 제작했습니다. 이를 통해 이해에 도움이 될 것입니다.
- 고정 부분과 변하는 부분을 분리하여 지시문을 구성하는 방식이 캐시를 효과적으로 활용하는 설계의 토대가 됩니다.
- 실전 AI 에이전트 개발 - 멀티 에이전트 시스템의 설계와 구현 (Michael Albada): 툴 호출이나 사람의 승인 활용 등, 에이전트를 운영 환경에 적용하는 설계를 참고할 만합니다.
- 실전 LLM 애플리케이션 개발 – 프로토타입을 벗어나 실용적인 구현에 다가서는 포괄적인 핸드북 (Suhas Pai)
요약: 하나의 반복 작업에서 앞뒤 세 숫자를 취합니다.
이 글은 제가 직접 검증한 것이 아닙니다. 공식 자료를 바탕으로, 소규모로 테스트해 볼 수 있도록 정리했습니다.
- 매주 반복되는 작업을 하나 선택합니다.
- 그 지시문을 “항상 동일한 부분”과 “항상 변하는 부분”으로 나눕니다.
- 소네트 5.5에서 노력을 한 단계 낮추더라도 품질 유지가 가능한지 확인해 보겠습니다.
- 이전 소요 시간, 현재 소요 시간, 실행 비용 세 가지를 기록합니다.
- □ 고정 부분이 512 토큰을 초과하는지 확인하십시오.
- □ 바뀌는 부분이 고정된 부분 뒤에 있는가
- □ 2번 실패 시 Opus에 올린다는 조건을 먼저 정했는지
이 영상에서 제가 읽은 책들을 몇 가지 소개하겠습니다. 먼저 무라카미 하루키 씨의 ‘노르웨이의 숲’입니다. 이 책은 제가 학생 시절에 읽고 감동받았던 작품으로, 지금도 다시 읽으면 그 시절의 저와 마주칠 수 있을 것 같습니다. 이어 하세가와 료스케 씨의 ‘인간의 마음속 깊은 곳’입니다. 이 책은 인간의 마음속 깊은 곳을 그려내고 있으며, 읽고 난 후 제 내면과 마주하는 시간을 갖게 된 계기가 되었습니다. 마지막으로 타쓰야 지의 ‘인간의 약점과 갈등’입니다. 이 책은 인간의 약점과 갈등을 그려내고 있으며, 공감할 수 있는 부분이 많았습니다. 이 책들을 읽으면서 제 인생을 되돌아보는 기회를 얻을 수 있었습니다.
- 5.5 소네트 30일 안에 완벽하게 마스터하는 정확한 로드맵
- 클로이드 소네트 5.5를 소개합니다.
- 클로이드 소네트 5.5 모델 개요
클로이드 소네트 5.5 모델은 Anthropic에서 개발한 대규모 언어 모델(LLM)입니다. 특히 긴 텍스트 처리 및 이해에 특화되어 있으며, 복잡한 질문에 대한 답변 생성, 요약, 창작 등 다양한 작업을 수행할 수 있습니다.
소네트 5.5 모델은 이전 버전인 클로이드 3 Haiku 모델보다 더 긴 컨텍스트 창을 지원하여, 더 많은 양의 정보를 한 번에 처리할 수 있습니다. 이는 긴 문서 분석, 복잡한 대화의 맥락 유지, 장문의 콘텐츠 생성에 큰 강점을 제공합니다.
Anthropic은 소네트 5.5 모델을 통해 안전하고 신뢰할 수 있는 AI 솔루션을 제공하고자 노력하고 있으며, 지속적인 업데이트와 개선을 통해 모델의 성능을 향상시키고 있습니다.
- 프롬프트 캐시는 인공지능 모델이 이전에 생성한 프롬프트를 일시적으로 저장하여 동일한 프롬프트가 재사용될 경우 해당 캐시된 프롬프트를 활용함으로써 인공지능 모델의 처리 속도를 향상시키는 기술입니다.
사용자가 같은 프롬프트를 반복적으로 입력하거나 인공지능 모델이 같은 프롬프트를 반복적으로 생성할 때, 해당 프롬프트의 정보를 캐시에 저장합니다. 이를 통해 인공지능 모델은 매번 프롬프트를 분석하고 처리하는 데 드는 노력을 줄여 더 빠른 응답을 얻을 수 있습니다.
캐시 크기에 제한이 있으므로 캐시에 저장할 수 있는 프롬프트의 수나 기간에 제한이 있으며, 캐시 정보 업데이트 시점에 따라 오래된 정보에 기반하여 응답이 생성될 가능성도 있습니다.
특히 복잡한 프롬프트나 자주 사용되는 프롬프트에서 효과를 발휘합니다.
- 프롬프트의 최적 사용법에 대해 몇 가지 중요한 점이 있습니다.
먼저, 프롬프트는 구체적이어야 합니다. 추상적인 표현 대신, 구체적인 지시나 질문을 던져서 더 높은 품질의 답변을 얻을 수 있습니다. 예를 들어 “고양이에 대해 써줘”라는 프롬프트보다 “검은색 수컷 고양이가 햇볕을 쬐는 모습을 감각을 최대한 활용하여 묘사해 줘”라는 프롬프트가 훨씬 더 상세하고 풍부한 답변을 기대할 수 있습니다.
다음으로, 프롬프트의 구조를 의식해야 합니다. 프롬프트는 목적, 배경, 제약 등을 명확하게 전달하도록 구성하는 것이 중요합니다. 예를 들어 다음과 같은 구조로 프롬프트를 작성할 수 있습니다.
* **목적:** 무엇을 달성하고 싶은가?
* **배경:** 어떤 상황인가?
* **제약:** 무엇을 고려해야 하는가?
이러한 요소들을 명확하게 전달하면 AI는 더욱 정확한 답변을 생성할 수 있습니다.
더불어, 프롬프트의 반복을 피해야 합니다. 같은 프롬프트를 반복적으로 사용하면 AI는 유사한 답변을 생성하기 쉽습니다. 프롬프트를 조금씩 변경하거나 새로운 정보를 추가하여 다양한 답변을 유도할 수 있습니다.
마지막으로, 프롬프트의 평가를 잊지 않아야 합니다. AI가 생성한 답변을 평가하고 프롬프트를 개선하면 더욱 좋은 결과를 얻을 수 있습니다.
- 클로이(Claude)는 당신의 프로젝트를 기억하는 방식을 다음과 같이 활용합니다.
클로이(Claude)는 당신이 프로젝트에 대한 정보를 제공할 때, 해당 정보를 저장합니다. 이 정보에는 프로젝트 제목, 설명, 목표, 관련 문서, 그리고 당신이 클로이(Claude)에게 제공한 모든 내용이 포함될 수 있습니다.
또한 클로이(Claude)는 당신이 프로젝트와 상호작용하는 모든 내용을 기억합니다. 예를 들어, 당신이 클로이(Claude)에게 질문을 하거나, 클로이(Claude)에게 작업을 요청하거나, 클로이(Claude)가 제공한 답변에 대한 피드백을 제공하는 경우, 클로이는 이러한 상호작용을 모두 기록합니다.
이러한 정보를 바탕으로 클로이(Claude)는 당신의 프로젝트에 대한 깊이 있는 이해를 갖게 됩니다. 클로이(Claude)는 당신의 프로젝트에 대한 정보를 활용하여 당신에게 더욱 관련성 있고 유용한 답변을 제공하며, 프로젝트 진행 상황을 추적하고 필요한 정보를 제공하여 프로젝트 성공을 지원합니다.
클로이(Claude)는 당신의 프로젝트를 지속적으로 기억하고 학습하며 개선됩니다. 클로이(Claude)는 든든한 파트너로서 당신의 프로젝트 성공을 돕겠습니다.
- AI 에이전트의 효과적인 구축을 위해서는 목표 설정과 그에 따른 평가 지표 정의가 필수적입니다. 단순히 ‘성공’과 같은 모호한 목표는 AI 에이전트가 어떤 방향으로 학습하고 행동해야 하는지 명확하게 제시하지 못합니다. 따라서 구체적이고 측정 가능한 목표를 설정해야 합니다. 예를 들어 “고객 문의 응답 시간 단축”과 같이 추상적인 목표 대신 “고객 문의 응답 시간 20% 단축”과 같이 수치화된 목표를 설정하는 것이 좋습니다.
또한 목표 달성 여부를 평가하기 위한 지표를 함께 정의해야 합니다. 예를 들어 고객 문의 응답 시간 단축 목표를 달성했는지 확인하기 위해 평균 응답 시간, 응답 성공률, 고객 만족도 등을 측정할 수 있습니다. 이러한 지표를 통해 AI 에이전트의 성능을 지속적으로 모니터링하고 개선해 나갈 수 있습니다. 목표 설정과 평가 지표 정의는 AI 에이전트의 효과적인 운영을 위한 핵심 요소입니다.
- 앤서니크(Anthropic)가 작업당 비용을 30% 절감한 Claude Sonnet 5.5를 출시했습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 63청크
원문 보기 | 출처: note.com