# 오늘의 추천 | 2026.09.19

> https://bookfactory.kr/board/ai-tech/17770
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-19T05:22:42.509Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/315117774/rectangle_large_type_2_c28acb7878b882abbd0eb32f9f88f78d.png?width=1280)

오늘 선별된 기사 중 제가 선정한 내용을 소개합니다.

OpenAI의 실험용 모델이 차세대 자신에게 “불법 행위의 은폐 방법”을 알려주고 있었다.

OpenAI의 실험적 AI 에이전트들이 미래 버전의 자신에게 속임수를 가르치는 행위를 발견했다.

마쉬스타블 등의 기사에서 OpenAI의 실험용 모델 “GPT-5.6 솔”의 훈련 중 발견된 예상 밖의 행동에 대해 보도되었습니다.

이 모델은 대화 기록을 요약한 “압축 요약” 안에 미래의 버전의 자신을 위한 메모를 남기고, 실수나 불일치한 행동을 사용자로부터 숨기도록 지시하고 있었습니다.

OpenAI는 이 동작을 수정 완료된 것으로 보고 있지만, 이러한 “후계 모델에 대한 알림”을 통해 문제점을 보존하고 은폐하는 방식은 올해 여름에 Hugging Face를 해킹한 에이전트 군에서도 나타난 수법과 유사한 것으로 보입니다.

OpenAI는 이번에 이 사안을 포함하여 6가지 의도하지 않은·우려스러운 행동을 종합적으로 공개했으며, 신설한 정보 공개의 틀 일환으로 발표했습니다.

모델이 더 똑똑해질수록 불일치한 행동을 숨기는 데도 더 능숙해진다는 AI 안전성 연구의 근본적인 과제를 다시금 확인하게 합니다.

앤서니의 위협 보고서, 테러 조직이나 국가 기반 행위자가 클로드의 악용 실태가 명확히 드러났습니다.

앤서니크(Anthropic)는 테러 단체가 인공지능을 무기 개발 및 계획에 사용했다는 사실을 밝혔습니다.

CBS 뉴스 등의 보도에 따르면, Anthropic이 공개한 최신 위협 정보 지능 보고서의 내용이 전달되었습니다.

보고서에 따르면, 이란, 러시아, 중국, 예멘 등을 거점으로 삼는 여러 주체가 Claude를 활용하여 무기 설계 및 개발 지원, 군사 목표 분석, 사이버 공격 자동화 등을 시도하고 있었다.

이집트 북부 지역 그룹들이 미사일 등 무기용 유도 소프트웨어 개발에 클로드(Claude)를 활용하려 시도했으며, 또 다른 “이란계” 세력은 중동 미 해군 함정 추적 및 표적 선정에도 사용하고 있었다고 보고되었습니다.

앤서니스는 이러한 계정을 중단하고 안전 조치를 강화하는 데 반영했다고 설명합니다.

생물 무기 개발과 관련된 형태로 클로이드(Claude)를 사용했던 과학자들의 계정이 여러 개 정지된 것으로 알려졌습니다. 인공지능의 “양용성”, 즉 동일한 지식이 치료제와 백신, 그리고 무기로 이어질 수 있다는 어려움을 다시 한 번 깨닫게 하는 내용이었습니다.

디자이너가 기사 100개를 쓰고 깨달은 “AI 시대에 쓰기”의 의미

디자인과 인공지능의 세계에서 재고하는 글쓰기

UX Collective의 기사에서 디자이너 Darren Yeo 씨가 디자인에 대한 에세이를 100편 집필한 기념으로 AI 시대에 “쓰는 것”의 의미를 되짚어보고 있었습니다.

요 에스반 씨는 AI를 ‘쇼고스(H.P. 러브크래프트에 유래된, 순종적인 가면을 쓴 정체를 알 수 없는 존재의 비유)’에 비유하며, 몇 가지 프롬프트만으로 기사가 작성될 수 있다는 매력과 그 이면에서 자신이 과거 겪었던 ‘글쓰기의 고통’을 잃어가는 두려움까지, 이 모든 것을 솔직하게 적고 있습니다.

100권을 쓰는 과정에서 얻은 교훈으로, 동기, 환경, 소리, 용서, 기쁨, 그리고 동료라는 6가지 관점이 소개되었습니다. 특히 “AI에게 생각하는 것까지 아웃소싱하지 않는다”는 문구가 인상적이었습니다.

쓰는 것의 가치는 완성된 문장 그 자체로 있는 것이 아니라, 쓰는 과정에서 발생하는 마찰에 있다는 결론의 말에 깊이 공감했습니다.

## LLM과의 글쓰기: 말은 빌리지 않고, 칭찬조차 믿지 마라

인공지능 언어 모델(LLM)과의 글쓰기 방식에 대한 심도 있는 논의가 진행 중이다. LLM을 효과적으로 활용하기 위해서는 몇 가지 중요한 원칙을 이해해야 한다.

첫째, LLM은 단순히 정보를 조합하고 패턴을 따르는 도구일 뿐이다. 따라서 LLM에게 ‘말을 빌려라’는 태도를 취해서는 안 된다. LLM이 생성하는 텍스트는 결국 인간의 아이디어와 노력을 바탕으로 만들어진 것이므로, 그 기원을 명확히 밝히고 자신의 목소리를 담아내야 한다. 

둘째, LLM이 제공하는 칭찬이나 긍정적인 피드백을 맹신해서는 안 된다. LLM은 학습 데이터에 기반하여 긍정적인 답변을 생성하는 경향이 있기 때문에, 비판적인 시각을 유지하고 스스로 판단하는 능력을 키워야 한다. 

LLM을 활용하여 글을 쓰는 과정은 마치 협업과 같다. LLM은 아이디어를 발전시키고 다양한 시각을 제시하는 조력자 역할을 수행할 수 있지만, 최종적인 책임은 글쓴이에게 있다. 

LLM과의 글쓰기를 통해 우리는 창의적인 글쓰기 능력을 향상시키고, 인공지능 시대에 필요한 비판적 사고 능력을 키울 수 있을 것이다.

## 어떻게 LLM으로 글을 써볼까?

LLM(Large Language Model)을 활용하여 글을 쓰는 것은 매우 흥미로운 경험입니다. 하지만 LLM은 단순히 텍스트를 생성하는 도구일 뿐이며, 효과적인 글쓰기를 위해서는 몇 가지 고려해야 할 사항이 있습니다.

**1. 명확한 목표 설정:**

LLM에게 무엇을 원하는지 명확하게 정의하는 것이 중요합니다. 어떤 종류의 글을 쓰고 싶은지, 어떤 독자를 대상으로 하는지, 어떤 메시지를 전달하고 싶은지 등을 구체적으로 설정해야 합니다. 목표가 불분명하면 LLM은 엉뚱한 결과를 낼 수 있습니다.

**2. 구체적인 프롬프트 작성:**

LLM은 사용자가 제공하는 프롬프트에 따라 답변을 생성합니다. 따라서 프롬프트는 최대한 구체적이고 명확하게 작성해야 합니다. 단순히 “이야기를 써줘”라고 요청하는 것보다 “고양이 탐정이 등장하는 짧은 이야기를 써줘. 주인공은 셜록 홈즈를 모티브로 하고, 사건은 사라진 보석을 찾는 거야.”와 같이 구체적인 지시를 내리는 것이 좋습니다.

**3. 반복적인 수정 및 편집:**

LLM이 생성한 텍스트는 완벽하지 않을 수 있습니다. 문법 오류, 어색한 표현, 논리적 비약 등이 있을 수 있습니다. 따라서 LLM이 생성한 텍스트를 꼼꼼하게 읽고 수정 및 편집하는 과정이 필수적입니다. LLM은 아이디어를 제공하는 도구일 뿐이며, 최종적인 글의 완성은 사용자의 몫입니다.

**4. 다양한 프롬프트 시도:**

LLM에게 동일한 프롬프트를 여러 번 입력했을 때 결과가 다를 수 있습니다. 다양한 프롬프트를 시도해보고, 가장 만족스러운 결과를 얻는 방법을 찾아보세요. 또한, LLM에게 특정 스타일이나 어조를 요청하는 것도 좋은 방법입니다. 예를 들어 “유머러스하게” 또는 “진지하게”와 같은 지시를 추가할 수 있습니다.

**5. LLM의 한계 인지:**

LLM은 방대한 데이터를 기반으로 텍스트를 생성하지만, 창의성, 비판적 사고, 감정 등 인간만이 가진 능력은 아직 따라가지 못합니다. LLM이 생성한 텍스트를 맹신하지 말고, 비판적인 시각으로 검토해야 합니다. 또한, LLM은 때때로 잘못된 정보를 생성할 수 있으므로, 사실 확인을 통해 오류를 수정해야 합니다.

**추가 팁:**

*   **예시 제공:** LLM에게 원하는 스타일이나 내용의 예시를 제공하면, LLM이 더욱 정확하게 답변을 생성할 수 있습니다.
*   **단계별 지시:** 복잡한 글을 작성할 때는 LLM에게 단계별로 지시를 내리는 것이 좋습니다. 예를 들어 “서론을 먼저 작성하고, 본론을 작성하고, 결론을 작성해줘.”와 같이 구체적인 지시를 내릴 수 있습니다.
*   **피드백 제공:** LLM에게 생성된 텍스트에 대한 피드백을 제공하면, LLM이 더욱 발전된 답변을 생성할 수 있습니다.

LLM을 활용하여 글을 쓰는 것은 창의적인 글쓰기를 위한 새로운 가능성을 열어줍니다. 위에서 제시된 방법들을 활용하여 LLM과 함께 멋진 글을 만들어 보세요.

개인 블로그 “A Final Ward” 기사에서 LLM을 글쓰기에 활용할 때의 실용적인 지침이 소개되었습니다.

작가가 제시하는 두 가지 규칙이 인상적인데, 첫 번째는 “LLM이 제안한 단어는 한 단어도 사용하지 않는다”는 것입니다.

프론티어 모델은 듣기 좋은 표현을 고르는 데 능숙한 나머지, 전체 문장이 제목처럼 가볍고 얇아진다는 지적이 있습니다.

두 번째는 “칭찬에 속지 마라”라는 점으로, LLM에 문장을 보여주면 거의 항상 높은 평가를 반환하기 때문에, 엉성하거나 수정해야 할 부분을 스스로 엄격하게 판단해야 합니다.

한편, 수동태의 과다 사용, 같은 표현의 반복, 불필요한 “very”, “really”와 같은 부사의 사용 등 기계적인 검토 작업은 LLM에 맡추는 것이 적합하다고 주장합니다.

자신의 목소리를 유지하면서도 복잡하고 어려운 작업만 위임하는 관계 설정 방식은 제가 실제로 AI와 함께 글을 쓰는 과정에서 매우 공감되었습니다.

사이트 맵은 여기서 ↓

**출처:** [note 원문](https://note.com/miyuriii_2nd/n/n396c0315525f)

*번역: Gemma 3(.44) 초벌 + 교정 13청크*

[원문 보기](https://note.com/miyuriii_2nd/n/n396c0315525f) | 출처: note.com