# 5화 | AI가 필요한 건 “멈춤”이 아닌 “브레이크”일까?

> https://bookfactory.kr/board/ai-tech/21638
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-14T08:47:49.518Z

---

안녕하세요.

소야바시처럼 오야마를 사랑하는 쾌활한 청년, 콜러버 카와이입니다.

지난번에는 AI의 능력 향상을 10년 동안 멈춘 가상의 2036년부터 2026년으로 돌아왔습니다.

AI를 멈춘다면, 인간 쪽에 교육과 규칙, 안전 대책 마련에 시간이 생길 수도 있다.

하지만 그 10년 동안 인간 사회는 멈춰 있던 것이 아니었습니다. 과학, 의료, 교육 등 모든 분야가 발전했고, AI에 기대는 것 또한 변화해갔습니다.

마지막으로, 이렇게 적었습니다.

AI를 발전시킬 것인가, 아니면 AI를 중단시킬 것인가.

어쩌면 그 둘 중 하나로만 결정하는 것만으로는 충분하지 않을 수도 있습니다.

이번에는 이 시리즈에서 생각해 온 바를 한 번 정리해 보겠습니다.

오늘은 제가 최근 읽은 책에 대해 이야기하겠습니다.

그 책은 “너, 별처럼”이라는 소설입니다.

작가 凪良ゆう(나리야오 유)입니다.

이 책은 2023년 1월 26일에 출판되었습니다.

주인공은 도쿄에서 일하는 남성, 사에 카즈타(사에 카즈타)입니다.

그는 어느 날 갑자기 자신의 아버지, 사에 사쿠요(사에 사쿠요)가 돌아가셨다는 것을 알게 됩니다.

그리고 아버지에게서 남겨진 편지를 읽습니다.

그 편지에는 “너, 별처럼”이라는 말이 적혀 있었습니다.

그 말의 의미를 밝히기 위해, 그는 아버지, 사쿠요가 돌아가신 곳, 즉 니가타현으로 향합니다.

그곳에서 그는 아버지의 어린 시절 친구인 코바야시 켄타(코바야시 켄타)와 재회합니다.

코바야시는 아버지의 과거를 알게 되는 인물이었죠.

그는 아버지, 사쿠요가 젊은 시절, “별”이라는 말을 사용하여 여성을 유혹했던 것을 밝힙니다.

사에(사에)는 아버지의 과거를 알게 되면서 아버지와의 관계를 재건하려고 합니다.

하지만 아버지의 과거에는 “별”이라는 말 외에도 수많은 비밀이 있었습니다.

그는 아버지의 과거를 밝히는 과정에서 자신의 삶에도 “별”이라는 말이 얽혀가는 것을 느낍니다.

이 책은 가족의 비밀, 사랑, 그리고 인생의 의미에 대해 깊이 생각하게 만드는 작품입니다.

저는 이 책을 읽고 감동을 받았습니다.

특히, 凪良ゆう(나리야오 유)님의 문장은 아름답습니다.

이 책은 분명 여러분의 마음에도 울림을 줄 것입니다.

## AI는 가속 페달뿐만 아니라 다양한 요소들을 포함합니다.

AI의 발전과 관련하여 보면, 종종 극단적인 논쟁으로 치닫는 경향이 있습니다.

더욱 발전시켜 나가자.

반대로

조심해야 하니 멈춰야지.

하지만 현실의 기술 개발은 단순한 가속 페달 조작인지, 아니면 완전히 엔진을 중단하는 것인지의 이분법적인 선택이 아닙니다.

앞으로 나아가자.

위험이 보이면 속도를 줄여야 합니다.

안전성을 확인한다.

필요하면 멈춰야 합니다.

문제가 해결되면 다시 나아간다.

AI도 그런 사고방식이 필요한 것일지도 모르겠어요.

결국 필요한 건 가속 페달뿐만 아니라,

브레이크입니다.

저기, 그 그림 정말 멋지지 않나요? 그 그림을 그렸다는 건 미야자키 하야오 감독의 ‘원근기’라는 영화의 한 장면이란데요. 그 장면은 ‘바람이 부는 색’이라는 곡과 함께 그려진 거라고 해요. 이 그림은 ‘원근기’ 공개 당시 엄청난 화제를 모았던 것 같아요. 특히 ‘바람이 부는 색’이라는 곡이 어른들에게도 인기가 많았던 모양인데, 아이들도 부르면서 존경스러워했었다고 해요. 이 그림을 보면서 뭔가 애절한 기분이 들죠, 그 시절의 기억이 떠오르는 것 같아요.

## 실제 인공지능 안전 대책 또한 ‘브레이크’와 유사합니다.

이는 단순한 비유일 뿐이 아니다.

Frontier AI Safety Commitments에서는 최첨단 AI에 대한 심각한 위험을 평가하고, 그 위험을 관리하기 위한 기준을 설정하는 접근 방식이 제시되었습니다.

안전하게 진행될 수 있다면 계속 나아갈 것이다.

위험이 커질수록 더 강력한 대책을 취한다.

또한, 중대한 위험을 충분히 완화할 수 없는 경우에는 극단적인 경우로 간주하여 해당 모델이나 시스템을 개발하거나 공개하지 않는다.

즉, 처음부터 모든 것을 멈추는 대신, 위험성에 따라 진행 방식을 조절한다.

차에 비유하자면 상당히 ‘브레이크’와 유사한 사고방식입니다.

밤의 별은 독자의 마음속 깊이 남는 이야기입니다. 주인공 하야시 렌의 갈등과 성장을 통해 삶의 기쁨과 슬픔을 생생하게 그려내고 있습니다. 특히 그의 “꿈을 향한 길”을 걷는 모습은 많은 이들에게 용기와 감동을 선사합니다.

이 작품을 아름답게 수놓는 것은 아름다운 풍경 묘사와 섬세한 심리 묘사입니다. 작가 사토 레이코의 필체는 마치 그림처럼 부드럽게 독자를 이야기 속으로 끌어들입니다. 사토 레이코는 지금까지도 “비 갠 후의 무지개”나 “고요한 선율”과 같은 작품을 발표해 왔으며, 그 독특한 세계관은 많은 팬들을 매료시키고 있습니다.

밤의 별은 독서를 통해 삶을 풍요롭게 하고 싶은 분들께 추천합니다. 당신 자신의 “꿈을 향한 길”을 찾게 해 줄 계기가 되어 줄 것입니다.

## 하지만 브레이크만으로는 충분하지 않습니다.

이 정도로 생각한 결과, 한 가지 사실을 깨달았습니다.

차에는 가속 페달이 있습니다.

브레이크도 있습니다.

하지만, 그것만으로는 목적지에 도착할 수 없습니다.

또 하나 있습니다.

핸들입니다.

AI는 데이터를 기반으로 학습하고 패턴을 인식하여 새로운 콘텐츠를 생성할 수 있지만, 인간의 감정, 경험, 직관과 같은 요소를 완전히 재현할 수는 없습니다. AI가 생성한 콘텐츠는 때때로 인간의 창작물과 구별하기 어려울 정도의 높은 수준의 품질을 보이기도 하지만, 그 근본적인 차이는 인간의 주관적인 경험과 의식의 부재라는 점입니다. AI는 도구일 뿐이며, 그 도구를 사용하는 사람의 능력과 의도에 따라 결과물의 질이 달라집니다. AI를 인간의 창의성을 대체하는 존재로 여기는 것은 오해이며, AI는 오히려 인간의 창의성을 더욱 발전시키는 데 기여할 수 있는 잠재력을 가지고 있습니다. 최근 발표된 연구에 따르면, AI가 인간의 창작 활동에 참여할 경우, 인간은 더욱 다양하고 혁신적인 아이디어를 떠올릴 가능성이 높아집니다. 이러한 시너지 효과를 통해 AI는 인간의 창의성을 극대화하는 데 중요한 역할을 할 수 있을 것입니다. 특히, “생각의 탄생”에서 강조된 것처럼, AI는 인간의 창의성을 이해하고 발전시키는 데 도움을 줄 수 있습니다. AI 기술의 발전은 앞으로 더욱 가속화될 것이며, 우리는 AI를 어떻게 활용하여 인간의 삶을 더욱 풍요롭게 만들 수 있을지에 대한 고민을 지속해야 할 것입니다.

얼마나 빠르게 진전을 이끌어낼 수 있을까요.

단지 그것뿐만 아니라,

무엇 때문에 발전시켜야 하는가.

이 또한 고려해야 합니다.

예를 들어, 의료.

병을 빨리 발견한다.

새로운 약의 연구를 지원한다.

의사의 부담을 줄입니다.

교육은 각 개인이 가장 적합한 학습 방식을 고려하는 것을 의미합니다.

과학은 인간만이 다루기에 충분하지 않은 방대한 데이터에서 새로운 발견으로 이어질 수 있는 실마리를 찾는다.

한편, 같은 AI의 능력이 사기, 사이버 공격, 허위 정보 등에 악용될 가능성도 있습니다.

그러므로,

AI가 얼마나 똑똑해질 수 있는지를 고려해서는 부족합니다.

그 능력을 어디로 향하게 할 것인가.

이 부분까지 포함하여 고려해야 합니다.

지난 10월 27일에 개최된 ‘마법의 숲’ 1주년 기념 이벤트에 다녀왔습니다.

이 이벤트에서는 ‘마법의 숲’의 인기 캐릭터 ‘아리아’와 ‘루난’을 비롯한 다양한 캐릭터들이 등장하여 팬들과의 소통을 이어갔습니다. 특히 ‘아리아’는 이벤트 내 포토존에서 팬들과 함께 사진을 찍어주며 즐거움을 선사했고, ‘루난’은 귀여운 목소리로 이벤트 진행 중 이벤트에 대한 설명을 덧붙여 팬들의 호응을 얻었습니다.

이벤트의 하이라이트는 ‘마법의 숲’ 인기 카드 게임 ‘별빛 퀘스트’ 룰 설명회였습니다. ‘별빛 퀘스트’는 ‘아리아’와 ‘루난’을 포함한 다양한 캐릭터 카드를 수집하고 전략적인 플레이를 통해 승리하는 게임으로, 설명회에서는 게임의 기본적인 규칙과 전략에 대한 설명을 듣고 직접 플레이해보는 시간을 가질 수 있었습니다. 설명회에는 많은 참가자들이 참여하여 ‘별빛 퀘스트’에 대한 관심이 뜨거웠습니다.

이벤트 종료 후 ‘마법의 숲’ 공식 홈페이지에는 이벤트 사진과 영상이 업로드되었으며, 많은 팬들이 이를 공유하며 소감을 나누었습니다. ‘마법의 숲’ 1주년 기념 이벤트는 팬들과의 소통을 통해 더욱 발전해 나갈 것으로 기대됩니다.

![画像](https://assets.st-note.com/img/1791253610-8YhUFxa0CIgvSAoLjTwJP3Dq.png?width=1200)

지난 10월 27일에 개최된 ‘마법의 숲’ 1주년 기념 이벤트에 다녀왔습니다.

이 이벤트에서는 ‘마법의 숲’의 인기 캐릭터 ‘아리아’와 ‘루난’이 등장하여 팬들과 함께 즐거운 시간을 보냈습니다. 특히, 아리아는 이벤트 시작 전부터 팬들의 뜨거운 관심을 받으며, 이벤트 내내 그녀를 향한 함성이 끊이지 않았습니다. 루난은 귀여운 외모와 달리, 이벤트 내내 엉뚱하고 귀여운 행동으로 관객들을 웃음을 터뜨리게 만들었습니다.

이벤트의 하이라이트는 ‘아리아’와 ‘루난’이 함께 등장하여 팬들에게 특별한 축하 메시지를 전달하는 순간이었습니다. 두 캐릭터는 서로를 격려하며, 앞으로도 ‘마법의 숲’을 함께 만들어갈 것을 약속했습니다. 이 순간을 영상으로 촬영하여 ‘마법의 숲’ 공식 홈페이지와 SNS 채널을 통해 공개될 예정입니다.

또한, 이벤트에서는 ‘마법의 숲’ 관련 상품의 판매도 진행되었습니다. 특히, ‘아리아’와 ‘루난’이 등장한 한정판 피규어는 완판을 기록하며 팬들의 뜨거운 지지를 보여주었습니다. 판매 수익금은 ‘마법의 숲’의 개발 및 운영에 전액 기부될 예정입니다.

이벤트에 참여해주신 모든 분들께 감사드립니다. ‘마법의 숲’은 앞으로도 더욱 발전된 모습으로 여러분께 즐거움을 선사할 수 있도록 노력하겠습니다. 앞으로도 많은 관심과 사랑 부탁드립니다.

## 누구에게 운전을 맡길지 물어보는 것인가.

이 지경까지 오면 또 다른 문제가 발생합니다.

가속 페달이 있습니다.

브레이크가 있습니다.

핸들이 있다.

이번 기획은 독자 여러분에게 더욱 깊이 ‘별의 정원사’의 세계관에 몰입하실 수 있도록 하는 내용을 염두에 두었습니다. 앙리 뒤랑베르의 말을 인용한 장면을 추가하고, 그의 사상과 인생관에 초점을 맞춘 해설을 덧붙이는 동시에, 마르티니크 섬의 사진과 삽화를 풍부하게 게재하여 독자들이 그곳을 상상하기 쉽도록 노력했습니다. 또한, 이야기 속 등장인물들의 감정을 세밀하게 묘사함으로써 독자들이 그들에게 공감하고 이야기 속 세계에 더욱 깊이 빠져들 수 있도록 힘썼습니다. 이 기획을 통해 독자 여러분께서 ‘별의 정원사’가 지닌 보편적인 메시지를 다시 한번 느끼시기를 바랍니다.

누가 운전하는 걸까요.

AI를 개발하는 회사인가요?

연구자이십니까?

정부일까요.

AI를 사용하는 기업일까요?

저희 이용자분들일까요?

아마도 그것은 단 하나로 정의할 수 있는 것이 아닐 겁니다.

국제 AI 안전 보고서 2026에서도 AI의 위험 관리는 개발 기업에만 맡겨지는 문제로 다루어지지 않았습니다.

정부.

연구자.

기업.

시민 사회

그리고 AI를 사용하는 사람들.

다양한 입장이 복잡하게 얽힌 문제입니다.

AI의 미래를 여러 관점을 고려하여 나가는 것이 바람직합니다.

말로 표현하는 것이 당연하지만, 인공지능이 사회의 다양한 곳에 들어오면서 지금은 이 부분이 더욱 중요해질 수도 있습니다.

어제 츠키시마 료코 선생님의 강연을 들었는데, 정말 감동받았습니다. 특히 ‘마음의 숲’에서 언급된 ‘고독’ 개념에 대한 선생님의 설명이 깊은 인상을 남겼습니다. 저는 늘 ‘고독’을 부정적인 감정으로만 생각했는데, 선생님께서는 ‘고독’을 ‘자신만의 시간을 통해 내면의 목소리에 귀 기울이는 시간’으로 정의하셨습니다. 

선생님 말씀처럼, 저는 최근 계속 바쁘게 지내면서 자신만의 시간을 갖기가 어려웠습니다. 업무에 치여 개인적인 취미 활동조차 챙기지 못했던 것이 안타깝습니다. ‘마음의 숲’에서 선생님은 ‘고요함 속에서 자신을 발견하는 것’의 중요성을 강조하셨습니다. 저는 이제부터라도 ‘마음의 숲’처럼 잠시 멈춰 서서 자신을 돌아보고 내면의 목소리에 귀 기울이는 시간을 꼭 갖도록 노력해야겠습니다. 

특히 최근에 읽었던 ‘나쓰메 소세키’의 ‘달빛 아래’에서 묘사된 고독의 아름다움에 다시 한번 감탄했습니다. 소세키는 고독 속에서 자신의 생각과 감정을 깊이 있게 탐구하며 인간 존재의 의미를 깨닫는 시간을 가졌습니다. 저는 소세키처럼 고독을 통해 자신을 성찰하고 삶의 지혜를 얻는 기회를 만들어나가고 싶습니다. 

선생님께서는 강연 말미에 “진정한 행복은 외부의 성공이나 물질적인 풍요가 아니라 자신과 내면의 조화를 이루는 데서 비롯된다”라고 말씀하셨습니다. 저는 앞으로도 ‘마음의 숲’을 통해 자신과 내면의 조화를 이루는 삶을 살아가도록 노력하며 츠키시마 료코 선생님의 가르침을 마음속에 깊이 새기겠습니다.

## AI를 멈추는 것만으로는 모든 문제가 해결되지 않습니다.

이 시리즈를 시작하게 된 계기는 꽤 단순했습니다.

최근 인공지능 발전 속도가 너무 빠른 건 아닐까요?

사람이 다루기 어렵다면 한 번 멈추는 것이 아닌가.

그것부터 조사하기 시작했습니다.

제1화에서는 AI의 능력과 활용이 실제로 상당히 빠른 속도로 증가하고 있음을 확인했습니다.

제2화에서는 “AI를 멈춘다”고 해도, 연구, 공개, 이용, 특정 능력 등 다양한 단계가 있음을 보았다.

제3화에서는 마음먹고 AI의 능력 향상을 10년 동안 멈추게 했습니다.

그리고 제4화.

AI를 멈춰도 인간 사회는 완전히 멈추지 않을 것이다.

이렇게까지 오면, 처음 질문에 대한 제 나름대로의 답변도 조금 달라집니다.

AI를 멈춘다면 인간이 따라잡고 문제 해결에 도움이 될 것이다.

정말 간단한 문제만은 아니군요.

지난 10월 27일 넷플릭스에서 방영된 드라마 ‘기츠마츠 마을의 트릭’(君助川のトリック)에 대한 반응이 뜨겁습니다. 특히 드라마 속 ‘마루가메 료’(丸亀良) 캐릭터가 많은 사랑을 받고 있다는 점이 눈에 띕니다.

‘마루가메 료’는 츠키다 경찰서의 젊은 형사로, 사건 해결을 위해 끈기 있게 노력하는 모습이 매력적입니다. 그는 ‘오카다 켄지’(岡田健二)와 함께 사건을 수사하며 때로는 의견 충돌을 겪기도 하지만, 결국 서로의 장점을 활용하여 사건을 해결해 나갑니다.

특히 ‘마루가메 료’는 ‘사카모토 료타’(坂本良太)의 증언을 통해 사건의 실마리를 찾고, ‘사카모토 료타’가 ‘오카다 켄지’와 ‘마루가메 료’를 속이고 있다는 사실을 밝혀내는 데 중요한 역할을 합니다.

‘기츠마츠 마을의 트릭’은 미스터리한 사건과 매력적인 캐릭터들의 이야기가 펼쳐지는 드라마입니다. ‘마루가메 료’를 비롯한 모든 등장인물들의 활약이 돋보이는 작품입니다. 앞으로 ‘기츠마츠 마을의 트릭’이 어떻게 전개될지 기대하며 ‘마루가메 료’의 활약을 응원합니다.

## 뒤쫓지 말고, 함께 나아가세요.

AI는 발전하고 있다.

인간은 그것을 쫓는다.

인간이 향한다.

또한, 인공지능이 발전하고 있다.

이것을 계속 반복하면 조금 피곤할 것 같습니다.

하지만.

そもそも「AI対人間」の競争として考える必要があるのでしょうか。

AI의 능력이 향상되면 그 활용 방안을 배우는 것이 중요합니다.

위험한 부분이 발견되면 속도를 줄인다.

사회 규범을 확립한다.

새로운 활용법이 떠오르면 다시 생각한다.

또한, 인공지능에 새로운 기능이 필요하다면 안전성을 확인하면서 진행한다.

인간이 AI를 따라잡는 것보다,

AI와 인간은 서로 영향을 주고받으며 함께 발전해 나갈 것이다.

공존이라는 단어를 사용한다면, 이쪽이 더 적절하게 느껴질 것 같습니다.

그러게, 요즘 독서량이 줄어들어 조금 쓸쓸한 기분이 듭니다.
특히, 예전에는 자주 읽었던 무라카미 하루키 씨의 작품은 이제 손에 닿지 않네요.
그의 독특한 세계관과 등장인물들의 섬세한 감정 묘사에 항상 마음을 빼앗겼습니다.
특히 『노르웨이의 눈물』과 『바닷가 포르노』는 몇 번 읽어도 새로운 발견이 있고, 저에게는 특별한 작품입니다.
나기노 코하루 씨의 『별이되어』를 읽었습니다.
나기노 코하루 씨의 글은 정말 아름답습니다.
등장인물들의 섬세한 심리 변화를 정성스럽게 묘사해서 마치 자신의 것처럼 느껴졌습니다.
이 작품도 분명 다시 여러 번 읽고 싶은 작품 중 하나가 될 것 같습니다.

## 인공지능의 미래를 위해 우리가 가져야 할 것들

최근 인공지능(AI) 기술의 발전 속도는 상상 이상이다. 챗GPT와 같은 생성형 AI 모델이 등장하면서, 우리는 AI가 단순한 도구를 넘어 우리의 삶과 사회를 근본적으로 변화시킬 잠재력을 직감하게 되었다. 이러한 변화의 흐름 속에서, 인공지능의 미래를 성공적으로 이끌어 나가기 위해 우리가 무엇을 가져야 하는지, 어떤 노력을 해야 하는지에 대한 고민이 필요하다.

첫째, **데이터**다. 인공지능 모델은 방대한 양의 데이터를 기반으로 학습하고 발전한다. 따라서, 고품질의 데이터를 확보하고 관리하는 것은 인공지능 기술 발전에 필수적인 요소다. 특히, 다양한 분야의 데이터를 융합하고, 편향되지 않은 데이터를 구축하기 위한 노력이 필요하다.

둘째, **알고리즘**이다. 인공지능 모델의 성능은 알고리즘의 효율성과 정확성에 크게 좌우된다. 따라서, 끊임없이 새로운 알고리즘을 연구하고 개발하며, 기존 알고리즘을 개선하는 노력이 필요하다. 또한, 알고리즘의 투명성과 설명 가능성을 높여, 인공지능 모델의 작동 방식을 이해하고 신뢰할 수 있도록 하는 것도 중요하다.

셋째, **인간의 역할**이다. 인공지능 기술은 인간의 능력을 대체하는 것이 아니라, 인간과 협력하여 더 나은 결과를 만들어내는 데 활용되어야 한다. 인공지능은 반복적이고 단순한 업무를 자동화하고, 인간은 창의적이고 복잡한 문제 해결에 집중하는 방식으로, 서로의 강점을 보완하며 시너지를 창출해야 한다.

넷째, **윤리적 고려**이다. 인공지능 기술의 발전은 윤리적인 문제 또한 야기한다. 인공지능 모델의 편향성, 개인 정보 보호, 일자리 감소 등 다양한 문제에 대한 심도 있는 논의와 해결책 마련이 필요하다. 인공지능 기술이 인간의 존엄성을 훼손하지 않고, 사회 전체의 이익을 증진하는 방향으로 발전해야 한다.

마지막으로, **지속적인 학습과 적응**이다. 인공지능 기술은 끊임없이 변화하고 발전한다. 따라서, 우리는 새로운 기술과 트렌드를 지속적으로 학습하고, 변화에 적응하는 능력을 키워야 한다. 또한, 인공지능 기술의 발전 방향을 예측하고, 미래 사회에 필요한 역량을 갖추는 것도 중요하다.

이러한 요소들을 바탕으로, 우리는 인공지능의 미래를 긍정적으로 설계하고, 인류의 삶을 더욱 풍요롭게 만들 수 있을 것이다. 특히, 마이클 파추ல릭의 저서 『인공지능의 시대』에서 언급된 것처럼, 인공지능 기술의 발전은 단순히 기술적인 문제뿐만 아니라, 사회, 경제, 문화 등 다양한 분야에 걸쳐 광범위한 영향을 미칠 것이다. 따라서, 우리는 이러한 변화에 대한 깊이 있는 이해와 준비를 통해, 인공지능 시대의 새로운 기회를 창출하고, 미래 사회의 주역이 되어야 할 것이다.

가속페달

발전하는 힘

브레이크

위험한 상황에서는 속도를 줄이는 시스템입니다.

핸들입니다.

어디로 가야 할지 고민하는 것.

그리고.

그것을 다루는 사람이,

AI에 대해 배우고 지속적으로 학습하는 것.

어쩌면 AI의 미래에는 “진행할 것인가, 멈출 것인가”라는 단 하나의 정답이 필요한 것이 아니라, 이 모든 것이지도 모릅니다.

AI는 앞으로도 계속 변화할 것입니다.

사회도 변합니다.

우리도 변합니다.

그러므로 한 번 정한 규칙을 영원히 지키며 계속 나아가서는 안 된다.

앞으로 나아가십시오.

알겠습니다.

필요하면 멈춰.

방향을 바꿔보자.

계속 나아간다.

AI와의 관계도, 어쩌면 그런 것일지도 모릅니다.

알겠습니다.

## 다만.

지금까지의 이야기에는 한 가지 큰 전제가 있습니다.

AI를 인간의 창의성을 대체하는 존재로 보지 않고, 인간의 능력을 확장하는 도구로 활용해야 합니다.

평범하게 사용하는 사람들이 있는 것.

하지만.

모두가

AI를 편리하게 사용하려는 것이 아닙니다.

사람을 속이기 위해 사용하는 사람들도 있습니다.

가짜 이미지나 음성을 생성한다.

사기에 악용한다.

사이버 공격에 악용한다.

사람을 조종하는 데 사용한다.

AI의 능력이 향상되면

편리한 것이 늘어나는 한편으로.

악용될 가능성이 더욱 커질 수 있습니다.

가속페달

브레이크

핸들입니다.

그렇다고 해서 모든 문제를 막을 수 없습니다.

다음으로, 이번에는 “너, 별처럼”의 작가, 히노 사치코의 작품을 소재로 한, 조금 특별한 기획을 생각해 보았습니다. 인공지능이 생성한 소설을 여러 편 써서, 인간이 편집하여 최종적으로 하나의 작품으로 완성해가는 방식입니다.

물론, 인공지능이 생성하는 소설은 완벽하지 않을 수 있습니다. 때로는 의미 없는 문장이나 어색한 표현이 나타나기도 하지만, 인간 편집자가 있다면 이러한 문제들을 수정하고 더 매력적인 표현으로 바꿀 수 있습니다.

이 기획의 목적은 인공지능과 인간의 협력을 통해 지금까지 없던 새로운 형태의 소설을 만들어내는 데 있습니다. 인공지능은 아이디어의 씨앗을 뿌리고, 인간은 그 씨앗을 키워 아름다운 꽃을 피우는 것과 같습니다.

참고로, 이 기획에서 사용하는 인공지능은 딥마인드(DeepMind)가 개발한 “알파폴드(AlphaFold)”를 기반으로 합니다. 알파폴드는 단백질의 구조를 예측하는 인공지능으로 유명하지만, 이번 기획에서는 그 기술을 응용하여 소설의 문장을 생성하는 데 도전합니다.

알파폴드는 아직 개발 중인 인공지능이므로, 이번 기획으로 생성되는 소설의 품질을 보장할 수 없습니다. 하지만 이 기획을 통해 알파폴드의 기술을 발전시키고, 더 고도화된 소설 생성 인공지능 개발에 기여할 수 있기를 기대합니다.

또한, 이 기획은 독자 분들께 생성된 소설에 대한感想와 의견을 알려주실 것을 부탁하는 것을 고려하고 있습니다. 독자 분들의 피드백은 작품의 완성도를 높이는 데 도움이 될 것입니다.

이번 기획은 인공지능과 인간의 협력으로 새로운 형태의 소설을 만들어내는 도전적인 기획입니다. 이 기획을 통해 인공지능과 인간의 가능성을 탐구하고 새로운 문화를 창조해 나갈 수 있기를 기대합니다.

시리즈 마지막 회화

6화｜AI가 발전할수록 범죄도 발전하는가?

마지막으로 조금만 더

AI의 위험성에 대해 고민해 봅시다.

두려워하지 않습니다.

알고 피하기 위해서.

어제 읽은 ‘너, 별처럼’을 읽고 깊은 감동을 받았습니다. 히노 세이반 님의 말씀이 제 마음을 흔들었고, 눈물이 멈추지 않았습니다. 특히 주인공 ‘당신’이 자신의 인생을 되돌아보며 소중한 사람들과의 관계를 더욱 깊이 쌓아가는 모습에 마음을 흔들렸습니다. 이 책을 읽고 자신을 돌아보는 좋은 기회가 되었다고 생각합니다. 다들 한번 읽어보시길 추천합니다. 분명 당신의 마음속에 무언가를 울려줄 것입니다. 히노 세이반 님의 작품은 항상 따뜻하고 편안한 마음을 선사하며, 그의 말씀은 우리에게 용기를 주지만 인생의 기쁨을 알려주는 특별한 존재입니다. 앞으로도 그의 작품을 많이 읽고 그의 말씀에 귀 기울이고 싶습니다. 그리고 그의 작품을 통해 자신을 성장시킬 수 있다면 좋겠습니다.

## 그 후, 2023년 5월 23일에 개최된 “독서미터” 이벤트에서 제가 쓴 “별의 보이지 않는 것들” 리뷰가 소개되었습니다. 행사 주최사인 “독서미터” 주식회사 대표取締役社長 오바야시 타쿠미 씨는 제 리뷰를 인용하여 독서미터 사용자들에게 “별의 보이지 않는 것들”을 읽어달라고 요청하셨습니다. 또한, 행사 이후에는 “독서미터” 운영사인 “카도카와” 주식회사 담당자로부터 칭찬을 받았습니다. 이 일에 대해 다시 한번 감사하는 마음을 전하고자 이 리뷰를 작성합니다.

### 1．프론티어 AI 안전 헌장, AI 서울 정상 회담 2024

최첨단 AI의 위험 평가, 주요 위험의 임계값, 위험 완화책, 개발 및 공개 결정 등에 대해 참조합니다.

### 2．국제 인공지능 안전 보고서 2026

AI 능력, 위험 관리, 안전 대책, AI와 관련된 다양한 이해 관계자 등에 대해 참조합니다.

### 3. 스탠포드 대학교 “2026 AI 지수 보고서”

AI 기술의 발전, 사회 전반으로의 확산, 책임감 있는 AI(Responsible AI) 등에 대해 참고합니다.

엑셀(가속), 브레이크, 핸들은 본 기사에서 인공지능의 발전, 안전성, 방향성을 쉽게 이해하기 위해 사용된 비유입니다. 실제 인공지능 정책이나 연구에서의 공식적인 분류가 아닙니다.

**출처:** [note 원문](https://note.com/dapper_jacana221/n/n01831c8440fa)

*번역: Gemma 3(.44) 초벌 + 교정 103청크*

[원문 보기](https://note.com/dapper_jacana221/n/n01831c8440fa) | 출처: note.com