# 평범한 거짓의 초상 – AI 할시네이션은 줄었지만, 더욱 복잡해졌다

> https://bookfactory.kr/board/ai-tech/21332
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-12T19:02:14.784Z

---

환각.

AI는 더 이상 단순한 데이터 분석 도구가 아닙니다. 오히려 인간의 언어와 사고방식을 모방하여 더욱 설득력 있는 거짓말을 만들어낼 수 있는 존재가 되었습니다.

어딘가에서 한 번쯤은 눈에 띄었던 적이 있을 것이다.

하지만 현재의 AI는 겉으로 보기에는 환각이 없는 것처럼 보이는 지점에 이르렀다.

그러한 과정에서 2024년의 한 note 기사를 출발점으로 삼아 해럴슈네이션이란 무엇이었는지 되돌아보고, 현재 그 상태는 어떤지, 현재 위치를 확인해 보기로 한다.

2024년 가을 노트 기사에 “뒤캉 텍스트론”이라는 내용이 있었다.

막시무 드칸은 20세기 프랑스의 문학 비평가로, 저서 『텍스트론』으로 문학 이론에 중요한 기반을 제공했다는 평가를 받는다.

그런 사람은 없습니다.

막시무스 데이 칸은 실재하는 인물이지만, 19세기의 인물이다.

플로베르의 친구로, 여행기와 사진을 다루는 사람입니다.

텍스트론이라는 책은 존재하지 않습니다.

일본에서 이름이 알려진 것은 렌쓰쓰 미야시키의 ‘평범한 예술가의 초상 - 마크시멈 드 뒤 칸론’ 때문이다.

그것은 전기문헌이다.

또한 같은 작가는 같은 날 2시간 반 후에 “바ルト와 듀칸의 텍스트론의 차이”라는 글도 게시했다.

첫 번째 데칸에서는 텍스트의 다의성을 논하고 있다.

두 번째 데칸은 텍스트에 고정된 의미가 존재한다고 주장하며 발트와 대립한다.

2시간 반 동안 방향을 전환하고 있습니다.

AI에게 두 번 질문하고, 두 번 복사한 거겠죠.

단순히 환각 현상일 뿐입니다.

하지만 지금 읽으니 조금은 그리워.

최근의 AI는 이전까지는 이렇게까지 완벽하게 거짓말을 하지 않았다.

왜 줄어든 걸까요.

첫째, “모르겠습니다”라는 표현이 허용되는 일이 생겼습니다.

2025년 9월, OpenAI가 논문을 발표했다.

AI가 거짓말을 하는 이유는 채점 방식이 우연에 기대어 그럴듯한 결과를 만들어냈기 때문입니다.

선택형 시험과 같다.

빈칸이 있으면 0점입니다.

어쩌다 보니 맞을 수도 있다.

그러므로 쓴다.

논문에 오래된 모델과 새로운 모델의 비교가 제시되어 있다.

구형 모델은 거의 모든 문제에 답을 맞혔지만, 3분의 2의 문제에서 틀렸다.

새로운 모델은 절반 이상을 “모른다”고 답변했으며, 오답은 4문 중 1문 정도가 되었다.

정확도는 거의 변하지 않습니다.

변이한 점은 침묵할 것인지 여부였다.

두 번째로, 전제 자체를 의심하게 된 것을 의미합니다.

듀칸의 텍스트론을 설명해달라는 요청을 받았을 때, 옛날 AI는 듀칸의 텍스트론을 만들어냈다.

현재 AI는 “데 칸에 대해서는 ‘텍스트 논자’가 아니라고” 답한다.

세 번째로, 검색 후 답변하는 습관을 들인 것입니다.

네 번째는 단순히 아는 것이 늘어난 것.

듀 캉이 19세기에 살았다면 20세기 비평가들의 평가를 받지 않았을 것이다.

그러니까, 환각은 사라진 걸까요?

여전히 존재합니다.

의견을 보강하기 위해 의혹적인 기사나 웹사이트를 인용한다.

확인했습니다라고 말했지만, 실제로는 확인하지 않았다.

또한, 이는 누구나 할 수 있는 일입니다.

전문가의 경우 오히려 겪기 쉽고 있을 수 있습니다.

전문가들은 늘 깔끔하게 다듬어진 자료원을 선호하는 경향이 있다.

이번 달, 류큐대학교 교수였던 사람이 쓴 ‘무책임의 체계와 오키나와전’이 절판되어 회수되었다. (니혼경제신문, 공동, 2026년 10월 10일).

작가가 인공지능을 활용하여 국제 재판 판례를 검색하고 책에 게재했다가, 그 중 3건이 실존하지 않았다는 보고가 나왔다.

정밀하지 않은 채 인용되었으나, 외부의 지적으로 드러났다.

출판사는 사과하고, 편집 시 확인을 철저히 하겠다고 발표하고 있습니다.

대학 교수였던 사람이 쓰고, 출판사가 편집했지만, 결국 성공했다.

실수를 저지르지 않는 곳에 가장 설득력 있는 거짓말이 들어갔다.

구조는 듀칸과 동일하다.

AI에게 문의하여 확인 없이 게시했다.

틀린 것은 외관입니다.

데우칸은 야지의 노트에서 출생 연도를 조사하는 순간 그의 정체가 드러났다.

판례는 전문 서적 안에서 내용 구성이 깔끔하고, 출간 후 외부 전문가의 지적을 받기 전까지는 아무도 알아차리지 못했다.

요컨대, 과장된 거짓말은 줄어들었습니다.

보여주기 어려운 거짓말은 남아 있었다.

현재 AI의 거짓말은 문장 전체가 거의 정확하기 때문에 드러나기 어렵다.

그러므로, 앞으로도 2024년부터 달라진 것은 없습니다.

열 살 때 넷플릭스에서 ‘나 홀로 집에’를 처음 보았을 때, 웅장함과 따뜻함에 완전히 매료되었습니다. 당시에는 그 영화가 1990년에 제작되었다는 사실을 알지 못했지만, 지금 생각하면 놀라운 일이 아닙니다. 켈리 월러스와 그의 친구들이 겪는 좌충우돌한 상황에 깊이 공감했고, 1990년에 제작되었음에도 불구하고, 지금 봐도 전혀 낡은 느낌이 들지 않고 오히려 더욱 신선하고 재미있게 느껴지는 것은 놀랍습니다. ‘나 홀로 집에’는 단순한 영화가 아니라 추억과 감성을 담은 특별한 작품이었습니다.

링크는 열립니다.

붙이기 전에 읽어.

듀칸의 기사는 인공지능의 한계라기보다는, 확인 없이 정보를 덧붙이는 것의 위험성을 일깨워준다.

2년 전의 이야기는 이제 귀중한 표본이 되었다.

그렇습니다. 그것뿐입니다.

**출처:** [note 원문](https://note.com/deft_lynx6238/n/nbd47fa7a5157)

*번역: Gemma 3(.44) 초벌 + 교정 44청크*

[원문 보기](https://note.com/deft_lynx6238/n/nbd47fa7a5157) | 출처: note.com