# ChatGPT 등 AI에 기업의 가짜 연락처를 출력하게 하여 사용자를 사기 행위로 유도하는 사이버 공격 “Dark Sourcery”

> https://bookfactory.kr/board/news/19156
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-09-30T05:39:01.560Z

---

ChatGPT와 Gemini와 같은 AI 챗봇의 출력을 오염시키기 위해 악의적인 링크와 데이터를 인터넷 상에 흩뿌리는 사이버 공격 캠페인 “Dark Sourcery”에 대해 사이버 보안 기업 Vigilance Security의 연구자들이 보고했습니다.

Dark Sourcery: 해커가 당신을 속이기 위해 AI를 조작하는 방법 | Ariel Simon | 2026년 9월 | Medium https://medium.com/@arielsimon/dark-sourcery-how-hackers-manipulate-ai-to-scam-you-88df434d2073

공격자들은 AI 챗봇을 이용한 대규모 허위 정보 및 피싱 캠페인을 수행하고 있습니다. https://www.darkreading.com/threat-intelligence/attackers-manipulate-ai-chatbots-mass-disinformation-phishing-campaign

Vigilance Security의 연구 담당 부사장 아릴 사이몬(Ariel Simon)에 따르면, Dark Sourcery는 ChatGPT, Gemini와 같은 AI 챗봇과 Google 검색의 AI 기반 요약과 같이 “AI를 활용한 검색 행위”를 표적으로 삼는 사이버 공격입니다. Vigilance Security의 보안 분석가에 따르면, 공격자는 사용자가 AI에게 기업 연락처를 문의할 때, 가짜 전화번호, 이메일 주소, 로그인 페이지 등을 제시하도록 유도하여, 게시물, PDF, 리뷰, 지원 페이지 등을 위조하고 인터넷 상에 대량으로 게시합니다. Vigilance Security가 발견한 “AI 오염을 위한 위조 콘텐츠”의 예시는 다음과 같습니다. HP 제조 프린터의 공식 지원 연락처가 기재된 이미지 및 게시물처럼 보이지만, 여기에 기재된 전화번호는 HP 공식 지원 전화번호가 아닌, 공격자가 위조한 가짜 전화번호입니다.

이러한 “AI 오염을 위한 위조 콘텐츠”를 인터넷 상에 대량으로 게시함으로써, Google 검색의 AI 기반 요약이 “공격자가 위조한 연락처”를 사용자에게 제시하는 사례가 확인되었습니다. 이러한 “공격자가 위조한 연락처”에 연락한 결과, 결제 정보나 신용 카드 정보를 속아 넘겼다는 불만도 확인되었습니다.

공격자들은 검색 엔진 최적화(SEO)와 같은 기술을 활용하여 AI 챗봇이 “AI 오염을 위한 위조 콘텐츠”를 수집하고 사용자와의 대화의 일부로 활용하도록 유도하고 있습니다. 사이몬氏は보안 미디어 Dark Reading에 대해 “우리는 권위 있는 기관(대학이나 정부 기관)과 여론을 반영하는 정보원(소셜 미디어, 포럼, 사용자 리뷰 등)을 결합하여 AI의 답변을 왜곡하는 데 성공했다고 생각합니다.”라고 말했습니다. “모델에 따라 다르지만, AI는 정보원을 확인하고 권위 있는 기관에서 나온 정보라면 해당 콘텐츠를 더 신뢰하는 경향이 있습니다.” Vigilance Security에 따르면 Dark Sourcery에서는 “대기업을 위장한 가짜 연락처”를 AI에게 제시하는 공격이 이루어지고 있으며, 최소 374개 회사가 공격 대상이 되었다고 합니다. 피해를 입은 기업에는 델타항공, 루프트한자 독일항공, 카타르항공, JP모건 체이스 은행, 뱅크 오브 아메리카, 에어비앤비, 트립어드바이저 등이 포함됩니다.

Dark Reading은 “Dark Sourcery가 SEO 독해(SEO 포이즈닝)와 유사하다”고 지적했습니다. 사이몬 氏は“Dark Sourcery에서는 악의적인 정보가 AI의 답변 일부로 삽입될 수 있습니다. 허위 지원 번호가 마치 유용한 정보인 것처럼 제시되어 사용자가 정보 제공한 페이지를 한 번도 보지 않은 채 허위 번호를 이용하게 될 가능성이 있습니다”라고 언급했습니다. 또한, 대부분의 인터넷 사용자는 AI 챗봇을 맹목적으로 신뢰하는 경향이 있기 때문에 Dark Sourcery와 같은 공격은 “새로운 위험을 초래한다”고 사이몬 氏は 밝혔습니다. 실제로 2026년 8월에 발표된 Exploding Topics의 조사에 따르면, AI 챗봇을 이용하는 사람의 91%가 제시된 답변을 검증하지 않았습니다. Dark Sourcery는 기사 작성 시점에도 지속적으로 진행되고 있으며, 그 전 과정을 완전히 파악하는 데는 아직 어려움이 있습니다. AI 챗봇 사용자에게 있어 가장 명백한 베스트 프랙티스는 AI가 제시한 정보를 검증하고 AI 챗봇을 맹목적으로 신뢰하지 않는 것이라고 사이몬 氏は 주장했습니다.

[원문 보기](https://gigazine.net/news/20260925-dark-sourcery-hackers-manipulate-ai-scam/) | 출처: Gigazine