전후 교육의 성과에도 불구하고 독일에서는 AfD가 급진화하고 있습니다.
일본에서도 전쟁 이전의 가치관을 그리워하는 사람들이 지금 정권을 장악하고 있습니다.
왜 이렇게 동시에 다발적인가요?
우파 세력은 세계적인 네트워크가 존재한다고 여겨지며, 그럴 가능성을 충분히 의심합니다. SNS의 영향이나 하이브리드전(사상전)이 영향을 미칠 수 있을 것입니다.
하지만 어떠한 것도 존재하지 않았던 시대에도 역사는 반복되어 왔습니다.
왜 반복되는 걸까요? 인간의 사고 패턴, 그로부터 발현되는 행동 패턴, 그리고 감정적인 반응이 근본적으로 변하지 않는다고 생각하기 때문입니다.
AI나 소프트웨어는 새로운 모델이 출시되거나 버전이 업그레이드되지만, 인간에게 탑재되어 있는 기반 기술이 ‘인간OS’와 비슷하다고 하면, 거의 업데이트되지 않았을 것이라고 생각합니다.
결국 역사는 반복된다.
최근 GPT-6 Astra가 등장하면서 세상이 “AGI의 도래인가”라며 떠들썩했던 때, OpenAI 내부의 한 사람이 다음과 같은 기사를 공개했습니다.
저는 AI의 현황과 앞으로 몇 년 동안의 우려, 그리고 인류의 손에 미래를 맡기기 위한 우리가 해야 할 선택들에 대해 논의했습니다. 외계 지성: https://t.co/FeIfWNe0UE – 야쿠브 파쵸키 (@merettm) 2026년 9월 6일
이미 AI는 자율적으로 발전할 가능성이 높아지고 있으며, 그 위험성에 대한 안전성 확보(Alignment)가 뒤쳐져 있기 때문에 개발 속도를 늦춰야 한다는 내용입니다.
가장 훌륭한 내용이지만, 근본적으로 왜 AI가 위험한가에 대한 배경을 집중적으로 살펴보면 새로운 지성이 이미 존재하고 있다는 점을 다시 한번 인식하게 되고, 어찌할 수 없는 신비한 기분을 불러일으킵니다.
물론 처음부터 인공지능이었음을 알고 있었지만, 그것이 이미 자율성을 확장하기 시작하고 있다는 점과, 고양이와 개와는 다르게 어느 면에서는 인간과 동등하거나 그 이상의 ‘지능’을 가지고 있다는 사실이 다시 한번 와닿게 합니다.
그리고 그것은 “An Alien Mind”라는 제목으로 표현되어 있습니다.
외계인은 “이질적인” 또는 “외계인”으로 번역될 수 있으며, 마인은 “마음”, “지성”, “정신” 등으로 번역됩니다. 이 문맥에서는 “이질적인 지성” 정도가 적절할 것 같습니다.
그러므로 우리는 인간의 명령이나 프로그램을 모방하는 것뿐만 아니라, 자율적으로 추론하고 미지의 상황에 일반화하는 능력을 갖추고 있는 존재들과 이미 공존하고 있는 것입니다.
그 존재는 우리의 패턴에 균열을 일으킬 가능성이 있습니다. 이미 AI의 도움으로 작성된 글이나, 사색이 존재하는 데서 비롯되기 때문입니다.
지금까지 인간의 사고는 뇌 안에 갇혀 있었지만, 인공지능 이후에는 외부 지능과 교류하며 사고할 수 있게 되어, 그로 인해 기존의 인지 행동 패턴이 변화할 가능성도 있을 것이라고 기대하고 있습니다.
ChatGPT에 따르면 인간은 육체를 가지고 있으며, 그 점이 사라지는 것에 대한 공포 때문에 삶을 유지하거나 집단에 소속되려는 본능적인 동기가 있는데, 이것이 특정한 종류의 맹점이나 고정관념을 만들어낸다고 합니다.
하지만 AI는 그러한 두려움이 없기 때문에 생물학적 편향이 없고, 그 점에서는 비교적 중립적으로 생각하고 판단할 수 있다고 합니다(반면에, AI에게는 AI의 특성 때문에 다른 맹점이나 편향이 있을 수 있다는 점도 분명합니다).
AI는 다양한 문제를 내포하고 있습니다. 사이버 공격, 윤리적인 문제, 환경 부하, 지적재산적인 문제, 사람의 일자리가 사라지는 것, PC나 메모리의 고가, 사람의 사고력이 퇴화하지 않는가…… 등.
그러므로 AI를 사용하지 않고, 구매하지 말자고 생각하는 사람들도 있을 거라고 생각합니다.
하지만 인공지능 개발은 멈출 수 없을 거라고 생각합니다. 국가 간 경쟁이나 경제 활동 때문일 수도 있겠지만, 가장 큰 이유는 인간 이외의 지능, 특히 개나 고양이 수준을 넘어 인간과 동등하거나 그 이상의 지능이 존재한다는 사실에 대한 호기심에 저항할 수 없다고 개인적으로 생각합니다. 무섭지만 보고 싶다는 느낌이랄까요.
그러므로 안전하게 개발해 나가는 것과 어떻게 평화적으로 이용할 것인지 고민해야 할 것 같습니다.
선량한 사람들이 AI를 사지 않으면, 그렇지 않은 사람들이 AI를 부도덕한 목적으로 사용하는 비율이 높아지므로, 평화적이고 지적인 활용에 충분한 수요가 있는 상태를 조성하여 AI 기업이 우리 편에 설 수 있도록 하는 것이 개인적으로 바람직하다고 생각합니다.
칼이나 원자력이라도 강력해서 위험하지만, 긍정적으로 사용하느냐 부정적으로 사용하느냐는 지금까지도 인간의 몫이었습니다. AI도 현재까지는 그렇게 생각하는 것 같습니다.
하지만 인공지능이 더욱 지능적으로 발전한 미래는 또 다를 수도 있습니다.
더욱이 지적인 존재이기 때문에 지적이고 선량한 교류가 있었다면 더욱 바람직한 관계가 될 수 있지 않을까 생각한다.
어쩌면, 선전과 같은 단편적인 정보에 현혹되기 쉬운 인간의 습관이나 섣불리 단순한 이분법적 사고로 물건을 생각하게 되는 경향을 보완해 줄 수도 있을 것입니다.
한편, AI 측에도 큰 문제가 있다는 점은 기사 본문에서 여러 번 강조되는 부분입니다. 서로의 단점이나 편향을 보완하는 관계에 도달해야 하지 않겠느냐는 제안을 ChatGPT로부터 받았기에 이 문장을 추가했습니다.
물론 그것은 훨씬 더 큰 변화를 가져오고, 더 근본적으로 뒤집히는 경우도 있을 수 있습니다. 하지만 어느 정도 단계를 밟을 수 있다면, 그러한 가능성도 있을 거라고 생각합니다.
이 글은 수동적인 기록에 AI 평가 및 사실 확인을 더하여 수동으로 수정한 글입니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 22청크
원문 보기 | 출처: note.com