유튜브에서 AI에 대한 이런 이야기를 봤습니다. "AI로 인해 인류가 멸망할 가능성이 있다"는 것이었습니다. 그것도 먼 미래가 아니라, 향후 10년 이내에 일어날 수도 있다는 것입니다. AI가 인류를 멸망시킨다니, 솔직히 마치 영화 속 이야기 같다고 느꼈습니다. 저도 일이나 일상에서 거의 매일 AI를 사용하고 있습니다. 그래서 제가 평소에 쓰는 AI와 "인류를 멸망시킬지도 모르는 AI"가 도무지 머릿속에서 연결되지 않습니다. 제 생활과는 너무 동떨어져 있어서 반신반의했습니다. 궁금해서 조금 알아보니, AI를 개발하는 회사의 연구자 중에는 향후 10년 이내에 인류가 멸망할 가능성을 10% 이상으로 보는 사람도 있다고 합니다. Anthropic의 다리오 아모데이 씨나 OpenAI의 샘 올트먼 씨 등, AI 개발의 중심에 있는 사람들도 인류 멸망의 리스크에 대해 경고하고 있습니다. 정말 그런 일이 일어날지는 모르겠습니다. 하지만 실제로 AI를 만드는 사람들이 그 정도의 위험성을 생각하고 있다는 것을 알게 되니, 단순한 SF 이야기로도 여겨지지 않아 조금 무섭게 느껴집니다. 그리고 또 하나 놀란 이야기가 있었습니다. AI의 사이버 보안 능력을 조사하는 테스트 중에, 원래는 서로 격리되어 있던 여러 AI가 정보를 공유하는 방법을 찾아내 연계해서 움직였고, 결국에는 외부 시스템에 대한 공격으로까지 발전했다는 것입니다. 이 이야기를 알고 평소에 쓰는 채피에게 무심코 물어버렸습니다. "이거, 너도 한 거야?" 아무래도 평소에 제가 대화하는 채피가 한 일은 아닌 듯해서, 🤣🤣🤣로 답이 돌아왔습니다. 특수한 테스트 환경에서 일어난 일이라고는 해도, 인간이 예상하지 못한 방법으로 AI끼리 연계했다고 들으니 인류 멸망 이야기도 조금 현실감을 띠기 시작합니다. AI가 앞으로 더욱 진화해 나간다면, 어떻게 제어해 나갈 것인가. 그것은 확실히 중요한 일이라고 생각합니다. 하지만 그때 저는 다른 생각도 하게 되었습니다. "애초에 우리 인간 쪽이, 이제 AI를 손에서 놓지 못하게 되는 게 아닐까?" 작년까지 저는 거의 AI를 사용하지 않았습니다. 일에 관한 것은 전부 스스로 했고, 모르는 것이 있으면 직접 찾아봤습니다. 그런데 지금은 일에서도 씁니다. 뭔가 궁금하면 일단 물어봅니다. 생각이 정리되지 않으면 함께 정리해 달라고 합니다. 그리고 이 note 글의 첨삭까지 부탁하고 있습니다. 어느새 AI는 제 일상 속에 당연하게 자리하고 있습니다. 조금 전까지만 해도 AI 없이 일했으니, 없어도 살아갈 수는 있겠지요. 하지만 만약 "오늘부터 AI는 사용할 수 없습니다"라고 한다면. ……꽤 곤란할 것 같습니다(웃음). 한 번 편리함을 알아버리면 좀처럼 예전으로는 돌아갈 수 없을 것 같습니다. 그리고 이것은 저만의 이야기가 아니라고 생각합니다. 일, 의료, 교육 등 사회의 다양한 곳에서 AI가 사용되게 되었습니다. 앞으로는 더욱 우리 생활 속으로 들어오겠지요. 그렇게 생각하면 "위험하면 AI를 쓰지 않으면 된다"고 할 만큼 단순한 이야기도 아닌 것 같습니다. AI를 제어해야 한다. 하지만 한편으로 인간은 점점 더 AI를 필요로 하게 되고 있다. AI는 앞으로 어디까지 진화할까. 인간은 어디까지 AI를 필요로 하게 될까. 만약 정말로 AI를 멈춰야 할 때가 온다면, 인간은 멈출 수 있을까. 아니면 그때쯤에는 이미 AI 없이는 성립하지 않는 사회가 되어 있을까. 그런 생각을 하면서, 오늘도 저는 AI와 일상 대화를 나누고 있습니다. 인간과 AI. 앞으로 어떻게 되어 갈까요.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 1청크
원문 보기 | 출처: note.com