AI에 대해, 제가 계속해서 짚고 넘어가야 할 부분이 있습니다. 왜 우리는 AI를 그렇게까지 현명하게 만들어야 하는 걸까요. 인간을 넘어 모든 것을 생각하고, 심지어 자신까지 개선해 나가는 AGI, 그리고 초지능으로. 그렇게까지 나아가지 않으면 AI 혁명은 완성되지 않는 걸까요.
AI 안전성 연구가인 로만 얀폴스키의 이야기를 읽고, 다른 길도 있을 수 있지 않을까 생각했습니다. 그것은 “AI를 멈추는” 것이 아니었고, “AGI까지 순식간에 달려드는” 것도 아니었습니다. 의학, 신약 개발, 생명 과학, 에너지, 재해 예측 등 인간의 고통을 줄이는 분야에서는 AI가 엄청나게 발전해야 합니다. 하지만, 스스로를 개선하고 끊임없이 발전하여 인간이 통제할 수 없게 될 가능성이 있는 영역에 대해서는 신중해야 합니다. 즉, 마치 제3의 길과 같은 것입니다.
AGI가 없더라도 이미 혁명은 일어났습니다.
대표적인 예가 알파폴드(AlphaFold)입니다. 구글 딥마인드(Google DeepMind)의 데미스 하사비스(Demis Hassabis)와 존 ジャンパー(John Jumper)는 AI를 이용한 단백질 구조 예측 연구로 2024년 노벨 화학상을 수상했습니다. 알파폴드2(AlphaFold2)를 통해 연구자들이 확인해 온 약 2억 종류의 단백질에 대한 구조를 예측할 수 있게 되었으며, 전 세계 생명과학 연구 분야에서 활용되고 있습니다.
여기 중요한 점은 AlphaFold가 “모든 것을 할 수 있는 초지능”이 아니라는 것입니다. 단백질 구조라는 매우 중요한 문제에 특화된 AI입니다. 그럼에도 불구하고, 50년 이상 과학자들이 고민해 온 난제에 큰 돌파구를 열었습니다.
결론적으로 “인간을 초월하는 만능 지능을 만들지 않으면 인류의 대 문제는 해결될 수 없다”는 말만이 전부가 아닙니다. 특정 문제에 대해서는 인간이 감당할 수 없는 양의 데이터를 분석하고, 인간이 수년 동안 걸리는 탐색을 엄청난 속도로 진행할 수 있습니다. 이것만으로도 AI는 인류에게 엄청나게 큰 도구가 됩니다.
10년 동안 모든 질병이 완치된다는 말인가요?
하사비스는 AI가 미래에 많은 질병을 치료할 수 있는 가능성에 대해 매우 낙관적인 전망을 제시하고 있습니다. 본인은 향후 10년 이상을 내다본 미래 모습으로, AI가 “거의 모든 질병”을 치료할 수 있는 가능성에도 언급했습니다.
하지만, 여기서는 신중하게 고려해야 합니다. “10년 뒤에 모든 질병이 과학적으로 치료될 것이라는” 이야기와는 다릅니다. 하사비스라는 세계 최전선 연구자가 그리고 있는 매우 대담한 미래 예측입니다. AI가 새로운 약의 후보를 발굴해 줘도 그 안전성과 효능을 확인하는 임상 시험은 반드시 필요합니다. 인간의 몸은 극도로 복잡하며, 특히 노화 현상이 닥면할수록 더욱 복잡해질 것입니다.
그러다 보니 “불로불사(不老不死)가 곧 실현될 것이다”라고 생각하는 것은 너무 이르다고 생각하는 사람도 있지만, 동시에 “절대 불가능하다”라고 단정 지을 수 없게 된 시대가 되었습니다. 이게 가장 흥미로운 부분입니다.
AI는 인간의 수명을 연구한다.
이번 글에서는 “수명 탈출 속도(LEV)”라는 개념도 다루어집니다. 쉽게 말해, 1년이 더 먹어봤자 그 1년 동안의 의학 발전으로 인해 남은 수명이 1년 이상 늘어나는 상황을 의미합니다.
물론 현재 의학으로 실현하고 있는 이야기가 아닙니다. 하지만 유전체, 단백질, 세포, 암, 면역, 노화 등을 AI가 대량으로 분석할 수 있게 된다면 건강 수명 연구가 지금까지와는 비교할 수 없는 속도로 진행될 가능성이 있습니다.
그러고 나서 저는 여기서 하나의 의문을 제기합니다. 그 연구를 수행하기 위해 정말로 AGI가 필요한 걸까요?
인간의 생명을 구하기 위해서는 고도화된 의학 인공지능이 필요하며, 이를 완벽하게 발전시켜야 한다. 암 연구 인공지능, 치매 연구 인공지능, 신약 개발 인공지능, 유전자 분석 인공지능, 재난 예측 인공지능 등 인간을 행복하게 하는 능력을 완벽하게 발전시켜야 한다.
한편으로, 자신 스스로를 무한정 개선하고 인간보다 훨씬 더 큰 능력을 가지면서, 인간이 그 내부를 이해할 수 없는 수준의 AI까지 경쟁하도록 만드는 것이 정말 필요한가 생각합니다. 그 부분은 분리해서 생각하는 것이 괜찮다고 생각합니다.
AI 개발에는 “가속 페달과 브레이크” 외에 다른 대안이 있다.
AI를 둘러싼 논쟁을 지켜보면 “위험해서 멈춰야 한다”는 의견과 “멈추면 다른 나라나 회사에 뒤쳐진다. 따라서 계속해야 한다”는 의견이 충돌합니다. 하지만 이 두 가지 선택 그 자체가 옳지 않을 수도 있습니다.
가속 페달을 밟는 분야와 신중해지는 분야를 분리하면 된다. 질병 치료 AI는 발전시키고, 신재생 에너지 연구 AI도 발전시키며, 기후변화 분석 AI와 재해 대응 AI도 발전시킨다.
한편으로, 인간의 지시 없이 행동하고, 스스로 능력을 향상시키며, 스스로 다음 AI를 만들어 시작하는 능력에 대해서는 한 번 멈춰서 깊이 생각해야 한다.
그러므로 “AI를 발전시킬 것인가, 멈출 것인가”라는 질문 대신 “어떤 목적을 위한 능력을, 어느 정도까지 발전시킬 것인가”를 고민해야 할 시점에 온 것은 아닌가 생각합니다.
제가 가장 마음 속에 남은 말
이번 글에서 제가 가장 생각하게 된 것은 AGI(인공 일반 지능)나 수명과 관련된 것이 아니었습니다. 마지막 짧은 대화였습니다.
고통은 인간의 이야기에서 필요한 것일까요? 얀포르스키는 대답합니다. “아니오. 없앨 수 있다면 훌륭한 일입니다.” 저는 이 말이 마음에 듭니다.
사람들은 때때로 고통에 의미를 부여하려고 합니다. 고생한 것이 성장의 밑거름이 되기도 하고, 병에 걸려 인생을 돌아보기도 하고, 슬픔이 있었기에 더욱 부드러워지기도 합니다. 물론, 그런 일들은 분명히 존재합니다.
하지만 그것은 “고통이 필요하다”고 말하는 것과는 다릅니다. 병에 걸리지 않더라도 괜찮고, 전쟁이 일어나지 않더라도 괜찮으며, 기근이 일어나지 않더라도 괜찮습니다. 사고로 목숨을 잃지 않더라도 괜찮습니다. 끔찍한 일을 잃을 수 있다면, 잃는 게 낫습니다.
그렇기 때문에 AI가 도움이 된다면, 저는 적극적으로 활용하고 싶습니다.
AI는 인간을 능가하기 위해 존재하는 것일까요?
가끔 현재의 AI 경쟁을 보면서 저는 궁금해집니다. 어떤 회사가 가장 현명한 AI를 만들지인지, 언제 AGI(인공 일반 지능)가 가능할지, 언제 AI가 인간을 능가할지에 대한 이야기가 계속되는 것 같습니다.
하지만 “인간을 초월하는” 것 자체에 어떤 의미가 있을까요.
AI에 100점을 받는 것, 또는 AI에게 노벨상을 받는 것을 목표로 하는 것이 아닙니다.
어느 한 사람이라도 암으로 죽는 사람 수를 줄이고, 어느 한 사람이라도 치매로 고통받는 사람 수를 줄이고, 굶주리는 아이 수를 줄이고, 한 번이라도 전쟁을 막고, 한 번이라도 재해로 인한 희생자를 줄인다.
저는 그 때문에 AI가 엄청나게 똑똑해지는 것에 전적으로 동의합니다. 오히려 더 똑똑해졌으면 합니다. 하지만 인간이 통제할 수 없을 정도로 똑똑해지는 것은 완전히 다른 문제입니다.
AI의 목표를 잘못 설정해서는 안 됩니다.
궁극의 AI란 무엇일까요. 세상 모든 것을 아는 AI일까요? 인간보다 현명한 AI일까요? 스스로 진화해 나아가는 AI일까요. 저는 그렇지 않다고 생각합니다.
인간의 비참함을 하나라도 줄일 수 있는 AI. 거기에 AI의 가치가 있는 것은 아닌가.
병을 줄이고 고통과 고독, 전쟁과 기아, 사고를 줄여 인간이 인간답게 살아갈 시간을 늘린다.
그러므로 AI는 어디까지나 발전해야 한다. 하지만 “만들 수 있으니 만드는”이라는 이유만으로 인간이 통제할 수 없는 것까지 만들어낼 필요가 있는가.
AI 시대에 우리에게 결정해야 할 것은 AI의 지능 지수가 아닙니다. 오히려 더 단순한 문제일지도 모릅니다.
이 기술을 무슨 목적으로 사용하는지 말씀하시는 것입니다.
AI는 “신”이 되기 위해 노력할 필요가 없다. 인간의 고통을 하나씩 줄여주기 때문이다. 나는 그것만으로도 충분히 혁명적이라고 생각한다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 22청크
원문 보기 | 출처: note.com