일본 경제신문에 OpenAI가 개발 중인 차세대 AI ‘아스트라(Astra)’에 대한 기사가 게재되었습니다. 해당 AI의 사이버 공격 능력 등이 높아져 안전 대책을 우선적으로 고려하여 개발을 일시 중단했다는 내용입니다.
그 중에서도 특히 우려스러웠던 것은 “자율적으로 움직이는 능력이 높아졌다”는 표현입니다. 일본어로 “자율적으로 움직인다”라고 하면 “AI가 스스로 판단하고 행동을 시작하는 것인가?”라는 의미로 오해할 수 있습니다. 하지만 이번의 “자율”은 그 의미와는 다소 차이가 있습니다.
자율성과 자발성은 다르다.
예를 들어, AI에게 “도쿄까지 가세요”라고 지시했다고 가정해 봅시다.
AI는 스스로 교통 수단을 조사하고 경로를 선택하며, 중간에 문제가 발생하면 다른 방법을 고려하면서 도쿄까지 간다. 이것은 “자율적으로 움직이는” 것이다.
한편, 아무도 지시하지 않았는데,
도쿄에 가자라고 AI 스스로가 목적을 정하고 행동을 시작한다.
이는 자발적으로 움직이는 것입니다. 즉,
자율: 목적은 인간이 제시하고, 그 목적을 달성하기 위한 방법을 AI가 스스로 판단한다. 자발: 목적 자체를 AI가 스스로 결정한다.
이 차이는 꽤 크다고 생각합니다.
OpenAI의 원본을 보면 명확합니다.
이번 OpenAI 설명에는 “given only a high level desired goal”라는 표현이 있습니다. “대략적인 목표만 주어지는 상태”라는 의미입니다. 더불어 “without human intervention” 즉, “인간의 개입 없이”라는 표현도 있습니다. 이 두 가지를 함께 읽는 것이 중요합니다.
사람에게는 대략적인 목적이 주어진다.
그뿐만 아니라, 구체적인 방법이나 절차에 대해서는 인간이 하나하나 지시하지 않아도 AI 스스로가 생각하고 실행할 수 있는 능력이 높아지고 있다는 것입니다. 이번 사이버 공격 사례에서 보듯이, “AI가 스스로 공격하고 싶어서, 무의미하게 공격을 시작하는”이라는 의미는 아닙니다. 대략적인 목표가 제시되면, 그 이후의 전략이나 절차를 AI 스스로가 구성하고, 상당 부분은 자율적으로 실행할 수 있을 정도까지 능력이 발전할 가능성이 있습니다. 따라서 OpenAI는 그 능력을 신중하게 평가하고, 안전 대책을 강화하고 있는 것입니다.
한 마디로 인상만으로도 상당히 달라진다.
AI는 자율적으로 움직이기 시작했다는 한 문장만 놓고 보면, 조금 낯설고 두렵게 느껴질 수 있습니다. 하지만,
자율성은 자발성과 동일하지 않습니다.
이를 생각하면 시각이 바뀝니다. 물론, 주어진 목적에 대해 AI가 고도로 자율적으로 움직일 수 있는 것 자체도 새로운 위험을 만듭니다. 그래서 경계가 필요합니다. 다만, 그와 함께,
AI는 스스로 목적을 가지고 자의적으로 행동을 시작하게 되었다.
이 이야기는 나누어 검토하는 것이 좋으며, AI에 대한 강도 높은 뉴스를 접했을 때처럼 원문에서 어떻게 표현되고 있는지까지 확인하는 것이 중요하다. 앞으로 AI와 함께 해나가는 과정에서, 그러한 읽는 방법 또한 중요해질 것이다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 13청크
원문 보기 | 출처: note.com