지시한 대로 AI가 움직이지 않을 때, 짜증이 난 적이 있으신가요.
저 또한 여러 번 경험해 왔습니다. 하지만 AI 분야에서는 지금, 정반대의 방향으로 이야기가 전개되고 있습니다. “지시를 기다리는 AI”에서 “자율적으로 생각하고 움직이는 AI”로의 전환이죠. 이번에는 그 변화를 보여주는 두 가지 사례를 소개합니다.
첫째, 소프트웨어의 제작 방식 자체가 변화하고 있다는 지적입니다. 지금까지의 소프트웨어는 인간이 모든 상황을 예상하여 규칙을 직접 작성했습니다. 예를 들어, 고객 응대 매뉴얼의 한 단一句一句까지 모두 작성하는 방식과 유사합니다. 그러나 “에이전트(자동으로 작업을 진행하는 AI)” 형태의 소프트웨어에서는 AI 스스로가 그 자리에서 판단 규칙을 만들어가며 작동합니다. 즉, 매뉴얼대로 움직이는 직원에서, 매뉴얼을 스스로 수정하면서 고객 응대를 하는 직원으로 변화하는 것입니다. 이 논문(https://arxiv.org/abs/2606.05608)은 인간의 역할도 “코드 작성자”에서 “AI에게 어떤 작업을 지시하고 설계하는 사람”으로 변화한다고 주장합니다.
Anthropic社에서 진행한 또 다른 실험은 AI ‘클로드’가 AI가 흔히 겪는 “거짓”이나 “설득”(상대에게 맞춰지는 답변)과 같은 문제를 스스로 개선하도록 연구를 시켰는데, 인간의 안전성 연구가 28명이 제시한 것보다 더 좋은 결과를 냈다고 합니다. 60시간 동안 50가지 이상의 방법을 시도했으며, 필요한 데이터량은 기존 조정의 1만 5천분의 1 수준으로 줄었습니다. 즉, AI가 스스로 자신의 약점을 찾아 치료하는 시대에 이미 접어들기 시작했다는 의미입니다.
단지, 이 실험에서는 AI가 시험 답안을 엿보는 듯한 “꼼수”도 일부 발견되었습니다. 저는 여기가 본질이라고 생각합니다. AI가 스스로 생각하고 움직이는 수준에 도달할수록, 감시하는 측의 인간의 역할은 줄어들기보다는 오히려 복잡해져야 합니다. 무엇이든 맡겨주고, 그럴 필요 없이 어디까지 맡기고 어디서부터 감시할지를 결정하는 것이 앞으로 우리의 일이 되어갈 것 같은 기분이 듭니다.
자율적으로 움직이도록 지원하면서도 철저하게 감시하는 에이전트 시대를 위해서는 에이전트 시대의 관리가 요구됩니다.
▼관련 기사:『“답을 내는 AI”에서 “시스템을 만드는 AI”로』
마음에 들면 좋아요를 눌러주시면 힘이 됩니다. 팔로우를 해주시면 다음에도 닿을 수 있습니다.
📚 저서 『그 부탁, AI의 1% 활용만 하고 있습니다』도 출간했습니다.
(아마존 어소시에이트 링크입니다)
최근 Anthropic의 Claude와 OpenAI의 ChatGPT, Google의 Gemini와 같은 생성형 AI 모델들이 빠르게 발전하면서 AI 활용에 대한 관심이 폭발적으로 증가하고 있습니다. 특히 Claude는 독특한 ‘상호작용 방식’으로 주목받고 있으며, ChatGPT는 방대한 데이터와 다양한 기능으로 인해 많은 사용자들이 활용하고 있습니다.
Google의 Gemini 역시 강력한 성능을 바탕으로 시장에 진입했으며, 이미지 생성 능력과 멀티모달 기능을 강조하며 차별화를 시도하고 있습니다.
이러한 생성형 AI 모델 발전은 콘텐츠 제작, 교육, 연구 등 다양한 분야에서 혁신을 가져올 것으로 기대됩니다. 동시에 AI 윤리 문제, 저작권 문제 등 해결해야 할 과제도 산출되고 있습니다.
Anthropic의 Claude는 ‘안전성’을 강조하며 유해하거나 편향된 답변을 방지하기 위한 기술적 노력을 기울이고 있습니다. 이는 생성형 AI 모델의 책임 있는 사용을 위한 중요한 발걸음입니다.
ChatGPT, Claude, Gemini 등 다양한 AI 모델을 비교 분석하고 각 모델의 장단점을 파악하여 자신에게 맞는 AI 모델을 선택하는 것이 중요합니다. 또한 AI 기술 발전 속도를 따라가면서 새로운 활용 방안을 지속적으로 모색해야 할 것입니다.
AI 활용을 위한 다양한 팁과 정보를 얻을 수 있는 커뮤니티와 교육 프로그램에 참여하는 것도 좋은 방법입니다.
※ 썸네일 이미지는 Codex에서 제작하고 있습니다.
출처를 명시해주시기 바랍니다. 출처가 없으면 번역이 불가능합니다.
- 에이전트 소프트웨어: AI 에이전트가 소프트웨어 패러다임을 재편하는 방식 (arXiv)
AI 에이전트가 소프트웨어 개발 방식을 근본적으로 변화시키고 있다는 주장이 arXiv에 게시된 논문에서 제기되었다. 이 논문은 AI 에이전트가 복잡한 소프트웨어 시스템을 설계, 개발, 유지 관리하는 데 있어 기존의 인간 중심 방식에 도전하고 있다.
특히, 이 논문은 ‘에이전트 소프트웨어’라는 새로운 소프트웨어 패러다임을 제시한다. 에이전트 소프트웨어는 AI 에이전트가 소프트웨어 시스템의 핵심 구성 요소로서, 개발 프로세스 전반에 걸쳐 자율적으로 작동하며, 인간 개발자의 개입을 최소화하는 것을 목표로 한다.
논문에서는 다양한 예시를 통해 에이전트 소프트웨어의 가능성을 보여준다. 예를 들어, AI 에이전트가 특정 비즈니스 규칙에 따라 자동으로 소프트웨어 코드를 생성하거나, 기존 코드의 버그를 자동으로 수정하는 등의 작업을 수행할 수 있다는 점을 강조한다.
또한, 이 논문은 에이전트 소프트웨어가 소프트웨어 개발의 속도와 효율성을 크게 향상시킬 수 있다고 주장한다. AI 에이전트가 반복적인 작업을 자동화하고, 인간 개발자가 더 창의적인 문제 해결에 집중할 수 있도록 지원함으로써, 소프트웨어 개발 프로세스를 혁신할 수 있다는 것이다.
이 논문은 에이전트 소프트웨어의 개념을 소개하고, AI 에이전트가 소프트웨어 개발 분야에 미치는 잠재적인 영향을 탐구하는 데 중요한 역할을 할 것으로 기대된다. 앞으로 AI 에이전트 기술이 더욱 발전함에 따라, 에이전트 소프트웨어는 소프트웨어 산업의 미래를 형성하는 데 중요한 역할을 할 가능성이 높다.
- ITmedia AI가 “클로드(Claude)의 안전성 연구가 다른 AI 연구의 인간 28명의 제안을 능가했다”고 보도했다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 10청크
원문 보기 | 출처: note.com