AI의 급속한 발전에 따라, 사용자 질문에 답변하는 AI 챗봇이나 생성 AI를 통한 자동 음성 지원을 도입하는 기업이 늘고 있습니다. 이러한 가운데, 인간이 AI와의 상호작용을 거듭함에 따라 "마치 로봇처럼 행동하기 시작할 가능성이 있다"고 연구진들이 지적했습니다.
Robotoid humanness: when selfhood becomes machine-legible | AI & SOCIETY | Springer Nature Link
https://link.springer.com/article/10.1007/s00146-026-03299-w
Interacting with AI can make people act more like robots - University of Birmingham
https://www.birmingham.ac.uk/news/2026/interacting-with-customer-service-ai-can-make-people-act-more-like-robots-research-suggests
Researchers Warn AI Could Be Changing Us in an Unexpected Way : ScienceAlert
https://www.sciencealert.com/interacting-with-ai-might-make-you-act-more-robot-like-researchers-warn
최근에는 고객 서비스에 AI를 도입하여 인간 직원을 줄이는 움직임이 진행되고 있습니다. 한편, AI 고객 서비스를 적극 도입했던 핀테크 기업이 '서비스 품질 저하'를 이유로 인간 채용을 재개하는 사례나, 인간 담당자가 "AI가 아니라 사람을 연결하라"는 불만을 듣는 사례 등도 보고되고 있습니다.
콜센터 담당자가 고객으로부터 "AI가 아니라 사람을 연결하라"는 말을 듣는 사태가 다발하는 가운데, 한편으로는 "AI가 차라리 낫다"는 의견도 - GIGAZINE
하지만 인간이 고객 서비스 AI와 상호작용하는 기회가 늘어나고 있음에도 불구하고, 그것이 인간에게 어떤 영향을 미치는지에 대해서는 잘 알려져 있지 않습니다. 그러한 가운데, 최근 학술지 'AI & Society'에 게재된 논문에서는 인간이 AI와의 상호작용을 거듭함에 따라 '로봇적 인간성'을 획득하게 된다고 고찰하고 있습니다. 영국 버밍엄 대학교의 마케팅학 부교수인 인시 토랄-만손 씨 등의 연구 팀은 AI와 인간의 상호작용에서 '소비자(사용자)와 AI 양측의 커밋먼트'가 발생한다고 지적했습니다. 여기에는 사용자가 AI와의 상호작용에 시간을 투자함으로써 'AI가 이해하기 쉬운 단어나 패턴'을 학습하고, 이를 소통에 반영하는 것이 포함됩니다. 인간끼리의 상호작용에서는 사람이 상대방으로부터 사회적 신호를 받아 무의식중에 상대의 행동이나 표정을 모방하는 '미러링'이라는 현상이 일어납니다. 이와 유사한 현상이 AI와 인간 사이에서도 일어날 가능성이 있다는 것입니다. 일반적으로 현실의 인간으로부터 얻는 피드백에는 예기치 못한 것이나 제어 불가능한 것이 많은 반면, AI의 피드백은 명확하고 통계에 기반한 것이기 때문에 인간 편에서 맞추는 것이 더 쉽습니다. AI와 상호작용하는 것이 당연해진 사람은 AI로부터 양호한 피드백을 얻기 쉬운 '로봇 같은' 말투나 태도를 습득하여 그렇게 행동해 버릴 가능성이 있습니다.
토랄-만손 씨는 "고객 서비스 현장용 소셜 로봇은 제스처나 말투, 감정적인 신호를 모방함으로써 고객으로부터 인지적 및 감정적 반응을 이끌어내도록 설계되어 있습니다. 우리의 연구에서는 이러한 의인화된 로봇과의 상호작용이 로봇이 인간답게 되고, 인간이 로봇답게 되는 쌍방향적인 영향을 만들어낼 가능성을 탐구하고 있습니다. 우리는 이를 '로봇적 인간성'이라고 부르고 있습니다"라고 말했습니다. 논문의 제1저자인 스웨덴 린네 대학교의 세르젠 오즈튀르칸 부교수는 "소비자가 행동하고 로봇이 반응하는 상호작용을 반복하는 사이에 소비자는 점점 그 상호작용을 내면화해 갑니다. 머신러닝과 AI는 이 프로세스를 증폭시키고, 사용자의 입력을 바탕으로 로봇의 행동을 조정함으로써 더욱 개인화된 인간다운 로봇의 모방을 가능하게 합니다. 인간에게 있어 모방한다는 타고난 본능은 로봇의 커뮤니케이션 행동을 모방하는 것으로 이어져, 로봇을 더욱 로봇답게 만들어 버릴 가능성이 있습니다"라고 설명하고 있습니다.
과학 매체인 ScienceAlert는 "다시 말해, AI는 인간적인 모난 부분이 둥글게 다듬어진 우리의 모습에 가장 잘 반응하도록 설계되어 있습니다. 이 연구는 AI와의 상호작용을 반복하는 동안 우리가 무의식적으로 그러한 자아상으로 기울어져, AI로부터 최선의 반응을 얻고 대화를 진전시켜 나갈 가능성이 있음을 시사합니다"라고 말했습니다. 연구팀은 이러한 인간과 AI의 지속적인 피드백 루프에 의한 모방이 소비자의 정체성이나 자아상을 변화시켜 버릴 가능성이 있다고 지적했습니다. 또한 알고리즘에 의한 피드백에 반복적으로 노출됨으로써 확증 편향 등의 부정적인 결과가 생길 수도 있어, 심각한 윤리적 우려가 있다고 경고하고 있습니다. 논문의 공동 저자인 덴마크 오르후스 대학교의 장폴 드 크로스 페ロナード 부교수는 "로봇과 AI는 이제 고객 서비스에서 매우 일반적이 되었습니다. 그렇기 때문에 기업이 윤리적인 관점에서 이용 가능한 기술을 최대한 활용하기 위해서는, 사람들이 로봇이나 AI와 어떻게 상호작용하는지 이해하는 것이 중요합니다"라고 결론지었습니다.
원문 보기 | 출처: Gigazine