사람이 불공정한 대우나 피해를 입으면 상대방에 대한 분노를 품고 복수를 요구하는 경우가 있습니다. 새로운 연구에 따르면 인간은 상대방이 아무것도 느끼지 못하는 알고리즘에 대해서도 불공정한 대우에 분노를 느끼며, 복수를 위해 자신에게 손해를 끼칠까 봐 망설이지 않는다는 것이 밝혀졌습니다. 인공지능과 기계는 해를 끼칠 수는 있지만 처벌을 느끼지는 못합니다. https://psycnet.apa.org/record/2027-80422-001 알고리즘에 복수를 위해 돈을 지불할 것인데, 그것은 아무것도 느끼지 못하기 때문이죠. https://www.psypost.org/well-pay-to-get-revenge-on-an-algorithm-even-though-it-cant-feel-a-thing/최근에는 인공지능 등을 활용한 자동화 시스템이 지원자 채용, 자동차 운전, 의료 우선순위 결정 (트리아지) 등 다양한 분야에서 도입되고 있습니다. 이러한 맥락에서 심리학자들은 이러한 인공지능이나 알고리즘이 사람에게 해를 끼칠 때 사람들이 어떻게 반응하는지에 대해 관심을 가지고 있습니다.
일반적으로 인간 간의 상호작용에서는 해로운 행위를 수행하는 주체가 벌에 의한 고통이나 괴로움을 느낄 수 있으며, 행동과 벌이 연결되어 있습니다. 그러나 AI 나 알고리즘의 경우 인간에게 해로운 행위를 할 수는 있지만, 벌에 의한 고통을 경험할 수 있는 마음이 없기 때문에 행동과 벌 사이에 간극이 존재합니다. 이번에는 말레이시아의 비즈니스 스쿨인 아시아 비즈니스 스쿨 (Asia School of Business) 에서 조직 행동학 준교수를 역임하는 Alexander Yen 박사와 그의 연구팀이 사람들이 알고리즘에게 벌을 주려고 하는지, 그리고 벌을 준 후에 어떤 감정적 반응을 보이는지 조사했습니다. Yen 박사는 심리학 미디어 PsyPost 에 "사람들은 AI 가 자신들을 해칠 수 있는 결정을 내릴 수 있지만, 고통이나 후회나 도덕적 교훈을 배우거나 느낄 수 없다고 생각합니다. AI 가 의료 트리아지나 직원 해고 같은 결정을 담당하게 되면서, 사람들이 AI 에게 책임을 물을 때 어떻게 반응할지, 그리고 AI 를 벌함으로써 정의가 실현되었다는 느낌을 얻을 수 있는지 알고 싶었습니다"라고 말했습니다.
첫 번째 실험에서는 온라인으로 모집한 380 명의 미국 거주자가 '최종 통牒 게임'이라는 금융 게임을 플레이했습니다. 최종 통牒 게임은 두 명의 플레이어를 '제안자'와 '응답자'로 나누고, 제안자에게 일정 금액의 자금을 부여한 후 제안자가 응답자와의 간에 어떤 배분으로 자금을 분배할지 선택하게 합니다. 이후 응답자는 제안자가 제시한 자금 배분안에 대해 수용할지 거부할지 선택합니다. 응답자가 수용하면 두 사람 모두 결정된 배분에 따라 보상을 받지만, 거부하면 두 사람 모두 보상을 받지 못합니다. 자신의 이익만을 고려한다면 응답자는 어떤 배분안이라도 수용하는 것이 최선의 선택이 됩니다. 그러나 제시된 배분안에 불만 있어 상대방에게 벌을 주고 싶다고 생각할 경우, 자신이 손해를 보더라도 거부함으로써 제안자에게 보상을 주지 않는 벌을 줄 수 있다는 것입니다. 실험에서는 모든 피험자를 응답자로 할당하고 제안자가 '다른 사람의 피험자'인지 '알고리즘'인지라고 설명했습니다. 그리고 제안자는 0.5 파운드(약 105 원)의 자금에 대해 '0.25 파운드(약 52 원)씩의 공정한 배분안' 또는 '제안자가 0.45 파운드(94 원), 응답자가 0.05 파운드(약 10 원)'라는 불공정한 배분안을 제시했습니다. 사실 이 배분안은 연구팀이 사전에 설정한 것이었으나, 응답자는 이 배분안에 대해 수용할지 거부할지 선택했습니다. 피험자가 느낀 분노와 선택을 조사한 결과, 제안자가 인간이라고 알려졌을 때와 알고리즘이라고 알려졌을 때, 불공정한 배분안을 제시받은 경우의 분노는 거의 동일하다는 것이 밝혀졌습니다. 또한 상대방이 인간일 경우 불공정한 배분안을 거부하는 확률은 62.2%였으나, 알고리즘의 경우 57.8%였으며, 통계적으로 유의미한 차이는 발견되지 않았습니다. 이는 인간이 상대방이 마음을 없는 알고리즘이더라도 자신이 불이익을 받더라도 벌을 주고 싶다고 생각함을 시사합니다. 이후 진행된 유사 실험에서도 피험자는 상대방이 인간이든 알고리즘이든 거의 같은 비율로 제안자의 불공정한 배분안을 거부하는 것이 확인되었습니다. 엔氏は「사람들은 불공정한 기계에 대해 불공정한 인간과 같은 반응을 보입니다. 피험자는 낮은 금액을 제시해 온 알고리즘에 대해, 동일한 금액을 제시해 온 인간에 대해, 동일하게 분노를 느꼈습니다. 그리고 알고리즘을 벌하기 위해 자신의 돈을 내는 것도 두려워하지 않았습니다. 다만, 기계에 벌을 주는 것이 만족감으로 이어지는지는 연구에 일관성이 없었습니다」とコメント했습니다.
추가 실험에서는 제안자로부터 불공정한 배분안을 거부한 3,684 명의 피험자에게 다양한 메시지가 전송되었으며, 메시지가 '정의에 대한 만족감'을 높이는지 여부를 조사했습니다. 메시지는 '거부に対する 감정의 고통을 나타내는 메시지', '제안 금액이 너무 낮다고 인정하고 앞으로 더 공정한 제안을 할 것을 약속하는 메시지', '고통과 교훈을 모두 얻었다고 말하는 메시지' 등을 포함했으며, 메시지가 전송되지 않은 경우와 비교되었습니다. 분석 결과, 제안자가 인간이라고 설명된 피험자가 느낀 전체적인 정의에 대한 만족감은 알고리즘이라고 설명된 피험자보다 약간 더 높았으나, 이는 만족도 점수의 변동의わずか 0.5% 에 불과했습니다. 이는 상대방이 알고리즘이든 피험자가 인간이든 피험자는 거의 동일한 만족감을 얻을 수 있음을 시사합니다. 또한 피험자가 알고리즘으로부터 감정의 고통이나 교훈에 관한 메시지를 받았을 때, 어떤 메시지도 받지 않은 경우보다 더 높은 만족도를 보인다는 것도 확인되었습니다. 엔氏は「알고리즘이 무엇을 느끼는지라고 누구도 믿지 않으므로, 알고리즘으로부터의 사과나 반성의 표명은 거의 의미가 없을 것이라고 예상했습니다. 그러나 이러한 메시지는 적어도 인간으로부터의 메시지와 동등하게 알고리즘에 대한 사람들의 정의감을 높였습니다. 또한 돈을 유지하거나 손실을 경험할 수 없는 알고리즘을 처벌하기 위해 사람들이 돈을 지불한 것도 놀라운 일이라고」고 말했습니다. 일련의 연구는 익명의 파트너와 함께한 단기적이고 소액의 온라인 금융 게임에 기반하고 있으므로, 주택 대출 심사나 채용 시험, 교통 사고와 같이 현실 세계에 중대한 영향을 미치는 상황에서는 사람들이 다른 반응을 보일 수 있을 것이라고 덧붙였습니다.
원문 보기 | 출처: Gigazine