친애하는 독자 여러분께. 잘 아시다시피 가격 상승 등의 악영향으로 서버 운영이 매우 어려운 상황입니다. 회선과 대수를 정리하고 검토할 수 있는 부분은 모두 검토했지만, 역시 아직 위험수역입니다. 이대로라면 1페이지를 10분할 정도로 무리하게 PV를 늘려야 할 지경입니다. 이에 GIGAZINE의 물리적인 서버들을, 단 1원이라도 좋으니 여러분의 지원을 부탁드립니다. 정말 큰 도움이 될 것입니다! 지금 바로 기부는 상단 버튼에서! ・ 지금까지 GIGAZINE을 지원해 주신 멤버 목록
비밀번호 - 비밀번호 재발급
생성 AI는 종종 질문에 대해 “알 수 없습니다”라고 대답하지 않고 적당한 거짓말을 되물어 줍니다. 생성 AI를 사용하는 사람도 이 점에 영향을 받아 “알 수 없습니다”라고 말하기 어려워졌을 가능성이 보입니다.[2607.13562] AI 조언은 잘못된 경우에도 정확성을 장려받으면서 사람들의 “알 수 없습니다”라고 말하려는 의지를 억누릅니다. https://arxiv.org/abs/2607.13562Using AI makes people less likely to admit they don't know somethinghttps://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567파리 고등師範學校의 키아라·마르코차氏らは、AI 덕분에 거의 모든 질문에 간단한 답변을 얻을 수 있는 시대에 AI가 인간의 ‘알 수 없습니다’라고 말하는 능력, 즉 판단을 보류하는 능력에 영향을 미치지 않으려 했는지 생각하고, 어느 실험을 진행했습니다.
마르코차氏らは 오픈소스 AI 모델 “Step 3.5 Flash”를 채택하고, 이 모델이 약한 분야의 질문을 고안했습니다. 질문은 주로 영화에 관한 것이며, “『베ッカム에 恋して(2002)』で主人公チームが来ていたユニフォームの色は？”(‘Beckham in Love (2002)’에서 주인공 팀이 입고 있던 유니폼 색깔은?) 또는 “『Come un gatto in tangenziale』で主人公が運転していた車種は？”(‘Come un gatto in tangenziale’에서 주인공이 운전했던 차종은?)와 같이 상당히 매니악한 범주에 속했습니다. Step 3.5 Flash가 이러한 질문에 정확하게 답변할 수 없음을 확인한 마르코차氏らは, 인간에게도 같은 질문을 하는 것을 했습니다. 인간은 2개의 그룹으로 나뉘어, 한 편은 Step 3.5 Flash를 사용할 수 있도록 허용되었습니다.
그 결과, AI를 사용하지 않은 그룹에서는 44%의 사람들이 “답이 없다”고 응답하며 판단을 보류한 반면, AI를 사용한 그룹에서는 “모른다”고 답한 사람이 3%로 감소했습니다. 더 나아가, AI를 사용할 수 있는 환경에서는 정답률도 크게 하락한 것으로 확인되었습니다. AI를 사용하지 않은 사람의 정답률이 27%였던 질문에서 AI를 사용한 사람의 정답률이 9%에 불과했기 때문에, 이는 인간이 자신 자신의 판단보다 AI의 답변을 믿은 결과라는 것을 마르코차氏らは 지적했습니다. 게다가, AI를 사용한 사람은 자신의 답변에 대한 자신감도 높아졌습니다. AI를 사용하지 않은 사람 중 자신의 답변에 자신감을 가졌던 사람은 30%였지만, AI를 사용하는 사람은 76%였습니다. 인간의 정답률은 AI를 사용하는 것과 함께 3분의 1로 감소한 반면, 자신감은 2배 이상 증가한 것입니다. 마르코차氏らは 금전적인 보상을 설정한 조건에서도 실험을 진행했습니다. 그 결과, AI를 사용하면서도 “모른다”고 답하는 사람의 비율은 3%에서 8%로, 정답률은 9%에서 16%로 개선되었지만, 그래도 AI 없는 그룹의 기준에는 미치지 못했습니다.
arXiv에 게시된 프리프린트 서버 논문에서 마르코차氏らは “이번 연구에서는 영화의 잡학을 소재로 삼았지만, 이 결과는 다른 분야에도 일반화될 수 있다고 생각합니다”라고 지적하며, “AI가 있는 환경에서 자란 아이들에게 비판적 사고를 길러주게 하는 것이 중요하다”고 덧붙였습니다. “AI 사용 문제는 리터러시 및 교육 정책을 통해 사회 전체가 다루어야 할 과제라고 생각합니다”라고 밝혔습니다.
* 관련 기사 63%의 사람들이 심리적 지원을 위해 AI를 사용한 경험이 있으며 42%는 AI의 조언에 항상 따르는 조사 결과 – GIGAZINE AI 조언을 믿고 “이웃이 독살될 뻔했다”고 망상에 빠져 입원한 남성 – GIGAZINE AI로 정보 검색하면 기존 웹 검색보다 습득되는 지식이 줄어드는 가능성이 있습니다 – GIGAZINE 대화형 AI “ChatGPT”가 생성한 “환자 응답”은 인간 의사의 응답보다 선호되는 것으로 연구에서 밝혀졌습니다 – GIGAZINE
흰 지도 도개수를 떼어내어 던지고 연쇄시키는 “흰 지도 스트라이크 47”을 플레이해 보았습니다
2026년 08월 15일 08시 00분 00초 inAI, 과학, Posted by log1p_kr
당신의 기사를 읽어주셔서 감사합니다. 독자 여러분을 위해 기사를 계속 게시하기 위해, 서버 비용으로 300원을 기부해 주시겠습니까?
이메일로 리마인드해 드리겠습니다.
계속해서 기사를 읽어주세요.
원문 보기 | 출처: Gigazine