Microsoft의 AI 어시스턴트 “Microsoft Copilot”에서 사용자가 입력한 프롬프트나 업로드한 이미지 일부를 인간 계약 직원이 확인하고 있다고 404 Media가 보도했습니다. 계약 직원은 사용자가 이미지 편집을 요청한 시점의 프롬프트, 원본 이미지, Copilot이 생성한 이미지를 비교하여 품질을 평가하고 있다고 합니다. Humans Are Reading Copilot Prompts — And They're Horrified https://www.404media.co/humans-reading-copilot-prompts-images/
마이크로소프트 Copilot에는 문장의 작성이나 정보 검색에 더하여, 이미지를 업로드하여 “배경에 있는 인물을 지워”, “복장을 변경해”와 같은 지시를 내는 이미지 편집 기능이 있습니다. 인공지능을 이용한 이미지 편집의 품질을 높이기 위해서는 지시된 대로 변경이 이루어졌는지, 불필요한 부분까지 수정되지 않았는지, 이미지에 부자연스러운 결함이 생겨있지 않은지 등의 사항을 평가해야 합니다.
마이크로소프트는 세부적인 품질 차이를 평가하기 위해 인간의 판단을 평가 작업에 활용하고 있습니다. 404 미디어에서 입수한 내부 자료에 따르면, 마이크로소프트 Copilot의 평가 작업에도 인간의 판단이 사용되고 있으며, 최소 수백 명의 계약 직원이 해당 작업에 관여하고 있다고 합니다. 계약 직원에게 표시되는 것은 사용자가 입력한 원본 프롬프트, 사용자가 업로드한 이미지, Copilot이 생성한 2가지 편집 결과물입니다. 직원은 2개의 편집 결과물을 비교하여 사용자의 지시에 정확하게 따르고 있는지, 변경 대상 외 항목이 유지되는지, 왜곡이나 부자연스러운 질감이 없는지, 전체적으로 어느 결과물이 더 우수한지를 판단한다고 합니다.
계약직원의 증언에 따르면, 리뷰 작업 시 사용자가 업로드한 이미지의 얼굴에 노출 필터가 적용되지 않는 경우도 있었으며, 성적인 이미지 편집을 요구하는 프롬프트 또한 다수 포함되어 있었습니다. 구체적으로는 인물의 치마를 짧게 하거나 성적인 포즈로 변경하도록 요청하는 지시도 확인되었고, 계약직원은 민감한 이미지를 접하는 사례가 있었으며, 404 Media는 이를 보도했습니다. Microsoft는 또한 인간이 Copilot의 대화를 확인하는 경우도 있을 수 있음을 공개적으로 밝혔습니다. 기존 버전 Copilot에 대한 개인정보 FAQ에는 일부 Copilot의 대화가 제품 개선 및 안전성 확보를 목적으로 자동 처리 및 인간 검토의 대상이 된다고 명시되어 있었습니다. 또한, 훈련된 AI 전문가가 Copilot의 대화를 확인하고 AI 모델의 정확도 및 안전성 평가 및 개선에 활용하는 경우도 있다는 내용입니다.
동일 FAQ에는 Copilot에 업로드한 이미지나 파일 또한 대화와 동일하게 취급된다고 기재되어 있습니다.
마이크로소프트의 AI 기능에 대해서는, PC 화면을 정기적으로 기록하여 나중에 검색할 수 있는 “Recall”이 개인 정보 보호 문제로 인해 사양 변경되었으며, 로컬에서 이미지를 생성하는 Copilot+ PC의 AI 기능에서도 Azure의 온라인 서비스에서 콘텐츠 필터링을 위해 사용자의 프롬프트가 수집되는 것이 밝혀지고 있습니다. PC의 작동 기록을 모두 기록하여 AI로 기록 검색하는 Windows의 신 기능 “Recall”의 안전성을 영국 당국이 조사 중 - GIGAZINE
마이크로소프트의 홍보 담당자는 404 Media에 대해 “마이크로소프트는 제품 개선 및 행동 규범 준수를 철저히 하기 위한 노력 포함하여 이용 약서에 기재된 대로 고객 데이터를 사용하고 있습니다”라고 설명했습니다.
원문 보기 | 출처: Gigazine