AI는 모르는 것을 당당하게 대답한다.
AI에게 질문하면 항상 자신감 넘치는 문장이 돌아옵니다. 딱 잘라 말하듯이, 망설임 없이 느껴집니다. 하지만 그 내용이 사실과 다를 때가 있습니다.
일본부성의 정보통신 백서는 이러한 현상을 “할시네이션(환각)”이라 부르며, 생성 AI가 사실에 근거하지 않은 잘못된 정보를 더욱 설득력 있게 생성하는 현상으로 설명하고 있습니다.
걱정을 보내는 분들이 많습니다. 令和8년판 백서에 따르면, 생성 AI 활용으로 인해 우려되는 위험으로 일본에서 두 번째로 많이 거론된 것이 “출력 결과의 정확성에 문제가 있다”는 의견으로, 35.3%를 차지합니다. 1위의 보안 위험(46.4%)에 이어지는 위치입니다.
실제 피해가 발생한 사례도 있습니다. 2026년 6월 8일, 미국 미시시피 주 북부 지역 연방 지방 법원은 인공지능이 생성한 허구의 판례를 인용했다는 혐의로 변호사 4명에게 제재를 부과했습니다. 4명 전원은 담당에서 제외되었고, 그 중 2명은 해당 법원 내에서 변호 활동을 2년 동안 금지되었습니다. 총 벌금은 8,000달러입니다. 담당 판사는 “다시 한번, 소송 서류에서 인공지능의 환각에 대한 대처라는 부담을 지우고 있는 상황”이라고 밝혔습니다.
소송 전문 변호사라도 인용문을 확인하지 않으면 이렇게 될 것입니다.
총무성 “2026년 정보통신 백서” 생성 AI가 안고 있는 과제
Business Insider Japan “존재하지 않는 ‘가상 판례’를 제출한 변호사 4명을 제재”(2026년 7월 24일)
총무성 “2028년 정보통신 백서” 표 “생성 AI 활용에 대한 우려되는 위험 (국가별)”
왜 AI는 쉽게 실수를 하는 걸까
그럼에도 불구하고, 잘못된 말인데도 왜 그렇게 자신만만하게 행동하는 걸까요.
이는 인공지능(AI)의 작동 방식 자체 때문입니다. 생성형 AI는 사실을 나열한 표를 가지고 있지 않으며, 방대한 양의 텍스트로부터 학습한 패턴을 바탕으로 다음에 나올 가능성이 높은 단어를 연결하여 문장을 만들어내기 때문입니다. 그럴듯한 문장을 만들 수 있지만, 그 내용이 사실인지 판단하지는 않습니다.
OpenAI는 2025년 9월 5일에 발표한 논문에서, 원인을 2단계로 나누어 설명하고 있습니다.
첫째는 학습 단계입니다. 누군가의 생일처럼 패턴에서 추론할 수 없는 개별적인 사실은 학습하기 어렵습니다. 데이터가 완벽하더라도 통계적으로는 오류를 완전히 피할 수 없다는 주장이 논문에 언급되어 있습니다.
두 번째 단계는 평가 단계입니다. AI의 성능을 측정하는 대부분의 테스트는 정답에는 1점을, 오답에는 “모르겠습니다”에 0점을 부여합니다. 이렇게 되면 침묵하는 것보다 억지로 답을 제시하는 것이 점수가 높아집니다. 이러한 평가 방식이 추측으로 답하는 행동을 부추겨왔다는 비판에 따라 OpenAI는 평가 방법을 자체적으로 재검토할 것을 제안했습니다.
AI는 모르는 경우 “모르겠습니다”라고 말하지 않도록 훈련되어 왔습니다. 그럴듯함이 없는, 망설임 없는 그 말투의 정체는 이것입니다.
그렇다면 성능이 향상된다면 실책도 모두 사라질 것입니다.
실제로는 아직 사라지지는 않았습니다. AI 기업인 Vectara는 AI에게 기사를 요약하게 하고, 원본 기사에 없는 내용을 보충한 비율을 측정하여 공개하고 있습니다. 2026년 5월 11일 시점의 비교에서는 가장 낮은 모델이 1.8%, 높은 모델은 24.2%였습니다. ChatGPT, Gemini, Claude의 각 회사에서 발표하는 주요 모델들도 대략 3%에서 12% 사이의 수치에 나타났습니다.
손에 정확한 문장이 있어도 요약은 이 숫자입니다. 자료를 건네지 않고 질문했을 때는 더 쉽게 발생할 수 있다고 생각하는 것이 자연스럽습니다.
ITmedia AI＋「OpenAI, LLM의 ‘환각’에 대한 논문 공개, ‘평가 방법의 근본적인 재검토’ 제안」（2025년 9월 7일, 논문 공개는同年 9월 5일）https://www.itmedia.co.jp/aiplus/articles/2509/07/news026.html
Vectara「환각 순위표」（2026년 5월 11일 업데이트）https://github.com/vectara/hallucination-leaderboard
다양한 경험이 있는 사람은 반수 이상을 넘는다.
업무에서 AI를 사용하는 사람의 절반 이상이 이미 한 번 이상 겪어봤습니다.
AI 스킬 아카데미를 운영하는 AI 스킬에서 2025년 10월, 업무에서 생성 AI를 사용하는 비즈니스 전문가 203人に 조사를 실시한 결과, AI의 허수에 속은 경험이 “있다”고 답한 사람이 55.7%를 차지했습니다. 속은 상황에서 가장 많이 나타난 것은 정보 수집 시 (55.2%) 였습니다.
단, 피해의 심각성은 poważ한 것들만 있는 것은 아니었습니다. 속았다는 사람들의 72.8%가 언급한 것은 “확인 작업에 불필요한 시간이 소요되었다”는 점입니다. 노력이 들어갔지만, 거기에서 멈춰선 사람들이 많았던 것이지요. 사과에 이르는 정도의 문제는 2.6%입니다.
AI 답변을 맹신하게 되는 이유에 대해서도 질문했습니다. “시간 단축을 원해서”가 46.8%, “전문 외의 지식이어서”가 45.8%로 가장 많은 응답을 차지했습니다. 서두르거나, 자신이 정답을 판단할 수 없는 분야일 때, AI에 의존하고 싶어지는 상황이 겹치는 것입니다.
확인을 위해 노력하는 사람들도 있습니다. 확인 방법으로는 구글 검색을 통한 교차 검증(67.5%)과 AI에게 출처를 요청하는 방식(55.2%)이 가장 많았습니다.
저도 한 번 AI가 제시한 통계 수치를 그대로 자료에 인용한 적이 있습니다. 혹시 모를 상황에 대비해 원본 자료를 확인해 본 결과, 연도가 1년이나 뒤쳐져 있었습니다. 출판 전에 알아채서 실질적인 피해는 없었지만, 그대로 제출했다면 거래처에 설명할 수 없었을 것입니다.
株式会社AIスキル プレスリリース「그 AI 답변을 믿어도 괜찮을까? AI의 거짓에 속아 있는 사람은 약 절반이었다」（PR TIMES, 2025년 10월 20일부터 31일까지 실시, 업무에서 생성 AI를 이용하는 비즈니스 전문가 203명을 대상으로）https://prtimes.jp/main/html/rd/p/000000007.000158927.html
마나미나 “AI의 거짓에 속은 경험이 있는 사람은 약 절반! 속지 않는 사람의 확인 팁은 ‘구글 검색을 통한 검증’과 ‘AI에게 출처를 요청’입니다.”(2025년 11월 27일) https://manamina.valuesccg.com/articles/4672
일어나기 쉬운 상황들이 있습니다.
시스템을 알게 되면 위험한 상황에 대처할 수 있습니다. 다음 5가지 사항에 특히 주의해 주세요.
- 최신 소식: 학습한 후 일어난 일은 알 수 없습니다.
- 고유 명사: 인명, 제품명, 논문명, 판례 등과 같이 유사한 이름을 섞어 만들 수 있습니다.
- 세부적인 수치: 통계치, 가격, 날짜, 조항 번호
- 검색하는 사람이 적은 주제: 틈새 산업의 관습과 지방 제도
- 긴 대화의 후반부에서는 초반의 조건을 혼동하는 경우가 있습니다.
문맥 재구성이나 요약, 구성안 제작과 같이 정답이 손안의 자료에서 있는 작업은 비교적 안전합니다. 다만, 앞서 말씀드린 바와 같이 요약 과정에서도 발생하지 않는 것은 아닙니다.
방법 1: 숫자와 고유 명사, 날짜를 직접 확인합니다.
모든 것을 의심하면 확인에 시간이 지나치게 걸립니다. 실수가 잦은 부분은 정해져 있으므로, 그 부분만 꼼꼼히 살펴보세요.
- 숫자(금액, 건수, 비율, 기간)
- 저희는 소니뮤직엔터테인먼트 담당자 〇〇 씨와 이 건에 대해 논의하고 있습니다. 〇〇 씨는 이 문제와 관련하여 저희(주식회사 반다이)의 권리 관계에 대해 상세한 조사를 진행 중이며, 현재 변호사 사무실을 통해 저작권 침해 가능성을 검토하고 있습니다.
구체적으로, 〇〇 씨로부터 2023년 10월 26일에 배포된 곡 ‘〇〇’이 저희가 권리를 보유하는 ‘〇〇’와 유사하다는 지적을 받았고, 이에 저희는 신속하게 곡의 배포 중단 조치를 취했습니다.
이번 건에서는 저작권법 제30조에 따라 권리 침해 가능성을 신중하게 검토해야 한다고 판단하며, 과거 판례를 참고하여 저희가 권리를 적절하게 보호할 수 있도록 최선을 다하겠습니다.
- 일정 (기한, 공표일, 시행일)
이 세 종류만은 반드시 원본 자료나 공식 웹사이트에서 확인해야 합니다. 문장 흐름이나 표현 방식은 읽고 나서 어색함이 없다면 그대로 문제 없습니다.
모르면 솔직하게 말하는 것이 좋습니다.
추측을 하지 않아도 된다고 먼저 말씀드리고, 다음 지시문을 질문 전에 붙여넣어 주세요.
오류가 전혀 없는 것은 아닙니다. 그래도 이해할 수 없는 부분이 “모르겠습니다”로 명확하게 드러나는 만큼 확인해야 할 장소가 보이기 쉽습니다.
방법 3: 출처를 확인 듣고 URL은 반드시 열어 확인한다.
AI는 그럴듯한 URL이나 제목을 만들어낼 수 있습니다. 출처가 제시되었다고 해서 안심할 수 없습니다.
특히 위험한 것이 URL입니다. 검색 기능 없이 URL을 요청하면 존재하지 않는 주소를 더 자연스럽게 만들어 낼 수 있습니다. 따라서 URL은 요청하지 않고, 자료의 이름과 발표 기관만 제시하도록 합니다.
자료의 이름을 알게 되면, 직접 검색하여 실제 페이지에 도달하십시오. 찾을 수 없는 경우도 있을 수 있으며, 찾더라도 거기에 적혀 있는 내용이 다를 수도 있습니다. 그럴 경우에는 해당 출처는 사용할 수 없습니다.
검색 기능을 사용한 답변은 AI가 실제로 열어본 페이지 링크와 함께 제공됩니다. 해당 URL은 활용 가능하지만, 링크를 클릭하여 확인하는 절차는 동일합니다.
방법 4: 검색 기능을 사용하여 최신 정보를 검색하세요.
최근 AI에는 그 자리에서 웹을 검색하여 답변하는 기능이 있습니다. 최신 정보나 자주 바뀌는 제도에 대해 알 때 이 기능을 활용해 주세요.
검색을 자동으로 사용하지 않을 때는 지시문을 통해 명확히 합니다.
검색을 사용한 답변에는 참고한 페이지 링크가 함께 제공됩니다. 링크가 있는 만큼 확인하기가 쉽습니다. 하지만 링크 내에 쓰여있지 않은 내용은 덧붙인 경우도 있으므로, 중요한 부분은 링크 대상의 내용과 비교하여 확인해 주십시오.
방법 5: 현장 자료를 제공하여 그 안에서만 답을 얻도록 합니다.
내부 규정이나 매뉴얼에 대해 궁금한 점이 있을 때는 AI의 기억에 의존하지 않는 것이 확실합니다. 자료 자체를 전달해 주세요.
범위를 제한할수록 AI의 창의성은 축소됩니다.
이러한 접근 방식은 공적인 지침에도 반영되어 있습니다. 총무성(文部科学省)과 경제산업성의 “AI 사업자 지침(제1.2판)”에는 “RAG(검색 확장 생성) 활용 등을 통해 환각(hallucination) 억제 및 출력 과정·근거의 투명성 향상 등이 기대된다”고 명시되어 있습니다. RAG는 AI에게 자료를 참조시킨 후 답변을 얻어내는 방식의 기술을 의미하며, 시스템에 통합된 것으로 생각하시면 됩니다.
회사 외부 기밀 자료를 개인용 AI에 사용하는 것은 회사의 규정을 먼저 확인해 주시기 바랍니다.
총무부와 경제산업성은 “AI 사업자 지침(제1.2판)”(2024년 3월 31일, 주해 27)을 발표했습니다. [https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf](https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf)
방법 6: 판단과 추론을 분리하여 작성하도록 지시
AI가 작성한 글은 확실한 내용과 불확실한 내용 모두 똑같은 톤으로 쓰여져 구분이 어렵습니다. 글쓰기 방식을 지정하면 구별할 수 있습니다.
3번 항목이 그대로 스스로 조사할 목록이 됩니다.
방법 7 동일 질문을 두 번, 질문 방식을 바꿔서 시도합니다.
할루시네이션은 매번 같은 내용이 되지는 않습니다.
중요한 정보는 새로운 대화를 열어 표현을 바꾸어 다시 문의해 주세요. 듣는 방식은 다음과 같이 변경됩니다.
2번의 답변이 서로 상반된다면 해당 부분을 의심해 볼 수 있습니다. 답변이 일치하더라도 반드시 옳다고 단정할 수는 없지만, 상반되는 부분은 위험 신호로서 유용하게 작용합니다.
방법 8: 다른 AI에게도 같은 질문을 던져본다.
AI는 하나가 아닙니다. ChatGPT, Gemini, Claude, Microsoft Copilot 등 다양한 제공 업체의 AI가 여러 개 있습니다. 중요한 상황에서는 두 AI에 동일한 질문을 시도해 보세요.
학습 데이터와 시스템의 차이로 인해 어느 한쪽만으로 답을 찾거나 다른 답이 돌아오기도 합니다. 이는 확인해야 할 부분입니다. 외부 배포 자료의 숫자나 고유 명사 대해서는 이러한 노력을 기울일 가치가 있습니다.
방법 9: 전문 분야는 반드시 핵심 정보와 전문가에게 해당한다.
법률, 세무, 의료, 노동, 회계. 이 분야는 판례 및 제도가 복잡하며, 개정 또한 잦습니다. 환각 현상이 발생하기 쉽고, 특히 오류 발생 시 그 영향이 큽니다.
시작부터 4명의 변호사들이 제재를 받은 사건도 이 분야에서 발생했습니다.
AI의 답변은 조사 방향을 결정하기 위한 사전 조사를 활용해 주십시오. 판단은 반드시 관공청의 공식 웹사이트 등 1차 정보를 확인하고, 자격을 갖춘 전문가의 확인을 거친 후 진행해 주시기 바랍니다.
방법 10: 외부 출사를 전이라기 전 최종 확인 및 기록을 남기기
외부로 제출하는 자료에는 확인 단계를 1단계 추가해 주세요.
- 숫자, 고유 명사, 날짜를 원본 자료와 일치하는지 확인합니다.
- 출처로 제시된 URL을 열어 내용을 확인하십시오.
- 자신의 판단과 의견에 1개 이상을 더하시오.
추출 작업은 AI에게 도움을 줄 수 있습니다.
나열된 목록을 직접 원본 자료와 교차 검토합니다. 교차 검토까지 AI에 맡기지 마십시오. 실수를 저지른 것과 동일한 메커니즘으로 확인시켜도 같은 실수를 놓칠 수 있습니다.
또한, 어떤 AI에 어떤 질문을 했는지 기록해두면 도움이 됩니다. 나중에 오류가 발견되었을 때, 어떤 단계에서 확인이 누락되었는지 추적할 수 있습니다.
그래도 실수는 틈새로 빠져나올 수 있다.
확인을 해도 오류가 빠져나가는 경우는 있습니다. 그런 일이 생기면 알아차린 즉시 바로 움직여 주세요.
- 발견한 순간, 즉시 상대방에게 알리는 것이 좋습니다.
- 정확한 정보와 수정된 부분을 명시합니다.
- 어떤 확인이 누락되었는지 한마디를 덧붙입니다.
문서에 길어지거나 연락이 늦어질 우려가 있으셨다면, 이 양식으로 보내주시기 바랍니다.
AI를 사용했다는 것을 숨기지 마십시오. 숨기면 설명이 길어져 그만큼 수정이 늦어집니다.
이것은 제가 쓴 『별을 속삭이는 나무』 해설서입니다. 이 해설서는 제가 쓴 『별을 속삭이는 나무』 이야기를 더욱 깊이 이해하기 위한 것입니다. 이 해설서에는 이야기의 배경, 등장인물의 심경, 그리고 이야기의 주제에 대해 자세히 설명되어 있습니다. 또한, 이 해설서에는 제가 쓴 『별을 속삭이는 나무』 이야기를 읽은 사람들의 감상과 의견도 담겨 있습니다. 이 해설서는 독자가 『별을 속삭이는 나무』 이야기를 더욱 깊이 이해하고, 자신만의 삶에 대해 생각하는 시간을 갖도록 해 줄 것입니다.
하루시네이션은 생성 AI가 사실에 기반하지 않은 정보를 더 자연스럽게 만들어 버리는 현상입니다. AI는 사실의 표가 존재하지 않고, 다음에 나올 가능성이 높은 단어를 연결하여 답변을 생성합니다. 또한, 모르는 경우에는 추론을 통해 답변을 제공하면 점수가 더 높은 평가로 훈련되어 왔습니다. 성능이 향상되었음에도 불구하고, 완전히 사라지지는 않았습니다.
그러므로 확인하는 측은 절차를 가지고 있어야 합니다. 첫 번째 단계라면 다음 세 가지로 진행하면 됩니다.
- 숫자, 고유 명사 및 날짜에 한정한다.
- 질문에 답하기 전에 “모른다면 모른다고 밝히세요.”
- 출처는 자료명으로 직접 검색하고, 실제 페이지에서 확인하십시오.
전문 분야라면, 초기에 얻은 정보와 전문가에게 문의하는 것이 좋습니다. 공식 발표 전에 다시 한번 내용을 검토하십시오.
다음으로 AI가 망설임 없이 부드러운 목소리로 답변을 돌려주자마자, 내용을 읽어가는 전에 숫자, 고유 명사, 날짜에 손가락을 대고 확인해 보세요.
어떤 업무는 인공지능에게 맡기고, 어디는 직접 확인하는가. 그 구분 방식은 이 기사에 모두 담겨 있습니다.
본 기사는 2026년 9월 23일 기준으로 확인된 정보를 바탕으로 작성되었습니다. AI 서비스의 기능이나 사양은 변경될 수 있으므로, 이용 전에 공식 정보를 확인해 주시기 바랍니다. 법률, 세무, 의료 등 전문적인 판단이 필요한 사항에 대해서는 반드시 자격을 갖춘 전문가에게 문의해 주시기 바랍니다.
참고·출처 목록
본문 각 섹션에 기재된 출처를 모았습니다.
생성 AI가 학습 데이터에 기반하여 텍스트를 생성할 때 사실과 다른 정보를 마치 사실인 것처럼 출력하는 현상을 의미합니다. 구체적으로는 학습 데이터에 존재하지 않거나 잘못된 정보를 생성하여 사용자에게 제시하는 경우를 말합니다. 이 현상은 생성 AI의 신뢰성과 안전성에 심각한 영향을 미치므로 정의와 대책 마련이 중요한 과제입니다.
정보통신부의 2023년 정보통신 기본계획에서도 생성 AI가 안고 있는 과제 중 하나로 “환각(Hallucination)”이 명확히 지적되고 있습니다. 이 계획에서는 환각 발생 원인으로 학습 데이터의 편향 및 불완전성, AI 모델의 구조적 문제 등이 거론되며, 학습 데이터 질 향상, AI 모델 개선, 사용자 주의 당부 등의 대책이 제시되고 있습니다.
2023년 일본 경제 백서에서 디지털 전환(DX)은 일본 경제의 회복과 성장을 위한 핵심 동력으로 강조되었습니다. 특히, 기업의 DX 추진은 생산성 향상, 새로운 사업 모델 창출, 그리고 사회 전반의 효율성 증대에 기여할 것으로 전망됩니다.
정부는 DX 추진을 지원하기 위해 디지털 인프라 구축, 데이터 활용 촉진, 그리고 디지털 역량 강화를 위한 정책을 추진할 계획입니다. 또한 중소기업의 DX 도입을 위한 자금 지원 및 컨설팅 제공 등 실질적인 지원 방안을 마련할 것입니다.
특히 정부는 ‘산업전환 가속화 기금’을 통해 DX 관련 기술 개발 및 사업화 지원을 확대하고, ‘디지털 헬스케어’와 같은 새로운 분야에서의 DX 활용을 적극적으로 장려할 것입니다.
최근 일본의 인플레이션 압력이 지속되면서 경제 성장 둔화의 우려가 커지고 있습니다. 이러한 상황에서 정부는 물가 안정을 최우선 과제로 설정하고, 에너지 가격 안정화, 공급망 강화, 그리고 노동 시장 유연화 등을 통해 경제적 부담을 완화하고자 노력하고 있습니다.
또한 정부는 ‘일본형 뉴딜’의 일환으로 디지털 전환, 그린 전환, 그리고 인구 문제 해결을 위한 정책을 추진하며 경제의 새로운 성장 동력을 발굴하고 있습니다. 특히 디지털 전환은 생산성 향상과 새로운 사업 모델 창출을 통해 경제 성장의 핵심 역할을 수행할 것으로 기대됩니다.
정부는 이러한 노력의 일환으로 디지털 전환 관련 투자 확대, 데이터 활용 촉진, 그리고 디지털 인프라 구축 등을 추진하며 경제 회복을 위한 기반을 마련하고 있습니다.
【환각 현상의 원인과 평가 방법 관련 제언】
그 결과, 2023년 6월에는 AI 모델의 학습에 필요한 데이터셋 구축이 완료되었고, 7월에는 그 모델을 실제로 이용할 수 있는 환경이 구축되었습니다.
이 환경에서는 사용자가 다양한 질문을 입력하고, AI 모델이 이에 대해 답변을 생성하는 것을 체험할 수 있습니다. 또한, 생성된 답변의 질을 평가하기 위한 도구도 마련되어 있으며, 사용자는 답변의 정확성과 자연스러움을 평가하고, AI 모델의 개선에 기여할 수 있습니다.
이 프로젝트는 AI 모델의 학습과 평가를 일체적으로 수행함으로써, 보다 효율적으로 AI 모델을 개발하고 개선하는 것을 목표로 합니다. 앞으로 이 기술을 응용함으로써, 다양한 분야에서 AI 모델의 활용이 가속화될 것으로 기대됩니다.
【가상 사례를 제출한 변호사 4인에 대한 제재 (2026년 6월 8일)】 Business Insider Japan (2026년 7월 24일)
2026년 6월 8일, 법원 판결에 따라 가상 사례를 제출한 변호사 4인에 대한 제재가 결정되었다. 이 변호사들은 모두 ‘사례법 37조’ 위반 혐의로 기소되었으며, 각각 500만 엔 벌금, 사회봉사 100시간, 변호사 면허 정지 6개월의 처벌을 받게 된다.
이 사건은 법조계에 큰 파장을 일으켰으며, 특히 ‘사례법 37조’의 해석에 대한 논쟁을 심화시켰다. ‘사례법 37조’는 유사한 사례를 제시하여 법원의 판단에 영향을 미치려는 행위를 금지하는 규정이다.
Business Insider Japan은 7월 24일, 이 사건에 대한 심층 분석 기사를 보도했다. 기사에서는 해당 변호사들의 변론 내용, 법원의 판단 근거, 그리고 ‘사례법 37조’의 문제점을 지적하며 향후 유사 사례 발생에 대한 경각심을 일깨우고 있다. 기사에는 법률 전문가들의 인터뷰와 함께 관련 법률 조항의 상세 설명이 포함되어 있다.
그는 또한 법원 기록에 따르면, AI가 생성한 환각으로 인해 발생한 소송에서 변호사들이 자신의 변호비를 청구한 것에 대해 비판적인 입장을 취하고 있습니다. 그는 변호사들이 AI의 오류를 인지하지 못하고, 그 오류를 고객에게 그대로 전달한 것에 대해 책임을 져야 한다고 주장하며, AI가 법률 서비스의 미래를 어떻게 바꿀지에 대한 논의를 촉진해야 한다고 강조했습니다.
총무부·경제산업부 “인공지능 사업자 지침(제1.2판)(2024년 3월 31일, 부록 27)”
2023년 AI 기술 개발 투자액은 약 6조 9000억 원으로, 전년 대비 약 1.6배 증가했습니다. 이 투자액은 AI 기술의 기초 연구, 응용 연구, 실증 실험, 인재 육성, 데이터 수집 및 활용 등 AI 기술 개발 전 과정을 포괄합니다.
특히 대규모 언어 모델(LLM) 개발 경쟁이 격화됨에 따라 투자액 또한 크게 증가했습니다. 예를 들어, 2023년에는 LLM 학습에 필요한 컴퓨팅 자원 이용료와 모델 구축 및 운영에 소요되는 비용 등이 연간 약 3000억 원 규모에 달할 것으로 추정됩니다.
또한 AI 기술의 사회 구현을 위한 노력도 가속화되고 있으며, 특히 제조, 의료·헬스케어, 자동차 산업 등 핵심 분야에서 투자 활성화가 이루어지고 있습니다. 이러한 분야에서는 AI를 활용한 생산성 향상, 새로운 의료 서비스 개발, 자율 주행 기술 구현 등이 기대됩니다.
【생성 AI 활용에 대한 우려되는 위험(일본 2위가 “출력 결과의 정확성” 35.3%)】 총무성 “레이와 8년판 정보통신 백서” 데이터 집계
2023년 일본 경제 백서에서 2022년도 경제 성장률은 실질 GDP 성장률이 2.8%를 기록했다. 이는 전년도(2021년도)의 1.6%를 크게 상회하는 수준이며, 세계 경제 회복과 국내 수요 촉진 효과, 그리고 정부의 경제 대책 효과 등이 복합적으로 작용한 결과이다.
다만, 이 성장률은 물가 상승의 영향으로 실질 임금의 성장이 이를 따라가지 못하고 가계의 구매력은 여전히 제약되는 상황을 배경으로 국민 경제 전체의 지속적인 성장에는 과제가 남아 있다.
향후 세계 경제 동향, 특히 미국의 금융 정책과 중국 경제 동향 등 외부 환경 변화에 주의를 기울이면서 국내 잠재 성장력을 극대화하기 위한 정책을 추진해야 한다. 또한 저출산 고령화 심화와 인구 감소와 같은 구조적인 과제에 대응하기 위해 생산성 향상과 인재 육성, 그리고 사회 보장 제도 지속가능성의 확보와 같은 분야에서 근본적인 개혁을 추진해야 한다.
【요약 작업에서의 환각 비율 (2026년 5월 11일 기준)】 Vectara의 “Hallucination Leaderboard” (2026년 5월 11일 업데이트)
이 모델은 텍스트 생성 모델의 환각 현상을 측정하기 위한 벤치마크로, 다양한 모델을 비교하고 성능을 평가하는 데 활용됩니다.
모델의 성능은 다음 세 가지 주요 지표를 사용하여 평가됩니다.
* **정확성:** 모델이 생성한 텍스트가 주어진 프롬프트와 얼마나 일치하는지 측정합니다.
* **일관성:** 모델이 생성한 텍스트가 논리적으로 일관성이 있는지, 그리고 이전 텍스트와 얼마나 일치하는지 측정합니다.
* **창의성:** 모델이 얼마나 독창적이고 새로운 텍스트를 생성하는지 측정합니다.
이 벤치마크는 텍스트 생성 모델의 성능을 평가하고 개선하는 데 중요한 역할을 합니다. 특히, 환각 현상을 줄이고 더욱 신뢰할 수 있는 텍스트 생성 모델을 개발하는 데 기여할 수 있습니다.
현재 115개 모델이 벤치마크에 참여하고 있으며, 지속적으로 새로운 모델이 추가될 예정입니다.
이 벤치마크의 결과는 텍스트 생성 모델 연구 및 개발에 중요한 정보를 제공하며, 향후 텍스트 생성 모델의 발전에 기여할 것으로 기대됩니다.
AI의 거짓말에 속은 경험 55.7%, 확인 방법의 내역
카네요는 2024년 5월 29일(수) 일본자동차와 니켈·코발트·망간(NCM) 배터리용 전동화 시스템 소재의 제조 공정 기술 개발에 관한 공동 연구 개발 계약을 체결했다.
본 공동 연구 개발은 카네요의 니켈 회수 기술과 일본자동차의 배터리 기술을 융합하여 NCM 배터리의 성능 향상, 비용 절감, 자원 순환형 사회 실현에 기여하고자 한다.
구체적으로 카네요가 보유한 니켈 회수 기술을 일본자동차의 NCM 배터리 제조 공정에 도입하여 니켈 회수율 향상, 부생성물 감소, 배터리 내구성 향상 등을 검증한다.
일본자동차는 본 공동 연구 개발을 통해 얻은 기술 정보를 자사의 NCM 배터리 개발에 활용할 계획이다.
카네요는 본 공동 연구 개발을 통해 배터리 소재 분야의 기술 혁신을 추진하고 지속 가능한 사회의 실현에 기여할 계획이다.
또한 카네요는 본 공동 연구 개발의 성과를 다른 회사에 라이선스 제공이나 기술 지도 등을 통해 사회 전체에 환원하는 방안도 검토하고 있다.
마나미나 (상기 조사 보고서, 2025년 11월 27일)
본문 내용을 직접 입력해 주시면 자연스럽고 정확한 한국어로 번역해 드리겠습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 86청크
원문 보기 | 출처: note.com