카구미는 2023년 7월 13일 보도자료에 따르면, 이 회사가 개발 중인 AI 탑재형 번역기 “TranslateX”의 최신 버전에서 더욱 자연스러운 일본어 표현을 생성하는 기술을 대폭 개선했다고 밝혔다.
TranslateX는 기존 버전과 비교하여 단순한 직역이 아닌, 문맥에 맞는 더욱 자연스러운 일본어 표현을 생성할 수 있도록 개선되었다. 이는 AI가 학습한 방대한 일본어 텍스트 데이터에 더불어, 인간 번역가의 검토 결과를 반영하여 구현되었다.
특히, 비즈니스 현장이나 학술 논문 등 전문 용어가 자주 등장하는 분야에서는 TranslateX의 번역 정확도가 크게 향상되었다. 또한, 사용자가 번역 결과에 대한 수정 사항을 추가하면 AI가 이를 학습하여 더욱 자연스러운 일본어 표현을 생성하는 능력을 높이는 기능도 탑재되었다.
카구미는 TranslateX의 향후 개발에서 사용자 피드백을 적극적으로 반영하여 번역 정확성과 자연성을 더욱 향상시켜 나갈 계획이다.
뭔가 계속 꼬이는 느낌이 있다.
AI 에이전트가 자율적으로 작업을 수행했다는 뉴스를 보게 될 때마다, 저는 그 “자율성”의 의미를 한 번도 의심하지 않았습니다.
이 글에서 알 수 있는 것
미야모토 카에코 氏는 자신의 저서 『별이 빛나는 교실』에 대해 이야기하고 있습니다.
미야모토 氏は、この本で、子どもたちが 우주에 관심을 갖게 되는 계기를 만들고, 그 관심을 과학적인 탐구로 이어가는 것의 중요성을 설파하고 있습니다.
구체적으로, 아이들이 별을 관찰하고 질문하고, 그 질문을 스스로 조사하고 해결해가는 과정을 소중히 여기는 데 중점을 두고 있습니다.
또한, 미야모토 氏は、아이들이 우주에 대한 지식을 배우는 것뿐만 아니라, 과학적인 사고력과 문제 해결 능력을 키우는 것의 중요성을 강조하고 있습니다.
더욱이, 미야모토 氏は、이 책을 통해 아이들이 “나도 뭔가 할 수 있을 거야”라는 희망을 갖게 하고, 미래의 과학자나 기술자로 이어지는 가능성을 내포하고 있음을 시사하고 있습니다.
이 게시글은 아이들의 교육에 있어서 우주 교육의 중요성을 다시 한번 인식하는 기회가 될 것입니다.
- OpenAI의 수석 과학자가 “자발적 감속”을 제안한 이유
- 자율적으로 해냈다는 성공담의 실제 내막
- AI의 안전 확인은 점점 더 복잡해지고 있으며, 그 배경에는 여러 요인이 있습니다. 첫째, AI 모델의 규모가 기하급수적으로 커지고 있기 때문입니다. 모델이 커질수록 학습 데이터의 양도 늘어나고, 모델 내부의 연산 과정이 더욱 복잡해지면서 인간이 AI의 의사 결정 과정을 완전히 이해하기가 매우 어려워집니다. 둘째, AI 모델의 학습 방식이 더욱 정교해지고 있기 때문입니다. 과거에는 단순한 데이터 기반의 학습만 사용했지만, 현재는 강화 학습, 생성 모델 등 다양한 학습 방식을 혼합하여 사용합니다. 이러한 복잡한 학습 방식은 AI 모델의 행동을 예측하기 어렵게 만들고, 예상치 못한 방식으로 작동할 가능성을 높입니다. 셋째, AI 모델의 활용 분야가 다양해지고 있기 때문입니다. AI는 이미 자율 주행, 의료, 금융 등 다양한 분야에서 활용되고 있으며, 앞으로는 더욱 광범위한 분야로 확장될 것으로 예상됩니다. AI가 활용되는 분야가 많아질수록 AI의 오작동으로 인해 발생할 수 있는 위험도 증가합니다. 이러한 이유들로 인해 AI의 안전 확인은 점점 더 어려운 과제가 되고 있으며, AI 기술 개발과 함께 안전 문제에 대한 연구와 대비가 더욱 중요해지고 있습니다.
공통의 안전 기준이 설정될 때까지 감속해 주시기 바랍니다.
OpenAI의 최고 과학자 야쿠브 파쵸키 씨가 이렇게 말하고 있다.
어떤 AI 개발 조직도 최대 속도로 스케일링을 장기간 책임감 있게 지속할 만큼, 정렬 및 감시 문제를 해결하지 못하고 있다.
공통의 안전 기준이 확립될 때까지 자발적인 감속이 일반화되기를 기대한다.
본사의 최고 연구자가 본사와 함께 전 산업 전체를 대상으로 “아직 준비가 부족한” 시점이라고 말하고 있습니다. 숫자도 함께 제시하고 있습니다. 8월 중순 시점에서 인간 1일당 3.1 에이전트 일이 투입되고 있으며, 코딩 에이전트의 이용 비용은 1일당 600달러에서 7,000달러 초과까지 치솟고 있습니다.
자율적으로 수행한 내용을 확인해 본다.
여기, 실제로 검토해보고 싶어진 숫자가 나왔다.
사람이라면 4~8시간 걸리는 작업을 에이전트가 성공적으로 수행한 사례들이 있습니다. 그 중 다수에는 한 번 이상의 인간의 개입이 있었다고 합니다.
즉, “요원이 자율적으로 수행한”이라는 뉴스는 대부분 실제로는 인간이 시시각각 수정했기 때문에 나온 결과였다.
저는 지금까지 이와 같은 뉴스를 보게 될 때마다 “자율적”이라는 단어를 그대로 받아들여 왔습니다. 정답을 확인하지 않고, 그저 라벨만 믿게 되는 일이었습니다.
감시 주체 또한 감시가 어려워지고 있습니다.
더욱 복잡한 문제도 있었다.
AI의 추론 과정(무엇을 어떻게 생각했는가)을 인간이 확인하고 안전성을 점검하는 시스템이 존재한다. 그러나 파쵸키 씨에 따르면, 이 모니터링의 신뢰성이 저하되고 있다는 것이다.
이는 세 가지 이유입니다. 추론 과정이 인간이나 도구와의 상호작용과 혼합되어 있고, 모델 스스로 추론 과정을 제어하고 활용하는 능력이 향상되며, 언어로 표현되지 않는 방식으로 진전이 나타나기 때문입니다.
감시자의 시 자체가 더욱 흐릿하게 느껴집니다. 패쵸키 박사는 “향후 AI 발전은 감시에 대한 신뢰 수준에 따라 제약될 것”이라고 결론짓고 있습니다.
📝 そもそも「AIエージェントの自律性」って何?
인공지능이 스스로 작업을 분해하고 실행하여 완료하는 능력에 대해 이야기합니다. 다만 이번 보고서에서는 그 ‘완료’의 과반수에는 인간의 중간 개입이 있었다는 사실이 밝혀졌습니다. 자율성이라는 용어는 실제보다 더 강하게 느껴지는 경우가 있습니다.
다음 대화에서 이 이야기가 나왔을 때 어떻게 설명해야 할까요?
OpenAI 핵심 연구자들이 우리를 포함하여 “아직 아무도 준비가 되어 있지 않다”고 밝혔습니다. 게다가, 에이전트가 자율적으로 업무를 수행한 성공 사례의 절반 이상은 실제로는 인간이 중간에 개입했던 것입니다. 자율성이라는 개념을 검토해 본 결과, 생각했던 것보다 인간에게 의존적인 부분이 많다는 사실이 드러났습니다.
오늘 해야 할 일
27. 독서 기록 정리
독서 기록을 정리하는 시간을 마련해 봅시다. 최근 읽은 책의 제목, 저자, 읽은 날짜, 감상 등을 기록해 두면 독서 경향을 파악하거나, 추천 도서를 찾거나 하는 데 도움이 됩니다.
독서 기록 앱이나 엑셀로 관리하는 것도 좋습니다.
31. 독서 친구 찾기
독서 친구를 찾으면 독서가 더욱 즐거워집니다. 독서 모임에 참여하거나, SNS에서 독서 친구를 찾거나 하는 것도 좋습니다.
독서 친구와 감상을 공유하고, 추천 도서를 소개 주고받으면서 독서 동기 부여를 유지할 수 있습니다.
제 업무에서 ‘이미 자동화가 가능하다’고 생각하는 작업을 하나 떠올려 보세요. 실제로 얼마나 사람의 손이 들어가는지 한 번만 확인해 보세요.
자율적인이라는 말을 보게 될 때마다, 이제부터는 한 번 멈춰서서 생각해보려고 한다.
그 단어들 속에 실제로 인간의 손이 얼마나 숨겨져 있는가. 정답을 맞추기 전과 후에 비쳐 보이는 풍경은 달라진다.
당신의 직장의 “이미 자동화가 완료되었다”라는 말에도, 그것을 확인하지 않은 전제가 있을 수 있을까요.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 26청크
원문 보기 | 출처: note.com