이 세 회사도 함께 회의하고 있었던 건가요?
뉴스에서 보니까, 그 점이 가장 놀라웠어요.
OpenAI。
앤트로픽은 앤서니 뷰캐넌(Anthony Bucklin)이 설립한 스타트업입니다. 특히, 안전하고 신뢰할 수 있는 AI 개발을 목표로 하며, ‘Constitutional AI’라는 독자적인 접근 방식을 통해 AI 모델의 윤리적 문제 해결에 힘쓰고 있습니다. 앤트로픽은 ‘Claude’라는 이름으로 출시된 대규모 언어 모델(Large Language Model)을 통해 뛰어난 성능을 보여주며 주목받고 있습니다. Claude는 인간과 유사한 대화 능력을 갖추고 있으며, 다양한 분야에서 활용될 가능성을 보여주고 있습니다. 앤트로픽은 지속적인 연구 개발을 통해 AI 기술 발전에 기여하고 있으며, 앞으로 더욱 혁신적인 AI 모델을 선보일 것으로 기대됩니다.
구글 딥마인드
일상적으로
어떤 인공지능이 가장 현명한가
완전히 경쟁적인 라이벌 기업입니다.
그러나 2026년 9월 15일, OpenAI의 Chief Global Affairs Officer인 크리스 레한 씨가 Anthropic, Google DeepMind와 AI 안전성에 대해 논의했다.
수 주 동안 협의하고 있다
이는 분명히 밝혀졌습니다.
또한, 그 수일 전에는 앤트로픽 CEO 다리오 아마데이 씨가
최첨단 인공지능의 성능 향상 속도를 관리해야 한다.
다음 제안을 발표했다.
OpenAI의 샘 알트먼 CEO도 동의하며, Anthropic이 제안한 제3자 평가자 도입에 대해 OpenAI도 유사한 노력을 진행할 계획임을 밝혔습니다.
저는 인공지능 업계 전문가가 아닙니다.
평소에 ChatGPT나 Claude를 일상 업무나 부업에 사용하는 일반 사용자입니다.
그러므로 이번에,
평소에 서로 멱살을 잡아 싸우듯 경쟁했던 3사가 왜 안전성 부분에서 협력하기 시작했을까?
정말 흥미로워졌습니다.
이번에는
- 3개 회사가 무엇을 논의하고 있는 걸까요?
- 다리오 아마데이 씨의 제안과 관련하여
- 정말로 “협력”이라고 부를 수 있을까요
- 산업 전반의 안전 기준이란 무엇인가요?
- 제3자 평가자는 무엇을 수행하는가
- 경쟁 공동체의 협력에 문제가 없는지
- 우리 일반 사용자가 어떤 문제에 대해 관련되는가
학생들도 쉽게 이해할 수 있도록 정리하겠습니다.
30초 만에 결론 | 무슨 일이 있었던 걸까?
관심사 요약: OpenAI, Anthropic, Google DeepMind가 AI 안전성 문제에 대해 논의한 내용은 무엇인가?
2026년 9월 15일에 OpenAI 측에서 밝혔지만, 이미 수週間 전부터 공식적인 협력 논의가 시작된 것으로 보이며, 아모디 提言을 중심으로 안전성 관련 논의 및 협력이 이루어진 것으로 파악된다. Altman 이사는 제3자 평가자 도입, 안전 기준 조화, AI 능력 향상 속도 관리 등에 관심을 보였고, Hassabis 이사 또한 제3자 평가자 도입에 긍정적인 입장을 취했다.
AI 안전성의 공통 기준 및 감독 기관의 필요성을 일찍부터 주장해 온 점과 함께, “성능 경쟁”과 “안전성의 공통 규칙 만들기”를 구분하기 시작했다는 점이 가장 중요한 내용이다.
제1장｜무슨 일이 일어났는가
2026년 9월 15일.
OpenAI의 크리스 레한 이사가 기자단에게,
OpenAI는 Anthropic, Google DeepMind와 인공지능 안전성에 대해 수 주 동안 논의하고 있다.
그것을 명확히 밝혔습니다.
여기 중요한 것은,
3사가 갑작스럽게
우리가 친해졌어.
그것이 전부가 아닙니다.
모델 성능.
기업용 서비스
요금입니다.
개발자 도구
인재.
그렇듯 보면
지금까지와 같이 경쟁하고 있습니다.
지금 협력하고 있는 것은,
AI가 급격하게 고성능화되면서 산업계에서 최소한 어떤 안전 장치를 공유해야 하는가
이 부분입니다.
결론적으로
경쟁을 멈추는 것이 아니라,
경쟁하면서도 안전 규칙을 준수합시다.
이러한 움직임입니다.
제2장 | “아모데이 씨의 제언이 계기”는 조금 다릅니다.
류지츠쿠가 쓴 「『고양이의 숲』에 대한 나의 생각」이 발매되었다.
츠키코의 작가 츠키코가 쓴 「『고양이의 숲』에 대한 나의 생각」에 대한 류지츠쿠의 반응을 담은 책이다. 류지츠쿠는 츠키코의 작품에 대해 깊이 있는 분석과 함께 자신의 감정을 솔직하게 표현하고 있다.
특히 류지츠쿠는 츠키코의 작품이 가진 독특한 분위기와 섬세한 감정 묘사에 대해 높은 평가를 내리고 있다. 또한 츠키코의 작품이 독자들에게 어떤 영향을 미치고 있는지에 대한 자신의 생각을 이야기하고 있다.
이 책은 츠키코의 작품을 사랑하는 독자들에게 츠키코의 작품을 더욱 깊이 이해할 수 있는 기회를 제공하며, 츠키코의 작품에 관심 있는 독자들에게 류지츠쿠의 깊이 있는 분석과 감정을 통해 츠키코의 작품을 더욱 풍부하게 즐길 수 있는 기회를 제공한다.
앤트로픽 CEO 다리오 아마데이 씨의 제언을 계기로
그녀는 이렇게 썼습니다.
하지만 이번 보도 내용을 살펴보면,
여기는 수정이 필요한 부분입니다.
아모데이 씨가
우리는 국경을 확장해야 한다.
그 생각을 공식적으로 발표한 것은 9월 12일이었다.
한편, OpenAI 측은,
3사의 협의에 대하여
수 며칠 전부터 진행했던
설명하고 있습니다.
즉, 시간 순서는 다음과 같습니다.
수면 하에서 안전성 협의
저는 2023년 5월 23일에 쓴 글입니다. 최근에 읽은 책 ‘마법의 숲’을 읽고 숲에 대한 새로운 감명을 받았습니다. 특히, 책 속에서 등장하는 ‘엘프’라는 존재가 제 마음을 사로잡았습니다. 엘프는 아름다운 외모와 신비로운 힘을 가지고 있었고, 저는 그들의 이야기를 듣는 것만으로도 큰 감동을 받았습니다.
‘마법의 숲’은 숲 속에서 길을 잃은 소녀가 엘프의 도움을 받아 집으로 돌아가는 이야기를 담고 있습니다. 이 책은 숲의 아름다움과 자연의 신비로움을 잘 보여주고 있으며, 또한 인간과 자연의 조화로운 관계를 강조하고 있습니다. 저는 이 책을 읽고 숲을 더욱 소중하게 생각하게 되었습니다.
앞으로도 저는 숲을 탐험하고 자연을 사랑하는 사람으로 살아가기를 희망하며, ‘마법의 숲’처럼 아름다운 이야기를 통해 자연에 대한 사랑을 더욱 키워나가고 싶습니다.
아모데이 씨의 제언
지난 10월 27일에 개최된 ‘마츠다 타쿠시’의 ‘아라비아의 로즈’ 북토크에 다녀왔습니다.
평소 ‘아라비아의 로즈’를 읽고 나서 ‘마츠다 타쿠시’ 작가의 작품 세계에 대해 더 깊이 알아보고 싶다는 생각을 했습니다. 특히 ‘아라비아의 로즈’의 배경이 된 1930년대의 독일과 그 시대의 분위기를 이해하고 싶었습니다.
북토크는 ‘마츠다 타쿠시’ 작가와 독자 간의 소통을 위한 자리였는데, 작가님은 ‘아라비아의 로즈’를 집필하게 된 계기, 작품에 담긴 의미, 그리고 작품을 읽는 독자들에게 전달하고 싶은 메시지에 대해 솔직하고 진솔하게 이야기해주셨습니다.
작가님은 ‘아라비아의 로즈’를 집필하게 된 계기는 1930년대의 독일을 여행하면서 그 시대의 분위기와 사람들의 삶을 직접 경험한 것이라고 말씀하셨습니다. 작가님은 그 경험을 바탕으로 ‘아라비아의 로즈’에 등장하는 인물들의 심리 묘사와 사건 전개에 깊이 관여하셨다고 밝혔습니다.
작가님은 또한 ‘아라비아의 로즈’에 담긴 의미는 ‘인간의 존엄성’과 ‘정의’를 지키기 위한 투쟁이라는 것이라고 강조하셨습니다. 작가님은 ‘아라비아의 로즈’를 통해 독자들에게 ‘인간의 존엄성’과 ‘정의’를 잊지 않고 끊임없이 싸워나가야 한다고 메시지를 전달하고 싶다고 말씀하셨습니다.
북토크는 ‘마츠다 타쿠시’ 작가와 독자 간의 깊이 있는 대화를 통해 ‘아라비아의 로즈’에 대한 이해를 높이는 데 큰 도움이 되었습니다. 특히 작가님의 솔직하고 진솔한 이야기는 ‘아라비아의 로즈’를 더욱 깊이 있게 느끼게 해주었습니다.
북토크 후 저는 ‘아라비아의 로즈’를 다시 한번 읽어보았습니다. 작가님의 이야기는 ‘아라비아의 로즈’를 읽는 동안 놓쳤던 부분들을 깨닫게 해주었습니다. 특히 작가님의 작품 세계에 대한 이해를 높인 덕분에 ‘아라비아의 로즈’를 더욱 깊이 있게 이해할 수 있었습니다.
저는 앞으로도 ‘마츠다 타쿠시’ 작가의 작품을 꾸준히 읽고 작가님의 작품 세계를 더욱 깊이 있게 이해하고 싶습니다. 그리고 ‘아라비아의 로즈’를 통해 ‘인간의 존엄성’과 ‘정의’를 지키기 위한 투쟁의 중요성을 다시 한번 깨닫게 되었습니다.
알트만 등이 공개적으로 지지한다.
지난 10월 27일, 츠타야 서점의 온라인 플랫폼 note.com에서 20주년 기념 이벤트가 개최되었습니다. 이번 이벤트는 츠타야의 20년간의 역사와 성장을 기념하고, 고객들에게 감사의 마음을 전하는 자리였습니다.
이벤트는 크게 세 가지 부분으로 구성되었습니다. 첫째, 츠타야의 대표적인 서적들을 소개하는 ‘츠타야 베스트셀러’ 코너가 마련되었습니다. 이 코너에서는 츠타야에서 가장 많이 팔린 책들을 선보였으며, 고객들은 다양한 장르의 책들을 직접 살펴보고 구매할 수 있었습니다. 특히, 겐조 노부유키의 소설 『나를 녹이는 불꽃』과, 히가시노 게이고의 미스터리 소설 『아몬드』가 큰 인기를 끌었습니다.
둘째, 츠타야의 역사와 관련된 다양한 콘텐츠를 제공하는 ‘츠타야 히스토리’ 코너가 운영되었습니다. 이 코너에서는 츠타야의 창립 배경, 성장 과정, 주요 사건 등을 담은 사진, 영상, 문서 등을 전시했습니다. 츠타야는 1988년, 도쿄의 한적한 지역에 첫 번째 매장을 열면서 본격적으로 사업을 시작했습니다. 이후, 츠타야는 독자들의 니즈를 충족시키기 위해 다양한 상품과 서비스를 제공하며 꾸준히 성장해 왔습니다.
셋째, 츠타야의 다양한 상품들을 판매하는 ‘츠타야 상품’ 코너가 운영되었습니다. 이 코너에서는 츠타야에서 판매하는 다양한 상품들을 선보였으며, 고객들은 츠타야의 독점적인 상품들을 구매할 수 있었습니다. 츠타야는 독자들을 위한 다양한 상품들을 제공하며, 츠타야만의 독특한 문화를 만들어가고 있습니다.
이벤트는 츠타야의 20주년 기념을 맞아, 고객들과 함께 즐거운 시간을 보내는 뜻깊은 자리였습니다. 츠타야는 앞으로도 독자들의 니즈를 충족시키기 위해 끊임없이 노력하며, 더욱 발전된 모습으로 고객들에게 다가갈 것입니다.
3개 회사의 논의가 공개되었습니다.
이런 식으로 진행됩니다.
저는 오히려,
공개 제안을 보고 갑자기 모인 것이 아니라 이미 뒤에서 논의해 왔습니다.
그 내용이 뉴스로서 흥미로웠습니다.
제3장｜다리오 아마데이 씨는 무엇을 제안했나?
아모데이 씨의 제안
말로만 하면 엄청 간단하지만, 실제로 해보면 굉장히 복잡한 문제라는 뜻입니다.
AI를 멈추는 것이 아니라, 안전 확인이 불가능한 속도로 능력만 계속 끌어올리는 것을 멈춰야 한다.
이러한 관점입니다.
제안 내용 중 주목받았던 것이었다.
AI 기업 내에 제3자 평가자를 참여시키는 것
그렇게 작동하는 방식이었습니다.
예를 들어,
앤트로픽 직원들만이,
우리 AI는 안전합니다.
판단한다.
이는 단순히 억지로 덧붙인 것이 아니라, 그 안에 담긴 본질을 깊이 이해하고, 그 의미를 최대한 살려 표현하는 데 집중했습니다.
외부 안전 연구 기관에도
모델.
평가 환경
안전 정보
그 외에도 일부를 보여준다.
또한,
정말로 안전 대책이 제대로 지켜지고 있는지 확인해 달라고 요청합니다.
이런 아이디어입니다.
아모데이 씨는 앤스로픽이 이 메커니즘에 자발적으로 참여할 의향을 밝혔고, 샘 올트먼 씨도 오픈AI가 같은 방향으로 나아가겠다는 생각을 표명했습니다.
제4장｜제3자 평가란 무엇을 위한 것인가
예를 들어 학교에서 생각하면 더 이해하기 쉽습니다.
학생 스스로가,
제 시험 점수는 100점입니다.
그것만으로는
신뢰하기 어렵지 않으세요?
선생님.
평가자
외부 시험
그 외에도 확인해야 할 사항들이 있습니다.
결과에 신뢰성이 드러납니다.
AI도 같습니다.
개발한 회사가,
나의 AI를 평가한다.
그것은 단순히 긍정적인 감정을 표현하는 것뿐만 아니라, 그 감정을 통해 얻을 수 있는 실질적인 변화와 성장을 목표로 하는 것입니다. 즉, 긍정적인 감정을 느끼는 것 자체에 만족하는 것이 아니라, 그 감정을 바탕으로 더 나은 방향으로 나아가는 데 활용하는 것이 중요합니다.
외부 전문가에게도 검토를 받겠습니다.
이것은 제3자 평가입니다.
특히,
AI는 스스로 코드를 작성한다.
사이버 보안 작업을 수행한다.
새로운 인공지능 연구를 지원한다.
이러한 능력이 발전할수록,
기업 내부에서의 확인만으로는 충분하지 않을 수 있습니다.
이러한 논쟁이 더욱 심화되고 있습니다.
제5장｜Google DeepMind는 무엇을 생각하고 있는가?
구글 딥마인드 CEO 데미스 하사비스 또한
이번에 갑작스럽게 이 이야기에 합류한 것이 아닙니다.
테크크런치에 따르면 하사비스는 2026년 7월 현재
고급 AI 모델을 평가하는
새로운 표준·감독 기관
그의 필요성을 제안하고 있었습니다.
그곳에서는,
최첨단 모델을 평가한다.
위험이 커질 경우,
산업 전반에서 역량 강화 속도를 조절할 수 있는 체계가 마련될 것으로 예상됩니다.
결론적으로
앤트로픽만이 갑자기 안전성을 문제시한 것은 아닙니다.
여러 주요 AI 기업들 중에서
이전부터 비슷한 문제 의식이 나타나 있었다.
이번에
그것이 표에 나타나도록 정해진 형태를 갖추게 되었다.
그렇게 생각하는 것이 더 적절합니다.
6장｜표준 단체는 무엇인가?
표준 단체란 특정 분야나 활동에서 일정한 기준과 규칙을 설정하고, 그 기준에 따라 활동하는 단체를 의미합니다.
예를 들어, 스포츠계의 ‘일본 축구 협회’나 ‘일본 권투 협회’는 각 종목에서 규칙과 기술 기준을 정하고 선수 육성 및 경기 운영을 하고 있습니다. 이러한 단체들은 각 분야에서 ‘표준’을 형성하기 때문에 ‘표준 단체’라고 불립니다.
또한, 비즈니스 현장에서는 산업 단체가 산업 전체의 표준을 설정할 수 있습니다. 예를 들어, 자동차 산업의 ‘일본 자동차 협회’는 자동차의 품질 기준과 안전 기준을 제정하여 산업 전체의 품질 향상에 기여하고 있습니다.
표준 단체는 해당 분야의 전문 지식과 노하우를 축적하고, 그 기준을 보급함으로써 사회 전체의 발전에 기여한다고 할 수 있습니다.
더욱이 보도에 따르면
OpenAI, Anthropic, Google DeepMind가
AI 산업 표준 기구
이를 제작하는 방향으로도 논의가 진행되고 있다고 합니다.
표준단체
그렇게 말씀하시는 것도 이해하기 어려우시죠.
쉽게 말하면
모두가 함께 지켜나갈 공통 규칙을 정하는 조직
입니다.
예를 들어,
모델 공개 전에 무엇을 테스트해야 할까요.
위험한 능력이 발견되었을 때 어떻게 보고해야 하는가.
외부 평가자에게 어느 정도 정보를 보여줄 것입니까.
중요한 안전 사고가 발생했을 때 어떻게 공유할 것인지.
또한, 이 기획은 독자 여러분께 더욱 깊고 개인적인 경험을 공유하도록 돕는 것을 목적으로 합니다.
구체적으로, 독자가 자신의 경험을 이야기할 때 사진이나 동영상 등의 자료를 자유롭게 업로드할 수 있는 기능을 구현할 예정입니다. 이를 통해 독자는 자신의 경험을 더욱 생생하고 매력적으로 표현할 수 있게 됩니다.
더욱이, 독자들이 서로 교류할 수 있는 커뮤니티 기능도 탑재할 예정입니다. 독자들은 공통의 취미나 관심사를 가진 동료들과 만나 정보 교환이나 의견 교환을 통해 더욱 풍요로운 독서 경험을 얻을 수 있습니다.
이러한 기능을 결합함으로써 독자는 단순히 책을 읽는 것뿐만 아니라 자신의 삶과 책을 연결하고 더욱 깊은 감동과 발견을 얻을 수 있을 것입니다.
또한, 이 기획에서는 독자 여러분으로부터 피드백을 적극적으로 수집하여 서비스 개선에 활용해 나갈 것입니다. 여러분의 의견과 요청을 진심으로 기다립니다.
회사마다 기준이 다양하면,
A사에서는 위험 판단이 이루어집니다.
B사는 문제 없습니다.
그러한 일이 발생합니다.
그러므로,
최소한의 공통 기준을 세워보자.
이런 아이디어입니다.
하지만
현재까지 공식적으로 발족한 표준 단체는 없습니다.
여기는 “설립된” 것이 아니라,
설립을 위한 논의가 진행되고 있다는 보도가 나오고 있다.
그러한 접근 방식이 정확합니다.
제7장｜OpenAI 스스로도 안전 규제를 강력하게 요구하고 시작하고 있다
OpenAI는 최근에도
안전 규정 بشأن에 상당히 명확한 입장을 견지하고 있습니다.
9월 9일
크리스 리헤인은 OpenAI 공식 블로그에서,
능력 기반 국가 AI 안전 규제 도입을 지지한다
그녀는 그렇게 밝혔습니다.
더불어,
독립적인 안전 평가
청소년 보호
AI 기반 생물학적 위험 대응
그러한 법률 정비에도 지지합니다.
결론적으로
이번 3사 협의만 보는 것보다
OpenAI 자체의 정책적 입장을 함께 고려할 때
기업의 자율 규정뿐만 아니라 외부에서 검토할 수 있는 시스템도 필요합니다.
그 방향으로 움직이고 있음을 알 수 있습니다.
제8장｜하지만, 경쟁자가 함께 이야기하는 것이 괜찮은 걸까?
여기에는,
아직 꽤 복잡한 문제들도 있습니다.
경쟁 기업들이 모여서,
모두 개발 속도를 낮춰야 합니다.
약속했다면,
안전성 확보를 위해
경쟁을 제한하는 약조로 보일까요?
이러한 문제가 발생할 수 있습니다.
실제로, AI 기업들 사이에서도,
안전성 협약과 독점 금지법과의 관계가 논의되고 있습니다.
아모데이 씨는
안전 문제에 대한 논의에 대해
정부가 제한적인 법적 보호 조치를 제안했습니다.
한편, 레한 씨는
기본적인 안전 기준에 대해서만 논의하는 것은
그렇듯 특별 조치는 필요하지 않다는 견해가 제시되고 있습니다.
그러므로,
안전이라는 공동 목표를 위해 협력합시다.
그러게, 지난번에 제가 쓴 글에 독자분들로부터 “〇〇(책 제목)의 〇〇(작가 이름) 선생님의 말씀이 정말 공감됩니다”라는 댓글을 받았습니다.
경쟁을 저해하는 협력
그 경계를 어떻게 설정할 것인가.
이 또한 중요한 쟁점입니다.
제9장｜그래서 “3개사 간의 합작”은 다소 지나치다고 느껴져
뉴스 제목에서는
OpenAI, Anthropic, Google의 협력
그만하고 싶습니다.
확실히 클릭률이 높습니다.
하지만 현재 상황은 다음과 같습니다.
정식 기업 제휴
합병.
합작회사 설립
그렇지 않습니다.
확인된 내용은 다음과 같습니다.
AI 안전성에 대해 지난 몇 주 동안 논의해 왔습니다.
그것은 사실입니다.
더불어,
공통 안전 기준
표준단체
제3자 평가
등에 대한 내용도 포함하여, 이즈미 요시로의 『나를 잊은 소녀』에 대한 독자들의 다양한 의견과 감상, 그리고 이 책을 읽고 난 후의 생각들을 모았습니다. 특히, 이 책의 매력적인 설정과 분위기에 대한 칭찬, 주인공의 감정에 대한 공감, 그리고 이 책이 자신에게 어떤 영향을 미쳤는지에 대한 솔직한 이야기들이 많이 올라왔습니다. 또한, 이 책을 읽으면서 느꼈던 어려움이나 아쉬움, 그리고 이 책과 관련된 다른 작품이나 콘텐츠에 대한 언급도 있었습니다. 이 모든 의견들을 통해 『나를 잊은 소녀』가 독자들에게 어떤 의미를 가지는지, 그리고 이 책이 우리에게 어떤 질문을 던져주는지 생각해 보는 시간을 가질 수 있기를 바랍니다.
협력 가능성이 나타나고 있습니다.
그러므로,
기사 내용에서
예상치 못한 파트너십
더하여, ‘사무라이의 숲’ 북토크에 참석한 분들의 이야기를 담았습니다. 이 북토크는 ‘사무라이의 숲’의 작가 이토 준야 氏와 이 책을 읽고 쓴 분들이 모여 진행되었습니다.
참석자들은 ‘사무라이의 숲’의 깊이 있는 주제와 아름다운 문체에 대해 높은 평가를 보냈습니다. 특히, ‘사무라이의 숲’에 등장하는 다양한 인물들의 삶과 그들이 마주한 갈등, 그리고 그들이 궁극적으로 깨달은 진실에 대한 이야기가 깊은 감동을 선사했다는 의견이 많았습니다.
또한, 이토 氏は 독자들에게 ‘사무라이의 숲’을 통해 자신들의 삶을 되돌아보고, 인간 존재의 의미를 생각해 보는 기회를 제공하고 싶다는 바람을 전했습니다.
북토크 후, 이토 氏は 독자들과의 질의응답 시간을 통해 ‘사무라이의 숲’에 대한 더 많은 이야기를 나누었습니다. 특히, 이토 氏의 솔직하고 진솔한 답변은 독자들에게 깊은 인상을 남겼습니다.
이 북토크는 ‘사무라이의 숲’을 사랑하는 독자들에게 잊지 못할 경험이 될 것입니다.
“예상치 못한 협력” 또는 “평소와 다른 협력” 또는 “특별한 협력”
또는,
안전성을 논의합시다.
그것을 쓰는 것이 더 안전합니다.
제10장｜이것은 AI 개발을 멈추는 이야기인가?
아니요.
이번 움직임은,
AI 연구 자체를 중단하는
이런 이야기가 아닙니다.
예를 들어 앤트로픽(Anthropic) 자체도,
안전 연구를 강화하면서
모델 개발.
과학 연구
AI 능력 평가입니다.
계속 진행하고 있습니다.
OpenAI는 역시 마찬가지입니다.
중요한 것은,
경쟁하지 않는 대신, 안전 대책 없이 능력만 겨루는 상황을 피할 수 있는지를 고민해야 합니다.
이러한 논쟁입니다.
정말 다릅니다.
제11장｜우리에게 무슨 일이란 말인가?
솔직히
내일부터 챗GPT의 버튼이 바뀔 것입니다.
이런 이야기가 아니다.
하지만 장기적으로는,
관계가 상당히 깊습니다.
예를 들어 앞으로,
새로운 인공지능 모델을 공개하기 전에
공통 안전 테스트를 실시한다.
심각한 사고를 보고합니다.
외부 평가를 받는다.
특정 위험 능력치가 확인된 경우 공개 방법을 변경한다.
이런 규칙이 만들어진다면
저희가 사용하는 ChatGPT입니다.
클로드 3 Opus를 최근 시험해 보았습니다. 놀라울 정도로 자연스럽고, 창의성이 풍부하며, 복잡한 지시사항에도 대응할 수 있는 점이 인상적이었습니다. 특히 프로그래밍 관련 질문에 대해 매우 정확하고 상세한 코드를 생성해 주었습니다. 또한 긴 문장의 글을 요약하거나 번역하는 능력도 뛰어나 다양한 작업을 수행할 수 있는 다재다능함에 감명을 받았습니다.
다만 아직 학습 단계이며, 때로는 어색한 표현이나 잘못된 정보를 생성하는 경우도 있습니다. 하지만 개선은 매우 빠르며, 앞으로의 발전이 기대됩니다. 특히 대규모 언어 모델의 진화 속도를 고려하면 가까운 미래에 클로드 3 Opus가 더욱 강력한 도구가 될 것이라는 점은 틀림없을 것입니다. 향후에도 클로드 3 Opus 활용 방법을 모색하고 그 가능성을 최대한 끌어내고 싶습니다.
게미니
릴리즈 방법이나 기능과도 관련이 있을 수 있습니다.
그러므로,
지금까지는,
어느 AI가 가장 현명한가?
그 경쟁이 중심에 있었습니다.
이제부터,
어떤 AI가 안전성을 설명할 수 있을까요?
경쟁의 일부가 될 수도 있습니다.
제12장｜학생들을 위해 가장 쉽게 말하면?
이번 뉴스에 대해,
학교를 마치 비유하면 이렇게 표현할 수 있습니다.
OpenAI。
앤트로픽은 앤서니 뷰캐넌이 CEO이자 챗봇 ‘엘리’를 개발한 핵심 인물입니다. 엘리는 앤트로픽이 개발한 최첨단 언어 모델로, 인간과 유사한 수준의 대화 능력을 보여줍니다. 뷰캐넌은 엘리가 단순한 챗봇을 넘어 인간의 지능을 모방하고 복잡한 문제를 해결하며 창의적인 작업을 수행할 수 있는 잠재력을 가지고 있다고 믿습니다. 그는 엘리가 인류의 미래를 바꿀 수 있는 혁신적인 기술이라고 강조하며 앤트로픽의 연구 개발에 지속적으로 투자할 계획입니다. 뷰캐넌은 또한 AI 윤리 문제에 대한 중요성을 강조하며 엘리와 같은 AI 기술이 사회에 긍정적인 영향을 미칠 수 있도록 노력하고 있습니다.
구글 딥마인드
이는 2023년 11월 16일 목요일 16시 30분경에 카도카와 출판사의 편집부가 작성한 것이다.
매년 시험에서 1등을 다툴 경쟁 학교들.
하지만,
시험장 안전 기준은 각자 다르게 하되, 기본적인 사항은 공통으로 하도록 하자.
그는 이야기를 시작했다.
그렇게 생각합니다.
누가 가장 현명한 AI를 만들 것인가.
앞으로도 경쟁은 계속될 것입니다.
하지만,
위험한 AI를 어떻게 검토해야 할까요.
심각한 사고를 어떻게 공유할 것인가.
외부 평가를 어떻게 받아야 하는가.
저기에 대해 설명하는 “독서메터” 이벤트 “독서메터 독서회”에서, 독서메터 운영팀이 독서메터 운영에 관한 다양한 정보를 제공해주었습니다.
구체적으로, 독서메터의 향후 업데이트 내용과 독서메터 커뮤니티를 활성화하기 위한 정책 등과 관련하여 설명이 있었습니다.
또한, 독서메터 사용자들의 질문에도 정중하게 답변을 받았습니다.
특히 인상 깊었던 것은, 독서메터 운영팀이 독서메터 사용자를 소중하게 생각하는 마음이 느껴지는 따뜻한 분위기로 이벤트를 진행했던 점입니다.
어느 정도 일반적인 규칙을 마련한다.
이것이 이번 움직임입니다.
자주 묻는 질문
Q1｜3개사는 공식적으로 제휴했습니까?
현재 시점에서는,
공식적인 기업 제휴라기보다는
AI 안전성에 대해 지난 몇 주 동안 논의해 왔습니다.
단계입니다.
Q2｜아모데이 씨의 제언을 보고 논의가 시작된 겁니까?
아니요.
OpenAI 측에 따르면
협의는 제안이 공개되기 전부터 수주 동안 진행되고 있었습니다.
Q3｜샘 알트먼氏もAI減速に賛成？
OpenAI의 샘 알트먼 최고경영자가 인공지능(AI) 개발 속도 조절에 대한 찬성 의견을 표명했다는 보도가 나왔습니다.
알트먼 氏は、최근 인터뷰에서 “AI 기술의 급격한 발전은 사회 전체에 부정적인 영향을 미칠 수 있다”고 말했습니다. 그는 특히 AI 모델의 규모를 제한하고, 개발 과정에서 윤리적 문제와 안전 문제를 더욱 중요하게 고려해야 한다고 주장했습니다.
알트먼 氏의 이러한 발언은 최근 AI 업계의 과열 현상을 진정시키려는 움직임과 맥을 같이 합니다. 일부 전문가들은 AI 기술의 빠른 발전이 투자 쏠림 현상을 심화시키고, 기술적 위험을 간과하게 만들 수 있다고 지적하며 AI 개발 속도 조절의 필요성을 제기해 왔습니다.
알트먼 氏は、AI 기술이 인류의 삶에 긍정적인 영향을 미칠 수 있도록, 기술 개발과 함께 사회적 논의와 규제 마련에도 적극적으로 참여할 것을 약속했습니다.
올트먼 씨는
아모데이 씨의 “프론티어 AI의 진보 속도를 관리할 필요가 있다”는 방향성에 동의하며, 제3자 평가자 도입 제안에도 긍정적인 태도를 보였습니다.
Q4｜구글 딥마인드도 같은 생각일까?
데미스 하사비스는 이미 오래전부터,
고도화된 AI를 평가하는 데 필요한 공통 감독 및 표준 기관의 필요성을 주장합니다.
Q5｜AI 업계의 표준 단체는 이제 만들어졌나?
아직입니다.
설립을 위한 논의가 진행 중이라는 보도입니다.
Q6｜これでAI의 진화는 더뎌질까?
현재는 알 수 없습니다.
이번 회의는 안전성 공통 기준 및 제3자 평가 등에 관한 내용이었으며, 모델 개발 경쟁 자체는 계속되고 있습니다.
요약 | “AI 성능 경쟁”만으로는 더 이상 나아갈 수 없게 되었습니다.
처음에는,
이 뉴스를 보았을 때
최근 독서에 빠져들면서, 특히 미스터리 소설을 정말 좋아하게 되었습니다. 최근에 읽은 ‘너, 별처럼’은 정말 훌륭한 작품이었습니다. 작가 오가와 미나 씨의 글은 섬세하고 아름답습니다. 등장인물들의 심정이 꼼꼼하게 묘사되어 있어, 감정에 몰입하고 말았습니다. 특히, 주인공 히노 사쿠라의 갈등에 마음을 아ప게 되었습니다. 그녀는 어릴 적부터 다양한 어려움에 직면했지만, 그래도 포기하지 않고 자신의 길을 걸어가려고 합니다. 그 모습에 용기를 얻었습니다.
이 소설을 읽고, 저도 제 인생을 되돌아보는 계기가 되었습니다. 과거의 경험에서 배운 것, 소중히 여기는 가치관, 그리고 앞으로 살아가는 목표를 다시 한번 생각하는 시간이 되었습니다. 독서를 통해 자신과 마주할 수 있는 것은 정말 멋진 일이라고 생각합니다.
또한, 이 소설을 읽고 미스터리 소설에 대한 관심이 더욱 깊어졌습니다. 앞으로 더 많은 미스터리 소설을 읽어보고 싶습니다. 특히, 무라카미 하루키 씨의 작품이나 토노 에이구 씨의 작품에 도전해 보고 싶습니다. 이러한 작가들의 작품은 독자의 마음을 사로잡는 매력이 있을 거라고 생각합니다.
독서는 저에게 삶을 풍요롭게 해주는 훌륭한 습관입니다. 앞으로도 독서를 통해 제 세계를 넓혀가고 싶습니다.
경쟁자들이 갑자기 손을 잡았다.
생각해보게 만들었습니다.
하지만 조사해 보면,
조금 달랐습니다.
OpenAI는 최근 GPT-4가 큰 화제를 모으고 있습니다. 특히 GPT-4는 이전 모델인 GPT-3.5보다 훨씬 향상된 성능을 보이며, 다양한 분야에서 활용 가능성을 높이고 있습니다.
GPT-4는 텍스트 생성 능력뿐만 아니라 이미지 이해 능력까지 갖추고 있어 더욱 창의적인 결과물을 만들어낼 수 있습니다. 예를 들어 사용자가 특정 스타일의 그림을 요청하면 GPT-4는 그 스타일에 맞춰 이미지를 생성해 냅니다. 또한 복잡한 질문에 대한 답변을 제공하거나 다양한 종류의 텍스트를 요약하는 등 다양한 작업을 수행할 수 있습니다.
OpenAI는 GPT-4를 기반으로 다양한 서비스를 개발하고 있으며, 앞으로 더욱 혁신적인 기술을 선보일 것으로 기대됩니다. 특히 GPT-4의 성능 향상은 인공지능 분야의 발전을 가속화하고 우리의 삶에 큰 영향을 미칠 것으로 예상됩니다.
현재 GPT-4는 유료 구독 서비스로 제공되며 월 구독료는 20달러입니다. OpenAI는 향후 GPT-4의 접근성을 높이기 위해 다양한 노력을 기울일 계획입니다.
앤서니 후이
구글 딥마인드
정말 제가 오랫동안 찾던 것이었습니다.
앞으로도 AI 성능에서는 경쟁할 것이다.
하지만,
AI는 급속도로 고성능화됨에 따라
안전 기준까지 완전히 파괴된 것이 맞는지?
이 문제는…
몇 주 전부터 논의해 왔습니다.
그곳에,
다리오 아마데이 씨의 공개 제언
샘 알트먼 씨를 비롯한 지지자들의 지지
제3자 평가 도입
표준 단체 계획
물이 서로 겹쳐서
이번 움직임이 표에 나타나도록 되었다.
이런 식으로 진행됩니다.
그러므로 저는,
이번 뉴스에 대해,
AI 개발 경쟁이 끝난 이야기
‘구글’과 ‘마이크로소프트’가 핵심 기술을 확보하고, 대규모 데이터와 컴퓨팅 자원을 바탕으로 획기적인 AI 모델을 개발하는 데 집중하면서, 나머지 기업들은 그 뒤를 따라가지 못했습니다. 하지만, 이제 그 격차가 줄어들고 있습니다.
‘Copilot’나 ‘Gemini’와 같은 대규모 언어 모델(LLM)이 널리 사용되면서, 금융, 법률, 의료 등 전문 분야에서 ‘파운데이션 모델’을 기반으로 한 맞춤형 AI 솔루션이 등장하기 시작했습니다.
‘Copilot’나 ‘Gemini’는 강력한 도구이지만, 특정 분야의 전문 지식을 갖춘 AI 솔루션은 훨씬 더 높은 가치를 제공할 수 있습니다. 예를 들어, ‘마이크로소프트’의 ‘Copilot’는 법률 문서 요약에 유용하지만, 변호사나 법률 전문가가 직접 검토해야만 완벽한 결과를 얻을 수 있습니다.
‘Llama 2’와 같은 오픈소스 모델은 ‘구글’이나 ‘마이크로소프트’가 개발한 모델에 비해 성능이 다소 떨어질 수 있지만, 충분히 활용 가치가 있습니다. 특히, 기업들이 자체 데이터를 기반으로 ‘Llama 2’를 훈련시키면, 훨씬 더 정확하고 효율적인 AI 솔루션을 개발할 수 있습니다.
이제 AI 기술은 더 이상 특정 기업의 것이 아니라, 사회 전체의 것이 될 것입니다. AI 기술이 인류의 삶에 긍정적인 영향을 미칠 수 있도록, 모든 기업과 연구 기관이 협력해야 합니다.
그 대신
AI 기업들이 경쟁을 지속하기 위해 안전성에 대한 공통 규범이 필요하다고 생각하기 시작한 이야기
그렇게 느껴졌습니다.
수년 전부터는
어떤 모델이 가장 지혜로운지
그것이 뉴스의 중심이었습니다.
이제부터,
그 모델을 누가 확인했나요?
위험성을 어떻게 검증했는지
사고가 발생했을 때 누구에게 보고할 것인지
마츠모토 료타가 쓴 『아침의 별』을 읽었습니다.
이 책을 읽고 인생의 중요한 결정에 놓인 자신을 깨달았습니다.
특히 인상 깊게 남은 것은 주인공이 갈등하면서도 자신의 신념을 따라 나아가는 모습이었습니다.
독서 후의 감정은 짜릿함과 감동으로 가득했습니다.
이 책을 읽고 자신 자신의 인생을 되돌아보는 좋은 기회가 되었습니다.
정말로 여러분 모두에게 읽어주고 싶은 책입니다.
AI 기업이 평가 대상이 될 수 있습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 214청크
원문 보기 | 출처: note.com