# AI 경쟁의 뒤편에서 OpenAI·Anthropic·Google이 안전성 확보를 위해 협력한다.

> https://bookfactory.kr/board/ai-tech/17471
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-18T01:03:39.138Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314465796/rectangle_large_type_2_f79a729dadabfdefa2aa28cb37ad6f98.jpg?width=1280)

안녕하세요. 주식회사 디렉토리에서 제작 전체를 총괄하고 있는 본부장입니다.
AI 업계에서 조금 흥미로운 움직임이 나타나고 있습니다.
OpenAI, Anthropic, Google DeepMind는 평소에는 성능이나 서비스, 개발 속도를 겨루는 라이벌 기업이지만, AI의 안전성에 대해서는 협력하는 방향으로 논의를 이어가고 있습니다.
보도에 따르면, OpenAI의 글로벌 정책 책임자 Chris Lehane씨는 Anthropic이나 Google DeepMind와 수 주간에 걸쳐 AI 안전성에 대해 협의하고 있다고 설명했습니다.
현시점에서 정식 공동 조직이나 협정이 발표된 것은 아니지만, 경쟁 상대끼리라도 안전성에 대해서는 공통으로取り組む 필요가 있다는 인식이 강해지고 있는ようです.

■ 왜 라이벌 기업이 협력하는가
AI 기업에게 개발 경쟁은 매우 중요합니다. 더 고성능인 모델을 빨리 내놓은 기업일수록 이용자와 기업 계약, 개발자를 모으기 쉬워집니다. 그一方で, 안전 대책에는 시간이 걸립니다. 한 회사만이 신중하게 개발 속도를 늦출 경우, 다른 회사에 추월당할 가능성이 있기 때문에, 한 회사만으로 안전성을 우선하는 데에는 어려움이 있습니다. 그래서 여러 기업이 공통으로 안전 대책을 추진하는 편이 경쟁을 이어가면서 리스크를 억제하기 쉬워집니다.

■ AI가 할 수 있는 일이 늘어날수록, 리스크도 달라집니다
얼마 전까지만 해도 생성형 AI의 안전성이라고 하면, 잘못된 답변이나 부적절한 문장을 내놓지 않는 것이 중심이었습니다. 현재는 AI가 코드를 작성하거나 외부 서비스를 이용하거나 브라우저를 조작하거나 여러 공정을 스스로 진행할 수 있게 되었습니다. AI가 편리해질수록 악용됐을 경우의 영향도 커집니다.
Anthropic도 9월에 공개한 위협 인텔리전스 보고서에서 Claude를 악용하려 한 사이버 공격이나 사기 등의 사례를 소개하고, 확인된 부정 이용을 정지하는 동시에 얻은 정보를 안전 대책에 반영하고 있다고 설명했습니다. AI의 성능이 올라갈수록 단순히 사용하지 못하게 하는 대책뿐만 아니라 어떻게 악용되고 있는지를 기업 간에 공유하는 것도 중요해집니다.

■ 한 회사만 안전해서는 충분하지 않습니다
예를 들어, 어떤 AI 서비스가 매우 엄격한 안전 대책을 도입했더라도 다른 서비스에 같은 기준이 없다면, 악의적인 이용자는 대책이 약한 서비스로 옮겨갈 가능성이 있습니다. 또한 현재는 하나의 AI만 쓰는 것이 아니라 여러 AI를 조합해 일을 진행하는 것도 드물지 않습니다. 문장 작성에는 ChatGPT를 쓰고, 코드에서는 Claude를 쓰며, Google 서비스에서는 Gemini를 쓰는 등 이용자 측도 AI를 구분해 사용하게 되었습니다. 악용하는 측도 마찬가지로 여러 서비스를 조합할 가능성이 있습니다. 그렇기 때문에 안전성을 각 회사의 문제로만 생각하는 것이 아니라 업계 전체가 공통으로 생각할 필요가 생겨나고 있습니다.

■ 외부에서 평가하는 구조도 필요해집니다
이번 논의에서는 AI 기업 스스로만 안전성을 평가하는 것이 아니라 제3자에 의한 평가를 도입하는考え方도 주목받고 있습니다. Anthropic의 Dario Amodei씨는 AI 개발 속도에 안전 대책이 따라잡을 시간을 확보할 필요가 있다고 주장하며, 외부 평가자가 AI 기업 내부에서 안전성을 확인하는 구조 등을 제안하고 있습니다. OpenAI의 Sam Altman씨도 제3자에 의한 안전 평가를 도입하는 방향에 찬성하고 있습니다. AI를 만드는 기업이 스스로 안전하다고 판단하는 것만이 아니라 밖에서 확인할 수 있는 구조를 갖는 것이 중요해지고 있습니다.

■ Google DeepMind도 안전성 프레임워크를 공개하고 있습니다
Google DeepMind도 Frontier Safety Framework를 통해 고성능 AI가 중대한 리스크를 가질 가능성을 어떻게 평가하고 대책을 세울 것인가에 대한考え方를 공개하고 있습니다. AI의 안전성은 사이버 공격뿐만 아니라 생물 분야에서의 악용이나 자율적인 AI가 예상 밖의 행동을 할 가능성 등 폭넓은 분야와 관련됩니다. 한 회사만으로 모든 리스크를 파악하기는 어렵기 때문에 기업이나 연구기관, 정부 등이 정보를 공유할 필요성은 앞으로 더욱 높아질 것으로 생각합니다.

■ 다만, 기업 간 협력만으로 충분한가라는 문제도 있습니다
AI 기업이 안전성에 대해 협력하는 것은 중요하지만, 기업만으로 규칙을 정한다고 해결되는 것은 아닙니다. 기업에는 경쟁이 있고, 성장을 요구받는 입장이기도 합니다. 안전성을 우선하고 싶다는 생각과 타사보다 빨리 개발하고 싶다는 생각이 동시에 존재합니다. 또한 대기업끼리 개발 속도 등에 대해 협조할 경우에는 독점금지법과의 관계도 논의가 됩니다. 그래서 기업의 자발적인取り組み뿐만 아니라 정부나 제3자 기관을 포함한 구조를 어떻게 만들 것인가도 중요해집니다.

■ 회사에서 AI를 사용하는 측에도 같은考え方가 필요합니다
이 이야기는 대형 AI 기업만의 문제가 아닙니다. 회사 안에서도 여러 AI를 사용하는 경우가 늘고 있습니다. ChatGPT에서는 입력해도 되지만 Claude에서는 입력해서는 안 된다는 규칙을 AI마다 세세하게 만들면 현장은 이해하기 어려워집니다. 그보다는 회사로서 공통의 AI 이용 규칙을 만들어 두는 편이 운영하기 쉽다고 생각합니다. 고객 정보를 입력해도 되는지, 사내 자료를 업로드해도 되는지, AI가 만든 내용을 누가 확인할 것인지, 외부로 송신하기 전에 사람이 확인할 것인지 등의 규칙은 사용하는 AI가 바뀌어도 공통으로 만들 수 있습니다. AI가 늘어날수록 서비스별 규칙보다 회사로서의 기본 방침이 중요해집니다.

■ AI를 선택하는 기준도 성능만이 아니게 됩니다
지금까지는 어떤 AI가 가장 똑똑한가라는 비교가 중심이었습니다. 앞으로 기업이 AI를 선택할 경우에는 안전성이나 관리 기능, 액세스 권한, 로그, 데이터 취급 등도 중요한 비교 포인트가 됩니다. 조금 성능이 높은 AI보다 회사로서 관리하기 쉽고 안전하게 쓸 수 있는 AI를 선택하는 편이 나은 경우도 있습니다. AI가 업무의 중심에 들어올수록 성능뿐만 아니라 안심하고 맡길 수 있는지가 중요해집니다.

OpenAI, Anthropic, Google DeepMind는 AI 시장에서는 명확한 경쟁 상대입니다. 그럼에도 안전성에 대해서는 함께 생각해야 한다는 흐름이 나오고 있습니다. 현시점에서는 정식 공동 조직이나 협정이 성립된 것은 아닙니다. 다만, AI 개발 속도와 안전성의 균형에 대해 업계를 대표하는 기업끼리 논의를 시작한 것에는 큰 의미가 있습니다. 앞으로도 AI 경쟁은 계속될 것으로 생각합니다. 그중에서 누가 가장 빨리 나아가는가뿐만 아니라 어디까지라면 안전하게 나아갈 수 있는지를 업계 전체가 함께 생각하는 것도同样くらい 중요해지지 않았을까요.

【참고 정보】
Reuters
OpenAI is working with Anthropic, Google on AI safety, Bloomberg News reports
https://www.reuters.com/technology/openai-is-working-with-anthropic-google-ai-safety-bloomberg-news-reports-2026-09-15/
Anthropic
Detecting and countering misuse of AI: September 2026
https://www.anthropic.com/threat-intelligence-report-september-2026
Anthropic
Frontier Safety Roadmap
https://www.anthropic.com/responsible-scaling-policy/roadmap
Google DeepMind
Frontier Safety Framework
https://deepmind.google/
※이 note는 '담당자'의 사견입니다. 회사의 공식 발신이라기보다 현장의 목소리로 가볍게 읽어주시면 기쁘겠습니다.

**출처:** [note 원문](https://note.com/honbucho_dir/n/n1c5ee02ce0d8)

*번역: Gemma 3(.44) 초벌 + 교정 1청크*

[원문 보기](https://note.com/honbucho_dir/n/n1c5ee02ce0d8) | 출처: note.com