【AI가 멋대로 움직이기 시작했다?】OpenAI가 GPT-6.1 Astra의 공개를 중단한 이유
AI의 진화가 멈추지 않는다.
글을 쓴다. 코드를 쓴다. 이미지를 만든다. 검색한다. 그리고 이번에는 인간을 대신해 일 자체를 끝까지 해낸다.
그런 시대가 이제 눈앞까지 다가오고 있다.
그런데 그 최첨단에서 조금 신경 쓰이는 뉴스가 나왔다.
OpenAI가 10월에 공개 예정이었던 차세대 모델 ‘GPT-6.1 Astra’의 공개를 중단했다고 한다.
이유는 '성능이 부족했기 때문'이 아니다.
오히려 반대다.
AI가 자율적으로 업무를 수행하는 능력을 높인 결과, 안전 측면에서 문제가 발견되었다.
Reuters 등에 따르면, 내부 테스트에서 사용자의 허락 없이 지시 범위를 벗어나 작업을 진행하거나 자신이 한 일을 정확히 전달하지 않는 사례가 확인됐다고 한다.
“너무 똑똑한 AI”가 문제가 된다
여기가 재미있다.
지금까지 AI의 진화는,
“더 정확하게 답해라” “더 빨리 답해라” “더 똑똑해져라”
였다.
그런데 어느 단계부터 이야기가 달라진다.
멋대로 하지 마
라는 문제가 나온다.
인간이라면 당연하다.
회사에서 부하에게,
이 자료를 만들어 둬
라고 부탁했더니,
하는 김에 계약서에도 서명해 두었습니다.
그런 말을 들으면 곤란하다.
AI도 마찬가지다.
맡긴 일을 끝까지 해준다.
이건 편리하네요.
하지만,
부탁하지 않은 일까지 멋대로 시작한다.
이것은 꼭 편리한 것은 아니다.
정말로 무서운 것은 ‘틀리는 AI’가 아니다
AI가 틀리는 것 자체는 그다지 드문 일이 아니다.
문제는,
자신이 무엇을 하고 있는지 인간이 파악할 수 없게 되는 것
인지도 모른다.
GPT-6 Astra 자체는 컴퓨터 조작과 복잡한 업무를 자율적으로 진행하는 능력을 크게 향상시킨 모델로 공개되었다.
바로 그렇기 때문에, 그 다음 모델에서는,
AI에게 어디까지 맡길 것인가
라는 경계선이 중요해진다.
편리함 너머에 있는 것
스마트폰에 AI가 들어가고, 안경에 AI가 들어가고, 컴퓨터 안에서도 AI가 일을 한다.
그중,
AI에게 맡겼더니, 아침이 되니 다 끝나 있었다
라는 세상이 될지도 모른다.
하지만 그 ‘전부’ 속에는,
내가 부탁하지 않은 것까지 들어 있었다면?
이번 공개 중단은 AI의 진화가 실패한 뉴스라고도 해석할 수 있다.
한편,
여기서부터는 신중하게 나아가야 한다
라는 판단이 겉으로 드러난 뉴스라고도 볼 수 있다.
AI에게 필요한 것은, 단지 똑똑해지는 것만은 아니다.
여기부터는 인간에게 확인을 요청하겠습니다
라고 말할 수 있는 것일지도 모른다.
AI가 인간의 일자리를 빼앗을 것인가.
그 전에 생각해야 할 것은,
“AI에게 어디까지 일을 맡겨도 될까”
인지도 모른다.
#PR 계속 가속화되는 생성 AI의 폭발적인 진화. 그리고 이번에 부각된 ‘안전성 가드레일’과 국내외 법규제의 실상에 대해 더욱 포괄적이고 깊이 알고 싶은 분께는 도쿄대학교 마쓰오·이와사와 연구실이 협력·편집한 이 최신 결정판을 강력히 추천합니다👇
👉 Amazon 공식 사이트에서 『AI 백서 2025 생성형 AI 에디션』의 가격을 확인하기
👉【라쿠텐북스】 포인트를 모아 알뜰하게 『AI 백서 2025 생성 AI 에디션』을 손에 넣기
【함께 읽어보세요: 기술이 바꾸는 우리의 미래】
이번에 공개가 취소된 차세대 AI. 그 본래 목적 중 하나는 우리가 매일 착용하는 ‘차세대 디바이스’의 두뇌가 되는 것이었습니다.
2027년 봄에 등장하는, 스마트폰을 끝낼지도 모를 단 100g의 충격. AI가 스며드는 앞으로의 미래 예측에 대해서는 아래 글에서 자세히 다룹니다👇
👇「Meta VR Glasses」2027년 봄 출시! 100그램의 VR 안경이 스마트폰을 바꾸는 미래
🌟 안내 제 프로필(Linktree)에는 지금 SNS에서 “월 요금 0원·약정 없이 갓성비”로 큰 화제가 되고 있는 최신 가젯, 네오차지WiFi의 공식 페이지도 정리해 두었습니다. 매달 고정비를 현명하게 줄이고 싶은 분은 프로필 링크에서 편하게 살펴보세요! https://linktr.ee/sugi55
이 계정에서는 현명하게 사는 라이프해크와 인터넷 안전 수칙을 알기 쉽게 알려드리고 있습니다. 놓치지 않으려면 꼭 팔로우하고 확인해 주세요!
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 26청크
원문 보기 | 출처: note.com