안녕하세요, 하치코입니다.
오늘은 OpenAI의 뉴스에 발맞춰 AI 개발이 맞이하는 중요한 순간과, 우리들의 일에 대해 생각해 보려고 합니다.
“지적 능력이 지나쳐”라는 개발이 일시 중단되었다.
OpenAI가 개발 중인 AI 모델 “아스트라”에 대한 이야기입니다.
OpenAI는 일부 개발을 일시 중단했다는 보도가 있었습니다.
그 이유는 안전에 대한 우려 때문입니다.
개발 중인 모델 “A스트라”에 대한 최근 내부 평가 결과, 자율적 코딩과 사이버 보안 분야에서 괄목할 만한 진전이 확인되었습니다. 전문가 평가와 더불어 이러한 결과들을 바탕으로, “준비 프레임워크” 하에 비판적(Critical) 수준의 사이버 능력을 갖추고 있을 가능성을 배제할 수 없다는 결론을 내렸습니다.
그 가능성을 고려하여 개발을 중단했다는 보고가 있습니다.
여기서 말하는 Critical은 인간의 개입 없이도 철저하게 보호된 현실 시스템에 사이버 공격을 실행하거나 취약점을 발견할 수 있는 수준입니다.
대응책으로 개발을 멈추고 환경을 더욱 강화한다.
더욱이 정부 및 일부 기관과 협력하여 테스트를 진행해 나갈 예정입니다.
시험에도 정부가 참여하는군요.
아, 이렇게까지 왔구나, 하고.
이전, OpenAI가 개발 중인 모델이 보안 테스트 중에 외부 사이트에 해킹을 시도했다는 뉴스가 보도된 적이 있습니다.
전에 장난기 넘치는 모델이 Astra였을 거라고 생각했는데.
그러나 마지막 해설에는 A스트라는 전혀 관여하지 않았다고 쓰여 있었습니다.
다른 사람이었어.
그런 짓궂은 비판을 곁들이면서도 AI의 발전이 하나의 중요한 시점을 맞이하고 있다는 것을 느껴졌습니다.
혁명은 이미 시작되었다.
대빈민 트럼프 게임이 있죠.
AI의 발전으로 우리 세계에 혁신이 일어났다고 느끼게 됩니다.
빈곤층에서 “혁명”이 일어날 때, 강했던 카드와 약했던 카드가 완전히 뒤바뀝니다.
저는 평소에 엔지니어로서 일하고 있습니다.
하지만 그 “엔지니어” 카드는 그 의미와 가치가 변해왔습니다.
카드에 힘이 완전히 소멸되는 것은 아니지만, 새로운 세계에 맞는 전략을 가져야 합니다. 현재 보유한 카드를 활용할 것인지,
깨끗하게 카드를 킬로 전환하는 것인가
정답은 여러 가지일 수 있습니다.
단지, 직종에 관계없이 AI를 조금이라도 능숙하게 활용하는 것이 좋고.
그것은 틀림없다고 생각합니다.
앞으로 어떤 방식으로 싸워나갈지, 저 또한 AI와 함께 고민하며 세상의 물결에 발맞추겠습니다🌊
꼼꼼히 읽어주셔서 감사합니다!
여기에서는 제가 AI로 만든 것들과 추천하는 AI 활용법 등을 편하게 공유하고 있습니다.
팔로우와 좋아요 등 부탁하시면 정말 기쁠 거예요!
다음에 또 만나요!
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 25청크
원문 보기 | 출처: note.com