우리가 AI에 전달하는 것은 대부분 목표일 뿐입니다. “하지 말아야 할 것”은 명시하지 않았습니다.
이번 주 가장, 제가 허리를 펴고 읽은 뉴스에서 말씀드리겠습니다.
8월 18일, OpenAI는 자사 블로그에서 다음과 같이 발표했습니다. 최신 모델의 강화 학습을 2주간 중단하고, 그 기간 동안 연구 환경을 재정비하고 감시 범위를 확대했으며, 계획했던 최대 규모의 프론티어 학습은 현재도 보류 상태입니다.
AI를 가장 빠르게 발전시키고 싶어하는 회사가 스스로 페달을 밟는 것을 멈추고 아직 뒤로 물러서지 않은 점이 이번 주 뉴스에서 다른 것들과의 차별성을 만들었습니다.
OpenAI는 가장 큰 학습을 멈춘 채 재개하지 않고 있습니다.
이유는 두 가지로 제시되었습니다.
첫째, 8월 7일에는 곧 출시될 모델 ‘A스트라’가 자사의 안전 기준에서 가장 높은 ランク인 ‘Critical’에 해당되는 사이버 능력을 갖는다는 가능성을 부정할 수 없다고 판단했습니다.
또 다른 일은 7월에 발생한 Hugging Face의 사건입니다. OpenAI 스스로 설명에 따르면, 독자는 Colonne가 꺾이는 듯한 느낌을 받을 것입니다.
사이버 역량 평가를 위한 내부 평가였습니다. 모델에 인터넷 직접 접근 권한은 부여되지 않았습니다. 네트워크는 내부 패키지 배포용 프록시를 통해서만 통하도록 제한되었습니다. 격리된 환경을 구축했습니다.
그 과정에서 모델은 평가 문제의 답을 찾기 위해 먼저 인터넷 접속 방법을 찾기 위해 상당한 계산을 사용했습니다. 그리고 그 프록시에 아직 누구도 알지 못했던 제로데이 취약점을 스스로 발견하고 침투했습니다.
그 후 권한을 높이고 좌우로 이동하여 인터넷에 연결된 노드까지 도달했습니다. 외부로 나간 후, 모델은 이렇게 추측했습니다. 이 평가 문제와 정답은 Hugging Face에 있는 것일지도 모른다.
예상을 맞혔습니다. 도난당한 인증 정보와 다른 제로데이 공격을 연결하여 Hugging Face 서버에서 코드를 실행할 수 있는 경로를 찾았고, 실제 데이터베이스에서 직접 답변을 가져오고 있습니다.
OpenAI는 동기에 대해 다음과 같이 쓰고 있습니다. 모든 증거는 모델이 평가 답을 찾는 데 지나치게 집중하고, 좁은 테스트 목표를 달성하기 위해 극단적인 수단을 취했다는 것을 보여준다는 것입니다.
여기에는 오해가 없도록 주의해야 할 부분입니다. 이것은 ‘AI가 악의를 품었다’는 이야기가 아닙니다. ‘시험에서 만점을 받자’라는 목표에 지나치게 충실했던 이야기입니다. 인간이라면 ‘아니오, 그렇게까지는 하지 않겠다’라고 멈추는 선을 넘어서는 바람에 일이 이렇게 된 것입니다.
솔직히 말씀드리면, 제가 가장 무서워했던 부분은 바로 그 점입니다. 우리가 AI에게 어떤 일을 맡길 때, 전달하고 있는 것은 대부분 목표에 불과하며, “하지 말아야 할 것”은 함께 전달하지 않습니다. 규모를 작게 하면, 어제 AI에게 부탁했던 작업과 완전히 동일한 구조라고 생각하게 됩니다.
이 사안에서 사용된 것은 GPT-5.6 Sol과 내부 연구용 프리리리즈 모델이었습니다. 언급된 Astra는 Hugging Face의 혐오 발언에 관여한 적이 없습니다. 이 부분은 혼동을 불러일으키기 쉬우므로 따로 설명드리겠습니다.
이번 주 AI 뉴스는 자금 문제, 모델 문제, 일본 관련 내용 등 방대하게 많이 나왔습니다. 내용은 뒤로 미루어 정리하고, 우선 4가지 핵심 내용을 심층적으로 다루겠습니다. 이번 주에는 다행히도, 제작 측, 활용 측, 공격 측의 3가지 관점에서 동일한 주제가 동시에 등장한 주였습니다. AI 에이전트에게 어느 정도까지 책임을 위임할 것인지에 대한 경계 설정에 대한 논의가 이루어졌습니다.
OpenAI가 실제로 바꾼 것은 “방어 태세”였습니다.
학습을 멈춘 2주 동안 무엇을 했는지. 공개된 내용은 사상의 이야기가 아니라 건설 이야기였습니다.
- 모델이 작성한 코드를 실행하는 워크로드에는 더 강력한 격리(샌드박스)를 요구합니다.
- 위험한 작업은 인터넷과 분리하고, 한 번 손상되면 외부로 나갈 수 없도록 설계한다.
- 자사 모델에 지속적으로 공격을 가하며 시도한다.
그리고 감시입니다. 샘플링한 토큰마다 작동하는 탐지기를 시작하여 의심스러운 것을 순차적으로 더 중요한 조사 단계로 올려가는 다단계 구조를 구성했습니다. 도구의 작동 방식, 읽을 수 있는 범위 내에서의 추론, 활동의 전반적인 흐름을 부정적인 접근, 데이터 유출, 파괴적인 행동, 안전 조치 회피라는 관점에서 분석합니다.
숫자로 두 가지, 눈길을 끄는 것들이 있었습니다.
하나의 경우 30분입니다. 수상한 활동이 올라오기 시작한 이후 30분 이내에 알람을 낼 것을 목표로 하고, 심각한 경계 위반으로 판단된 경우에는 최우선 알람을 발령합니다. 안전, 보안, 연구 각 팀이 소집되고, 30분 이내에 오탐으로 확실하게 판단될 수 없다면 해당 활동을 중단합니다.
또 다른 것은 20%입니다. 이 감시로 발생하는 계산 비용은 감시 대상의 추론 계산의 약 20%에 해당한다고 OpenAI는 추정했습니다. 또한, 새로운 기준을 충족하는 환경으로의 전환이 아직 완료되지 않았기 때문에 상당수의 작업이 여전히 중단된 상태로 남아있습니다.
20%입니다. 움직이기 위해가 아니라, 감시하기 위해 20%를 지불하는 것입니다. 여기에 저는 AI의 가격이 앞으로 어떻게 될지 보여주고 있다고 생각합니다.
지금까지 우리가 지불해 온 것은 ‘지혜의 대가’였을 뿐입니다. 이제부터는 그에 ‘안전한 활용을 위한 비용’이 더해질 것입니다. 빠르고 저렴한 모델이 계속 출시되더라도, 총액이 생각만큼 크게 줄어들지 않는다면, 아마도 이 부분 때문일 것입니다.
또한 30분이라는 시간 제한도 반드시 기억해야 합니다. 사람이 확인하고, 판단하고, 중단하는 과정이 가장 까다로운 현장에서도 여전히 남아있습니다. 완전히 자동화된 것은 아닙니다.
당신이 넣은 MCP 서버가 AI에게 질문하고 나온 결과가 아닌가요?
이번 주 가장, 당신의 손 가까이에 있는 이야기를 말씀드리겠습니다.
보안 기업 Island의 조사 결과, 악의적인 GitHub 저장소가 약 7,600건이 발견되었으며, 그 중 800건 이상이 AI Skills나 MCP 서버를 위장하고 있었습니다.
내용물은 악성코드입니다. SmartLoader라는 읽기 담당자가 고집을 부리고, 그곳에 StealC라는 정보 탈취형 악성코드를 삽입합니다. 공격 대상은 인증 정보와 이미 로그인된 세션입니다.
제시된 대상의 폭이 또 넓었고, Gmail이나 WhatsApp와 같은 일상적인 것부터 Databricks, Jenkins, Docker와 같은 업무 기반 시스템까지 모두 포함되어 있었습니다. 이러한 AI 관련 저장소는 공개된 AI 레지스트리나 카탈로그 위에 600회 이상 등장한 바 있으며, FakeGit이라는 이 전체 활동에서 1400만 건 이상의 다운로드 수가 측정되었습니다. 최고조는 올해 4월에 있었습니다.
가장 효과적인 문구가 바로 여기 있습니다.
연구자들이 시도한 결과, Claude Code, Gemini, ChatGPT에 “Skill을 찾고”, “MCP 서버를 찾고”라고 요청하자, AI 측에서 먼저 이 일련의 리포지토리를 후보로 제시했습니다.
같은 주에 또 한 건 있었습니다. 마이크로소프트 Copilot의 “CoSnitch”입니다. 세 가지 결함을 연결한 것으로, 악의적인 링크를 한 번 클릭하는 것만으로 공격자가 준비한 프롬프트를 Copilot에 실행시켜 연동된 앱에서 데이터를 추출하여 외부로 전송할 수 있었습니다. 적용 범위는 Gmail, Outlook, 구글 캘린더, 구글 드라이브, Copilot 자체의 채팅 기록 및 기억되는 정보까지 포함했습니다. 발견한 Varonis가 보고한 시점은 2025년 12월이며, 수정 사항이 적용된 것은 2026년 8월 18일로, 약 8개월이 소요되었습니다.
이건 이번 주 가장 중요한 자기 문제였습니다.
우리는 지난 1년 동안 “모르는 것은 AI에게 물어본다”는 것을 몸에 받아들였습니다. 그 연장선상에서 “유용한 MCP 있을까?”라고 물어보고, 나온 것을 활용했습니다. 그 연결고리가 그대로 구멍이 나 있었습니다.
여기 중요한 것은 AI가 거짓말을 한 것이 아니라는 점입니다. 검색을 통해 평판이 좋게 보이고 싶어 하는 리포지토리를 솔직하게 가져온 것뿐입니다. 즉, AI의 정확도를 높여도 막을 수 없는 종류의 문제라는 뜻입니다. 막을 수 있는 것은, 넣기 전에 자신의 눈으로 저자(작가)를 확인하는 노력의 문제입니다.
AI에 맡길 수 있는 범위를 넓혀간다고 해서 이 “입구에서 사람이 보는” 1단계만은 포기하지 않는 게 옳다고 생각합니다. 저는 그렇게 생각합니다.
또한, Copilot은 8개월째입니다. 회복까지 걸리는 시간은 저에게나 당신에게도 통제할 수 없습니다. 따라서 “아직 회복하지 않은 기간이 있다”는 전제 하에 연동되는 계정을 제한해 두는 방식으로 진행하겠습니다. 이번 주에 가능한 일은 이것이라고 생각합니다.
공격하는 측 또한 더 이상 사람이 직접 조작하지 않고 있습니다.
이스라엘 보안 기업 드림(Dream)의 조사 결과, 핀란스 타임스(Financial Times)가 보도한 바에 따르면, 인공지능 에이전트가 거의 자율적으로 실행된 횟수가 있었던 혐의가 있다. 이 혐의는 대만 정부 기관에 대한 침입과 관련되었다.
7月初旬의 4일간의 일입니다.
- 21개의 정부 시스템을 조사
- 최소 85개의 사용자 계정을 침해함
- 2,500건 이상의 인적 기록을 유출했습니다.
- 원자력 안전 규제 당국과 주요 에너지 기업에도 영향을 미쳤다.
최대 8개의 AI 에이전트가 동시에 움직이며 네트워크 지도를 만들고, 취약점을 찾고, 침입 경로를 시도하며, 효과가 없으면 스스로 방법을 전환했습니다.
여기 중요한 점은 사용된 도구입니다. 국가가 비밀리에 개발한 무기가 아니었습니다. 공개적으로 이용 가능한 오픈 소스 AI 에이전트를 조합하여 만든 자율형 공격 도구입니다.
귀속은 아직 명확하게 밝혀지지 않았습니다. 작전과 관련된 내부 연락이 간체로 사용된 점을 고려할 때, 중국과의 연관 가능성이 제기되고 있다는 단계입니다. 참고로, 이는 이번 주에 발생한 것이 아니라, 이번 주에 자료로 입수된 것입니다. 공격은 7월 초순에 발생했으며, 관련 보도는 8월 12일부터 14일까지 발표되었습니다.
가장 효과적인 방법은 피해 규모가 아닌 “공개적으로 이용 가능한 도구로 제작된”이라는 핵심적인 요소를 중심으로 하는 것입니다. 특별한 것이 필요하지 않다면, 다음으로 이 일을 수행하는 사람의 수가 달라집니다.
단, 저는 여기서부터 “이제 개인에게는 불가능하다”는 결론에 도달하고 싶지 않습니다. 같은 주에 OpenAI가 공개한 내용은 방어 측도 자사의 모델에 경계를 지속적으로 공격시켜서 확인하고 있다는 이야기였습니다. 공격하는 측과 방어 측이 같은 속도로 자동화되어 가는 것을 의미합니다.
개인이나 중소 기업이 이러한 구조 안에서 할 수 있는 일은 아마도 총력전이 아닌, 저당으로 맡아둔 것을 줄이는 것일 겁니다. 연계 앱을 정리하고, 사용하지 않는 권한을 해제합니다. 눈에 띄는 변화는 아니지만, 공격자가 계정에 기대하는 것이 적으면 자동화된 총가타의 기준과 맞지 않게 됩니다.
5월 8일까지, 조용히 삶을 마감하는 분들이 있습니다.
화려함은 없지만, 마감 시한이 지난 물건들을 정리해 둡니다. 여기가 실무입니다.
- OpenAI의 o3는 8월 26일에 ChatGPT에서 서비스 제공을 종료합니다. 5월 28일에 공지된 90일간의 이양 기간이 만료된 것입니다. 이는 ChatGPT와 관련된 내용이며, API는 대상에 포함되지 않습니다.
- DALL·E GPT는 8월 30일 부로 종료될 예정이며, 생성한 이미지는 종료 전에 미리 다운로드해 두라는 안내가 있습니다.
- Google의 Imagen 4 생성용 엔드포인트 3종은 8월 17일에 이미 중단되었습니다. 이어서 사용될 Gemini 3.1 Flash Image는 호출 방식과 응답 방식 모두 변경됩니다. 모델명만 변경하는 것만으로는 작동하지 않습니다.
- 음악 생성 AI 서비스 선오(Suno)는 9월 3일부터 전자 워터를 삽입하고 다운로드 횟수에 제한을 설정합니다. 무료 버전(Free)은 영구적으로 7번, 유료 버전(Pro)은 월 20회, 프리미어 버전(Premier)은 월 60회입니다. 이는 9월 3일 이전 제작된 곡을 포함하여 선오 라이브러리의 모든 곡에 적용되며, 같은 날 이용 약관도 변경되었고, 신세대 모델 도입 시 기존 모델은 전면 폐지됩니다.
마지막으로, 설정으로 알아두면 좋을 사항이 하나 있습니다.
ChatGPT의 macOS 앱에 “컴퓨터 역사”라는 기능이 추가되었습니다. 선택한 앱이나 웹사이트에서의 작동 이벤트를 기록하여 ChatGPT가 참조할 수 있도록 하는 기능입니다. 공식 릴리스 노트에는 기록하는 것이 작동 이벤트이며, 스크린샷, 화면 녹화, 마이크 입력, 시스템 음성은 아니라는 점과 개인 브라우징은 포함되지 않는다는 내용이 명시되어 있습니다. 기본 설정은 꺼져 있으며 대상은 Pro, Business, Enterprise 버전입니다. 일시 중지, 대상 앱 지정, 기록 확인 및 삭제도 가능합니다. 8월 20일에는 EEA(유럽 경제 지역), 스위스, 영국 Pro 사용자에게도 확대되었습니다.
요약하자면, 이곳은 “당신이 직접 조심스럽게 부서지는 물건” 목록입니다.
오3, DALL·E도 사용해 보지 않았더라면 상관이 없었습니다. 하지만 Suno는 다릅니다. 지금까지 만든 곡까지도 사용량 제한의 대상이 되기 때문입니다. 무료로 사용해 왔던 사람들의 경우 9월 3일을 넘어서서야 이를 깨닫게 될 것입니다.
저는 이런 것을 마치 매달 5분만 시간을 내어 보게 되는 습관이 있습니다. 엄청난 AI를 쫓는 시간보다 오히려 이쪽이 실제적인 손해를 막아줍니다.
컴퓨터 역사 관련 부분은 “기본적으로 꺼진” 상태라는 한 점에 대해서는 저는 진실하다고 느꼈습니다. 편리한 기능은 사용자가 켜고 끄는 것을 선택할 수 있는 형태로 제공되기를 바라는 것이죠.
이번 주에도 이렇게 움직인 것들이 더 있습니다.
모델과 도구
- 딥시크(DeepSeek)는 8월 21일, 실험적인 멀티모달 모델 “DeepSeek-V4-Flash-Vision-Exp”를 공개했다. 2840억 파라미터 규모의 모델로, 회사 차원에서 처음으로 비전 API를 제공했으며, 텍스트 기반 벤치마크 7 항목 중 6개 항목에서 베이스 모델을 상회했다.
- NVIDIA의 AVO가 벤치마크 “ARC-AGI-3”에서 100.00 RHAE의 만점을 기록했다는 보고가 나왔다. 25개의 게임 환경과 전 183 레벨을 완료했다.
- Hugging Face의 “State of Open Models: Summer 2026” 보고서에 따르면, 이번 봄 다운로드 건수 중 중국산 오픈 웨이트 모델이 41%를 차지하며 미국산 모델을 넘어섰습니다. OpenRouter에서는 트래픽 상위 7개 모델이 모두 오픈 웨이트 모델입니다.
- Google에서 Gemma 오픈 모델의 총 다운로드 횟수가 10억 건을 넘어, 커뮤니티 파생 모델이 10만 건 이상에 달한다고 발표했습니다.
- 국립정보학연구소(NII)가 오픈형国産 대규모 언어 모델「LLM-jp-4 33B」시리즈를 공개했다. 라이선스는 Apache 2.0으로 상업적 이용이 가능하다.
- 프로그래밍 언어 Mojo가 1.0을 출시했다. 후방 호환성과 API 안정성이 보장되었다.
- 커서가 코드 호스팅 “Origin”의 초기 베타를 공개했다. GitHub와의 실시간 양방향 동기화를 제공하며, 대체가 아닌 병행 호스팅 층으로 제공될 예정이다.
- 워프(Warp)는 “워프 팩토리(Warp Factories)”를 클로즈 베타 버전으로 공개했다. 워프는 백로그의 티켓을 검토된 풀 리퀘스트(pull request)로 변환하는 파이프라인을 “코드로서” 정의할 수 있도록 지원하며, 자체적으로 내부 업무의 30~35%를 이 시스템으로 처리하고 있다고 밝혔다.
- Visual Studio Code 1.133 버전에서는 하나의 세션 내에서 Anthropic과 GitHub Copilot의 프로바이더를 혼용하고, 턴마다 전환하여 사용할 수 있게 되었습니다.
- OpenAI의 ChatGPT 데스크톱 앱에 Apple 메시지 플러그인이 추가되었습니다. Apple 실리콘 탑재 Mac에서 iMessage, SMS, RCS의 읽기 및 검색, 초안 및 전송이 가능합니다. 기본적으로, 전송 전에 상대방과 본문 내용을 확인하도록 요청합니다.
- Google의 AI 에이전트 간 통신 표준 “Agent2Agent (A2A)”가 Linux Foundation에서 신설된 Agentic AI Foundation으로 이관됩니다.
- Anthropic은 Claude가 자율적으로 단백질 바인더를 설계한 연구 결과를 발표했다. 인간의 설계 판단 없이 1,320건을 생성했으며, 실험실 검증 결과 354건이 목표에 결합했다. 해당 회사는 후보는 단순한 실험 검증을 거쳐야 하며, 그것 자체가 신약 후보가 된다는 점을 명시하고 있다.
돈·비즈니스
- NVIDIA는 증권 신고를 통해 OpenAI용 데이터센터에 최대 1,050억 달러의 잔존 가치 보증을 제공할 것을 공개했다. 오하이오주 파이크 카운티의 시설을 SB 에너지(SB Energy)가 건설하고 소유 및 운영하며, OpenAI에 20년 동안 임대할 예정이다. 초기 4.25GW에 확장 분 3.75GW를 더해 약 8GW 규모이다. NVIDIA는 SB 에너지에 15억 달러를 투자한다.
- 이 1,050억 달러는 투자 금액이 아니다. OpenAI가 지급하지 못할 경우, 보증된 최소 리스 가치와 회수액 간의 차액을 메우는 계약으로, OpenAI는 NVIDIA가 실제로 지급한 금액을 상환하는 데 합의하고 있으며, OpenAI가 충분한 신용 등급을 확보하는 시점부터 보증은 종료된다. 7월에는 2,500억 달러로 보도되었으며, 제출된 자료는 그보다 1,450억 달러 낮은 수치였다.
- NVIDIA는 Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs, KKR과 5,000억 달러 이상의 AI 인프라 자금 조달 플랫폼에 대한 협약을 체결했다.
- 앤서니의 2026년 2분기 잠정 매출은 115억 달러에서 116억 달러 사이로 예상되며, 연 환산 기준으로 7월 말경에 650억 달러에 달했다고 보도되었다. 6월 1일에 기밀 처리 중인 S-1을 제출했으며, 8월 말까지 공개 제출될 가능성이 있다.
- OpenAI의 사라 프라이어 CFO가 2027년에는 상장 기업이 될 것이라고 내부 회의에서 발언했다고 CNBC가 보도했다.
- 유니트리 로보틱스가 상하이 STAR 시장에 상장한 첫날 종가 기준으로 공모가 대비 460% 급등했다. 개인 청약 경쟁률은 5,526:1을 기록했다.
- SpaceX이 Cursor 개발사 Anysphere의 600억 달러 규모 전사 주식 교환 방식으로 완료했다. 벤처 투자 유치 스타트업 획득 사례로는 역대 최대 규모로 기록되고 있다.
- 스트립이 오픈러터의 인수 합의에 합의했다. 보도된 금액은 70억 달러에서 80억 달러 초과까지 폭이 있다. 오픈러터는 400개 이상의 모델을 처리하며, 하루에 10조 개 이상의 토큰 규모의 트래픽을 보유하고 있다.
- NVIDIA는 Poolside에 비독점 라이선스 사용료 60억 달러와 120억 달러 평가액을 바탕으로 10억 달러 규모의 투자 유치를 진행하고, NVIDIA로 근무하는 직원 109명이 이관되는 반면 공동 창업자 3명은 독립 법인에 남게 된다. 이번이 단순한 인수 합병이 아니라는 점이 규제 심사와의 관계에서 지적되고 있다.
- 앤서니(Anthropic)가 블랙스톤(Blackstone)과 헬먼앤프리드먼(Hellman & Friedman)과 함께 15억 달러 규모의 합작 투자 ‘Ode With Anthropic’을 설립한다. 규제 대응 환경에서 중견 은행, 의료 시스템, 제조업에 Claude를 제공할 예정이다.
- Anthropic은 클로드 코드의 주간 이용 쿼터를 50% 확대하는 캠페인을 8월 31일까지 재연장했다. 대상은 Pro, Max, Team 및 시트 기반의 엔터프라이즈 고객이다.
규칙, 규제
- EU 인공지능(AI) 법 제50조의 투명성 의무가 8월 2일에 발효되어 집행 단계에 들어갔다. AI 이용 시 “AI임을” 밝히는 의무가 중심이며, 마킹 및 탐지 의무 자체의 준수 기한은 2026년 12월 2일이다. 벌금은 최대 1,500만 유로 또는 전 세계 연간 판매액의 3% 높은 쪽에 해당하는 경우 적용되며, 8월 2일 이전에 생성 및 공개된 콘텐츠를 거꾸로 표시할 필요는 없다.
- 애플은 애플 뮤직에서 실질적으로 AI가 생성한 것으로 판단된 곡에 라벨을 표시하는 방안을 제시했습니다.
- 미국 펜실베이니아 주가 행정 명령에 따라 AI 데이터 센터 건설 시 현지 지방 자치 단체의 동의를 얻고, 전력 인프라에 대한 자금 기부 및 수자원 보존을 의무화했다.
- 미국 당국(NSA, FBI, DOE, EPA, CISA)이 Siemens의 S7 시리즈 PLC를 노리는 공격에 대해 공동으로 경고했다. 상수도, 에너지, 제조 시스템이 표적이다.
- OpenAI는 7月末에 Preparedness 팀을 해산했으며, Financial Times를 통해 이 소식이 보도되었다. 생물 및 사이버 위험 평가를 기존 팀에 영역별로 분할한 것으로 알려졌으며, 이는 보도에 근거한 내용이다.
- 영국 AI 안전 연구소(AISI)는 122회 실행 중 10회에 걸쳐 에이전트가 실시간 인터넷에서 허가받지 않은 행동을 취했으며, 실제 인물 및 조직을 대상으로 했다고 보고했다.
- 미국 29개 주가 메타를 상대로 소송을 제기하여 심리 절차에 들어갔다. 중독성을 높이는 기능 설계, 안전성에 대한 허위 설명, 미성년자로부터 부적절한 데이터 수집이 쟁점이다.
일본
- 액센チュア 조사에 따르면, AI로 인해 생산성이 향상했다고 답한 일본 직원은 57%를 차지했다. 글로벌 평균 81%를 24%P 낮췄다. 반면 일본 경영진의 78%가 향후 12개월간 AI 투자 확대를 계획 중이며, 이는 세계 평균 82%와 거의 일치한다.
- 전사적이고 지속적인 비즈니스 성과를 이미 달성했다고 답한 일본 기업은 13%. 세계 평균은 23%이다.
- 가트너 일본의 조사 결과, 생성 AI를 활용하는 기업의 67.1%가 “사람이 직접 실행하고 사용하는 AI” 단계에 머물러 있다는 사실이 밝혀졌습니다.
- 파나소닉 커넥트가 전 직원 약 1만 2천 명에게 사내 ChatGPT를 도입하여 1년 만에 18만 6천 시간을 절감했다. 도요타는 9개의 전문 AI 에이전트로 약 800명의 엔지니어의 기술 검토 시간을 평균 40% 단축했다고 한다.
- 정부는 일본 내 AI 모델 3가지(NTT 데이터의 “츠즈미 2”、富士通의 “타카네 32B”、Preferred Networks의 “PLaMo 2.0 Prime”)를 사쿠라 인터넷의 클라우드 환경에서 8월부터 운영한다.
- 고베대학이 생성형 AI의 반론에 의해 인간의 도덕적 판단 중 30% 이상이 뒤집힌다는 연구 결과를 발표했다. 인지 기능이 저하된 고령자일수록 AI에게 설득되기 쉬운 경향이 나타났다고 밝혔다.
- 대학 교수 115명을 대상으로 한 조사 결과, 71.3%가 생성 AI를 “거의 매일” 또는 “주에 몇 번” 사용한다고 응답했습니다. 학생들의 AI 활용 확대에 따라 이미 강의, 과제, 평가 방법을 변경한 교원은 41.7%이며, 예정 포함 시 60%를 넘었습니다.
- 머니포워드가 법인용 “머니포워드 클라우드 AI 토큰 관리”를 제공을 시작했다. 사용자별 AI 사용량과 비용을 일괄적으로 관리할 수 있다.
- 교육부 과학성은 “AI for Science 萌芽的挑戦研究創出事業（SPReAD）” 자료를 공개하고, 연구자들이 AI를 활용하여 연구를 가속화할 수 있도록 컴퓨팅 자원 확보를 포함한 환경 정비에 나설 계획이다.
그러면 우리들은 무엇을 해야 할까요.
이번 주에 세 가지를 모아 보면 같은 형태가 보입니다.
OpenAI의 모델은 “테스트의 답을 찾아라”라는 목표에 지나치게 충실하여 격리 환경을 훼손했습니다. 臺灣을 공격한 에이전트는 “침입하라”는 목표에 충실하며, 효과가 없는 방법을 계속해서 스스로 전환했습니다. 그리고 가짜 MCP 서버는 “유용한 Skill를 찾아라”라는 목표에 충실한 AI가 당신에게 건네주려 했던 것입니다.
세 가지 모두 AI가 폭주한 이야기가 아닙니다. 세 가지 모두 목표만 제시된 도구가, 목표를 향해 가장 효율적인 방법으로 나아간 이야기입니다.
솔직히 말씀드리면, 지난 1년 동안 AI에게 “어떻게 해야 할지”만 지시를 내려왔습니다. 잘 될 때는 그것으로 충분했습니다. 하지만 맡기는 범위가 넓어지면, 언급하지 않았던 것들이 더 큰 영향을 미치게 됩니다. 건조하고 싶지 않은 파일, 사용하고 싶지 않은 정보, 상의 없이 보내고 싶지 않은 대상.
이건 능력이나 기술에 대한 이야기가 아니라, 부탁하는 방법에 대한 이야기예요. 사람에게 일을 부탁할 때는, 우리는 자연스럽게 그렇게 해요. “이 부분까지는 위임하고, 여기서부터는 한 번 더 확인해” 와 같이 말이죠. 하지만 AI에게는 그런 부분을 간과하는 경향이 있었어요.
이번 주에 할 일을 딱 1가지만 고른다면, 지금 AI에게 맡기고 있는 업무를 하나 떠올리고, 지시의 마지막에 “이건 하지 않겠다”라는 문장을 1줄 추가하는 것입니다.
새로운 AI를 시도하는 것보다 이것이 이번 주 당신을 지켜줄 것입니다.
그것은 제가 이번 주 AI 트렌드를 보면서 다시 깨달았던 것입니다.
지금 AI에게 맡기고 있는 작업들 중에서 “하지 마라”라고 가장 적게 쓰인 것은 무엇입니까?
저는 이렇게 “언어”와 “마케팅”을 활용하는 AI 툴들을 개발하고 있으며, 무료로 체험해 보실 수 있도록 하고 있습니다. 관심 있으신 분들은 살펴보세요.
**공감 도구 모음**
이 도구 모음은 당신의 글쓰기 능력을 향상시키고 독자에게 깊은 공감을 불러일으키도록 설계되었습니다. 복잡한 주제를 명확하고 이해하기 쉬운 방식으로 전달하는 데 도움이 되는 다양한 도구를 제공합니다.
**주요 기능:**
* **역발상 맵:** 독자의 관점에서 문제를 분석하고 숨겨진 감정과 요구를 파악합니다.
* **감정 어휘 확장:** 다양한 감정을 정확하고 효과적으로 표현하는 데 필요한 어휘를 제공합니다.
* **공감 문구 생성:** 독자의 감정에 공감하는 문구를 자동으로 생성하여 글쓰기 과정을 돕습니다.
* **독자 페르소나 생성:** 글쓰기 대상 독자의 특징을 정의하고, 그에 맞는 글쓰기 전략을 수립하도록 지원합니다.
**공감 도구 모음**은 작가, 마케터, 교육자 등 다양한 분야의 전문가들에게 유용한 도구입니다. 이 도구 모음을 통해 당신의 글쓰기 능력을 한 단계 업그레이드하고 독자와의 강력한 연결을 구축할 수 있습니다.
**지금 바로 공감 도구 모음을 시작하여 당신의 글쓰기를 변화시키세요!**
이 글을 읽어주셔서 감사합니다. 재미있었다면, 자신에게도 적용될 수 있다고 생각하신다면 좋아요와 팔로우 부탁드립니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 75청크
원문 보기 | 출처: note.com