# AI와 어떻게 마주할 것인가? “인류에 대한 위협”을 경고하는 개발자의 목소리와 지금 학교에서 가르쳐야 할 문해력

> https://bookfactory.kr/board/ai-tech/18668
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-26T15:51:42.650Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/317737474/rectangle_large_type_2_bddb5fd8440b46ed4844f2190e96dfd2.jpeg?width=1280)

전직 교사의 관점에서 지금 아이들의 교육 현장에서 일어나고 있는 변화와 급속히 진행되는 AI 규제에 대해 전해드립니다.

## 충격적인 발언: “앞으로 몇 년 안에 AI가 인류의 위협이 된다”

AI ‘클로드’를 만드는 미국 앤스로픽사의 CEO 다리오 아모데이 등 세계 정상급 개발자들이 유엔 등에서 “이대로 AI 개발이 통제 없이 진행되면 앞으로 몇 년 안에 인류 전체에 심각한 위험이 될 수 있다”는 취지의 경고를 발신하고 있습니다.

그들은 단순히 편리함을 내세우는 데 그치지 않고, AI가 인간의 통제를 벗어날 위험성이나 병기로 악용될 위험 등을 진지하게 경고하고 있습니다. 개발의 최전선에 있는 당사자들로부터 이러한 목소리가 나오는 상황은 매우 이례적입니다.

## 규제와 활용의 규칙 마련(AI 법안)

이러한 세계적인 위기감을 계기로 일본에서도 AI 관련 법률 도입을 위한 논의가 급속도로 진행되고 있습니다.

지금까지 일본은 “이용 촉진”을 중시해 왔습니다. 그러나 허위 정보의 확산과 저작권 침해, 범죄 악용 등의 위험을 무시할 수 없게 되었습니다.

이에 따라 일정한 위험성이 있는 AI에 대해서는 법적 처벌이나 감시 체제를 마련하는 등 국가 차원의 강력한 규칙 제정(AI 법적 틀)을 추진하는 방향으로 선회했습니다.

## 교육 현장에서 일어나고 있는 일: 생각의 '게으름'

가장 우려되는 것은 아이들의 사고력 저하입니다.

숙제 작문이나 리포트를 버튼 하나만 눌러 AI에게 만들게 하는 아이들이 급증하고 있습니다. 제출물은 완성되어 있어도 정작 본인의 머릿속에는 아무것도 남아 있지 않습니다.

편리한 도구에 너무 의존하면, 스스로 머리를 써서 고민하고 문장을 구성하는 과정 자체가 통째로 빠져버립니다.

## 앞으로 학교에 필요한 “문해력 교육”

그렇다면 학교는 AI를 금지해야 할까요? 답은 아니요입니다. 사회에 나가면 AI를 사용하는 것이 당연해지기 때문입니다.

중요한 것은 "사용하지 않는 것"이 아니라, "비판적인 시각을 가지고 능숙하게 활용하는 것"입니다. 교육 현장에서는 다음 3가지 관점이 요구됩니다.

- 정보의 정확성을 확인하는 힘: AI가 쓴 답변에는 거짓(할루시네이션)이 섞여 있습니다. 반드시 1차 정보를 찾는 습관을 들이도록 합니다.
- 자신의 의견을 갖는 힘: AI가 내놓은 답변에 대해 “정말 그럴까?”라고 되묻는 질문력을 기릅니다.
- 윤리의식 함양: 개인정보 입력의 위험성이나 저작권을 침해하지 않는 사용법을 규칙으로 가르칩니다.

## 정리: AI 시대이기에 더욱 ‘인간다움’을 키우자

AI 개발자들의 비통한 경고는 결코 영화 속 허구가 아닙니다.

법률에 의한 규칙 정비는 물론 필수적입니다. 하지만 결국 자신과 사회를 지키는 것은 한 사람 한 사람의 '비판적 사고력'과 '올바른 윤리관'입니다.

교육의 목적은 AI에게 지시받는 인간을 만드는 것이 아닙니다. AI를 현명하고 안전하게 활용할 수 있는 ‘인간의 현명함’을 기르는 것이 지금 가장 필요한 일입니다.

### 이번 해설과 관련된 참고 영상

AI 개발 리더들이 느끼는 위기감과 AI가 인간 사회에 미치는 영향에 대한 논의를 이해하는 데 도움이 되는 참고 영상입니다.

이 영상은 앤스로픽사 CEO 다리오 아모데이가 유엔 안전보장이사회에서 AI의 통제 불능 위험과 안전 기준의 필요성에 대해 연설한 공식 영상으로, 기사에서 언급한 ‘개발자의 경고’의 근거가 되는 가장 직접적인 정보 출처이기에 선정했습니다.

**출처:** [note 원문](https://note.com/takosuke44/n/n1ef1c788158c)

*번역: Gemma 3(.44) 초벌 + 교정 17청크*

[원문 보기](https://note.com/takosuke44/n/n1ef1c788158c) | 출처: note.com