AI 노트 제022화
아이들이 AI를 사용한다.
그때 필요한 건 성인용 AI의 기능을 약간 줄인 “어린이용” 버전일까.
처음에는 그런 것을 상상했습니다.
위험한 내용을 강력히 차단한다.
사용 가능한 기능을 축소한다.
끝.
하지만 2026년 9월 20일, OpenAI가 호주를 대상으로 발표한 Australian Youth Safety Blueprint를 읽어보면, 아동의 AI 안전성은 훨씬 더 광범위한 문제였다.
그곳에서는 AI의 답변뿐만 아니라 연령에 따른 설계, 보호자, 교육, 투명성, 외부 조직과의 협력을 포함한 여섯 개의 기둥으로 안전성을 관리하고 있었다.
어린이용 AI는 “약한 AI”가 아니라, 다른 전제에서 설계된 AI로 생각하는 것이 더 적절할 수 있습니다.
왜 어른들과 똑같은 설계로는 부족한 걸까
어른과 아이는 같은 정보를 받아도 영향을 똑같이 받지 않을 수 있습니다.
판단력과 경험이 다르다.
AI의 답변을 어디까지 신뢰할지도 다를 수 있다.
어려울 때 도움을 요청하는 방법을 알고 있을지도 모를 거라고 생각하는 건 어쩌면 틀렸을지도 몰라요.
더 나아가 AI는 검색 결과 목록과는 달리 대화한다.
다시 이야기할 수 있습니다.
나에게 맞는 답변을 한다.
이 “관계성으로 드러나는 모든 것”까지 고려해야 합니다.
그러므로 단순한 콘텐츠 필터만으로는 충분하지 않다는 생각이다.
처음부터 나이를 전제로 설계한다.
첫째, 연령에 적합한 디자인을 고려해야 합니다.
어린이들이 사용할 가능성이 있다면 설계 단계부터 연령을 고려해야 한다.
예를 들어 설명 방식을 말씀드리겠습니다.
위험한 상담에 대한 반응
어떤 기능이 이용 가능한가요?
성인 콘텐츠를 그대로 축소하는 대신, 이용자의 발달 단계를 전제로 하는 접근 방식이다.
2. 보호자가 참여할 수 있는 시스템
아이의 안전을 AI만으로 완전히 해결할 수 없다.
보호자가 설정 및 이용 현황에 적절하게 참여할 수 있는 기능도 필요합니다.
하지만 여기에는 또 다른 어려움도 있다.
안전이라는 이유로 무엇이든 감시할 수 있다면 좋지 않다.
아이의 사생활 보호와 자립을 위한 균형을 맞춰야 한다.
보호자에게 어느 정도까지 보여줄 것인가.
어느 나이에 권한을 변경하는 것일까요?
안전 기능을 만들수록 새로운 설계 결정이 더 많아진다.
AI 리터러시는 또한 안전 기능이 됩니다.
저는 여기가 특히 중요하다고 생각했습니다.
AI 측을 아무리 안전하게 설계해도 AI는 실수를 할 수 있습니다.
그러므로 사용자 측에도,
AI는 항상 옳은 것은 아닙니다.
중요한 것은 다른 정보로도 확인하는 것입니다.
도움이 필요하면 사람에게 상의한다.
개인 정보를 함부로 입력하지 마십시오.
이러한 이해가 필요합니다.
이는 “자기 책임 하에 유도하는” 의미가 아니다.
시스템 측의 안전 장치와 사용자의 지식에 대한 양쪽 모두를 갖추고 있다는 의미입니다.
안전벨트가 있으므로 교통 교육이 필요 없다는 주장은 어느 정도 유사한 점이 있습니다.
문제 발생 시 투명성을 확보하고 상황을 명확히 설명하는 것이 중요합니다.
회사는 안전한 AI를 만들고 있다고 말하지만, 외부에서는 이를 평가할 수 없습니다.
무슨 문제가 일어났는지.
그렇게 대처했었나요.
어떤 안전 조치를 추가했는지.
OpenAI의 Blueprint는 투명성과 책임성을 핵심 가치로 포함하고 있다.
최근 AI 안전성에 대한 기사를 조사할 때마다 이 부분으로 돌아옵니다.
안전성은 “문제가 발생하지 않는 것” 그 이상입니다.
문제가 발생했을 때 발견할 수 있습니다.
보고합니다.
개선 가능합니다.
이 순환 또한 안전성의 일부로 간주된다.
전문가들과 사회와 함께 만들어가는
아이들의 안전은 AI 기업만의 전문 분야가 아닙니다.
교육.
심리.
어린이 복지
보호자님.
정책.
여러 가지 지식이 필요합니다.
따라서 외부 전문가 및 조직과의 협력이 중요해진다.
AI 모델의 성능이 높다고 해서, 아동의 발달이나 교육까지 자동으로 자세히 밝혀지는 것은 아니다.
여기에는 기술 기업이 스스로 답을 내는 것 자체에 의미가 있다.
한 번 시도해보고 포기하지 않는
AI는 지속적으로 업데이트됩니다.
사용법도 달라집니다.
아이들이 예상치 못한 방식으로 사용하는 경우도 있습니다.
그러므로 안전 설계도 고정할 수 없는 구조입니다.
이용 현황을 확인합니다.
문제를 조사한다.
시스템을 바꾸다.
다시 확인하겠습니다.
이러한 지속적인 개선이 필요합니다.
OpenAI의 Blueprint는 완성된 최종 답변이라기보다는 향후 정책 및 구현을 위한 로드맵으로 제시되고 있다.
아이들을 위한 AI 활용 시 확인해야 할 5가지 질문
보호자나 교육자의 입장에서 저는 서비스를 볼 때 다음 5가지 사항을 확인하고 싶습니다.
대상 연령이 명시되어 있나요?
나이 때문에 기능이나 안전 조치가 달라지나요?
보호자가 이용할 수 있는 설정이 있습니까?
AI의 한계를 아이 스스로에게 설명하고 있는 걸까요?
문제를 보고하는 방법을 알고 싶으신가요?
어린이용이라고만 쓰여 있는 것이 아니라, 그 뒤에 어떤 설계가 있는지 살펴본다.
이런 식으로 특정 AI 서비스 외의 다른 서비스도 활용할 수 있을 것 같습니다.
안전한 AI는 반드시 거부를 많이 하는 AI인 것은 아니다
지금 조사하면서 가장 생각을 바꾼 건 바로 이 부분이었다.
안전성에 대해선, 제가 “얼마나 위험한 질문을 거절할 수 있는가”를 상상하기 쉬웠습니다.
하지만 어린이용 AI의 경우, 그것만으로는 충분하지 않습니다.
이 기획은 2023년 11월 28일 ‘도쿄 코믹 콩벤션’에서 현재(株式会社カレント)가 주최하는 ‘네오트ランス’ 전시 부스에서 도서 『별 신일 단집 중』을 기념하여 개최됩니다. 별 신일 선생님의 작품을 모티브로 한 일러스트 및 굿즈, 복제 원고 및 관련 자료 등이 전시되며, 전시 기간 중에는 별 신일 선생님의 작품을 interprate하는 워크숍과 일러스트레이터 하라다 타쿠야 氏에 의한 토크쇼 등 다양한 이벤트가 예정되어 있습니다. 이벤트의 자세한 내용은 추후 발표될 예정입니다. 현재(株式会社カレント) 직원과 별 신일 선생님의 작품을 사랑하는 팬들이 전시 부스에 모입니다. 모든 분들의 방문을 기대합니다.
나이대에 적합한 기능
보호자와의 관계
교육.
투명성
외부 전문가와의 협력
안전성이 서비스 전체의 설계를 포괄하고 있다.
AI가 사회에 더 많이 활용될수록, 모델 단일의 성능만으로는 부족하다고 생각합니다.
아이들용 인공지능은 어른용보다 약해야 할까요.
조사 전의 나는 조금 그렇게 생각하고 있었다.
지금은 다르다.
필요한 것은 단순한 능력 제한이 아닌,
누가 사용하는지를 처음부터 고려한 설계.
AI는 똑똑해지는 이야기를 화려하게 표현한다.
하지만 그 지혜를 누구에게 어떻게 전달할 것인지에 대한 이야기도 그만큼 중요해지고 있다.
AI 활용, AI 개발, AI 작가, AI 안전성, 교육, 아이와 AI, ChatGPT, AI 리터러시
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 65청크
원문 보기 | 출처: note.com