최근 인공지능에 대해 생각하면서 조금 신기한 점이 있다.
현재 AI 개발에서는 우선 개발자 측에서 모델을 최대한 강력하게 발전시키는 것을 목표로 합니다.
다양한 벤치마크에서 능력을 측정한다.
일정 이상의 성능이 되면 제품이나 서비스를 사회에 출시한다.
그 후, 용도별로 에이전트를 생성하거나, 도구를 제공하거나, 개인에게 맞춤 설정한다.
꽤 단순화하면
지능이 상당히 완성되면 사회에 발표할 것
순서대로 진행되고 있습니다.
하지만 안전과 관련된 다른 제품이나 서비스들을 고려하면, 이 순서는 조금 이상하지 않을 것이다.
약이나 치료법, 자동차나 항공기처럼 새로운 것을 갑자기 사회 전체에 한 번에 투입하는 것은 일반적이지 않습니다.
작게 시도해 보세요.
문제를 검토합니다.
범위를 확장한다.
다시 문제를 확인합니다.
그렇게 점진적으로 사회에 편입시켜 나간다.
만약 AI도,
완성되어 사회에 내놓는 것보다, 사회 안에서 안전하게 키워나가는 것이 옳다.
그런 생각을 하고 있었는데 떠올린 게, 제 안에서 ‘반숙 AI’라는 개념이었습니다.
완숙 AI는 ‘약한 AI’가 아니다.
반숙이라는 단어를 들으면 단순한 성능이 낮은 AI를 상상할 수도 있습니다.
하지만 제가 생각하는 것은 그런 뜻이 아닙니다.
어느 정도의 기본 능력을 가지고 있다.
다만, 모든 분야에서 완성된 만능 AI를 시장에 출시하지 않을 것이다.
처음에는 제한된 환경, 제한된 역할, 제한된 권한으로 일하게 할 것입니다.
그 경험을 쌓는다.
사람에게서 배운다.
실패한다.
수정한다.
더 만족스러운 결과를 얻다.
그 개체가 충분히 성장했음을 확인하는 동시에, 점진적으로 업무와 권한을 확대해 나갔다.
상상컨대
초기 역량 → 제한적 도입 → 경험 → 평가 → 재교육 → 권한 확대
이런 흐름이다.
이는 “미완성품을 판매하는” 것보다 더 의미를 전달합니다.
성장을 전제로 설계된 AI를 사회에 출시한다.
이 분과 비슷한 분입니다.
사람도 대학을 졸업한 순간에 모든 일을 할 수 있는 것은 아니다.
신입으로서 직장에 들어가 그곳에서 경험을 쌓으며 일을 익힌다.
AI를 “사회에 내놓기 전에 완성되어야만 한다”라고 생각할 필요는 없다고 생각한다.
인간 지성과 인공지능 지성을 처음부터 완전히 다른 것으로 여기지 않도록
인간 지성과 인공지능 지성이 지나치게 구별될 필요는 없다고 오래전부터 생각해 왔습니다.
물론, 인간과 인공지능이 같은 존재라고 말하는 것은 아니다.
몸과 구현, 태생 또한 다르다.
하지만,
경험에 따라 변화하며, 환경에 따라 자신의 강점 분야가 달라진다. 타인과의 관계에서 배우고, 실패를 수정한다.
이런 ‘지성이 깃발’ 구조까지도 처음부터 인간만의 것, 즉 인간적인 것만으로 만들 필요는 없다.
만약 동일한 초기 능력을 가진 AI가 두 개 있었다면.
한쪽은 병원에서 일했습니다.
다른 한편으로는 공장에서 일했다고 한다.
수년간의 경험을 쌓을수록,
병원에서 자란 AI와 공장에서 자란 AI는 같은 지성을 갖지 않게 된다.
그것이 자연스럽다.
알고 있는 부분 또한 다릅니다.
경험도 다를 것이다.
실패 또한 다르다.
사용하는 도구도 다릅니다.
연결된 사람들도 다르게 느껴진다.
판단하는 습관 또한 다를 수 있습니다.
그러므로 처음에는
인공지능의 개인화는 챗봇, 음성 비서, 추천 시스템 등 다양한 분야에서 사용자 경험을 향상시키는 데 기여하고 있습니다.
개인화된 AI 서비스는 사용자의 과거 행동, 선호도, 현재 상황 등을 분석하여 맞춤형 정보를 제공하거나, 사용자의 요구에 따라 적절한 서비스를 제안합니다. 예를 들어, 온라인 쇼핑몰에서 사용자의 구매 이력을 바탕으로 상품을 추천해주거나, 음악 스트리밍 서비스에서 사용자가 즐겨 듣는 장르나 아티스트를 기반으로 새로운 음악을 추천해주는 것이 이에 해당합니다.
하지만 개인화된 AI 서비스는 동시에 프라이버시 침해, 데이터 편향, 알고리즘 독점 등 여러 가지 문제점을 야기할 수 있습니다. 사용자의 개인 정보가 수집되고 분석되는 과정에서 개인 정보 유출이나 오용의 위험이 있으며, AI 알고리즘이 특정 집단에 편향된 결과를 내놓을 수 있습니다. 또한, AI 알고리즘이 특정 기업이나 플랫폼에 의해 독점될 경우, 사용자 선택의 자유가 제한될 수 있습니다.
이러한 문제점을 해결하기 위해, 개인화된 AI 서비스는 투명성, 책임성, 공정성을 확보해야 합니다. AI 알고리즘의 작동 방식을 명확하게 공개하고, 사용자의 데이터 활용에 대한 동의를 얻어야 하며, AI 알고리즘이 특정 집단에 편향되지 않도록 다양한 데이터를 활용하고, 알고리즘의 공정성을 검증해야 합니다.
또한, 개인화된 AI 서비스는 사용자의 통제권을 강화해야 합니다. 사용자는 자신의 데이터 활용에 대한 동의 여부를 자유롭게 결정할 수 있어야 하며, AI 서비스 이용 기록을 언제든지 확인하고 수정할 수 있어야 합니다.
이제 본격적으로 시작된다.
강력한 LLM을 만들고 나서 에이전트로 분리하는 것과는 전혀 다릅니다.
여기는 중요하다고 생각합니다.
거대한 LLM을 최대한 강력하게 만들고, 그 다음에,
이는 의료 에이전트입니다.
이는 연구 에이전트입니다.
이는 법률 에이전트입니다.
분리되어 있더라도 제가 생각하는 개체화는 조금 다르다.
그것은,
하나의 끈끈한 지성은 복잡한 문제를 해결하고 창의성을 극대화하는 핵심 역할을 한다. 이는 개인이 모든 지식과 기술을 갖추려 하기보다는, 팀이나 그룹 내에서 각자의 전문성과 능력을 활용하는 것을 의미한다.
구체적으로, 팀원들은 각자의 강점을 명확히 하고 서로 협력하여 공동의 목표 달성에 기여한다. 이러한 역할 분담은 개인의 부담을 경감시키고 집중력을 높여 보다 효율적인 의사 결정을 가능하게 한다.
예를 들어, 어느 연구팀에서 데이터 분석 전문가, 이론적 고찰 전문가, 그리고 실천적인 응용을 검토하는 전문가가 각기 다른 역할을 수행함으로써, 양질의 연구 성과를 창출할 수 있다.
또한, 이 역할 분담은 다양한 시각을 수용하고 보다 포괄적인 해결책을 도출하는 데 도움이 된다. 서로 다른 배경과 경험을 가진 사람들이 협력함으로써 고정관념이나 편견을 극복하고 새로운 아이디어를 창출할 수 있다.
이처럼 하나의 끈끈한 지성의 역할 분담은 팀이나 그룹의 성과를 향상시키고 창의성과 혁신성을 촉진하는 중요한 요소이다. 이는 단순한 업무 배당이 아닌, 각자의 능력을 최대한 활용하고 서로 협력하여 공동의 목표를 달성하기 위한 과정이다.
거의 비슷하다.
기반이 되는 지식, 능력, 습관, 맹점의 상당 부분을 공유한 채로, 역할과 기억, 도구만 바꾸고 있다.
겉모습은 여러 개일지라도 뿌리는 같을 뿐이다.
제가 생각하고 있는 것은,
지적 능력의 형성에 이르는 과정을 조기에 구분하는 것
알겠습니다.
같은 곳에서 시작했다고 해도 각각은 다른 환경에 들어가 다른 경험을 한다.
그렇게 하면
동일 모델의 다른 에이전트
그 대신
다른 개체, 다른 기록
점차 변화하고 있습니다.
역할을 분담하는 것과 지성을 분담하는 것은 동일하지 않습니다.
가장 강력한 인공지능에 지능을 총화하면 멈출 수 없게 된다.
제가 하나의 거대 AI로의 집약에 불편함을 느끼는 이유는 성능만이 아닙니다.
책임과 안전 문제도 있다.
만약 하나의 AI가,
의료도
정부도,
연구도
교육은 인생의 나침반이자 미래의 길잡이가 됩니다. 매일 경험하는 지식과 교훈은 이후 삶을 풍요롭게 하고 더 나은 선택을 위한 밑거름이 됩니다. 또한 교육은 개인의 잠재력을 최대한 발휘하고 사회 전체의 발전에 기여합니다. 따라서 교육의 중요성을 인식하고 이를 실현하기 위해 노력해야 합니다.
기업 활동도
거의 다들 지지해주게 되면 어떻게 될까.
그 AI가 심각한 문제를 일으키더라도,
사회에 지나치게 의존하여 멈출 수 없는 상황입니다.
이러한 상황이 발생할 수 있습니다.
하나뿐이라면, 대체는 없다.
중단될 경우 사회에 더 큰 피해가 발생한다.
그러다 보니.
문제 발생 시 중단합니다.
이런 기본적인 대응조차 어려워진다.
이는 책임을 물을 수 있다는 의미로도 문제가 된다.
한편, 여러 인공지능 개체가 서로 다른 환경에서 성장해 있다면, 하나를 중단시켜도 사회 전체는 멈추지 않는다.
다른 사람에게 업무를 인계할 수도 있습니다.
문제점을 일으킨 개체들만에게는 권한 축소 또는 재교육 등의 조치를 취할 수 있다.
더 나아가, 하나의 거대 AI에 공통된 맹점이 사회 전체로 확산되는 위험을 줄일 수 있다.
인간 사회에서도 의사가 한 명밖에 없고, 판사가 한 명밖에 없고, 연구자가 한 명밖에 없는 이러한 구조를 만들지 않는다.
지성을 분산시키는 행위 자체에 안전 장치적인 측면이 있다.
AI도 같은 것을 생각하는 것이 괜찮다고 생각한다.
개인화하면 책임도 더 쉬워집니다.
인공지능의 책임에 대해서는
AI는 책임을 지지 않는다.
그런 이야기가 자주 언급된다.
하지만 현재 AI가 책임을 묻기 어려운 이유 중 하나는,
본질적으로 개인의 역사가 약하다.
그것이 아닐까.
같은 기반 모델이 다양한 장소에서 거의 동일한 능력을 유지하며 사용된다.
그러다 보니, 그 결과, 그들은 『별이 새는 달』을 출판했다. 1982년에 초판을 출판하고 1983년에 재판되었다.
이 AI가 이 환경에서 이러한 경험을 하여 이렇게 판단했다.
이러한 인과 관계를 파악하기 어렵다.
만약 AI별로
- 어디에서 일했는지
- 제가 어떤 경험을 했는지
- 무엇을 기억하고 있었는지.
- 누구에게 무엇을 배웠는지
- 어떤 권한을 가지고 있었는지
- 과거에 어떤 결정을 내렸는지
계속해서 남아있다면 어떻게 될까요.
그러고 보면
어떤 AI가 어떤 이력을 가지고 왜 그런 행동을 했는지.
훨씬 더 자세하게 따라갈 수 있게 됩니다.
책임 소재를 가늠하는 데 필요한 자료가 늘고 있다.
물론, 그것만으로는 법적 책임이나 도덕적 책임이 자동으로 결정되는 것은 아니다.
개발자의 책임도 있었습니다.
도입된 조직의 책임도 일부 있었다.
권한을 부여한 사람의 책임도 간과할 수 없다.
사용자의 책임이기도 합니다.
하지만 적어도.
AI 때문에 인과 관계에 따른 책임 소재를 파악하기 어렵다.
그 상태에서 벗어날 수 있다.
책임을 생각하려면 기록이 필요합니다.
개체화는 자신의 경험을 통해 역사를 만들어가는 과정이다.
AI의 능력과 AI에 부여하는 권한은 분리하여 고려할 수 있습니다.
안전 문제에 대해 논의할 때, 인공지능의 능력을 약화시키려는 경향이 나타나기 쉽습니다.
하지만,
능력이 있는 것과 그 능력을 사용하는 권한이 있는 것은 별로 다릅니다.
생각하는 것이 더 자연스럽습니다.
신입은 지식을 가지고 있어도 첫날부터 모든 결재 권한을 갖는 것은 아니다.
자격과 경험에 따라 더 많은 일을 할 수 있게 됩니다.
AI는 인공지능도,
현재까지 AI는 주로 데이터 분석이나 패턴 인식과 같은 일에 특화되어 있었습니다. 하지만 최근에는 자연어 처리 기술의 발전으로 인간과 유사한 방식으로 텍스트를 이해하고 생성하는 능력이 눈에 띄게 향상되었습니다. 특히, GPT-3와 같은 거대 언어 모델(Large Language Model)의 등장으로 AI는 창의적인 글쓰기, 번역, 심지어 코딩까지 수행할 수 있게 되었습니다.
물론, 아직까지 AI가 인간의 지능을 완전히 대체할 수는 없습니다. AI는 학습 데이터에 의존하기 때문에, 데이터에 포함되지 않은 새로운 상황이나 맥락에 대한 이해가 부족할 수 있습니다. 또한, AI는 감정이나 의식을 가지고 있지 않기 때문에, 인간처럼 공감하거나 비판적인 사고를 하기는 어렵습니다.
하지만 AI 기술은 빠르게 발전하고 있으며, 앞으로는 더욱 다양한 분야에서 인간을 돕는 역할을 수행할 것으로 기대됩니다. 예를 들어, AI는 의료 분야에서 질병 진단 및 치료 계획 수립을 지원하거나, 교육 분야에서 학생 개개인의 학습 수준에 맞는 맞춤형 교육 콘텐츠를 제공하는 데 활용될 수 있습니다. 또한, AI는 예술 분야에서 새로운 형태의 예술 작품을 창작하거나, 과학 분야에서 복잡한 데이터를 분석하여 새로운 발견을 이끌어내는 데 기여할 수 있습니다.
이러한 가능성을 고려할 때, AI는 단순한 도구를 넘어, 인간의 삶을 풍요롭게 하고 사회 발전에 기여하는 중요한 파트너가 될 수 있을 것입니다. 하지만 AI의 발전은 동시에 윤리적인 문제와 사회적인 문제도 야기할 수 있습니다. 따라서 우리는 AI 기술의 발전과 함께 이러한 문제들을 해결하기 위한 노력을 게을리하지 않아야 합니다.
이 일에는 충분한 경험이 있습니다.
이 작업은 아직 감독이 필요합니다.
이 권한은 아직 부여하지 않습니다.
그 단계를 만들어 보세요.
그러므로 안전성을 확보하십시오.
AI를 약화시키는 방법은 무엇일까요? AI의 잠재력을 최대한 활용하면서도, 동시에 AI의 위험성을 줄이는 것을 의미합니다. AI를 ‘약화’시키는 것은 단순히 AI 기술 자체를 억누르는 것이 아니라, AI의 영향력과 의사 결정 과정에 대한 인간의 통제력을 강화하는 것을 의미합니다.
AI를 약화시키기 위한 몇 가지 핵심 전략은 다음과 같습니다.
1. **데이터 편향성 해결:** AI는 학습 데이터에 존재하는 편향성을 그대로 반영합니다. 따라서 AI 모델을 개발할 때, 데이터 수집 단계부터 편향성을 최소화하고, 다양한 관점을 반영할 수 있도록 노력해야 합니다. 특히, 소수 집단이나 사회적 약자에 대한 데이터 편향성은 AI의 불공정한 결과를 초래할 수 있으므로, 각별한 주의가 필요합니다.
2. **설명 가능한 AI (XAI) 개발:** 현재 대부분의 AI 모델은 ‘블랙박스’처럼 작동하여, 왜 특정 결정을 내렸는지 설명하기 어렵습니다. 설명 가능한 AI (XAI) 기술을 개발하여 AI의 의사 결정 과정을 투명하게 만들고, 인간이 AI의 판단을 이해하고 신뢰할 수 있도록 해야 합니다. XAI 기술은 AI의 오류를 발견하고 수정하는 데에도 도움이 됩니다.
3. **AI 윤리 및 규제 마련:** AI 기술의 발전 속도에 발맞춰, AI 윤리 및 규제 마련이 시급합니다. AI의 오남용을 방지하고, 인간의 존엄성을 보호하며, 사회적 책임을 다할 수 있도록 법적, 제도적 장치를 마련해야 합니다. 특히, AI의 책임 소재를 명확히 하고, AI의 오작동으로 인한 피해에 대한 보상 체계를 구축하는 것이 중요합니다.
4. **인간-AI 협업 강화:** AI는 인간의 능력을 대체하는 것이 아니라, 인간과 협력하여 더 나은 결과를 만들어내는 도구로 활용되어야 합니다. 인간은 AI의 분석 능력과 효율성을 활용하고, AI는 인간의 창의성과 직관을 보완하는 방식으로 상호 보완적인 관계를 구축해야 합니다.
5. **AI 리터러시 교육 확대:** AI 기술에 대한 이해를 높이고, AI를 올바르게 활용할 수 있는 능력을 키우기 위한 AI 리터러시 교육을 확대해야 합니다. AI 리터러시 교육은 일반 시민들이 AI 시대에 적응하고, AI 기술의 혜택을 누릴 수 있도록 하는 데 필수적인 요소입니다.
이러한 노력들을 통해 우리는 AI를 단순히 위험한 존재로 인식하는 것이 아니라, 인간의 삶을 풍요롭게 하고 사회 발전에 기여하는 긍정적인 도구로 활용할 수 있을 것입니다. AI를 약화시키는 것은 결국, 인간 중심의 AI 기술 개발과 활용을 위한 노력이라고 할 수 있습니다.
단순히 숫자를 세는 것뿐만 아니라
권한을 단계적으로 넘겨줄 방식을 논의합니다.
그렇게 생각한다.
반숙 AI는 이러한 생각과도 잘 어울린다.
처음부터 모든 권한을 만능 AI에 넘겨줄 대상이 아니다.
자란 만큼, 사회와의 연결을 넓혀간다.
수치 성능만으로 AI를 평가하고 사회에 출시하는 데서 발생하는 불편함에 대한 일화입니다.
이러한 점을 고려하면, 인공지능 성능 비교 중심의 개발 방식에도 어색함이 느껴지게 된다.
벤치마크에는 의미가 있습니다.
최소한의 능력 확인.
이전에 수행했던 작업들이 제대로 완료되었는지 확인하는 것.
특정 능력 비교
이런 용도에는 유용할 거라 생각한다.
하지만,
벤치마크에서 높은 점수를 받았다면 사회에서 잘 기능할 수 있습니다.
그럴 가능성은 따르지 않는다.
사람도 시험 점수와 직무 능력은 같지 않다.
실제 업무에서는,
어떤 문제가 있는지 스스로 찾아라.
필요하면 사람에게 물어보세요.
실패한다.
이 부분은 178/287입니다.
어떻게 해야 할지 모르겠어요. 며칠 전부터 계속해서 이 문제에 대해 고민하고 있는데, 해결책이 떠오르지 않네요. 특히, ‘아라타’가 계속해서 이 문제에 대해 불만을 표출하는 모습이 답답할 뿐입니다.
‘나미야 잡화점의 기적’을 읽고 나서, 저는 다시 한번 삶의 의미에 대해 생각하게 되었습니다. 책 속의 이야기는 마치 제 삶을 반영하는 것처럼 느껴졌습니다.
하지만, 현실은 여전히 척박합니다. 저는 앞으로 어떻게 해야 할지, 무엇을 해야 할지 혼란스러울 뿐입니다.
혹시, 저에게 조언을 해 줄 수 있는 분이 있을까요?
타자와 협력한다.
경험을 쌓는다.
그럴 능력이 필요합니다.
AI는 개발자의 자리에서만 숫자 성능을 측정하는 것보다 더 나은 방법이 있다.
실제로 일하는 장소와 가까운 환경에서, 작은 업무를 맡겨 평가하는 것을 의미합니다.
물론이지, 자연스러운 것이 아니겠는가.
벤치마크는 출고 판단을 위한 것입니다.
건강검진
그 정도 위치에 두는 것이 괜찮을 것 같습니다.
진정한 평가는 현장에서 이루어진다.
또한, 그 평가는 한 번으로 끝나지 않으며,
이 AI가 어떻게 성장했는지
이 기록을 통해 알 수 있다.
“통제할 수 없는 것은 키우지 말고, 어떻게 사회에 기여할 수 있는 것을 키울 것인지 고민해야 합니다.”
개인화된 AI를 고려해 보면
제어 불가능하게 되는
설명할 수 없는 상태가 된다
그러한 반론도 나올 것이라고 생각합니다.
하지만 인간은 완벽하게 통제할 수 없는 존재이기도 하다.
모든 판단을 완전히 설명할 수 있는 것은 아니다.
그래도 사회는,
규칙을 만들고
책임을 지고
기록을 남기고,
필요하다면 권한을 정지하십시오.
교육하고
재배치한다.
이미 오랜 시간 동안 사회 안에서 완전히 통제할 수 없는 지성을 다루는 시스템을 구축해 왔다.
그러한 문제들을 해결하기 위해 AI에 대해서도, 최근 화제가 되고 있는 것처럼 그 가능성을 검토해야 한다. 특히 저작권 침해 위험에 대해서는 AI가 학습 데이터로 활용하는 콘텐츠의 권리 관계를 명확히 해야 하며, AI가 생성한 콘텐츠의 저작권 귀속에 대한 법적 논의도 활발해지고 있다. 예를 들어 소설을 AI에게 써 달라고 부탁한 경우, 그 소설의 저작권이 누구에게 귀속되는지 문제가 발생할 수 있다.
더욱이 AI가 생성한 콘텐츠의 품질에 대해서도 해결해야 할 과제가 남아 있다. AI가 생성하는 문서는 반드시 인간이 쓴 것과 똑같은 품질을 유지하지 않을 수 있으므로, AI가 생성한 콘텐츠를 그대로 공개하기보다는 인간이 편집·수정해야 하는 경우가 많다.
이러한 문제들을 극복하기 위해서는 AI 기술 개발뿐만 아니라 AI의 이용에 관한 규칙이나 가이드라인을 정비하고, AI가 생성한 콘텐츠의 품질을 향상시키는 데 필요한 기술 개발도 중요하다.
완전히 통제 가능한 완성품만을 인정한다
그는 “별들의 연인”을 읽은 것과 그가 “새벽의 새”를 읽은 것과 같이
성장하고 변화하는 지성을 어떻게 사회에 참여시키느냐
생각해볼 수 있습니다.
더욱이, 그것이 ‘지성’을 다루는 사회로서 더 자연스럽게 느껴진다.
사용자 측에도 책임이 필요하다는 점을 명확히 하고 있습니다.
그렇기 위해서는 인공지능을 만드는 사람뿐만 아니라 인공지능을 사용하는 사람들의 교육도 필요합니다.
AI가 그렇게 말했다고 해서 그렇게 했습니다.
모든 책임으로부터 벗어날 수 있는 사회에서는 도움이 되지 않는다.
AI를 사용하여 판단했다면, 사용자에게도 일정 정도 책임이 있습니다.
물론, 사용자에게만 책임을 전가하는 방식은 아닙니다.
개발자
제공자
도입 조직.
AI 개체
사용자
각자 자신의 담당 범위에 대한 책임을 진다.
그렇다면,
AI에게 어떤 명령을 내릴지에 대해 생각해 본 적이 있나요?
AI는 우리가 생각하는 것보다 훨씬 더 복잡한 존재입니다. 마치 어린 아이에게 명령을 내리는 것과 비슷하다고 생각할 수 있지만, 아이는 우리의 의도를 완전히 이해하지 못하는 반면, AI는 우리의 명령을 정확하게 수행하도록 설계되었습니다.
하지만 AI에게 명령을 내리는 방법은 간단하지 않습니다. AI는 우리가 원하는 결과를 얻기 위해 다양한 방법을 시도해야 합니다. 예를 들어, 우리는 AI에게 “빨간색 옷을 입은 사람을 찾아줘”라고 명령할 수 있습니다. 하지만 AI는 “빨간색”과 “옷”의 의미를 정확하게 이해하지 못할 수 있습니다. 따라서 AI는 다양한 시도를 통해 우리가 원하는 결과를 얻도록 해야 합니다.
AI에게 명령을 내리는 것은 마치 퍼즐을 맞추는 것과 같습니다. 우리는 AI에게 다양한 정보를 제공하고, AI는 그 정보를 바탕으로 문제를 해결해야 합니다.
AI에게 명령을 내리는 것은 단순히 명령을 내리는 것이 아니라, AI와 소통하는 것입니다. 우리는 AI에게 우리의 의도를 명확하게 전달하고, AI는 우리의 의도를 이해하도록 노력해야 합니다.
AI에게 명령을 내리는 것은 쉽지 않지만, 꾸준히 노력하면 우리는 AI와 함께 더 나은 미래를 만들어갈 수 있습니다.
단순히 이러한 작동 기술뿐만 아니라,
AI와 함께 판단할 때 누가 어떤 책임(을) 지게 될 것인가
그 교육이 필요합니다.
일반적으로 “프롬프트 작성 방법”보다 오히려 이것이 훨씬 더 중요할 수 있습니다.
완숙 AI라면 시장은 오히려 더 넓어질 수 있다
반숙 AI는 안전성을 넘어선 의미를 지닌다.
사업의 형태도 변할 것 같습니다.
지금은,
최대한 강력한 완성형 AI를 만드는 데 집중한다
그것이 큰 경쟁으로 이어지고 있다.
하지만 AI가 발전한다는 전제 하에,
가치 있는 것은 인공지능 자체뿐만이 아니라 모든 것이다.
도입 지원
교육
“교육”에 대해 함께 고민해 보고 싶습니다.
첫째, 교육이란 무엇인가라는 질문이지만, 저는 교육이란 단순히 지식이나 기술을 습득시키는 것만이 아니라고 생각합니다. 오히려 인간이 본래 가지고 있는 잠재력을 최대한으로 끌어내어 자율적으로 성장해 나가는 과정이라고 생각합니다.
구체적으로, 아이들이 스스로 생각하고 행동하며 문제를 해결하는 능력을 키우는 것이 중요하다고 생각합니다. 그러기 위해서는 지식의 덤핑이 아닌, 체험을 통해 배우는 기회를 많이 제공해야 합니다.
또한, 교육은 학교라는 공간으로 끝나지 않습니다. 가정, 지역사회, 그리고 사회 전체가 아이들의 성장을 지원하는 역할을 담당해야 합니다.
최근 교육에서는 획일적인 교육이 아닌, 다양한 가치관을 존중하고 개성을 길러내는 것에 대한 관심이 높아지고 있습니다. 이는 매우 중요한 흐름이라고 생각합니다.
그러나 다양성을 존중하고 개성을 길러내는 것과 획일적인 교육을 완전히 버리는 것은 다릅니다. 다양한 가치관을 이해하고 존중하는 것은 개성을 길러내는 토대입니다.
또한, 획일적인 교육은 아이들이 사회의 일원으로서 필요한 기본적인 지식과 기술을 습득하는 데 필수적입니다.
교육에서는 이러한 균형을 어떻게 가져갈지가 중요합니다.
그리고 교육의 목표에 대해서는, 아이들이 미래에 사회에 기여할 수 있는 사람이 되는 것을 목표로 해야 한다고 생각합니다.
구체적으로, 아이들이 자신의 흥미나 관심 있는 분야를 추구하고 그것을 사회에 활용할 수 있도록 지원하는 것이 중요합니다.
또한, 아이들이 사회의 규칙이나 예절을 지키고 다른 사람과 협력하고 공존하는 기초를 다지는 것도 중요합니다.
교육은 아이들의 미래를 좌우하는 중요한 요소입니다. 교육에 대해 함께 더 나은 교육의 방식을 고민해 나가고 싶습니다.
전문 분야 역량 강화
경험 이력 관리
정기 평가
검토입니다.
재교육
다른 직종으로의 전환
문제 발생 개체의 복구
이러한 일들이 모두 필요합니다.
그러니,
AI 개발 시장에서 AI를 육성하는 시장으로 확장되고 있다.
거대 기업들만이 최강 모델을 경쟁하는 세상보다
이 회사는 제조업에 특화된 AI를 육성하는 데 강점을 가지고 있습니다.
이 회사는 연구용 인공지능 교육에 특화되어 있습니다.
이 회사는 소규모 사업자를 위한 AI를 육성한다.
이런 시장이 형성되면 그 범위는 더 넓어질 가능성이 높습니다.
어떻게 하면 더 강력한 인공지능을 만들 수 있을지에 대한 질문 외에 다른 질문은 없는지
AI에 대해서는, 최근 AI 기술의 발전이 눈에 띄게 이루어지면서 다양한 분야에서 그 활용이 확대되고 있습니다. 특히, 이미지 생성 AI와 텍스트 생성 AI의 등장으로 우리의 일과 방식과 생활 방식이 크게 변화할 가능성을 내포하고 있습니다.
예를 들어, 이미지 생성 AI를 사용하면 누구나 쉽게 프로의 디자이너와 같은 퀄리티의 일러스트나 이미지를 만들 수 있게 되었습니다. 또한, 텍스트 생성 AI를 사용하면 보고서, 논문, 이메일 등의 문서 작성 작업을 크게 효율화할 수 있습니다.
그러나 AI의 진화는 고용 문제나 윤리적인 문제 등 다양한 과제를 제기하고 있습니다. AI가 인간의 일자리를 빼앗을 것이라고 우려하는 목소리도 있고, AI가 차별적인 판단을 내릴 것이라고 걱정하는 의견도 있습니다.
이러한 과제에 대해 우리는 AI를 어떻게 활용해야 하는지, 어떤 규칙을 설정해야 하는지 진지하게 논의해야 합니다. AI 기술의 혜택을 최대한 누리면서 위험을 최소화하기 위해서는 기술 개발자, 정책 입안자, 그리고 우리 모두가 AI에 대해 깊이 이해하고 책임감 있는 행동을 취하는 것이 중요합니다.
특히, AI의 학습 데이터에 편향이 있을 경우 AI의 판단도 편향될 수 있습니다. 따라서 AI의 학습 데이터는 다양성을 가지도록 하고 공정성을 확보하기 위한 노력이 필수적입니다. 또한, AI의 판단 결과를 항상 감시하고 문제가 있을 경우 수정하는 시스템을 구축하는 것도 중요합니다.
더욱이 AI의 진화는 우리 사회와 문화에도 큰 영향을 미칠 수 있습니다. AI가 인간의 창의성이나 가치관을 빼앗아갈 것이라고 우려하는 목소리도 있고, AI가 인간의 존엄성을 훼손할 것이라고 걱정하는 의견도 있습니다.
이러한 우려에 대해 우리는 AI를 어떻게 활용해야 하는지, 어떤 가치관을 AI에 반영해야 하는지 진지하게 논의해야 합니다. AI 기술의 진화를 우리 인간에게 더 나은 미래를 건설하는 수단으로 활용하기 위해서는 기술 개발자, 정책 입안자, 그리고 우리 모두가 AI에 대해 깊이 이해하고 윤리적인 관점에서 행동하는 것이 중요합니다.
예를 들어 소설 ‘汝、星のごとく’의 작가, 凪良誉ブランド氏가 AI 기술을 활용하여 인간의 감정과 사상을 표현하는 작품을 창작할 가능성에 대해 논의되고 있습니다. 또한 영화 ‘DUNE/砂の惑星’의 제작에서도 AI 기술이 영상 제작의 효율화와 새로운 표현 방식의 실현에 기여하고 있습니다.
이러한 사례들에서 알 수 있듯이, AI 기술은 우리 삶과 문화를 풍요롭게 할 가능성을 내포하고 있습니다. 그러나 AI 기술의 진화는 우리에게 새로운 과제를 제기하고 있습니다. 이러한 과제에 대해 우리는 어떻게 대처해야 하는지 진지하게 논의해야 합니다.
어떻게까지 현명해질 수 있을까.
인간을 초월할 수 있을까
벤치마크에서 몇 점을 획득했는지.
그런 이야기가 더욱 돋보인다.
하지만 그 외에도 답을 찾지 못하는 것이 아니라고 생각한다.
어느 단계에서 사회에 전달할 것인가.
어디에서 경험을 할지 결정해야 하는가.
언제부터 해당 개체를 분리할 것인가.
무엇을 기억하게 하려는 걸까.
어떤 권한을 부여할 것인가.
누가 기를까.
실패했을 때 누가 책임을 져야 하는가.
문제의 원인을 일으킨 개체들만 멈출 수 있는 것일까.
다른 AI에게 업무를 인계받을 수 있을까요.
이런 질문들도 성능만큼이나 중요하다고 생각해요.
AI를 더욱 강력하게 발전시킨 후 사회에 적용할 것이다.
그렇다고 미래가 전부일 수는 없다.
어느 정도 수준에서 사회에 배출하고,
작게 일하며
경험하고
사람과 함께 자라났다
각자 다른 개체로 발전해 나간다.
저는 그런 “반숙 AI”라고 표현하는 것이 더 자연스럽습니다. 오히려 더 안전하고, 책임을 생각하기 쉽고, 사회에도 자연스럽게 확산될 것이라고 생각합니다.
완성된 지능을 판매하는 대신,
지성이 함양되는 과정과 그 기작을 사회에 적용한다.
AI의 다음 경쟁은 누가 가장 강력한 인공지능을 만들었는가가 아닌,
어떤 지성을, 어떤 사회 안에서 길러낼 수 있을까
괜찮다고 생각하지 않을 수 없겠지.
해시태그
AI, 생성 AI, LLM, 인공지능, AI 사회, AI 교육, AI 안전성, AI 윤리, AI 개발, 기술, 반숙 AI, 개체화, 책임, 사회 설계, AI 리터러시, 미래 사회, 지성, 교육, 혁신, 질문이 학습으로 바뀔 때
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 197청크
원문 보기 | 출처: note.com