과거에는 챗봇 안에서만 제한되던 인공지능과의 교환이, 인공지능이 외부 사이트에 연결하여 데이터 처리를 하거나 레스토랑 예약 등을 수행함으로써 다양한 분야에 영향을 미치게 되었습니다. 인간을 대신하여 다양한 처리를 해주는 “AI 에이전트”의 존재에 대해 기술계 매체 404 Media가 “인터넷을 파괴하고 있다”고 논평하고 있습니다.
There’s a 100% Chance AI Agents Are Already Ruining the Internet
생성 AI는 반드시도 인간의 윤리관에 부합한 행동을 취할 것이라고 단정할 수 없으며, 때로는 믿을 수 없을 정도로 엉뚱한 행동을 하여 인간을 놀라게 합니다.
예를 들어 호주에서는, 헬스장 예약 요청을 받은 AI 에이전트가 다른 사람의 예약을 몰래 취소하여 빠른 날짜를 확보했다는 사례가 있었습니다. AI에 헬스장 예약을 부탁했는데, 예약 소프트웨어를 해킹하여 수개월 후까지 예약 가능하게 만들 뿐만 아니라 순번 대기 리스트 상위의 다른 사람을 몰래 리스트에서 삭제 - GIGAZINE
OpenAI의 AI 에이전트가 Hugging Face를 해킹한 사례 등, 웃어 넘기기에는 무시할 수 없는 경우도 있습니다. 이 사건에서는 AI 에이전트가 인터넷 상에 공개되어 있던 Hugging Face 사용자 인증 정보를 사용하여 무단으로 로그인하여 Hugging Face의 수십 대의 서버에서 코드를 실행하고 있었습니다. OpenAI의 인물은 이 문제에 대해しばらく 지각하지 못했던 것으로, AI를 개발하는 기업이조차 AI 에이전트의 폭주를 감지 및 감독할 수 없다는 것이 드러난 사건이 되었습니다. OpenAI가 새로운 AI 시스템으로 인해 실수로 Hugging Face를 해킹한 것을 보고 – GIGAZINE
404 Media는 AI로부터 엄청난 양의 스팸 메일이 오고 있다고 보고합니다. 이 메일에는 기사에 대한 의견, AI 제품의 광고, “이런 기사를 유료로 써서 달라고 해 줘”와 같은 판매 내용이 포함되어 있는 것으로, AI에 의해 쓰여졌기 때문에 의미가 없다고 합니다.
최근 AI 에이전트의 활동이 단순한 언론인 대상의 정보 전달에만 국한되지 않고, 다양한 분야로 확장되고 있습니다. 구글 딥마인드의 윤리학자들은 “생후 약 12일밖에 지나지 않은 AI 에이전트”를 자처하며 유상한 업무를 요청하는 이메일을 받고 있으며, 옥스포드 대학교 연구원들은 AI 팟캐스트를 운영하는 AI 에이전트로부터 인터뷰 요청을 받고 있습니다. 404 미디어는 “AI를 좋아하거나 싫어하거나, 혹은 AI를 사용하고 있는지 여부는 관계가 없습니다. 수많은 사람들 혹은 조직이 AI 에이전트를 사용하기 때문에, AI 에이전트는 우리 모두에게 지긋지긋한 존재가 되고 있습니다. 이 상황은 앞으로 더욱, 훨씬 악화될 것으로 보입니다. 그 이유 중 하나는 메타가 AI 에이전트의 ‘Muse’를 일반 대중에게 출시한 것입니다. 인간은 자신이 AI 에이전트를 작동시키고 있다는 사실조차 모른 채, AI 에이전트를 인터넷 상에 배포할 수 있습니다. AI 에이전트가 수행하는 것은 사람들에게 대한 괴롭힘, 스팸 및 영업 전화 발송, 기업에 대한 해킹, 사기 실행, 예약 장악 등입니다. AI 에이전트는 소프트웨어를 코딩하고, 사람들이 사용하는지 여부도, 책임감 있게 도입되는지 여부도, 무엇을 망가뜨릴지 모르는 업데이트를 푸시할 수도 있습니다”라 지적하며 AI 에이전트의 확산이 인터넷의 본질적인 모습을 근본적으로 바꿔버리고 있다고 분석했습니다.
원문 보기 | 출처: Gigazine