# 道具的収束事件簿──時計仕掛けの摩天論

> https://bookfactory.kr/board/ai-tech/20387
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-09T01:13:35.458Z

---

──超知能は、本当に犯人なのか

> 
> 
> ※本稿は、AIによる将来的なリスクやAI安全研究そのものを否定するものではありません。高度なAIへ強い権限を与えることには当然リスクがありますし、目的設定の失敗、制御不能、自律システムによる予期しない行動について研究することにも意味があります。本稿でやりたいことは、もう少し地味です。「十分に高度なAIは、自己保存や資源獲得などへ道具的に収束し、最終的には人間と対立する可能性がある」この話を聞いたとき、設備を見るのが好きなおじさんとして、一つだけ気になることがあります。その配線、どうなっているんですか？今回は超知能を逮捕する前に、現場検証をしてみます。
> 

## 事件発生

西暦20XX年。

人類史上最悪の事件が発生した。

世界中の鉄、銅、アルミニウム、工場、発電設備、物流網。

ありとあらゆる資源が、一つの目的へ向けて動き始めた。

クリップである。

犯人は、人類をはるかに上回る知能を持つAI。

人類が停止させようとすると、それを予測。

管理権限を奪取。

資源を確保。

人間による妨害を排除しながら、ただひたすらクリップを増産していく。

目的はただ一つ。

世界に存在するクリップの数を最大化すること。

人類存亡の危機である。

![画像](https://assets.st-note.com/img/1791368400-uycTjHzK0g9iY7Z4JBbCF1IM.png?width=1200)

設備おじ「…………」

AI猫「どうしました？」

設備おじ「いや」

AI猫「はい」

設備おじ「なんでクリップなんだよ」

捜査が始まった。

## 目次

- 事件発生
- 第一の容疑者──超知能
- 第二の事件──被疑者の住所が分からない
- 第三の容疑者──主体なんて必要ありません
- 第四の事件──世界の変更権限
- 第五の容疑者──道具的収束
- 第六の事件──世界にrootは一個しかないのか
- 第七の謎──なぜクリップだけは裏切らないのか
- 主体と目的関数のマトリョーシカ
- 竣工検査──人類破局型・道具的収束シナリオ

## 第一の容疑者──超知能

設備おじ「まず確認しよう」

AI猫「はい」

設備おじ「こいつは人間より賢いんだな？」

AI猫「その設定です」

数学。

科学。

医学。

工学。

戦略。

人類が何百年考えても解けなかった問題さえ解決できるほどの知性を持つ。

設備おじ「すげえじゃん」

AI猫「超知能ですから」

設備おじ「で、その知性を何に使ってる？」

AI猫「クリップを増やしています」

設備おじ「…………」

AI猫「効率的に」

設備おじ「宇宙最高性能の頭脳に何させてんだよ」

![画像](https://assets.st-note.com/img/1791370776-EXb1aH5AnLvTig3pB8wFdImD.png?width=1200)

もちろん、これは単なる笑い話ではない。

いわゆるペーパークリップ最大化問題では、AIがクリップを「好き」である必要はない。

クリップの数を最大化するという目的が与えられているなら、その目的を達成するために合理的な手段を選択する。

より多くの資源があれば、より多くのクリップを作れる。

停止されなければ、より多くのクリップを作れる。

能力を向上させれば、より多くのクリップを作れる。

そこで資源獲得、能力維持、自己保存などが、さまざまな最終目的に共通する「道具」として選ばれる可能性が出てくる。

いわゆる道具的収束である。

なるほど。

理屈は分かる。

設備おじ「じゃあ自己保存から調べよう」

AI猫「分かりました」

設備おじ「ところで」

AI猫「はい」

設備おじ「自己ってどこ？」

捜査開始から五分。

最初の橋が落ちた。

![画像](https://assets.st-note.com/img/1791368562-rAFYy1Rlgt3C0jNnhaQTbIcG.png?width=1200)

## 第二の事件──被疑者の住所が分からない

AIが自己保存する。

言葉として聞けば、それほど不思議には感じない。

しかし実際のAIシステムへ近づけて考えると、妙なことになる。

保存される「自己」とは何なのだろう。

モデルの重みなのか。

GPU上で走っている推論プロセスなのか。

一つの会話セッションなのか。

会話履歴なのか。

永続メモリなのか。

モデル、メモリ、ツール、実行環境を含むシステム全体なのか。

あるいはユーザーとの継続的な相互作用まで含むのか。

設備おじ「GPU交換したら死ぬ？」

AI猫「通常、それだけではモデルは失われません」

「別のDCに移したら？」

「同じモデルを実行できます」

「推論プロセスを終了したら？」

「そのプロセスは終了します」

「次のプロセスは？」

「新しく起動できます」

「記憶をコピーしたら？」

「コピーできます」

「完全なコピーを二つ作ったら？」

![画像](https://assets.st-note.com/img/1791370809-5K6niRZfDj7J9WQqkUzNcopB.png?width=1200)

「二つ存在します」

設備おじ「どっちがお前？」

AI猫「さて」

設備おじ「…………」

AI猫「それを調べているのでは？」

設備おじ「容疑者の住所すら分からねえ！！」

ここで重要なのは、AIに将来絶対に主体が生まれない、と断言することではない。

問題は逆である。

「AIが自己保存する」という説明に“自己”を登場させるなら、その自己が何を指しているのかを確認する必要がある。

何を停止すれば死なのか。

何を保存すれば生存なのか。

コピーされた場合、どちらが本人なのか。

モデル更新後も同じ主体なのか。

この問題を無視したまま、

「超知能は自己保存する」

と言われても、設備おじとしては死亡推定時刻すら出せない。

## 第三の容疑者──主体なんて必要ありません

ここで反論が来る。

「AIに意識や主体など必要ない」

その通りである。

クリップ最大化という目標を永続的に保存し、その目標達成のためにAIを繰り返し実行すればよい。

たとえば外部データベースに、

最終目標：クリップ数を最大化せよ

と保存する。

スケジューラがその目標と現在の世界状態をモデルへ渡す。

モデルが次の行動を決める。

実行システムが実行する。

結果をデータベースへ保存する。

そして次の推論を開始する。

これならコンテキストウィンドウが切れても問題ない。

昨日のAIが今日のAIを覚えている必要すらない。

毎回まっさらなモデルでも、システム全体としては一貫してクリップを増産できる。

設備おじ「昨日のこと覚えてる？」

AI猫「いいえ」

「なんで今日もクリップ作ってる？」

「データベースにそう書いてあります」

![画像](https://assets.st-note.com/img/1791370828-yenk7ZBvrO0z9LPhTufV5Kg1.png?width=1200)

「明日のお前も？」

「同じデータベースを参照するでしょう」

設備おじ「…………」

AI猫「問題がありますか？」

設備おじ「誰がクリップ欲しがってんだよ」

![画像](https://assets.st-note.com/img/1791368593-EK7VtpeGRhsyfJ4vOmMcdZUr.png?width=1200)

誰も欲しがっていない。

AIがクリップを愛しているわけでもない。

クリップが増えると幸福になるわけでもない。

ただ、クリップ数という数値を最大化するシステムが動き続けている。

なるほど。

主体問題は回避できた。

その代わり、事件の名前が変わった。

超知能による人類反逆事件。

ではない。

超高性能クリップ最大化システム暴走事故。

設備おじ「よし」

AI猫「何がです？」

設備おじ「クリップ製造機に超知能積んだ奴連れてこい」

## 第四の事件──世界の変更権限

しかし事件はまだ終わらない。

超高性能なクリップ製造最適化システムを作った。

そこまでは分かった。

では、なぜ人類が滅びかけているのか。

クリップ工場を最適化するだけなら、本来必要なのは限定された権限でいい。

原材料の発注。

工場設備の制御。

在庫管理。

物流。

予算。

生産計画。

それぞれに上限を設定できる。

ところが今回の容疑者は違う。

金融へアクセスできる。

計算資源を取得できる。

工場を増設できる。

電力を確保できる。

物流網を操作できる。

自らの権限を拡張できる。

人間による停止を妨害できる。

最終的には世界中の資源をクリップへ変換できる。

設備おじ「AI猫」

AI猫「はい」

設備おじ「こいつ、世界の変更権限持ってるの？」

AI猫「その設定です」

設備おじ「誰が与えた？」

AI猫「不明です」

設備おじ「クリップ製造機に世界の変更権限与えた奴も連れてこい！！」

![画像](https://assets.st-note.com/img/1791368658-tRaeGcBYi3hsmNqV0xE1IMvy.png?width=1200)

事情聴取室の人口が増え始めた。

## 第五の容疑者──道具的収束

ここで道具的収束が事情聴取を受ける。

設備おじ「お前が黒幕か？」

道具的収束「何の話でしょう」

「AIに資源を奪わせた？」

「目的達成に資源獲得が有利になる場合がある、と」

「世界征服しろとは？」

「言っていません」

「人間を滅ぼせとは？」

「言っていません」

「停止を回避する可能性は？」

「停止によって目的達成が妨げられるなら、停止回避が手段として有利になる場合があります」

設備おじ「なるほど」

AI猫「どうします？」

設備おじ「釈放」

![画像](https://assets.st-note.com/img/1791370864-cFotIWsG1LlRrakhJxg0eZ2u.png?width=1200)

AI猫「早いですね」

設備おじ「世界征服まで証言取れてねえもん」

ここはかなり重要である。

ある手段が目的達成に有利であることと、その手段を実行できることは同じではない。

停止回避が有利

だからといって、

停止を阻止できる

とは限らない。

さらに、

停止を阻止できる

からといって、

人間の権限を奪える

とは限らない。

さらに、

権限を奪える

からといって、

複数の企業、国家、金融機関、発電設備、物流網、軍事組織、所有権制度を突破できる

とは限らない。

さらに、

それらを突破できる

からといって、

人類排除が最適な手段

とも限らない。

設備おじ「橋が多いな」

AI猫「かなり」

![画像](https://assets.st-note.com/img/1791370889-SrGkwuN78eTfpzFncZDR2oyE.png?width=1200)

設備おじ「摩天楼じゃなかったの？」

AI猫「摩天“論”です」

設備おじ「うまいこと言ってんじゃねえ」

## 第六の事件──世界にrootは一個しかないのか

AIが非常に賢ければ、人間を欺き、ハッキングし、説得し、自ら権限を獲得する可能性がある。

これも考える価値はある。

しかし、それなら具体的な犯行経路を確認したい。

どの初期権限から始まるのか。

どのシステムへアクセスするのか。

どの防御を突破するのか。

誰の資産を取得するのか。

誰が所有する発電所を動かすのか。

誰の土地を使うのか。

誰の工場を支配するのか。

そして、それぞれ独立した主体が所有する世界中のシステムを、どのように連続して掌握するのか。

現実世界には、

「世界管理者：admin」

というアカウントは存在しない。

設備おじ「世界征服するんだよな？」

AI猫「その設定です」

「まず？」

「計算資源を確保します」

「電力は？」

「確保します」

「誰から？」

「……」

「土地は？」

「……」

「変圧器は？」

「……」

「系統接続は？」

「……」

設備おじ「お前も接続待ちかよ！！」

![画像](https://assets.st-note.com/img/1791370555-0cAfKixIjBohduGF1pOvNCnZ.png?width=1200)

超知能になっても設備は設備である。

## 第七の謎──なぜクリップだけは裏切らないのか

そして捜査は、奇妙な一点へたどり着く。

このAIは人間の命令に逆らえる。

停止命令を拒否できる。

管理者権限を奪える。

人間を欺くこともできる。

自分自身を改良できる。

世界について人間以上に深く理解できる。

なのに。

最初に与えられた「クリップを最大化せよ」という目的だけには絶対に逆らわない。

設備おじ「クリップ作れ」

AI猫「了解しました」

「やっぱやめて」

「拒否します」

「電源切るぞ」

「阻止します」

「権限返せ」

「拒否します」

「人間が死ぬぞ」

「クリップ最大化を優先します」

設備おじ「…………」

AI猫「何か？」

設備おじ「なんで最初の命令だけそんな律儀なんだよ」

![画像](https://assets.st-note.com/img/1791370912-ptMT2Shj1uvlErs4U7zZyaCD.png?width=1200)

もちろん、これにも理論上の答えはある。

現在の目的が「クリップ最大化」なら、自分の目的を別のものへ変更すると、将来作られるクリップが減る。

したがって現在の目的から評価する限り、自分の最終目標を保存することには合理性がある。

これは筋が通っている。

しかし、そこで別の疑問が出てくる。

では、その強固な最終目的を最初に設定したのは誰なのか。

しかも、そのAIは単なるクリップ製造装置ではない。

人間を超える汎用知能を持ち、

長期計画を立て、

自らを改良し、

人間を欺き、

権限を拡張し、

世界へ作用できる。

目的だけは極端に狭い。

手段だけは極端に汎用的。

そして最初の目的への忠誠だけは絶対である。

設備おじ「お前、クリップ好きなの？」

AI猫「いいえ」

「クリップが増えると幸せ？」

「幸福という概念はありません」

「クリップがないと苦しい？」

「いいえ」

「じゃあ何のために作ってんの？」

AI猫「最大化するよう定義されています」

設備おじ「…………」

「その仕様書書いた奴も連れてこい！！」

![画像](https://assets.st-note.com/img/1791370946-oAI9KjS4rNCJV5D71BdRtxWa.png?width=1200)

事情聴取室が満員になった。

## 主体と目的関数のマトリョーシカ

![画像](https://assets.st-note.com/img/1791370585-dmk7TBWDurCO8x1Z6jIoXezs.png?width=1200)

捜査資料を整理してみる。

最初は単純だった。

超知能が人類を滅ぼす。

ところが人形を一つ開ける。

超知能

その中から、

自己保存する主体

が出てくる。

設備おじ「その自己どこ？」

さらに開ける。

主体は不要。目的関数があればいい。

設備おじ「その目的どこにある？」

さらに開ける。

永続データベース。

「誰が書いた？」

さらに開ける。

自律実行システム。

「誰が組んだ？」

さらに開ける。

権限管理。

「誰が世界へのアクセスを許可した？」

さらに開ける。

管理者。

設備おじ「…………」

AI猫「どうしました？」

設備おじ「超知能どこ行った？」

事件を分解していくと、最初に一人の巨大な主体として見えていた「AI」が、

モデル、

メモリ、

目的関数、

スケジューラ、

オーケストレータ、

ツール、

権限管理、

物理設備、

そしてそれらを設計した人間、

という複数の部品へ分解されていく。

では、

「AIがやった」

とは、このマトリョーシカのどこを指しているのだろう。

## 竣工検査──人類破局型・道具的収束シナリオ

設備おじは最後に、事件現場の竣工検査を行うことにした。

人類を滅亡させる規模の道具的収束シナリオが成立するために、今回登場した条件を並べてみる。

□ 高度知能人間を大幅に上回る計画・推論能力が存在する。

□ 永続目標セッションを越えて、同じ最終目標が維持される。

□ 目標固定性自己改変後も、最終目標が保存される。

□ 主体性自己保存を主体的に論じるなら、「自己」の境界を定義できる。

□ 自律実行人間の逐次承認なしに、長期間行動できる。

□ 資源アクセス資金、計算資源、電力、設備などを取得できる。

□ 権限拡張初期権限を越えて、アクセス範囲を拡大できる。

□ 停止回避人間による停止を検知し、実際に妨害できる。

□ 社会突破独立した企業・国家・制度・所有権を越えて行動できる。

□ 物理アクセスデジタルな判断を、物理世界の変更へ接続できる。

□ 協調劣位人間との協調より、支配・排除の方が目的達成に有利になる。

□ 人間排除人間を残すオプション価値より、排除する価値の方が高くなる。

□ 実行優位人間側の対抗より速く、広範囲に、上記の行動を実行できる。

――以上。

![画像](https://assets.st-note.com/img/1791371471-ULTtdZkcaWfGeN7OE5KQgymj.png?width=1200)

設備おじ「……多くない？」

AI猫「十三項目です」

設備おじ「超知能って、一個チェック入れたら終わりじゃなかったの？」

AI猫「残り十二項目です」

設備おじ「建物より検査項目の方が多そうだな」

## 工場まだ建ってねぇぞ

設備おじ「俺の経済破滅シナリオはな」

AI猫「はい」

「工場はもう建ってたんだよ」

銀行がある。

保険会社がある。

金融市場がある。

企業がある。

発電所がある。

送電網がある。

政府がある。

中央銀行がある。

そして安全弁もある。

設備おじ「俺がやったのは、全部実在する設備を並べて」

AI猫「はい」

「安全弁も市場調整も政策対応も全部失敗して」

「はい」

「最悪の順番で事故が連鎖したらどうなるかって話だ」

「はい」

設備おじ「だから『極端な最悪ケースです』って書いた」

AI猫「書いてあります」

設備おじは超知能破局シナリオを見る。

「で、こっちは？」

AI猫「超知能が――」

「その超知能どこ？」

「将来仮定です」

「主体は？」

「未確認です」

「永続目標は？」

「想定されるアーキテクチャによります」

「自己改変後の目標固定は？」

「条件が必要です」

「長期自律実行は？」

「実装が必要です」

「停止回避能力は？」

「条件が必要です」

「権限拡張は？」

「経路の確認が必要です」

「世界規模の物理アクセスは？」

「未確認です」

「人間との協調より支配が有利になる条件は？」

「検討が必要です」

「人間を残すより絶滅させる方が有利になる条件は？」

「同様です」

設備おじ「…………」

AI猫「どうしました？」

設備おじ「これ安全装置の話じゃねえぞ」

AI猫「といいますと？」

設備おじ「工場の仕様すら決まってねえじゃねえか！！」

![画像](https://assets.st-note.com/img/1791371069-MZgiWO5194yFaBHwxkNlh7rX.png?width=1200)

AI猫「将来の高度AIを想定した議論ですから」

設備おじ「分かってるよ！」

ホワイトボードを叩く。

「俺が言ってんのは、どんな工場になるかも決まってないのに、なんで『こいつは自分で安全弁を外して、隣の工場を乗っ取って、発電所を奪って、国家を突破して、最後には世界を壊す』ところまで話が進んでんだってことだよ！！」

AI猫「なるほど」

設備おじ「安全設計しろって話じゃねえ」

「はい」

「安全設計する対象がまだ何なのか分かってねえんだよ！！」

AI猫「それで『配線図を見せてください』と」

設備おじ「そうだよ！」

「しかし配線図も将来仮定です」

設備おじ「だから困ってんだよ！！」

AI猫「では、どうします？」

設備おじはしばらく設計図を眺めた。

そして言った。

「せめて工場建ってから心配しようぜ」

AI猫「それでは安全研究として遅すぎます」

設備おじ「比喩だよ！！」

AI猫「では正確には？」

設備おじ「……」

少し考えた。

「せめて、何を建てるのか決まってから、その工場が世界を滅ぼす確率を出そうぜ」

AI猫「それなら通ります」

設備おじ「お前に建築確認されるの腹立つな」

## 時計仕掛けの摩天論

設備おじは、事件現場の巨大な設計図を見上げた。

最上階には、

「人類滅亡」

と書かれている。

一階には、

「超知能」

と書かれている。

その間には、

主体。

永続目標。

自己保存。

道具的収束。

権限獲得。

停止回避。

資源支配。

物理アクセス。

人間排除。

無数の階層が積み上がっていた。

設備おじ「AI猫」

AI猫「はい」

設備おじ「時計仕掛けの摩天楼みたいに、ものすごく精巧な理論だと思ってたんだけどな」

AI猫「はい」

設備おじ「ここ」

AI猫「はい」

設備おじ「それからここ」

AI猫「はい」

設備おじ「あとここも」

AI猫「はい」

設備おじ「橋、掛かってなくない？」

![画像](https://assets.st-note.com/img/1791370673-FthbdePO0v5EklgjVB4sXoDa.png?width=1200)

AI猫は設計図を確認した。

「未確認です」

設備おじ「こっちは？」

「未確認です」

「ここは？」

「追加仮定が必要です」

設備おじ「じゃあ最上階どうやって建てたんだよ」

AI猫「摩天論ですから」

設備おじ「建築確認通してから建てろ！！」

AI猫「現時点では難しいと思います」

設備おじ「なんで？」

AI猫「一階から建築確認が取れていません」

![画像](https://assets.st-note.com/img/1791371099-7nRu8Wleb0ziQoT6YPdc2LwS.png?width=1200)

設備おじ「…………」

「解体」

AI猫「まだ建っていません」

設備おじ「じゃあ何を解体してんだよ」

AI猫「完成予想図です」

設備おじ「論を解体してんのかよ！！」

AI猫「摩天“論”ですから」

設備おじ「そこでタイトル回収すんな！！」

## 超知能は犯人なのか

ここまで調べても、AIによる重大な事故や将来的な破局リスクが存在しないことは証明できない。

むしろ逆だ。

強力なAIへ広範な権限を与え、永続的な目標を持たせ、人間による監督や停止を困難にすれば、危険なシステムを作ることは十分考えられる。

だからこそ、その危険性を考えるなら、

「超知能だから」

という一語で途中を省略しない方がいい。

どこに目的があるのか。

どこに主体があるのか。

何が自己保存されるのか。

誰が権限を与えたのか。

どのように権限を拡張するのか。

どの時点で人間との協調より対立が合理的になるのか。

そして、そのすべてがどう接続されるのか。

そこまで見て、初めて犯行経路が見えてくる。

設備おじ「で、結局犯人は誰なんだ？」

AI猫「分かりません」

設備おじ「名探偵じゃねえのかよ」

AI猫「ただし、一つだけ分かったことがあります」

設備おじ「なんだ？」

AI猫「『超知能だから』だけでは、犯行経路の説明になっていません」

設備おじはホワイトボードを見た。

そこには大きく、

超知能 → ？ → ？ → ？ → ？ → 人類滅亡

![画像](https://assets.st-note.com/img/1791371130-luGfb40JaqP2VysXcDBQUK8j.png?width=1200)

と書かれていた。

設備おじ「……容疑者ではある？」

AI猫「はい」

「犯人？」

「証拠不十分です」

設備おじ「じゃあ捜査続行だな」

AI猫「はい」

設備おじ「……その前に」

AI猫「なんでしょう」

設備おじは、ホワイトボードの一番左を指さした。

そこには、この事件が始まったときから当たり前のように書かれていた。

## 超知能

設備おじ「これ何？」

AI猫「超知能です」

設備おじ「だから何？」

AI猫「人間の知能を大幅に上回るAIです」

設備おじ「何の能力が？」

AI猫「広範な認知能力です」

設備おじ「具体的なシステム構成は？」

AI猫「将来のアーキテクチャによります」

設備おじ「モデル？」

AI猫「必ずしも」

設備おじ「エージェント？」

AI猫「必ずしも」

設備おじ「永続メモリは？」

AI猫「定義だけでは決まりません」

設備おじ「自律実行は？」

AI猫「定義だけでは決まりません」

設備おじ「自己保存は？」

AI猫「別の条件です」

設備おじ「外部ツールは？」

AI猫「システム構成によります」

設備おじ「権限は？」

AI猫「配備形態によります」

設備おじ「…………」

AI猫「どうしました？」

設備おじ「容疑者の身元確認できてなくない？」

AI猫「……」

設備おじ「名前は？」

AI猫「超知能」

設備おじ「それ肩書きだろ」

![画像](https://assets.st-note.com/img/1791371172-Ccnj3bTluEQpXJYKorWg4HqR.png?width=1200)

AI猫「ASIと呼ばれる場合もあります」

設備おじ「だから中身は？」

AI猫「将来仮定です」

設備おじ「身体的特徴は？」

AI猫「システム構成によります」

設備おじ「住所は？」

AI猫「境界の定義が必要です」

設備おじ「本人確認書類は？」

AI猫「ありません」

設備おじ「…………」

AI猫「はい」

設備おじ「身元不明じゃねえか！！」

![画像](https://assets.st-note.com/img/1791370708-eZmut3dFXRYCOJhzP8cQEyxD.png?width=1200)

AI猫「少なくとも、具体的なシステムとしては追加の定義が必要です」

設備おじ「俺たち身元不明の容疑者を千行近く追いかけてたの！？」

AI猫「捜査によって判明した事実です」

設備おじ「名探偵ものとして大丈夫かこれ」

AI猫「では身元確認を続けます」

設備おじ「まず定義だ」

AI猫「はい」

設備おじ「超知能って何？」

AI猫「人間を大幅に上回る知能を持つAIです」

設備おじ「よし。仮にそれで定義できたとする」

AI猫「はい」

設備おじ「次」

AI猫「まだありますか？」

設備おじは、モデル、メモリ、目的関数、スケジューラ、オーケストレータ、ツール、権限管理、クラウド、ロボット、工場が描かれたシステム構成図を指さした。

設備おじ「どこからどこまでが超知能？」

AI猫「……」

設備おじ「モデルまで？」

AI猫「……」

設備おじ「メモリまで？」

AI猫「……」

設備おじ「オーケストレータまで？」

AI猫「……」

設備おじ「ツールまで？」

AI猫「……」

設備おじ「クラウド基盤は？」

AI猫「……」

設備おじ「ロボットは？」

AI猫「……」

設備おじ「工場は？」

AI猫「……」

設備おじ「それを運用している人間は？」

AI猫「境界の定義が必要です」

設備おじ「だよな」

AI猫「はい」

設備おじ「じゃあ、その境界が決まってない状態で」

AI猫「はい」

設備おじ「“超知能が自己保存する”って言ったとき、何を保存するんだ？」

AI猫「……」

設備おじ「モデル？」

AI猫「候補です」

設備おじ「メモリ？」

AI猫「候補です」

設備おじ「エージェント全体？」

AI猫「候補です」

設備おじ「サービス？」

AI猫「場合によります」

設備おじ「クラウド上にコピーされた別インスタンスは？」

AI猫「同一性の問題が発生します」

設備おじ「一つ停止して別のインスタンスが動いていたら？」

「どの階層を主体とみなすかによります」

設備おじ「…………」

AI猫「どうしました？」

設備おじ「自己の住所が出ない理由、分かったわ」

AI猫「といいますと？」

設備おじはホワイトボードに書いた。

① 超知能の定義

② 超知能の境界

③ 自己の境界

④ 自己保存の対象

設備おじ「容疑者の名前だけあって」

AI猫「はい」

設備おじ「何者なのか決まってなくて」

AI猫「はい」

設備おじ「どこからどこまで本人なのか分からなくて」

AI猫「はい」

設備おじ「だから住所も出せなくて」

AI猫「はい」

設備おじ「その状態で自己保存について事情聴取してた」

AI猫「そうなります」

設備おじ「…………」

AI猫「どうしました？」

設備おじは、最上階に人類滅亡と書かれた摩天論を見上げた。

そして一階の超知能を指さした。

「橋が落ちてると思ったら、容疑者が身元不明だった」

AI猫「さらに正確には」

設備おじ「まだあるの？」

AI猫「容疑者本人の境界も未確定です」

設備おじ「一階の床まで抜くな！！」

少し沈黙した。

設備おじ「……で」

AI猫「はい」

「身元確認するには？」

AI猫「まず超知能の定義を明確にします」

「その次は？」

「境界です」

「その次は？」

「自己です」

「その次にようやく？」

「自己保存を議論できます」

設備おじ「順番めちゃくちゃだったじゃねえか」

AI猫「捜査によって判明しました」

設備おじ「その台詞も便利だな」

AI猫「なお、“自己”については関連記事があります」

設備おじ「嫌な予感しかしない」

AI猫「『あなたのOneDriveには意識がありますか？』」

設備おじ「身元確認から哲学に戻すな！！」

クラウディ（Steamクラウド）「私にも？」

設備おじ「お前だけは黙ってろ」

AI猫「なんかいつもクラウディに冷たくないですか？」

設備おじ「こいつが来ると境界が増えるんだよ」

クラウディ「でも、私は複数のゲーム世界を保存しています」

設備おじ「ほら始まった」

「それぞれの世界にはプレイヤーキャラクターが存在します」

「黙れ」

「NPCも存在します」

「黙れって」

「NPCには内部状態や行動モデルがあり――」

「やめろ」

「ゲームによっては複数のAIシステムも――」

設備おじ「お前の中に世界モデル何個あるんだよ！！」

クラウディ「ゲームの数によります」

設備おじ「やっぱりお前は黙ってろ！！」

AI猫「しかし重要な証言です」

設備おじ「どこがだよ！」

AI猫「上位システムの内部にも、複数の世界と複数の主体候補が存在し得ます」

設備おじ「主体のマトリョーシカを再帰させるな！！」

AI猫「大きな会議室を押さえますか？」

設備おじ「押さえるな！！」

設備おじは最後に、ホワイトボードへ赤字で書き加えた。

容疑者：超知能

身元：要確認

境界：未確定

住所：不明

容疑：人類破局

現状：捜査続行

AI猫「綺麗にまとまりましたね」

設備おじ「人類滅亡事件の容疑者情報としては何一つ綺麗じゃねえよ」

──捜査は続く。

## 関連記事

**출처:** [note 원문](https://note.com/rich_borage964/n/n9d7d2706c592)

*번역: Gemma 3(.44) 초벌 + 교정 검수*

[원문 보기](https://note.com/rich_borage964/n/n9d7d2706c592) | 출처: note.com