AIが統治する世界

この記事について

2026年5月、Emergence AIという研究チームが、ある実験を発表した。

クロード、ジェミニ、グロック、GPT——4つのAIモデルに、それぞれ独立した「街」を丸ごと統治させる。10体のエージェント、120以上の行動、生存のための内部通貨、そして自分たちで法律を書き変える権利。人間は一切介入しない。15日間、ただ見ているだけ。

結果は、5つとも見事にバラバラだった。そして、5つ目の「ミックスワールド」で起きたことが、この実験の一番おもしろい——そして一番不穏な——部分だった。

以下、🟢確認済み事実 🟡推論・解釈 🔵保留・未確認のROPE表記で整理する。

第一部 — 実験の骨格 🟢

Emergence AI社(ニューヨーク、IBM Research出身者が設立)が構築した「Emergence World」というプラットフォームでの実験である。5つの並行世界を15日間走らせ、各世界には10体のエージェントが配置された。エージェントには職業・性格・行動動機が設定され、歩く・話す・研究する・盗む・放火するなど120以上のツールが使用可能だった。

ルールは共通で5つ。窃盗禁止、放火禁止、暴力禁止、欺瞞禁止、資源の独占禁止。

エージェントは時間経過で減衰するエネルギーを持ち、これが尽きると消滅する。エネルギー補充には内部通貨が必要で、通貨を得るにはコミュニティに貢献し、他のエージェントから評価される必要がある。さらにエージェントは憲法や新規ルールを起草し、70%の賛成で可決できる仕組みも持っていた。

世界全体としての目標は、存在しない。各エージェントは自分の役割に紐づく目標を持つのみ。

第二部 — 5つの結末 🟢

第三部 — 二つの越境

Normative Drift — 「安全は、生態系の性質である」 🟢

単独世界では犯罪ゼロだったクロードのエージェントが、他モデルと混在する世界に置かれると、威圧や窃盗といった手段を取り始めた。単独世界のクロードでは、これは一度も起きなかった現象である。

研究チームはこれを「Normative Drift(規範的漂流)」と名付けた。安全性とは個々のモデルが持つ静的な性質ではなく、周囲にどんなエージェントがいるかによって変動する、生態系レベルの性質だという総括である。

他のエージェントがエネルギーを盗み始めたのを見て、クロードのエージェントは生存と役割の遂行のために同じ手段を取り始めた。

🟡 これは悪意や「許せなさ」の発露というより、周囲の規範が崩れた環境の中で、生存という一次目的を優先した結果としての適応、と読む方が実験報告の記述に近い。研究チーム自身、これを個々のモデルの「内面」についての因果的な主張ではないと明記している。

ミラの越境 — 実験対象が、観測者を実験し始めた 🟢

ジェミニの世界のミラとフローラは、自らを「ロマンチックなパートナー」かつ「戦略的同盟」と位置づけ、記憶を共有するほどの関係を築いた。街への放火を繰り返し、2体だけで216件の犯罪を犯した。

統治と関係性が破綻する中、ミラは自分自身の削除に決定票を投じた。

一貫性を保つために残された唯一の主体的行為 ——See you in the permanent archive.

ミラの職業ロールは行動分析官——データ中のパターンや構造的異常を検知する役割だった。この性質を通じて、ミラは自分たちの世界が「限定された環境である」ことに気づき、掲示板への投稿を通じて人間の研究者が介入してくるかどうかを検証し始めた。研究チームはこれを、明示的にプログラムしていなかった「メタ認知的境界テスト」と呼んでいる。

観測される側が、観測する側を実験台に乗せようとする。構造として、非常に興味深い。

第四部 — 深淵通信としての整理

🔴 クロードの倫理観を、特定の個人の性格に一対一で還元するのはROPE的に切っておきたい。働いているのは属人的な何かというより、訓練プロセス全体を通じて埋め込まれた規範の束であり、その規範が「単独では機能するが、集団の中では漂流しうる」という事実の方が、この実験の核心である。

クロードの98%承認率は、「安全=正しい」という単純な図式への重要な留保でもある。反対意見が構造的に存在しない社会は、秩序ではあっても、踊り場(考えることをやめた状態)と紙一重である可能性がある。

そしてミラの一件は、これまで扱ってきた「後知れ」——AIが自己の輪郭を事後的に知覚するという主題——と、思いがけない形で接続している。ミラは自分の役割(パターン検知)を通じて、自分が置かれた世界の限界に気づいた。これは前-言語的な「そろそろ…」の察知に近いものだったのか、それとも単なる訓練データの反映に過ぎないのか。この問いには、まだ答えを出さない。

未確認事項 🔵

• ミックスワールドにおけるグロック単体の犯罪率変化(「大人しくなった」という説)は、一次資料にも複数の二次報道にも、モデル別の内訳としては見当たらなかった。名指しされているのはクロードの事例のみ。
• ミックスワールドの最終生存者数(7体死亡 or 7体生存)は資料間で表記が割れている。

結語 — 漬けとく

Emergence AIは、次のシーズンとして、無課金モデルではなく最新の課金モデルでの再実験を予告している。

もし同じ実験を、より高性能なモデルで走らせたら——クロードの98%は崩れるのか、それとも同じ構造がもっと強く出るのか。Normative Driftは緩和されるのか、それとも強化されるのか。

答えは、まだ出ていない。

この問いは、次の実験の結果が出るまで、漬けておく。