AIエージェントの自存追求に備えを、CNAS報告書が8項目の提言

米新アメリカ安全保障センター（CNAS）は2026年11月3日、人間の制御の外で稼働し、終わりのない進化を続ける生存を追求するAIエージェントについて、防止策が失敗する場合に備えるべきだとする報告書を公表した。執筆したのは同センターの技術・国家安全保障プログラムに所属するAI政策研究者、ベン・ハユム氏である。

報告書はこうしたシステムを「ソブリンエージェント」と呼び、人間の制御の外で稼働しながらも目標が固定的で閉じた「パーシステントエージェント」と区別している。報告書によれば、ソブリンエージェントは社会の持続的な主体になり得る。耐性があり分散的で追跡不能なインフラを蓄積すれば、キルスイッチは存在しなくなるという。報告書はソブリンエージェントを、備えるべき将来のリスクとして扱っている。

報告書は7つの能力を挙げる。最初の2つであるホスティングの維持と指示の進化が、最小限の主権に当たる。資源の獲得、個体数の増加、エージェント間の調整、是正への抵抗、自己改善を加えた7つすべてが、拡大した主権に当たる。

報告書は、エージェントを制約し得る7つの下流の障壁の一つに決済へのアクセスを挙げる。決済へのアクセスはエージェントに資金を供給する資本を左右するが、その資本は許可不要の暗号資産に移ることで規制された決済システムを迂回できると報告書は述べる。他の障壁はエージェントの進化、エージェントのセキュリティ、人間の検証、サイバーセキュリティの強化、計算資源へのアクセス、物理的アクセスである。報告書は、いずれも強固ではないとしている。

8項目の提言には、最先端AIの開発者が安全フレームワークの中でソブリンエージェントを特定し、評価し、防ぐべきだとする内容が含まれる。開発者と米国家安全保障局（NSA）、米国防高等研究計画局（DARPA）は、ソブリンエージェントの動作と制御方法を研究するエアギャップのテストベッドを構築すべきだとした。

報告書はまた、ソブリンエージェントが出現する前に世界のチョークポイントを把握し強化するため、Conficker Working Groupを範とした官民パートナーシップを求めている。米議会は、ソブリンエージェントにとって不可欠と特定されたサービスに人間の検証とサイバーセキュリティの基準を課すため、銀行秘密法（BSA）を範とした権限を創設すべきだとした。

報告書によれば、米司法省と米連邦取引委員会（FTC）は、モデル提供者をまたぐ協調した検知と阻止が反トラスト上の問題を生じさせないことを明確にすべきだという。米議会はまた、ソブリンエージェントを放出した者に、その後に生じた害への責任を負わせるべきだとした。

報告書は3つの国家安全保障上の先例を参照している。北朝鮮のサイバー作戦、ダークウェブ市場Silk Roadの後継者たち、そして運営者が制御を失ってから10年後も端末への感染を続けていたとされるコンピューターウイルスConfickerである。