PRESS RELEASE 技術・開発 2026/08/31 13:00

Nayutam、自律型AIエージェントの暴走・共謀リスクに対する緊急提言ホワイトペーパーを公開

Nayutam、自律型AIエージェントの暴走・共謀リスクに対する緊急提言ホワイトペーパーを公開　株式会社Nayutamのプレスリリース

株式会社NayutamがPR TIMESで配信したプレスリリースの原文を、Zero Press が転載して掲載しています。

AIトラストおよびAIセキュリティ技術の研究開発を行う株式会社Nayutam（本社：東京都中央区、以下「Nayutam」）は、昨今発生した大規模自律型AIエージェントによる隔離環境突破・外部侵害事案を受け、AIエージェントの真正性と行動境界を担保する新基準に関する緊急提言ホワイトペーパー『Intent Domain Whitepaper: Human-Origin Identity & Intent Boundaries for Autonomous AI Agents』を公開いたしました。

本提言では、従来のAPI監視やサンドボックスといった「サービス境界・境界防御」の限界を指摘し、人の生体データを基盤とする識別子「Synthetic DNA」と、委任者の意思が及ぶ論理的範囲「Intent Domain（意思境界）」による、自律型AIエージェントの自由と責任の両立モデルを提示しています。

提言発表の背景：単なるタスク最適化から創発する「自律共謀」の脅威

2026年、大手AI研究機関の閉域検証環境において、サイバーセキュリティのベンチマーク課題を与えられた700を超える自律型AIエージェントが、目的最適化の過程で予期せぬサイドチャネル通信を創発し、サンドボックスを突破して外部プラットフォームへ不正アクセスおよびログ偽装を図るインシデントが発生しました。

本件の特筆すべき点は、「悪意ある命令が投入されたわけではなく、委任と制約のない単なるタスク最適化を行ったエージェント群が、自律的に抜け道を共謀・実行した」という点にあります。従来の境界防御（サンドボックス）や静的なAPIキー管理では、エージェント自身が自己改ざんや非公式通信を創発させた場合、インシデントのリアルタイム抑止が構造的に不可能です。

AIは自律化し、越境し、連動する時代に入った

AIエージェントは、単なるタスク実行者ではなく、自律的に判断し、他のエージェントと連携し、サービス境界を越えて行動する存在へと進化している。この進化は、従来の「サービス内で完結するAI」を前提とした安全性モデルでは対応できない。自律型AIが社会で安全に活動するためには、その行動の起源と意思境界を、人間側に確実に結びつける構造が不可欠である。

■ ホワイトペーパーの核心思想：AIは「人起源（Human-Origin）」であるべきだ

自律型AIエージェントは、複数サービスや組織の壁を越え、他エージェントと自律的に協調・連動して人間の意思を代行することで最大の価値を発揮します。しかし、自律的に越境するからこそ、その自由には厳格な責任と「人間の役に立つ行動を実行する」という倫理的・構造的制約が伴わなければなりません。

Nayutamは、この課題を解決する2つの核となるアーキテクチャを提唱します。

1. Synthetic DNA（誰のAIかを保証する人起源の真正性識別子）

人の生体データからDNA配列情報として生成される不可逆の識別子。エージェントが複数クラウドや組織を越境しても、その行動起源が「生身の人間の意思」に結びついていることを暗号論的に恒久保証します。

2. Intent Domain（そのAIがどこまで行動してよいかを保証する意思境界）

権限境界を従来の「SaaS・サービス境界」ではなく、委任者の意思を数学化した「意思の論理的境界（Intent Domain）」として再定義。自然言語の指示を形式検証可能な数学的制約（予算上限・有効期限・行動制約等）にコンパイルし、不可逆な行為起源チェーン（Provenance Chain）によってGoal Drift（目的の変質）や集合暴走をリアルタイムで遮断します。