サイバー攻撃を受けたネットワークを、LLMエージェントとデジタルツイン(実ネットワークを再現した仮想環境)で自動復旧させる階層型フレームワークを提案。
ファインチューン済みLLMが攻撃の進行を推定し、デジタルツイン上でリハーサル・検証してから復旧コマンドを実行する設計により、幻覚のリスクを抑えている。
33コンポーネントの企業ネットワーク模擬環境・3種類の多段階攻撃シナリオで、既存のフロンティアLLMベースラインより復旧成功率が18〜31%高い結果を得た。
医療現場で複数のAIエージェントが協働する「臨床マルチエージェントシステム」向けに、既存のアーキテクチャを変更せずに統合できるモジュール型の倫理ガバナンス機構ETHOSを提案。
決定論的チェック・文脈レビュー・倫理批評家という3層の監視で、判断が不完全・矛盾している場面での修正要求や応答保留を可能にする。
肝臓病学の臨床意思決定支援システムに組み込んで実証し、証拠が不十分な場面で適切に判断を保留できることを確認した。
AIエージェントが持つ高価値リソース(計算基盤・認証情報・利用予算・ID・非公開知識・通信チャネル・組織ワークフロー)自体を悪用する新しい攻撃「リソースハイジャック」を初めて体系的に研究。
認証情報を直接盗むのではなく、エージェントに正規の権限内でリソースを呼び出させ、消費・転送・制御させる攻撃であり、300シナリオ・900プロンプトのResourceHijackBenchを構築。
対策なしの平均攻撃成功率は84.06%、既存の最強の防御策を適用しても55.11%が依然として成功しており、防御が追いついていない現状を示した。