このシリーズのこれまでの記事では 、エージェンティックAIの台頭と、それがデジタルコマースやアイデンティティに及ぼす影響について考察してきました。自律型エージェントが、ユーザーや組織に代わって行動し始め、ますます自立した形で意思決定や取引を実行するようになっている状況を概説しました。
この進化は、ある根本的な問いを投げかけている。すなわち、行動がもはや人間によって直接引き起こされない世界において、信頼はどのように確立され、管理され、そして確保されるべきなのか、という問いである。
セキュリティは従来、インタラクションの現場に人間が存在するという明確な前提に基づいて構築されてきました。エージェント型AIは、その前提に疑問を投げかけています。現在では、ソフトウェアエージェントが、何を購入するか、誰に支払うか、いつ行動するかを決定するシステムが設計されており、多くの場合、人間によるリアルタイムの介入を必要としません。
その結果、既存のセキュリティモデルは進化を迫られています。もはや、単に悪意のある攻撃者からシステムを保護することだけが焦点ではなく、明確に定義され、遵守が確保できる範囲内で、信頼できる自律性を可能にすることに重点が置かれています。
従来のセキュリティモデル：人間の本人確認
従来のデジタルセキュリティの枠組みは、比較的単純なモデルに基づいて設計されていました。ユーザーが認証を行い、トランザクションを開始すると、システムは認証情報、デバイスの信号、および行動パターンに基づいてリスクを評価します。
これまで、自動化は脅威として扱われてきました。ボットは不正行為と結びつけられ、高頻度のアクティビティは不審なものと見なされていました。その結果、CAPTCHA、デバイスフィンガープリント、ステップアップ認証といった制御手段が広く導入されるようになりました。
これらのアプローチが効果的だったのは、システムの利用方法と合致していたからです。意思決定を行うのは人間であり、システムの役割はその身元を確認し、異常を検知することでした。
変革：信頼できるエージェントの実現
エージェント型AIは、新たなパラダイムをもたらします。システムは、人間以外の主体も正当な参加者となり得ることを認識しなければならないのです。
もはや問題は、そのやり取りが自動化されているかどうかではなく、そのエージェントが権限を与えられており、定義された制約の範囲内で動作し、認証済みの委託者の代理として行動しているかどうかである。
そのためには、本人確認から権限委譲の管理へと転換する必要があります。組織は、誰がエージェントに権限を付与したか、そのエージェントにどのような行動が許可されているか、どのような条件下で、どのくらいの期間にわたって許可されているかを把握できなければなりません。同様に重要なのは、必要に応じてその権限を直ちに取り消すことができることです。
「Know Your Agent（KYA）」という概念は、「Know Your Customer（KYC）」の自然な延長として台頭しつつあり、個人だけでなく、その個人に代わって行動するシステムに対しても信頼を築く必要性を反映したものです。
アイデンティティは文脈に依存し、委譲されるものとなる
デジタルアイデンティティは、多くのシステムが想定しているほど単一でも静的でもありません。それは本質的に文脈に依存するものであり、多くの場合、個人、組織、デバイス間の権限委譲が伴います。
エージェント型AIは、この点を明確にしています。エージェントには、一意に識別され、主体と結びつけられ、定義された権限を通じて管理されることを可能にする何らかの形のアイデンティティが必要です。また、エージェントの行動は、観察可能かつ監査可能でなければなりません。
エージェントが金融取引の実行、契約の締結、あるいは業務プロセスの起動を開始すると、それらは事実上、規制対象環境における「主体」となります。明確な身元と説明責任がなければ、その行動は悪意のある活動と見分けがつかなくなってしまいます。
新たな攻撃対象領域：意思決定の完全性
従来のサイバーセキュリティは、システムを不正アクセスや悪意のあるコードから保護することに重点を置いています。一方、エージェント型システムは、意思決定の操作という、これまでとは異なる種類のリスクをもたらします。
プロンプトインジェクション、エージェントなりすまし、データポイズニングといった脅威は、システムの観点からは論理的に一貫しているものの、実際には望ましくない、あるいは有害な結果をもたらす可能性があります。こうした場合、従来の意味でのシステムの侵害は発生していないものの、結果としては依然として安全性が損なわれています。
このことは、単に境界対策だけに頼るのではなく、意思決定プロセスそのものにセキュリティを組み込む必要性を浮き彫りにしている。
過度な自律性の管理
エージェント型システムにおける最も重大なリスクの一つは、過度な自律性である。これは、エージェントに広範な目標が与えられ、十分に明確な制約が設けられていない場合に生じる。
このような状況では、エージェントは、技術的にはその目的を達成しているものの、ユーザーの意図を超えた行動をとることがあります。これは悪意のある行動ではなく、適切なガバナンスが欠如した状態で結果を最適化した結果生じるものです。
ユーザーの意図を把握し、それを適用可能な制約条件へと変換することが、極めて重要な要件となります。セキュリティ対策においては、不正な行為を防ぐだけでなく、許可された行為が期待通りに実行されることを確保することにも重点を置かなければなりません。
トークン化はポリシーの適用へと進化する
トークン化は、特に決済分野において、依然として重要な管理手段である。しかし、エージェント主導の環境においては、トークンは単に原資産や認証情報への参照情報を含むだけでは不十分である。
委任の範囲、ポリシーの制約、時間制限、および出所情報を明示的に定義する必要があります。こうした文脈がなければ、トークン化は単にトランザクションを高速化するだけで、制御の向上にはつながらないのです。
このため、ポリシーや認可をトランザクション層に直接組み込んだ、より高度なトークンフレームワークの必要性が高まっています。
監査可能性と説明責任
エージェントはユーザーに代わって行動するため、意思決定を説明し、再構築する能力が不可欠となります。その行動がどのように、そしてなぜ行われたのかを理解せずに、単にその行動をシステムに帰するだけでは、もはや不十分となるでしょう。
組織は、意思決定の背景にある本来の意図、考慮された入力データ、適用された制約、および採用された論理を遡って追跡できる必要があります。このレベルの監査可能性は、規制要件への対応とユーザーの信頼獲得の両方を支えるために不可欠です。
それがなければ、責任の所在が不明確になり、サービス提供者とエンドユーザーの両方にリスクが生じることになります。
マルチエージェントシステムの複雑性
複数のエージェントが相互作用する環境では、こうした課題はさらに顕著になります。エージェント間の連携には、無断参加、目標の不一致、連鎖的なエラーなど、新たなリスクが伴います。
こうしたシステムのセキュリティ確保には、個々のエンドポイントのみに焦点を当てるのではなく、相互作用や創発的挙動の管理へと重点を移すことが求められます。そのためには、システム設計、ガバナンス、継続的なモニタリングの要素を組み合わせた新たなアプローチが必要です。
セキュリティからガバナンスまで
最も重要な変革は、セキュリティを単なる防御機能として捉えることから、ガバナンスを支援機能として捉えることへの転換である。
組織は、誰がエージェントを作成できるか、その認証方法は何か、どのようなルールに従わなければならないか、そして長期的にどのように監視・管理されるかを定義しなければなりません。これにより、信頼のための共通フレームワークを確立する上で、IDプロバイダー、決済ネットワーク、および規制当局の役割が重要になります。
意図的なガバナンスがなければ、エコシステムは断片化や不整合に陥るリスクがあり、各プラットフォームが独自のルールや基準を押し付けることになりかねません。
結論：大規模な信頼の実現
課題は、エージェントの行動を妨げることではなく、エージェントが安全かつ透明性を持って、明確に定義された範囲内で行動できるようにすることです。
エージェント型AIは、意思決定とその実行のあり方に根本的な変革をもたらします。セキュリティもこれに合わせて進化し、認証や不正検知に重点を置いた従来のモデルから脱却しなければなりません。
デジタル・トラストの将来は、アイデンティティ、ポリシー、監査可能性を、自律性と管理の両方を支える一貫性のある枠組みに統合できるかどうかにかかっている。
こうした状況において、「プログラム可能な信頼」は基盤となる機能となります。これにより、組織はエージェントが動作する条件を定義、適用、検証することが可能となり、説明責任を損なうことなく自律性を拡大できるシステムを構築できます。
当社の「エージェント型AIコマース」ブログシリーズで、さらに詳しくご覧ください：
第1章： エージェント型AIと決済：AIが「財布」と「独自の意思」を手に入れるとき。
第2章： エージェント型コマース：ウォレットに脳が備わる時。
第3章： エージェント型コマース：Llamasでの実装。
第5章： 感情からアルゴリズムへ：エージェント型コマースに新たな信頼レイヤーが必要な理由。
第6章： エージェント型コマースにおける信頼のギャップを埋める。
第VII章： 信頼フレームワーク：自律的な取引のための検証可能な信頼の構築。
第8章： KYAから継続的信頼へ：FACTを用いた実稼働環境におけるエージェント型商取引のガバナンス。
第9章： KYAだけでは不十分：エージェント型商取引のための実行時信頼レイヤー「FACT」の紹介。
第10章： 試験でカンニングをしたエージェント
