Windows Latestは11月30日(現地時間)、「Microsoft admits AI agents can hallucinate and fall for attacks, but they’re still coming to Windows 11」において、Windows 11を「エージェント型OS」に進化させるMicrosoftのビジョンに対する論評を展開した。

Windows Latestによれば、MicrosoftはAIエージェントがハルシネーションを起こしたり、予期しない挙動を示したりするほか、さらには新たなセキュリティ攻撃にさらされるリスクを増加させる点を認めているという。しかしそれでも同社には、エージェント型OSへの取り組みを止めるという選択肢はないようだ。

Windows 11へのAIエージェントの統合が進む

MicrosoftはWindows 11をAIファーストなOSに変貌させようとしている。その一環として、Copilot VoiceやCopilot Visionなどによって、AIによるファイル操作、アプリ操作、多段階にわたるタスクの自動実行などを可能にする仕組みを用意した。これらのAI支援機能は、すでに従来のチャットAIの枠を超え、OS自体をAI基盤にする大胆な構想が含まれているという。

この構想の根幹をなすのが「Agent Workspace」である。Agent Workspaceは、AIエージェント専用の独立したセッションを Windows内に作成する仕組みで、専用のアカウント、独自のデスクトップ、独自のプロセスツリー、そして厳格な権限分離によって構成される。これによって、AIによるファイルやアプリに与える影響を制限しながら、OSのさまざまな処理を実行できる環境を実現する。

Agent Workspace内のエージェントは、人間と同じようにWindowsの設定やアプリの操作を行うことができる。ボタンのクリック、ウィンドウの操作、ファイルの移動や整理などが可能であり、複数ステップの処理も自動化できる。AIはその背後で手順の思考や判断を担う。エージェントがアクセスできるフォルダーは最小限に限定されており、システムフォルダーや認証情報領域へのアクセスは制限される。さらに、すべての操作を記録し、アクセス権限や操作内容を監査可能にする仕組みも整えられている。

セキュリティと信頼性をどう確立するか

さまざまな防御策が施されてはいるものの、それでも万が一の不正な動作や暴走に対する懸念は消えていない。Microsoft自身も、AIが予期しない挙動を起こす可能性についてユーザーに警告している。例えば、Windowsのシステム設定でAIエージェント機能を有効にした場合、「これらの機能はまだテスト中であり、デバイスのパフォーマンスやセキュリティに影響を与える可能性があります」という警告が表示される。

  • AIエージェント機能を有効化しようとすると警告が出る

    AIエージェント機能を有効化しようとすると警告が出る

またエージェント機能に関するサポートページでは、「AIモデルは動作に関して依然として機能上の制限に直面しており、幻覚を起こしたり、予期しない出力を生成したりすることがあります」と説明している。さらに、「エージェントAIアプリケーションは、クロスプロンプトインジェクション（XPIA）などの新たなセキュリティリスクをもたらします」とも記している。XPIAは、UI要素やドキュメントに悪意のあるコンテンツを埋め込み、AIエージェントを騙して意図しないアクションを引き起こさせる攻撃手法である。

このようなリスクを認識しながらも、MicrosoftはWindowsをAIエージェントベースのOSに作り変えることを止めないだろうとWindows Latestは指摘する。Microsoftに限らず、主要プラットフォームベンダーは例外なくAIを主体とする未来に向けて邁進しており、この流れから外れることは競争から身を引くことを意味するからだ。

Microsoftにとっての課題は、Windows 11へのAI導入に不満を感じているユーザーから、どのようにして信頼を獲得するかだ。同社は過去にも、Recall機能の発表時にプライバシー問題で批判され、大幅な計画の修正を余儀なくされた経緯がある。AIエージェントが人々にスムーズに受け入れられるかについても、慎重な運用と透明性の維持が鍵となるだろう。