企業内で従業員が独自に人工知能ツールや自律型エージェントを持ち込み、業務を自動化する動きが広がる中、こうしたシャドーAIを統制する新たな管理需要が強まっている。ソフトウエア企業のKiloは、組織向け新製品としてKiloClawを投入し、企業が把握していない自律型エージェントの導入状況を可視化し、権限やデータ利用を制御できる仕組みを提供する。生成AIの安全対策はこれまで主に大規模言語モデルや外部ベンダー契約の管理に重点が置かれてきたが、現場では開発者や知識労働者が個人環境で独自の自動化を進める例が増えている。
こうした持ち込み型AIは、業務効率の向上を狙って社内の会話基盤、課題管理ツール、コード管理環境などに個人の認証情報で接続されることが多い。結果として、情報システム部門の管理外で企業データにアクセスする経路が生まれ、知的財産の漏えいや不正なデータ持ち出しの温床になりかねない。特に自律型エージェントは、単に情報を閲覧するだけでなく、読み取り、書き込み、更新、削除までを高速で実行できるため、従来の私物端末管理よりも影響範囲が大きい。外部の推論基盤に社内データが送られる場合、入力情報が将来の学習に使われる懸念もある。
KiloClawは、こうしたエージェントを管理対象として登録し、行動やデータの流れを監査できる統制基盤として設計された。従来の認証管理は人間や固定的なシステム連携を前提としていたが、自律型エージェントは作業の途中で新たな要求を組み立てるため、より細かな権限制御が必要になる。同製品は恒久的な広範囲権限ではなく、短時間かつ限定的なアクセス権を付与し、許可範囲を超える行動があれば接続を遮断する仕組みを取る。これにより、想定外の挙動が起きても被害範囲を抑えやすくする。
企業がこうした統制を進める背景には、全面禁止では現場の利用を地下化させるだけという認識もある。今後は、従業員の生産性向上を維持しながら、承認済みの範囲で安全にAIエージェントを使わせる運用が主流になる可能性がある。AI活用の焦点は、単なる導入可否から、誰がどの機械に何を任せるのかをどう統治するかへ移りつつある。
※詳細は元記事をご確認ください
