自律型AIシステムがソフトウェア環境を超え、倉庫や配送ネットワーク、公共空間に展開され始めている。この動きは、物理世界で動作するシステムに現在のAI規制が対応可能かという問いを投げかけている。従来のAIガバナンス枠組みの多くは、オンライン上の危害やモデルの出力、すなわちバイアスや誤情報、有害コンテンツに焦点を当ててきた。しかし、具現化されたAIシステムは物理環境において特有のリスクを伴い、障害がインフラや財産、人の安全に影響を及ぼす可能性がある。
シンガポール情報通信メディア開発庁は5月20日、エージェント型AI向けモデルAIガバナンス枠組みのバージョン1.5を公開した。同枠組みは、ユーザー定義の目標達成のために複数ステップにわたって計画・意思決定・行動を実行できるAIエージェントを導入する組織向けのガイダンスを提供する。エージェントはツールや外部システム、他のエージェントと連携可能であり、データベース更新やファイル書き込み、デバイス制御、トランザクション実行といったシステムも含まれる。展開時にはアクセス制御や監視、人間による承認などのガバナンス手段を挙げている。
先週シンガポールで開催されたAIサミットでは、ロボティクスと具現化AIに関する議論が、従来のソフトウェア規制よりも航空や産業システム、重要インフラ監視に関連する運用上の安全性問題に焦点を当てていた。講演者らは、自律型システムが予測不能な実世界環境で長期間にわたり安全かつ確実に動作可能かどうかについても議論した。清華大学AI産業研究院の創設院長であるYa-Qin Zhang博士は、具現化AIシステムが自律ソフトウェアに既に存在するリスクを増幅させると指摘する。障害は輸送システムやドローン、物流ネットワーク、重要インフラに直接影響を与える可能性がある。
「デジタル領域におけるいかなるリスクも物理領域では増幅され、物理的な結果を伴う」とZhang氏はサミットの合間にMLexに語った。今後は、各国が物理空間におけるAIガバナンスをどのように具体化するかが焦点となる。特にシンガポールの枠組みは他国の規制動向に影響を与える可能性があり、自律型システムの安全性基準や責任の所在が業界全体のパワーバランスを左右するだろう。一般ユーザーにとっては、物流や交通への導入加速が利便性向上をもたらす一方で、事故やプライバシー侵害といった新たなリスクへの備えが急務となる。
※詳細は元記事をご確認ください
