日立製作所は9月15日、社会インフラにおけるフィジカルAIの安全運用に向けたガードレール技術を開発したと発表した。

フィジカルAI、「危険なら停止」だけでは運用が難しい

生成AIの活用が広がるなか、AIをロボットや設備などと組み合わせ、現実世界で自律的に動作させる「フィジカルAI」への注目が高まっている。

一方、工場やエネルギー、鉄道・モビリティなどの社会インフラでフィジカルAIを活用するには、安全性の確保が欠かせない。AIが生成した制御指令によって、設備や機器が危険な動作をする可能性を考慮する必要があるためだ。

危険な動作を検知した際にシステムを停止させれば安全性は確保できるものの、必要以上に停止が発生すれば、社会インフラの安定運用に影響する可能性がある。そこで日立製作所は、安全性を確保しながらシステムの稼働を継続するための「フィジカルAIガードレール技術」を開発した。

AIの制御指令をリアルタイムで補正、過度な停止を89％削減

今回開発した技術は、設計段階と運用段階の双方からフィジカルAIの安全性を確保するものだ。

設計初期段階では、膨大なシステムの仕様書や構造情報から、機器・機能・制御の関係をAIが理解しやすいナレッジグラフに整理し、その関係をもとに事前ハザード分析や安全制約の抽出を行う。

  • 日立が開発した「フィジカルAIガードレール技術」の仕組み（出典：日立製作所）

    日立が開発した「フィジカルAIガードレール技術」の仕組み（出典：日立製作所）

こうして設計時に抽出した安全制約を、停止余裕や速度・加速度、障害物との距離などに基づく評価条件として定義する。運用時には、フィジカルAIが生成した制御指令がこれらの条件を満たすか、Control Barrier Function（以下、CBF）に基づいてリアルタイムで評価する。

条件を満たさない場合には、AIの意図をできる限り保ちながら、安全制約を満たす指令へ必要な範囲で補正する。補正だけでは安全を確保できない場合には、AIとは別系統の安全装置が最終的にシステムを停止する。

自動機械と人が混在する環境での運行を想定した自動走行システムのシミュレーションでは、従来の非常時停止制御方式と比較して、過度な停止を89％削減できることが確認された。。