東芝、異常判定理由を波形差で可視化　反事実波形生成で説明可能AIを強化

東芝は、各種インフラ設備や製造装置の異常検知において、AIが異常と判定した理由を、正常時と異常時のセンサー波形の違いで可視化する「反事実波形生成技術」を開発した。

AIが異常と判定した時系列波形データに対して、正常と判定する「反事実波形」を生成することにより、異常と正常の差を、局所的な波形の違いとして可視化。現場担当者が判定理由を直感的に理解できるようになる。

同技術は、九州大学マス・フォア・インダストリ研究所との共同研究により開発した。

東芝総合研究所AIデジタルR＆DセンターシステムAI研究部エキスパートの新垣隆生氏は、「設備や装置の異常診断において、AIの判定根拠を、波形の違いとして納得でき、原因究明や保守判断に活用できる。説明性が高まることで、異常原因の究明を加速することができるメリットもある。また、今回提案した手法は、異常検知を含む広範な判定AIに適用できるため、説明性の高さが求められる設備への異常検知技術としての展開が期待できる」と述べた。

東芝総合研究所AIデジタルR＆DセンターシステムAI研究部エキスパートの新垣隆生氏

今後は、安全性や信頼性が求められるインフラ設備や製造装置の異常検知への適用を進め、2027年度以降の早期実用化を目指すという。

市場規模はインフラ設備向けだけで最大450億円

インダストリアルIoT(IIoT)の普及などに伴い、設備や装置に取り付けたセンサーから得た時系列波形データをもとに、AIによって解析し、高精度に異常を検知する取り組みが広がっている。

だが、インフラ設備や製造装置では、高い安全性や信頼性が求められることから、AIを用いた異常判定においても、従来通りに、保守担当者が波形を目視で確認し、形状の変化やパターン、特徴量などをもとに、異常判定の決め手などを目視で解釈している。

「AIによる異常検知では、判定根拠を解釈できないと、専門家の理解が得られない。現場からは、担当者の知識とAIの結果を照合して、納得し、安心して利用したいといった要望や、原因究明の際に、AIの判定根拠となる局所波形の位置や崩れ方を知りたいといったニーズがある。適用余地は、インフラ設備向けだけで年間300〜450億円の市場規模があると試算している」という。

研究開発の背景 (提供:東芝、以下すべてのスライド同様)

波形の形状で入力データの変更による判定の切り替わりを可視化する反事実波形

反事実波形(反事実説明)は、入力データの変更による判定の切り替わりを、波形の形状によって可視化する技術となる。

反事実説明アプローチの概要

AIを活用した判定では、そもそもインフラ設備や製造装置での異常発生の頻度が低いため、学習用となる異常データを事前に十分収集することが困難という特徴がある。そのため、正常データだけで学習しながらも、異常を検知して、判定理由を説明できるAIが必要となっていた。

また、異常を予測する「判定スコア」の算出において、製造設備などのセンサーから発信される時系列波形データでは、「非勾配型」の判定手法が、精度や処理速度では優位とされていたものの、従来の説明可能AIの多くは「勾配型」の判定手法を前提としているため、時系列波形データは、AIには適用しにくいという課題があった。

今回の技術は、こうした課題を解決するものにもなる。