「説明できるAI」の作り方と業務への導入、活用の方法

第1部. 説明性の高い 時系列波形データ分析向けAIの開発

(2020年9月9日 10:00〜12:00)

　近年、インダストリアルIoTの普及に伴い、インフラ設備や製造装置にセンサを取り付けて異常の検知や診断を行うなど、時系列波形データをAIにより分析する機会が増えている。このような分野では、専門家が時系列波形データを確認して原因究明や対策立案を行うことが多い。そのため、分析性 能だけではなくAIの判断結果を専門家が理解しやすい説明性が求められる。本講演では、我々の開発した説明性のある 時系列波形データ分析手法として、正常データのみから異常を検知するOCLTSと見逃しや誤報を低く抑えるLTSpAUCとをそれぞれ解説する。

1. 説明性の高いクラス分類手法
   1. AIによるクラス分類
   2. 説明性に求められる要件
   3. 説明性を実現するアプローチ
2. 時系列波形データ分析手法
   1. 波形データの特徴
   2. 説明性の高い時系列波形クラス分類手法
   3. 適用事例
3. 説明性の高い時系列波形異常検知手法 (OCLTS) の開発
   1. 本技術開発の背景と課題
   2. 学習アルゴリズムの概要
   3. 適用事例
4. 見逃しや誤報を低く抑える説明性の高い時系列波形分析手法 (LTSpAUC) の開発
   1. 本技術開発の背景と課題
   2. 学習アルゴリズムの概要
   3. 適用事例
• 質疑応答

第2部. 根拠を説明可能な人工知能の開発と その導入、活用の仕方

(2020年9月9日 12:45〜14:45)

　AIの社会実装が急速に進む中、特に医療などのミッションクリティカルな現場においてAIのブラックボックス化が大きな問題となっています。 富士通ではこの問題にいち早く取り組み、AIが提示した結果を、AI自らが説明できる「説明可能なAI (XAI) 」の構築を試みています。 ディープラーニングを用いず、最初から解釈性の高いモデルを構築して説明性を確保するXAI技術 (Wide Learning) や、ディープラーニング用いつつ、別の解釈性の高いモデルと連携させ、AIが下した判断の理由や根拠を説明するXAI技術 (Deep Tensor + Knowledge Graph) を開発し、XAIの社会実装を進めています。 本講演では、こうした富士通が開発した先進XAI技術の概要の説明と幾つかの活用事例をご紹介致します。

1. 富士通のAI (Zinrai)
2. 富士通が目指すAI
   1. 信頼できるAI
   2. 説明可能なAI (XAI) の必要性
3. Wide Learning
   1. 特徴・技術概要
   2. 活用事例 (デジタルマーケティング、不良品検知、ビジネス文書分析等)
4. Deep Tensor + Knowledge Graph
   1. 特徴・技術概要
   2. 活用事例 (ゲノム医療等)
5. TDA
   1. 特徴・技術概要
   2. 活用事例
6. 今後の展開
• 質疑応答

第3部. 深層学習 (CNN) の判断根拠の可視化 ～視覚的説明の獲得～

(2020年9月9日 15:00〜17:00)

　深層学習 (Deep Learning) による人工知能システムは、画像認識や音声認識の分野で人と同等の認識性能を達成しています。しかし、その出力は何を根拠に決定されたのか分からないという問題があります。本講演では、推論結果を求める際に、深層学習が注目した領域であるアテンションを出力するネットワーク、Attention Branch Network (ABN) について紹介します。ABNはアテンションを獲得しつつ、認識性能の向上にも寄与することができる深層学習のネットワークです。応用事例として、自動運転や医療診断におけるABNによる視覚的説明について紹介します。アテンションを可視化することはAIの視線を確認することであり、人工知能システムの出力の判断根拠を解釈するアプローチとして期待されています。

1. CNNの仕組み
   1. CNNの構造
   2. 画像認識タスクと代表的なCNN
2. 従来の視覚的説明
   1. CAM (Class Activation Mapping)
   2. Grad – CAM
3. Attention Branch Network
   1. ネットワーク構造
   2. アッテンション機構
   3. マルチタスク化
4. 人の知見の組込による説明性と精度の向上
   1. アテンションマップの手動修正
   2. ネットワークのファインチューニング
   3. アテンションマップの評価
• 質疑応答