AIのブラックボックス解析と社内への説明方法

第1部 説明性の高い時系列波形データ分析向けAIの開発と説明性を実現するためのポイント

(2022年6月29日 10:30〜12:00)

　近年、インフラ設備や製造装置に取り付けたセンサから時系列波形データを収集し、AIにより異常や正常を自動判別する異常診断技術に注目が集まっている。このような社会インフラや製造分野では、判別性能だけではなく、専門家がAIの判断結果を波形から理解しやすい説明性が求められる。一方で、異常データを事前に収集することが難しいこと、異常の見逃しと誤検出とでリスクに違いがあること、波形データを観測したタイミングにより波形が変化すること、などの課題もある。 　本講演では、時系列波形データの分析手法やAIの説明性について解説し、我々が開発した波形異常診断技術を紹介する。

1. 一般的なAIによるクラス分類
   1. 問題設定
   2. 簡単なAIによるクラス分類のアプローチ
2. AIの説明性
   1. AIの説明性における課題や要件
   2. AIで説明性を実現するアプローチ
3. 異常検知手法
   1. 異常データが少ない場合の課題とアプローチ
   2. 異常データを学習時に必要としない異常検知手法
      • 1クラスサポートベクトルマシン; OCSVM 等
   3. 異常データが少ない場合の評価指標
      • 再現率
      • 適合率
      • F値
      • ROC曲線
      • AUC
4. 波形診断技術
   1. 時系列波形データの特徴や課題
   2. 説明性のある波形診断技術 (shapelets学習法)
   3. 公開時系列波形データセット
5. 波形異常診断技術の紹介
   1. 正常波形データのみで学習する説明性の高い異常波形検知技術OCLTS
   2. 見逃しあるいは誤検出を厳しく抑えて学習する説明性の高い波形診断技術LTSpAUC
   3. 観測タイミングによる波形の変化を予測する説明性の高い波形診断技術LETS
   4. 産業事例への適用例
• 質疑応答

第2部 AIのブラックボックス解析技術と経営層へのAI判断理由の説明方法

(2022年6月29日 13:00〜14:30)

　AI開発の課題の1つに、AIが下した判断の妥当性をどう評価すべきかという問題がある。本セミナーでは画像認識AIをテーマに、誤認識が起きた時の解明のアプローチ、汎化性能の向上手段、学習データの充足度、未知の評価データに対する追加学習の必要性などの課題に直面したときの具体的対処法を説明する。 　これらは開発費用や期間といった投資対効果に直結することもあり、先端技術活用時におけるビジネスインパクトとデファクト技術活用からの不安をどう解消するかについても説明する。

1. AI開発の現状と技術面・ビジネス面の課題
2. 画像認識におけるBlack Box問題解消のためのアプローチ
3. DNNモデルの特性を可視化する
4. DNNが下した判断根拠を説明する道具
5. 経営層の期待とAI成果物とのGap
6. AIエッジコンピューティングの今後の展望
• 質疑応答
  (2022年6月29日 14:45〜16:15)

第3部 AIの判断理由解析の方法と経営層への根拠の伝え方

　近年、予測・識別タスクにおけるAIの活用が盛んになっていますが、AIの高度化により人間がその出力結果を理解できない、あるいは説明できないという状況が発生しています。一方弊社では長年に渡り、データから因果を推定する方法の研究開発を行っており、ソニーグループ関連企業内の様々な領域で広く活用が進んでいるほか、外部企業へのソフトウェア・ライセンスの提供も行なっています。このメソッドにより、通常のAIでは難しい出力の理解や説明がかなりできるようになっています。 　本講演では通常のAIとこの技術との違いをご説明し、ブラックボックスの解析方法・判断理由の説明方法の1つとしてご紹介をいたします。

1. AIの活用状況
2. AIの活用で求められる説明性
3. AIの活用における進んだ手法
4. AIの活用とブラックボックス性
5. ソニーCSLでの研究開発活動
6. ソニーCSLの開発した因果推定技術CALC
7. CALCの活用方法と活用事例のご紹介
8. 因果推定によって可能になる介入意思決定支援
9. CALCによる定量的因果効果の予測
10. 因果の推定によるAI結果の理解と説明
11. AI結果説明へのCALCの適用
• 質疑応答