AI搭載システムの品質・安全保証技術と検証のポイント

近年、多様なシステムで人工知能 (AI) が活用され、サービスの変革が進行しています。AIには、ブラックボックスのため振る舞いが不明確であり、結果が不確かであり、学習によって繰り返し更新される、といった特性があります。今まで高い製品品質を実現してきた国内製造業メーカーにおいても、AI搭載システムの品質・安全保証や品質・安全説明には非常に苦労されているのが実状です。 　加えて、2024年5月に欧州委員会によりAI法が最終承認され、8月に法律が成立しました。2026年頃から実質的には全面施行予定であり、対応準備は急務です。日本においても2025年6月にAI法が成立。違反しても罰則の無いソフトローの位置付けですが、対応が望ましい方向に向かっています。イタリアにおいても2025年9月に、AIに関する包括的な法律が可決されました。さまざまな国でAI法の導入が進む中、記載の要求条項は多岐にわたり、抽象度も高く、AI搭載システムのメーカーや開発者は、何をどれだけ実施すれば合格に達するか、どのように品質・安全性を説明すればよいのか、多くの技術課題を抱えておられる状況かと思われます。 　これに対し当社では、2017年よりAI搭載システムを機能安全規格適合するための研究事業を実施してまいりました。本研究事業を通して、AI搭載システムの品質・安全性を検証し、説明可能にし、AIシステムの機能安全規格に適合可能にする技術を構築してまいりました。その知見を応用して、現在多くの企業を支援しております。 　本セミナーでは、これらの知見を踏まえ、AI搭載システムを品質・安全保証するための重要なポイントや、各種検証手法について過去の開発経験を踏まえて解説します。

1. AI搭載システムの特徴と品質保証の課題
   1. 現在のAI導入状況や企業の取組み
   2. さまざまなAI搭載システムの例
   3. AI搭載システムの特徴と従来ソフトとの主な違い
   4. AI搭載安全関連システムの課題
   5. AIに関する標準化動向
      1. AI搭載システムの法規制に関する各国の主な動向
      2. AI搭載システムに対する安全性の標準化動向
      3. 主なAIセキュリティ関連標準化活動
      4. ISO/IECJTC1/SC42開発規格の状況
      5. その他の主要な標準化動向
2. 従来の品質・安全保証技術、説明技術
   1. 国際標準化した機能安全開発の概要
      1. 安全規格の階層構造
      2. 高信頼性保証のための機能安全開発プロセスの重視ポイント
      3. 機能安全開発時の注意点
   2. 機能安全の品質・安全保証技術とは
      1. リスク評価の概要
      2. ハザーダスイベントの構成要因
      3. 本質安全と機能安全
      4. リスク低減のアプローチ
   3. 機能安全の品質・安全説明技術とは
      1. 従来の品質管理と機能安全管理の違い
      2. 安全ケース (Safety Case) の主要3要素
      3. 品質・安全説明力として重要な「文書化」
      4. 要求のトレーサビリティ管理
3. AI搭載システムの代表的な品質・安全保証標準の解説
   1. AIシステムライフサイクルプロセス ISO/IEC 5338
   2. AIシステムの機能安全規格 ISO/IEC TR 5469
   3. 車載AIシステムの安全規格 ISO PAS 8800
   4. 自動運転の安全規格 UL 4600
   5. Automotive SPICE v4
4. AI搭載システムの品質・安全保証技術とそのポイント
   1. AI搭載システムに対するテスト・検証手法
      1. 従来開発とAI開発におけるテスト・検証手法の共通と差異
      2. AI向きのテスト手法
      3. 性能評価
      4. 使用実績評価
      5. 机上分析検証
      6. シミュレーション
   2. AIモデルの透明化技術
      1. 説明可能なAI (XAI)
      2. 説明可能なモデリングアプローチ
   3. AI開発の透明化技術
      1. 説明可能性の高いAIモデルワークフロー
      2. 従来の品質説明技術を応用したAI学習プロセス
   4. AI搭載システムの品質・安全保証のポイント
      1. AIの特性を正しく理解
      2. AIは特別ではない! 従来の品質保証技術の基礎をおさえることの必要性
      3. 検証の網羅性と効率化
• 質疑応答