超分散トラスト研究グループ

✪ AIシステムの品質に関する基準開発・社会実装

機械学習を利用した製品やサービスの品質目標や開発プロセスを確立するために、関係機関・民間企業と協力しながら「機械学習品質マネジメントガイドライン」の策定と、人工知能に関する国際標準化に取り組んでいます。

• ガイドライン （産総研・機械学習品質マネジメント検討委員会）

  • 機械学習品質マネジメントガイドライン （第4版，2023年12月）
  • AIの設計・開発・運用を ガイドラインでサポート （産総研マガジン，2022年3月）
  • 初版のプレスリリース （2020年6月）
  • AIのセキュリティリスクとは？ （産総研マガジン，2024年6月）
  • AIセキュリティの品質マネジメントの概要（2023年12月）

• 人工知能に関する国際標準化（デジタルアーキテクチャ研究センター・AI標準化委員会）

  • 機能安全とAIに関する国際規格 ISO/IEC TR 5469:2024 の取りまとめ [プレスリリース]（2024年1月）

• 品質評価の事例集・普及活動 （NEDOプロジェクト）

  • 機械学習品質マネジメントリファレンスガイド（第1.2版，2023年12月）
  • AI品質マネジメントシンポジウム [2022年9月動画 | 2023年10月動画]
  • AI品質マネジメント講座 [2024年度上半期募集 概要紹介]

✪ AIシステムの品質の評価・管理技術に関する研究開発

機械学習システムの品質管理を目的として、機械学習アルゴリズム・モデル・システムの実装を向上・評価するためのソフトウェア工学の研究にも取り組んでいます。

• AI品質評価支援ツール（NEDOプロジェクト）

  • 機械学習システムの品質評価テストベッド Qunomon （β版，2023年11月）
  • AI利用システム品質アセスメントシート（Excel4.04版，2023年12月）

• 機械学習システムのリスク分析のための形式検証技術（JST創発的研究支援事業）

• データの妥当性を考慮する公平性テスト（科学研究費助成事業・基盤研究(C)）

• 人材募集

  • 若手パーマネント型研究員の募集：機械学習ソフトウェア等の信頼性確保に関する研究
  • リサーチアシスタント（修士課程・博士課程大学院生）の募集：機械学習システムのリスク分析のための形式検証技術に関する研究

✪ 不確実性を伴うソフトウェアのための形式手法の研究開発

サイバーフィジカルシステムなどの不確実性を伴うシステムの信頼性を評価・保証するために、確率的事象や物理環境などを扱うソフトウェアのモデル化と形式検証の研究を行なっています。また、その基盤技術として、プログラミング言語や定理証明支援系の研究に取り組んでいます。

• ソフトウェアと数学の形式検証： プログラム検証, コード生成, 数学, 情報セキュリティ, ロボティクス （Inria, 名古屋大学などとの連携）

• 形式手法と統計手法の融合： JST PRESTO， 日仏LOGISプロジェクト

• 連携大学院：奈良先端科学技術大学院大学 先端科学技術研究科 形式検証研究室

• 人材募集

  • 若手パーマネント型研究員の募集：Society 5.0 時代のソフトウェアのための形式検証技術やテスト技術に関する研究
  • 奈良先端科学技術大学院大学 形式検証研究室に入学する大学院生（修士課程・博士課程）の募集（通常、リサーチアシスタントとしての雇用が可能）

✪ デジタルアーキテクチャに関係した標準化活動などの社会実装

• 標準化活動やそのための調査活動
• オープンソースソフトウェアコミュニティへの貢献を通じた社会実装