超分散トラスト研究グループ

✪ 超分散ネットワークのトラスト管理

超分散ネットワークの信頼性を向上するために、超分散ネットワークのトラスト管理技術、特にセキュリティ管理・運用技術の研究開発を行っています。

• 研究職員採用：ネットワーク上のトラストに関する研究

✪ 機械学習システムの品質管理・技術標準

機械学習を利用した製品やサービスの品質目標や開発プロセスを確立するために、関係機関・民間企業と協力しながら「機械学習品質マネジメントガイドライン」の策定と、人工知能に関する国際標準化に取り組んでいます。また、機械学習システムの品質管理を目的として、機械学習アルゴリズム・モデル・システムの実装を向上・評価するためのソフトウェア工学の研究にも取り組んでいます。

• ガイドライン （産総研・機械学習品質マネジメント検討委員会）

  • 機械学習品質マネジメントガイドライン （第4版，2023年12月）
  • AIの設計・開発・運用を ガイドラインでサポート （産総研マガジン，2022年3月）
  • 初版のプレスリリース （2020年6月）
  • AIのセキュリティリスクとは？ （産総研マガジン，2024年6月）
  • AIセキュリティの品質マネジメントの概要（2023年12月）

• 人工知能に関する国際標準化（デジタルアーキテクチャ研究センター・AI標準化委員会）

  • 機能安全とAIに関する国際規格 ISO/IEC TR 5469:2024 の取りまとめ [プレスリリース]（2024年1月）

• 品質評価支援ツール（NEDOプロジェクト）

  • 機械学習システムの品質評価テストベッド Qunomon （β版，2023年11月）
  • AI利用システム品質アセスメントシート（Excel4.04版，2023年12月）

• 品質評価の事例集・普及活動 （NEDOプロジェクト）

  • 機械学習品質マネジメントリファレンスガイド（第1.2版，2023年12月）
  • AI品質マネジメントシンポジウム [2022年9月動画 | 2023年10月動画]
  • AI品質マネジメント講座 [2024年度上半期募集 概要紹介]

• 研究職員採用：機械学習ソフトウェア等の信頼性確保に関する研究

✪ 不確実性を伴うソフトウェアのための形式手法

サイバーフィジカルシステムなどの不確実性を伴うシステムの信頼性を評価・保証するために、確率的事象や物理環境などを扱うソフトウェアのモデル化と形式検証の研究を行なっています。また、その基盤技術として、プログラミング言語や定理証明支援系の研究に取り組んでいます。

• ソフトウェアと数学の形式検証： プログラム検証, コード生成, 数学, 情報セキュリティ, ロボティクス （Inria, 名古屋大学などとの連携）

• 形式手法と統計手法の融合： JST PRESTO， 日仏LOGISプロジェクト

• 連携大学院：奈良先端科学技術大学院大学 先端科学技術研究科 形式検証研究室

• 研究職員採用：Society 5.0 時代のソフトウェアのための形式検証技術やテスト技術に関する研究