JAMSS、人工知能の安全性を検証し不安を払拭する「Reliable AI」開始！ブラックボックスを可視化

最終更新日:2023/12/22

JAMSSはAI安全性検証サービス「Reliable AI」を開始しました。独自技術で人工知能システムの安全性を立証し、人間が思いつけなかった新しい論理を人工知能が学習で獲得したことを安全検証の結果知ることができるようになります。

このAIニュースのポイント

JAMSSはAI安全性検証サービス「Reliable AI」を開始
ブラックボックスを可視化したうえでAI・人工知能を評価できる
新しい論理を人工知能が学習の結果獲得したことを安全検証の結果知ることも可能

ISS「きぼう」日本実験棟の運用や技術評価、宇宙実験のトータルサポートを手がける、有人宇宙システム株式会社 (JAMSS) は、レジリエンス・エンジニアリングにおける安全分析のための手法である「機能共鳴分析（FRAM：the Functional Resonance Analysis Method）」と、FRAMと「説明可能なAI（XAI）」の手法で識別したパラメータ条件を検証する「SpecTRM-RL（SpecTRM Requirement Language）」の組み合わせにより、人工知能（AI）の安全性を立証するサービス「Reliable AI」を開始しました。

人工知能(AI)システムの安全検証を行うことにより、ブラックボックスを可視化したうえで評価できるだけでなく、人間が思いつけなかった新しい論理を人工知能が学習の結果獲得したことを安全検証の結果知ることができるようになります。

安全検証を行うことにより、人間は人工知能から学び、より良い安全のための新たな気づきを得ることができるようになります。人工知能の能力が人間を大きく凌駕した場合など、人工知能の挙動が理解できないという理由で安全性の立証をあきらめるのではなく、より積極的に、人工知能の成功要因を明らかにし、人間もそこから学び、ともに成長することが可能となることが期待されます。

機能共鳴分析（FRAM：the Functional Resonance Analysis Method）は、レジリエンス・エンジニアリングを創出したスウェーデンのヨンショーピング大学のエリック・ホルナゲル教授が開発した手法です。従来の安全解析手法である故障の木解析（FTA：Fault Tree Analysis）や、故障モード影響解析（FMEA：Failure Mode and Effects Analysis）と異なり、システムの「故障・失敗要因」の分析ではなく、システムの「成功要因」の分析を行います。

SpecTRM-RLはSpecTRM Requirement Languageの略で、マサチューセッツ工科大学 (MIT) のナンシー・レブソン教授の開発した形式手法です。きわめてシンプルな定義言語で、状態空間の網羅的な検証に使用します。

出典：PR TIMES