AI RMFは「認証」ではなく「リスク管理の共通言語」
NIST（National Institute of Standards and Technology、米国国立標準技術研究所）は2023年1月26日に「AI Risk Management Framework（AI RMF 1.0）」を公開しました。構成はGovern（統治）・Map（把握）・Measure（測定）・Manage（対処）の4機能です。続いて2024年7月26日に、生成AIに固有のリスクを扱う「NIST AI 600-1 Generative AI Profile」を公開しています。
AI RMFは任意のフレームワークで、第三者認証の仕組みはありません。この点が、認証を取得できるマネジメントシステム規格のISO/IEC 42001:2023（2023年12月18日発行）との大きな違いです。実務上の使い分けは次のように整理できます。
| 項目 | NIST AI RMF / AI 600-1 | ISO/IEC 42001 |
|---|---|---|
| 性格 | 任意のリスク管理フレームワーク | 認証可能なマネジメントシステム規格（AIMS） |
| 中心 | 個々のAIシステムのリスクの洗い出しと測定 | 組織としての方針・責任・PDCAの仕組み |
| 工場での使いどころ | 生成AI・エージェントを導入する前のリスク評価表 | 全社のAIガバナンス体制と顧客への説明 |
| 外部からの要求 | 米国顧客・米国拠点の監査で参照されやすい | 取引先から認証の有無を問われる場合 |
AI RMFでリスクを洗い出し、その結果を42001の管理策や社内規程に落とし込む、という順序で併用すると重複作業が減ります。42001そのものはISO/IEC 42001の解説で、AI RMFの全体像はNIST AI RMFの基本で扱っています。
4機能を製造業のAI運用に読み替える
4機能は抽象度が高いため、そのままでは工場の誰が何をするのかが見えません。外観検査AIや保全向け生成AIを例に、担当と成果物に置き換えると次の流れになります。
製造業で特に重いのはMapです。同じ画像検査AIでも、外観の等級判定に使うのか、安全装置の代わりに使うのかで、求められる検証の深さがまったく変わります。EU AI Actでも「安全機能かどうか」が高リスク判定の分岐点になっており、この切り分けは規制対応と共通の作業になります（EU AI Actの高リスク判定）。
Measureでは、AIの精度だけでなく、MESや品質記録と突き合わせた実績で測ることが要点です。AIの判定結果を検査実績・ロット・作業者と同じキーで記録していないと、誤判定の傾向をあとから分析できません。
生成AIの12リスクを工場の言葉にする
NIST AI 600-1が定義する12のリスクのうち、製造現場での影響が大きいものから並べ替えると次のようになります。
| AI 600-1のリスク | 工場での具体例 | 主な対策 |
|---|---|---|
| Confabulation（作話） | 保全チャットボットが存在しない手順やトルク値を回答する | 出典表示の必須化、数値は原典リンク必須、人の確認 |
| Information Security | プロンプトインジェクションで社外にデータが流出、エージェント経由の不正操作 | 読み取り専用接続、ツール権限の最小化 |
| Value Chain and Component Integration | 外部モデル・プラグイン・SaaSの更新で挙動が変わる | モデルの版管理、変更時の再評価 |
| Intellectual Property | 図面・配合・加工条件を外部モデルに入力する | 入力禁止情報の定義、閉域環境 |
| Data Privacy | 作業者の映像・音声・評価データの扱い | 目的外利用の禁止、保存期間の設定 |
| Human-AI Configuration | 現場がAIの回答を過信する、逆に一切使わない | 承認ゲートの設計、教育 |
| Information Integrity | 生成した報告書・8Dレポートの事実誤り | 人のレビュー、生成部分の明示 |
| Harmful Bias and Homogenization | 特定ラインや熟練者のデータに偏った提案 | 学習・参照データの範囲の記録 |
| Environmental Impacts | 推論の電力・計算コスト | 用途に合うモデル規模の選定 |
| CBRN Information or Capabilities | 化学・医薬品工場での危険物情報 | 業種によっては利用制限 |
| Dangerous, Violent, or Hateful Content | 社内チャットでの不適切な出力 | 一般的な出力フィルタ |
| Obscene, Degrading, and/or Abusive Content | 同上 | 同上 |
上位4つは、ほぼすべての工場で検討が必要です。特に作話は、保全・品質の業務では「もっともらしい誤り」が設備停止や不良流出に直結します。作話の評価方法はハルシネーション対策とガードレールで扱っています。
導入時に誤解しやすい3つの点
1点目は、AI RMFを「チェックリスト」として扱ってしまうことです。NISTは4機能を順番に1回こなすものではなく、運用中に繰り返すものとしています。モデルの更新、参照文書の改訂、対象ラインの追加のたびにMapからやり直す前提で、手順書に再評価の契機を書いておきます。
2点目は、生成AIプロファイルを汎用AIだけの話と考えることです。製造業向けのCopilotやエージェント製品も中身は生成AIで、12リスクがそのまま当てはまります。ベンダー製品を採用する場合も、Value Chainのリスクとして、モデルの提供元と更新ポリシーをベンダーに質問する必要があります。
3点目は、OT（制御系）のセキュリティ規格との関係です。AIが設備データに接続する場合、IEC 62443などOTセキュリティの要求とも重なります。AI RMFは情報セキュリティを12リスクの1つとして扱うだけなので、OT側の対策は別の枠組みで設計します。
よくある質問
NIST AI RMFは日本の工場でも使う意味がありますか？
あります。法的義務ではありませんが、米国の顧客や米国拠点からAIの管理体制を問われた際に、共通の言葉で説明できます。日本のAI事業者ガイドラインと考え方が近い部分も多く、社内規程の下敷きとしても使えます。
12のリスクをすべて評価しないといけませんか？
すべてを同じ深さで評価する必要はありません。用途に関係しないリスク（例：一般的な加工工場でのCBRN情報）は「該当なし」と理由を記録すれば足ります。作話・情報セキュリティ・知的財産・バリューチェーンの4つは、ほぼすべての製造業の生成AIで優先度が高くなります。
ISO/IEC 42001の認証とどちらを先に進めるべきですか？
個々のAIのリスク評価をまだしていない段階なら、AI RMFでの洗い出しが先です。顧客から認証の有無を求められている、または全社展開で組織の仕組みが必要になった段階で、42001に進むのが現実的です。
この記事に出てくる用語
この記事を書いた人
DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。
