海外ベンダーと調査会社は「人の承認」を前提にしている

製造業向けAIエージェントの公開情報を見ると、主要なベンダーや調査会社は、人の承認を前提にした設計を示しています。

出どころ承認の設計誰が承認するか
Deloitte（2025年9月レポート）代替調達・作業指示書生成・ライン再構成などに承認ゲート（Human approval gates）を置く調達担当、生産技術者、生産計画担当
SAP（Field Service Dispatcher Agent、2025年Q2ベータ）各提案をディスパッチャーが検証するディスパッチャー
Tulip（AI Composer、2026年1月）文書から生成したアプリの下書きを、人がレビュー・修正して選択適用するアプリ作成者
Siemens（エージェント構想、2025年5月）ユーザーがどのタスクを委ねるかを選ぶ利用者

Deloitteは同じレポートで、産業機械・航空宇宙防衛の分野では作業時間の81%以上が引き続き人主導だと推計しています。国内でも、横浜ゴムとdotDataが技術者の仮説形成と解釈を支援する「Human-in-the-loop型」のAIエージェントを共同開発していると発表しました（2026年9月、検証段階）。エージェントが自律的に決めるのではなく、人の判断を支える位置づけが共通しています。

承認ゲートを置く5つの場所

製造業のエージェント業務の流れに沿うと、承認ゲートを置く場所は次の5つです。すべてに置く必要はなく、業務の誤りのコストに応じて選びます。

目標設定から事後確認までの業務の流れと5つの承認ゲートの位置 目標・範囲 計画（手順） 提案・下書き 実行 結果 1 2 3 4 5 委任範囲の承認 計画の承認 実行前の承認 閾値超えの停止 事後レビュー 製造業の多くの業務では、3（実行前の承認）を基本に、4と5を組み合わせる
エージェント業務の流れと承認ゲートの5つの候補位置。誤りのコストが大きい業務ほど前の段階から置く。
  1. 委任範囲の承認：エージェントに任せる業務と使えるツールを、業務責任者が事前に承認します。Siemensの「どのタスクを委ねるかを選ぶ」はこの位置です
  2. 計画の承認：複数の手順を組むエージェントで、実行前に手順全体を人が確認します。ライン再構成のように、途中で止めにくい業務に向きます
  3. 実行前の承認：エージェントの提案や下書きを人が確認し、承認したものだけを登録・実行します。SAPのディスパッチャー検証、Tulipの選択適用はこの位置です
  4. 閾値超えの停止：数量・金額・影響範囲が決めた閾値を超えたら、自動実行を止めて人に回します
  5. 事後レビュー：自動実行した結果を、日次や週次で人がまとめて確認します。影響が小さく取り消しが容易な操作に限ります

業務別の推奨配置

業務推奨する承認ゲート承認者の例
保全依頼の起票3、慣れたら5保全班長
作業指示書・手順書の生成3（重要工程は品質保証の承認も）生産技術者、品質保証
生産計画の変更提案2と3生産計画担当
代替調達先の提案3と4（金額閾値）調達担当
不具合の原因調査3（真因の判定は人）品質保証

承認を機能させる3つの設計項目

承認ゲートの位置を決めたら、次の3つを同時に設計します。

1つ目は承認者です。業務の結果に責任を持つ人を承認者にします。情報システム部門やAI推進担当が承認者になると、業務の妥当性を判断できません。不在時の代理承認者も決めておきます。

2つ目は承認UIです。承認者が1画面で判断できるよう、提案内容、根拠となったデータ（MESの実績、保全記録、手順書の該当箇所など）、変更前後の差分を表示します。根拠のリンクがない提案は承認しない、というルールにすると、ハルシネーション（もっともらしい誤り）を見落としにくくなります。

3つ目は責任分界です。承認した結果に誤りがあった場合、責任はエージェントを使うと決めた組織と承認者にあるのか、ベンダーにあるのかを、社内規程と契約で整理しておきます。品質記録上は、承認者と実行者（エージェント）の両方が残るようにします。

承認データはエージェント改善の材料になる

承認ゲートは、安全装置であると同時に、エージェントを改善するためのデータ源です。承認・修正・却下の比率（介入率）と、却下の理由を記録しておけば、どの業務・どの条件でエージェントが誤りやすいかがわかります。介入率が十分に下がった業務から、ゲートを3から5へ移すといった判断も、このデータに基づいて行えます。指標の設計はAIエージェントの運用評価で扱います。

よくある質問

すべての操作に人の承認を入れるべきですか

すべてに入れると承認件数が増えすぎ、形骸化します。誤りのコストが大きく取り消しにくい操作には実行前の承認、影響が小さく取り消しやすい操作には事後レビューと、業務ごとに使い分けます。

承認者がAIの提案に引きずられるのを防ぐには

承認画面に根拠データを必ず表示し、承認者が自分で確認できるようにします。定期的に、AIの提案を見せずに人が判断した結果と比べるのも有効です。

EUの規制は承認の設計に影響しますか

EU AI Actは高リスクAIに人による監督を求めています。作業者の監視や安全機能に関わるAIは高リスクに該当しうるため、欧州拠点を持つ企業は承認と監督の記録を残す設計にしておくと安全です。該当性は個別に確認してください。

この記事に出てくる用語

用語集（日・英・中）をすべて見る

この記事のテーマ
#AIエージェント#導入戦略

この記事を書いた人

株式会社サオス

株式会社サオス 製造DX部

DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。

運営者情報　編集方針　株式会社サオスのサイト