何が新しい問題なのか：確率的に動く機械

従来の産業用ロボットは、教示された動作を繰り返す決定論的な機械です。同じ入力には同じ動作をするので、危険源を洗い出し、柵や安全センサーで人を隔離するか、協働運転の条件を満たすように設計すれば、安全を論証できました。

フィジカルAI、つまりAIの基盤モデルが周囲の状況を認識して動作を生成するロボットは、この前提が崩れます。同じ状況でも動作が少しずつ変わり、学習していない状況では予測しにくい動きをする可能性があります。@ITの解説記事（2026年9月）は、フィジカルAIの課題として、確率的なAIの安全保証、事故時の責任分界、改ざんできないログによる説明可能性、既存の労働安全衛生法・道路交通法との不整合などを挙げています。MONOistの報道（2026年6月）も、製造・建設現場への導入には、汎用AIとは違い、信頼性を担保する決定論的なAIシステムが求められると伝えています。

2026年10月時点の規格と議論

既存の安全規格は改訂が進んでいますが、AIが動作を決めるロボットを十分に扱うところまでは来ていません。

規格・取り組み2026年10月時点の状況フィジカルAIとの関係
ISO 10218-1/-2:20252025年2月に改訂版発行。-1はロボット本体、-2はロボットセルの統合産業用ロボットの安全の基本。AIによる動作生成を前提にした規定ではない
ISO/TS 150662025年6月に改訂予定の段階に入り、ISO/AWI 15066-1に置き換え予定協働運転の力・圧力の基準。歩行するヒューマノイドは前提外
ISO/IEC TS 22440AI固有のリスクを扱う新しい技術仕様として言及されている機能安全規格とAIのリスクをつなぐ試み
EU機械規則2023/12302027年1月20日適用。自己進化する安全機能は第三者評価EU向け機械の設計方針に影響
経済産業省の研究会「AI利活用における民事責任の在り方に関する研究会」を設置事故時の責任分界の議論

企業の側でも、安全の仕組みを作る動きがあります。日立は2026年9月14日、フィジカルAI向けのガードレール技術を発表しました。ナレッジグラフで危険を分析し、制御の指令をリアルタイムに補正する技術で、同社の発表では、公開仕様に基づく評価で主要ハザード22件のうち20件を抽出したとしています。NVIDIAは2026年9月、機能安全規格（IEC 61508、ISO 13849）を目標にした安全基盤「Halos」のロボティクスへの展開を説明しています。いずれも企業の発表段階の技術で、現場の安全認証の手段として確立したものではありません。規格の詳細はISO 10218:2025改訂の要点とAIロボットセルの安全認証で扱っています。

現場導入の前に決める4つのこと

規格が追いついていない以上、導入する企業が自分で安全の論証を組み立てる必要があります。労働安全衛生法は、事業者に機械による危険の防止措置と、リスクアセスメントの実施（努力義務を含む）を求めています。フィジカルAIでも、この枠組みに沿って次の4つを先に固めます。

AIによる動作生成層と決定論的な安全層の二層構造 AI層（確率的）認識・動作生成・把持計画 ▶ 安全層（決定論的）速度・力・領域の制限、非常停止 ▼ ロボット・アクチュエータ安全層を通った指令だけを実行 ログ（改ざん防止）AIの出力・安全層の介入を記録 安全層は従来の安全規格（安全PLC・安全センサー）で論証できる範囲に置く
AIの動作生成と安全機能を分ける二層構造。AIが何を出しても、安全層が人への危険を止める。
  1. リスクアセスメントをAIの不確かさ込みで行う：AIが想定外の動作をした場合を危険源に含め、最悪の動作を仮定して評価する
  2. 安全機能をAIから切り離す：速度・力・動作範囲の制限と非常停止は、AIに依存しない安全PLCや安全センサーで実現する。AIが何を出力しても、安全層が人への危険を止める構造にする
  3. ログを残す：AIの出力、安全層が介入した記録、そのときのセンサーデータを、改ざんできない形で保存する。事故の原因調査と責任の判断に必要になる
  4. 責任分界を文書にする：ロボットメーカー、AIモデルの提供元、システムインテグレーター、ユーザー企業の役割を、契約と安全文書で明確にする

2の考え方は、安川電機とソフトバンクの協業のように、従来の制御とAIの役割を切り分ける現実的な設計とも共通しています。

責任の分け方：誰が何を負うか

事故が起きたときの責任は、現時点では既存の法律の枠組み（労働安全衛生法上の事業者責任、製造物責任、契約責任）で判断されます。AIのための特別なルールはまだありません。そのため、導入時の文書化が重要です。

立場主に負う責任文書で決めておくこと
ユーザー企業（事業者）作業者の安全確保、リスクアセスメント、教育運用条件、作業者の立入ルール、点検の手順
システムインテグレーターロボットセルとしての安全設計安全層の設計、適用規格、検証の記録
ロボットメーカーロボット本体の安全本体の安全機能と使用条件
AIモデルの提供元モデルの性能と制約の開示想定する使用範囲、既知の限界、更新時の通知

よくある質問

AIで動くロボットに特別な届出は必要ですか

2026年10月時点で、AIで動くこと自体を理由とした特別な届出の制度はありません。ただし、産業用ロボットとしての既存の規制（特別教育、柵の設置や協働運転の条件など）は適用されます。法令の詳細は所轄の労働基準監督署や専門家に確認してください。

協働ロボットにAIを足す場合も同じ考え方ですか

同じです。協働運転の力・圧力の制限は、AIとは独立した安全機能で確保し、AIは作業の認識や動作の計画に使う、という分け方が基本です。

事故が起きた場合、AIの提供元に責任を問えますか

契約と事故の原因によります。AIの提供元が想定する使用範囲を外れて使っていた場合は、責任を問うのは難しくなります。使用範囲と既知の限界を、導入時に書面で受け取っておくことが重要です。

この記事に出てくる用語

用語集（日・英・中）をすべて見る

この記事のテーマ
#規制対応#フィジカルAI#安全
この特集について

フィジカルAIは工場に来るのか

ロボット基盤モデルとヒューマノイドの実証。宣伝と量産ラインの距離を測る　全66本

  1. フィジカルAIとは：従来の産業ロボット・協働ロボットとの違いを4つの軸で整理
  2. 美的の「智能体工厂」：荆州工場の14エージェント・38シーンと人形ロボット
  3. ヒューマノイドの工場実証一覧：BMW・Mercedes・Schaeffler・BYDなど10社の現在地
  4. フィジカルAI導入の判断基準：今やるべき工場・待つべき工場を分ける5つの質問
特集の記事をすべて見る →

この記事を書いた人

株式会社サオス

株式会社サオス 製造DX部

DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。

運営者情報　編集方針　株式会社サオスのサイト