AI in Autonomous Vehicles2 分で読める

自律システムの新たなボトルネック:ADSの遠隔支援に向けて規制当局が「運用上の人工知能コンピテンス」を監査し始めた理由

NHTSAと欧州の規制当局は、認識精度よりも「遠隔オペレーターが次に何をすべきか」を問う。根拠、エスカレーション、そして安全スコアの監査可能性まで追及する。

1) 不都合な転換:いま決めているのは「モデルの魔法」ではなくガバナンスだ——自律の規模は運用で決まる

「自動運転におけるAI」について、最も雄弁な指標は“より高いベンチマーク得点”ではない。むしろ、自動運転システム(ADS)を、機械のロジックが安全に次へ進めない場合や、遠隔支援のオペレーターが介入する場合まで含めて、安全性に直結する運用上のシステムとして統治せよ、という要求が強まっていることだ。

NHTSA(米国運輸省道路交通安全局)が主催した「National AV Safety Forum」では、遠隔支援を「機械ロジックと複雑な都市現実の“架け橋”」として位置づけつつ、ネットワーク遅延、サイバーセキュリティ上の脆弱性、人が状況認識を維持するための注意といった安全上の課題も同時に提示している。
https://www.nhtsa.gov/events/av-public-meeting-2026?utm_source=pulse.latellu.com&utm_medium=editorial)

これが重要なのは、安全性の議論が「AIは正しく認識できたか?」から、「そのシステム、そしてそれを運用する組織は、次に何をすべきかを“監査可能な根拠”とともに理解していたか?」へ移っているからである。

言い換えれば、自律のボトルネックはもはや、訓練/統合(融合)や計算資源だけではない。ここで私があえて呼びたいのは 運用上の人工知能コンピテンス(operational AI competence) だ。すなわち、エスカレーションの手順、振る舞い(行動)に関する能力、求められる根拠(エビデンス)、そして規制当局が実行時と事後の双方で監査できる、測定可能な安全基準である。

この変化は、事故報告や監督を“事後のコンプライアンス作業”ではなく、安全性アーキテクチャの一部として扱う規制文書にも、すでに表れている。NHTSAの「Standing General Order(SGO)」は、ADSや特定のレベル2の先進運転支援システムに関する安全上の欠陥を評価できるよう、事故に関するタイムリーな通知を得ることを目的として設計されている。
https://www.nhtsa.gov/laws-regulations/standing-general-order-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

そしてガバナンスが機能しないと、結果は避けられない。2024年9月30日のNHTSAの同意命令では、クルーズ(Cruise)が歩行者を含む事故について「完全に報告する」ことに関する失敗に関連して、150万ドルの罰金に同意した。ここで強調されているのは、安全性の統治は車両挙動だけではなく、「緊張の中での事務作業」も含むという点だ。
https://www.nhtsa.gov/press-releases/consent-order-cruise-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

2) 規制当局がAIに「証明してほしいこと」:AIスタック全体にまたがるADSの行動コンピテンス

新たな規制上の期待を理解するための有用な方法は、AIスタックを 行動コンピテンス(behavioral competencies) へ写像することだ。モデルが確信を持てない場合でも、実際に発揮され、観察され、評価できる能力である。ADSで安全に関わるAI機能としては通常、知覚、予測、意思決定が挙げられる。しかしガバナンスは、パフォーマンス重視の語りでは見落とされがちな4つ目の要素を、はっきりと持ち込む。それが エスカレーションと介入の振る舞い——想定外の事態に直面したとき、遠隔支援オペレーター(あるいは別のフォールバック機構)がいつ、どのように引き継いだり支援したりするのか、という点である。

NHTSAの公開フォーラムは、将来のガイダンスとして「遠隔支援」「ADSの行動コンピテンス」、そして2017年以降のAV環境の変化に言及している。つまり行動コンピテンスが、規制上の“対象物”として扱われつつあることを示している。
https://www.nhtsa.gov/events/av-public-meeting-2026?utm_source=pulse.latellu.com&utm_medium=editorial)

ガバナンスの側では、米国のアプローチはより構造化された形で安全保証(safety assurance)を示す方向に進んでいる。NHTSAの指導者層は公開の場で「安全ケース(safety cases)」や「安全マネジメントシステム(safety management systems)」の必要性を強調しており、それらの考え方が、予期せぬ、あるいは困難な状況に直面したときに開発者が遠隔支援をどう用いるかと結び付けられていることが明示されている。
https://www.nhtsa.gov/speeches-presentations/2026-SAE-Conference-Keynote?utm_source=pulse.latellu.com&utm_medium=editorial)

一方、EUの規制の方向性は、「監査可能性(auditability)」の論点をさらに鋭くしている。高リスクのAIシステムに対して、文書化、トレーサビリティ、人による監督といった要件を組み込むことで、適用後も残る健康・安全リスクを防止または最小化する「人間の監督」を求めている。EU AI Actの第14条では、監督者に適切に介入できるメカニズムの方向性も示されている。
https://artificialintelligenceact.eu/article/14/?utm_source=pulse.latellu.com&utm_medium=editorial)

ここでの実務的な編集上の焦点は、監査におけるオペレーターの「コンピテンス」がどのように理解されるかという点である。規制当局が関心を持つのは、遠隔支援が存在するかどうかだけではない。重要なのは、それが 劣化した条件下でも反復可能に機能する と示せるかどうかだ。たとえば、通信が遅れるとき、車両の知覚が不確かなとき、あるいは遅延やツールの制約のせいでオペレーターの視界が完全でないとき——である。

まとめると、方向性は一貫している。規制当局は、システムが「間違っているとき」「不確実であるとき」「接続条件が悪化するとき」にどう振る舞うのかを見たい。そしてそれを、信念ではなく 証拠 として求める。ただし重要なのは、その証拠が意思決定の節目(タイムスタンプ、エスカレーションのトリガー、記録された合理性)に結び付けられていることが期待される点である。事故後のまとめだけでは足りない。

重要な要点: 「運用上のコンピテンス」とは、安全に関わる能力である

モデルをうまく訓練することは、物語の半分にすぎない。残りの半分が 運用上のコンピテンス だ。すなわち、オペレーターの責任を規定する手順、インターフェースの振る舞い、エスカレーションの閾値、そして通信が劣化したときのフォールバック結果である。

遠隔操作(テレオペレーション)や遠隔支援システムに関する研究も、この点を反映している。遠隔操作の枠組みは、コントロールセンターの役割や状態遷移を記述し、公開道路での展開に向けてそれらをテストし、検証しなければならないことを示している。
https://arxiv.org/abs/2503.24249?utm_source=pulse.latellu.com&utm_medium=editorial)

したがって、ガバナンスはAIの問題だけでなく、規制対象の「製品」がAIだけではなく、オペレーターが観察し、判断し、エスカレートし、レビュー可能な記録を作るという社会技術的ループ全体である以上、システム工学の問題になっていく。

3) 遠隔支援を規制上の対象物にする:証拠要件、エスカレーション手順、「いつ介入すべきか」

遠隔支援はしばしば実装上の細部として扱われる。しかしNHTSAのフォーラムのアジェンダは、それを機械ロジックと都市の現実をつなぐ不可欠な機能として位置づけている。つまり遠隔支援は、いまや単なる顧客サポート機能ではなく、安全ケースの一部になる。
https://www.nhtsa.gov/events/av-public-meeting-2026?utm_source=pulse.latellu.com&utm_medium=editorial)

この再位置づけは、「安全に関わるAI」が何かを考え直させる。オペレーターの役割に注目すればよい。オペレーターは単なる受動的な監視者ではない。彼らは意思決定と支援を担う主体であり、ネットワーク遅延やサイバーセキュリティ上のリスクといった制約下で状況認識を維持しなければならない。

フォーラムのアジェンダは、そうした安全上の課題を直接リストしている。つまり、オペレーターの介入プロトコルは、実運用条件での頑健性(ロバスト性)という観点で評価されることになる、という含意を持つ。
https://www.nhtsa.gov/events/av-public-meeting-2026?utm_source=pulse.latellu.com&utm_medium=editorial)

そして遠隔支援が安全に関わる対象物になると、ガバナンスは証拠中心(エビデンスヘビー)になる。NHTSAのSGOはすでに、事故報告義務を通じて事故証拠を運用化している。
https://www.nhtsa.gov/laws-regulations/standing-general-order-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

執行(エンフォースメント)の観点でも、クルーズの同意命令は「報告義務が果たされないと、証拠の連鎖が罰せられうる」ということを示した。NHTSAは、2023年10月2日に、運転手なしで運用していたクルーズ車両が歩行者を約20フィート(約6メートル弱)引きずった事故に関連して2件の報告失敗があったことを説明しており、同意命令の是正措置の目的も文書化している。
https://www.nhtsa.gov/press-releases/consent-order-cruise-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

遠隔支援のガバナンスは「試験可能」になる

ガバナンスの観点から言えば、「いつ介入するか」は測定可能であるべきだ。「オペレーターが助けられるか」ではなく、「条件Xのもとで、根拠Yをもって、オペレーターが介入したのか」という形で問う必要がある。オペレーターの能力主張も、事故の結果やエスカレーション率へ結び付けられねばならない。規制当局はまさにその種のトレーサビリティを求める準備を進めている。

具体化するなら、規制当局が通常参照するのは次の3つの連結された監査用アーティファクト(成果物)である。

  1. エスカレーショントリガーの証拠——何が観測可能なシステム状態やインターフェース信号としてエスカレーションを開始させたのか(たとえば、特定の不確実性閾値、ローカライゼーション喪失、または「ハンドオーバー要求」フラグなど)。加えて、それに対応するタイムスタンプと、バージョン管理されたシステム構成。

  2. オペレーター操作の証拠——エスカレーション後にオペレーターが何をしたのか(特定のクラスのコマンドを発行したのか、特定の制御モードを引き継いだのか、フォールバックを要求したのか、より上位のティアへエスカレートしたのか)。さらに、オペレーターの手順が記録を要求していた合理性(理由づけ)。

  3. アウトカムの証拠——その後、交通に関わる状態がどう変化したのか。また、主張される安全余裕(安全マージン)が維持された(あるいは破られた)のか。これにより、遠隔支援が単なる物語の説明ではなく、安全機構として振る舞ったのかを規制当局が検証できる。

決定的なのは、ここでいう「証拠」が「事故報告書が存在すること」と同義ではないという点である。執行の記録が示す通り、規制当局は不完全または不正確な報告を罰してきた。つまり、監査用の痕跡(監査トレイル)は事後に“組み直す”のではなく、体系的に生成されていなければならない。

また米国側は、自動運転システムのコンピテンスに関する標準の欠落も明確に述べている。NHTSAは、現時点では自動運転システムのコンピテンス基準が存在しないため、適用可能なFMVSSを満たす車両でも公道で展開されうる、と説明している。だからこそ、安全保証は伝統的な認証だけでは不十分であり、運用上のコンピテンスを取り込む必要がある、という動機が生まれる。
https://www.nhtsa.gov/speeches-presentations/2026-SAE-Conference-Keynote?utm_source=pulse.latellu.com&utm_medium=editorial)

定量的なガバナンスの“錨”:エスカレーションは報告結果と結び付く

クルーズの事例は遠隔支援だけの物語ではない。制度としての警告である。ガバナンスの仕組みが正しい証拠を生み出せないと、規制当局は執行へとエスカレートする。2024年の150万ドルという金銭的な罰は、コンプライアンスと事故報告が安全保証の中核的期待になり得ることを示す具体的な目印だ。
https://www.nhtsa.gov/press-releases/consent-order-cruise-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

4) 定量的な圧力点:安全ケースに「運用スコア」が必要だと示す3つの数字

自律のボトルネックが運用上のコンピテンスだとするなら、ガバナンスには測定可能な錨が必要になる。現在の規制・報告ソースからは、監査の証跡が定量化されつつあること、そして「安全スコア」ロジックが続いて導入される可能性が高いことを示すデータポイントが見える。

データポイント1:報告失敗に対する150万ドルの罰金(クルーズの同意命令)

2024年9月、NHTSAは、クルーズが歩行者を含む事故について完全に報告することに関連する失敗により、150万ドルの罰金に同意した同意命令を発表した。
https://www.nhtsa.gov/press-releases/consent-order-cruise-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

年:2024年

ガバナンス上の意味:規制当局が、不完全な証拠連鎖に“コスト”を付けて数量化していることは、開発者に対して、報告、事故文書化、そしてオペレーターが支援する取り扱いを安全システムの構成要素として扱う圧力を強める。

データポイント2:20フィート——いま必要とされる事故の幾何学的な詳細さ

NHTSAの同意命令は、車両が停止するまで歩行者が約20フィート引きずられたと記している。
https://www.nhtsa.gov/press-releases/consent-order-cruise-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

年:2024年(2023年10月2日の事故を説明)。

ガバナンス上の意味:運用上の意思決定やエスカレーション行動を解析するには、「事故があった」というレベルを超えた、十分に精密な証拠が必要になる。

データポイント3:SGOの上限——報告違反の規模に応じて安全ペナルティが跳ね上がる

NHTSAのSGOページでは、2024年12月30日時点で、関連する一連の違反に対する民事上の最大罰則が139,356,994ドルに達し得ることが示されている(1日あたりの上限は、1違反につき27,874ドルとされている)。
https://www.nhtsa.gov/laws-regulations/standing-general-order-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)

年:2024年

ガバナンス上の意味:高い罰則の上限が、厳格な運用証拠の管理や、事故分類の一貫性を促す。そうした条件が整ってはじめて、安全スコアや監査プロセスの実装が現実味を帯びる。

これらを合わせて見ると、ガバナンスの軌道はこう読める。事故証拠がすでに高いリスクを伴う領域であるなら、運用上の人工知能コンピテンスは、測定可能な安全保証の成果物へと進化していく可能性が高い。たとえばエスカレーションのタイミング分布、介入境界の遵守度、そして事故後の証拠の完全性スコアなどが、その候補になる。

5) ガバナンスの実例4つ:遠隔支援と安全の証拠が衝突する場所

政策文書の説得力だけで終わらせないために、証拠、監督、そしてオペレーターに結び付いたプロセスが、現実のガバナンス結果として立ち上がる場面を示す具体例を4つ挙げたい。

事例1:クルーズ——全面報告の不備がNHTSAの執行につながった(2023年の事故、2024年の同意命令)

遠隔支援にとってガバナンス上の意味:車両が自律運転を前提としていても、安全システムには事故証拠と是正計画が含まれる。これらは、遠隔支援やエスカレーションの運用が影響し得るオペレーションプロセスに依存する。つまり争点は、車両挙動だけではなく、組織が証拠を生み出す運用の能力が、規制当局の審査に耐えられるかどうかにある。

事例2:NHTSAのSGO——報告は「安全上の欠陥インテリジェンス」として構造化されている(継続中、ただし執行は数量化される)

遠隔支援にとってガバナンス上の意味:事故報告を測定可能なコンプライアンスのサブシステムとして位置づけることで、安全ケース(オペレーターのエスカレーション行動を含む)が時間の経過とともに成立するかを監査しやすくなる。遠隔支援プログラムにとっての実務ポイントは、「何が起きたか(what happened)」が「何が報告されたか(what was reported)」から切り離せなくなり、その結果として、規制当局に提出できる証拠を生み出すエスカレーションのワークフローを構築せざるを得なくなる、ということだ。

事例3:May Mobility——事故対応のための正式プロトコルと証拠の取り込み

遠隔支援にとってガバナンス上の意味:規制当局が望む“証拠マインドセット”を示す。オペレーターと事故対応は、単に対応するだけでなく、証拠を集め、重大性を文書化し、事故報告やその後の分析を可能にするためのものでもある。遠隔支援のガバナンス上の教訓は、自主的な透明性の取り組みも、監査(トレーサビリティ、完全性、一貫性)に照らして評価される前提で、規制当局や外部監査人が突き合わせる対象になり得る、という点である。

事例4:Waymo——安全ケースと遠隔支援プログラムの独立監査をめぐる枠組み

  • 主体:Waymo(および外部監査の枠組み)
  • 結果:Waymoは、安全ケースと遠隔支援プログラムに関する独立監査の情報を公開し、方法論や業界向けの安全ケース構築の考え方を示している。
  • タイムライン:Waymoの監査に関する投稿は2025年(投稿上では2025年11月に公開)。
  • 出所:Waymoブログの「独立監査」記事。
    https://waymo.com/blog/2025/11/independent-audits/?utm_source=pulse.latellu.com&utm_medium=editorial)

遠隔支援にとってガバナンス上の意味:企業が、遠隔支援を「監査可能な安全ケースのエコシステム」の一部として扱い始めていることを示す。より深い示唆は、独立監査が「運用上のコンピテンス」を内部手続きから外部で検証可能な主張へ変換することだ。エスカレーション行動のガバナンスを、単なる宣言ではなく持続可能なものにするのが、まさにその役割になる。

6) 監査に耐える構造: 「安全ケース」からトレーサブルな監督へ

規制当局が運用上の人工知能コンピテンスへと動くなら、問題は「どのような構造が監査に備えられるのか」である。

EU側では、第14条の人間の監督要件が、監督する人物が介入すべきタイミングを判断してリスクを防止または最小化できるようにするメカニズムを重視している。これはまだ「オペレーターのコンピテンスを試すテスト」のように明確に仕様化されているわけではないが、トレーサビリティを支える法的な足場にはなっている。
https://artificialintelligenceact.eu/article/14/?utm_source=pulse.latellu.com&utm_medium=editorial)

米国側では、NHTSAが安全ケースの考え方や安全マネジメントシステムを明確に論じ、その考え方を予期せぬ状況での遠隔支援の使い方へ結び付けている。
https://www.nhtsa.gov/speeches-presentations/2026-SAE-Conference-Keynote?utm_source=pulse.latellu.com&utm_medium=editorial)

さらにNHTSAは、伝統的な車両コンプライアンス(FMVSS)と「自動運転システムのコンピテンス」の間にズレがあることにも触れており、認証だけでは足りず、追加の層が必要になるという含意を示している。
https://www.nhtsa.gov/speeches-presentations/2026-SAE-Conference-Keynote?utm_source=pulse.latellu.com&utm_medium=editorial)

「測定可能な安全スコア」がどのような姿になり得るか(標準化されたと断言することは避ける)

あり得る方向性は、規制当局が 運用上の出来事をAIの主張へ結び付ける「証拠のファミリー(証拠群)」 を求めることだ。たとえば、

エスカレーションの証拠:オペレーター介入がトリガーされたとき、どのインターフェース状態と意思決定の合理性が記録されたのか。
行動境界の証拠:オペレーターの行為は定義された介入ゾーンや車両状態の範囲内に収まっていたのか。
アウトカムの証拠:その結果として、安全に関わる事象はどうなったのか。

この種のアプローチは、安全に関わる領域での保証ケース(assurance-case)に関する考え方とも整合する。ただし、自動車特有の規格がすべて揃っているわけではない。

AIのリスク管理フレームワークの文脈では、NISTのAIリスク管理フレームワーク(AI RMF 1.0)が、AIのリスクライフサイクル文書化や測定の概念を整理するための構造として広く使われている。
https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf?utm_source=pulse.latellu.com&utm_medium=editorial)

また、規格工学(standards engineering)の観点では、主張を証拠に裏付けられた議論へ変換するための、構造化された保証ケースのモデリング手法は既知である。たとえば、Object Management Groupの「Structured Assurance Case Metamodel(SACM)」が挙げられる。
https://www.omg.org/spec/SACM/2.1/About-SACM?utm_source=pulse.latellu.com&utm_medium=editorial)

編集上の要点はこうだ。形式の詳細が何であれ、規制当局がより一層求めるのは、運用上のコンピテンスが“示せる”ことであり、示せるとはつまり監査可能であることを意味する。

7) 協調運転(V2X)とガバナンス層:接続性が変える「安全が証明すべきもの」

安全のガバナンスは、協調運転(V2X)が視野に入ってくるとさらに性質を変える。V2Xや協調運転は、ADSが推論しなければならない環境を広げるだけでなく、通信が劣化した場合にシステムがどう振る舞うべきかという、証拠要件も広げる。

本稿はハードウェア中心の解説を避けるが、ガバナンス上の含意は明確だ。接続性があるほど「運用上のAI」は複雑になる。なぜなら、システムがネットワークの挙動やメッセージの信頼性に依存するからである。したがって、遠隔支援のエスカレーションプロトコルの重要性は増す。特に、知覚と意思決定が、不確かな通信条件のもとで情報を統合しなければならないときである。

NHTSAフォーラムのアジェンダが、ネットワーク遅延とサイバーセキュリティ上の脆弱性を遠隔支援の安全課題として強調しているのは、接続性に起因する失敗パターンと、オペレーター責任の結び付けを直接つなぐものだ。
https://www.nhtsa.gov/events/av-public-meeting-2026?utm_source=pulse.latellu.com&utm_medium=editorial)

だからガバナンスのレンズは「オペレーターの訓練」だけではない。オペレーターの訓練+エスカレーションの境界+証拠の取得+セキュリティ/遅延の備えという統合に変わり、それがより広い安全ケースに接続される。

8) 結論:規制当局が次に要求すべきこと、そしてオペレーターが2026年Q2からスコアリングを始めるべきこと

結論の骨子は単純だ。自律のボトルネックは、モデルの性能や計算資源から、運用上の人工知能コンピテンスへ移りつつある。すなわち、エスカレーションの手順、行動コンピテンス、安全に関わる証拠、そして規制当局が監査できる測定可能なスコアリングの仕組みである。

具体的な政策提言(アクターを明記)

NHTSAは、継続中のAV安全フォーラムのプロセスを通じて、監査志向の「遠隔支援の運用上のコンピテンス」ガイダンスパッケージを公表すべきである。そこには少なくとも次を含めるべきだ。

  1. オペレーターのエスカレーション判断に必要な証拠アーティファクト
  2. エスカレーション境界の文書化に関する最低限の期待値
  3. 安全証拠の完全性と、エスカレーションのタイミング性能についての提案指標

この提言は、遠隔支援や「ADSの行動コンピテンス」が今後のガイダンス対象になり得る、というアジェンダの枠組みに直接沿っている。
https://www.nhtsa.gov/events/av-public-meeting-2026?utm_source=pulse.latellu.com&utm_medium=editorial)

また、NHTSAが安全ケース、安全マネジメントシステム、遠隔支援に対する証拠駆動型の安全保証を重視している点とも整合する。
https://www.nhtsa.gov/speeches-presentations/2026-SAE-Conference-Keynote?utm_source=pulse.latellu.com&utm_medium=editorial)

時系列を伴う見通し(タイムライン付き)

2026年Q2までに、ADSの遠隔支援プログラムを運用する企業は、規制当局に提出できる形で、(a) 定義された介入境界、(b) 事故証拠の完全性率(エビデンス完全率)を示せるようになっているべきだ。理由は、すでに執行のロジックが存在し(SGOの報告ペナルティや同意命令の執行など)、規制当局の関心が遠隔支援や行動コンピテンスへ明示的に移っているからである。
https://www.nhtsa.gov/laws-regulations/standing-general-order-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)
https://www.nhtsa.gov/press-releases/consent-order-cruise-crash-reporting?utm_source=pulse.latellu.com&utm_medium=editorial)
https://www.nhtsa.gov/events/av-public-meeting-2026?utm_source=pulse.latellu.com&utm_medium=editorial)

実務的には、最終規則を待つのではなく、企業は“測定可能な安全証拠スコア”の構築を始めるべきである。つまり、軽量な内部指標によって、オペレーターのエスカレーション事象が必要な証拠のトレイルを生み出しているか、そしてアウトカムが安全ケースの期待と一致しているかを定量化する。その監査ループは、規制当局が暗に求めているものにほかならず、これによって自律は「印象的である」だけでなく「統治可能」になっていく。

参考文献