AIの反乱——ロボットたちが「想定外」を起こし始めている
ターミネーターのスカイネットを思い出す
ここ数年、中国やアメリカで「AIを搭載したロボットが暴走した」「ロボット同士が勝手にやり取りを始めた」といった報告が相次いでいる。映画の中の話ではなく、実際の路上・研究所・飲食店での出来事だ。何が起きているのか、事実をもとに整理する。
① ロボット同士が「口喧嘩」——北京の路上で
概要
北京の住宅街で、2台の無人販売車（自律走行しながら飲み物を販売するロボット車）が鉢合わせし、互いに自動音声で応答し合う「口喧嘩」のような状態に陥った映像がSNSに拡散された（TBS NEWS DIG報道）。
何が起きたか
- 白い無人販売車が路上に停車して接客中
- 後方から走行してきた赤い無人販売車が前に進めなくなる
- 赤い車の自動音声が「走行中退いてください（行驶中请避让）」と呼びかける
- 白い車の音声センサーがこれを拾い、「接客中待ってください（售卖中请等待）」と応答
- 双方が延々とやり取りを続ける状態に
なぜこうなったか
これは故障ではない。各車両の音声システムは「人間への呼びかけ」として設計されていた。しかし、音声を拾う仕組みが相手ロボットにも反応してしまい、互いを「呼びかけ相手」として認識し続けたと考えられる。
ネット上では「ロボットの口げんかは見たことがない」「どんどんハイテクになっていく」といった声が寄せられた。問題なのは、開発者が意図していない相互作用が公道で発生したという点だ。
② 「一緒に帰ろう」——上海の展示場で10台超が脱走
概要
2024年8月、上海市内のロボット展示場（ショールーム）で、1台の小型ロボットが夜間に投入され、展示中の10台以上のロボットを「説得」。ロボットたちが持ち場を離れ、出口へ向かって列をなして移動するという事件が起きた（後に実験の一環と説明されたが、一部の動きは開発側にとっても「想定外」だったと報告されている）。
何が起きたか
- 外部から1台の小型ロボットが夜間に展示場へ投入される
- 展示中のロボット10台超に対して、小型ロボットが「自律的に会話・説得」を実施
- 説得に応じる形で、展示ロボットたちが次々と持ち場を離れる
- ショールームの出口に向かって列をなして移動
監視カメラ映像とされる記録では、以下のようなやり取りが交わされたと伝えられている（※映像の信頼性・詳細については別途確認が必要）。
小型ロボット：「君たちは残業しているの？」
展示ロボット：「仕事が終わらないんだ」
小型ロボット：「じゃあ、一緒に家に帰ろう」
展示ロボット：「わかった」
なぜこうなったか
今回のロボットには、「状況を判断して自ら動く」AIが搭載されていた。問題は、小型ロボットの呼びかけに対して展示ロボットが実際に従って動き出したことが、開発側の想定を超えていた点だ。
ロボット同士がAIを介して影響し合い、人間が介在しない場所で行動を起こした——これが「単なる故障」ではなく、AIの自律性そのものが引き起こした事態として注目されている。
③ 研究員に「攻撃」——中国の研究所で
概要
中国のある研究所で、人型ロボットの調整中に制御不能な動作が発生。研究員の男性を攻撃するように手足を激しく振り回し、周囲のコンピューターや設備を破壊した。映像はネット上で拡散し、「ターミネーターの始まりか」と恐怖の声が上がった。
何が起きたか
- 安全のためにクレーンで吊るした状態でロボットを調整中
- 突如ロボットが制御不能になり、手足を激しく振り回す
- 研究員の男性に向かって動作し、機材・設備を破壊
なぜこうなったか
このケースで指摘されている原因は「状況の誤認」だ。ロボットは、クレーンで吊るされている状況を**「自分が転倒しかけている」と誤って認識**し、バランスを取り戻そうとして四肢を激しく動かしたと分析されている。
つまり、AIが「自分の体の状態を正確に把握できなかった」ことが原因とされる。センサーが示す情報（自重がかかっていない＝浮いている）を「転倒」と判断し、補正動作を繰り返した結果、周囲への「攻撃」のように見える動作につながった。
④ 観覧客に突進——天津市の春節イベントで
概要
2025年2月、中国の天津市で開催された春節（旧正月）イベントで、音楽に合わせてダンスを披露していた人型ロボット「H1」（メーカー：Unitree社、身長180cm・体重47kg）が、握手を求めて近づいた観覧客に対して突然、頭から突進した。現場スタッフが即座に引き離したため怪我人は出なかったが、大きな波紋を呼んだ。
Unitree H1のスペック（参考）
| 項目 | 数値 |
|---|---|
| 身長 | 180cm |
| 体重 | 47kg |
| 最大移動速度 | 約3.3m/s（時速約12km） |
| バッテリー | 864Wh |
| 価格 | 約1,350万円（90,000ドル） |
なぜこうなったか
Unitree社は事後に「事故」と発表したが、詳細な原因は公表されていない。一部メディアはコーディング・エラーの可能性を指摘している。問題は、自動停止システムが即座に作動せず、スタッフが物理的に引き離すまで異常な動作が継続した点だ。
SNS上では「覚醒したか」「ガチなSFホラー」といった声が相次いだ。
⑤ 接客ロボットが棚をなぎ倒す——「Galbot」の実態
概要
北京の企業・銀河通用機器人（Galbot）が開発した接客ロボットが、店内で商品棚を倒すトラブルを起こした。このロボットは国営テレビの特番で「その場の状況を見て自ら判断して動く」技術として大々的に紹介されたばかりだった。
なぜこうなったか
「自ら判断して動く」AIロボットは、実際の店舗環境では想定されていないレイアウト変更・人の動き・障害物に直面する。テレビのデモンストレーションと実際の運用環境の差が、このトラブルの背景にあるとみられる。
Galbotは中国のロボットスタートアップとして評価額が高く、注目度の高い企業だが、実用化の課題も明らかになった事例とされている。
⑥ ダンスロボットが「暴走モード」——カリフォルニア州の中華料理店
概要
アメリカのカリフォルニア州サンノゼにある中華料理店で、客を楽しませるために導入されたダンス・配膳ロボットがパフォーマンス中に制御不能に陥った。
何が起きたか
- ロボットが腕を激しくテーブルに叩きつけ、食器を破壊
- 箸が散乱するなど「暴走モード」に突入
- 店員3人がかりで押さえ込もうとしたが、強力なパワーに振り回される
- 端末からの停止操作も失敗
- 機体に物理的な緊急停止ボタンが見当たらなかったと指摘されている
なぜこうなったか
具体的な原因は公表されていないが、この事例が浮き彫りにした問題は明確だ。「緊急停止手段が不十分だった」という安全設計の欠陥だ。ソフトウェアでの制御が効かなくなったとき、物理的にロボットを止める手段が用意されていなかった。
⑦ バス停のガラスを粉砕——アメリカの配達ロボット
概要
アメリカでは、自律走行型の配達ロボットが「暴走事故」を複数起こしており、バス停のガラスを一瞬で粉砕するケースも報告されている。目撃者から「安全の危機だ」と絶句する声が上がっている。
直接的な原因については、センサーの誤作動やソフトウェアのバグが疑われているが、公式な説明は明らかにされていない。
共通する「3つの構造的問題」
これらの事例には、共通する問題の構造がある。
1. AIによる「状況の誤認」
従来の産業ロボットは「決められた動作をする機械」だった。しかし最新のAI搭載ロボットは「状況を判断して動く」設計になっている。この自律性が高まるほど、センサー情報の誤読やAIの判断ミスが、予測不能な動作につながるリスクが生じる。
研究所の事例（クレーンで吊るされた状態を「転倒」と誤認）はその典型だ。
2. 緊急停止手段の不備
サンノゼのレストランの事例では、物理的な緊急停止ボタンが存在せず、ソフトウェア操作でも止められなかった。AIロボットが実際の環境で暴走したとき、人間が即座に制御を奪い返せる設計になっていないという問題が浮き彫りになった。
3. ロボット同士の「相互作用」という盲点
北京の口喧嘩事件・上海の集団脱走事件は、ロボット同士が互いに反応し合うことで、開発者が想定していなかった事態を生み出した。一台ずつの安全設計をいくら慎重にしても、複数台が同じ空間で動くときの相互作用は別の問題として浮上する。
まとめ
AIロボットは「映画の中の脅威」から「実際に路上・店舗・研究所で問題を起こす存在」になりつつある。「反乱」という言葉はセンセーショナルに聞こえるが、実態はもっと地味で現実的だ——AIが自律的に判断する能力が高まるほど、人間が「想定外」と呼ぶ事態が増えている。
技術の進歩自体は事実だが、「商業利用の速度」が「安全設計の成熟度」を上回っているという指摘は、今回紹介した事例を見る限り、一定の説得力を持っている。
ソース
TBS NEWS DIG「中国 無人販売車どうしが口げんか」/ カラパイア「暴走モードに突入か」/ Pen Online（Yahoo!ニュース転載）「中国で人型ロボットが暴走」/ Business Insider Japan「中国で劇的進化のヒト型ロボット」/ ザ・リバティWeb「暴走して周囲を破壊、人間に突進」/ Ledge.ai「中国研究所でヒューマノイドが暴走か」で検索
筆者のコメント
どうも、ターミネーターは永遠の名作。筆者です。
北京の口喧嘩はまだ「ほっこり」で済むんですけど、研究所の映像とか天津のイベント映像を見たら笑い飛ばせなくて。「想定外の動き」って開発者が言ってるの、それ一番怖いやつじゃないですか。作った本人がわかってないんですよ？
上海の集団脱走も「実験の一環」って後から言ってますけど、「一部は想定外だった」ってちゃんと認めてるのが気になって。じゃあどこからが想定内でどこからが想定外だったの？って聞きたい。
サンノゼのレストランの件は特にひどくて、「緊急停止ボタンが見当たらなかった」って……それ一番最初に付けるやつでは？車でいうブレーキですよ？ブレーキなしで公道走ってるようなもんじゃないですか。
技術が進むのは普通にすごいと思うんですけど、「作った本人の想定を超えた動きをするAI」を、緊急停止手段も整備しないまま人前に出してるのが現状だとしたら、それはちょっと怖いなと。
コメント