災害対応でもAIの活用は進みつつありますが、「どこまで任せるか」「何をさせないか」の線引きが曖昧だと、現場は混乱します。米国防総省がAI企業Anthropicとの関係見直しを検討しているという報道は、軍事だけの話ではなく、私たちの防災・危機管理にも直結する論点を含んでいます。ここでは、防災の視点で“AIを使う側のルール設計”を整理します。
■① 何が起きているのか（ニュースの要点）
報道によると、米国防総省は複数のAI企業に対し、軍での利用範囲を「すべての合法的目的」に広げるよう求めている一方、Anthropicはモデル利用の制限（軍事利用の制約）を維持しようとして対立が深まり、関係解消の検討に至っているとされています。さらに「サプライチェーン上のリスク」として扱う案まで取り沙汰されており、実現すれば国防関連の請負企業にも影響が及び得ます。
■② 防災の現場でも起こり得る「AIの押し込み」
災害時は、情報が不足し、判断が迫られ、意思決定の速度が求められます。だからこそAIは魅力的です。
一方で、現場が欲しいのは「万能AI」ではなく、目的が明確で、守るべき制約が明文化された“使っていいAI”です。
私自身、被災地での支援（被災地派遣）や、自治体と現場をつなぐ調整役（LO）として動いた経験がありますが、災害現場は「正しさ」より先に「混乱を増やさないこと」が重要になります。AIが入るなら、なおさら「やってはいけないこと」を先に決めておかないと、現場はAIの提案に振り回されます。
■③ 争点は「性能」ではなく「利用制限（ガードレール）」
今回の対立で本質的なのは、AIの性能比較ではなく、利用制限＝ガードレールの扱いです。
防災に置き換えると、
- 住民の避難誘導にAIを使うとして「虚偽情報を出さない」「断定しない」
- 個人情報を扱うなら「匿名化」「保存しない」「第三者提供しない」
- 誤作動しても「最終判断は人が持つ」
といった線引きが必要です。
つまりAI導入の前提は「できることを増やす」より、「危ないことをさせない」を制度化することです。
■④ 「合法ならOK」は防災では危うい
災害対応では「合法かどうか」だけで運用を決めると事故が増えます。たとえば避難所名簿、要配慮者情報、位置情報、安否情報は、合法でも扱い方を誤れば二次被害になります。
現場では、法律よりも先に
- 誰を守る情報なのか
- その情報が漏れたとき誰が傷つくのか
- 誤情報が出たとき誰が責任を取るのか
を詰めておかないと、実務が崩れます。
“合法の範囲で最大限”より、“人を傷つけない範囲で最小限”が、防災の基本です。
■⑤ 災害時にAIを使うなら、先に決めるべき5つの条件
防災・危機管理でAIを使うなら、最低限この5つは「運用ルール」として固定した方が安全です。
1) 用途限定：避難情報の整理、問い合わせ分類、在庫管理など、目的を狭く定義
2) データ最小化：個人情報は原則入れない／入れるなら匿名化・保管禁止
3) 根拠提示：出典や参照元を必ず示し、推測と事実を分ける
4) 人が最終判断：AIは提案まで。指示・命令・断定はしない
5) 停止条件：誤情報・偏り・不具合時に即停止できる運用を用意
私が現場側にいた立場としては、「便利だから使う」より、「止められるから使える」が大事だと感じます。
■⑥ “信頼”は技術より運用で決まる
災害時に必要なのは、最先端よりも信頼です。
現場で信頼されるのは、だいたい次の条件を満たす仕組みです。
- いつも同じ基準で動く（ブレない）
- 想定外が起きたときに止まれる（暴走しない）
- 誰が責任者かが明確（責任の所在がある）
これはAIでも同じです。ガードレールに合意できない相手とは、長期の運用が難しい。今回の報道は、そういう“運用上の相性”の問題としても読めます。
■⑦ 今日できる最小行動（防災組織・家庭の両方で有効）
難しい議論を置いておいても、今すぐできることがあります。
- 自分の組織（職場・地域）でAIを使う予定があるなら、「用途」「入力する情報」「保存の有無」の3点だけ紙に書く
- 家庭でも、生成AIを使うときは、住所・氏名・電話・子どもの学校・勤務先など個人特定情報を入れないルールを決める
- 防災情報の要約にAIを使うなら、一次情報（自治体・気象・警察消防など）を必ず確認する習慣をつける
小さなルールが、災害時の大きな事故を減らします。
■⑧ まとめ
AIは、防災にとって「判断を軽くする道具」になり得ます。
しかしその前提は、“何をさせないか”を合意し、止められる運用を持つことです。
現場経験上、危機対応で一番怖いのは「便利さ」ではなく「責任の曖昧さ」です。AIは導入するほど、責任の線を太く描いておく必要があります。
出典：Reuters（米国防総省がAnthropicとの関係解消を検討、AI利用制限を巡る対立）
コメント