対話型生成AI「Grok」をめぐり、実在人物の露出度が高い画像を生成・編集できてしまう問題を受け、Xは一部地域で機能制限を実施しました。これは表現規制の話題にとどまらず、災害時を含む情報環境の安全性をどう確保するかという「情報防災」の視点でも重要な動きです。
■① 何が起きたのか｜機能制限の概要
Grokで、実在人物の画像を露出度の高い表現に編集・生成できる問題が指摘されました。これを受け、Xは法的規制がある国・地域を対象に、特定の画像生成・編集機能を地理的に制限すると発表しました。制限は有料会員を含む全ユーザーに適用されています。
■② どのような対策が取られたのか
主な対策は次の通りです。
・特定の服装表現を含む画像生成・編集機能の制限
・実在人物を対象とした編集の抑止
・機能提供範囲の見直し（地域別・権限別）
これにより、利用者が不適切な表現に容易に到達しない設計へと変更されました。
■③ なぜ問題視されたのか
外部調査では、生成画像の中に不適切な表現が多く含まれていたことが報告されています。実在人物を扱う生成AIは、誤用・悪用による人権侵害や心理的被害のリスクが高く、迅速な是正が求められていました。
■④ 防災の観点での論点｜情報が危険になる瞬間
防災では「情報は人を守る」と同時に、「情報は人を傷つける」可能性もあります。
・不安を煽る表現
・誤情報や過激表現
・人の尊厳を損なうコンテンツ
これらは、災害時の混乱を増幅させ、二次被害につながる恐れがあります。AIの安全設計は、平時からの備えです。
■⑤ 「情報防災」という考え方
情報防災とは、
・正確さ
・到達性
・安全性
を満たした情報環境を整えることです。AIの機能制限は、表現の自由を一律に縛るのではなく、被害を未然に防ぐための「予防的対策」として位置づけられます。
■⑥ 利用者が意識したいポイント
・AIは万能ではない
・出力は設計と運用に左右される
・不適切な使い方は被害を生む
日常的に、利用目的と影響を考えながら使う姿勢が重要です。
■⑦ 災害時のAI活用と安全設計
災害時、AIは要点整理や行動判断の補助に役立ちます。一方で、刺激的・不適切な表現は不安を増やします。年齢や状況に応じた段階的な情報提供、機能制限を含む安全設計が不可欠です。
■⑧ まとめ｜AIは「安全に使えてこそインフラ」
Grokの制限は、生成AIを社会インフラとして運用するための重要な一歩です。
防災の本質は「被害を出さない設計」。
AI時代の防災では、情報の安全性そのものが備えになります。
コメント