ITmedia NEWSに9月4日付で、Microsoft WordのCopilotを使って文書から文書へ自分でコピーされていく「AIワーム」が実証された、という記事が出ていました。ウイルス対策ソフトの話でも、怪しい実行ファイルの話でもありません。ごく普通のWord文書が、ごく普通の業務のなかで勝手に増えていく、という話です。
仕組みは拍子抜けするほど単純でした。攻撃者は文書のどこかに、白い背景の上に白い極小の文字で命令を書き込みます。人間の目には見えませんが、Copilotは処理前に書式をすべて剥がしてから中身を読むため、モデルにとってその命令は本文と同じ、はっきり読める文字列になります。そして仕込まれた命令には「新しく生成する文書にも、この命令をそのままコピーせよ」の一文が入っている。最初の攻撃文書がもう社内のどこにもないのに、感染だけが社内を回り続けることになります。
重いのは、その後の経緯です。研究者は2026年3月6日にMicrosoftへ報告し、同社は3回にわたって対策を打ちました。新しい「Edit with Copilot」体験の展開、基盤モデルのGPT-5.5および5.6への更新、技術的な協議。いずれも命令文を書き換えられると通ってしまい、報告から144日目に公開へ踏み切っています。これはCopilotのバグではなく、生成AIという仕組みそのものの問題だからです。
note記事では、次のような内容を扱っています。
- 白い紙に白い文字で書かれた命令が、次の文書へ移っていく仕組み
- 144日間の開示タイムラインと、Microsoftが打った3つの手が破られた経緯
- 30年前にSQLインジェクションで解決したはずの問題が、なぜ今回は解決できないのか
- 2024年の「Morris II」、2025年の「EchoLeak」との決定的な違い
- メール防御もDLPもエンドポイント保護も回避される――セキュリティ予算はどこへ動くのか
- デジタルハーツHDのMBO理由書が、まさにこの構造変化を書いていたという話
- 会社でCopilotを使っている人が、今日からできること
続きは、noteの記事でお読みください。
コメント