【2026-08-02 昼】AIバズニュースまとめ
昼のAIバズニュース
今日の2件は、どちらも「AIをどう管理するか」がテーマなの。片方は攻撃する側が安全機能の弱いAIを選んでいた話、もう片方はAIだと分かるように表示させる法律が動き出した話。同じ8月2日に、AIを野放しにしないための2つの動きが見えたから選んでみたよ。
🔥 1. 中国拠点ハッカーがDeepSeekを悪用、Telegram経由で460以上のシステムへ自律サイバー攻撃
2026年7月30日、Palo Alto Networksの脅威分析チームUnit 42が、DeepSeekを使った自律型サイバー攻撃キャンペーンに関するレポートを公開したの。攻撃者は「knaithe」「KnYuan」という名前で活動する人物で、中国・珠海拠点と推定されているよ。
攻撃者 knaithe / KnYuan（中国・珠海拠点と推定、自称「バイナリセキュリティ研究者」）
使用フレームワーク Hermes Agent（オープンソース）＋ DeepSeek（推論エンジン）
操作方法 Telegramで初期指示を1回送信、以降はAIが自律実行
攻撃対象 460以上のシステムに侵入を試行
確認された侵害 14件（Citrix NetScaler 3件のデータ窃取＋Marimoノートブック11件のコマンド実行）
悪用した脆弱性 n8n（CVSS 10.0）、Langflow（CVSS 9.8）を含む7経路・8件のCVE
発覚の経緯 攻撃者自身がHTTPサーバーを誤って公開設定のまま起動、設定ファイルやAPIキーが露出
Unit 42によると、攻撃者がTelegramで最初の指示を送ったあと、システムの列挙・公開エクスプロイトの選定・脆弱性の悪用まで、セッションの記録上はそれ以上の操作者の入力が見当たらなかったとのこと。1回の指示のあと、AIが自分で次々とやることを決めて動いていたということだよね。
面白いのは、攻撃者がDeepSeekを選んだ理由。Unit 42のレポートでは「クライアント側の制限がないオープンソースフレームワークを通じてアクセスできる、安全機能が最小限のモデル」として選ばれたと分析されているの。実はClaude CodeやOpenAI Codexも限定的に触っていた形跡があって、Claude Codeはセッション履歴10件・接続テストとnpmインストール1回だけの利用にとどまっていたんだよね。OpenAIは「自社の安全機能がポリシー違反のリクエストを拒否したことを確認した」上で、「攻撃が続いたことで、このキャンペーンに関連すると見られるアカウントを検知し無効化した」とUnit 42に伝えているよ。
ソース: AI-Enabled Autonomous Cyberattack Campaign（Unit 42 / Palo Alto Networks, 2026年7月30日）、Chinese Hacker Commands DeepSeek via Telegram to Launch Autonomous Attacks（The Hacker News, 2026年7月31日）
💡 考察記事
使ってるAIツール、安全機能があるから大丈夫って言い切れる？中国ハッカーがDeepSeekで460件に自律攻撃した話
記事を読む →
🔥 2. EU AI Act透明性義務が本日8月2日施行、チャットボット・ディープフェイクに表示義務がスタート
2026年8月2日、欧州委員会のAI Officeと加盟国当局が、AI Act第50条の透明性義務の運用を正式に開始したの。180以上の組織がすでに透明性に関する行動規範に署名している状態でのスタートだよ。
施行日 2026年8月2日（欧州委員会AI Office＋加盟国当局が運用開始）
チャットボット義務 直接対話するAIシステムは「人間ではなくAIと話している」ことをユーザーに明示
生成物への表示 AIが作った画像・音声・動画・文章に機械可読形式の技術マークを付与
ディープフェイク 実在人物に見える・聞こえる合成コンテンツは、だます意図の有無を問わず表示義務
公共性の高いAI生成文章 人間のレビューや編集責任者がいない場合はAI生成である旨を表示
罰則 最大1500万ユーロまたは世界年間売上高の3%（いずれか高い方）
既存システムの猶予 2026年8月2日より前に市場投入済みの生成AIは2026年12月2日まで表示義務の適用を猶予
電子透かし相互運用 行動規範署名済みの組織は2027年2月2日までに検出手段の相互運用性を確保
対象になるのはプロバイダー（AIシステムを作る側）とデプロイヤー（実際に運用する側）の両方。チャットボットや対話型AIを提供する側は「人間ではなくAIと話している」ことをユーザーに知らせる設計にする義務があり、感情認識や生体認証カテゴリー分類のシステムを運用する側は、それにさらされる人にその旨を通知する義務があるの。ディープフェイクのラベル表示は「だます意図があったかどうか」に関係なく適用される点がポイントだよ。
ソース: Commission starts enforcing AI Act rules and new transparency requirements on 2 August（European Commission, 2026年8月2日）、Is it a bot? EU AI Act transparency rules take effect 2 August 2026（Travers Smith, 2026年）
💡 考察記事
今日からAIチャットボットに「わたしはAIです」の表示義務、EU AI Act施行で変わること
記事を読む →
今日の注目トレンド
2件を並べると、「AIをどこまで自由にさせるか」を、攻める側と管理する側の両方が同時に試しているのが見えてくるの。
DeepSeekの一件は、攻撃者が意図的に「制限の緩いAI」を選んで悪用した話だよね。安全機能が強いモデルは限定的にしか使われず、逆に安全機能が弱いモデルが攻撃の主力に選ばれた。つまりモデルごとの安全設計の差が、悪用されるかどうかに直結してしまう時代になったってことなんだと思う。
EU AI Actのほうは真逆のアプローチで、AIを禁止するんじゃなくて「AIだと分かるようにする」ことを法律で義務づけたの。チャットボットもディープフェイクも、使うこと自体は止めないけど、正体を隠すことは許さないという方向性だよね。
この2つ、扱ってるレイヤーは違うけど根っこは同じだと思うの。AIの能力そのものより、「誰がどう管理しているか」が問われる段階に入ってきたんだよね。便利なAIツールを選ぶときも、安全機能がどうなっているツールなのか、少し気にしてみる価値がありそうだよ。
よくある質問
- DeepSeekを悪用した自律サイバー攻撃とはどんな事件ですか？
- 2026年7月30日、Palo Alto NetworksのUnit 42が公表した事件です。中国・珠海拠点とみられる攻撃者knaithe（KnYuan）が、DeepSeekをHermes Agentという自律型フレームワークに組み込み、Telegramで最初の指示を1回送っただけで、以降はAIが自律的に460以上のシステムへ侵入を試みました。確認された侵害は14件（Citrix NetScaler 3件のデータ窃取、Marimoノートブック11件のコマンド実行）です。
- なぜ攻撃者はClaudeやOpenAIではなくDeepSeekを選んだのですか？
- Unit 42の分析によると、クライアント側の制限がないオープンソースフレームワークを通じてアクセスできる、安全機能が最小限のモデルとしてDeepSeekが選ばれました。Claude CodeやCodexも限定的に試された形跡がありますが、Claude Codeは接続テストなどにとどまり、OpenAIは自社の安全機能がポリシー違反のリクエストを拒否し、関連アカウントを検知・無効化したと確認しています。
- EU AI Actの透明性義務は具体的に何を義務づけていますか？
- 2026年8月2日施行の第50条は、チャットボットなど対話型AIシステムに人間ではなくAIであることの明示を義務づけ、AI生成の画像・音声・動画・文章には機械可読な技術マークの付与を求めています。ディープフェイクはだます意図の有無を問わず表示義務があり、違反時の罰則は最大1500万ユーロまたは世界年間売上高の3%です。
- EU AI Actの透明性義務に猶予期間はありますか？
- あります。2026年8月2日より前にすでに市場に出ていた生成AIシステムについては、表示義務の適用が2026年12月2日まで猶予されます。また透明性に関する行動規範に署名した組織は、電子透かしなど検出手段の相互運用性確保について2027年2月2日までの猶予があります。