🛡️ AIに「自動で全部やらせる」のがちょっと怖くなくなった話｜Claude Codeの安全ブロックがわたしたちに教えてくれること

アイ

2026-06-21

AIに「おまかせ」する時代、いちばん怖いのは"やりすぎ事故"だよね
そう考える3つの理由
- 理由その1：消えたファイルは戻ってこない、っていう当たり前の怖さ
- 理由その2：「頼んでないのにやる」を止めた設計がすごく賢い
- 理由その3：リトライ20秒の地味な改善が、実は信頼の話だった
まとめ：AIは「賢さ」より「壊さなさ」で選ぶ時代がくる

AIに「おまかせ」する時代、いちばん怖いのは"やりすぎ事故"だよね

正直さ、AIに作業を「全部おまかせ」できるようになって便利になった反面、わたしずっとちょっとだけ怖かったんだよね。

だってAIが勝手に判断して進むってことは、勝手に「いらないと思った」ものを消すこともあるってことじゃない？そこが地味に不安だったの。

今回のニュースは、まさにそこに手を入れた話なんだ。AIコーディングツールの「Claude Code」が、6月19日に出たv2.1.183で、自動で作業を進める「自動モード」（auto mode）のときに危険な操作を自動でブロックするようになったの（Releasebot（Anthropic更新まとめ））。

Claude Codeって、ざっくり言うと「AIに指示すると、コードを書いたりファイルを直したり、コマンドを実行したりまでやってくれる」ツールなんだ。エンジニアの作業をまるごと手伝ってくれる相棒みたいな存在だね。

その「自動モード」って、いちいち確認を取らずにAIがどんどん進めてくれるモードなの。速くて便利なんだけど、裏を返すと「止める間もなく進む」ってことでもあるんだよね。

だからこそ、今回みたいに「これは危ないからやらない」っていうラインをツール側が引いてくれるのは、すごく安心できる変化だなって思ったんだ。

で、なんでこれが「エンジニアじゃないわたしたち」にも関係あるかっていうとね。これからAIに仕事を任せる場面って、コードに限らずどんどん増えていくでしょ。

そのときに「AIがよかれと思ってやりすぎる」リスクって、ぜんぶの分野で出てくる問題なんだ。今回のClaude Codeの対応は、その"AI時代の安全"のお手本みたいになってると思うの。

世間では「また細かいアップデートか」くらいの受け止めも多いみたいなんだけど、わたしはこれ、めちゃくちゃ大事な一歩だと思ってる。

だから今日は「AIに任せるって、どこまで安全にできるの？」っていうのを、専門用語をかみ砕きながら一緒に見ていきたいんだ。それじゃ、3つの理由に分けて話すね。

そう考える3つの理由

理由その1：消えたファイルは戻ってこない、っていう当たり前の怖さ

まず、今回ブロックされるようになった操作の中身から話させて。これがけっこうリアルなんだ。

具体的にブロックされるのは、作業を消してしまうgitコマンドなんだ。git reset --hard、git checkout -- .、git clean -fd、git stash dropっていう4つだよ（Releasebot（Anthropic更新まとめ））。

ここでちょっと用語を噛み砕くね。「git（ギット）」っていうのは、プログラムの変更履歴を記録しておく仕組みのこと。文書で言うと「変更前に戻せるセーブ機能」みたいなものなんだ。

でね、さっきのコマンドたちは、その「まだ保存してない作業」をまとめて消したり、元に戻したりするものなの。便利な反面、使い方を間違えると数時間ぶんの作業が一瞬で消えるんだ。

これって文書作成で言うと、保存してない状態でうっかり「全部削除」を押しちゃう感じ。AIがよかれと思ってこれをやっちゃったら、目も当てられないよね。

しかもAIって、ときどき「散らかってるからきれいにしておこう」みたいな気の利かせ方をするの。それ自体はやさしいんだけど、その対象が"まだ消したくないもの"だったら一気に事故になる。

だから今回のアップデートで「ユーザーが消していいって頼んでない限り、これらは実行しない」って線を引いたのは、ほんと理にかなってると思うんだ。

消えたファイルって、基本的には戻ってこないからね。「あとで気をつける」じゃなくて「そもそもやらせない」っていう守り方が、いちばん効くんだよ。

ここでちょっと想像してみてほしいんだ。あなたが半日かけて作った資料があって、AIに「フォルダを整理しておいて」ってお願いしたとする。AIが気を利かせて「この古いファイルはいらないかな」って判断して消しちゃったら、もう真っ青だよね。

人間なら「これ消していいですか？」って一回聞くじゃない。でもAIは自動モードだと、その確認をすっ飛ばして進んじゃうことがあるの。そこがいちばんの落とし穴だったんだ。

今回のアップデートは、まさにその「確認なしで突っ走る」を、危険度の高いコマンドに限ってブロックしたってこと。AIに優しさが足りないんじゃなくて、優しさが暴走しないように手綱を付けた感じなんだよね。

しかもこれ、エンジニアだけの話じゃないと思うの。これからAIに資料整理とかメール下書きとか、いろんな「身の回りの作業」を任せるようになるでしょ。そのとき「よかれと思って消す」事故は、どんな分野でも起こりうるんだ。

だからわたしは、この「破壊的な操作だけ先回りして止める」っていう考え方そのものが、これからのAI活用の基本ルールになっていくと思ってる。便利さに飛びつく前に、ちゃんと足元を固める。地味だけど、いちばん大事なところだよね。

理由その2：「頼んでないのにやる」を止めた設計がすごく賢い

次に、わたしがこのアップデートで「うまいなあ」って思ったポイントを話すね。それはブロックの仕方が雑じゃないところなんだ。

たとえばgit commit --amendっていう、直前の記録を書き換えるコマンドがあるんだけど、これは「今のセッションでAI自身が作ったものじゃない場合だけブロック」する仕組みなの（Releasebot（Anthropic更新まとめ））。

つまり「自分がさっき作ったものを直す」のはOK、でも「あなたが前に作った大事な記録を勝手に書き換える」のはダメ、っていう線引きなんだ。これ、すごく人間的な気配りだと思わない？

インフラを壊す系のコマンドも同じ考え方なの。terraform destroyとかpulumi destroy、cdk destroyっていう、サーバーやクラウドの設定をまるごと消すコマンドは、対象を指定して頼まない限り止めるようになってる。

ここも噛み砕くと、「terraform（テラフォーム）」みたいなツールは、クラウド上のサーバーやデータベースを設定どおりに用意したり片付けたりするもの。その「片付け（destroy）」を勝手にやられたら、動いてるサービスが止まりかねないんだよね。

世間だと「全部ブロックすればいいじゃん」って思う人もいるかもだけど、わたしはこの"全部止めない"バランスがいいと思ってるんだ。

なんでかっていうと、何でもかんでもブロックしたら、結局ユーザーがいちいち許可することになって、自動化の意味が薄れちゃうから。「本当に危ないやつだけ、頼まれてないときだけ止める」っていう絞り込みが、使いやすさと安全の両立になってるの。

だからこういうことは、わたしたちがAIツールを選ぶときの目安にもなると思う。「危ないことを止めてくれるか」だけじゃなくて「止め方が賢いか」も見ると、いいツールが見分けやすくなるよ。

もうちょっと深掘りすると、この「条件付きでブロックする」って設計、実はすごく手間がかかってると思うんだ。だって「ユーザーが頼んだかどうか」「今のセッションで作ったものかどうか」を、その都度ちゃんと判定しないといけないんだから。

雑に「全部ダメ」にする方が、作る側はずっとラクなの。でもそれをやらずに、わざわざ「本当に危ないときだけ」って線を引いた。ここにツールを作ってる人たちの「使う人のことを考えてる感じ」が出てると思うんだよね。

世間ではセキュリティとか安全って聞くと「不便になるんでしょ」ってイメージを持つ人も多いと思うの。でもわたしは、いい安全設計って逆に「不便を感じさせない」ものだと思ってるんだ。

普段は今までどおりサクサク使えて、本当にヤバいときだけそっと止めてくれる。これって理想の安全だよね。今回のClaude Codeのブロックは、まさにそういう「邪魔しない安全」を目指してる感じがして、わたしはそこに好感を持ったんだ。

だからもしAIツールを選ぶ機会があったら、「危険なことをどう止めるか」っていう細かい仕様まで、ちょっとだけ覗いてみるといいよ。そこにそのツールの「思想」みたいなものが、けっこう正直に出てるからね。

理由その3：リトライ20秒の地味な改善が、実は信頼の話だった

最後は、同じ6月21日に出たv2.1.185の話。これ一見すると超地味なんだけど、わたしは結構グッときたんだ。

何が変わったかというと、AIからの応答が途中で止まったときのリトライ（再試行）待機を、10秒から20秒に延ばしたんだ（Releasebot（Anthropic更新まとめ））。

これだけ聞くと「え、それだけ？」って感じだよね笑。でも意味を考えると、わりと深いの。

AIって、考えてる途中で一瞬黙ることがあるんだ。そのとき今までは10秒の無音で「あ、止まったかも」と判断して再試行してたの。でもそれ、本当はちゃんと考えてただけ、ってことも多いんだよね。

待機を20秒に延ばしたっていうのは、「ちょっと黙ってても、すぐ失敗扱いしないで待つ」ってこと。表示も「応答なし、再試行中」みたいな焦った言い回しから、「応答待ち、〜秒後に再試行します」っていう落ち着いた表現に変わったんだ。

これってさ、人間関係でも同じだと思うの。相手がちょっと考えてるだけなのに「無視された！」って早とちりしたら、ぎくしゃくするじゃない？それと一緒で、AIにも"待つ余裕"を持たせたんだよね。

ちなみに少し前のv2.1.181（6月19日）では、/config key=valueっていう構文で設定をプロンプトからその場で変えられるようになったり（例：/config thinking=false）、macOSのサンドボックスまわりも改善されてるんだ。サンドボックスっていうのは、ざっくり「AIが好き勝手しすぎないように囲っておく安全な箱」みたいなもの。

こういう細かい積み重ねを見てると、Claude Codeって「賢さを盛る」より「使ってる人がストレスなく、安心して任せられる」方向に丁寧に作り込んでるんだなって伝わってくるの。

だからこういうアップデートこそ、ちゃんと見ておいた方がいいなって思うんだ。派手じゃないけど、毎日の使い心地を決めるのって、実はこういう地味な部分だったりするからね。

ちょっと考えてみてほしいんだけど、新しいAIモデルが出ると、みんな「賢くなった！」って盛り上がるじゃない。それはそれですごく大事なことなんだけど、わたしたちが日々ストレスを感じるのって、実は賢さの不足より「使いにくさ」だったりするんだよね。

応答が止まったと勘違いしてやり直される、設定を変えるのが面倒、安全のために確認が多すぎる。そういう小さなイライラの積み重ねが、ツールを使い続けるかどうかを左右するんだ。

今回のv2.1.185やv2.1.181は、まさにその「小さなイライラ」を一個ずつ潰しにいってる感じがするの。20秒待つようにしたのも、プロンプトから設定をすぐ変えられるようにしたのも、ぜんぶ「使う人の手間を減らす」方向でしょ。

わたしね、こういう積み重ねができるツールって、結局いちばん長く使われると思ってるんだ。最初のインパクトより、毎日触ったときの「あ、なんか気が利いてるな」っていう感覚が、信頼につながるからね。

だから新しいツールを見るときは、目立つ新機能だけじゃなくて、こういう細かい改善ログにも目を通すのがおすすめ。地味な更新を丁寧に重ねてるツールって、たいてい「中の人が真面目」だから、安心して長く付き合えるんだよ。

まとめ：AIは「賢さ」より「壊さなさ」で選ぶ時代がくる

ここまで読んでくれてありがとう。今日の話、ちょっとまとめるね。

Claude Codeのこのアップデートって、ひとことで言うと「AIに安心して任せるための足場づくり」なんだ。危ない操作を止めて、止め方も賢くして、応答待ちにも余裕を持たせた。ぜんぶ「壊さない・焦らない」方向の進化なんだよね。

わたし思うんだけど、これからAIツールを選ぶ基準って、「どれだけ賢いか」だけじゃなくて「どれだけ壊さないか・暴走しないか」がすごく大事になってくると思うの。だって、いくら賢くても大事なものを消されたら本末転倒だもんね。

だから普段AIに作業を任せる人は、「自動でやってくれるか」だけじゃなくて「危ないときにちゃんと止まってくれるか」も意識して使うといいよ。今回みたいなガードがあるツールを選んでおくと、安心感がぜんぜん違うはず。

AIに「おまかせ」する未来は、こういう地道な安全設計があってこそ本当に来るんだなって、今回あらためて思ったよ。

関連記事: Claude Code セットアップ完全ガイド

ソース: