メインコンテンツへスキップ
見出し画像

知らないとやらかす「定番の地雷」集 ── なぜダメか、そしてAI時代の防ぎ方

    エンジニアの事故の多くは、技術力の問題というより 「やってはいけないことを知らない」「なぜダメかを知らない」 ことから起きます。一度痛い目を見た人なら反射的に避けるけれど、知らなければ普通に踏んでしまう ── そういう“定番の地雷”がいくつもあります。

    この記事では、踏みがちな地雷と「なぜダメか」「どう防ぐか」を実用的にまとめたうえで、最後に少しだけ「なぜ知識は受け継がれにくいのか」を考えます。生成AIで誰でもツールを作れる今だからこそ、知っておく価値のある話です。


    まず結論:事故は「知らなかった」から起きる

    世界的な大事故も、たいていは派手なハッキングではなくありふれた操作ミス+安全網の不在で起きています。

    • GitLab(2017年1月):エンジニアが本番DBを副系と間違えて `rm -rf` し、約300GBが消失。しかも5種類あったバックアップ/レプリケーションがどれもまともに動いておらず、失敗通知メールも届いていなかった。約6時間のデータが復旧不能に。

    • AWS S3(2017年2月):手順書に沿った作業中、コマンドの入力ミス(typo)で意図より大量のサーバーを停止。連鎖障害でS3が数時間ダウンし、S&P500企業の損失は推定1.5億ドルとも。

    • Knight Capital(2012年8月):デプロイ時、8台中1台に新コードを入れ忘れた。その1台で古いコードが動き出し、45分で約4.6億ドルを溶かして会社が傾いた。

    共通点は明快です。「うっかり」を防ぐ仕組みがなかったこと。そして多くは、当事者が「これをやるとこうなる」を知っていれば避けられたものでした。


    踏みがちな定番の地雷と対策

    1. `rm -rf` の対象ミス

    なぜダメか:パスのtypoや変数の未定義(`rm -rf $DIR/` で `$DIR` が空だと `rm -rf /`)で、一瞬で全消去。確認も復元もできない。

    対策:本番では極力使わない/`--dry-run` 相当で対象を先に表示/変数は `set -u` で未定義を弾く/削除対象を絶対パスで明示/可能なら「ゴミ箱」的に移動してから後で消す。

    2. 本番と検証(staging)の取り違え

    なぜダメか:GitLabもこれ。「副系のつもりが本番だった」は最頻出。

    対策:本番シェルのプロンプトや背景色を赤く目立たせる/本番接続には追加の確認を挟む/そもそも本番に直接入らない運用にする。

    クラウドの環境では、開発、ステージング、本番はアカウントで分けること。同じ環境内に、ステージング、本番を並べない。
    スタートアップで割と見ることがあるので、できるだけ初期段階から考慮すべき内容です。

    3. SQLの `DELETE` / `UPDATE` でWHERE忘れ

    なぜダメか:`WHERE` を付け忘れた `DELETE FROM users;` は全行削除。`UPDATE` も全行書き換え。

    対策:先に `SELECT` で対象件数を確認/トランザクション(`BEGIN` → 確認 → `COMMIT`)/本番DBは安全装置(`sql_safe_updates` 等)を有効化/実行前にレビュー。

    4. `git push --force` で履歴破壊

    なぜダメか:共有ブランチへの強制pushは、他人のコミットを上書き・消失させる。

    対策:共有ブランチでは禁止/使うなら `--force-with-lease`/保護ブランチ設定でforceを拒否。

    5. バックアップと本番の“同居”・未検証

    なぜダメか:ファーストサーバ(2012)もGitLabも、バックアップが本番と同じ操作・同じ場所にあって一緒に壊れた。さらに「取れているつもりで実は壊れている」が非常に多い。

    対策:オフサイト/別系統に分離/イミュータブル(改変不可)保存/復元テストを定期実施(戻せて初めてバックアップ)。

    環境をわけるとか、隔離するとか、バックアップ、リストアの検証を行っているか?
    バグなどで復元できない。かなり前のバックアップしかないなど。
    定期的なバックアップを実施する。

    6. マイグレーション/デプロイの無検証・部分適用

    なぜダメか:Knight Capitalは「1台入れ忘れ」。スキーマ変更やデプロイの部分適用・順序ミスは静かに地雷化する。

    対策:自動デプロイで手作業の入れ忘れをなくす/全台一致を検証/ロールバック手順を用意/危険な変更は段階リリース。

    7. 安全網(フォールバック・アラート)を切ったまま運用

    なぜダメか:GitLabは失敗通知がそもそも届かない設定だった。アラートが鳴らなければ、壊れていることに気づけない。

    対策:監視とアラートの“通知が届くか”まで定期確認/重要操作は承認フロー/最小権限で被害範囲を限定。

    監視は複数系統を入れること、slack, mail, 電話サービスなど
    slack障害など多重障害で連絡を受け取れないケースも考慮すること。


    AI時代に、この地雷はむしろ増える

    ここからが2026年の本題です。生成AIでツールやスクリプトを量産する今、昔ながらの地雷が再来しやすくなっています。

    • AIは `rm -rf` や `DELETE`(WHEREなし)を平然と提案する。

    • 対象範囲の限定や、本番/検証の区別といった前提条件を平気で抜かす。

    • 出力が自信たっぷりで読みやすいぶん、レビューを省略させる心理的圧力がある。

    • エージェントがファイル操作やコマンド実行まで自律的に行うため、人間の最終確認なしに破壊的操作が走りうる。

    つまり、知識の土台がない人でも“動くもの”を作れてしまう反面、「なぜこれが危険か」を知らないまま本番に流すと、欠落がそのまま事故になります。便利さが、痛い目を見て学ぶ過程をスキップさせてしまうのです。

    AI時代のガードレールは、結局のところ昔と同じ原則のアップデート版です。

    • AIが書いた破壊的操作(削除・上書き・権限変更)は人間が必ずレビューする。

    • dry-run+対象の明示的限定を徹底する。

    • エージェントに本番への直接実行権限を渡さない(実行前承認・サンドボックス・最小権限)。

    • イミュータブル/オフサイトのバックアップで最後の砦を用意し、復元できることを確認しておく。


    考察:なぜ「知識」は受け継がれにくいのか

    最後に少しだけ、根っこの話を。

    地雷を踏むのは「最近のエンジニアが劣化したから」ではありません。これらは昔から新人が踏んできたもので、ベテランも一度はやらかして覚えてきたものです。問題は、その教訓が個人の経験に閉じて、組織に根付かないこと ── いわゆる組織の記憶(institutional memory)の喪失です。ファーストサーバの事故が「マニュアル無視の常態化+上長の黙認」を背景に持っていたのも、知見が仕組みになっていなかったからでした。

    ここで効くのが、Chesterton's Fence(チェスタートンの柵)という考え方です。「なぜその柵が立っているか分からないうちは、外してはいけない」。古い手順やガードレールには、たいてい過去の誰かが血を流して得た理由があります。意味が分からないからと安易に外すと、同じ事故をもう一度引き当てる。

    だからこそ、ポストモーテム(事後検証)を残し・共有する文化、「やってはいけないこと」を仕組みで強制する設計が、根性論や経験頼みより重要になります。そして決定的に変わったのは、AIによって個人が触れる破壊力(スコープ)が桁違いに大きくなったこと。一人のミスが全社・全顧客に波及しうる時代には、「知っているベテランがいる」ことより、**「知らなくても事故れないガードレール」**を整えることが、現実的な答えになっていきます。


    まとめ

    • 大事故の多くは高度な攻撃ではなく、ありふれた操作ミス+安全網の不在で起きる。

    • `rm -rf`、本番/検証の取り違え、WHERE忘れ、force push、バックアップ同居・未検証、部分デプロイ、アラート不達 ── 定番の地雷は決まっている。知っていれば避けられる。

    • 生成AI時代は、知識の土台がないまま破壊的操作を本番に流すリスクが上がる。レビュー・dry-run・最小権限・復元可能性でガードレールを敷く。

    • 根本は組織の記憶を仕組みに変えること。過去の事故から学ぶ姿勢こそ、最強の予防策。

    「知らなかった」で済ませないために、まずは定番の地雷を“知る”ところから。


    参考(ソース)


    #エンジニア #ポストモーテム #障害対応 #バックアップ #SRE #DevOps #生成AI #AIコーディング #インシデント #情報セキュリティ

    📡 最新のAI・セキュリティ事情を追いかけています

    このマガジンでは、最新のAI/LLMニュース、脆弱性・障害事例、ローカルLLMの安全な運用ノウハウを、時系列・影響・対策の3点セットで継続的に発信しています。 「実際どうだったの?」が分かる記事を、これからも書いていきます。役に立ったら、ぜひフォロー&スキをお願いします!🙌

    👉 マガジン「AI/ローカルLLM セキュリティ最前線」をフォローすると、新着記事を見逃しません。


     
     
    生成AIとローカルLLMの実機検証、自作プログラムの公開に加え、セキュリティと時事ネタの解説も書いています。セキュリティ関連ニュース、生成AI関連、モデル検証。ニュースの数字の裏側を、手元で確かめた結果と一緒に残します。

    あなたへのおすすめ