メインコンテンツへスキップ
見出し画像
Photo byeisukeai

【AWS学習】CloudWatchでEC2のログを集めてS3に保管してみた ― CloudTrailとの違いも整理

    はじめに

    EC2のログをCloudWatch LogsからS3バケットへ書き出すところまでを試してみました。

    CloudWatchとは

    CloudWatchは、AWS上のリソースやアプリケーションの「状態」を集めて見せる監視サービスです。中心になる機能は次の3つです。

    • メトリクス:時間とともに変わる数値。例:EC2のCPU使用率、ネットワーク通信量

    • ログ(CloudWatch Logs):アプリやOSが出力する文字列。例:アプリの [INFO] [ERROR] の行

    • アラーム:メトリクスがしきい値を超えたら通知・アクションする。例:CPUが80%を超えたらメール

    メトリクスは「数字のグラフ」、ログは「出来事の記録」です。ログから特定の文字列を数えてメトリクスに変える(メトリクスフィルター)こともでき、それをアラームにつなげれば「エラーが出たら通知」が作れます。

    なお、最近のコンソールでは、Logs Insights・Live Tailなどが「Log Analytics」という画面に統合されています。

    CloudTrailとの違い

    CloudWatchは「リソースやアプリの中で何が起きているか」、CloudTrailは「誰がAWSに対して何を操作したか」を記録します。

    • 記録するもの:CloudWatchはメトリクスとアプリ・OSのログ、CloudTrailはAWSへのAPI呼び出し(操作履歴)

    • 答えられる問い:CloudWatchは「CPUは高いか? エラーは出ているか?」、CloudTrailは「誰が、いつ、どこから、何を変えたか?」

    • データの出どころ:CloudWatchはEC2・エージェント・各サービス、CloudTrailはAWSのAPIそのもの

    • 主な用途:CloudWatchは運用監視・障害調査・アラート、CloudTrailは監査・セキュリティ調査・変更の追跡

    手順1:設定なしで見られるEC2のメトリクス

    EC2は、何も設定しなくてもCPU使用率などをCloudWatchに送っています。まずはここから見てみます。

    CloudWatchコンソールの「メトリクス」→「クラシックメトリクス」→「EC2」→「インスタンス別メトリクス」と進むと、インスタンスごとの一覧が出ます。

    手順2:CloudWatch Agentでログを送る

    2-1. IAMロールに権限を付ける

    EC2に付いているIAMロールに、AWS管理ポリシー CloudWatchAgentServerPolicy を追加します。EC2自身のロールではIAMを変更できないので、CloudShellから実行しました。

    aws iam attach-role-policy \
      --role-name [EC2のロール名] \
      --policy-arn arn:aws:iam::aws:policy/CloudWatchAgentServerPolicy

    2-2. rsyslogでログをファイルに出す

    Amazon Linux 2023は初期状態でjournaldだけを使っていて、/var/log/messages がありません。rsyslogを入れると、journaldの内容がファイルに書き出されます。

    sudo dnf install -y rsyslog
    sudo systemctl enable --now rsyslog
    sudo tail -n 20 /var/log/messages

    2-3. CloudWatch Agentを入れる

    sudo dnf install -y amazon-cloudwatch-agent

    設定ファイル /opt/aws/amazon-cloudwatch-agent/etc/config.json は次のとおりです。

    {
      "agent": { "run_as_user": "root" },
      "logs": {
        "logs_collected": {
          "files": {
            "collect_list": [
              {
                "file_path": "/var/log/messages",
                "log_group_name": "[グループ名]",
                "log_stream_name": "{instance_id}",
                "timestamp_format": "%b %d %H:%M:%S",
                "timezone": "UTC"
              }
            ]
          }
        }
      }
    }

    起動と状態確認のコマンドです。

    sudo /opt/aws/amazon-cloudwatch-agent/bin/amazon-cloudwatch-agent-ctl \
      -a fetch-config -m ec2 -s \
      -c file:/opt/aws/amazon-cloudwatch-agent/etc/config.json
    sudo /opt/aws/amazon-cloudwatch-agent/bin/amazon-cloudwatch-agent-ctl -a status

    "status": "running" になれば成功です。1〜2分で、設定したロググループがコンソールに現れます。

    忘れずに:保持期間の設定

    ロググループの保持期間は初期状態で「失効しない」です。放置すると延々と溜まって課金されるので、14日などに設定しておきます。

    aws logs put-retention-policy --log-group-name [グループ名] --retention-in-days 14

    手順3:Log Analyticsで検索・整形・ダウンロード

    ロググループの画面では、フィルターバーで簡単な検索ができます。?ERROR ?WARNING と入れると、どちらかを含む行だけに絞れます(? は「いずれかを含む」の意味)。「テーリングを開始」を押せば、tail -f のようにリアルタイムで流れる様子も見られます。

    もっと踏み込んだ分析は、左メニューの「ログ分析」(Log Analytics)で行います。

    クエリの例

    ERRORかWARNINGを含む行を、新しい順に表示する例です。

    fields @timestamp, @message
    | filter @message like /ERROR|WARNING/
    | sort @timestamp desc
    | limit 10000

    ダウンロード

    結果テーブル右上の「アクション」からエクスポートできます。注意点は、1回のクエリで返せるのが最大1万行までということです。

    手順4:外部からアクセスできないS3バケットへエクスポート

    CloudWatch Logsの保持期間は短めにして、長期保管はS3に置く、というのがよくある構成です。今回はエクスポート専用のバケットを新しく作り、匿名アクセスを一切受け付けない設定にしました。すべてCloudShellで実行しています。

    4-1. バケットの作成とパブリックアクセスのブロック

    ACCOUNT_ID=$(aws sts get-caller-identity --query Account --output text)
    REGION=ap-northeast-1
    BUCKET=[バケット名]-${ACCOUNT_ID}
    
    aws s3 mb s3://${BUCKET} --region ${REGION}
    
    aws s3api put-public-access-block --bucket ${BUCKET} \
      --public-access-block-configuration \
      BlockPublicAcls=true,IgnorePublicAcls=true,BlockPublicPolicy=true,RestrictPublicBuckets=true

    バケット名は世界で一意である必要があるので、アカウントIDを付けています。また、バケットはロググループと同じリージョンに作る必要があります。

    新規バケットは最初からパブリックアクセスがブロックされていますが、明示的に設定して確認しました。これで、誤って「誰でも読める」ポリシーを付けようとしても、S3側で拒否されます。保存時の暗号化(SSE-S3)とACLの無効化も、新規バケットの標準設定で有効になっていることを確認しました。

    aws s3api get-public-access-block --bucket ${BUCKET}
    aws s3api get-bucket-encryption --bucket ${BUCKET}
    aws s3api get-bucket-ownership-controls --bucket ${BUCKET}

    4-2. バケットポリシー

    このポリシーで許可・拒否しているのは次の2点だけです。

    • 自分のアカウントのCloudWatch Logsからの書き込みだけを許可する

    • 暗号化されていない通信(HTTP)は、誰であっても拒否する

    {
      "Version": "2012-10-17",
      "Statement": [
        {
          "Sid": "AllowCWLogsGetAcl",
          "Effect": "Allow",
          "Principal": { "Service": "logs.ap-northeast-1.amazonaws.com" },
          "Action": "s3:GetBucketAcl",
          "Resource": "arn:aws:s3:::[バケット名]",
          "Condition": {
            "StringEquals": { "aws:SourceAccount": "[アカウントID]" },
            "ArnLike": { "aws:SourceArn": "arn:aws:logs:ap-northeast-1:[アカウントID]:log-group:*" }
          }
        },
        {
          "Sid": "AllowCWLogsPutObject",
          "Effect": "Allow",
          "Principal": { "Service": "logs.ap-northeast-1.amazonaws.com" },
          "Action": "s3:PutObject",
          "Resource": "arn:aws:s3:::[バケット名]/*",
          "Condition": {
            "StringEquals": {
              "s3:x-amz-acl": "bucket-owner-full-control",
              "aws:SourceAccount": "[アカウントID]"
            },
            "ArnLike": { "aws:SourceArn": "arn:aws:logs:ap-northeast-1:[アカウントID]:log-group:*" }
          }
        },
        {
          "Sid": "DenyInsecureTransport",
          "Effect": "Deny",
          "Principal": "*",
          "Action": "s3:*",
          "Resource": ["arn:aws:s3:::[バケット名]", "arn:aws:s3:::[バケット名]/*"],
          "Condition": { "Bool": { "aws:SecureTransport": "false" } }
        }
      ]
    }

    aws:SourceAccount と aws:SourceArn の条件は、他人のアカウントのCloudWatch Logsに自分のバケットへ書き込ませる、という悪用を防ぐためのものです。AWSの公式手順でも、この指定が必須とされています。

    4-3. エクスポートタスクの実行

    期間はミリ秒単位のUNIX時刻で指定します。この例では直近1時間分をエクスポートしています。

    FROM=$(date -d '1 hour ago' +%s000)
    TO=$(date +%s000)
    
    aws logs create-export-task \
      --task-name logs-export-$(date +%Y%m%d%H%M) \
      --log-group-name [グループ名] \
      --from ${FROM} --to ${TO} \
      --destination ${BUCKET} \
      --destination-prefix export
    
    aws logs describe-export-tasks \
      --query 'exportTasks[0].[taskName,status.code,status.message]' --output table

    4-4. 匿名アクセスできないことを確認

    認証情報を付けずにアクセスしてみます。

    curl -s -o /dev/null -w "%{http_code}\n" https://${BUCKET}.s3.${REGION}.amazonaws.com/
    curl -s -o /dev/null -w "%{http_code}\n" http://${BUCKET}.s3.${REGION}.amazonaws.com/

    どちらも 403 が返り、匿名アクセスが拒否されていることを確認できました。

    なお、この構成で弾けるのは匿名アクセスと他アカウントからのアクセスです。同じアカウント内でS3の権限を持つIAMユーザーやロールは、引き続きアクセスできます。

    参考:AWS公式手順との違い

    AWSの公式ドキュメントはコンソール操作版で、仕組みは同じです。違いは、今回はCLIで行ったこと、HTTPを拒否する文を足したこと、パブリックアクセスブロックを明示的に確認したことです。

    一方、公式手順はバケットのプレフィックスにランダムな文字列を使い、ポリシーでもそのプレフィックスに書き込み先を限定することを勧めています。今回は export という固定名でバケット全体への書き込みを許可しているので、その点は公式手順より緩い設定です。

    S3からの取得方法とログの形式

    S3上の構造

    export/aws-logs-write-test
    export/<タスクID>/<インスタンスID>/000000.gz
    export/<タスクID>/<インスタンスID>/000001.gz
    • export/:--destination-prefix で指定した名前

    • aws-logs-write-test:書き込み権限の確認用にCloudWatch Logsが置くファイル(ログではない)

    • <タスクID>/:エクスポートを実行するたびに新しく作られる

    • <インスタンスID>/:ログストリーム名

    • 000000.gz:ログ本体。量に応じて連番で分割される

    取得方法

    • S3コンソール(S3 → PC):数ファイルをそのまま落とすとき

    • CloudShell経由(S3 → CloudShell → PC):落とす前に解凍・結合などの加工をしたいとき

    • PCのAWS CLI(S3 → PC):aws s3 sync で定期的に差分を取るとき

    CloudShell経由なら、解凍してから落とすとWindowsでも開きやすくなります。

    aws s3 cp s3://${BUCKET}/export/ ./export --recursive
    zcat export/*/*/000000.gz > exported.log

    CloudShellのホームは容量が1GBまでなので、ログの置き場ではなく中継地点として使い、終わったら消しておきます。

    ブラウザでURLを開いても取得できない

    S3のオブジェクトにはURLがありますが、ブラウザでそのまま開くと 403 になります。リクエストに認証情報が含まれず、匿名アクセスとして扱われるためです。今回の設定どおりの動きです。

    URLで渡したいときは、署名付きURL(Presigned URL)を発行します。

    aws s3 presign s3://${BUCKET}/<キー> --expires-in 300

    有効期限内はURLを知っている人なら誰でも取得できるので、パスワードと同じ扱いにして、期限は短くします。

    ログの形式

    中身はgzip圧縮のテキストで、1行が1つのログイベントです。先頭にCloudWatch上の時刻、半角スペースを挟んで元のメッセージがそのまま入っています。

    2026-10-14T05:59:25.000Z Oct 14 05:59:25 ip-xxx XXX_bot[xxxx]: 2026-10-14 05:59:25,228 [INFO] ~

    Log Analyticsからのエクスポート(CSV / JSON)との違いは次のとおりです。

    • 形式:S3はgzip圧縮のテキスト、Log AnalyticsはCSV / JSON

    • 含まれる情報:S3は時刻とメッセージのみ、Log Analyticsはクエリで指定したフィールド

    • 件数の上限:S3はなし、Log Analyticsは1万行

    • 並び順:S3はファイル間の順序が保証されない、Log Analyticsは sort で指定した順

    S3は加工していない生ログの保管用、Log Analyticsは絞り込み・整形した結果を取り出す用、という使い分けになります。解凍せずに検索したいときは zgrep が使えます。

    よくある誤解:S3に自動で出力されるわけではない

    ここまで設定すると「EC2のログがS3まで自動で流れている」と思いがちですが、自動なのは前半だけです。

    • EC2 → CloudWatch Logs:エージェントが常に動いていて、数秒遅れで自動的に送られ続ける

    • CloudWatch Logs → S3:create-export-task を手で1回実行しただけ。指定した期間を一度だけコピーするもの

    つまり、S3にあるのはエクスポートを実行した時点までのログです。CloudWatch側の保持期間を14日にしていれば、S3にコピーしていないログは14日で消えます。

    S3にも自動で残したい場合は、次の2つの方法があります。

    • エクスポートの定期実行:EventBridge Schedulerで毎日Lambdaを起動し、前日分を create-export-task で書き出す。手動操作をそのまま自動化する形で、反映は1日1回

    • サブスクリプションフィルター+Firehose:ログが届くたびにFirehose経由でS3へ送る。ほぼリアルタイムだが、料金と構成要素が増える

     
     
    IT業界で働いています。 色々と事学んだことをnoteに書いていこうと思います。 よろしくお願いします。

    あなたへのおすすめ