AmazonDataFirehoseによるS3へのログ配信時にエラー

0

AmazonDataFirehoseによるS3へのログ配信時にエラーとなった際は、エラー用に指定したカスタムプレフィックスにオブジェクトが作成され、S3のイベント通知を使用してオブジェクトが作成されたことを検知してエラーを検知できると思いますが、S3のイベント通知を使わない方法でエラーを検知できますか?例えばAmazonDataFirehoseの配信エラーをCloudWatchlogs等で検知はできませんか?

2回答
1
承認された回答

以下のブログで紹介されているようにCloudWatch Logsに出力されたログからメトリクスフィルターを作成して、メトリクスからアラームを作成することで通知させることが可能です。
https://dev.classmethod.jp/articles/kinesis-data-firehose-error-log-amazon-sns-notification/

フィルターで各ログに一致するようにすればログごとに失敗を検知することも可能だと思います。

profile picture
エキスパート
回答済み 2ヶ月前
0

はい、Amazon Data FirehoseによるS3へのログ配信時のエラーを検知するために、S3のイベント通知を使用せずに検知する方法があります。CloudWatch Logsを使用してエラーを検知することが可能です。

以下の手順で、CloudWatch Logsを使用してAmazon Data Firehoseの配信エラーを検知できます:

  1. まず、Amazon Data Firehoseのエラーロギングを有効にします。これにより、配信の失敗などのエラーがCloudWatch Logsに記録されます。

  2. CloudWatch Logsでエラーログを確認することができます。これらのログには、配信の失敗に関する詳細な情報が含まれています。

  3. さらに、Amazon Data Firehoseの特定のCloudWatchメトリクスを監視することで、エラーを検知できます:

    • IncomingBytesIncomingRecordsメトリクスを確認して、データがFirehoseストリームに正常に送信されているかを確認します。

    • Lambdaによるデータ変換が有効な場合は、ExecuteProcessingSuccessメトリクスを確認して、FirehoseがLambda関数を正常に呼び出しているかを確認します。

    • DeliveryToS3.Successメトリクスを確認して、FirehoseがS3バケットにデータを正常に配置しようとしているかを確認します。

これらのメトリクスに異常がある場合、それはエラーが発生している可能性を示しています。

  1. CloudWatchアラームを設定して、これらのメトリクスが特定のしきい値を超えた場合に通知を受け取ることができます。

このアプローチを使用することで、S3のイベント通知を使用せずに、Amazon Data Firehoseの配信エラーを効果的に監視し、検知することができます。
Sources
Troubleshooting Amazon S3 - Amazon Data Firehose
Troubleshooting Amazon OpenSearch Service - Amazon Data Firehose

profile picture
回答済み 2ヶ月前
  • この方法だとエラーは検知できるけど、どのログの配信に失敗したか特定できなかったりしますか。

ログインしていません。 ログイン 回答を投稿する。

優れた回答とは、質問に明確に答え、建設的なフィードバックを提供し、質問者の専門分野におけるスキルの向上を促すものです。

質問に答えるためのガイドライン