いくつかのメトリックエクスポーター + Prometheus + Grafana を使用してログファイルを監視する 質問する

いくつかのメトリックエクスポーター + Prometheus + Grafana を使用してログファイルを監視する 質問する

エラー、成功ステータスなど、非常に異なるログ ファイルを監視する必要があります。また、Prometheus を使用して対応するメトリックを取得し、Grafana に表示して、アラートを設定する必要があります。Prometheus + Grafana は問題なく、node_exporter や mysql_exporter などのさまざまなエクスポーターですでによく使用しています。新しい Grafana 4.x でのアラートも非常にうまく機能します。

しかし、ログ ファイルを「オンザフライ」で分析し、そこからメトリックを抽出できる適切なエクスポーター/プログラムを見つけるのはかなり困難です。

これまで試したこと:

  • mtail (https://github.com/google/mtail) - 動作しますが、既存のバージョンでは簡単にはより多くのファイルを監視できません - 一般的に、特定の mtail プログラム (分析用の受信) を特定のログ ファイルにバインドすることはできません + ログ ファイル名をタグに簡単に追加することはできません
  • grok_exporter (https://github.com/fstab/grok_exporter) - 動作しますが、限られた情報しか抽出できません。また、1 つのインスタンスで監視できるログ ファイルは 1 つだけなので、より多くのポートでエクスポートするインスタンスをさらに起動し、それらすべてを Prometheus で構成する必要があります。これにより、新しい障害点が多すぎます。
  • fluentd プロメテウス エクスポーター (https://github.com/kazegusuri/fluent-plugin-prometheus) - 動作しますが、非常に単純なメトリックしか抽出できず、ログファイルから行の高度な正規表現分析を行うことはできません。

「何らかのエクスポーター」+ Prometheus + Grafana を使用して、ログ ファイルから高度なメトリックを監視するための実際に実行可能なソリューションを持っている人はいますか? または、エクスポーターの代わりに、Prometheus プッシュ ゲートウェイを使用して結果を取得できるプログラムはありますか? よろしくお願いします。

ベストアンサー1

を見てみましょうテレグラフ入力プラグインを使用したログの追跡をサポートしていますログパーサーそしてしっぽメトリックをPrometheusエンドポイントとしてエクスポートするには、プロメテウスクライアント出力プラグイン。オンザフライ集計を適用することもできます。grok_exporterやmtailよりも複数のログファイルを設定する方が簡単だとわかりました。

おすすめ記事