メインコンテンツまでスキップ
Sumo Logic Japanese

Google BigQuery のログの収集

このページでは、Google Cloud Platform (GCP) サービスからログを取り込むための Sumo パイプラインについて説明し、Google BigQuery からログを収集する手順を紹介します。

Collection process for GCP services

The key components in the collection process for GCP services are:  Google Stackdriver, Google Cloud Pub/Sub, and Sumo’s Google Cloud Platform (GCP) source running on a hosted collector. 

The integration works like this: Google Stackdriver collects logs from GCP services. Once you’ve configured the pipeline shown below, the logs collected by Stackdriver will be published to a Google Pub/Sub topic. A Sumo GCP source on a hosted collector subscribed to that topic ingests the logs into Sumo.

monitor-gcp-services.png 

The configuration process is as follows. 

  1. Configure a GCP source on a hosted collector. You'll obtain the HTTP URL for the source, and then use Google Cloud Console to register the URL as a validated domain.  
  2. Create a topic in Google Pub/Sub and subscribe the GCP source URL to that topic.
  3. Create an export of GCP logs from Stackdriver. Exporting involves writing a filter that selects the log entries you want to export, and choosing a Pub/Sub as the destination. The filter and destination are held in an object called a sink. 

See the sections below for instructions.

Stackdriver からの Google BigQuery ログのエクスポートの作成

  1. [Logging (ログ)] に移動して [Exports (エクスポート)] をクリックします。
    gcp6.png
  2. [Create Export (エクスポートの作成)] をクリックします。
    gcp7.png
  3. GCP サービスを選択してログを絞り込みます。sink を作成するお勧めの GCP サービスは BigQuery であり、これによってサービスのログが Sumo Logic に送信されます。右側の [Edit Export (エクスポートの編集)] ウィンドウで次の操作を実行します。

    1. [Sink Name (Sink 名)] を設定します。たとえば、"gce-vm-instance" です。
    2. [Sink Service (Sink サービス)] を Cloud Pub/Sub に設定します。
    3. [Sink Destination Sink ターゲット] を上で作成した Pub/Sub トピックに設定します。たとえば、"pub-sub-logs" です。
    4. [Create Sink (Sink の作成)] をクリックします。
      gcp8.png

詳細については、GCP の「ログのエクスポートの概要」を参照してください。

クエリのサンプル

一定期間にわたって作成されたリソース

_sourceCategory=*gcp* logName resource "type":"bigquery_resource" | parse regex "\"logName\":\"(?<log_name>[^\"]+)\"" | where log_name matches "projects/*/logs/cloudaudit.googleapis.com%2Factivity" | json "message.data.resource.labels", "message.data.resource.labels.project_id" as labels, project | timeslice 1h | count as operations by _timeslice, project | transpose row _timeslice column project

 

  • この記事は役に立ちましたか?