Google Cloud Storage のログの収集

最後の更新
PDFとして保存

このページでは、Google Cloud Platform (GCP) サービスからログを取り込むための Sumo パイプラインについて説明し、Google Cloud Storage からログを収集する手順を紹介します。

Collection process for GCP services

The key components in the collection process for GCP services are: Google Stackdriver, Google Cloud Pub/Sub, and Sumo’s Google Cloud Platform (GCP) source running on a hosted collector.

The integration works like this: Google Stackdriver collects logs from GCP services. Once you’ve configured the pipeline shown below, the logs collected by Stackdriver will be published to a Google Pub/Sub topic. A Sumo GCP source on a hosted collector subscribed to that topic ingests the logs into Sumo.

The configuration process is as follows.

Configure a GCP source on a hosted collector. You'll obtain the HTTP URL for the source, and then use Google Cloud Console to register the URL as a validated domain.
Create a topic in Google Pub/Sub and subscribe the GCP source URL to that topic.
Create an export of GCP logs from Stackdriver. Exporting involves writing a filter that selects the log entries you want to export, and choosing a Pub/Sub as the destination. The filter and destination are held in an object called a sink.

See the sections below for instructions.

Stackdriver からの Google Cloud Storage ログのエクスポートの作成

[Logging (ログ)] に移動して [Exports (エクスポート)] をクリックします。
[Create Export (エクスポートの作成)] をクリックします。
GCP サービスを選択してログを絞り込みます。sink を作成するお勧めの GCP サービスは "GCS Bucket" であり、これによってサービスのログが Sumo Logic に送信されます。右側の [Edit Export (エクスポートの編集)] ウィンドウで次の操作を実行します。
1. [Sink Name (Sink 名)] を設定します。たとえば、"gce-vm-instance" です。
2. [Sink Service (Sink サービス)] として [Cloud Pub/Sub] を選択します。
3. [Sink Destination (Sink ターゲット)] を「Google Cloud Platform ソース」の手順で作成した Pub/Sub トピックに設定します。たとえば、"pub-sub-logs" です。
4. [Create Sink (Sink の作成)] をクリックします。

クエリのサンプル

一定期間にわたって作成されたリソース

_sourceCategory=*gcp* data logName resource "\"type\":\"gcs_bucket\"" | parse regex "\"logName\":\"(?<log_name>[^\"]+)\"" | where log_name matches "projects/*/logs/cloudaudit.googleapis.com%2*" | json "message.data.resource.labels", "message.data.protoPayload.methodName" as labels, method | where method matches "*create" or method matches "*delete" | json field=labels "project_id", "bucket_name", "location" as project, bucket_name, location | timeslice 1h | count as operations by _timeslice, method | transpose row _timeslice column method | fillmissing timeslice(1h)