Cats - クリックログ
CATS から広告のクリックデータを取得しています。
前提
主なデータの利用用途
- 広告運用 PRO レポートの統合データ
- 広告データと統合することで、広告の運用状況や広告動画の分析が可能になります
- 全社向けの広告クリックデータ
- 主に新規チームが使います
データの更新頻度と取得期間
更新頻度
- 毎日
取得期間
- クリックログ、成果ログ、中間クリックログ
- 前日分
- 成果削除ログ
- 今月と先月分
先月分の成果削除が月初に行われるので
- 今月と先月分
データ責任者
| オーナー | 所属 | 責任者(現在) | 前任 |
|---|---|---|---|
| テクニカルオーナー | and roots | 堀 順郎 | - |
| ビジネスオーナー | Fooot | 水野 海信 | - |
関連サービス
| 項目名 | 所有者 | 説明 |
|---|---|---|
| CATS | CATS 株式会社 | 広告効果測定ツール。 |
| Cloud Functions | and roots | サーバーレス環境で関数実行している。 |
| BigQuery | and roots | データの格納先。 |
| TROCCO | primeNumber | ETL ツール。 |
| Slack | and roots | データ連携結果の通知先。 |
データフロー図
TROCCO
パラメータ設定
- データの取得期間と更新頻度を元に設定しています
- 詳細はワークフロー設定のクエリを参考にしてください
Cloud Functions
README.mdに記述しています。
BigQuery
命名規則
Raw_Hide_Cats_ScrapingSystem_[Table]
- 現在は Hide のアカウントで全社運用しています
- ストリーム ID は、CATS の
ユーザーIDを採用していますユーザーIDは管理画面で編集される可能性がありますが、変更されても設計的な影響はありません
エラー対応
エラーの場合は Slack にエラーメッセージが届きます。
主な調査ポイント
CATS 側のカラム数が増えていないか
- CATS 側でカラム数が増えた場合エラーになります
- 全カラムを取得するように設計しているので
- Raw テーブル側に新規カラムを追加して対応してください
その他調査のポイント
- CATS の仕様が変更されていないか。
- スクレイピングで取得しているのでエラーになります。
- TROCCO と Cloud Functions、 dbt のログからエラーの原因を探ってください
参考サイト
CATS
- CATS ログインページ
- Stream テーブルのログインデータを使ってログインしてください。