Webクローリング&Webスクレイピング

keywalker Webクローラー

  

【WebクローリングシェアNo.1】
キーウォーカーWebクローラーとは

利用できるデータの種類や量が格段に増えた現在、データドリブンマーケティングで本格的にデータ分析に戻づく仮説を立て、施策を導くことが可能になりました。

そこで、「キーウォーカー Webクローラー」をご利用いただくと、検索エンジン上にある無数のサイトを周期的に巡回して該当ページにあるデータを収集し、必要な情報を収集することができます。

また収集したデータは、Webスクレイピング機能により不要な情報を削り、重要な情報を取得。Webスクレイピングで抽出したデータを活用することで競合他社のリサーチに活用したり、価格やサービスの提案において最適な提案したりするなど、マーケティング活動を支援し、業務効率化を実現します。

Webクローリング、Webスクレイピングにより営業リスト作成、価格戦略、不動産相場取得、ルーチン業務の自動化など様々な用途で幅広くご活用いただいています。

クローリングシェアNo.1

38.5
(2020年度実績)

「ソフトウェアビジネス新市場 2021年版」にて、WEBクローリングシェアNo.1を獲得いたしました。

導入突破

400
(2020年10月20日現在)

多様な業種のお客様に導入いただいています。

サービス継続率

99%

ビッグデータ時代の新しいインフラとして多くの企業・組織に継続的に活用されています。

主な取引先企業


キーウォーカーWebクローラーの特徴

並列クローリング並列クローリング 並列クローリングにより数千万・数億ページ規模のクローリングにも対応
あらゆるサイトへのクロール対応あらゆるサイトへのクロール対応 Keywalker.jsという独自開発のブラウザ自動操作言語により、動的なサイトからも情報の抽出が可能
柔軟なクローリング設定機能柔軟なクローリング設定機能
  • IP分散設定、巡回スケジュール設定可
  • 上位文書と紐付け可能
  • クロールルート調整機能
様々な文書ファイル形式を取得可能様々な文書ファイル形式を取得可能 HTML、RSS、SITEMAP、PDF、Office文書、他
可視化(オプション) 取得したデータは、Tableau(BIツール)と連携することで分析・可視化
納品データ形式 Json・XML・貴社指定フォーマットに変換
データ連携 収集データを貴社のご指定方法で、システムへ直接連携

Webスクレイピング

得られるメリット
  • 自動で必要な情報だけを迅速に収集
  • APIを提供していないWebサイトからも情報収集が可能
  • 大きなコストをかけずに迅速に新たなサービスの構築が可能
効果を発揮しやすいデータ ショッピングサイト等、規則性のあるデータ
スクレイピングで収集可能なデータ 競合・情報価格調査 / 株価調査 / 物件情報 / 企業情報 / ソーシャルメディア上のデータ 等
スクレイピングに適さないもの
  • 頻繁に繰り返し行われる作業でないもの
  • 人間の感情や暗黙知、経験が判断に影響を与えるもの

データの見える化

Webクローリング、Webスクレイピングで収集したデータを見える化することで ビジネス環境の変化をリアルタイムに把握することができます

  • ビジュアライズ機能
  • フィルタリング機能
  • ソート機能
Webクローラー収集データを見える化

Webクローラーの活用例

  1. 価格調査に

    価格調査

    Webクローラーを利用して競合会社の商品情報をクロールし、自社より低価格の商品リストを自動的に生成できます。収集の際には、画像やカテゴリ、ブランド、商品説明、セール情報、ポイント数、在庫、カラーなど表示されている他の情報も取得可能です。 事例詳細

  2. データの可視化

    データの可視化

    Webクローラーで取得した情報は、グラフに変換できます。商品の価格や株のデータをグラフにして、可視化することで価格の変動を直感的に把握することで、ビジネスシーンに活用可能です。 事例詳細

  3. Webページの更新チェック

    CERVN

    Webページ(テキスト、画像、HTMLソース)の更新・変化をとらえて通知するサービスです。URLをセットするだけのカンタン設定。2週間無料でお試しいただけます。 事例詳細

  4. 画像の収集・分析

    KW イメージクローラ

    特定の画像との類似度の計算、画像の分類やタグ付け、画像内の文字情報の抽出、収集した画像に対する加工処理が可能です。 事例詳細

  5. 不動産価格調査

    不動産価格の自動収集

    国内の大手不動産関連サイト(SUUMO、マイナビ賃貸、HOME’S、ヤフー不動産、nifty不動産、etc)の物件情報を自動取得します。収集した膨大な量の情報を顧客への営業活動の資料として、またはマーケティング戦略の要として使用することも可能です。 事例詳細

  6. クチコミ、レビュー調査

    クチコミ、レビュー収集

    大手ECサイトやクチコミポータルサイトを対象に、Webクローラーを定期的に巡回させることで、商品情報を取得します。口コミやレビューと同時に、商品画像を取得することも可能です。収集したデータはCSV形式でダウンロード可能です。 事例詳細

  7. 営業リストの生成

    営業リスト作成

    ウェブ上に掲載されている企業の会社概要や連絡先から条件に合わせて業種別に企業データを自動収集できます。Webから収集した最新の見込み顧客リストのデータベースをすでに100万社分保有しています。 事例詳細

ビッグデータ・ソリューション

キーウォーカーのWebクローリング技術により大量にデータを収集し、Webスクレイピングで必要となるデータを抽出することでし、分析、可視化、機能追加、運用までの一連のソリューションを提供しています。

これまでのマーケティング担当者の「勘や経験」という主観的な根拠から導き出した施策に比べ、データに高い精度を期待できます。     

Webクローリング、Webスクレイピングによって収集した膨大なデータは、BigQuery等に継続的に蓄積し、整形処理されたデータをBIツールである Tableauや15年間研究を行ってきた人工知能等の技術を活用して、様々な角度から分析を行います。

データ収集・整理
データ蓄積
分析・可視化/機能構築
運用
Webクローリング データハンドリング データベース 分析・可視化 機能構築 価格の最適化計算
競合価格比較・分析
商品データ/店舗データ/企業情報/求人情報/不動産情報/ニュース/テレビ番組/SNS/口コミ/Webアナリティクス/人口統計データ BIツールやAIを活用し
データを分析・可視化

AI、統計分析

アラート機能/Webページの差異検出/キュレーションポータル構築
  1. 価格調査
  2. VoC分析
  3. 営業リスト作成

KW Webクローラーの機能一覧

KW Webクローラー 他社
取得データの可視化
BASIC認証
ログイン
テキスト入力
フォーム送信
サイト内検索
フレーム内のパース
クッキーの使用
スクロール対応
HTMLにない情報の取得
JavaScript対応
画像のダウンロード
PDFのダウンロード
エクセルファイルのダウンロード
CSVで出力
XMLで出力
JSONで出力
スケジューリング
スクリーンショット
メール通知

導入までの流れ

  • STEP1

    下記リンク(または電話)よりお問い合わせフォームへの入力をお願いいたします。 担当者よりご連絡さしあげます。

  • STEP2

    取得対象サイト、取得項目、データ取得頻度、データ提供形式についてヒアリングいたします。

  • STEP3

    対象サイトについて調査をおこない、お見積もりをご提供します。

  • STEP4

    クローラ設定(最短3営業日程度)

  • STEP5

    データ納品、運用開始

  • WEBクローラーのQ&Aはこちらから

お問い合わせフォーム

Copyright © Keywalker, Inc. All Rights Reserved.

送信中…
しばらくお待ち下さい