ダウンロードと新規登録
無料で$5のクーポンをゲット
日本語
入門ガイド 特徴紹介 スクレイピング事例

朝日新聞のニュースをスクレイピングする

2019-11-08 17:12:31
109 views

摘要:本文では、ScrapeStormのスマートモードを通じで 朝日新聞のニュースをスクレイピングすることを紹介します。コードを書かなく、使いやすいです。 ScrapeStorm無料ダウンロード

朝日新聞(あさひしんぶん、英語: The Asahi Shimbun)は、日本の日刊の全国紙。朝日新聞社が編集・発行する新聞で、同社のメイン新聞である。販売部数は、全国紙では読売新聞に次ぐ業界2位。支局の世界展開や海外通信社[注 2]との契約締結によって全世界に取材網を張り、国内で最も権威のある新聞として知られている。

スクレイピングツールの概要

ScrapeStormには人工知能に基づき、Webスクレイピングツールです。プログラミングが必要なく、ほとんどのWebサイトからデータをスクレイピングします。強い機能を持つ、使いやすいです。URLを入力するだけで、自動的にWebサイト内容と次のページボタンを識別できます。1-ClickでWebサイトからデータを自動的に抽出します。

抽出されたデータは下記のようにご覧ください。

Excel 2007へのエクスポート:

1.タスクを新規作成する

(1)URLをコピーする

ソフトウェアはデフォルトリストページを識別しますから、リストページのURLを入力してください。今回は朝日新聞のXXXXページのニュースをスクレイピングします。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

(2)スマートモードタスクを新規作成する

ソフトウェアのホムページ画面に新規作成できます。持っているタスクをインポートすることもできます。

詳細には下記のチュートリアルをご参照ください。

URLを正しく入力する方法

2.タスクを構成する

(1)事前ログイン

朝日新聞の記事内容を全部表示させるため、Webサイトにログインする必要があります。ソフトウェアの事前ログイン機能を使用して、スクレイピングがうまくできます。

(2)ページボタンの識別

ScrapeStormは自動的にページボタンを識別できます。ページ分けには「次のページボタン」、「スクロールローディング」と「次のページボタン+スクロールローディング」三つの選択肢がありあす。具体的な状況により、選択してください。今回のページには手動で選択する必要がありませんが、もし必要があったら、下記のチュートリアルをご参照ください。

ページ分けの設定

(3)詳細ページに行く

新聞の内容をスクレイピングする必要なら、詳細ページに行き、新聞内容を手動でフィールドを選択して追加できます。また、ScrapeStormには抽出されたフィールドを編集と追加ができます。

具体的な設定には下記のチュートリアルをご参照ください。

抽出されたフィールドを配置する方法

詳細ページのスクレイピング方法

 

 

3.タスクの設定と起動

(1)起動の設定

ソフトウェアは数多くの機能を提供します。必要に応じて、スケジュール、アンチブロック、自動エクスポート、画像のダウンロード、スピードブーストを設定できます。

スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。

スクレイピングタスクを配置する方法

(2)しばらくすると、実行画面にデータのスクレイピングが見えます。

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードします。

(2)必要に応じてエクスポートする形式を選択します。

ScrapeStormは、Excel、csv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。ライトプラン以上のユーザーは、WordPressに直接投稿することもできます。

抽出結果を表示し、抽出されたデータを消去する方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータの表示と消去する方法

抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。

抽出されたデータのエクスポート方法

他のニュースメディアに関するチュートリアルは下記のようにご覧ください。

検索されたNHKニュースを取得する

NHKニュースの本文をスクレイピングする

Yahoonewsのニュースタイトルを取得する

Yahoonewsのニュースコメントを取得する

免責事項: 本文はユーザーが提供して、侵害がありましたら、ご連絡してすぐに削除します。ScrapeStormは、ユーザーが本ソフトウェアを使って行うすべての行為に対して、一切責任を負いません。