icon
icon

PythonでのPhantomJSによるWebスクレイピングの方法【初心者向け】

初心者向けにPythonでのPhantomJSによるWebスクレイピングの方法について解説しています。Webスクレイピングとは特定のWebページの全体、または一部の情報をプログラミング処理で取得することです。seleniumを用いてphantomJSを動かしてみます。

テックアカデミーマガジンは受講者数No.1のプログラミングスクール「テックアカデミー」が運営。初心者向けにプロが解説した記事を公開中。現役エンジニアの方はこちらをご覧ください。 ※ アンケートモニター提供元:GMOリサーチ株式会社 調査期間:2021年8月12日~8月16日  調査対象:2020年8月以降にプログラミングスクールを受講した18~80歳の男女1,000名  調査手法:インターネット調査

PythonでのPhantomJSによるWebスクレイピングの方法について解説します。

そもそもPythonについてよく分からないという方は、Pythonとは何なのか解説した記事を読むとさらに理解が深まります。

 

なお本記事は、TechAcademyのオンラインブートキャンプPython講座の内容をもとに紹介しています。

 

田島悠介

今回は、Pythonに関する内容だね!

大石ゆかり

どういう内容でしょうか?

田島悠介

PythonでのPhantomJSによるWebスクレイピングの方法について詳しく説明していくね!

大石ゆかり

お願いします!

 

Webスクレイピングとは

Webスクレイピングとは、Webサイトから情報を抽出する処理のことです。

研究や商業目的で、Web上で公開されている情報(ニュースや統計データなど)を収集するために用いられる技術です。

 

PhantomJSとは

PhantomJSとはヘッドレスブラウザ(※)の1つです。(※)GUIを介さずに動作するブラウザのこと。
ChromeやFirefoxなどの通常のWebブラウザも「ヘッドレスモード」を備えています。

ヘッドレスブラウザは通常のWebブラウザと比較して起動が高速という利点があります。
そのため、本記事で紹介するようなスクレイピングや、Webアプリケーションのテストなどに頻繁に使用されています。
 

[PR] 未経験からWebエンジニアを目指す方法とは

PhantomJSのインストール方法

Webブラウザ操作自動化の仕組み、Seleniumを用いてPhantomJSを動かします。

pipコマンドでSeleniumをインストールします。

 

pip install selenium

 

PhantomJSの公式サイトからPhantomJSをダウンロードします。

この記事ではWindows版を使用し、カレントディレクトリにphantomjs.exeを配置しました。
以下のコードを実行できれば、インストールに成功しています。

 

import selenium.webdriver
driver = selenium.webdriver.PhantomJS()

 

なお、PhantomJSは開発を中断しているため、以下のような警告メッセージが表示されます。

警告メッセージの通り、今後はPhantomJSの代わりに、ChromeやFirefoxのヘッドレスモードを用いるのが良いでしょう。
 

UserWarning: Selenium support for PhantomJS has been deprecated, please use headless versions of Chrome or Firefox instead
  warnings.warn('Selenium support for PhantomJS has been deprecated, please use headless '

 
 

PhantomJSによるWebスクレイピングの方法

以下のようなコードでWebドライバを初期化し、Webページにアクセスします。

 

import selenium.webdriver

driver = selenium.webdriver.PhantomJS()
driver.get(<アクセス先URL>)

 

以降、Webドライバのインスタンス(この例ではdriver変数)を通じて、Webページの内容を参照したり操作したりします。
 

実際に書いてみよう

TechAcademyのサイトでimg(画像)タグをスクレイピングし、URLを抽出してみます。

サンプルコード

import selenium.webdriver

driver = selenium.webdriver.PhantomJS()
driver.get('https://techacademy.jp/')
elems = driver.find_elements_by_tag_name('img')
for e in elems:
    print(e.get_attribute('src'))

 

実行結果

以下のようにURLが表示されました。

 

Webスクレイピングで取得した画像1

 
Webスクレイピングで取得した画像2

 

解説

はじめにSeleniumモジュールをインポートしました。
3行目でPhantomJSのWebドライバを初期化しました。
4行目でTechAcademyのサイトにアクセスしました。
5行目でimgタグを検索しました。
6,7行目で検索結果をループしながら、imgタグ内のsrc属性(URL)を表示しました。

 

監修してくれたメンター

橋本紘希

システムインテグレータ企業勤務のシステムエンジニア。

開発実績: Javaプログラムを用いた業務用Webアプリケーションや、基幹システム用バッチアプリケーションなどの設計構築試験。

 

大石ゆかり

内容分かりやすくて良かったです!

田島悠介

ゆかりちゃんも分からないことがあったら質問してね!

大石ゆかり

分かりました。ありがとうございます!

 

TechAcademyでは、初心者でもPythonを使った人工知能(AI)や機械学習の基礎を習得できるオンラインブートキャンプPython講座を開催しています。

挫折しない学習方法を知れる説明動画や、現役エンジニアとのビデオ通話とチャットサポート、学習用カリキュラムを体験できる無料体験も実施しているので、ぜひ参加してみてください。