selenium主要是用來(lái)做自動(dòng)化測(cè)試，支持多種瀏覽器，爬蟲(chóng)中主要用來(lái)解決JavaScript渲染問(wèn)題。

模擬瀏覽器進(jìn)行網(wǎng)頁(yè)加載，當(dāng)requests,urllib無(wú)法正常獲取網(wǎng)頁(yè)內(nèi)容的時(shí)候

一、聲明瀏覽器對(duì)象

注意點(diǎn)一，Python文件名或者包名不要命名為selenium，會(huì)導(dǎo)致無(wú)法導(dǎo)入

from selenium import webdriver#webdriver可以認(rèn)為是瀏覽器的驅(qū)動(dòng)器，要驅(qū)動(dòng)瀏覽器必須用到webdriver，支持多種瀏覽器，這里以Chrome為例browser = webdriver.Chrome()二、訪問(wèn)頁(yè)面并獲取網(wǎng)頁(yè)html

from selenium import webdriverbrowser = webdriver.Chrome()browser.get(’https://www.taobao.com’)print(browser.page_source)#browser.page_source是獲取網(wǎng)頁(yè)的全部htmlbrowser.close()三、查找元素

單個(gè)元素

from selenium import webdriverbrowser = webdriver.Chrome()browser.get(’https://www.taobao.com’)input_first = browser.find_element_by_id(’q’)input_second = browser.find_element_by_css_selector(’#q’)input_third = browser.find_element_by_xpath(’//*[@id='q']’)print(input_first,input_second,input_third)browser.close()

常用的查找方法

find_element_by_name

find_element_by_xpath

find_element_by_link_text

find_element_by_partial_link_text

find_element_by_tag_name

find_element_by_class_name

find_element_by_css_selector

也可以使用通用的方法

from selenium import webdriverfrom selenium.webdriver.common.by import Bybrowser = webdriver.Chrome()browser.get(’https://www.taobao.com’)input_first = browser.find_element(BY.ID,’q’)#第一個(gè)參數(shù)傳入名稱，第二個(gè)傳入具體的參數(shù)print(input_first)browser.close()

多個(gè)元素，elements多個(gè)s

input_first = browser.find_elements_by_id(’q’)四、元素交互操作-搜索框傳入關(guān)鍵詞進(jìn)行自動(dòng)搜索

from selenium import webdriverimport timebrowser = webdriver.Chrome()browser.get(’https://www.taobao.com’)input = browser.find_element_by_id(’q’)#找到搜索框input.send_keys(’iPhone’)#傳送入關(guān)鍵詞time.sleep(5)input.clear()#清空搜索框input.send_keys(’男士?jī)?nèi)褲’)button = browser.find_element_by_class_name(’btn-search’)#找到搜索按鈕button.click()

更多操作: http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.remote.webelement#可以有屬性、截圖等等

五、交互動(dòng)作，驅(qū)動(dòng)瀏覽器進(jìn)行動(dòng)作，模擬拖拽動(dòng)作，將動(dòng)作附加到動(dòng)作鏈中串行執(zhí)行

from selenium import webdriverfrom selenium.webdriver import ActionChains#引入動(dòng)作鏈browser = webdriver.Chrome()url = ’http://www.runoob.com/try/try.php?filename=jqueryui-api-droppable’browser.get(url)browser.switch_to.frame(’iframeResult’)#切換到iframeResult框架source = browser.find_element_by_css_selector(’#draggable’)#找到被拖拽對(duì)象target = browser.find_element_by_css_selector(’#droppable’)#找到目標(biāo)actions = ActionChains(browser)#聲明actions對(duì)象actions.drag_and_drop(source, target)actions.perform()#執(zhí)行動(dòng)作

更多操作: http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.common.action_chains

六、執(zhí)行JavaScript

有些動(dòng)作可能沒(méi)有提供api，比如進(jìn)度條下拉，這時(shí)，我們可以通過(guò)代碼執(zhí)行JavaScript

from selenium import webdriverbrowser = webdriver.Chrome()browser.get(’https://www.jb51.net/explore’)browser.execute_script(’window.scrollTo(0, document.body.scrollHeight)’)browser.execute_script(’alert('To Bottom')’)七、獲取元素信息

獲取屬性

from selenium import webdriverfrom selenium.webdriver import ActionChainsbrowser = webdriver.Chrome()url = ’https://www.zhihu.com/explore’browser.get(url)logo = browser.find_element_by_id(’zh-top-link-logo’)#獲取網(wǎng)站logoprint(logo)print(logo.get_attribute(’class’))browser.close()

獲取文本值

from selenium import webdriverbrowser = webdriver.Chrome()url = ’https://www.zhihu.com/explore’browser.get(url)input = browser.find_element_by_class_name(’zu-top-add-question’)print(input.text)#input.text文本值browser.close()# 獲取Id，位置，標(biāo)簽名，大小from selenium import webdriverbrowser = webdriver.Chrome()url = ’https://www.zhihu.com/explore’browser.get(url)input = browser.find_element_by_class_name(’zu-top-add-question’)print(input.id)#獲取idprint(input.location)#獲取位置print(input.tag_name)#獲取標(biāo)簽名print(input.size)#獲取大小browser.close()八、Frame操作

frame相當(dāng)于獨(dú)立的網(wǎng)頁(yè)，如果在父類(lèi)網(wǎng)frame查找子類(lèi)的，則必須切換到子類(lèi)的frame，子類(lèi)如果查找父類(lèi)也需要先切換

from selenium import webdriverfrom selenium.common.exceptions import NoSuchElementExceptionbrowser = webdriver.Chrome()url = ’http://www.runoob.com/try/try.php?filename=jqueryui-api-droppable’browser.get(url)browser.switch_to.frame(’iframeResult’)source = browser.find_element_by_css_selector(’#draggable’)print(source)try: logo = browser.find_element_by_class_name(’logo’)except NoSuchElementException: print(’NO LOGO’)browser.switch_to.parent_frame()logo = browser.find_element_by_class_name(’logo’)print(logo)print(logo.text)九、等待

隱式等待

當(dāng)使用了隱式等待執(zhí)行測(cè)試的時(shí)候，如果 WebDriver沒(méi)有在 DOM中找到元素，將繼續(xù)等待，超出設(shè)定時(shí)間后則拋出找不到元素的異常,

換句話說(shuō)，當(dāng)查找元素或元素并沒(méi)有立即出現(xiàn)的時(shí)候，隱式等待將等待一段時(shí)間再查找 DOM，默認(rèn)的時(shí)間是0

from selenium import webdriverbrowser = webdriver.Chrome()browser.implicitly_wait(10)#等待十秒加載不出來(lái)就會(huì)拋出異常，10秒內(nèi)加載出來(lái)正常返回browser.get(’https://www.zhihu.com/explore’)input = browser.find_element_by_class_name(’zu-top-add-question’)print(input)

顯式等待

指定一個(gè)等待條件，和一個(gè)最長(zhǎng)等待時(shí)間，程序會(huì)判斷在等待時(shí)間內(nèi)條件是否滿足，如果滿足則返回，如果不滿足會(huì)繼續(xù)等待，超過(guò)時(shí)間就會(huì)拋出異常

from selenium import webdriverfrom selenium.webdriver.common.by import Byfrom selenium.webdriver.support.ui import WebDriverWaitfrom selenium.webdriver.support import expected_conditions as ECbrowser = webdriver.Chrome()browser.get(’https://www.taobao.com/’)wait = WebDriverWait(browser, 10)input = wait.until(EC.presence_of_element_located((By.ID, ’q’)))button = wait.until(EC.element_to_be_clickable((By.CSS_SELECTOR, ’.btn-search’)))print(input, button)

title_is 標(biāo)題是某內(nèi)容

title_contains 標(biāo)題包含某內(nèi)容

presence_of_element_located 元素加載出，傳入定位元組，如(By.ID, ’p’)

visibility_of_element_located 元素可見(jiàn)，傳入定位元組

visibility_of 可見(jiàn)，傳入元素對(duì)象

presence_of_all_elements_located 所有元素加載出

text_to_be_present_in_element 某個(gè)元素文本包含某文字

text_to_be_present_in_element_value 某個(gè)元素值包含某文字

frame_to_be_available_and_switch_to_it frame加載并切換

invisibility_of_element_located 元素不可見(jiàn)

element_to_be_clickable 元素可點(diǎn)擊

staleness_of 判斷一個(gè)元素是否仍在DOM，可判斷頁(yè)面是否已經(jīng)刷新

element_to_be_selected 元素可選擇，傳元素對(duì)象

element_located_to_be_selected 元素可選擇，傳入定位元組

element_selection_state_to_be 傳入元素對(duì)象以及狀態(tài)，相等返回True，否則返回False

element_located_selection_state_to_be 傳入定位元組以及狀態(tài)，相等返回True，否則返回False

alert_is_present 是否出現(xiàn)Alert

詳細(xì)內(nèi)容：http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.support.expected_conditions

十一、前進(jìn)后退-實(shí)現(xiàn)瀏覽器的前進(jìn)后退以瀏覽不同的網(wǎng)頁(yè)

import timefrom selenium import webdriverbrowser = webdriver.Chrome()browser.get(’https://www.baidu.com/’)browser.get(’https://www.taobao.com/’)browser.get(’https://www.python.org/’)browser.back()time.sleep(1)browser.forward()browser.close()十二、Cookies

from selenium import webdriverbrowser = webdriver.Chrome()browser.get(’https://www.zhihu.com/explore’)print(browser.get_cookies())browser.add_cookie({’name’: ’name’, ’domain’: ’www.zhihu.com’, ’value’: ’germey’})print(browser.get_cookies())browser.delete_all_cookies()print(browser.get_cookies())

選項(xiàng)卡管理 增加瀏覽器窗口

import timefrom selenium import webdriverbrowser = webdriver.Chrome()browser.get(’https://www.baidu.com’)browser.execute_script(’window.open()’)print(browser.window_handles)browser.switch_to_window(browser.window_handles[1])browser.get(’https://www.taobao.com’)time.sleep(1)browser.switch_to_window(browser.window_handles[0])browser.get(’http://www.fishc.com’)

十三、異常處理

from selenium import webdriverbrowser = webdriver.Chrome()browser.get(’https://www.baidu.com’)browser.find_element_by_id(’hello’)from selenium import webdriverfrom selenium.common.exceptions import TimeoutException, NoSuchElementExceptionbrowser = webdriver.Chrome()try: browser.get(’https://www.baidu.com’)except TimeoutException: print(’Time Out’)try: browser.find_element_by_id(’hello’)except NoSuchElementException: print(’No Element’)finally: browser.close()

# 詳細(xì)文檔：http://selenium-python.readthedocs.io/api.html#module-selenium.common.exceptions

更多關(guān)于Python中selenium庫(kù)的用法請(qǐng)查看下面的相關(guān)鏈接