欧美大肚乱孕交hd孕妇_欧美成人女星排行榜_中文字幕五月欧美_日韩免费福利电影在线观看

您的位置:要聞 > 正文

大數據時代讓網絡自動采集機票價格成為了可能

來源:中國信息報 時間:2021-09-07 09:35:56

隨著大數據時代的蓬勃發展和大數據技術的深入應用,網絡自動采集機票價格成為了可能。本文結合工作實踐,再現從需求分析到技術選型,再到完成設計的工作過程。

機票采價需求分析

獲取明確的需求是高效、準確開展工作的前提。機票采價工作中,一是有特殊的時間要求,需在特定的日期采集特定日期的機票;二是未通過攜程、飛豬等第三方平臺進行,而是通過航班官網采集實際的機票價格;三是為保證價格采集有佐證,需在訂單頁將價格區域截圖保存。

相關技術選型

在分析研究需求之后,發現關鍵技術點有兩個:一是采集實際發生價格,二是價格區域截圖,需要選擇合適的程序。通過查找相關資料,發現Python的Selenium庫可以實現采價和截圖的需求。Selenium可以模擬用戶在瀏覽器中的一切操作,甚至可以不打開瀏覽器模擬操作(后臺無界面操作)。此結果完美符合技術需求,既能抓取到價格又能實現截圖。

東航采價設計與實現

在東航網站的采價中,最為困擾的有兩個問題:一個是登錄的驗證,另一個是網頁數據加載不出來、中途彈出驗證的問題。

登錄驗證和中途驗證。通過相關資料找到了一個比較成熟的解決方案。通過比對驗證圖片和原始圖片的RGB信息找到缺口坐標軸計算水平移動距離,采取“進3退1”的方式移動到缺口位置,即可實現驗證通過。

刷新網頁直到數據加載。由于會存在數據加載不出來的問題,所以在查詢結果頁加入元素判斷,將某個關鍵元素用Xpath的方式獲取,如果存在就繼續執行操作,如果不存在則刷新網頁重新判斷。

采價日期計算。本文的思路為獲取當前日期,并根據采價日期的要求計算采價的日期段。再利用Pandas庫的Series方法生成采價日期段,用于查詢機票。對于不同的網站有不同的日期格式,計算日期方法中設置日期格式參數,用于格式化日期之用。

價格區域截圖。在訂單頁面,通過F12工具定位價格區域的Xpath,并應用Selenium的方法獲取該Xpath的坐標和長、寬。操作截圖的時候是先截圖整個網頁,再根據價格區域的坐標、長、寬進行截圖。

國航采價設計與實現

查詢機票。對于出發城市和到達城市的輸入框,國航網站有輸入提示,本文思路為按照中文將出發地和輸入地發送過去,獲取提示框的Xpath地址,再調用點擊方法即可實現提示框的輸入。出發日期直接將日期輸入到輸入框即可。

識別彈窗。在實際操作中,成都有彈窗提示登記窗口,此時調用Selenium的方法,切換到Alert窗口,如果切換成功則點擊彈窗表示確認,若切換失敗則無需做任何操作。

滑動到訂單頁底部。實際開發過程中,并沒找到具體的Selenium滑動頁面方式,可以通過編寫Javascript代碼的方式發送給瀏覽器執行,具體代碼如下:

相關體會

一是技術選型很重要,采用合適的技術能促進工作更好地開展。二是程序可以進一步完善,可以抽象成公共的工具,出發地、到達地可以根據用戶指定去采價。

精彩推送

公司

綠田機械股份有限公司(簡稱綠田機械)將于2021年3月18日首發上會。綠田機械擬在上交所主板上市,本次公開發行股份數量不超過2200萬股,占發

詳細>>

11月6日,國際數據公司(IDC)手機季度跟蹤報告顯示,2020年第三季度中國智能手機市場出貨量約8480萬臺,同比下滑14 3%。出貨量前五的品牌分

詳細>>

突如其來的疫情黑天鵝,讓中國零售行業整體遇冷,增長一度陷入停滯。對于業務模式主要面向線下門店的內衣企業來說,更是遭遇了前所未有的危

詳細>>

2020年上市公司半年報披露已結束,然而,神州數碼今年上半年的業績并不理想,營收凈利雙雙下滑。并且近日公司發布公告稱,10大董事、高管擬

詳細>>

8月28日,兌吧發布了2020年中期業績。盡管受疫情及宏觀經濟影響,其廣告收入有所下滑同時導致經調整凈利潤亦由盈轉虧,但是其SaaS業務表現

詳細>>

27日晚間,申通快遞發布2020年半年報。數據顯示,上半年,公司實現營業收入92 58億元,同比下降6 21%;實現歸屬于上市公司股東的凈利潤7067

詳細>>
主站蜘蛛池模板: 日韩精品成人一区二区在线观看| 久久久亚洲影院| 欧美日韩一道本| 国产精品一区二区a| 国产在线精品成人一区二区三区| 伊人久久婷婷色综合98网| 国产精品自拍首页| 久久久亚洲精品无码| 欧美国产激情视频| 亚洲欧美日韩精品综合在线观看| 国产区日韩欧美| 精品视频导航| 激情伊人五月天| 久久伊人精品天天| 欧美精品久久久久a| 欧美亚洲另类久久综合| 国产精品美女诱惑| 国产精品久在线观看| 韩国国内大量揄拍精品视频| 日本三级中国三级99人妇网站| 91久久久久久久一区二区| 国产欧美一区二区三区视频| 久久久久久九九| 久久97精品久久久久久久不卡| 久久久91精品| 国产在线观看精品| 久久免费一区| 国精产品一区一区三区视频| 黄色国产精品一区二区三区| 国产在线观看不卡| 国产精品久久久久av福利动漫| 国产精品久久久av| 久久久免费精品| 国产精品入口免费| 国产精品亚洲激情| 国产精品久久久久久久久久三级| 狠狠色综合网站久久久久久久| 国产精品视频二| 国产精品美女免费看| 91久久久久久久久| 午夜精品一区二区三区在线播放|