亚洲综合国产一区二区三区-亚洲综合激情另类专区-亚洲综合精品一区二区三区中文-亚洲综合免费-国产成人黄网址在线视频-国产成人教育视频在线观看

您的位置:要聞 > 正文

大數據時代讓網絡自動采集機票價格成為了可能

來源:中國信息報 時間:2021-09-07 09:35:56

隨著大數據時代的蓬勃發展和大數據技術的深入應用,網絡自動采集機票價格成為了可能。本文結合工作實踐,再現從需求分析到技術選型,再到完成設計的工作過程。

機票采價需求分析

獲取明確的需求是高效、準確開展工作的前提。機票采價工作中,一是有特殊的時間要求,需在特定的日期采集特定日期的機票;二是未通過攜程、飛豬等第三方平臺進行,而是通過航班官網采集實際的機票價格;三是為保證價格采集有佐證,需在訂單頁將價格區域截圖保存。

相關技術選型

在分析研究需求之后,發現關鍵技術點有兩個:一是采集實際發生價格,二是價格區域截圖,需要選擇合適的程序。通過查找相關資料,發現Python的Selenium庫可以實現采價和截圖的需求。Selenium可以模擬用戶在瀏覽器中的一切操作,甚至可以不打開瀏覽器模擬操作(后臺無界面操作)。此結果完美符合技術需求,既能抓取到價格又能實現截圖。

東航采價設計與實現

在東航網站的采價中,最為困擾的有兩個問題:一個是登錄的驗證,另一個是網頁數據加載不出來、中途彈出驗證的問題。

登錄驗證和中途驗證。通過相關資料找到了一個比較成熟的解決方案。通過比對驗證圖片和原始圖片的RGB信息找到缺口坐標軸計算水平移動距離,采取“進3退1”的方式移動到缺口位置,即可實現驗證通過。

刷新網頁直到數據加載。由于會存在數據加載不出來的問題,所以在查詢結果頁加入元素判斷,將某個關鍵元素用Xpath的方式獲取,如果存在就繼續執行操作,如果不存在則刷新網頁重新判斷。

采價日期計算。本文的思路為獲取當前日期,并根據采價日期的要求計算采價的日期段。再利用Pandas庫的Series方法生成采價日期段,用于查詢機票。對于不同的網站有不同的日期格式,計算日期方法中設置日期格式參數,用于格式化日期之用。

價格區域截圖。在訂單頁面,通過F12工具定位價格區域的Xpath,并應用Selenium的方法獲取該Xpath的坐標和長、寬。操作截圖的時候是先截圖整個網頁,再根據價格區域的坐標、長、寬進行截圖。

國航采價設計與實現

查詢機票。對于出發城市和到達城市的輸入框,國航網站有輸入提示,本文思路為按照中文將出發地和輸入地發送過去,獲取提示框的Xpath地址,再調用點擊方法即可實現提示框的輸入。出發日期直接將日期輸入到輸入框即可。

識別彈窗。在實際操作中,成都有彈窗提示登記窗口,此時調用Selenium的方法,切換到Alert窗口,如果切換成功則點擊彈窗表示確認,若切換失敗則無需做任何操作。

滑動到訂單頁底部。實際開發過程中,并沒找到具體的Selenium滑動頁面方式,可以通過編寫Javascript代碼的方式發送給瀏覽器執行,具體代碼如下:

相關體會

一是技術選型很重要,采用合適的技術能促進工作更好地開展。二是程序可以進一步完善,可以抽象成公共的工具,出發地、到達地可以根據用戶指定去采價。

精彩推送

公司

綠田機械股份有限公司(簡稱綠田機械)將于2021年3月18日首發上會。綠田機械擬在上交所主板上市,本次公開發行股份數量不超過2200萬股,占發

詳細>>

11月6日,國際數據公司(IDC)手機季度跟蹤報告顯示,2020年第三季度中國智能手機市場出貨量約8480萬臺,同比下滑14 3%。出貨量前五的品牌分

詳細>>

突如其來的疫情黑天鵝,讓中國零售行業整體遇冷,增長一度陷入停滯。對于業務模式主要面向線下門店的內衣企業來說,更是遭遇了前所未有的危

詳細>>

2020年上市公司半年報披露已結束,然而,神州數碼今年上半年的業績并不理想,營收凈利雙雙下滑。并且近日公司發布公告稱,10大董事、高管擬

詳細>>

8月28日,兌吧發布了2020年中期業績。盡管受疫情及宏觀經濟影響,其廣告收入有所下滑同時導致經調整凈利潤亦由盈轉虧,但是其SaaS業務表現

詳細>>

27日晚間,申通快遞發布2020年半年報。數據顯示,上半年,公司實現營業收入92 58億元,同比下降6 21%;實現歸屬于上市公司股東的凈利潤7067

詳細>>
主站蜘蛛池模板: 在线观看嗯啊成人动作片 | 欧美视频xx | 久久婷婷是五月综合色狠狠 | 国产精品无卡无在线播放 | 国产精品视频第一区二区 | 日韩欧美中文字幕一区 | 日本欧美一区二区三区在线 | 欧美中文字幕在线播放 | 免费国产成人手机在线观看 | 男女真实有遮挡xx00动态图 | 亚洲综合偷自成人网第页 | 国产三级网站在线观看 | 一本大道在线视频 | 色黄网站成年女人色毛片 | 久久高清精品 | 色视频免费看 | 亚欧毛片基地国产毛片基地 | 黄 色 大 片 网站 | 日韩 欧美 亚洲国产 | 久久成人小视频 | 午夜影院免费 | 亚洲综合久久一本伊伊区 | 老司机午夜免费福利 | 欧美日韩亚洲国产精品 | 日本欧美一区二区三区在线观看 | 欧美日本中文 | 日韩在线观看内窥镜 | 午夜剧场成人 | 欧美色图欧美色图 | 在线另类视频 | 香蕉视频黄色 | 成人影院免费在线观看 | 看片在线观看免费 | 久久综合丁香激情久久 | 欧美成人免费tv在线播放 | 国产精品视频福利一区二区 | 天天操天天拍 | 国内国语一级毛片在线视频 | 777色狠狠一区二区三区香蕉 | 日本中文在线视频 | 日韩一区二区三区免费视频 |