日韩在线视频观看免费网站,野花社区视频www,亚洲第一狼人天堂久久,国产福利视频一区二区在线

職位描述

1、負責網(wǎng)絡爬蟲系統(tǒng)的設計與開發(fā)(結構化抽取，分布式，調度策略）；

2、研究爬蟲策略和防屏蔽規(guī)則，解決封鎖、驗證碼、加密，等問題，優(yōu)化爬蟲效率和質量；

3、對抓取后的數(shù)據(jù)進行清洗、存儲，并持續(xù)優(yōu)化平臺，提升爬蟲穩(wěn)定性及可擴展性。

4、向部長匯報。

職位要求

1.至少1年爬蟲項目開發(fā)經(jīng)驗；至少熟練掌握主流爬蟲框架中的一種

2.精通Python語言，熟練運用多進程、多線程開發(fā)；

3.熟悉爬蟲原理，熟練掌握正則表達式、XPath、CSS等網(wǎng)頁信息抽取技術以及提取多層Json結構數(shù)據(jù)；

4.熟悉常見反爬機制，IP池、cookie、js加密等；對破解驗證碼有豐富經(jīng)驗，獨立解決js反爬和模擬登陸問題5.熟練使用Scrapy、Requests、Selenium、PhantomJS等框架；熟練使用抓包工具；

投遞郵箱