A. 好用的爬蟲網站有哪些
爬蟲網站沒有，爬敗答蟲軟體是有的。
之前弊老用過前嗅ForeSpider採集系統察卜慧，感覺還可以，你可以去他們官網上看一下。別的還有火車頭，八爪魚等，也都用過，但是老是感覺不太適合我。
B. python爬蟲框架哪個好用
說實話感覺大同小異。各有優缺點吧~
常見python爬蟲框架
1)Scrapy:很強大的爬蟲框架，可以滿足簡單的頁面爬取（比如可以明確獲知url pattern的情況）。用這個框架可以輕松爬下來如亞馬遜商品信息之類的數據。但是對於稍微復雜一點的頁面，如weibo的頁面信息，這個框架就滿足不了需求了。
2)Crawley: 高速爬取對應網站的內容，支卜簡持關系和非關系資料庫，數據可以導出為JSON、XML等
3)Portia:可視化爬取網頁內容
4)newspaper:提取新聞、文章以及內容分析
5)python-goose:java寫的文章提取工具
6)Beautiful Soup:名氣大，整合了一些常用爬蟲需求。缺點：不能載入JS。
7)mechanize:優點：可以載入JS。缺點：文檔嚴重缺失。不過通過官方的example以及人肉嘗試的方法，還是勉強能用的。
8)selenium:這是一個調用瀏覽斗寬器的driver，通過這個庫你可以直接調用瀏覽器完成某些操作，比如輸入驗證碼。
9)cola:一個分布式爬蟲框架。項目整體設計有點糟，模塊間耦合度較高。
資料來源：網頁鏈接
希望我空弊亮的回答對你有幫助~
C. python爬蟲框架哪個好用
爬蟲框架中比較好用的是 Scrapy 和PySpider。pyspider上手更簡單，操作更加簡便，因為它增加了 WEB 界面，寫爬蟲迅速，集成了phantomjs，可以用來抓取js渲染的頁面。Scrapy自定義程度高，比 PySpider更底層一些，適碧宴合學習研究，需要學習的相關知識多，不過自己拿來研究分布式和多線程等等是非常合適的。
PySpider
PySpider是binux做的一個爬蟲架構的纖慧握開源化實現。主要的功能需求是：
抓取、更新調度多站點的特定的頁面
需要對頁面進行結構化信息提取
靈活可擴展，穩定可監控
pyspider的設計基礎是：以python腳本驅動的抓取環模型爬蟲
通過python腳本進行結構化信息的提取，follow鏈接調度抓取控制，實現最大的靈活性
通過web化的腳本編寫、調試環境。web展現調度狀態
抓取環模型成熟穩定，模塊間相互獨立，通過毀慶消息隊列連接，從單進程到多機分布式靈活拓展
pyspider的架構主要分為 scheler（調度器）, fetcher（抓取器）, processor（腳本執行）：
各個組件間使用消息隊列連接，除了scheler是單點的，fetcher 和 processor 都是可以多實例分布式部署的。 scheler 負責整體的調度控制
任務由 scheler 發起調度，fetcher 抓取網頁內容， processor 執行預先編寫的python腳本，輸出結果或產生新的提鏈任務（發往 scheler），形成閉環。
每個腳本可以靈活使用各種python庫對頁面進行解析，使用框架API控制下一步抓取動作，通過設置回調控制解析動作。
D. Python什麼爬蟲庫好用
請求庫：
1. requests 這個庫是爬蟲最常用的一個庫
2. Selenium Selenium 是一個自動化測試工具，利用它我們可以驅動瀏覽器執行特定的動作，如點擊、下拉等操作 對於一些用JS做誼染的頁面來說，這種抓取方式是非常有效的。
3.ChomeDrive 安裝了這個庫，才能驅動Chrome瀏覽器完成相應的操作
4.GeckoDriver 使用W3C WebDriver兼容客戶端與基於Gecko的瀏覽器進行交互的代理。
5.PhantomJS PhantomJS 是一個無界面 、可腳本編程的 WebKit 瀏覽器引擎，它原生支持多種Web標准：Dom操作，css選擇器，json，Canvas以及SVG。
6.aiohttp 之前接收requests庫是一個阻塞式HTTP請求庫，當我們發送一個請求後。程序會一直等待伺服器響應，直到伺服器響應後，程序才會最下一步處理。其實，這個過程比較耗時間。如果程序可以在等待的過程中做一些其他的事情，如進行請求的調度，響應的處理等，那麼爬蟲的效率就會比之前的那種方式有很大的提升。 而aiohttp就是這樣一個提供非同步web服務的庫。使用說這個庫用起來還是相當方便的。
解析庫：
1.lxml lxml是python的一個解析庫，這個庫支持HTML和xml的解析，支持XPath的解析方式，而且效率也是非常高的，深受廣大程序員的熱愛
2.Beautiful Soup Beautiful Soup也是python里一個HTML或XMl的解析庫，它可以很方便的懂網頁中提取數據，擁有強大的API和多種解析方式。
3.pyquery 同樣是一個強大的網頁解析工具，它提供了和 jQuery 類似的語法來解析HTML 文梢，
資料庫：
1.mysql 資料庫
2.MongoDB Mo goDB 是由 ＋＋語言編寫的非關系型資料庫， 是一個基於分布式文件存儲的開源資料庫系統內容存儲形式類似 JSON 對象，它的欄位值可以包含其他文檔、數組及文檔數組，非常靈活
3.Redis 是一個基於 存的高效的非關系型資料庫，
存儲庫：
1.PyMySOL
2.PyMongo
3.redis-py
4.RedisDump
web庫：
1.Flask 是一個輕量級的Web服務程序，它簡單，易用，靈活
2.Tornado 是一個支持非同步的Web框架，通過使用非阻塞I/O流，可以支持成千上萬的開放式連接。
E. python爬蟲可以爬哪些網站
理論上可以爬任何網站。
但是爬取內容時一定要慎重，有些底線不能觸碰，否則很有可能真的爬進去！
F. Python什麼爬蟲庫好用
aiohttp：是純粹的非同步框架，同時支持HTTP客戶端和服務端，可以快速實現非同步爬蟲，並且其中的aiohttp解決了requests的一個痛點，它可以輕松實現自動轉碼，對於中文編碼就很方便了。
asks：Python自帶一個非同步的標准庫asyncio，但這個庫很多人覺得並不好用，而裡面的ask則是封裝了curio和trio的一個http請求庫。用起來和
Requests 90%相似，新手也可以很快上手。
vibora：號稱是現在最快的非同步請求框架，跑分是最快的。寫爬蟲、寫伺服器響應都可以用。但這個項目一直在重構，現在頁面上還掛著項目正在重構的警告，使用需謹慎。
Pyppeteer：是非同步無頭瀏覽器，從跑分來看比Selenium+webdriver快，使用方式是最接近於瀏覽器的自身的設計介面的。它本身是來自
Google維護的puppeteer，但是按照Python社區的梗，作者進行了封裝並且把名字中的u改成了y。
下面為大家介紹一下框架：
Grab：是很流行的漸進式框架，Grab可以說是爬蟲界的漸進式框架，又十分簡單的用法，封裝的也很好，是基於生成器非同步的設計。
botflow：概念很新穎，定位成了處理數據工作流的框架，可以用來爬蟲、機器學習、量化交易等等。
ruia：比較接近Scrapy的使用方式，非同步設計。
G. 幾個非常適合新手練習python爬蟲的網頁，總有
如果不想去內容讓早雀裡面抓圖片的話，可以只抓縮略圖，就睜則是這個頁面顯示的圖片，它在json數據中的image_list中，注意，坦早將url中的list換成origin，就是大圖哦！
H. python爬蟲技術有哪些做的比較好的
知道一個python爬蟲技術，瑞雪採集雲，還是有一些特點的：
瑞雪採集雲是一個PaaS在線開發平台，與圖形配置化爬蟲客戶端工具相比，瑞雪採集雲提供的是通用採集能力，能夠滿足企業客戶數據採集業務的長期需求。
主要特點如下：
（一） 一站式通用能力集成，指數級提高開發效率。平台封裝了豐富的通用功能，開發者不需要關心 Ajax和Cookie等底層細節，只需要利用平台封裝好API，把主要精力放在業務上，工作效率提供10倍。
（二） 開發自由度高，支持復雜網站的採集。支持Java/Python編寫應用插件，藉助高級語言的高自由度能夠處理復雜網站的採集。平台提供業內首個基於Web瀏覽器的在線開發環境，無需安裝任何客戶端，提高應用源代碼在客戶內部的共享。
（三） 分布式任務調度機制，並發採集效率高。把採集工作分解為多個採集工序，一個大任務被拆解為在不同工序上執行的凱塌盯大量小任務，然後被分盯和配到海量爬蟲機集群上被分布式並發執行，確保系統達到最高的採集效率。
（四） 強大的任務管理機制，確保數據完整性。平台擁有強大的任務狀態機制，支持任務重發、支持利用結束碼管理任務的不同結束狀態，根據具體情況選擇不同的後續處理，保證不衫高遺漏目標數據，確保最終目標數據的完整性。
（五） 學習時間短，能夠支撐業務的快速發展。平台提供豐富的在線幫助文檔，開發者能夠在1小時內快速掌握平台的基本使用，當有新的數據採集需求時，新的開發者能夠立即學習開發採集爬蟲程序，快速對應相關業務的發展。
（六） 支持私有化部署，保證數據安全。支持平台所有模塊的私有化部署，讓客戶擁有瑞雪採集雲平台的全部能力，保證客戶開發的應用插件代碼和目標數據的絕對安全。
I. Python什麼爬蟲庫好用
Python下的爬蟲庫，一般分為3類。
抓取類
urllib(Python3)，這是Python自帶的庫，可以模擬瀏覽器的請求，獲得Response用來解析，其中提供了豐富的請求手段，支持Cookies、Headers等各類參數，眾多爬蟲庫基本上都是基於它構建的。建議學習了解一下，因為有些罕見的問題需要通過底層的方式解決。
requests，基於urllib，但是更方便易用。強烈推薦掌握。
解析類
re：正則表達式官方庫，不僅僅是學習爬蟲要使用，在其他字元串處理或者自然語言處理的過程中，這是繞不過去的一個庫，強烈推薦掌宴喚模握。
BeautifulSoup：方便易用，好上手，推薦掌握。通過選擇器的方式選取頁面元素，並獲取對應的內容。
lxml：使用
lxml.etree
將字元串轉換之後，我們可以使用XPath表達式來解析網頁，終極推薦。XPath對於網頁解析的支持非常強大，而且很容易上手。它本來是設計出來進行XML元素選擇的，但是它同樣支持HTML。pyquery：另一個強大的解析庫，感興趣的可以學習下。
綜合類
selenium：所見即所得式爬蟲，綜合了抓取和解析兩種功能，一站式解決。很多動態網頁不太容易通過requests、scrapy直接抓取，比如有些url後邊帶了加密的隨晌緩機數，這些演算法不太好破解，這種情況下，只能通過直接訪問網址、模擬登陸等方式請求到頁面源碼，直接從網頁元素中解析內容，這種情況下，Selenium就是最好的選擇。不過Selenium最初設計出來，是用於測試的。強烈推薦。
scrapy：另一個爬蟲神器，適合爬取大量頁面，甚至對分布式爬蟲提供了良好的支持。強烈鏈悶推薦。
以上這些是我個人經常使用的庫，但是還有很多其他的工具值得學習。比如Splash也支持動態網頁的抓取；Appium可以幫助我們抓取App的內容；Charles可以幫助我們抓包，不管是移動端還是PC網頁端，都有良好的支持；pyspider也是一個綜合性的框架；MySQL(pymysql)、MongoDB(pymongo)，抓到了數據就要存儲，資料庫也是繞不過去的。
掌握了以上這些，基本上大部分的爬蟲任務都難不倒你啦！
J. Python的爬蟲框架哪個最好用
1、Scrapy：是一個為了抓取網站數據，提取數據結構性數據而編寫的應用框架，可以應用在包括數據挖掘，信息處理或存儲歷史數據等一系列的程序中，用這個框架可以輕松爬下來各種信息數據。
2、Pyspider：是一個用Python實現的功能強大的網路爬蟲系統，能在瀏覽器界面上進行腳本的編寫，功能的調度和爬取結果的實時查看，後端使用常用的資料庫進行抓取結構的存儲，還能定時設置任務與任務優先順序等。
3、Crawley：可以高速抓取對應網站內容，支持關系和非關系資料庫，數據可以導出為json、xml等。
4、Portia：是一個開源可視化爬蟲工具，可以讓您在不需要任何編程知識的情況下抓取網站，簡單地註解您感興趣的頁面，創建一個蜘蛛來從類似的頁面抓取數據。
5、Newspaper：可以用來提取新聞、文章和內容分析，使用多線程，支持10多種編程語言。
6、Beautiful Soup：是一個可以從HTML或者xml文件中提取數據的Python庫，它能通過你喜歡的轉換器實現慣用的文檔導航，查找，修改文檔的方式;同時幫你節省數小時甚至數天的工作時間。
7、Grab：是一個用於創建web刮板的Python框架，藉助Grab，您可以創建各種復雜的網頁抓取工具，從簡單的五行腳本到處理數萬個網頁的復雜非同步網站抓取工具。Grab提供一個api用於執行網路請求和處理接收到的內容。
8、Cola：是一個分布式的爬蟲框架，對於用戶來說，只需要編寫幾個特定的函數，而無需關注分布式運行的細節，任務會自動分配到多台機器上，整個過程對用戶是透明的。