① 如何學習Python爬蟲
現在之所以有這么多的小夥伴熱衷於爬蟲技術，無外乎是因為爬蟲可以幫我們做很多事情，比如搜索引擎、採集數據、廣告過濾等，以Python為例，Python爬蟲可以用於數據分析，在數據抓取方面發揮巨大的作用。
但是這並不意味著單純掌握一門Python語言，就對爬蟲技術觸類旁通，要學習的知識和規范還有喜很多，包括但不僅限於HTML 知識、HTTP/HTTPS 協議的基本知識、正則表達式、資料庫知識，常用抓包工具的使用、爬蟲框架的使用等。而且涉及到大規模爬蟲，還需要了解分布式的概念、消息隊列、常用的數據結構和演算法、緩存，甚至還包括機器學習的應用，大規模的系統背後都是靠很多技術來支撐的。
零基礎如何學爬蟲技術？對於迷茫的初學者來說，爬蟲技術起步學習階段，最重要的就是明確學習路徑，找准學習方法，唯有如此，在良好的學習習慣督促下，後期的系統學習才會事半功倍，游刃有餘。
用Python寫爬蟲，首先需要會Python，把基礎語法搞懂，知道怎麼使用函數、類和常用的數據結構如list、dict中的常用方法就算基本入門。作為入門爬蟲來說，需要了解 HTTP協議的基本原理，雖然 HTTP 規范用一本書都寫不完，但深入的內容可以放以後慢慢去看，理論與實踐相結合後期學習才會越來越輕松。關於爬蟲學習的具體步驟，我大概羅列了以下幾大部分，大家可以參考：
網路爬蟲基礎知識:
爬蟲的定義
爬蟲的作用
Http協議
基本抓包工具(Fiddler)使用
Python模塊實現爬蟲：
urllib3、requests、lxml、bs4 模塊大體作用講解
使用requests模塊 get 方式獲取靜態頁面數據
使用requests模塊 post 方式獲取靜態頁面數據
使用requests模塊獲取 ajax 動態頁面數據
使用requests模塊模擬登錄網站
使用Tesseract進行驗證碼識別
Scrapy框架與Scrapy-Redis：
Scrapy 爬蟲框架大體說明
Scrapy spider 類
Scrapy item 及 pipeline
Scrapy CrawlSpider 類
通過Scrapy-Redis 實現分布式爬蟲
藉助自動化測試工具和瀏覽器爬取數據：
Selenium + PhantomJS 說明及簡單實例
Selenium + PhantomJS 實現網站登錄
Selenium + PhantomJS 實現動態頁面數據爬取
爬蟲項目實戰：
分布式爬蟲+ Elasticsearch 打造搜索引擎
② python如何讀取網頁中的數據
用Beautiful Soup這類解析模塊：
Beautiful Soup 是用Python寫的一個HTML/XML的解析器，它可以很好的處理不規范標記並生成剖析樹(parse tree)；
它提供簡單又常用的導航(navigating)，搜索以及修改剖析樹的操作；
用urllib或者urllib2(推薦)將頁面的html代碼下載後，用beautifulsoup解析該html；
然後用beautifulsoup的查找模塊或者正則匹配將你想獲得的內容找出來，就可以進行相關處理了，例如：
html='<html><head><title>test</title></head><body><p>testbody</p></body></html>'
soup=BeautifulSoup(html)
soup.contents[0].name
#u'html'
soup.comtents[0].contents[0].name
#u'head'
head=soup.comtents[0].contents[0]
head.parent.name
#u'html'
head.next
#u'<title>test</title>
③ 用python抓取，為什麼有的網頁無法抓取
你的代碼理論上是適用於所有靜態網頁的
如果網頁是動態載入內容的，這種方法是不行的
最好舉個例子，哪些網站無法抓取
④ 如何入門 Python 爬蟲
個人覺得：
新手學習python爬取網頁先用下面4個庫就夠了：（第4個是實在搞不定用的，當然某些特殊情況它也可能搞不定）
1. 打開網頁，下載文件：urllib
2. 解析網頁：BeautifulSoup，熟悉JQuery的可以用Pyquery
3. 使用Requests來提交各種類型的請求，支持重定向，cookies等。
4. 使用Selenium，模擬瀏覽器提交類似用戶的操作，處理js動態產生的網頁
這幾個庫有它們各自的功能。配合起來就可以完成爬取各種網頁並分析的功能。具體的用法可以查他們的官網手冊(上面有鏈接)。
做事情是要有驅動的，如果你沒什麼特別想抓取的，新手學習可以從這個闖關網站開始
，目前更新到第五關，闖過前四關，你應該就掌握了這些庫的基本操作。
實在闖不過去，再到這里看題解吧，第四關會用到並行編程。（串列編程完成第四關會很費時間哦），第四，五關只出了題，還沒發布題解。。。
學完這些基礎，再去學習scrapy這個強大的爬蟲框架會更順些。這里有它的中文介紹。
這是我在知乎的回答，直接轉過來有些鏈接沒有生效，可以到這里看原版，http://www.hu.com/question/20899988/answer/59131676
⑤ python 屏幕抓取問題
為何此處不能發布普通內容了？？
如何用Python，C#等語言去實現抓取靜態網頁 模擬登陸網站
你對照著教程看完。
就知道大概如何實現了：
1.搞懂邏輯。
2.用IE9的F12去抓取如何模擬搜索
3.然後用代碼實現後，用python代碼實現即可。
(此處不給貼地址，請自己用google搜帖子標題，即可找到對應的地址的)
⑥ 如何用Python爬蟲抓取網頁內容
爬蟲流程
其實把網路爬蟲抽象開來看，它無外乎包含如下幾個步驟
模擬請求網頁。模擬瀏覽器，打開目標網站。
獲取數據。打開網站之後，就可以自動化的獲取我們所需要的網站數據。
保存數據。拿到數據之後，需要持久化到本地文件或者資料庫等存儲設備中。
那麼我們該如何使用 Python 來編寫自己的爬蟲程序呢，在這里我要重點介紹一個 Python 庫：Requests。
Requests 使用
Requests 庫是 Python 中發起 HTTP 請求的庫，使用非常方便簡單。
模擬發送 HTTP 請求
發送 GET 請求
當我們用瀏覽器打開豆瓣首頁時，其實發送的最原始的請求就是 GET 請求
import requests
res = requests.get('http://www.douban.com')
print(res)
print(type(res))
>>>
<Response [200]>
<class 'requests.models.Response'>
⑦ 如何用Python，C#等語言去實現抓取靜態網頁 模擬登陸網站
採集還是挺麻煩的，不是幾句代碼就能搞定，推薦你用專業的採集軟體比如八爪魚採集器這種，登陸點擊，翻頁，翻下拉列表，自動識別驗證碼都可以的。
⑧ python能實現這樣一個程序嗎
1.關於登陸的事情。
可以用python實現。
相關原理和代碼，可參考：
如何用Python，C#等語言去實現抓取靜態網頁 模擬登陸網站
只是其中的驗證碼，需要特殊處理：
如果你有能力，自己去破解驗證碼。
如果和我一樣沒有，那麼就顯示圖片，然後讓用戶輸入。可參考：
【記錄】給BlogsToWordPress中的人人網添加登陸時驗證碼功能的支持
和
【已解決】Python中使用PIL的Image函數出錯：ValueError: not enough image data
（此處不給貼地址，請自己用google搜標題，即可找到地址）
⑨ 爬蟲程序利用python中的正則怎麼實現抓取靜態網頁源碼中的id號和id內容
我只看見了ID號，沒有看見ID內容啊，在哪裡？
提取ID號的話，正則是ID-\d+-\d+
⑩ 如何用最簡單的Python爬蟲採集整個網站
採集網站數據並不難，但是需要爬蟲有足夠的深度。我們創建一個爬蟲，遞歸地遍歷每個網站，只收集那些網站頁面上的數據。一般的比較費時間的網站採集方法從頂級頁面開始（一般是網站主頁），然後搜索頁面上的所有鏈接，形成列表，再去採集到的這些鏈接頁面，繼續採集每個頁面的鏈接形成新的列表，重復執行。