php的curl怎么爬取網頁內容

創建一個新cURL資源

10年積累的成都做網站、網站設計、外貿營銷網站建設經驗，可以快速應對客戶對網站的新想法和需求。提供各種問題對應的解決方案。讓選擇我們的客戶得到更好、更有力的網絡服務。我雖然不認識你，你也不認識我。但先網站設計后付款的網站建設流程，更有朗縣免費網站建設讓你可以放心的選擇與我們合作。

設置URL和相應的選項

抓取URL并把它傳遞給瀏覽器

關閉cURL資源，并且釋放系統資源

代碼案例：

如何用php 編寫網絡爬蟲?

pcntl_fork或者swoole_process實現多進程并發。按照每個網頁抓取耗時500ms，開200個進程，可以實現每秒400個頁面的抓取。

curl實現頁面抓取，設置cookie可以實現模擬登錄

simple_html_dom 實現頁面的解析和DOM處理

如果想要模擬瀏覽器，可以使用casperJS。用swoole擴展封裝一個服務接口給PHP層調用

在這里有一套爬蟲系統就是基于上述技術方案實現的，每天會抓取幾千萬個頁面。

php中curl爬蟲 怎么樣通過網頁獲取所有鏈接

本文承接上面兩篇，本篇中的示例要調用到前兩篇中的函數，做一個簡單的URL采集。一般php采集網絡數據會用file_get_contents、file和cURL。不過據說cURL會比file_get_contents、file更快更專業，更適合采集。今天就試試用cURL來獲取網頁上的所有鏈接。示例如下：

?php

/*

* 使用curl 采集hao123.com下的所有鏈接。

*/

include_once('function.php');

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, '');

// 只需返回HTTP header

curl_setopt($ch, CURLOPT_HEADER, 1);

// 頁面內容我們并不需要

// curl_setopt($ch, CURLOPT_NOBODY, 1);

// 返回結果，而不是輸出它

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

$html = curl_exec($ch);

$info = curl_getinfo($ch);

if ($html === false) {

echo "cURL Error: " . curl_error($ch);

}

curl_close($ch);

$linkarr = _striplinks($html);

// 主機部分，補全用

$host = '';

if (is_array($linkarr)) {

foreach ($linkarr as $k = $v) {

$linkresult[$k] = _expandlinks($v, $host);

}

}

printf("p此頁面的所有鏈接為：/ppre%s/pren", var_export($linkresult , true));

?

function.php內容如下（即為上兩篇中兩個函數的合集）：

?php

function _striplinks($document) {

preg_match_all("'s*as.*?hrefs*=s*(["'])?(?(1) (.*?)\1 | ([^s]+))'isx", $document, $links);

// catenate the non-empty matches from the conditional subpattern

while (list($key, $val) = each($links[2])) {

if (!empty($val))

$match[] = $val;

} while (list($key, $val) = each($links[3])) {

if (!empty($val))

$match[] = $val;

}

// return the links

return $match;

}

/*===================================================================*

Function: _expandlinks

Purpose: expand each link into a fully qualified URL

Input: $links the links to qualify

$URI the full URI to get the base from

Output: $expandedLinks the expanded links

*===================================================================*/

function _expandlinks($links,$URI)

{

$URI_PARTS = parse_url($URI);

$host = $URI_PARTS["host"];

preg_match("/^[^?]+/",$URI,$match);

$match = preg_replace("|/[^/.]+.[^/.]+$|","",$match[0]);

$match = preg_replace("|/$|","",$match);

$match_part = parse_url($match);

$match_root =

$match_part["scheme"]."://".$match_part["host"];

$search = array( "|^http://".preg_quote($host)."|i",

"|^(/)|i",

"|^(?!http://)(?!mailto:)|i",

"|/./|",

"|/[^/]+/../|"

);

$replace = array( "",

$match_root."/",

$match."/",

"/",

"/"

);

$expandedLinks = preg_replace($search,$replace,$links);

return $expandedLinks;

}

?

如何入門 php 爬蟲

從爬蟲基本要求來看：

抓取：抓取最基本就是拉網頁回來，所以第一步就是拉網頁回來，慢慢會發現各種問題待優化；

存儲：抓回來一般會用一定策略存下來，可以選擇存文件系統開始，然后以一定規則命名。

分析：對網頁進行文本分析，可以用認為最快最優的辦法，比如正則表達式；

展示：要是做了一堆事情，一點展示輸出都沒有，如何展現價值。

求一個簡易的php爬蟲提取網頁的title

header("Content-Type: text/html; charset=gbk");

$url = "";

$fcontents = file_get_contents($url);

if (ereg("title(.*)/title", $fcontents, $regs)){echo "ok";}else{echo "error";}

echo "br";

print_r($regs);

如何用PHP做網絡爬蟲

其實用PHP來爬會非常方便，主要是PHP的正則表達式功能在搜集頁面連接方面很方便，另外PHP的fopen、file_get_contents以及libcur的函數非常方便的下載網頁內容。

具體處理方式就是建立就一個任務隊列，往隊列里面插入一些種子任務和可以開始爬行，爬行的過程就是循環的從隊列里面提取一個URL，打開后獲取連接插入隊列中，進行相關的保存。隊列可以使用數組實現。

當然PHP作為但線程的東西，慢慢爬還是可以，怕的就是有的URL打不開，會死在那里。

網站欄目：php爬蟲獲取網頁數據庫,python爬蟲獲取網頁數據
標題來源：http://www.2m8n56k.cn/article26/dsihccg.html

成都網站建設公司_創新互聯，為您提供定制網站、響應式網站、軟件開發、微信公眾號、網站設計、建站公司

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：[email protected]。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯