微客导航 » 文章资讯 » PHP 爬取网页的主要方法

PHP 爬取网页的主要方法

2023-09-10 08:08:05 176

主要流程就是获取整个网页，然后正则匹配（关键的）。

PHP抓取页面的主要方法,有几种方法是网上前辈的经验，现在还没有用到的，先存下来以后试试。

1.file()函数

2.file_get_contents()函数

3.fopen()->fread()->fclose()模式

4.curl方式（本人主要用这个）

5.fsockopen()函数socket模式

6.插件(如：http://sourceforge.net/projects/snoopy/)

7.file()函数


2.使用file_get_contents方法实现，比较简单。
使用file_get_contents和fopen必须空间开启allow_url_fopen。方法：编辑php.ini，设置allow_url_fopen=On，allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
$url="[http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml](http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml)";
$html=file_get_contents($url);
//如果出现中文乱码使用下面代码`
//$getcontent=iconv("gb2312","utf-8",$html);
echo"".$html."";
3.fopen()->fread()->fclose()模式，目前还没用过，看到了就先记下了

4.使用curl实现（本人一般使用这个）。
使用curl必须空间开启curl。方法：windows下修改php.ini，将extension=php_curl.dll前面的分号去掉，而且需要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下；Linux下要安装curl扩展。
(.*?)<\/script>/',$res,$arr_all);//这个网页中数据通过js包过来，所以直接抓js就可以
preg_match_all('/"id"\:"(.*?)",/',$arr_all[1][1],$arr1);//从js块中匹配要的数据
$list=array_unique($arr1[1]);//（可省）保证不重复
//以下则是同理，循环则可
for($i=0;$i<=6;$i=$i+2){
$detail_url='ht*****em/'.$list[$i];
$detail_res=curl_get_contents($detail_url);
preg_match_all('/

返回顶部
3162201930
czq8825@qq.com

PHP 爬取网页的主要方法

随机推荐