php实现递归抓取网页类实例

所属分类: 网络编程 / PHP编程 阅读数: 309
收藏 0 赞 0 分享

本文实例讲述了php实现递归抓取网页类的方法。分享给大家供大家参考。具体如下:

<?php
class crawler{
 private $_depth=5;
 private $_urls=array();
 function extract_links($url)
 {
  if(!$this->_started){
   $this->_started=1;
   $curr_depth=0;
  }else{
   $curr_depth++;
  }
  if($curr_depth<$this->_depth)
  {
   $data=file_get_contents($url);
   if(preg_match_all('/((?:http|https)://(?:www.)*(?:[a-zA-Z0-9_-]{1,15}.+[a-zA-Z0-9_]{1,}){1,}(?:[a-zA-Z0-9_/.-?&:%,!;]*))/',$data,$urls12))
   {
    foreach($urls12[0] as $k=>$v){
     $check=get_headers($v,1);
     if(strstr($v,$url) && $check[0]=='HTTP/1.1 200 OK' && !array_search($v,$this->_urls) && $curr_depth<$this->_depth){
      $this->_urls[]=$v;
      $this->extract_links($v);
     }
    }
   }
  }
  return $this->_urls;
 }
}
?>

希望本文所述对大家的php程序设计有所帮助。

更多精彩内容其他人还在看

Laravel框架实现多个视图共享相同数据的方法详解

这篇文章主要介绍了Laravel框架实现多个视图共享相同数据的方法,涉及Laravel框架视图与控制器数据调用相关操作技巧,需要的朋友可以参考下
收藏 0 赞 0 分享

Laravel+Intervention实现上传图片功能示例

这篇文章主要介绍了Laravel+Intervention实现上传图片功能,结合实例形式分析了Intervention的安装及图片上传功能的相关设置、使用与注意事项,需要的朋友可以参考下
收藏 0 赞 0 分享

使用composer命令加载vendor中的第三方类库 的方法

这篇文章主要介绍了使用composer命令加载vendor中的第三方类库的方法,本文图文并茂给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
收藏 0 赞 0 分享

PHP+Redis开发的书签案例实战详解

这篇文章主要介绍了PHP+Redis开发的书签案例,结合实例形式详细分析了php结合redis开发书签功能的具体步骤及相关操作技巧,需要的朋友可以参考下
收藏 0 赞 0 分享

PHP结合Redis+MySQL实现冷热数据交换应用案例详解

这篇文章主要介绍了PHP结合Redis+MySQL实现冷热数据交换应用案例,结合具体实例形式详细分析了Redis+MySQL冷热数据交换原理、实现方法及相关操作技巧,需要的朋友可以参考下
收藏 0 赞 0 分享

PHP批斗大会之缺失的异常详解

这篇文章主要给大家介绍了关于PHP批斗大会之缺失的异常的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用PHP具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
收藏 0 赞 0 分享

实例分析10个PHP常见安全问题

在本篇文章里小编给各位分享了关于10个PHP常见安全问题以及相关实例代码,需要的朋友们学习参考下。
收藏 0 赞 0 分享

PHP+redis实现微博的推模型案例分析

这篇文章主要介绍了PHP+redis实现微博的推模型案例,结合实例形式分析了php+redis实现微博推送与关注功能相关操作技巧,需要的朋友可以参考下
收藏 0 赞 0 分享

php解压缩zip和rar压缩包文件的方法

项目涉及文档处理,用户上传的包括 zip 和 rar 压缩包,需要先将压缩包解压后再作处理。这篇文章主要介绍了php解压缩zip和rar压缩包文件,需要的朋友可以参考下
收藏 0 赞 0 分享

PHP+redis实现微博的拉模型案例详解

这篇文章主要介绍了PHP+redis实现微博的拉模型案例,结合具体实例形式详细分析了php+redis获取关注人最新信息的相关原理与操作技巧,需要的朋友可以参考下
收藏 0 赞 0 分享
查看更多