1.根据关键字采集百度搜寻结果

根据关键字采集百度搜寻结果,可以使用curl实现,代码如下:
<?php
function doCurl($url, $data=array(), $header=array(), $timeout=30){
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_HTTPHEADER, $header);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
$response = curl_exec($ch);
if($error=curl_error($ch)){
die($error);
}
curl_close($ch);
return $response;
}
$wd = '仙剑奇侠传';
$url = 'http://www.baidu.com/s?wd='.urlencode($wd);
$data = array();
$header = array();
$response = doCurl($url, $data, $header, 5);
echo $response;
?>
输出后发现有部分图片不能显示
2.采集后的图片不显示原因分析
直接在百度中搜寻,页面是可以显示图片的。使用firebug查看图片路径,发现采集的图片域名与在百度搜寻的图片域名不同。
采集返回的图片域名 t11.baidu.com
正常搜寻的图片域名 ss1.baidu.com
查看采集与正常搜寻的html,发现有个域名转换的js是不一样的
采集
var list = {
"graph.baidu.com": "http://graph.baidu.com",
"t1.baidu.com":"http://t1.baidu.com",
"t2.baidu.com":"http://t2.baidu.com",
"t3.baidu.com":"http://t3.baidu.com",
"t10.baidu.com":"http://t10.baidu.com",
"t11.baidu.com":"http://t11.baidu.com",
"t12.baidu.com":"http://t12.baidu.com",
"i7.baidu.com":"http://i7.baidu.com",
"i8.baidu.com":"http://i8.baidu.com",
"i9.baidu.com":"http://i9.baidu.com",
};
正常搜寻
var list = {
"graph.baidu.com": "https://sp0.baidu.com/-aYHfD0a2gU2pMbgoY3K",
"t1.baidu.com":"https://ss0.baidu.com/6ON1bjeh1BF3odCf",
"t2.baidu.com":"https://ss1.baidu.com/6OZ1bjeh1BF3odCf",
"t3.baidu.com":"https://ss2.baidu.com/6OV1bjeh1BF3odCf",
"t10.baidu.com":"https://ss0.baidu.com/6ONWsjip0QIZ8tyhnq",
"t11.baidu.com":"https://ss1.baidu.com/6ONXsjip0QIZ8tyhnq",
"t12.baidu.com":"https://ss2.baidu.com/6ONYsjip0QIZ8tyhnq",
"i7.baidu.com":"https://ss0.baidu.com/73F1bjeh1BF3odCf",
"i8.baidu.com":"https://ss0.baidu.com/73x1bjeh1BF3odCf",
"i9.baidu.com":"https://ss0.baidu.com/73t1bjeh1BF3odCf",
};
因此可以断定是,百度根据来源地址、IP、header等参数,判断如果是采集的,则返回不同的js。
3.采集后图片不显示的解决方法
把采集到的html,根据定义的域名做一次批量转换即可。
<?php
function doCurl($url, $data=array(), $header=array(), $timeout=30){
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_HTTPHEADER, $header);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
$response = curl_exec($ch);
if($error=curl_error($ch)){
die($error);
}
curl_close($ch);
return $response;
}
// 域名转换
function cdomain($str){
$baidu_domain = '{
"http://graph.baidu.com": "https://sp0.baidu.com/-aYHfD0a2gU2pMbgoY3K",
"http://p.qiao.baidu.com":"https://sp0.baidu.com/5PoXdTebKgQFm2e88IuM_a",
"http://vse.baidu.com":"https://sp3.baidu.com/6qUDsjip0QIZ8tyhnq",
"http://hdpreload.baidu.com":"https://sp3.baidu.com/7LAWfjuc_wUI8t7jm9iCKT-xh_",
"http://lcr.open.baidu.com":"https://sp2.baidu.com/8LUYsjW91Qh3otqbppnN2DJv",
"http://kankan.baidu.com":"https://sp3.baidu.com/7bM1dzeaKgQFm2e88IuM_a",
"http://xapp.baidu.com":"https://sp2.baidu.com/yLMWfHSm2Q5IlBGlnYG",
"http://dr.dh.baidu.com":"https://sp0.baidu.com/-KZ1aD0a2gU2pMbgoY3K",
"http://xiaodu.baidu.com":"https://sp0.baidu.com/yLsHczq6KgQFm2e88IuM_a",
"http://sensearch.baidu.com":"https://sp1.baidu.com/5b11fzupBgM18t7jm9iCKT-xh_",
"http://s1.bdstatic.com":"https://ss1.bdstatic.com/5eN1bjq8AAUYm2zgoY3K",
"http://olime.baidu.com":"https://sp0.baidu.com/8bg4cTva2gU2pMbgoY3K",
"http://app.baidu.com":"https://sp2.baidu.com/9_QWsjip0QIZ8tyhnq",
"http://i.baidu.com":"https://sp0.baidu.com/74oIbT3kAMgDnd_",
"http://c.baidu.com":"https://sp0.baidu.com/9foIbT3kAMgDnd_",
"http://sclick.baidu.com":"https://sp0.baidu.com/5bU_dTmfKgQFm2e88IuM_a",
"http://nsclick.baidu.com":"https://sp1.baidu.com/8qUJcD3n0sgCo2Kml5_Y_D3",
"http://sestat.baidu.com":"https://sp1.baidu.com/5b1ZeDe5KgQFm2e88IuM_a",
"http://eclick.baidu.com":"https://sp3.baidu.com/-0U_dTmfKgQFm2e88IuM_a",
"http://api.map.baidu.com":"https://sp2.baidu.com/9_Q4sjOpB1gCo2Kml5_Y_D3",
"http://ecma.bdimg.com":"https://ss1.bdstatic.com/-0U0bXSm1A5BphGlnYG",
"http://ecmb.bdimg.com":"https://ss0.bdstatic.com/-0U0bnSm1A5BphGlnYG",
"http://t1.baidu.com":"https://ss0.baidu.com/6ON1bjeh1BF3odCf",
"http://t2.baidu.com":"https://ss1.baidu.com/6OZ1bjeh1BF3odCf",
"http://t3.baidu.com":"https://ss2.baidu.com/6OV1bjeh1BF3odCf",
"http://t10.baidu.com":"https://ss0.baidu.com/6ONWsjip0QIZ8tyhnq",
"http://t11.baidu.com":"https://ss1.baidu.com/6ONXsjip0QIZ8tyhnq",
"http://t12.baidu.com":"https://ss2.baidu.com/6ONYsjip0QIZ8tyhnq",
"http://i7.baidu.com":"https://ss0.baidu.com/73F1bjeh1BF3odCf",
"http://i8.baidu.com":"https://ss0.baidu.com/73x1bjeh1BF3odCf",
"http://i9.baidu.com":"https://ss0.baidu.com/73t1bjeh1BF3odCf",
"http://b1.bdstatic.com":"https://ss0.bdstatic.com/9uN1bjq8AAUYm2zgoY3K",
"http://ss.bdimg.com":"https://ss1.bdstatic.com/5aV1bjqh_Q23odCf",
"http://opendata.baidu.com":"https://sp0.baidu.com/8aQDcjqpAAV3otqbppnN2DJv",
"http://api.open.baidu.com":"https://sp0.baidu.com/9_Q4sjW91Qh3otqbppnN2DJv",
"http://tag.baidu.com":"https://sp1.baidu.com/6LMFsjip0QIZ8tyhnq",
"http://f3.baidu.com":"https://sp2.baidu.com/-uV1bjeh1BF3odCf",
"http://s.share.baidu.com":"https://sp0.baidu.com/5foZdDe71MgCo2Kml5_Y_D3",
"http://bdimg.share.baidu.com":"https://ss1.baidu.com/9rA4cT8aBw9FktbgoI7O1ygwehsv",
"http://1.su.bdimg.com":"https://ss0.bdstatic.com/k4oZeXSm1A5BphGlnYG",
"http://2.su.bdimg.com":"https://ss1.bdstatic.com/kvoZeXSm1A5BphGlnYG",
"http://3.su.bdimg.com":"https://ss2.bdstatic.com/kfoZeXSm1A5BphGlnYG",
"http://4.su.bdimg.com":"https://ss3.bdstatic.com/lPoZeXSm1A5BphGlnYG",
"http://5.su.bdimg.com":"https://ss0.bdstatic.com/l4oZeXSm1A5BphGlnYG",
"http://6.su.bdimg.com":"https://ss1.bdstatic.com/lvoZeXSm1A5BphGlnYG",
"http://7.su.bdimg.com":"https://ss2.bdstatic.com/lfoZeXSm1A5BphGlnYG",
"http://8.su.bdimg.com":"https://ss3.bdstatic.com/iPoZeXSm1A5BphGlnYG"
}';
$domain = json_decode($baidu_domain, true);
foreach($domain as $k=>$v){
$str = str_replace($k, $v, $str);
}
return $str;
}
$wd = '仙剑奇侠传';
$url = 'http://www.baidu.com/s?wd='.urlencode($wd);
$data = array();
$header = array();
$response = doCurl($url, $data, $header, 5);
echo cdomain($response); // 调用域名转换
?>
增加域名转换后,所有的图片都可以正常显示。
以上所述是小编给大家介绍的PHP CURL采集百度搜寻结果图片不显示问题的解决方法,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对网站的支持!
# php
# 采集百度图片不显示问题
# PHP多线程批量采集下载美女图片的实现代码(续)
# PHP批量采集下载图片的实现代码
# php curl简单采集图片生成base64编码(并附curl函数参数说明)
# php采集内容中带有图片地址的远程图片并保存的方法
# PHP远程采集图片详细教程
# PHP采集类Snoopy抓取图片实例
# phpphp图片采集后按原路径保存图片示例
# php采集文章中的图片获取替换到本地(实现代码)
# PHP 文章中的远程图片采集到本地的代码
# PHP下载采集图片到本地的方法详解【可忽略ssl认证】
# 解决方法
# 小编
# 仙剑奇
# 有个
# 侠传
# 在此
# 在百度
# 给大家
# 可以使用
# 所述
# 给我留言
# 感谢大家
# 正常显示
# 疑问请
# 有任何
# 批量转换
# 发现有
# var
# list
# js
相关文章:
免费网站制作模板下载,除了易企秀之外还有什么H5平台可以制作H5长页面,最好是免费的?
购物网站制作公司有哪些,哪个购物网站比较好?
建站之星如何通过成品分离优化网站效率?
建站之星展会模板:智能建站与自助搭建高效解决方案
如何制作公司的网站链接,公司想做一个网站,一般需要花多少钱?
,柠檬视频怎样兑换vip?
制作公司内部网站有哪些,内网如何建网站?
,有什么在线背英语单词效率比较高的网站?
学校为何禁止电信移动建设网站?
如何挑选优质建站一级代理提升网站排名?
如何在宝塔面板创建新站点?
如何快速搭建高效可靠的建站解决方案?
韩国网站服务器搭建指南:VPS选购、域名解析与DNS配置推荐
深圳网站制作的公司有哪些,dido官方网站?
建站主机无法访问?如何排查域名与服务器问题
如何选择PHP开源工具快速搭建网站?
如何生成腾讯云建站专用兑换码?
网站制作培训多少钱一个月,网站优化seo培训课程有哪些?
小建面朝正北,A点实际方位是否存在偏差?
如何优化Golang Web性能_Golang HTTP服务器性能提升方法
头像制作网站在线制作软件,dw网页背景图像怎么设置?
如何通过免费商城建站系统源码自定义网站主题与功能?
无锡制作网站公司有哪些,无锡优八网络科技有限公司介绍?
头像制作网站在线观看,除了站酷,还有哪些比较好的设计网站?
如何用PHP快速搭建CMS系统?
自助网站制作软件,个人如何自助建网站?
建站主机如何选?性能与价格怎样平衡?
已有域名建站全流程解析:网站搭建步骤与建站工具选择
c# Task.Yield 的作用是什么 它和Task.Delay(1)有区别吗
成都网站制作报价公司,成都工业用气开户费用?
建站主机核心功能解析:服务器选择与网站搭建流程指南
5种Android数据存储方式汇总
网页设计与网站制作内容,怎样注册网站?
洛阳网站制作公司有哪些,洛阳的招聘网站都有哪些?
深圳 网站制作,深圳招聘网站哪个比较好一点啊?
高配服务器限时抢购:企业级配置与回收服务一站式优惠方案
网站代码制作软件有哪些,如何生成自己网站的代码?
长沙做网站要多少钱,长沙国安网络怎么样?
Python如何创建带属性的XML节点
详解免费开源的DotNet二维码操作组件ThoughtWorks.QRCode(.NET组件介绍之四)
建站之星ASP如何实现CMS高效搭建与安全管理?
济南企业网站制作公司,济南社保单位网上缴费步骤?
历史网站制作软件,华为如何找回被删除的网站?
微信小程序制作网站有哪些,微信小程序需要做网站吗?
ppt在线制作免费网站推荐,有什么下载免费的ppt模板网站?
宝塔建站无法访问?如何排查配置与端口问题?
开封网站制作公司,网络用语开封是什么意思?
建站上传速度慢?如何优化加速网站加载效率?
实现虚拟支付需哪些建站技术支撑?
SAX解析器是什么,它与DOM在处理大型XML文件时有何不同?
*请认真填写需求信息,我们会在24小时内与您取得联系。