php 向访客和爬虫显示不同的内容
需积分: 2 165 浏览量
2020-12-18
05:22:15
上传
评论 1
收藏 51KB PDF 举报
php 向访客和爬虫显示不同的内容向访客和爬虫显示不同的内容
听说本方法会触犯搜索引擎的一些操作原则, 有可能被被各搜索引擎处罚, 甚至删除网站. 所以我刚刚已经撤下这样的处理, 直到
确定其不属于作弊. 有魄力的朋友可以继续使用, 但后果自负.
本博客的首页和存档页面以列表的形式显示文章, 在访客点击展开文章时才加载文章的内容. 因为文章的内容部分包含了大量的
文字和图片, 需要大量的加载时间和流量. 尽快地向访客展示网页可以挽留大量的来访者. 而对于手机用户来说, 加载时间和流量
则更为重要.
一般来说, 网站的首页是搜索引擎访问最多的页面, 应该尽可能的向它们展示有意义的内容, 但是要以列表的形式显示文章的话,
访客和搜索引擎只能获取到文章标题信息. 文章内容或者摘要 (尤其是文章的第一句) 对于 SEO 来说是极其重要的, 所以我们要
设法向爬虫发送这些内容.
好, 我们可以通过 User Agent 来判断访问者是否为爬虫, 如果是, 则以一般形式显示文章, 否则以列表形式显示文章列表. 可以用
以下的 PHP 方法判断是否为爬虫:
复制代码 代码如下:
function is_crawler() {
$userAgent = strtolower($_SERVER[‘HTTP_USER_AGENT’]);
$spiders = array(
‘Googlebot’, // Google 爬虫
‘Baiduspider’, // 百度爬虫
‘Yahoo! Slurp’, // 雅虎爬虫
‘YodaoBot’, // 有道爬虫
‘msnbot’ // Bing爬虫
// 更多爬虫关键字
);
foreach ($spiders as $spider) {
$spider = strtolower($spider);
if (strpos($userAgent, $spider) !== false) {
return true;
}
}
return false;
}
这是我使用的方法, 各爬虫以访问评论由高到低进行排序. 然后通过下面的的方法向爬虫和自然人显示不同的内容
您可能感兴趣的文章您可能感兴趣的文章:PHPCrawl爬虫库实现抓取酷狗歌单的方法示例php与python实现的线程池多线程爬虫功能示例利用php
抓取蜘蛛爬虫痕迹的示例代码PHP+HTML+JavaScript+Css实现简单爬虫开发php实现简单爬虫的开发PHP代码实现爬虫记录
——超管用PHP实现简单爬虫的方法一个PHP实现的轻量级简单爬虫php IIS日志分析搜索引擎爬虫记录程序PHP一个简单的
无需刷新爬虫
评论0