无为清净楼资源网 Design By www.qnjia.com
实现爬虫记录本文从创建crawler 数据库,robot.php记录来访的爬虫从而将信息插入数据库crawler,然后从数据库中就可以获得所有的爬虫信息。实现代码具体如下:
数据库设计
create table crawler ( crawler_ID bigint() unsigned not null auto_increment primary key, crawler_category varchar() not null, crawler_date datetime not null default '-- ::', crawler_url varchar() not null, crawler_IP varchar() not null )default charset=utf;
以下文件 robot.php 记录来访的爬虫,并将信息写入数据库:
<"SERVER_NAME"] ; $ServerPort = $_SERVER["SERVER_PORT"] ; $ScriptName = $_SERVER["SCRIPT_NAME"] ; $QueryString = $_SERVER["QUERY_STRING"]; $serverip = $_SERVER["REMOTE_ADDR"] ; $Url="http://".$ServerName; if ($ServerPort != "") { $Url = $Url.":".$ServerPort ; } $Url=$Url.$ScriptName; if ($QueryString !="") { $Url=$Url."".$QueryString; } $GetLocationURL=$Url ; $agent = $_SERVER["HTTP_USER_AGENT"]; $agent=strtolower($agent); $Bot =""; if (strpos($agent,"bot")>-) { $Bot = "Other Crawler"; } if (strpos($agent,"googlebot")>-) { $Bot = "Google"; } if (strpos($agent,"mediapartners-google")>-) { $Bot = "Google Adsense"; } if (strpos($agent,"baiduspider")>-) { $Bot = "Baidu"; } if (strpos($agent,"sogou spider")>-) { $Bot = "Sogou"; } if (strpos($agent,"yahoo")>-) { $Bot = "Yahoo!"; } if (strpos($agent,"msn")>-) { $Bot = "MSN"; } if (strpos($agent,"ia_archiver")>-) { $Bot = "Alexa"; } if (strpos($agent,"iaarchiver")>-) { $Bot = "Alexa"; } if (strpos($agent,"sohu")>-) { $Bot = "Sohu"; } if (strpos($agent,"sqworm")>-) { $Bot = "AOL"; } if (strpos($agent,"yodaoBot")>-) { $Bot = "Yodao"; } if (strpos($agent,"iaskspider")>-) { $Bot = "Iask"; } require("./dbinfo.php"); date_default_timezone_set('PRC'); $shijian=date("Y-m-d h:i:s", time()); // 连接到 MySQL 服务器 $connection = mysql_connect ($host, $username, $password); if (!$connection) { die('Not connected : ' . mysql_error()); } // 设置活动的 MySQL 数据库 $db_selected = mysql_select_db($database, $connection); if (!$db_selected) { die ('Can\'t use db : ' . mysql_error()); } // 向数据库插入数据 $query = "insert into crawler (crawler_category, crawler_date, crawler_url, crawler_IP) values ('$Bot','$shijian','$GetLocationURL','$serverip')"; $result = mysql_query($query); if (!$result) { die('Invalid query: ' . mysql_error()); } "htmlcode">view sourceprint"select * from crawler")); $pages = new PageClass($count,,$_GET['page'],$_SERVER['PHP_SELF'].'"select * from crawler order by "; $sql .= "crawler_date desc limit ".$pages -> page_limit.",".$pages -> myde_size; $result = $mysql -> query($sql); ""> <thead> <tr> <td bgcolor="#CCFFFF"></td> <td bgcolor="#CCFFFF" align="center" style="color:#">爬虫访问时间</td> <td bgcolor="#CCFFFF" align="center" style="color:#">爬虫分类</td> <td bgcolor="#CCFFFF" align="center" style="color:#">爬虫IP</td> <td bgcolor="#CCFFFF" align="center" style="color:#">爬虫访问的URL</td> </tr> </thead> <""><img src="/UploadFiles/2021-04-02/topicnew.gif">以上代码就是PHP代码实现爬虫记录——超管用的全部内容,希望对大家有所帮助。
无为清净楼资源网 Design By www.qnjia.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
无为清净楼资源网 Design By www.qnjia.com
暂无评论...
稳了!魔兽国服回归的3条重磅消息!官宣时间再确认!
昨天有一位朋友在大神群里分享,自己亚服账号被封号之后居然弹出了国服的封号信息对话框。
这里面让他访问的是一个国服的战网网址,com.cn和后面的zh都非常明白地表明这就是国服战网。
而他在复制这个网址并且进行登录之后,确实是网易的网址,也就是我们熟悉的停服之后国服发布的暴雪游戏产品运营到期开放退款的说明。这是一件比较奇怪的事情,因为以前都没有出现这样的情况,现在突然提示跳转到国服战网的网址,是不是说明了简体中文客户端已经开始进行更新了呢?
更新日志
2024年09月24日
2024年09月24日
- 国风大师纯音系列《古筝仙子 常静演奏 十指弹一》1CD[FLAC][919MB]
- DasKapital-OneMustHaveChaosInsidetoGiveBirthtoaDancingStar(2024)[24-44.1]WAV
- 王菲.1999-《只爱陌生人》日本东芝版[低速原抓WAV+CUE]
- 张小英1987-金奖金曲第一集[新加坡版][WAV+CUE]
- 鹿晗.2015-重启【海蝶】【FLAC分轨】
- 张芸京.2012-小女孩【金牌大风】【WAV+CUE】
- 余天.2002-雄狮魅力金曲2CD(南方金点系列)【南方】【WAV+CUE】
- 银霞.1982-《结·SAYYESMYBOY》台湾复刻版[WAV+CUE]
- 梁汉文1993-火热动感[引进版][WAV+CUE]
- 梁汉文2008-EDMONDHITS48[香港]3CD[WAV+CUE]
- 国风大师纯音系列《童丽-[渭城曲]》1CD[WAV分轨][593.5MB]
- 国风大师纯音系列《许菱子《烧筝2》古筝曲集》1CD[WAV分轨][1.3GB]
- 王子异《1996 Part.2》[320K/MP3][18.29MB]
- 群星.1994-宝丽金最倾情3CD【宝丽金】【WAV+CUE】
- 乐俊亨.2024-同泪【CharioticMusic】【FLAC分轨】