农大图书馆-新闻公告反爬虫

来源:互联网 时间:2017-06-01

1、地址:http://lib.henau.edu.cn/Default/go?sortID=109

反爬虫的机制,通过cookie值。第1次请求该地址,会检查cookie,如果没有相应的cookie会先通过js设置cookie值。再重新请求该页面。

这是第1次请求该页面返回的文档,我们可以看到js设置cookie的代码,

document|href|location|cookie|ant_stream_58b3fe214a7d4|path|3252469838|1496243372
<html><head> <meta http-equiv="Content-Type" content="text/html;charset=utf-8"> <title>lib.henau.edu.cn</title></head><body onload="t3_ar_guard();"> <script> function t3_ar_guard() { eval(function(p, a, c, k, e, d) { e = function(c) { return c }; if (!''.replace(/^/, String)) { while (c--) { d[c] = k[c] || c } k = [function(e) { return d[e] }]; e = function() { return '//w+' }; c = 1 }; while (c--) { if (k[c]) { p = p.replace(new RegExp('//b' + e(c) + '//b', 'g'), k[c]) } } return p }('0.3="4=7/6;5=/";0.2.1=0.2.1;', 8, 8, 'document|href|location|cookie|ant_stream_58b3fe214a7d4|path|3252469838|1496243372'.split('|'), 0, {})) } </script> <a href="/stream_58b3fe214a7d4_59295e01c335c?id=2"></a><a href="/stream_58b3fe214a7d4/admin/">admin</a><a href="/stream_58b3fe214a7d4/wp-admin/">wp-admin</a><a href="/stream_58b3fe214a7d4/backend/">backend</a></body></html>

2、再次请求页面

发送cookie值:ant_stream_58b3fe214a7d4=1496243372/3252469838

3、对应的python部分代码

 headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/59.0.3071.25 Safari/537.36'} opener = urllib2.build_opener() # 请求第一次 获取cookie中的script request = urllib2.Request(url, headers=headers) html = opener.open(request) soup = bs4.BeautifulSoup(html, 'html.parser') scriptCookie = str(soup.find('script')) start = scriptCookie.index('cookie') end = scriptCookie.index("'.split(") strs = scriptCookie[start:end].split('|') opener.addheaders.append( ('Cookie', '%s=%s/%s' % (strs[1], strs[4], strs[3]))) html = opener.open(request)

相关阅读:
Top