建站
咨询
售后
建站咨询
python如何抓取需要扫微信登陆页面-创新互联
小编给大家分享一下python如何抓取需要扫微信登陆页面，相信大部分人都还不怎么了解，因此分享这篇文章给大家参考一下，希望大家阅读完这篇文章后大有收获，下面让我们一起去了解一下吧！
1.抓取的页面需要登陆，以公司网页为例，登陆网址https://app-ticketsys.hezongyun.com/index.php ,(该网页登陆方式微信扫码登陆）
2.需要抓取的内容如下图所示：
需要提取
工单对应编号，如TK-2960
工单发起时间，如2018-08-17 11:12:13
工单标题内容，如设备故障
工单正文内容，如最红框所示
1.按按Ctrl + Shift + I或者鼠标右键点击检查进入开发人员工具。
可以看到页面显示如下：
主要关注点如上图框住和划线处
首先点击网络，记住以下信息将用于代码修改处。
Resquest URL：https： //app-ticketsys.hezongyun.com/index.php/ticket/ticket_list/init这个是需要爬取页面的信息请求Menthod：GET饼干：用于需要登陆页面User-Agent：Mozilla / 5.0（Windows NT 10.0; Win64; x64）AppleWebKit / 537.36（KHTML，类似Gecko）Chrome / 67.0.3396.62 Safari / 537.36
记住以上信息后粗略了解网页树形结构用BeatifulSoup中SELEC怎么取出内容
示例：的H1M1一段代码如下：
html =“”“睡鼠的故事</ title> </ head> <body> <p class =”title“name =”dromouse“> <b>睡鼠的故事</ b > </ p> <p class =“story”>从前有三个小姐妹;他们的名字是 <a href =“http://example.com/elsie”class =“sister”id =“ link1“> <！ - Elsie - > </a>， <a href="http://example.com/lacie" rel="external nofollow" class="sister" id="link2"> Lacie </a>和 <a href =“http://example.com/tillie”class =“sister”id =“link3”> Tillie </a>; 他们住在井底。</ p> <p class =“story”> ... </ p> “”“</pre><p>如果我们喝汤得到了上面那段HTML的结构提取内容方法如下</p><p>1.通过标签名查找soup.select（ '标题'），如需要取出含有一个标签的内容则soup.select（ 'a'）的</p><p>2.通过类名查找soup.select（ 'CLASS_NAME '）如取出标题的内容则soup.select（'。标题'）</p><p>3.通过ID名字查找soup.select（ '＃ID_NAME'）如取出ID = LINK2的内容则soup.select（ '＃LINK2'）</p><p>上述元素名字可以利用左上角箭头取出，如下图</p><p><img src="/upload/otherpic18/35995.jpg" alt="python如何抓取需要扫微信登陆页面"></p><strong>三，程序编写</strong><pre># -*- coding:utf-8 -*- import requests import sys import io from bs4 import BeautifulSoup import sys import xlwt import urllib,urllib2 import re def get_text(): #登录后才能访问的网页，这个就是我们在network里查看到的Request URL url = 'https://app-ticketsys.hezongyun.com/index.php/ticket/ticket_iframe/' #浏览器登录后得到的cookie,这个就是我们在network里查看到的Coockie cookie_str = r'ci_ticketsys_session=‘***********************************' #把cookie字符串处理成字典 cookies = {} for line in cookie_str.split(';'): key, value = line.split('=', 1) cookies[key] = value #设置请求头 headers = {'User-Agent':'Mozilla/5.0(Windows NT 10.0; Win64;x64)AppleWebKit/537.36 (KHTML, like Gecko)Chrome/67.0.3396.62 Safari/537.36'} #在发送get请求时带上请求头和cookies resp = requests.get(url, cookies = cookies,headers = headers) soup = BeautifulSoup(resp.text,"html.parser") print soup</pre><p>上述代码就能得到登陆网页的HTML源码，这个源码呈一个树形结构，接下来针对需求我们提取需要的内容进行提取</p><p>我们需要工单号，对应时间，对应标题</p><p><img src="/upload/otherpic18/35996.jpg" alt="python如何抓取需要扫微信登陆页面"></p><p>按箭头点击到对应工单大块，可以查询到，所有的工单号，工单发起时间，工单标题均在<code><ul id =“ticket-list”></code>这个id下面</p><p><img src="/upload/otherpic18/35997.jpg" alt="python如何抓取需要扫微信登陆页面"></p><p>那么点开一个工单结构，例如工单号ID = “4427” 下面我们需要知道工单号，工单发起时间，工单内容可以看到</p><p>1.工单内容在H3标签下面</p><p>2.工单编号在类=“NUM”下面</p><p>3.工单发起时间在类= “时间” 下面</p><pre>for soups in soup.select('#ticket-list'): if len(soups.select('h4'))>0: id_num = soups.select('.num') star_time = soups.select('.time') h4 = soups.select('h4') print id_num,start_time,h4</pre><p>以上是“python如何抓取需要扫微信登陆页面”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注创新互联行业资讯频道！</p> <br> 文章题目：python如何抓取需要扫微信登陆页面-创新互联 <br> 路径分享：<a href="http://sczitong.cn/article/dhcoso.html">http://sczitong.cn/article/dhcoso.html</a> </div> <div class="hot_new"> <div class="page_title clearfix"> <h3>其他资讯</h3> </div> <div class="news_list clearfix"> <ul> <li> <a href="/article/jpcspg.html">LINQTOSQL查询编译的方法是什么</a> </li><li> <a href="/article/jpcspi.html">win10怎么解除word安全模式</a> </li><li> <a href="/article/jpcshj.html">ajax函数怎么使用</a> </li><li> <a href="/article/jpcspc.html">jquery.validate验证表单，自己的js提交数据，返回json</a> </li><li> <a href="/article/jpcsgs.html">PHP的发展前景怎么样？</a> </li> </ul> </div> </div> </div> </div> </div> </div> </div> </div> </div> </div> </div> </div> </div> <!-- 底部信息 --> <div class="footer wow fadeInUp"> <div class="rowFluid"> <div class="span12"> <div class="container"> <div class="footer_content"> <div class="span4 col-xm-12"> <div class="footer_list"> <div class="span6"> <div class="bottom_logo"><img src="/Public/Home/images/ewm.jpg" alt="微信服务号二维码" /></div> </div> <div class="span6 col-xm-12"> <div class="quick_navigation"> <div class="quick_navigation_title">快速导航</div> <ul> <li><a href="http://www.cdxwcx.cn/tuoguan/liantong.html" title="联通机房服务器托管" target="_blank">联通机房服务器托管</a></li><li><a href="http://www.fadianjisc.cn/" title="四川柴油发电机" target="_blank">四川柴油发电机</a></li><li><a href="http://www.cxjianzhan.com/" title="网站推广" target="_blank">网站推广</a></li><li><a href="http://www.cdkjz.cn/fangan/cosmetics/" title="化妆品企业网站建设方案" target="_blank">化妆品企业网站建设方案</a></li><li><a href="https://www.scvps.cn/" title="主机租用" target="_blank">主机租用</a></li><li><a href="https://www.cdcxhl.com/xiangyingshi.html" title="成都响应式网站建设" target="_blank">成都响应式网站建设</a></li><li><a href="https://www.cdcxhl.cn/ " title="腾讯免备案主机" target="_blank">腾讯免备案主机</a></li> </ul> </div> </div> </div> </div> <div class="span4 col-xm-6 col-xs-12"> <div class="footer_list"> <div class="footer_link"> <div class="footer_link_title">友情链接</div> <ul id="frientLinks"> <a href="https://www.cdcxhl.com/" title="网站制作" target="_blank">网站制作</a> <a href="https://www.cdcxhl.com/" title="网站建设" target="_blank">网站建设</a> <a href="https://www.cdxwcx.com/tuiguang/" title="成都网络推广" target="_blank">网络推广</a> <a href="http://seo.cdkjz.cn/" title="成都网站推广" target="_blank">网站推广</a> <a href="https://www.cdcxhl.com/xiaochengx.html" title="成都微信小程序开发" target="_blank">小程序开发</a> <a href="https://www.cdcxhl.com/menu.html" title="创新互联网站栏目导航" target="_blank">网站导航</a> </ul> <div class="footer_link_title">网站建设</div> <ul id="frientLinks"> <li><a href="/">梓潼大橙子建站</a></li> <li><a href="https://www.cdcxhl.com/menu.html" title="创新互联网站栏目导航" target="_blank">网站导航</a></li> </ul> </div> </div> </div> <div class="span4 col-xm-6 col-xs-12"> <div class="footer_list"> <div class="footer_cotact"> <div class="footer_cotact_title">联系方式</div> <ul> <li><span class="footer_cotact_type">企业：</span><span class="footer_cotact_content">青羊区大橙子信息咨询工作室</span></li> <li><span class="footer_cotact_type">地址：</span><span class="footer_cotact_content">成都市青羊区太升南路288号</span></li> <li><span class="footer_cotact_type">电话：</span><span class="footer_cotact_content"><a href="tel:18980820575" class="call">18980820575</a></span></li> <li><span class="footer_cotact_type">网址：</span><span class="footer_cotact_content"><a href="/" title="梓潼网站建设">www.sczitong.cn</a></span></li> </ul> </div> </div> </div> </div> </div> <div class="copyright"> <p>公司名称：青羊区大橙子信息咨询工作室 联系电话：18980820575</p> <p><a href="http://beian.miit.gov.cn" target="_blank" rel="nofollow">网站备案号：蜀ICP备2022028542号-23</a></p> <p>梓潼大橙子建站 梓潼网站建设 梓潼网站设计 梓潼网站制作 <a href="http://www.cdxwcx.cn/" target="_blank">成都做网站</a></p> </div> </div> </div> </div> </body> </html> <script> $(".technical_support_box_z_info_box img").each(function(){ var src = $(this).attr("src"); //获取图片地址 var str=new RegExp("http"); var result=str.test(src); if(result==false){ var url = "https://www.cdcxhl.com"+src; //绝对路径 $(this).attr("src",url); } }); window.onload=function(){ document.oncontextmenu=function(){ return false; } } </script>