爬虫学习日记2021-5-1

5.1日记录异步加载问题:

首先,祝大家五一劳动节快乐!
今天是从学校到家的第二天。昨天赶了一下午的车。
今天上午拿出课本,翻看了与urllip相关的知识点。晚上开始爬取一个新的网页,这当中遇到了新的问题。这次先记录一下最主要的问题:异步加载。其他的小问题后续再慢慢更新。毕竟五一期间的主要任务要复习概率论!QAQ!!

异步加载:

今晚,我发现爬取网页时,代码应该是没有问题:

blueball=soup.find_all('span',class_= 'blueball_bigst') blueball_bigst = [span.get_text() for span in blueball] print(blueball_bigst) 

但是爬取结果反馈为:[’’],经过查阅资料,发现是遇到了异步加载的网页。
异步加载指在加载的同时执行代码。向网站进行一次请求,一次只传部分数据。也就是说,这个网站没有第一页、第二页……等,我们直接鼠标下滑就能不断的向下浏览。
爬取异步加载的网页首要任务是找到网页的正确链接。

解决方法附在这里:

https://blog.csdn.net/weixin_46002631/article/details/110956309?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control

引用:

【1】https://blog.csdn.net/weixin_46002631/article/details/110956309?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control

版权声明:玥玥 发表于 2021-05-02 14:46:34。
转载请注明:爬虫学习日记2021-5-1 | 女黑客导航