亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

Design and Implementation of Crawler Program Based on Python

Python(编程语言) 网络爬虫 爬行 聚焦爬虫 互联网 网页 计算机科学 数据库 操作系统 Web服务器 静态网页 万维网 医学 解剖
作者
Xiaoju Ma,Min Yan
出处
期刊:Journal of physics [IOP Publishing]
卷期号:2033 (1): 012205-012205 被引量:2
标识
DOI:10.1088/1742-6596/2033/1/012205
摘要

With the development of computer and network technology, we often get information through the Internet. However, it is difficult for us to obtain valuable information from massive amounts of data because of the large amount of network data and complex formats. At present, researches found that web crawler technology can be automatically obtained information from internet. In this paper we takes the crawling of second-hand housing information of Anjuke Xi'an as an example. According to the crawler principle and process, the structure of Anjuke's page is first analyzed, using requests to obtain web pages, lxml to analyze web pages and SQL Server 2017 to store data to design and implement a network. The crawler program collects and stores housing information in some cities in East China through this program, and finally analyzes the housing price trend through the collected data through Excel. The results show that this program can automatically obtain housing information from the Internet, which provides a data source for later data analysis.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
葡萄味的果茶完成签到 ,获得积分10
刚刚
LeoYiS214完成签到,获得积分10
1秒前
2秒前
4秒前
梨理完成签到 ,获得积分10
5秒前
秀丽战斗机关注了科研通微信公众号
6秒前
6秒前
Nole的应助被科研通管家采纳,获得10
6秒前
6秒前
Hello的应助被科研通管家采纳,获得10
6秒前
6秒前
田様的应助被科研通管家采纳,获得10
6秒前
SciGPT的应助被科研通管家采纳,获得10
6秒前
6秒前
polymer1Ma发布了新的文献求助10
7秒前
隐形曼青的应助被科研通管家采纳,获得10
7秒前
7秒前
尊敬的芷卉完成签到,获得积分10
7秒前
Jasper的应助被科研通管家采纳,获得10
7秒前
7秒前
小蘑菇的应助被科研通管家采纳,获得10
7秒前
PhysicsXX完成签到,获得积分10
9秒前
10秒前
10秒前
初初初啊发布了新的文献求助10
11秒前
迷路万天完成签到,获得积分10
12秒前
粥vbbb完成签到 ,获得积分10
16秒前
19秒前
20秒前
24秒前
初初初啊发布了新的文献求助10
25秒前
25秒前
27秒前
polymer1Ma完成签到,获得积分20
28秒前
搞怪巨人发布了新的文献求助30
29秒前
zoyaaa发布了新的文献求助10
30秒前
30秒前
yiyixt完成签到 ,获得积分10
33秒前
bkagyin的应助被polymer1Ma采纳,获得10
34秒前
初初初啊发布了新的文献求助10
34秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8190060
求助须知:如何正确求助?哪些是违规求助? 9577165
关于积分的说明 21851884
捐赠科研通 7788155
什么是DOI,文献DOI怎么找? 3436233
关于科研通互助平台的介绍 2559935
邀请新用户注册赠送积分活动 2482792