深入分析python数据挖掘 Json结构分析
json是一种轻量级的数据交换格式，也可以说是一种配置文件的格式
这种格式的文件是我们在数据处理经常会遇到的
python提供内置的模块json，只需要在使用前导入即可
你可以通过帮助函数查看json的帮助文档
json常用的方法有load、loads、dump以及dumps，这个都属于python初级，我不做过多解释
json可以结合数据库一起使用，在这以后要处理大量数据时非常有用
下面我们正式来利用数据挖掘对json文件进行处理
现在很多网站都运用了Ajax，所以一般很多都是XHR文件
通过这里我想利用一个地图网站来演示
我们通过浏览器的调试获取了相关url
https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ
下面我们通过requests模块中的get方法，模拟浏览器发出的http请求，并返回的到的结果对象
代码如下
# coding=utf-8 __Author__ = "susmote" import requests url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) print(resp.text[0:200])
在终端中运行结果如下
数据已经获取到了，但是为了接下来能使用这些数据，我们需要利用json模块对这些数据进行分析
代码如下
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(type(json_dict)) print(json_dict.keys())
简单讲一下上面的代码：
导入json模块，然后调用loads方法，将返回的文本作为方法的参数传入
在终端中运行结果如下
可以看出，转换的结果是与json字符串对应的字典，因为type（json_dict）返回的是<class 'dict'>
因为对象是一个字典，所以我们可以调用字典的方法，在这里我们调用的就是keys方法
结果返回三个键，即status、searcOpt、data
下面我们来查看data键里面的数据
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(json_dict['data'])
下面在终端中运行这一段代码
可以看到里面有很多我们需要的数据，如
不一一标出，通过跟网页显示的相比较，就能清楚哪些是有用的了
下面我们通过代码获取有用的信息，把它清晰的输出
# coding=utf-8
__Author__ = "susmote"
import requests
import json
url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"
resp = requests.get(url)
json_dict = json.loads(resp.text)
data_dict = json_dict['data']
data_list = data_dict['poi_list']
dis_data = data_list[0]
print('城市： ', dis_data['cityname'])
print('名称： ', dis_data['name'])
print('电话： ', dis_data['tel'])
print('区号： ', dis_data['areacode'])
print('地址： ', dis_data['address'])
print('经度： ', dis_data['longitude'])
print('纬度： ', dis_data['latitude'])
因为返回的是一个字典，通过对文件结构的研究，字典中嵌套着列表，列表中又嵌套着字典，通过层层解套，成功获取数据
我这里把步骤分开列出了，所以你会看的更加清楚
下面我们通过终端运行程序，获取我们想要的信息
是不是非常简单了，这个程序可以作为一个模版，获取其他地方的信息时只需要改一个url即可
例如以下几个范例
北京大学
或者是腾讯大厦
数据挖掘是没有尽头的，希望大家多分析数据，找到你想要的数据
相关文章
这篇文章介绍了Django框架中表单的用法，文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-06-06
这篇文章主要介绍了利用OpenCV实现手势识别，从而进行虚拟拖放效果，我们可以使用这个技术实现一些游戏，控制机械臂等很多有趣的事情。感兴趣的可以学习一下2022-01-01
在本篇文章里小编给各位整理了一篇关于选择Python写网络爬虫的优势和理由以及相关代码实例，有兴趣的朋友们阅读下吧。2019-07-07
在pandas中有多种方法可以删除列,本文主要介绍了pandas中删除列的几种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧2024-07-07
Python获取暗黑破坏神3战网前1000命位玩家的英雄技能统计
这篇文章主要介绍了Python获取暗黑3战网前1000命位玩家的英雄技能统计的方法,借助urllib2模块以类似爬虫的机制来实现,需要的朋友可以参考下2016-07-07
这篇文章主要介绍了Pytorch神经网络参数管理方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习吧2023-05-05
pycharm中代码回滚到指定版本的两种实现方法(附带截图展示)
在编写代码的时候，经常会出现写的代码存在一些问题,但是比较难以发现具体存在的问题在哪里,需要将带代码恢复到指定的版本,下面这篇文章主要给大家介绍了关于pycharm中代码回滚到指定版本的两种实现方法,需要的朋友可以参考下2022-06-06
最近学习python 感觉这门脚本语言十分灵活 而且功能十分强大 尤其是他re库用于正则匹配十分强大，写了个例子解析中国天气网2014-03-03
这篇文章主要介绍了python 实现定时任务的四种方式，帮助大家更好的理解和学习使用python，感兴趣的朋友可以了解下2021-04-04
django-orm F对象的使用 按照两个字段的和,乘积排序实例
这篇文章主要介绍了django-orm F对象的使用 按照两个字段的和,乘积排序实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-05-05
最新评论