点我跳转至下载页面!
观察文件可知:此文件实际上就是一个很长的python列表,其中每个元素都是一个包含五个键的字典:统计日期,月份,周数,周几及收盘价。
import json #将数据加载到一个列表中 filename = 'btc_close_2017.json' with open(filename) as f: btc_data = json.load(f) # 打印每一天的信息 for btc_dict in btc_data: date = btc_dict['date'] month = btc_dict['month'] week = btc_dict['week'] weekday = btc_dict['weekday'] close = btc_dict['close'] print("{} is month {} week {},{}, the close price is {} RMB".format(date, month, week, weekday, close))
JSON文件中的每个键和值都是字符串。为了后面能够进行数据的计算,需要将表示周数,月数和收盘价的字符串转换为数值!
但是将收盘价close转换为整数时,出现了ValueError异常。原因:python不能直接将包含小数点的字符串“6928.6492”转换为整数。解决方法:先将字符串转换为浮点数,再将浮点数转换为整数:
使用Pygal来实现收盘价的折线图!
import json import pygal #将数据加载到一个列表中 filename = 'btc_close_2017.json' with open(filename) as f: btc_data = json.load(f) #创建五个列表,分别存储日期和收盘价 将数据转换为绘制折线图的可用数据 dates = [] months = [] weeks = [] weekdays = [] close = [] #每一天的信息 for btc_dict in btc_data: dates.append(btc_dict['date']) months.append(int(btc_dict['month'])) weeks.append(int(btc_dict['week'])) weekdays.append(btc_dict['weekday']) close.append(int(float(btc_dict['close']))) '''绘制收盘价折线图''' # x_label_rotation=20让x轴上的日期标签顺时针旋转20度 ; show_minor_x_labels=False告诉图形不用显示所有的x轴标签 line_chart = pygal.Line(x_label_rotation=20,show_minor_x_labels=False) #创建Line实例,进行一些设置 line_chart.title = '收盘价(¥)' line_chart.x_labels = dates #设置x轴为日期,但是总共346个日期,如果都显示太拥挤,所以上面设置show_minor_x_labels=False N = 20 #x轴坐标每隔20天显示一次 line_chart.x_labels_major = dates[::N] line_chart.add('收盘价',close) line_chart.render_to_file('收盘价折线图(¥).svg')
从图可知:加个从2017年11月12日到2017年12月12日快速增长,平均每天增值约2500元人命币。
**
进行时间序列分析总是期望发现趋势,周期性和噪声,从而能够描述事实,预测未来,做出决策!
从收盘价的折线图可以看出,总体趋势是非线性的,而且增长幅度不断增大,似乎呈指数分布。
但是在每个季度末(3月,6月,9月)似乎有一些相似的波动,虽然这些波动被增长的趋势掩盖了,不过也许有周期性。
为了验证周期性的假设,需要首先将非线性的趋势消除。
对数变换是常用的处理方法之一。
这里以10为底的对数函数math.log10计算收盘价,日期仍然保持不变。这种方式称为半对数变换!**
import json import pygal import math #将数据加载到一个列表中 filename = 'btc_close_2017.json' with open(filename) as f: btc_data = json.load(f) #创建五个列表,分别存储日期和收盘价 将数据转换为绘制折线图的可用数据 dates = [] months = [] weeks = [] weekdays = [] close = [] #每一天的信息 for btc_dict in btc_data: dates.append(btc_dict['date']) months.append(int(btc_dict['month'])) weeks.append(int(btc_dict['week'])) weekdays.append(btc_dict['weekday']) close.append(int(float(btc_dict['close']))) '''绘制收盘价对数变换折线图''' line_chart = pygal.Line(x_label_rotation=20,show_minor_x_labels=False) #创建Line实例,进行一些设置 line_chart.title = '收盘价对数变换(¥)' line_chart.x_labels = dates #设置x轴为日期,但是总共346个日期,如果都显示太拥挤,所以上面设置False N = 20 #x轴坐标每隔20天显示一次 line_chart.x_labels_major = dates[::N] close_log = [math.log10(_) for _ in close] line_chart.add('log收盘价',close_log) line_chart.render_to_file('收盘价对数变换折线图(¥).svg') '''现在,用对数变换剔除非线性趋势之后,整体上涨的趋势更接近线性增长。'''
从图可知:收盘价在每个季度末似乎有显著的周期性----3月,6月和9月都出现了剧烈的波动。那么,12月是不是也是如此呢?下面看看收盘价的月日均值与周日均值的表现。
绘制2017年前11个月的日均值,前49周(2017年-01-02~2017-12-10)的日均值,以及每周中各天的日均值。虽然这些日均值的数值不同,但都是一段时间的均值,计算方法一致。所以,将前面的绘图代码封装成函数:
from itertools import groupby # 由于需要将数据按月份,周数,周几分组,再计算每组的平均值,因此导入此模块 def draw_line(x_data, y_data, title, y_legend): xy_map = [] for x, y in groupby(sorted(zip(x_data, y_data)), key=lambda _: _[0]): # 先将x轴与y轴的数据合并,排序,再用groupby分组 y_list = [v for _, v in y] xy_map.append([x, sum(y_list) / len(y_list)]) # 分组之后,求出每组的平均值 x_unique, y_mean = [*zip(*xy_map)] # 将xy_map中存储的x轴与y轴的数据分离 line_chart = pygal.Line() line_chart.title = title line_chart.x_labels = x_unique line_chart.add(y_legend, y_mean) line_chart.render_to_file(title+'.svg') return line_chart
from itertools import groupby # 由于需要将数据按月份,周数,周几分组,再计算每组的平均值,因此导入此模块 import json import pygal #将数据加载到一个列表中 filename = 'btc_close_2017.json' with open(filename) as f: btc_data = json.load(f) # 创建五个列表,分别存储日期和收盘价 dates = [] months = [] weeks = [] weekdays = [] close = [] for btc_dict in btc_data: dates.append(btc_dict['date']) months.append(int(btc_dict['month'])) weeks.append(int(btc_dict['week'])) weekdays.append(btc_dict['weekday']) close.append(int(float(btc_dict['close']))) def draw_line(x_data, y_data, title, y_legend): xy_map = [] for x, y in groupby(sorted(zip(x_data, y_data)), key=lambda _: _[0]): # 先将x轴与y轴的数据合并,排序,再用groupby分组 y_list = [v for _, v in y] xy_map.append([x, sum(y_list) / len(y_list)]) # 分组之后,求出每组的平均值 x_unique, y_mean = [*zip(*xy_map)] # 将xy_map中存储的x轴与y轴的数据分离 line_chart = pygal.Line() line_chart.title = title line_chart.x_labels = x_unique line_chart.add(y_legend, y_mean) line_chart.render_to_file(title+'.svg') return line_chart # 收盘价月日均值: idx_month = dates.index('2017-12-01') line_chart_month = draw_line(months[:idx_month], close[:idx_month], '收盘价月日均值(¥)', '月日均值')
idx_week = dates.index('2017-12-11') line_chart_week = draw_line(months[1:idx_week], close[1:idx_week], '收盘价周日均值(¥)', '周日均值')
由于这里的周几是字符串,按周一到周日的顺序排列,而不是单词首字母的顺序,绘图时x轴标签的顺序会有问题。另外,原来的周几都是英文单词,还可将其调整为中文。
idx_week = dates.index('2017-12-11') wd = ['Monday', 'Tuesday', 'Wednesday', 'Thursday', 'Friday', 'Saturday', 'Sunday'] # 将weekdays的内容替换为1~7的整数 weekdays_int = [wd.index(w) + 1 for w in weekdays[1:idx_week]] line_chart_weekday = draw_line(weekdays_int, close[1:idx_week], '收盘价星期均值(¥)', '星期均值') line_chart_weekday.x_labels = ['周一', '周二', '周三', '周四', '周五', '周六', '周日']
现在已经有很多图了,每个SVG文件打开之后都是独立的页面。如果能将它们整合一起,会很方便管理,监测和分析。另外,新的图表也可以十分方便的加入进来,这样就形成了一个数据仪表盘
''' 将多张SVG文件整合在一起 就是做一个数据仪表盘,即一个完整的网页(HTML文件) 思路如下,.svg文件需要插件才能实现在网页中''' with open('收盘价Dashboard.html', 'w', encoding='utf8') as html_file: html_file.write( '<!DOCTYPE html>\n<html lang="en">\n<head>\n<meta charset="utf-8">' '<title>收盘价Dashboard</title>\n</head>\n<body>\n') for svg in [ '收盘价星期均值(¥).svg', '收盘价对数变换折线图(¥).svg', '收盘价月日均值(¥).svg', '收盘价周日均值(¥).svg']: html_file.write( ' <object codebase="image/svg+xml" data="{0}" height=500></object>\n'.format(svg)) html_file.write('</body>\n</html>')
生成的名为‘收盘价Dashboard.html’的HTML文件:
<!DOCTYPE html> <html lang="en"> <head> <meta charset="utf-8"><title>收盘价Dashboard</title> </head> <body> <object codebase="image/svg+xml" data="收盘价星期均值(¥).svg" height=500></object> <object codebase="image/svg+xml" data="收盘价对数变换折线图(¥).svg" height=500></object> <object codebase="image/svg+xml" data="收盘价月日均值(¥).svg" height=500></object> <object codebase="image/svg+xml" data="收盘价周日均值(¥).svg" height=500></object> </body> </html>