在进行数据处理之前,往往需要对数据中一些不完美的地方进行预处理,使得我们能够更好地进行数据的分析计算。
如果某一项缺失数据过多,剩余的记录可能难以再反映出真实的情况,可以考虑删除该项。
对于一些对个体精度要求不高的数据,可以考虑将缺失的值用均值/众数填充。
例如:人口数量年龄、经济产业情况。
通过牛顿插值法公式,构造近似函数。
适合于关注函数精确值而不关系函数变化的数据。
例如:地形测量、热力学温度、定位
推荐参考链接
适合数据变化曲线较为光滑的数据。
例如:零件加工、水库流量、物体运动轨迹
对于异常值,处理方法一般是把该值删除,然后按照缺失值的处理方法进行处理。
那么问题来了,如何判断一个值石佛iu为异常值呢?
数据大概率处于 ( u − 3 σ , u + 3 σ ) (u - 3σ,u + 3σ) (u−3σ,u+3σ)内,不在此范围的数据大概率为异常值。
PS:仅适用于符合正态分布规律的数据。
基本步骤如下:
推荐参考链接
参考资料:
参考链接