实验题目:直方图进行数据离散化1实验目的直方图使用分箱来近似数据分布,是数据规约的一种形式
通过本实验,需要掌握不同直方图的数学原理和构造方法
同时,掌握使用不同直方图对数据进行离散化的原理和方法
最后,利用实验数据实现一种直方图并进行评估
2实验步骤2
1算法原理首先,假设有N个自然数的集合U={x|x∈N},其中最大值为
(1)等宽度直方图对数据进行分箱
假设按等宽度的方法进行分箱(宽度w=1),则对于N个数据,按其值分别放入到相应的箱中,箱子的数目
设每个箱中的统计数据为,按照坐标值/频率对()表示在二维坐标上,则可以得到该组数据的单桶直方图
一般情况下,为了进一步压缩数据,通常进行数据分箱时,每一个桶代表的是连续的属性值,即取宽度
在这种分箱方法下,分箱数目
则按照公式,其中,令所得到的值/频率对,的宽度为q的直方图,即为常见的等宽度直方图
(2)等深度直方图与等宽度直方图相比,等深度直方图仅仅是在创建数据桶时与其不同
等深度直方图的数据桶的创建思想是:使得每个桶的频率粗略的为常数,即每个桶中包含大致相当的样本数据数目
设分箱的数目为K,则对于每一个桶,有,其中
只有在这种情况下,才满足大致相当
所要求的是每一个桶的边界,开始获取分桶数目k读入文件数据计算桶宽度w逐个扫描数据,统计数目结束
求边界的过程:首先对该集合U进行排序(由小到大),由于每桶的数目相等,所以每间隔c个数据,取一次数据值,即为一个有效的边界值
对于排序后的序列,有
所得到的二维值对,即是等深度直方图
2算法步骤用户输入数据分桶的数目K,然后按如下步骤计算:(1)对样本数据进行排序(2)计算宽度w和c(2)对数据进行扫描和计算等宽度直方图的数目值和等深度直方图的边界2
3程序流程图图1等宽度直方图流程图在图1中,数据的分桶数目是用户输入的数据,预先由用户设定
样本数据存放在文本文件eg