文档章节

机器学习 F1-Score, recall, precision

Airship
 Airship
发布于 2017/08/16 07:55
字数 943
阅读 77
收藏 0

机器学习,模式识别中,我们做分类的时候,会用到一些指标来评判算法的优劣,最常用的就是识别率,简单来说,就是 

Acc=Npre/Ntotal


这里的 Npre表示预测对的样本数,Ntotal表示测试集总的样本数。

 

识别率有的时候过于简单, 不能全面反应算法的性能,除了识别率,还有一些常用的指标,就是我们要介绍的 
F1-score, recall, precision.

在介绍这些概念之前,我们先来看一个二分类的问题,给定一组训练集: 

D={(xi,yi)|xiRn,yi∈{0,1}}Ni=1


这里假定 yi=1 对应正样本,yi=0 对应负样本。假设我们建立了一个分类模型 H, 对每一个输入的样本 xi会输出一个预测值 H(xi), 那么将预测值 H(xi) 与样本对应的实际值yi做比较,会得到以下四种情况:

 

H(xi)=1,yi=1
H(xi)=1,yi=0
H(xi)=0,yi=1
H(xi)=0,yi=0

第一种情况,预测为正,实际也为正,我们称为 true positive (TP),第二种情况,预测为正,实际为负,我们称为 false positive (FP),第三种情况,预测为负,实际为正,称为false negative (FN),最后一种情况,预测为负,实际也为负,称为 true negative (TN),每一个样本只可能属于这四种情况中的某一种,不会有其它的可能。 
很显然,给定一个测试集,我们可以得到如下的关系: 

Npre=TP+TN

 

Ntotal=TP+TN+FP+FN


如果我们定义一个测试集中,正样本个数为P, 负样本个数为N, 那么我们可以知道:P=TP+FNN=TN+FP 
所以,我们常用的识别率 acc 其实就等于 

Acc=TP+TNTP+TN+FP+FN=TP+TNP+N

, 
进一步,我们可以定义 recall ,precision, F1-score 如下所示: 

Recall=TPTP+FN=TPP

 

Precision=TPTP+FP

 

F1=2TP2TP+FN+FP=2⋅PrecisionRecallPrecision+Recall

 

可以看到,recall 体现了分类模型H对正样本的识别能力,recall 越高,说明模型对正样本的识别能力越强,precision 体现了模型对负样本的区分能力,precision越高,说明模型对负样本的区分能力越强。F1-score 是两者的综合。F1-score 越高,说明分类模型越稳健。

比如我们常见的雷达预警系统,我们需要对雷达信号进行分析,判断这个信号是飞行器(正样本)还是噪声 (负样本), 很显然,我们希望系统既能准确的捕捉到飞行器信号,也可以有效地区分噪声信号。所以就要同时权衡recall 和 precision这两个指标,如果我们把所有信号都判断为飞行器,那 recall 可以达到1,但是precision将会变得很低(假设两种信号的样本数接近),可能就在 0.5 左右,那F1-score 也不会很高。

有的时候,我们对recall 与 precision 赋予不同的权重,表示对分类模型的偏好:

 

Fβ=(1+β2)TP(1+β2)TP+β2FN+FP=(1+β2)⋅PrecisionRecallβ2⋅Precision+Recall

 

可以看到,当 β=1,那么Fβ就退回到F1了,β 其实反映了模型分类能力的偏好,β>1 的时候,precision的权重更大,为了提高Fβ,我们希望precision 越小,而recall 应该越大,说明模型更偏好于提升recall,意味着模型更看重对正样本的识别能力; 而 β<1 的时候,recall 的权重更大,因此,我们希望recall越小,而precision越大,模型更偏好于提升precision,意味着模型更看重对负样本的区分能力。

参考来源: 
https://en.wikipedia.org/wiki/Receiver_operating_characteristic 
https://en.wikipedia.org/wiki/F1_score

 

本文转载自:http://blog.csdn.net/matrix_space/article/details/50384518

共有 人打赏支持
Airship
粉丝 39
博文 936
码字总数 19883
作品 0
南京
高级程序员
私信 提问
【算法周】你可以没房没车,但你需要知道这些指标!

欢迎关注哈希大数据微信公众号【哈希大数据】 考虑一个二分问题,即将实例分成正类(positive)或负类(negative)。对一个二分问题来说,会出现四种情况。如果一个实例是正类并且也被 预测成...

哈希大数据
2018/06/22
0
0
【火炉炼AI】机器学习011-分类模型的评估:准确率,精确率,召回率,F1值

【火炉炼AI】机器学习011-分类模型的评估:准确率,精确率,召回率,F1值 (本文所使用的Python库和版本号: Python 3.5, Numpy 1.14, scikit-learn 0.19, matplotlib 2.2 ) 在前面的(【火炉炼...

炼丹老顽童
2018/08/06
0
0
【机器学习实战】理解Scikit-Learn中分类性能度量指标

Understanding Data Science Classification Metrics in Scikit-Learn in Python 在本教程中,我们将介绍Python的scikit-learn中的一些分类度量指标 - 从头开始学习和编写我们自己的函数,以...

技术小能手
2018/08/08
0
0
机器学习-Confusion Matrix混淆矩阵、ROC、AUC

本文整理了关于机器学习分类问题的评价指标——Confusion Matrix、ROC、AUC的概念以及理解。 混淆矩阵 在机器学习领域中,混淆矩阵(confusion matrix)是一种评价分类模型好坏的形象化展示工...

Kkky
2018/07/30
0
0
检索系统的评价指标(准确率、精确率、召回率和F1-measure)

直接上例子 假设班级里有男生60个,女生40个,,,现在检索系统要找出所有女生。假设系统找出了50个人认为是女生,其中实际上男生20个人,女生30个。 准确率(Accuracy):为系统将男生女生分...

zoulala
2018/09/04
0
0

没有更多内容

加载失败,请刷新页面

加载更多

MySQL的分表与分区

MySQL分表分区是解决大数据量导致MySQL性能低下的两种方法。 什么是MySQL分表 从表面意思上看,MySQL分表就是将一个表分成多个表,数据和数据结构都有可能会变。MySQL分表分为垂直分表和水平...

吴伟祥
14分钟前
0
0
MySQL查询执行

当我们希望MySQL能够以更高的性能运行查询时,最好的办法就是弄清楚MySQL是如何优化和执行查询的。一旦理解了这一点,很多查询优化工作实际上就是遵循一些原则让优化器能够按照预想的合理方式...

问题终结者
58分钟前
1
0
CDH5动静态资源池配置与回滚

关于动态 静态资源池的配置以前都有提过,可以从以下几篇了解: YARN动态资源池配置案例 https://yq.aliyun.com/ziliao/346856# Hadoop YARN配置参数剖析(4)—Fair Scheduler相关参数 Hadoop...

hblt-j
今天
3
0
WordPress仿站实战教程

有一个月没有写blog了,一直在学习wordpress的知识,现在能够进行简单的政府企业门户网站的仿制,wordpress的主题订制,一般是对前端要求比较高,wordpress学会了,建站还是非常的快的。下面...

临江仙卜算子
今天
3
0
图像库stb_image

https://github.com/nothings/stb 目前一般主流的图像格式也就是bmp,jpg,png,tga,dds,除了DDS一般是给DX用的,虽然一堆OpenGL程序也有用的,但是我一般只用png和tga, png不用说了,带a...

robslove
今天
1
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部