利用Python画ROC曲线和AUC值计算

 更新时间:2016年09月19日 12:02:01   投稿:daisy  
这篇文章给大家介绍了如何利用Python画ROC曲线,以及AUC值的计算,有需要的朋友们可以参考借鉴,下面来一起看看吧。

前言

ROC(Receiver Operating Characteristic)曲线和AUC常被用来评价一个二值分类器(binary classifier)的优劣。这篇文章将先简单的介绍ROC和AUC,而后用实例演示如何python作出ROC曲线图以及计算AUC。

AUC介绍

AUC(Area Under Curve)是机器学习二分类模型中非常常用的评估指标,相比于F1-Score对项目的不平衡有更大的容忍性,目前常见的机器学习库中(比如scikit-learn)一般也都是集成该指标的计算,但是有时候模型是单独的或者自己编写的,此时想要评估训练模型的好坏就得自己搞一个AUC计算模块,本文在查询资料时发现libsvm-tools有一个非常通俗易懂的auc计算,因此抠出来用作日后之用。

AUC计算

AUC的计算分为下面三个步骤:

    1、计算数据的准备,如果模型训练时只有训练集的话一般使用交叉验证的方式来计算,如果有评估集(evaluate)一般就可以直接计算了,数据的格式一般就是需要预测得分以及其目标类别(注意是目标类别,不是预测得到的类别)

    2、根据阈值划分得到横(X:False Positive Rate)以及纵(Y:True Positive Rate)点

    3、将坐标点连成曲线之后计算其曲线下面积,就是AUC的值

直接上python代码

#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt


evaluate_result="you file path"
db = [] #[score,nonclk,clk]
pos, neg = 0, 0 
with open(evaluate_result,'r') as fs:
 for line in fs:
 nonclk,clk,score = line.strip().split('\t')
 nonclk = int(nonclk)
 clk = int(clk)
 score = float(score)
 db.append([score,nonclk,clk])
 pos += clk
 neg += nonclk
 
 

db = sorted(db, key=lambda x:x[0], reverse=True)

#计算ROC坐标点
xy_arr = []
tp, fp = 0., 0.  
for i in range(len(db)):
 tp += db[i][2]
 fp += db[i][1]
 xy_arr.append([fp/neg,tp/pos])

#计算曲线下面积
auc = 0.  
prev_x = 0
for x,y in xy_arr:
 if x != prev_x:
 auc += (x - prev_x) * y
 prev_x = x

print "the auc is %s."%auc

x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc))
pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen

输入的数据集可以参考svm预测结果

其格式为:

nonclk \t clk \t score

其中:
    1、nonclick:未点击的数据,可以看做负样本的数量

    2、clk:点击的数量,可以看做正样本的数量

    3、score:预测的分数,以该分数为group进行正负样本的预统计可以减少AUC的计算量

运行的结果为:

如果本机没安装pylab可以直接注释依赖以及画图部分

注意

上面贴的代码:

    1、只能计算二分类的结果(至于二分类的标签随便处理)

    2、上面代码中每个score都做了一次阈值,其实这样效率是相当低的,可以对样本进行采样或者在计算横轴坐标时进行等分计算

总结

以上就是这篇文章的全部内容,希望本文的内容能对大家的学习或者工作带来一定的帮助,如果有疑问大家可以留言交流。

相关文章

  • python print()函数的end参数和sep参数的用法说明

    python print()函数的end参数和sep参数的用法说明

    这篇文章主要介绍了python print()函数的end参数和sep参数的用法说明,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-05-05
  • Python Flask 实现 HTML 文件压缩案例代码(9 级压缩)

    Python Flask 实现 HTML 文件压缩案例代码(9 级压缩)

    这篇文章主要介绍了Python Flask 实现 HTML 文件压缩案例代码(9 级压缩),本案例是基于 Python Flask 进行搭建,所以需要提前搭建一个 Flask 项目环境,有 app.py 文件和 templates/index.html 文件即可,需要的朋友可以参考下
    2023-01-01
  • pygame实现成语填空游戏

    pygame实现成语填空游戏

    这篇文章主要介绍了pygame实现成语填空游戏,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-10-10
  • 基于Python制作简单的井字棋游戏

    基于Python制作简单的井字棋游戏

    这篇文章主要为大家详细介绍了如何基于Python实现简单的井字棋游戏,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2023-04-04
  • opencv3/C++实现视频读取、视频写入

    opencv3/C++实现视频读取、视频写入

    今天小编就为大家分享一篇opencv3/C++实现视频读取、视频写入,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-12-12
  • Python实现提取图片中颜色并绘制成可视化图表

    Python实现提取图片中颜色并绘制成可视化图表

    今天小编来为大家分享一个有趣的可视化技巧,就是如何利用Python语言实现从图片中提取颜色然后绘制成可视化图表,感兴趣的可以尝试一下
    2022-07-07
  • Python二分查找详解

    Python二分查找详解

    这篇文章主要给大家汇总介绍了Python二分查找的几种实现的方法,有需要的小伙伴可以参考下。
    2015-09-09
  • Python中多返回值的应用场景

    Python中多返回值的应用场景

    Python 是一种非常灵活的编程语言,它允许函数返回多个值,本文主要介绍了Python中多返回值的应用场景,具有一定的参考价值,感兴趣的可以了解一下
    2024-06-06
  • python实现按长宽比缩放图片

    python实现按长宽比缩放图片

    这篇文章主要为大家详细介绍了python实现按长宽比缩放图片,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-06-06
  • python之语音识别speech模块

    python之语音识别speech模块

    这篇文章主要介绍了python之语音识别speech模块,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-09-09

最新评论