Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 160078|回复: 0

机器学习分类问题中_训练数据类别不均衡怎么解决

[复制链接]
  • TA的每日心情
    奋斗
    7 天前
  • 签到天数: 745 天

    [LV.9]以坛为家II

    2041

    主题

    2099

    帖子

    70万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    704660
    发表于 2021-4-9 15:39:24 | 显示全部楼层 |阅读模式

     

    碰到样本数据类别不均衡怎么办?

    如果有 10000个样例, 做二分类,9990条数据 都属于 正类1, 如果不处理的话 预测全部结果为 1, 准确率也为 99%,但这显然不是想要的结果。

    碰到这样样本很不平衡的样例,应该怎样做。

     

    前期数据准备

    1. 欠采样

    def down_sample(df):
        df1=df[df['label']==1] #正例
        df2=df[df['label']==0] ##负例
        df3=df2.sample(frac=0.25) ##抽负例
    
        return pd.concat([df1,df3],ignore_index=True)
    
    
    对样本量很大的类,抽取更少的样本,达到样本平衡2.

    2. 过采样

    def up_sample(df):
        df1=df[df['label']==1] #正例
        df2=df[df['label']==0] ##负例
        df3=pd.concat([df1,df1,df1,df1,df1],ignore_index=True)
        return pd.concat([df2,df3],ignore_index=True) 

         对样本量偏少的数据,采用重复采样的策略

    模型中调整调整权重

    很多分类模型都有设置权重的参数

     1.  xgboost 设置 : scale_pos_weight

    如 做二分类,0/1, 0:1 = 1:100 可以设置scale_pos_weight=100

    2. RF 设置: class_weight

    可以指定, 但对于多分类问题需要注意:

    • For example, for four-class multilabel classification weights should be [{0: 1, 1: 1}, {0: 1, 1: 5}, {0: 1, 1: 1}, {0: 1, 1: 1}] instead of [{1:1}, {2:5}, {3:1}, {4:1}].
    • The "balanced" mode uses the values of y to automatically adjust weights inversely proportional to class frequencies in the input data as  n_samples / (n_classes * np.bincount(y))

    得到结果后寻找最优阈值

    调整threshold的值,得到最优结果

    Threshold = 0.45
    
    for j in range(len(preds)):
        if preds[j]>=Threshold :
            preds[j]=1
      else :
        preds[j]=0 

    评价指标:

    使用准确度 结果可能不准确。可以尝试 Confusion Matrix, Precision, Recall, Auc_Roc

     

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-3-29 15:14 , Processed in 0.064371 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表