java实现随机森林RandomForest的示例代码

 更新时间:2017年08月24日 10:54:16   作者:九佾  
本篇文章主要介绍了java实现随机森林RandomForest的示例代码,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

随机森林是由多棵树组成的分类或回归方法。主要思想来源于Bagging算法,Bagging技术思想主要是给定一弱分类器及训练集,让该学习算法训练多轮,每轮的训练集由原始训练集中有放回的随机抽取,大小一般跟原始训练集相当,这样依次训练多个弱分类器,最终的分类由这些弱分类器组合,对于分类问题一般采用多数投票法,对于回归问题一般采用简单平均法。随机森林在bagging的基础上,每个弱分类器都是决策树,决策树的生成过程中中,在属性的选择上增加了依一定概率选择属性,在这些属性中选择最佳属性及分割点,传统做法一般是全部属性中去选择最佳属性,这样随机森林有了样本选择的随机性,属性选择的随机性,这样一来增加了每个分类器的差异性、不稳定性及一定程度上避免每个分类器的过拟合(一般决策树有过拟合现象),由此组合分类器增加了最终的泛化能力。下面是代码的简单实现

/**
 * 随机森林 回归问题
 * @author ysh  1208706282
 *
 */
public class RandomForest {
  List<Sample> mSamples;
  List<Cart> mCarts;
  double mFeatureRate;
  int mMaxDepth;
  int mMinLeaf;
  Random mRandom;
  /**
   * 加载数据  回归树
   * @param path
   * @param regex
   * @throws Exception
   */
  public void loadData(String path,String regex) throws Exception{
    mSamples = new ArrayList<Sample>();
    BufferedReader reader = new BufferedReader(new FileReader(path));
    String line = null;
    String splits[] = null;
    Sample sample = null;
    while(null != (line=reader.readLine())){
      splits = line.split(regex);
      sample = new Sample();
      sample.label = Double.valueOf(splits[0]);
      sample.feature = new ArrayList<Double>(splits.length-1);
      for(int i=0;i<splits.length-1;i++){
        sample.feature.add(new Double(splits[i+1]));
      }
      mSamples.add(sample);
    }
    reader.close();
  }
  public void train(int iters){
    mCarts = new ArrayList<Cart>(iters);
    Cart cart = null;
    for(int iter=0;iter<iters;iter++){
      cart = new Cart();
      cart.mFeatureRate = mFeatureRate;
      cart.mMaxDepth = mMaxDepth;
      cart.mMinLeaf = mMinLeaf;
      cart.mRandom = mRandom;
      List<Sample> s = new ArrayList<Sample>(mSamples.size());
      for(int i=0;i<mSamples.size();i++){
        s.add(mSamples.get(cart.mRandom.nextInt(mSamples.size())));
      }
      cart.setData(s);
      cart.train();
      mCarts.add(cart);
      System.out.println("iter: "+iter);
      s = null;
    }
  }
  /**
   * 回归问题简单平均法 分类问题多数投票法
   * @param sample
   * @return
   */
  public double classify(Sample sample){
    double val = 0;
    for(Cart cart:mCarts){
      val += cart.classify(sample);
    }
    return val/mCarts.size();
  }
  /**
   * @param args
   * @throws Exception 
   */
  public static void main(String[] args) throws Exception {
    // TODO Auto-generated method stub
    RandomForest forest = new RandomForest();
    forest.loadData("F:/2016-contest/20161001/train_data_1.csv", ",");
    forest.mFeatureRate = 0.8;
    forest.mMaxDepth = 3;
    forest.mMinLeaf = 1;
    forest.mRandom = new Random();
    forest.mRandom.setSeed(100);
    forest.train(100);
    
    List<Sample> samples = Cart.loadTestData("F:/2016-contest/20161001/valid_data_1.csv", true, ",");
    double sum = 0;
    for(Sample s:samples){
      double val = forest.classify(s);
      sum += (val-s.label)*(val-s.label);
      System.out.println(val+" "+s.label);
    }
    System.out.println(sum/samples.size()+" "+sum);
    System.out.println(System.currentTimeMillis());
  }

}

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • SpringBoot异步处理的四种实现方式

    SpringBoot异步处理的四种实现方式

    本篇文章我们以SpringBoot中异步的使用(包括:异步调用和异步方法两个维度)来进行讲解,需要的朋友们下面随着小编来一起学习学习吧
    2021-05-05
  • 详解Spring-Boot中如何使用多线程处理任务

    详解Spring-Boot中如何使用多线程处理任务

    本篇文章主要介绍了详解Spring-Boot中如何使用多线程处理任务,具有一定的参考价值,感兴趣的小伙伴们可以参考一下。
    2017-03-03
  • Intellij Idea中批量导入第三方jar包的全过程

    Intellij Idea中批量导入第三方jar包的全过程

    引入jar包一般都是针对小的java项目,这篇文章主要给大家介绍了关于Intellij Idea中批量导入第三方jar包的相关资料,文中通过图文介绍的非常详细,需要的朋友可以参考下
    2021-10-10
  • java并发中DelayQueue延迟队列原理剖析

    java并发中DelayQueue延迟队列原理剖析

    DelayQueue队列是一个延迟队列,本文将结合实例代码,详细的介绍DelayQueue延迟队列的源码分析,感兴趣的小伙伴们可以参考一下
    2021-06-06
  • 浅谈Spring @Async异步线程池用法总结

    浅谈Spring @Async异步线程池用法总结

    本篇文章主要介绍了浅谈Spring @Async异步线程池用法总结,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-07-07
  • Java中实现代码优化的技巧分享

    Java中实现代码优化的技巧分享

    这篇文章主要跟大家谈谈优化这个话题,那么我们一起聊聊Java中如何实现代码优化这个问题,小编这里有几个实用的小技巧分享给大家,需要的可以参考一下
    2022-08-08
  • Spring中校验器(Validator)的深入讲解

    Spring中校验器(Validator)的深入讲解

    Spring校验器,参数校验从此简单。下面这篇文章主要给大家介绍了关于Spring中校验器(Validator)的相关资料,文中通过示例代码介绍非常详细,需要的朋友可以参考借鉴,下面随着小编来一起学习学习吧
    2018-06-06
  • java使用jaxb操作xml示例

    java使用jaxb操作xml示例

    JAXB主要用来实现对象和XML之间的序列化和反序列化,关于JAXB的介绍就不多说了,这里主要总结下基本使用方法和一些注意事项
    2014-04-04
  • Java Hashtable机制深入了解

    Java Hashtable机制深入了解

    HashTable是jdk 1.0中引入的产物,基本上现在很少使用了,但是会在面试中经常被问到。本文就来带大家一起深入了解一下Hashtable,需要的可以参考一下
    2022-09-09
  • Java日期工具类操作字符串Date和LocalDate互转

    Java日期工具类操作字符串Date和LocalDate互转

    这篇文章主要介绍了Java日期工具类操作字符串Date和LocalDate互转,文章首先通过需要先引入坐标展开主题的相关内容介绍,需要的朋友可以参一下
    2022-06-06

最新评论