Category

Development Platform
Home > SourceCode/Document > Windows Develop > View Code
InfoGainSplitCrit.java
Package: Weka-3-2.rar　[view]
Upload User: rhdiban
Upload Date: 2013-08-09
Package Size: 15085k
Code Size: 3k
Category:

Windows Develop

Development Platform:

Java

InfoGainSplitCrit.java：Code Content
  1. /*
  2.  *    This program is free software; you can redistribute it and/or modify
  3.  *    it under the terms of the GNU General Public License as published by
  4.  *    the Free Software Foundation; either version 2 of the License, or
  5.  *    (at your option) any later version.
  6.  *
  7.  *    This program is distributed in the hope that it will be useful,
  8.  *    but WITHOUT ANY WARRANTY; without even the implied warranty of
  9.  *    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  10.  *    GNU General Public License for more details.
  11.  *
  12.  *    You should have received a copy of the GNU General Public License
  13.  *    along with this program; if not, write to the Free Software
  14.  *    Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  15.  */
  17. /*
  18.  *    InfoGainSplitCrit.java
  19.  *    Copyright (C) 1999 Eibe Frank
  20.  *
  21.  */
  23. package weka.classifiers.j48;
  25. import weka.core.*;
  27. /**
  28.  * Class for computing the information gain for a given distribution.
  29.  *
  30.  * @author Eibe Frank (eibe@cs.waikato.ac.nz)
  31.  * @version $Revision: 1.5 $
  32.  */
  33. public final class InfoGainSplitCrit extends EntropyBasedSplitCrit{
  35.   /**
  36.    * This method is a straightforward implementation of the information
  37.    * gain criterion for the given distribution.
  38.    */
  39.   public final double splitCritValue(Distribution bags) {
  41.     double numerator;
  42.         
  43.     numerator = oldEnt(bags)-newEnt(bags);
  45.     // Splits with no gain are useless.
  46.     if (Utils.eq(numerator,0))
  47.       return Double.MAX_VALUE;
  48.         
  49.     // We take the reciprocal value because we want to minimize the
  50.     // splitting criterion's value.
  51.     return bags.total()/numerator;
  52.   }
  54.   /**
  55.    * This method computes the information gain in the same way 
  56.    * C4.5 does.
  57.    *
  58.    * @param distribution the distribution
  59.    * @param totalNoInst weight of ALL instances (including the
  60.    * ones with missing values).
  61.    */
  62.   public final double splitCritValue(Distribution bags,double totalNoInst) {
  63.     
  64.     double numerator;
  65.     double noUnknown;
  66.     double unknownRate;
  67.     int i;
  68.     
  69.     noUnknown = totalNoInst-bags.total();
  70.     unknownRate = noUnknown/totalNoInst;
  71.     numerator = (oldEnt(bags)-newEnt(bags));
  72.     numerator = (1-unknownRate)*numerator;
  73.     
  74.     // Splits with no gain are useless.
  75.     if (Utils.eq(numerator,0))
  76.       return 0;
  77.     
  78.     return numerator/bags.total();
  79.   }
  81.   /**
  82.    * This method computes the information gain in the same way 
  83.    * C4.5 does.
  84.    *
  85.    * @param distribution the distribution
  86.    * @param totalNoInst weight of ALL instances 
  87.    * @param oldEnt entropy with respect to "no-split"-model.
  88.    */
  89.   public final double splitCritValue(Distribution bags,double totalNoInst,
  90.                                      double oldEnt) {
  91.     
  92.     double numerator;
  93.     double noUnknown;
  94.     double unknownRate;
  95.     int i;
  96.     
  97.     noUnknown = totalNoInst-bags.total();
  98.     unknownRate = noUnknown/totalNoInst;
  99.     numerator = (oldEnt-newEnt(bags));
  100.     numerator = (1-unknownRate)*numerator;
  101.     
  102.     // Splits with no gain are useless.
  103.     if (Utils.eq(numerator,0))
  104.       return 0;
  105.     
  106.     return numerator/bags.total();
  107.   }
  108. }