Category

Development Platform
Home > SourceCode/Document > Windows Develop > View Code
EntropyBasedSplitCrit.java
Package: Weka-3-2.rar　[view]
Upload User: rhdiban
Upload Date: 2013-08-09
Package Size: 15085k
Code Size: 2k
Category:

Windows Develop

Development Platform:

Java

EntropyBasedSplitCrit.java：Code Content
  1. /*
  2.  *    This program is free software; you can redistribute it and/or modify
  3.  *    it under the terms of the GNU General Public License as published by
  4.  *    the Free Software Foundation; either version 2 of the License, or
  5.  *    (at your option) any later version.
  6.  *
  7.  *    This program is distributed in the hope that it will be useful,
  8.  *    but WITHOUT ANY WARRANTY; without even the implied warranty of
  9.  *    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  10.  *    GNU General Public License for more details.
  11.  *
  12.  *    You should have received a copy of the GNU General Public License
  13.  *    along with this program; if not, write to the Free Software
  14.  *    Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  15.  */
  17. /*
  18.  *    EntropyBasedSplitCrit.java
  19.  *    Copyright (C) 1999 Eibe Frank
  20.  *
  21.  */
  23. package weka.classifiers.trees.j48;
  25. /**
  26.  * "Abstract" class for computing splitting criteria
  27.  * based on the entropy of a class distribution.
  28.  *
  29.  * @author Eibe Frank (eibe@cs.waikato.ac.nz)
  30.  * @version $Revision: 1.5 $
  31.  */
  32. public abstract class EntropyBasedSplitCrit extends SplitCriterion{
  34.   /** The log of 2. */
  35.   protected static double log2 = Math.log(2);
  37.   /**
  38.    * Help method for computing entropy.
  39.    */
  40.   public final double logFunc(double num) {
  42.     // Constant hard coded for efficiency reasons
  43.     if (num < 1e-6)
  44.       return 0;
  45.     else
  46.       return num*Math.log(num)/log2;
  47.   }
  49.   /**
  50.    * Computes entropy of distribution before splitting.
  51.    */
  52.   public final double oldEnt(Distribution bags) {
  54.     double returnValue = 0;
  55.     int j;
  57.     for (j=0;j<bags.numClasses();j++)
  58.       returnValue = returnValue+logFunc(bags.perClass(j));
  59.     return logFunc(bags.total())-returnValue; 
  60.   }
  62.   /**
  63.    * Computes entropy of distribution after splitting.
  64.    */
  65.   public final double newEnt(Distribution bags) {
  66.     
  67.     double returnValue = 0;
  68.     int i,j;
  70.     for (i=0;i<bags.numBags();i++){
  71.       for (j=0;j<bags.numClasses();j++)
  72. returnValue = returnValue+logFunc(bags.perClassPerBag(i,j));
  73.       returnValue = returnValue-logFunc(bags.perBag(i));
  74.     }
  75.     return -returnValue;
  76.   }
  78.   /**
  79.    * Computes entropy after splitting without considering the
  80.    * class values.
  81.    */
  82.   public final double splitEnt(Distribution bags) {
  84.     double returnValue = 0;
  85.     int i;
  87.     for (i=0;i<bags.numBags();i++)
  88.       returnValue = returnValue+logFunc(bags.perBag(i));
  89.     return logFunc(bags.total())-returnValue;
  90.   }
  91. }