mev-4.0.01/source/org/tigr/microarray/mev/cluster/gui/impl/dialogs/dialogHelpUtil/dialogHelpPages/svm2_parameters.html

Code
Comments
Other
Rev Date Author Line
2 26 Feb 07 jari 1 <html>
2 26 Feb 07 jari 2     <body bgcolor = "#FFFFCC"><basefont face = "Arial">
2 26 Feb 07 jari 3   <h1>SVM: Support Vector Machines</h1> 
2 26 Feb 07 jari 4         <h1>Training Initialization Dialog</h1>
2 26 Feb 07 jari 5         <h2> Parameter Information</h2>
2 26 Feb 07 jari 6             <hr size = 10>
2 26 Feb 07 jari 7
2 26 Feb 07 jari 8 <h2>Classification Input</h2>
2 26 Feb 07 jari 9 The SVM training process requires the supplied expression data and
2 26 Feb 07 jari 10 an additional initial presumptive classification which indicates
2 26 Feb 07 jari 11 which elements are initially presumed to have a relationship.
2 26 Feb 07 jari 12 Two options are provided for selecting members of the initial classification.
2 26 Feb 07 jari 13 <h3>Use SVM Classification Editor</h3>
2 26 Feb 07 jari 14 This option causes an editor application to be launched in order to
2 26 Feb 07 jari 15 allow a flexible tool for finding and marking elements to be positive members
2 26 Feb 07 jari 16 of the initial classification. This classification can be save as an
2 26 Feb 07 jari 17 SVC file for later recovery of these initial settings.
2 26 Feb 07 jari 18
2 26 Feb 07 jari 19 <h3>Use Classification File</h3>
2 26 Feb 07 jari 20 This allow the loading of an initial classification from an
2 26 Feb 07 jari 21 existing SVC file.
2 26 Feb 07 jari 22
2 26 Feb 07 jari 23 <h2>Kernel Matrix Construction</h2>
2 26 Feb 07 jari 24 One can select to construct a polynomial or a radial kernal matrix.
2 26 Feb 07 jari 25 <br>
2 26 Feb 07 jari 26 <h2>Polynomial Kernel Function Parameters</h2>
2 26 Feb 07 jari 27 The polynomial option is the default and three parameters are used to define
2 26 Feb 07 jari 28 the kernel construction.
2 26 Feb 07 jari 29
2 26 Feb 07 jari 30 <h3>Constant</h3>
2 26 Feb 07 jari 31 An additive constant. (c)
2 26 Feb 07 jari 32
2 26 Feb 07 jari 33 <h3>Coefficient</h3> 
2 26 Feb 07 jari 34 A multiplicative constant. (w)
2 26 Feb 07 jari 35
2 26 Feb 07 jari 36 <h3>Power</h3>
2 26 Feb 07 jari 37 A power factor. (p)
2 26 Feb 07 jari 38 <br>
2 26 Feb 07 jari 39 <h3>Polynomial Kernel Function</h3>
2 26 Feb 07 jari 40 K(i,j) = [w*(Dist(i,j)+c)]<sup>p</sup>
2 26 Feb 07 jari 41 <br><br>
2 26 Feb 07 jari 42
2 26 Feb 07 jari 43 <h2>Radial Basis Function Parameters</h2>
2 26 Feb 07 jari 44 The Radial Basis checkbox is used to select to use this type of Kernal generating function.
2 26 Feb 07 jari 45 <h3>Width Factor</h3>
2 26 Feb 07 jari 46 Radial width factor (w, see in below formula).
2 26 Feb 07 jari 47 <br>
2 26 Feb 07 jari 48 <h3>Radial Basis Kernel Function</h3>
2 26 Feb 07 jari 49 K(x,y) = e<sup>( - (||x - y||<sup><font size = 2>^2</font></sup>)/(2w<sup><font size = 2>^2</font></sup>))</sup>
2 26 Feb 07 jari 50 <br>
2 26 Feb 07 jari 51
2 26 Feb 07 jari 52 <h2>Training Parameters</h2>
2 26 Feb 07 jari 53 <h3>Diagonal Factor</h3>
2 26 Feb 07 jari 54 Constant added to the main diagonal of the kernel matrix.
2 26 Feb 07 jari 55 Adding this factor to the main diagonal of the kernel is required to force
2 26 Feb 07 jari 56 the matrix to be 'positive definite'. The definition of a positive definite
2 26 Feb 07 jari 57 matrix is best reviewed in books devoted to linear algebra but this
2 26 Feb 07 jari 58 state is achieved by selecting a constant of sufficient magnitude.
2 26 Feb 07 jari 59 <br><br>
2 26 Feb 07 jari 60 This positive definite state of the kernel matrix is required for the SVM algorithm to
2 26 Feb 07 jari 61 yeild meaningful results.  Testing values starting at 1.0 and increasing
2 26 Feb 07 jari 62 may be required to find an appropriate value.  If the value is too low all
2 26 Feb 07 jari 63 elements will be partitioned in the negative class.  For a range of values
2 26 Feb 07 jari 64 for this factor a stable set of elements may be classified as positive.
2 26 Feb 07 jari 65 At very high values there is a tendancy to force all positive expamples
2 26 Feb 07 jari 66 to be in the positive class regardless of their similarity of expression.
2 26 Feb 07 jari 67
2 26 Feb 07 jari 68 <h3>Threshold</h3>
2 26 Feb 07 jari 69 This value is used as a stopping criteria for the weight optimization phase of training.
2 26 Feb 07 jari 70 Optimizing the weights produced during training is an iterative process which converges
2 26 Feb 07 jari 71 on an optimal set of weights to separate the positive and negative examples.
2 26 Feb 07 jari 72 This threshold dictates how stable the weights must be before the optimization process
2 26 Feb 07 jari 73 is terminated.  Selection of a threshold that is very low could cause the 
2 26 Feb 07 jari 74 optimization process to take an extremely long time and yet yeild similar results to those where
2 26 Feb 07 jari 75 a higher threshold value was used which terminated the process earlier.
2 26 Feb 07 jari 76
2 26 Feb 07 jari 77
2 26 Feb 07 jari 78 <h3>Constraints</h3>
2 26 Feb 07 jari 79 This check box selects to apply limits to weights produced during training.
2 26 Feb 07 jari 80
2 26 Feb 07 jari 81
2 26 Feb 07 jari 82 <h3>Positive Constraint</h3>
2 26 Feb 07 jari 83 The upper limit to produced weights.
2 26 Feb 07 jari 84 <h3>Negative Constraint</h3>
2 26 Feb 07 jari 85 The lower limit to produced weights.
2 26 Feb 07 jari 86
2 26 Feb 07 jari 87         </basefont>
2 26 Feb 07 jari 88     </body>
2 26 Feb 07 jari 89 </html>
2 26 Feb 07 jari 90
2 26 Feb 07 jari 91