网站地图制作怎么做?,个人网页制作成品代码五个页面,上海牛巨微网络科技有限公司,自己怎么做网站空间经历手写SVM的惨烈教训(还是太年轻)之后#xff0c;我决定使用工具箱/第三方库PythonLibSVM是开源的SVM实现#xff0c;支持C#xff0c; C#xff0c; Java#xff0c;Python #xff0c; R 和 Matlab 等, 这里选择使用Python版本。安装LibSVM将LibSVM仓库的所有内容放入…经历手写SVM的惨烈教训(还是太年轻)之后我决定使用工具箱/第三方库PythonLibSVM是开源的SVM实现支持C C JavaPython R 和 Matlab 等, 这里选择使用Python版本。安装LibSVM将LibSVM仓库的所有内容放入Python的包目录\Lib\site-packages或者工程目录中。在libsvm根目录和python子目录下中分别新建名为__init__.py的空文件这两个空文件将标识所在的目录为python包可以直接导入。允许草民吐槽一下各种Blog里切换根目录的奇怪的解决方案这个和这个因为经常使用svm所以草民将libsvm包放入\Lib\site-packages目录下。在Python交互环境或在任意脚本中都可以使用import libsvm.python来使用libsvm的python接口。使用LibSVMLibSVM的使用非常简单只需调用有限的接口示例1from libsvm.python.svmutil import *from libsvm.python.svm import *y, x [1,-1], [{1:1, 2:1}, {1:-1,2:-1}]prob svm_problem(y, x)param svm_parameter(-t 0 -c 4 -b 1)model svm_train(prob, param)yt [1]xt [{1:1, 2:1}]p_label, p_acc, p_val svm_predict(yt, xt, model)print(p_label)输出结果optimization finished, #iter 1nu 0.062500obj -0.250000, rho 0.000000nSV 2, nBSV 0Total nSV 2test:Model supports probability estimates, but disabled in predicton.Accuracy 100% (1/1) (classification)[1.0]在SVM数据中下载train1.txt和test1.txt。LibSVM可以在文件中读取训练数据这样便于大规模数据的使用。示例from libsvm.python.svmutil import *from libsvm.python.svm import *y, x svm_read_problem(train1.txt)yt, xt svm_read_problem(test1.txt)model svm_train(y, x )print(test:)p_label, p_acc, p_val svm_predict(yt[200:202], xt[200:202], model)print(p_label)可以看到输出optimization finished, #iter 5371nu 0.606150obj -1061.528918, rho -0.495266nSV 3053, nBSV 722Total nSV 3053test:Accuracy 40.809% (907/2225) (classification)LibSVM接口训练数据格式libsvm的训练数据格式如下 :: ...示例1 1:2.927699e01 2:1.072510e02 3:1.149632e-01 4:1.077885e02主要类型svm_problem保存定义SVM模型的训练数据svm_parameter存储训练SVM模型所需的各种参数svm_model完成训练的SVM模型svm_node模型中一个特征的值只包含一个整数索引和一个浮点值属性。主要接口-svm_problem(y, x)由训练数据y,x创建svm_problem对象svm_train()svm_train有3个重载model svm_train(y, x [, training_options])model svm_train(prob [, training_options])model svm_train(prob, param)用于训练svm_model模型svm_parameter(cmd)创建svm_parameter对象参数为字符串。示例param svm_parameter(-t 0 -c 4 -b 1)svm_predict()调用语法p_labs, p_acc, p_vals svm_predict(y, x, model [,predicting_options])参数y 测试数据的标签x 测试数据的输入向量model为训练好的SVM模型。返回值p_labs是存储预测标签的列表。p_acc存储了预测的精确度均值和回归的平方相关系数。p_vals在指定参数-b 1时将返回判定系数(判定的可靠程度)。这个函数不仅是测试用的接口也是应用状态下进行分类的接口。比较奇葩的是需要输入测试标签y才能进行预测因为y不影响预测结果可以用0向量代替。svm_read_problem读取LibSVM格式的训练数据y, x svm_read_problem(data.txt)svm_save_model将训练好的svm_model存储到文件中svm_save_model(model_file, model)model_file的内容svm_type c_svckernel_type linearnr_class 2total_sv 2rho 0label 1 -1probA 0.693147probB 2.3919e-16nr_sv 1 1SV0.25 1:1 2:1-0.25 1:-1 2:-1svm_load_model读取存储在文件中的svm_model:model svm_load_model(model_file)调整SVM参数LibSVM在训练和预测过程中需要一系列参数来调整控制。svm_train的参数-s SVM的类型(svm_type)0 -- C-SVC(默认)使用惩罚因子(Cost)的处理噪声的多分类器1 -- nu-SVC(多分类器)按照错误样本比例处理噪声的多分类器2 -- one-class SVM一类支持向量机可参见SVDD的相关内容3 -- epsilon-SVR(回归)epsilon支持向量回归4 -- nu-SVR(回归)-t 核函数类型(kernel_type)0 -- linear(线性核):u*v1 -- polynomial(多项式核):(gamma*u*v coef0)^degree2 -- radial basis function(RBF,径向基核/高斯核):exp(-gamma*|u-v|^2)3 -- sigmoid(S型核):tanh(gamma*u*v coef0)4 -- precomputed kernel(预计算核)核矩阵存储在training_set_file中下面是调整SVM或核函数中参数的选项-d 调整核函数的degree参数默认为3-g 调整核函数的gamma参数默认为1/num_features-r 调整核函数的coef0参数默认为0-c 调整C-SVC, epsilon-SVR 和 nu-SVR中的Cost参数默认为1-n 调整nu-SVC, one-class SVM 和 nu-SVR中的错误率nu参数默认为0.5-p 调整epsilon-SVR的loss function中的epsilon参数默认0.1-m 调整内缓冲区大小,以MB为单位默认100-e 调整终止判据默认0.001-wi调整C-SVC中第i个特征的Cost参数调整算法功能的选项-b 是否估算正确概率,取值0 - 1默认为0-h 是否使用收缩启发式算法(shrinking heuristics),取值0 - 1默认为0-v 交叉校验-q 静默模式MatlabLibSVM的Matlab接口用法类似Matlab丰富的标准工具箱提供了各种方便。Statistic Tools工具箱提供了svmtrain和svmclassify函数进行SVM分类。traindata [0 1; -1 0; 2 2; 3 3; -2 -1;-4.5 -4; 2 -1; -1 -3];group [1 1 -1 -1 1 1 -1 -1];testdata [5 2;3 1;-4 -3];svm_struct svmtrain(traindata,group);Group svmclassify(svm_struct,testdata);svmtrain接受traindata和group两个参数traindata以一行表示一个样本group是与traindata中样本对应的分类结果用1和-1表示。svmtrain返回一个存储了训练好的svm所需的参数的结构体svm_struct。svmclassify接受svm_struct和以一行表示一个样本的testdata并以1和-1列向量的形式返回分类结果。
