# 支持向量机(SVM)
## 问题描述:
本次作业分为三个部分:
1. 使用基于某种核函数(线性,多项式或高斯核函数)的SVM 解决非线性可分的二分类问题,数
据集为train_kernel.txt 及test_kernel.txt。
2. 分别使用线性分类器(squared error)、logistic 回归(cross entropy error)以及SVM(hinge error) 解
决线性二分类问题,并比较三种模型的效果。数据集为train_linear.txt 及test_linear.txt。
三种误差函数定义如下(Bishop P327):
![image](http://latex.codecogs.com/gif.latex?E_%7Blinear%7D%3D%5Csum_%7Bn%3D1%7D%5E%7BN%7D%28y_%7Bn%7D%20-t_%7Bn%7D%29%5E%7B2%7D+%5Clambda%20%5Cleft%20%5C%7C%20%5Cmathbf%7Bw%7D%20%5Cright%20%5C%7C%5E%7B2%7D)
![image](http://latex.codecogs.com/gif.latex?E_%7Blogistic%7D%3D%5Csum_%7Bn%3D1%7D%5E%7BN%7Dlog%281+exp%28-y_%7Bn%7Dt_%7Bn%7D%29%29%20+%20%5Clambda%5Cleft%20%5C%7C%20%5Cmathbf%7Bw%7D%20%5Cright%20%5C%7C%5E%7B2%7D)
![image](http://latex.codecogs.com/gif.latex?E_%7BSVM%7D%3D%5Csum_%7Bn%3D1%7D%5E%7BN%7D%5B1-y_%7Bn%7Dt_%7Bn%7D%5D+%5Clambda%20%5Cleft%20%5C%7C%20%5Cmathbf%7Bw%7D%20%5Cright%20%5C%7C%5E%7B2%7D)
其中![image](http://latex.codecogs.com/gif.latex?y_%7Bn%7D%3D%5Cmathbf%7Bw%7D%5E%7BT%7Dx_%7Bn%7D+b),![image](http://latex.codecogs.com/gif.latex?t_%7Bn%7D) 为类别标签。
3. 使用多分类SVM 解决三分类问题。数据集为train_multi.txt 及test_multi.txt。(5%)
## 数据集:
MNIST数据集包括60000张训练图片和10000张测试图片。图片样本的数量已经足够训练一个很复杂的模型(例如 CNN的深层神经网络)。它经常被用来作为一个新 的模式识别模型的测试用例。而且它也是一个方便学生和研究者们执行用例的数据集。除此之外,MNIST数据集是一个相对较小的数据集,可以在你的笔记本CPUs上面直接执行
## 题目要求:
- [ ] 请使用代码模板rbm.py,补全缺失部分,尽量不改动主体部分。
- [ ] 推荐使用python 及numpy 编写主要逻辑代码,适度使用框架。
没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
1. 热身练习 warmup numpy是Python中对于矩阵处理很实用的工具包,本小节作业主要是熟悉基本的numpy操作。 2. 线性回归模型 Linear Regression 3. 线性模型 支持向量机 support vector machine Softmax回归 Softmax Regression 4. 前馈神经网络 Simple Neural Network 利用numpy实现全连接神经网络 5. 卷积神经网络 Convolutional Neural Network (CNN) 利用卷积神经网络,处理MNIST 数据集分类问题。 6. 循环神经网络 Recurrent Neural Network (RNN) 基于循环神经网络的唐诗生成问题 7. 注意力机制 Attention Mechanism 使用sequence to sequence 模型将一个字符串序列逆置。 使用attentive sequence to sequence 模型将一个字符串序列逆置。 11. 高斯混合模型 Gaussian Mixture
资源推荐
资源详情
资源评论
收起资源包目录
deeplearning-master.zip (60个子文件)
deeplearning-master
chap14_reinforcement_learning
__init__.py 13KB
reversi_main.py 2KB
RL_QG_agent.py 954B
reversi
__init__.py 48B
reversi.py 13KB
__pycache__
__init__.cpython-35.pyc 219B
reversi.cpython-35.pyc 9KB
README.md 1KB
期末作业说明.pdf 300KB
chap3_SVM
svm.py 2KB
data
test_linear.txt 3KB
test_kernel.txt 3KB
train_linear.txt 3KB
test_multi.txt 4KB
train_kernel.txt 3KB
train_multi.txt 4KB
README.md 2KB
chap12_RBM
rbm.py 884B
README.md 1KB
chap2_linear_regression
exercise-linear_regression.ipynb 6KB
linear_regression-tf2.0.ipynb 25KB
test.txt 3KB
README.md 1KB
train.txt 5KB
chap3_softmax_regression
logistic_regression-exercise.ipynb 125KB
softmax_regression-exercise.ipynb 52KB
README.md 424B
chap5_CNN
corgi.jpg 95KB
CNN_tensorflow.ipynb 4KB
tutorial_cifar10_conv-keras.ipynb 1.68MB
tutorial_random_filter.ipynb 305KB
CNN_pytorch.ipynb 5KB
tutorial_mnist_conv-basic.ipynb 6KB
tutorial_mnist_conv-keras-sequential.ipynb 5KB
README.md 915B
tutorial_mnist_conv-keras.ipynb 5KB
chap6_RNN
题目要求 857B
Learn2Carry-exercise.ipynb 12KB
tangshi.txt 47KB
tangshi_for_pytorch
tangshi.txt 47KB
main.py 8KB
poems.txt 9.71MB
rnn.py 3KB
poems.txt 9.71MB
poem_generation_with_RNN-exercise.ipynb 12KB
README.md 716B
chap4_ simple neural network
tutorial_minst_fnn-tf2.0-exercise.ipynb 7KB
tf2.0-tutorial.pdf 2.59MB
tutorial_minst_fnn-numpy-exercise.ipynb 17KB
tf2.0-exercise.ipynb 4KB
README.md 2KB
chap7-seq2seq-and-attention
sequence_reversal_with_attention-exercise.ipynb 11KB
sequence_reversal-exercise.ipynb 10KB
seq2seq.png 15KB
seq2seq-attn.jpg 46KB
chap1_warmup
numpy_ tutorial.ipynb 10KB
README.md 140B
.gitignore 27B
README.md 1KB
chap11_gaussian_mixture
README.md 343B
共 60 条
- 1
资源评论
程序员柳
- 粉丝: 6052
- 资源: 1137
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功