C/C++教程

神经网络与深度学习(邱锡鹏)编程练习 3 Logistic回归、softmax回归、支持向量机(SVM)

本文主要是介绍神经网络与深度学习(邱锡鹏)编程练习 3 Logistic回归、softmax回归、支持向量机(SVM),对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

Logistic回归以及softmax回归

问题描述

  1. 完成 logistic_regression-exercise.ipnb中的填空
  • 填空一:实现sigmoid的交叉熵损失函数(不使用tf内置的loss 函数)
  1. 完成 softmax_regression-exercise.ipnb中的填空
  • 填空一:在__init__构造函数中建立模型所需的参数
  • 填空二:实现softmax的交叉熵损失函数(不使用tf内置的loss 函数)

支持向量机(SVM)

问题描述:

本次作业分为三个部分:

  1. 使用基于某种核函数(线性,多项式或高斯核函数)的SVM 解决非线性可分的二分类问题,数
    据集为train_kernel.txt 及test_kernel.txt。

  2. 分别使用线性分类器(squared error)、logistic 回归(cross entropy error)以及SVM(hinge error) 解
    决线性二分类问题,并比较三种模型的效果。数据集为train_linear.txt 及test_linear.txt。
    三种误差函数定义如下(Bishop P327):

image

image

image


其中image,image 为类别标签。

  1. 使用多分类SVM 解决三分类问题。数据集为train_multi.txt 及test_multi.txt。(5%)

数据集:

MNIST数据集包括60000张训练图片和10000张测试图片。图片样本的数量已经足够训练一个很复杂的模型(例如 CNN的深层神经网络)。它经常被用来作为一个新 的模式识别模型的测试用例。而且它也是一个方便学生和研究者们执行用例的数据集。除此之外,MNIST数据集是一个相对较小的数据集,可以在你的笔记本CPUs上面直接执行

题目要求:

这篇关于神经网络与深度学习(邱锡鹏)编程练习 3 Logistic回归、softmax回归、支持向量机(SVM)的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!