实验一
内容:
使用 numpy 实现深度学习任务中的一些基本操作,包括以下函数:
sigmoid function
sigmoid gradient function
softmax function
cross entropy loss function
目标:
熟悉 numpy 的一些基本函数
理解 sigmoid, softmax, cross entropy loss 等函数
代码要求:
按代码模板实现函数功能
文档要求:
代码运行结果截图(main 函数里的内容不要修改)
sigmoid 函数的公式及图像
sigmoid 函数梯度求解公式及图像
softmax 函数公式
cross entropy loss function 公式
它们在神经网络中有什么用处?
实验二
内容:
假设 X 有 n 个样本,属于 m=3 个类别,
表示样本属于第 m 类的概率,请实现
的三次前向传播及反向传播(更新参数
和
),
每次反向传播结束后更新并输出参数
和
的值,计算 cross entropy loss,其中
表示 sigmoid 函数。
目标:
理解前向传播和反向传播
应用实验一中提到的基本操作
代码要求:
按代码模板实现函数功能
文档要求:
前向传播及反向传播涉及到的公式计算(参考)
粘贴代码输出结果截图。