homework.rar资源-CSDN文库

共1个文件

pdf：1个

需积分: 31 31 浏览量 2019-08-26 18:52:39 上传评论 3 收藏 22.94MB RAR 举报

深度学习作为当前人工智能领域最热门的子领域之一，已经渗透到了图像识别、语音处理、自然语言理解等多个前沿科技领域。吴老师在网易云课堂上提供的深度学习课程及其配套的课后作业，无疑为广大学子提供了一个深入了解和实践深度学习技术的良好平台。从描述中我们可以得知，"homework.rar"压缩包内包含的作业分为三部分，第一部分是深度学习的基础介绍，不涉及编程任务。这对于刚刚接触深度学习的初学者来说是一个良好的开始，它可以帮助学生在没有编程压力的情况下，先对深度学习的基本概念、历史发展、关键技术和潜在应用有一个宏观的了解和认识。随着课程的深入，后两部分作业则涉及到了编程实践，这通常包括但不限于神经网络的构建、参数的设定和优化、网络结构的选择与调优，以及对模型性能的评估。对于学习深度学习的学生而言，动手实践是理解理论知识、掌握实际应用能力的关键。通过编程训练模型，学生能够直观地看到不同算法和参数选择对结果的影响，从而加深对深度学习工作原理的理解。深度学习的作业通常要求学生具备一定的数学基础，例如线性代数、概率论和数理统计等，以及扎实的编程能力，能够熟练使用Python、TensorFlow或PyTorch等框架。这些作业不仅仅停留在理论的探讨，更多的是要求学生能够在实际问题中运用所学的理论知识，解决现实世界中的具体问题。从压缩包中的"homework.pdf"文件中，我们可以预期到作业将包括理论题、编程题以及案例分析等多种形式。在理论题中，学生需要通过数学推导、概念解释等方式展现对深度学习基本原理的理解。编程题则要求学生针对具体问题，编写代码实现相应的深度学习算法，并对模型进行训练和评估。案例分析往往要求学生分析和总结现实世界中的一个深度学习应用，这有助于学生理解深度学习技术在实践中的应用方式。在进行深度学习的学习和实践过程中，学生需要不断回顾和参考最新的学术论文和技术文档，"homework.pdf"文件可能还会提供相关的参考文献，帮助学生进一步深入研究。深度学习的领域在不断发展和进步，新的算法、新的应用模型和技术层出不穷，因此，持续学习和实践是掌握深度学习不可或缺的部分。 "homework.rar"文件中的课后作业对于学生掌握深度学习的核心概念和技术具有重要的意义。通过这些作业，学生不仅能够学习到深度学习的理论知识，更能够通过实际的编程实践，增强自己在深度学习领域的实际操作能力。随着人工智能的不断发展，掌握深度学习的能力已经成为计算机科学及相关领域的必备技能之一，这些作业无疑为学生未来的职业生涯打下了坚实的基础。

资源推荐

资源详情

资源评论

收起资源包目录

homework.rar （1个子文件）

homework.pdf 23.45MB

deeplearning.ai

Deep Learning Specialization (5 courses)

Instructor: Andrew Ng

Scribe: Wan Zhen

Date: January 22, 2018

Programming Assignments

COURSE 1 Neural Networks and Deep Learning

COURSE 2 Improving Deep Neural Networks

COURSE 3 Structuring Machine Learning Projects

COURSE 4 Convolutional Neural Networks

COURSE 5 Sequence Models

Hyperparameter

tuning

Using an appropriate

scale to pick

hyperparameters

deeplearning.ai

Programming Assignments of

Deep Learning Specialization (5 courses)

Andrew Ng, Deep Learning Specialization

Contents

1 Neural Networks and Deep Learning 1

1.1 Python Basics with numpy (optional) . . . . . . . . . . . . . . . . . . . . 1

1.1.1 About iPython Notebooks . . . . . . . . . . . . . . . . . . . . . . . 1

1.1.2 Building basic functions with numpy . . . . . . . . . . . . . . . . . 2

1.1.2.1 sigmoid function, np.exp() . . . . . . . . . . . . . . . . . 2

1.1.2.2 Sigmoid gradient . . . . . . . . . . . . . . . . . . . . . . . 4

1.1.2.3 Reshaping arrays . . . . . . . . . . . . . . . . . . . . . . . 5

1.1.2.4 Normalizing rows . . . . . . . . . . . . . . . . . . . . . . 6

1.1.2.5 Broadcasting and the softmax function . . . . . . . . . . 7

1.1.3 Vectorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

1.1.3.1 Implement the L1 and L2 loss functions . . . . . . . . . . 12

1.2 Logistic Regression with a Neural Network mindset . . . . . . . . . . . . . 14

1.2.1 Packages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

1.2.2 Overview of the Problem set . . . . . . . . . . . . . . . . . . . . . 15

1.2.3 General Architecture of the learning algorithm . . . . . . . . . . . 18

1.2.4 Building the parts of our algorithm . . . . . . . . . . . . . . . . . . 19

1.2.4.1 Helper functions . . . . . . . . . . . . . . . . . . . . . . . 19

1.2.4.2 Initializing parameters . . . . . . . . . . . . . . . . . . . . 19

1.2.4.3 Forward and Backward propagation . . . . . . . . . . . . 20

1.2.4.4 Optimization . . . . . . . . . . . . . . . . . . . . . . . . . 21

1.2.5 Merge all functions into a model . . . . . . . . . . . . . . . . . . . 25

1.2.6 Further analysis (optional/ungraded exercise) . . . . . . . . . . . . 28

1.2.7 Test with your own image (optional/ungraded exercise) . . . . . . 30

1.2.8 Code of Logistic Regression with a Neural Network . . . . . . . . . 31

1.3 Planar data classication with a hidden layer . . . . . . . . . . . . . . . . 37

1.3.1 Packages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

1.3.2 Dataset . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

1.3.3 Simple Logistic Regression . . . . . . . . . . . . . . . . . . . . . . . 39

1.3.4 Neural Network model . . . . . . . . . . . . . . . . . . . . . . . . . 40

1.3.4.1 Dening the neural network structure . . . . . . . . . . . 41

1.3.4.2 Initialize the model’s parameters . . . . . . . . . . . . . . 42

1.3.4.3 The Loop . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

1.3.4.4 Integrate parts 1.3.4.1, 1.3.4.2 and 1.3.4.3 in nn_model() 48

1.3.4.5 Tuning hidden layer size (optional/ungraded exercise) . . 51

1.3.5 Code of Neural Network With a Hidden Layer . . . . . . . . . . . 54

1.4 Building your Deep Neural Network: Step by Step . . . . . . . . . . . . . 61

1.4.1 Packages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61

1.4.2 Outline of the Assignment . . . . . . . . . . . . . . . . . . . . . . . 62

1.4.3 Initialization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63

1.4.3.1 2-layer Neural Network . . . . . . . . . . . . . . . . . . . 63

1.4.3.2 L-layer Neural Network . . . . . . . . . . . . . . . . . . . 64

1.4.4 Forward propagation module . . . . . . . . . . . . . . . . . . . . . 66

1.4.4.1 Linear Forward . . . . . . . . . . . . . . . . . . . . . . . . 66

1.4.4.2 Linear-Activation Forward . . . . . . . . . . . . . . . . . 67

1.4.4.3 L-Layer Model . . . . . . . . . . . . . . . . . . . . . . . . 68

1.4.5 Cost function . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70

1.4.6 Backward propagation module . . . . . . . . . . . . . . . . . . . . 71

1.4.6.1 Linear backward . . . . . . . . . . . . . . . . . . . . . . . 71

1.4.6.2 Linear-Activation backward . . . . . . . . . . . . . . . . . 73

1.4.6.3 L-Model Backward . . . . . . . . . . . . . . . . . . . . . . 74

1.4.6.4 Update Parameters . . . . . . . . . . . . . . . . . . . . . 76

1.4.6.5 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . 77

1.4.7 Code of Deep Neural Network . . . . . . . . . . . . . . . . . . . . . 78

1.5 Deep Neural Network for Image Classication: Application . . . . . . . . 86

1.5.1 Packages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86

1.5.2 Dataset . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

1.5.3 Architecture of your model . . . . . . . . . . . . . . . . . . . . . . 88

1.5.3.1 2-layer neural network . . . . . . . . . . . . . . . . . . . . 88

1.5.3.2 L-layer deep neural network . . . . . . . . . . . . . . . . 89

1.5.3.3 General methodology . . . . . . . . . . . . . . . . . . . . 90

1.5.4 Two-layer neural network . . . . . . . . . . . . . . . . . . . . . . . 90

1.5.5 L-layer Neural Network . . . . . . . . . . . . . . . . . . . . . . . . 94

1.5.6 Results Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97

1.5.7 Test with your own image (optional/ungraded exercise) . . . . . . 97

1.5.8 Code of Deep Neural Network for Image Classication: Application 99

2 Improving Deep Neural Networks: Hyperparameter tuning, Regular-

ization and Optimization 104

2.1 Practical aspects of Deep Learning . . . . . . . . . . . . . . . . . . . . . . 104

2.1.1 Initialization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104

2.1.1.1 Packages . . . . . . . . . . . . . . . . . . . . . . . . . . . 105

2.1.1.2 Neural Network model . . . . . . . . . . . . . . . . . . . . 105

2.1.1.3 Zero initialization . . . . . . . . . . . . . . . . . . . . . . 107

2.1.1.4 Random initialization . . . . . . . . . . . . . . . . . . . . 111

2.1.1.5 He initialization . . . . . . . . . . . . . . . . . . . . . . . 114

2.1.1.6 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . 117

2.1.1.7 Code of initialization . . . . . . . . . . . . . . . . . . . . 118

2.1.2 Regularization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123

2.1.2.1 Non-regularized model . . . . . . . . . . . . . . . . . . . . 124

2.1.2.2 L2 Regularization . . . . . . . . . . . . . . . . . . . . . . 128

2.1.2.3 Dropout . . . . . . . . . . . . . . . . . . . . . . . . . . . 133

2.1.2.4 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . 139

2.1.3 Gradient Checking . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

2.1.3.1 How does gradient checking work? . . . . . . . . . . . . . 140

2.1.3.2 1-dimensional gradient checking . . . . . . . . . . . . . . 141

2.1.3.3 N-dimensional gradient checking . . . . . . . . . . . . . . 144

2.2 Optimization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151

2.2.1 Packages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151

2.2.2 Gradient Descent . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152

2.2.3 Mini-Batch Gradient descent . . . . . . . . . . . . . . . . . . . . . 155

2.2.4 Momentum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158

2.2.5 Adam . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161

2.2.6 Model with dierent optimization algorithms . . . . . . . . . . . . 165

2.2.6.1 Mini-batch Gradient descent . . . . . . . . . . . . . . . . 168

2.2.6.2 Mini-batch gradient descent with momentum . . . . . . . 169

2.2.6.3 Mini-batch with Adam mode . . . . . . . . . . . . . . . . 170

2.2.6.4 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . 172

2.3 Tensorow . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173

2.3.1 Exploring the Tensorow Library . . . . . . . . . . . . . . . . . . . 173

2.3.1.1 Linear function . . . . . . . . . . . . . . . . . . . . . . . . 175

2.3.1.2 Computing the sigmoid . . . . . . . . . . . . . . . . . . . 176

2.3.1.3 Computing the Cost . . . . . . . . . . . . . . . . . . . . . 178

2.3.1.4 Using One Hot encodings . . . . . . . . . . . . . . . . . . 179

2.3.1.5 Initialize with zeros and ones . . . . . . . . . . . . . . . . 180

2.3.2 Building your rst neural network in tensorow . . . . . . . . . . . 181

2.3.2.1 Problem statement: SIGNS Dataset . . . . . . . . . . . . 182

2.3.2.2 Create placeholders . . . . . . . . . . . . . . . . . . . . . 184

2.3.2.3 Initializing the parameters . . . . . . . . . . . . . . . . . 185

2.3.2.4 Forward propagation in tensorow . . . . . . . . . . . . . 186

2.3.2.5 Compute cost . . . . . . . . . . . . . . . . . . . . . . . . 187

2.3.2.6 Backward propagation & parameter updates . . . . . . . 189

2.3.2.7 Building the model . . . . . . . . . . . . . . . . . . . . . 189

2.3.2.8 Test with your own image (optional / ungraded exercise) 193

2.3.2.9 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . 194

3 Convolutional Neural Networks 195

3.1 Convolutional Neural Networks: Step by Step . . . . . . . . . . . . . . . . 195

3.1.1 Packages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195

3.1.2 Outline of the Assignment . . . . . . . . . . . . . . . . . . . . . . . 196

3.1.3 Convolutional Neural Networks . . . . . . . . . . . . . . . . . . . . 196

3.1.3.1 Zero-Padding . . . . . . . . . . . . . . . . . . . . . . . . . 197

3.1.3.2 Single step of convolution . . . . . . . . . . . . . . . . . . 199

3.1.3.3 Convolutional Neural Networks - Forward pass . . . . . . 201

3.1.4 Pooling layer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204

3.1.4.1 Forward Pooling . . . . . . . . . . . . . . . . . . . . . . . 205

3.1.5 Backpropagation in convolutional neural networks (OPTIONAL /

UNGRADED) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206

3.1.5.1 Convolutional layer backward pass . . . . . . . . . . . . . 207

3.1.5.2 Pooling layer - backward pass . . . . . . . . . . . . . . . 210

3.2 Convolutional Neural Networks: Application . . . . . . . . . . . . . . . . 215

3.2.1 TensorFlow model . . . . . . . . . . . . . . . . . . . . . . . . . . . 215

3.2.2 Create placeholders . . . . . . . . . . . . . . . . . . . . . . . . . . 217

3.2.3 Initialize parameters . . . . . . . . . . . . . . . . . . . . . . . . . . 218

3.2.4 Forward propagation . . . . . . . . . . . . . . . . . . . . . . . . . . 219

3.2.5 Compute cost . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221

3.2.6 Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221

3.3 Keras Tutorial - The Happy House (not graded) . . . . . . . . . . . . . . 226

3.3.1 The Happy House . . . . . . . . . . . . . . . . . . . . . . . . . . . 226

3.3.2 Building a model in Keras . . . . . . . . . . . . . . . . . . . . . . . 228

3.3.3 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233

3.3.4 Test with your own image (Optional) . . . . . . . . . . . . . . . . 234

3.3.5 Other useful functions in Keras (Optional) . . . . . . . . . . . . . 235

3.4 Residual Networks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237

3.4.1 The problem of very deep neural networks . . . . . . . . . . . . . . 237

3.4.2 Building a Residual Network . . . . . . . . . . . . . . . . . . . . . 238

3.4.2.1 The identity block . . . . . . . . . . . . . . . . . . . . . . 239

3.4.2.2 The convolutional block . . . . . . . . . . . . . . . . . . . 242

3.4.3 Building your rst ResNet model (50 layers) . . . . . . . . . . . . . 245

3.4.4 Test on your own image (Optional/Ungraded) . . . . . . . . . . . . 250

3.5 Car detection with YOLOv2 . . . . . . . . . . . . . . . . . . . . . . . . . . 253

3.5.1 Problem Statement . . . . . . . . . . . . . . . . . . . . . . . . . . . 254

3.5.2 YOLO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255

3.5.2.1 Model details . . . . . . . . . . . . . . . . . . . . . . . . . 255

3.5.2.2 Filtering with a threshold on class scores . . . . . . . . . 258

3.5.2.3 Non-max suppression . . . . . . . . . . . . . . . . . . . . 260

3.5.2.4 Wrapping up the ltering . . . . . . . . . . . . . . . . . . 263

3.5.3 Test YOLO pretrained model on images . . . . . . . . . . . . . . . 265

3.5.3.1 Dening classes, anchors and image shape . . . . . . . . . 265

3.5.3.2 Loading a pretrained model . . . . . . . . . . . . . . . . . 265

3.5.3.3 Convert output of the model to usable bounding box tensors266

3.5.3.4 Filtering boxes . . . . . . . . . . . . . . . . . . . . . . . . 266

3.5.3.5 Run the graph on an image . . . . . . . . . . . . . . . . . 267

3.6 Face Recognition for the Happy House . . . . . . . . . . . . . . . . . . . . 271

3.6.1 Naive Face Verication . . . . . . . . . . . . . . . . . . . . . . . . . 272

3.6.2 Encoding face images into a 128-dimensional vector . . . . . . . . 273

3.6.2.1 Using an ConvNet to compute encodings . . . . . . . . . 273

3.6.2.2 The Triplet Loss . . . . . . . . . . . . . . . . . . . . . . . 274

3.6.3 Loading the trained model . . . . . . . . . . . . . . . . . . . . . . . 276

3.6.4 Applying the model . . . . . . . . . . . . . . . . . . . . . . . . . . 277

3.6.4.1 Face Verication . . . . . . . . . . . . . . . . . . . . . . . 277

3.6.4.2 Face Recognition . . . . . . . . . . . . . . . . . . . . . . . 280

3.7 Art generation with Neural Style Transfer . . . . . . . . . . . . . . . . . . 283

3.7.1 Problem Statement . . . . . . . . . . . . . . . . . . . . . . . . . . . 283

3.7.2 Transfer Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . 284

3.7.3 Neural Style Transfer . . . . . . . . . . . . . . . . . . . . . . . . . 284

3.7.3.1 Computing the content cost . . . . . . . . . . . . . . . . . 284

3.7.3.2 Computing the style cost . . . . . . . . . . . . . . . . . . 287

3.7.3.3 Dening the total cost to optimize . . . . . . . . . . . . . 292

3.7.4 Solving the optimization problem . . . . . . . . . . . . . . . . . . . 292

3.7.5 Test with your own image (Optional/Ungraded) . . . . . . . . . . 298

3.7.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299

评论收藏

内容反馈

布莱克1997

粉丝: 45
资源: 2

homework.rar

Homework.rar

IOITrain2005.Homework.rar

[麻省理工学院-算法导论].Introduction.to.Algorithms.-.Homework.rar

C:\Users\Wells\Desktop\[斯坦福大牛Jure Leskovec新课] CS224W：图机器学习 PPT.rar

Stanford-CS224-Homework:这是我对斯坦福CS224课程家庭作业的解决方案

机器学习homework1

day04homework.rar

latex-homework.rar

os-homework.rar_visual c

ClassHomework.rar

EM_homework.rar_EM_electromagnetics_电磁学_电磁学_matlab_计算电磁

wavelet-homework.rar_wavelet_小波 课程_小波作业_小波分析作业

bianyi-homework.rar_visual c_编译原理

C_Sharp_homework.rar_CSHARP 应用程序_c_sharp_c管理作业_仓库C_仓库管理

homework.rar_5G antenna_5g仿真_HFSS 天线_antenna_mimo 5G

c-starting-learn--homework.rar_learn c

Homework.rar_DETECTOR GLRT_GLRT_GLRT matlab_PD Detector_glrt D

cPP-homework.rar_visual c

MATLAB homework.rar

data-structure-homework.rar_华南理工

tree-hash-table-homework.rar_Table

deep-learning-coursera-homework.rar

Advanced-Front-End-Techniques-Homework.rar_Advanced Front

HOMEWORK.rar_labview信噪比_labview信源_信噪比_信源_谐波失真

YOLOv8-deepsort 实现智能车辆目标检测+车辆跟踪+车辆计数

YOLOv8网络结构图，自制visio文件，yolov8.vsds，需要的自取，在原有的基础上直接改就行了

Transformer模型实现长期预测并可视化结果（附代码+数据集+原理介绍）

yolov8(2023年8月版本),已经下好yolov8s.pt和yolov8n.pt

最新资源

wavelet-homework.rar_wavelet_小波课程_小波作业_小波分析作业