精品--最近在学习机器学习，深度学习，自然语言处理，统计学习方法等知识，所以决定自己将学习的相关算法用Pytho.zip

# MachineLearning-DeepLearning-NLP-LeetCode-StatisticalLearningMethod 最近在学习机器学习，深度学习，自然语言处理，统计学习方法等知识，所以决定自己将学习的相关算法用Python实现一遍，并结合GitHub上相关大牛的代码进行改进，本项目会不断的更新相关算法，欢迎star，fork和关注。 主要包括： 1.吴恩达Andrew Ng老师的机器学习课程个人笔记 Python实现， 2.deeplearning.ai（吴恩达老师的深度学习课程笔记及资源） Python实现， 3.李航《统计学习方法》 Python代码实现， 4.牛津大学xDeepMind 自然语言处理 Python代码实现， 5.LeetCode刷题，题析，分析心得笔记 Java和Python代码实现， 6.TensorFlow人工智能实践代码笔记 北京大学曹健老师课程和TensorFlow：实战Google深度学习框架（第二版） Python代码实现， 附带一些个人心得和笔记。GitHub上有很多机器学习课程的代码资源，我也准备自己实现一下，后续会更新笔记，代码和百度云网盘链接。 这个项目主要是学习算法的，并且会不断更新相关资源和代码，欢迎关注，star，fork！ Min's blog 欢迎访问我的博客主页！ (Welcome to my blog website !)https://liweimin1996.github.io/ # 1.机器学习（更新中） 吴恩达老师的机器学习课程个人笔记 Python代码实现 https://study.163.com/course/introduction/1004570029.htm - ex1-linear regression 作业1 线性回归 有一个变量和多个变量。 - ex2-logistic regression 作业2 logistic回归 包括正则化。 - ex3-neural network 作业3 神经网络 使用两种不同的方法识别手写数字：one-vs-all逻辑回归，以及前向传播预训练的神经网络。 - ex4-NN back propagation 作业4 神经网络反向传播 构建和训练神经网络，包括反向传播，并将其用于手写数字识别。 - ex5-bias vs variance 作业5 贝叶斯和方差 包括学习曲线和多项式回归。 - ex6-SVM 作业6 支持向量机 6.1：在一些样本2D数据集上展示scikit-learn SVM，其中包含线性和高斯核函数。 6.2：使用自然语言处理和scikit-learn SVM构建电子邮件垃圾邮件分类器。 - ex7-kmeans and PCA 作业7 kmeans算法和主成分分析 7.1：构建k-means聚类算法并将其用于图像压缩。 7.2：构建PCA算法并将其用于图像压缩和可视化。 - ex8-anomaly detection and recommendation 作业8 异常检测和推荐 8.1：使用多元高斯模型进行异常检测。 Precision, recall, F1 score. 8.2：构建推荐系统并用它来推荐电影。 # 2.深度学习（更新中） deeplearning.ai（吴恩达老师的深度学习课程笔记及资源） Python代码实现 https://mooc.study.163.com/smartSpec/detail/1001319001.htm ## 1.Neural Networks and Deep Learning 神经网络与深度学习 Week1　Introduction to deep learning 深度学习概论 Week2　Neural Networks Basics 神经网络基础 Week3　Shallow Neural networks 浅层神经网络 Week4　Deep Neural Networks 深层神经网络 ## 2.Improving Deep Neural Networks 改善深层神经网络：超参数调试、正则化以及优化 Week1　Practical aspects of Deep Learning(Initialization-Regularization-Gradient Checking) 深层学习的实用 Week2　Optimization algorithms 优化算法 Week3　Hyperparameter tuning, Batch Normalization and Programming Frameworks 超参数调试&正则化&框架 ## 3.Convolutional Neural Network 卷积神经网络 Week1　Foundations of Convolutional Neural Networks 卷积神经网络 Week2　Deep convolutional models: case studies 深层卷积神经网络实例探究 Week3　Object detection 目标检测 Week4　Special applications: Face recognition & Neural style transfer 特殊的应用 ## 4.Sequence Models 序列模型 Week1　Recurrent Neural Networks 循环序列模型 Week2　Natural Language Processing & Word Embeddings 自然语言处理与词嵌入 Week3　Sequence models & Attention mechanism 序列模型和注意力机制 # 3.统计学习方法（更新中） 《统计学习方法》的代码实现李航老师 Python代码实现 http://vdisk.weibo.com/s/vfFpMc1YgPOr - 第 1 章 统计学习方法概论 - 第 2 章 感知机 [感知机代码-原始形式] [感知机代码-对偶形式] - 第 3 章 k近邻算法 [k近邻代码] [kd树简化版代码] [kd树完整版代码] [错误kd树代码] - 第 4 章 朴素贝叶斯法 - 第 5 章 决策树 - 第 6 章 逻辑斯谛回归与最大熵模型 - 第 7 章 支持向量机 - 第 8 章 提升方法 [AdaBoost代码] - 第 9 章 EM算法及其推广 - 第 10 章 隐马尔科夫模型 - 第 11 章 条件随机场 - 第 12 章 统计学习方法总结 # 4.自然语言处理（更新中） 我最近在上这门课程，所以也顺便学习一下。 牛津大学xDeepMind 自然语言处理 https://study.163.com/course/introduction/1004336028.htm # 5.LeetCode刷题，题析，分析心得笔记 （更新中） https://github.com/soulmachine/leetcode 这位作者写的十分好，我也会部分参考TA的思路和答案 # 6.TensorFlow人工智能实践代码笔记（更新中） 北京大学曹健老师课程和TensorFlow：实战Google深度学习框架（第二版） Python代码实现 - 第一讲概述 - 第二讲python的常用语法 - 第三讲神经网络的搭建八股 - 第四讲神经网络的优化 - 第五讲实践前向传播和反向传播 - 第六讲手写数字图片输出识别 - 第七讲卷积神经网络 - 第八讲卷积神经网络实践 # 普通程序员如何正确学习人工智能方向的知识？ ## 第一步：复习线性代数。 懒得看书就直接用了著名的麻省理工公开课：线性代数，深入浅出效果拔群，以后会用到的SVD、希尔伯特空间等都有介绍； http://open.163.com/special/opencourse/daishu.html ## 入门机器学习算法。 还是因为比较懒，也就直接用了著名的斯坦福大学公开课 ：机器学习课程，吴恩达教授的老版cs229的视频，讲的非常细（算法的目标->数学推演->伪代码）。这套教程唯一的缺点在于没有介绍最近大火的神经网络，但其实这也算是优点，让我明白了算法都有各自的应用领域，并不是所有问题都需要用神经网络来解决； http://open.163.com/special/opencourse/machinelearning.html 多说一点，这个课程里详细介绍的内容有：一般线性模型、高斯系列模型、SVM理论及实现、聚类算法以及EM算法的各种相关应用、PCA/ICA、学习理论、马尔可夫系列模型。课堂笔记在：CS 229: Machine Learning (Course handouts)，同样非常详细。 http://cs229.stanford.edu/materials.html ## 第三步：尝试用代码实现算法。 继续直接使用了著名的——机器学习 | Coursera ，还是吴恩达教授的课程，只不过这个是极简版的cs229，几乎就是教怎么在matlab里快速实现一个模型（这套教程里有神经网络基本概念及实现）。这套课程的缺点是难度比较低，推导过程非常简略，但是这也是它的优点——让我专注于把理论转化成代码。 https://www.coursera.org/learn/machine-learning/home/welcome ## 第四步：自己实现功能完整的模型——进行中。 还是因为比较懒，搜到了cs231n的课程视频 CS231n Winter 2016 - YouTube ，李飞飞教授的课，主讲还有Andrej Karpathy和Justin Johnson，主要介绍卷积神经网络在图像识别/机器视觉领域的应用（前面神经网络的代码没写够？这门课包你嗨到爆~到处都是从零手写~）。这门课程的作业就更贴心了，直接用Jupyter Notebook布置的，可以本地运行并自己检查错误。主要使用Python以及Python系列的科学计算库（Scipy/Nump