4 目录
2.2.1 Setup | 安装 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
2.2.2 Build a Softmax Regression Model || 构建 Softmax 回归模型 . . . . . . . 52
2.2.3 Train the Model | 训练模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
2.2.4 Build a Multilayer Convolutional Network | 构建多层卷积网络模型 . . . 55
2.3 TensorFlow Mechanics 101 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
2.3.1 教程使用的文件 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
2.3.2 准备数据 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
2.3.3 构建图表(Build the Graph) . . . . . . . . . . . . . . . . . . . . . . . . . 61
2.3.4 训练模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
2.3.5 评估模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
2.4 卷积神经网络 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
2.4.1 Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
2.4.2 Code Organization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
2.4.3 CIFAR-10 模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
2.4.4 开始执行并训练模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
2.4.5 评估模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
2.4.6 在多个 GPU 板卡上训练模型 . . . . . . . . . . . . . . . . . . . . . . . . . 76
2.4.7 下一步 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
2.5 Vector Representations of Words . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
2.5.1 亮点 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
2.5.2 动机: 为什么需要学习 Word Embeddings? . . . . . . . . . . . . . . . . . . 78
2.5.3 处理噪声对比训练 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
2.5.4 Skip-gram 模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
2.5.5 建立图形 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
2.5.6 训练模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
2.5.7 嵌套学习结果可视化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
2.5.8 嵌套学习的评估: 类比推理 . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
2.5.9 优化实现 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
2.5.10 总结 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
2.6 循环神经网络 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2.6.1 介绍 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2.6.2 语言模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2.6.3 教程文件 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2.6.4 下载及准备数据 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2.6.5 模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2.6.6 编译并运行代码 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
2.6.7 除此之外? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
2.7 Sequence-to-Sequence Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89