CONTENTS iii
2.6 Learn Linear Least Squares . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.7 One More Reason . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.8 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
3 Examples of Linear Algebra in Machine Learning 11
3.1 Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
3.2 Dataset and Data Files . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
3.3 Images and Photographs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
3.4 One Hot Encoding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
3.5 Linear Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
3.6 Regularization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
3.7 Principal Component Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
3.8 Singular-Value Decomposition . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
3.9 Latent Semantic Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
3.10 Recommender Systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
3.11 Deep Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
3.12 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
III NumPy 16
4 Introduction to NumPy Arrays 17
4.1 Tutorial Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
4.2 NumPy N-dimensional Array . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
4.3 Functions to Create Arrays . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
4.4 Combining Arrays . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
4.5 Extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
4.6 Further Reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
4.7 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
5 Index, Slice and Reshape NumPy Arrays 23
5.1 Tutorial Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
5.2 From List to Arrays . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
5.3 Array Indexing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
5.4 Array Slicing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
5.5 Array Reshaping . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
5.6 Extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
5.7 Further Reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
5.8 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
6 NumPy Array Broadcasting 35
6.1 Tutorial Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
6.2 Limitation with Array Arithmetic . . . . . . . . . . . . . . . . . . . . . . . . . . 35
6.3 Array Broadcasting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
6.4 Broadcasting in NumPy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
6.5 Limitations of Broadcasting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
6.6 Extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
