DiveintoDeepLearning
Release0.16.1
AstonZhang,ZacharyC.Lipton,MuLi,andAlexanderJ.Smola
Jan 19, 2021
Contents
Preface 1
Installation 9
Notation 13
1 Introduction 17
1.1 A Motivating Example. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .18
1.2 Key Components. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .20
1.3 Kinds of Machine Learning Problems. . . . . . . . . . . . . . . . . . . . . . . . .22
1.4 Roots. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .34
1.5 The Road to Deep Learning. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36
1.6 Success Stories. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .38
1.7 Characteristics. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .40
2 Preliminaries 43
2.1 Data Manipulation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .43
2.1.1 Getting Started. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .44
2.1.2 Operations. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .46
2.1.3 Broadcasting Mechanism. . . . . . . . . . . . . . . . . . . . . . . . . . .48
2.1.4 Indexing and Slicing. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .48
2.1.5 Saving Memory. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .49
2.1.6 Conversion to Other Python Objects. . . . . . . . . . . . . . . . . . . . .50
2.2 Data Preprocessing. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .51
2.2.1 Reading the Dataset. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .51
2.2.2 Handling Missing Data. . . . . . . . . . . . . . . . . . . . . . . . . . . .52
2.2.3 Conversion to the Tensor Format. . . . . . . . . . . . . . . . . . . . . . .53
2.3 Linear Algebra. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .53
2.3.1 Scalars. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .54
2.3.2 Vectors. . . .
Dive into Deep Learning_Aston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smola.pdf