Aapo Hyv
¨
arinen
Jarmo Hurri
Patrik O. Hoyer
Natural Image Statistics
A probabilistic approach to early
computational vision
February 27, 2009
Springer
Contents overview
1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
Part I Background
2 Linear filters and frequency analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3 Outline of the visual system . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
4 Multivariate probability and statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
Part II Statistics of linear features
5 Principal components and whitening . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
6 Sparse coding and simple cells . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
7 Independent component analysis. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
8 Information-theoretic interpretations. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185
Part III Nonlinear features & dependency of linear features
9 Energy correlation of linear features & normalization . . . . . . . . . . . . . . 209
10 Energy detectors and complex cells. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
11 Energy correlations and topographic organization . . . . . . . . . . . . . . . . . 249
12 Dependencies of energy detectors: Beyond V1 . . . . . . . . . . . . . . . . . . . . . 273
13 Overcomplete and non-negative models. . . . . . . . . . . . . . . . . . . . . . . . . . . 289
14 Lateral interactions and feedback . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 307
Part IV Time, colour and stereo
15 Colour and stereo images . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321
16 Temporal sequences of natural images . . . . . . . . . . . . . . . . . . . . . . . . . . . . 337
Part V Conclusion
17 Conclusion and future prospects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379
Part VI Appendix: Supplementary mathematical tools
18 Optimization theory and algorithms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393
19 Crash course on linear algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415
20 The discrete Fourier transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 423
21 Estimation of non-normalized statistical models . . . . . . . . . . . . . . . . . . . 437
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 445
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 453
v
Contents
1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1 What this book is all about . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 What is vision? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.3 The magic of your visual system . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.4 Importance of prior information . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.4.1 Ecological adaptation provides prior information . . . . . . . . . . 6
1.4.2 Generative models and latent quantities . . . . . . . . . . . . . . . . . . 8
1.4.3 Projection onto the retina loses information . . . . . . . . . . . . . . 9
1.4.4 Bayesian inference and priors . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.5 Natural images . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.5.1 The image space . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.5.2 Definition of natural images . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.6 Redundancy and information . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.6.1 Information theory and image coding . . . . . . . . . . . . . . . . . . . 13
1.6.2 Redundancy reduction and neural coding . . . . . . . . . . . . . . . . 15
1.7 Statistical modelling of the visual system . . . . . . . . . . . . . . . . . . . . . . . 16
1.7.1 Connecting information theory and Bayesian inference. . . . . 16
1.7.2 Normative vs. descriptive modelling of visual system . . . . . . 16
1.7.3 Towards predictive theoretical neuroscience . . . . . . . . . . . . . . 17
1.8 Features and statistical models of natural images . . . . . . . . . . . . . . . . 18
1.8.1 Image representations and features. . . . . . . . . . . . . . . . . . . . . . 18
1.8.2 Statistics of features . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.8.3 From features to statistical models . . . . . . . . . . . . . . . . . . . . . . 19
1.9 The statistical-ecological approach recapitulated. . . . . . . . . . . . . . . . . 21
1.10 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
Part I Background
2 Linear filters and frequency analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.1 Linear filtering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.1.1 Definition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
vii
- 1
- 2
前往页