Evarist Giné-Masdeu, and Richard Nickl (2021). Mathematical Foundations of Infinite-Dimensional Statistical Models. Cambridge University Press. 2nd ed.

の前文を訳した．修士から読む本を迷っていたが，これで決めようと思う．

表紙裏

非径数的で高次元な統計模型では，古典的な最尤推定量とBayes事後分布による推定との最適性を含意するGauss-Fisher-Le Cam理論が成り立たない．ここ数十年で無限次元の径数空間を持つ統計模型について，あらたな基礎とアイデアが発見されてきた．

本書はこれを扱う．まず，Gauss過程と経験過程から，補間理論とwavelet理論，そして関数空間の初歩を扱う．その後，非径数的模型での統計的推論の理論，例えば仮説検定や推定，信頼区間の理論は，決定理論のミニマックスパラダイムの中で提示される．これは畳み込み核と射影推定，そしてBayesian nonparametrics, nonparametric maximum likelihood estimationとを含む．

最後の章では，非径数的模型での適応的推定の理論が展開され，Lepski法やwavelet thresholdingと自己相似的関数の適応的推定が触れられる．

In nonparametric and high-dimensional statistical models, the classical Gauss-Fisher-Le Cam theory of the optimality of maximum likelihood estimators and Bayesian posterior inference does not apply, and new foundations and ideas have been developed in the past several decades. This book gives a coherent account of the statistical theory in infinite-dimensional parameter spaces. The mathematical foundations include self-contained ‘mini-courses’ on the theory of Gaussian and empirical processes, on approximation and wavelet theory, and on the basic theory of function spaces. The theory of statistical inference in such models – hypothesis testing, estimation and confidence sets – is then presented within the minimax paradigm of decision theory. This includes the basic theory of convolution kernel and projection estimation, but also Bayesian nonparametrics and nonparametric maximum likelihood estimation. In a final chapter the theory of adaptive inference in nonparametric models is developed, including Lepski’s method, wavelet thresholding, and adaptive inference for self-similar functions.

前文

古典理論は

1. 径数的
2. 独立同分布仮定
3. 一次の漸近論
4. 離散時間
5. 低次元

で特徴付けられ， Carl Friedrich Gauss, Pierre-Simon Laplace, Ronald Fisher, Lucien Le Cam らの本質的な貢献の上に建設された．

現代科学に統計的な推定，特に「頻度論的で，大標本」な場面での統計的推論を行うための枠組みを提供した．この理論の外観は Asymptotic Statistics (van der Vaart) で得られる．

直近の30年で，無限次元の，あるいは極めて大きなパラメータ空間を持った統計モデルの理論が発展した．これらの模型での統計的推論の主なターゲットは，関数 であって，これ以上細かく分割出来ない．したがって非径数的な模型だと言われる，もちろん 自体はパラメータの１つに間違いないのであるが．現代の計算技術を鑑みると，このような模型も扱うことが可能で，むしろ統計学の応用の文脈の上では好まれる種のものである．さらに，1980年代のロシアの学派から始まり，非径数的模型の数学的理論が出現し，その後すぐに国際的に研究された．

この本は，まず確率論の基礎を扱う．それはGauss過程と経験過程の理論であって，特にこれらは「非漸近的に測度の集中に迫る手法」として大事なのである．特に，積測度に対する集中不等式に関するTalagrandとLedouxの理論が大事である．さらに，無限次元模型の理解には，関数解析と近似理論に関する確固たる理解が必要である．特に，wavelet理論とBesov空間論である．

これらを基礎として，統計理論に入る．まず非径数的模型を，非形式的に，古典的な径数模型と比較する．非径数的模型とは，観測から推定すべきパラメータの数が，観測の数 に比例して増えていくような模型だと考えることができる．このパラメータは，理想的にはデータドリブンに，統計学者によって注意深く選ばれる必要がある．応用上，非径数的なモデリングは，「いままでの，未知パラメータの数に比べて は十分に大きいという仮定は強すぎた」という現実の直視の下に採択される手法である．数学的に見れば，非径数的模型での統計的推論を正当化する頻度論的な理論は，抜本的な変容を遂げようとしているということである．有限次元なパラメータ空間を捨てるとは，尤度関数が自動的に最適な統計手法を提供してくれる世界を手放すということでもあり，従って推定の過程の全てにおいて莫大な注意を要するということに他ならない．とりわけ，Fisher情報量に根拠を持つGauss-Fisher-Le Camの効率性理論は非径数的模型に対しては最適性について何ら有用な情報を与えてくれず，これについて全く新しい枠組みが必要とされる．そこで我々がこれから学ぶことは，minimax paradigmが１つの評価基準になり，これについて非径数模型の最適性理論が展開出来ることである．minimaxの枠組みからは，適応の問題が生じる．適応問題の解決は非径数統計の大きな業績の一つで，本書の中では特に関数推定の枠組みの中で提示される．最後に，尤度を用いた統計手法は，非径数的模型においても重要であり，特にいくつかの正則化の段階を経た後に，Bayes手法を採用するか，形状制約を課すかによって，採用され得る．

• shape-constraint とは Piet Groeneboom と Jon A. Wellner の研究分野じゃないか！
• そしてBayesian nonparametricsは Aad van der Vaart の研究分野である．

本書では統計的な問題として，主に関数推定の問題を扱う．例えば密度推定やホワイトノイズ模型内での信号の推定である．他の多くの非径数的模型は，形式的には違えど，多くの似た特徴を持つからである．我々の目的は，統一的な数学理論を，非径数的模型に対して提示するということにあり，これは具体例を関数推定の問題に限るという犠牲の上にはじめて成り立つ．

数学的な背景は実解析，関数解析，測度論と確率論を要求する．G. Folland, Real Analysis (Wiley, 1999), and R. Dudley, Real Analysis and Probability (Cambridge University Press, 2002) を読めばよいだろう．