State Space Expectation Propagation: Efficient Inference Schemes for Temporal Gaussian Processes

William Wilkinson, Paul Chang, Michael Riis Andersen, Arno Solin

Tutkimustuotos: Artikkeli kirjassa/konferenssijulkaisussaConference contributionScientificvertaisarvioitu

15 Lataukset (Pure)

Abstrakti

We formulate approximate Bayesian inference in non-conjugate temporal and spatio-temporal Gaussian process models as a simple parameter update rule applied during Kalman smoothing. This viewpoint encompasses most inference schemes, including expectation propagation (EP), the classical (Extended, Unscented, etc.) Kalman smoothers, and variational inference. We provide a unifying perspective on these algorithms, showing how replacing the power EP moment matching step with linearisation recovers the classical smoothers. EP provides some benefits over the traditional methods via introduction of the so-called cavity distribution, and we combine these benefits with the computational efficiency of linearisation, providing extensive empirical analysis demonstrating the efficacy of various algorithms under this unifying framework. We provide a fast implementation of all methods in JAX.
AlkuperäiskieliEnglanti
OtsikkoProceedings of the 37th International Conference on Machine Learning
Sivut10270-10281
TilaJulkaistu - 13 heinäkuuta 2020
OKM-julkaisutyyppiA4 Artikkeli konferenssijulkaisuussa
TapahtumaInternational Conference on Machine Learning - Vienna, Itävalta
Kesto: 12 heinäkuuta 202018 heinäkuuta 2020
Konferenssinumero: 37

Julkaisusarja

NimiProceedings of Machine Learning Research
KustantajaPMLR
Vuosikerta119
ISSN (elektroninen)2640-3498

Conference

ConferenceInternational Conference on Machine Learning
LyhennettäICML
Maa/AlueItävalta
KaupunkiVienna
Ajanjakso12/07/202018/07/2020

Sormenjälki

Sukella tutkimusaiheisiin 'State Space Expectation Propagation: Efficient Inference Schemes for Temporal Gaussian Processes'. Ne muodostavat yhdessä ainutlaatuisen sormenjäljen.

Siteeraa tätä