Scalable Gaussian Process for Extreme classification

Akash Dhaka, Michael Andersen, Pablo Moreno, Aki Vehtari

Tutkimustuotos: Artikkeli kirjassa/konferenssijulkaisussaConference contributionScientificvertaisarvioitu

46 Lataukset (Pure)

Abstrakti

We address the limitations of Gaussian processes for multiclass classification in the setting where both the number of classes and the number of observations is very large. We propose a scalable approximate inference framework by combining the inducing points method with variational approximations of the likelihood that have been recently proposed in the literature. This leads to a tractable lower bound on the marginal likelihood that decomposes into a sum over both data points and class labels, and hence, is amenable to doubly stochastic optimization. To overcome memory issues when dealing with large datasets, we resort to amortized inference, which coupled with subsampling over classes reduces the computational and the memory footprint without a significant loss in performance. We demonstrate empirically that the proposed algorithm leads to superior performance in terms of test accuracy, and improved detection of tail labels.
AlkuperäiskieliEnglanti
OtsikkoProceedings of the 2020 IEEE 30th International Workshop on Machine Learning for Signal Processing, MLSP 2020
KustantajaIEEE
Sivut1-6
Sivumäärä6
ISBN (elektroninen)978-1-7281-6662-9
DOI - pysyväislinkit
TilaJulkaistu - 1 lokakuuta 2020
OKM-julkaisutyyppiA4 Artikkeli konferenssijulkaisuussa
TapahtumaIEEE International Workshop on Machine Learning for Signal Processing - Espoo, Suomi
Kesto: 21 syyskuuta 202024 syyskuuta 2020
Konferenssinumero: 30
https://ieeemlsp.cc

Julkaisusarja

NimiMachine Learning for Signal Processing
KustantajaIEEE
ISSN (painettu)2161-0363
ISSN (elektroninen)2161-0371

Workshop

WorkshopIEEE International Workshop on Machine Learning for Signal Processing
LyhennettäMLSP
MaaSuomi
KaupunkiEspoo
Ajanjakso21/09/202024/09/2020
www-osoite

Sormenjälki Sukella tutkimusaiheisiin 'Scalable Gaussian Process for Extreme classification'. Ne muodostavat yhdessä ainutlaatuisen sormenjäljen.

Siteeraa tätä